izmertechИзмерительная техникаIzmeritel`naya Tekhnika0368-10252949-5237ФГУП "ВНИИФТРИ"10.32446/0368-1025it.2022-2-3-7izmertech-1536Research ArticleОБЩИЕ ВОПРОСЫ МЕТРОЛОГИИ И ИЗМЕРИТЕЛЬНОЙ ТЕХНИКИGENERAL PROBLEMS OF METROLOGY AND MEASUREMENT TECHNIQUESНетрадиционная методика выбора коэффициентов размытости ядерных функций в непараметрической регрессииAn unconventional method for selecting the blur coefcients of kernel functions in nonparametric regressionhttps://orcid.org/0000-0002-0664-3870ЛапкоА. В.LapkoA. V.

Александр Васильевич Лапко

Красноярск

Aleksandr V. Lapko 

Krasnoyarsk

lapko@icm.krasn.ruhttps://orcid.org/0000-0001-6938-9323ЛапкоВ. А.LapkoA. V.

Василий Александрович Лапко

Красноярск

 Vasiliy A. Lapko

 Krasnoyarsk

valapko@yandex.ruИнститут вычислительного моделирования Сибирского отделения РАН; Сибирский государственный университет науки и технологий имени академика М. Ф. РешетнёваРоссияInstitute of Computational Modelling, Siberian Branch of the Russian Academy of Sciences; Reshetnev Siberian State University of Science and TechnologyRussian Federation2022200420230237Copyright © ФГУП "ВНИИФТРИ", 20232023ФГУП "ВНИИФТРИ"ФГУП "ВНИИФТРИ"https://www.izmt.ru/jour/about/submissions#copyrightNoticehttps://www.izmt.ru/jour/article/view/1536

Традиционная методика выбора коэффициентов размытости ядерных функций в непараметрической регрессии основана на минимизации средней квадратической ошибки аппроксимации искомой зависимости по исходным стаистическим данным. С увеличением объёма обучающей выборки значений переменных восстанавливаемой зависимости вычислительные затраты при оптимизации непараметрической регрессии значительно увеличиваются. Предложена нетрадиционная методика выбора коэффициентов размытости непараметрической регрессии, оптимальных для ядерных плотностей вероятностей переменных восстанавливаемой зависимости. В качестве критерия оптимальности при выборе коэффициентов размытости ядерных плотностей вероятностей использованы статистические оценки средних квадратических отклонений совместной плотности вероятности переменных восстанавливаемой зависимости. Предложенная методика позволила избежать вычислений ошибки аппроксимации восстанавливаемой зависимости непараметрической регрессией, что подтверждено результатами вычислительных экспериментов. Полученные результаты позволяют использовать методику быстрой оптимизации ядерных оценок плотностей вероятностей при синтезе непараметрической регрессии. 

The traditional method for selecting the blur coefficients of kernel functions in nonparametric regression is based on minimizing the root mean square error in the approximation of the desired dependence from the initial statistical data. With an increase in the volume of the training sample of the values of the variables of the restored dependence, the computational costs of optimizing nonparametric regression increase signifi cantly. An unconventional method for selecting the nonparametric regression blurriness coeffi cients optimal for the kernel probability densities of the variables of the recovered dependence is proposed. Statistical estimates of the mean square deviations of the joint probability density of the variables of the restored dependence were used as an optimality criterion for selecting the blur coefficients of kernel probability densities. The proposed technique made it possible to avoid calculating the approximation error of the restored dependence by nonparametric regression, which is confi rmed by the results of computational experiments. The results obtained make it possible to use the method of fast optimization of kernel estimates of probability densities in the synthesis of nonparametric regression.

непараметрическая регрессияядерные оценки плотности вероятностикоэффициенты размытости ядерных функцийбыстрые алгортимы оптимизацииnonparametric regressionkernel probability density estimatesblur coefficients of kernel functionsfast optimization algorithmsReferencesЗеньков И. В., Лапко А. В., Лапко В. А., Им С. Т., Тубольцев В. П., Авдеенок В. Л. Непараметрический алгоритм автоматической классификации многомерных статистических данных большого объёма и его применение // Компьютерная оптика. 2021. Т. 45. № 2. С. 253−260. https://doi.org/10.18287/2412-6179-CO-801Zenkov I. V., Lapko A. V., Lapko V. A., Im S. T., Tuboltsev V. P., Avdeenok V. L., Computer Optics, 2021, vol. 45, no 2, pp. 253– 260. (In Russ.) https://doi.org/10.18287/2412-6179-CO-801Лапко А. В., Лапко В. А. Разработка и исследование двухуровневых непараметрических систем классификации // Автометрия. 2010. Т. 46. № 1. С. 70−78.Lapko A. V., Lapko V. A., Optoelectronics, Instrumentation and Data Processing, 2010, vol. 46, no 1, pp. 56–63. https://doi.org/10.3103/S8756699010010073.Варжапетян А. Г., Михайлова Е. Ю. Методы выбора определяющих характеристик непараметрических алгоритмов идентификации моделей надёжности сложных систем по эксплуатационным данным / Вопросы кибернетики. Вып. 094. Статистические методы в теории обеспечения эксплуатации. Сборник. Под ред. С. Ф. Левина. М.: АН СССР. Научный совет по комплексной проблеме «Кибернетика». 1982. С. 77–87.Varzhapetyan A. G., Mikhailova E. Yu., Metody vybora opredelyayushchikh kharakteristik neparametricheskikh algoritmov identifi katsii modelei nadezhnosti slozhnykh sistem po ekspluatatsionnym dannym, Voprosy kibernetiki, vol. 094, Statisticheskie metody v teorii obespecheniya ekspluatatsii, ed. S. F. Levin., Moscow, AN SSSR, Nauchnyi sovet po kompleksnoi probleme Kibernetika, 1982, pp. 77–87. (In Russ.)Silverman B. W., Density estimation for statistics and data analysis, London, Chapman and Hall, 1986, 175 pSilverman B. W., Density estimation for statistics and data analysis, London, Chapman and Hall, 1986, 175 p.Sheather S., Jones M., Journal of Royal Statistical Society Series B, 1991, vol. 53, no. 3, pp. 683–690. https://doi.org/10.1111/j.2517-6161.1991.tb01857.xSheather S., Jones M., Journal of Royal Statistical Society Series B, 1991, vol. 53, no. 3, pp. 683–690. https://doi.org/10.1111/j.2517-6161.1991.tb01857.xSheather S. J., Statistical Science, 2004, vol. 19, no. 4, pp. 588–597. https://doi.org/10.1214/088342304000000297Sheather S. J., Statistical Science, 2004, vol. 19, no. 4, pp. 588–597. https://doi.org/10.1214/088342304000000297Terrell G. R., Scott D. W., Journal of the American Statistical Association, 1985, vol. 80, pp. 209–214. https://doi.org/10.2307/2288074Terrell G. R., Scott D. W., Journal of the American Statistical Association, 1985, vol. 80, pp. 209–214. https://doi.org/10.2307/2288074Jones M. C., Marron J. S., Sheather S. J., Journal of the American Statistical Association, 1996, vol. 91, pp. 401–407. https://doi.org/10.2307/2291420Jones M. C., Marron J. S., Sheather S. J., Journal of the American Statistical Association, 1996, vol. 91, pp. 401–407. https://doi.org/10.2307/2291420Scott D. W. Multivariate Density Estimation: Theory, Practice, and Visualization, New York, Wiley, 2015, 384 p.Scott D. W. Multivariate Density Estimation: Theory, Practice, and Visualization, New York, Wiley, 1992, 317 p.Лапко А. В., Лапко В. А. Модифицированный алгоритм быстрого выбора коэффициентов размытости ядерных оценок многомерных плотностей вероятностей // Измерительная техника. 2020. № 11. С. 9–13. https://doi.org/10.32446/0368-1025it.2020-11-9-13.Lapko A. V., Lapko V. A., Measurement Techniques, 2021, vol. 63, no. 11, pp. 856–861. https://doi.org/10.1007/s11018-021-01873-wЛапко А. В., Лапко В. А. Оценивание нелинейного функционала от плотности вероятности при оптимизации непараметрических решающих функций // Измерительная техника. 2021. № 1. С. 14–20. https://doi.org/10.32446/0368-1025it.2021-1-14-20Lapko A. V., Lapko V. A., Measurement Techniques, 2021, vol. 64, no. 1, pp. 13–20. https://doi.org/10.1007/s11018-021-01889-2Лапко А. В., Лапко В. А. Быстрый выбор коэффициентов размытости в многомерном непараметрическом алгоритме распознавания образов // Измерительная техника. 2019. № 8. С. 8–13. https://doi.org/10.32446/0368-1025it.2019-8-8-13Lapko A. V., Lapko V. A., Measurement Techniques, 2019, vol. 62, no. 8, pp. 665–672. https://doi.org/10.1007/s11018-019-01676-0Härdle W., Applied Nonparametric Regression, Cambridge University Press, 1990, 434 p.Härdle W., Applied Nonparametric Regression, Cambridge University Press, 1990, 434 p.Надарая Э. А. Непараметрические оценки кривой регрессии // Труды ВЦ АН СССР. 1965. Вып. 5. С. 56–68.Nadaraya E. A., Neparametricheskie otsenki krivoi regressii, Proceedings of the Computer C enter of the USSR Academy of Sciences, 1965, issue 5, pp. 56–68. (In Russ.)Rudemo M., Empirical Choice of Histograms and Kernel Density Estimators, Scandinavian Journal of Statistics, 1982, vol. 9, no. 2, pp. 65–78.Rudemo M., Empirical Choice of Histograms and Kernel Density Estimators, Scandinavian Journal of Statistics, 1982, no.9, pp. 65–78.Bowman A. W., Journal of Statistical Computation and Simulation, 1985, vol. 21, pp. 313–327. https://doi.org/10.1080/00949658508810822Bowman A. W., Journal of Statistical Computation and Simulation, 1985, vol. 21, pp. 313–327. https://doi.org/10.1080/00949658508810822Hall P., Annals of Statistics, 1983, vol. 11, no. 4, pp. 1156–1174. https://doi.org/10.1214/aos/1176346329Hall P., Annals of Statistics, 1983, vol. 11, no. 4, pp. 1156–1174. https://doi.org/10.1214/aos/1176346329Лапко А. В., Лапко В. А. Анализ методов оптимизации непараметрической оценки плотности вероятности по коэффициенту размытости ядерных функций // Измерительная техника. 2017. № 6. С. 3–8.Lapko A. V., Lapko V. A., Measurement Techniques, 2017, vol. 60, no. 6, pp. 515–522. https://doi.org/10.1007/s11018-017-1228-xГмурман В. Е. Теория вероятностей и математическая статистика. М.: Высш. шк., 1999. 479 с.Gmurman V. E., Probability theory and mathematical statistics, Moscow, Vysshaya shkola Publisher, 1999, 479 p. (In Russ.)Епанечников В. А. Непараметрическая оценка многомерной плотности вероятности // Теория вероятности и ее применения. 1969. Т. 14. № 1. С. 156–161.Epanechnikov V. A., Theory of Probability & Its Applications, 1969, vol. 14, no. 1, pp. 153–158. https://doi.org/10.1137/1114019

The authors declare that there are no conflicts of interest present.