Сравнение аппроксимационных свойств интегральной и традиционной непараметрической оценок плотности вероятности

Рассмотрены непараметрические оценки плотности вероятности случайной величины, например, используемые в алгоритмах распознавания образов и автоматической классификации при априорной неопределённости. При малых и ограниченных объёмах выборок значений случайных величин увеличивается дисперсия традиционной непараметрической оценки плотности вероятности. В этих условиях для снижения дисперсии рекомендуется использовать интегральную оценку плотности вероятности. Для оценивания областей компетентностей интегральной оценки плотности вероятности и непараметрической статистики Розенблатта-Парзена сравнены их аппроксимационные свойства. Методика синтеза интегральной оценки плотности вероятности случайной величины основана на сглаживании традиционной ядерной оценки с использованием интегрального оператора. Особенность интегральной оценки плотности вероятности состоит в неявно определённой ядерной функции, вид которой зависит от её коэффициента размытости и параметра сглаживания. При восстановлении плотности вероятности в условиях конкретных статистических данных свойства интегральной оценки плотности вероятности, в отличие от традиционной непараметрической оценки, определяются не только коэффициентом размытости ядерной функции, но и её видом. Для обоснования эффективности интегральной оценки плотности вероятности исследованы условия её асимптотической сходимости, которые сравнены с традиционной ядерной оценкой Розенблатта-Парзена. Установлено, что асимптотические значения среднего квадратического отклонения и дисперсии интегральной оценки плотности вероятности меньше аналогичных значений традиционной непараметрической оценки. Разработана процедура последовательного выбора оптимального коэффициента размытости интегральной оценки плотности вероятности и параметра сглаживания. Предложенную методику синтеза интегральной оценки плотности вероятности случайной величины можно применять в условиях многомерных случайных величин. В данных условиях интегральная оценка плотности вероятности имеет преимущество над традиционной непараметрической статистикой Розенблатта-Парзена. Полученные результаты можно использовать при синтезе алгоритмов распознавания образов и автоматической классификации в условиях ограниченных и малых выборок статистических данных.

1. Лапко А. В., Лапко В. А. Ядерные оценки плотности вероятности и их применение. СибГУ им. М. Ф. Решетнёва, Красноярск (2021). https://elibrary.ru/pycmjn

2. Лапко А. В., Лапко В. А. Непараметрическая оценка плотности вероятности парзеновского типа с неявно заданной формой ядерной функции. Измерительная техника, (6), 14–17 (2016). https://elibrary.ru/wmcfcl

3. Parzen E. On estimation of a probability density function and mode. Annals of Mathematical Statistics, 33(3), 1065-1076 (1962). https://doi.org/10.1214/aoms/1177704472

4. Епанечников В. А. Непараметрическая оценка многомерной плотности вероятности. Теория вероятности и её применения, 14(1), 156-161 (1969).

5. Rudemo M. Empirical choice of histogram and kernel density estimators. Scandinavian Journal of Statistics, (9), 65–78 (1982).

6. Bowman A. W. A comparative study of some kernel-based non-parametric density estimators. Journal of Statistical Computation and Simulation, 21(3-4), 313–327 (1985). https://doi.org/10.1080/00949658508810822

7. Hall P. Large-sample optimality of least squares cross-validation in density estimation. Annals of Statistics, 11, 1156–1174 (1983). https://doi.org/10.1214/aos/1176346329

8. Jiang M., Provost S. B. A hybrid bandwidth selection methodology for kernel density estimation. Journal of Statistical Computation and Simulation, 84(3), 614–627 (2014). https://doi.org/10.1080/00949655.2012.721366

9. Dutta S. Cross-validation Revisited. Communications in Statistics – Simulation and Computation, 45(2), 472–490 (2016). https://doi.org/10.1080/03610918.2013.862275