Актуальность. Применение традиционных методов численного дифференцирования к зашумленным данным с выбросами приводит к значительным ошибкам. Объектом данного исследования является процесс численного дифференцирования таких данных.
Цель работы – разработка метода численного дифференцирования зашумленных данных с выбросами, который позволяет получить гладкую аппроксимацию их первой производной и, соответственно, гладкую аппроксимацию самих данных.
Метод. Предложенный метод численного дифференцирования основан на решении задачи минимизации сглаживающего функционала, который построен на критерии минимума протяженности невязки решения и ограничении энергии первой производной решения. Критерий минимума протяженности задает основную часть функционала и обеспечивает его устойчивое поведение по отношению к аддитивному шуму и выбросам. Ограничение задает стабилизирующую часть функционала и обеспечивает гладкость решения задачи. Вклад указанных частей регулируется с помощью параметра регуляризации. Поскольку основная часть сглаживающего функционала не является выпуклой, то задача его минимизации является задачей нелинейного невыпуклого программирования. Для численного решения этой задачи используется метод сопряженных градиентов, в котором величина шага вдоль направления спуска определяется на множестве пробных шагов. Эти шаги минимизируют отдельные компоненты основной и стабилизирующей частей сглаживающего функционала, что позволяет переходить из одного локального минимума функционала в другой более глубокий локальный минимум.
Результаты. Моделирование задачи численного дифференцирования зашумленных данных с выбросами и обработка экспериментальных данных, которые представляли собой спектры фотолюминесценции при наличии в их составе узких линейчатых спектральных составляющих, подтвердили эффективность предложенного метода.
Выводы. Предложенный метод может быть использован для численного дифференцирования зашумленных данных с выбросами. При этом он позволяет получить гладкую аппроксимацию первой производной исходных данных и гладкую аппроксимацию самих исходных данных. Данный метод можно обобщить на случай негладкого решения путем построения стабилизирующей части функционала на основе ограничения полной вариации решения

численное дифференцирование, гладкая аппроксимация, критерий минимума протяженности