Расчет относительной задержки для каждого метода приведен в приложениях А, В, С и D соответственно.
Остальная часть настоящего раздела посвящена описанию числовой подгонки, применяемой к данным спектральной групповой задержки, нормированной по длине , для каждого метода; также см. приложение Е.
- длина волны, нм;
- подобранное значение нормированной спектральной групповой задержки, пс/км;
- коэффициент хроматической дисперсии, пс/(нм·км), вычисляемый по формуле
; (1)
- длина волны при нулевой дисперсии, нм;
- относительное минимальное значение задержки для длины волны при нулевой дисперсии, пс/км;
- крутизна дисперсии, пс/(нм·км), вычисляемая по формуле
; (2)
- крутизна дисперсии для длины волны при нулевой дисперсии, пс/(нм·км).
Примечание - и могут быть значениями прямых измерений или результатом подгонки значений прямых измерений к указанным функциям.
Например, в случаях когда функция подгонки данных указана, коэффициенты выражения в правой части уравнения подбирают таким образом, чтобы сумма квадратичных ошибок, относящихся к прямым измерениям, была минимальной.
Коэффициенты подгонки указаны как переменные А, В, С, D или Е; также см. приложение Е.