Выделение модального интервала значений показателей
Выделение модального интервала значений показателей, используемых при оценке состояния речных экосистем и антропогенной нагрузки проводится в следующей последовательности:
А.1 Ранжирование вариационных рядов значений показателей.
А.2 Подсчет объема выборки (количество значений показателя) и вычисление среднего арифметического . Перед расчетом среднего арифметического из рядов значений показателей должны быть удалены аномально высокие или низкие значения, появление которых может быть связано только с грубыми ошибками при получении информации согласно РД 52.24.622.
А.3 Группировка значений вариационного ряда осуществляется на основе использования стандартного отклонения, , как оптимальной ширины интервала. Расчет шага группировки значений проводится по формуле А.1, либо по формуле А.2
, (А.1)
, (А.2)
где - -oe значение показателя выборки,
- среднее арифметическое значение показателя выборки,
- количество значений показателя в выборке.
Полученное значение принимается как шаг группировки данных.
А.4 Определение границ интервалов (минимальная и максимальная) вариационного ряда. Границы интервалов приводятся с точностью на один разряд больше, чем значение показателя (то есть, если значение показателя определено с точностью до 0,1, границы интервалов приводятся с точностью до 0,01).
Минимальная граница первого интервала равна наименьшему значению выборки согласно формуле
. (А.3)
Для получения максимальной границы первого интервала к его минимальной границе прибавляется стандартное отклонение по формуле
. (А.4)
Минимальная граница второго интервала отличается от максимальной первого интервала на величину и рассчитывается по формуле
. (А.5)
Определение границ интервалов осуществляется до тех пор, пока максимальная граница очередного интервала не превысит максимальное значение показателя в выборке.
А.5 Распределение значений показателей по установленным интервалам.
Интервал, в который попадает наибольшее количество значений, является модальным. Для оценки его границ используют фактическое минимальное и максимальное значения показателя, вошедшие в расчетные границы модального интервала. Для удобства выделения модального интервала ряд распределения представляют графически в виде гистограммы частостей, где по оси абсцисс откладывают значения границ интервалов и на их основании стоят прямоугольники, высота которых пропорциональна частостям.
Пример - Вариационный ряд значений концентрации азота аммонийного в водной среде р.Дон (г.Константиновск) за период с 1980 по 2012 годы состоит из 119 значений от 0 до 0,55 мг/дм. Рассчитанное стандартное отклонение составляет 0,12 мг/дм. Используя его в качестве шага группировки данных, получаем пять интервалов с границами в соответствии с таблицей А.1.
В первый интервал с расчетными границами от 0 до 0,120 мг/ дм попадает наибольшее количество значений (66 из 119 или 55,5%). Минимальная концентрация азота аммонийного, попавшая в него, равна 0 мг/дм, максимальная - 0,12 мг/дм. Таким образом, найденный модальный интервал для азота аммонийного составляет от 0 до 0,12 мг/ дм и включает в себя 55,5% всех значений вариационного ряда.
Таблица А.1 - Распределение значений концентрации азота аммонийного по интервалам (р.Дон, г.Константиновск)
Номер интервала | 1 | 2 | 3 | 4 | 5 |
Расчетные границы интервалов вариационного ряда, мг/дм | 0-0,120 | 0,121-0,241 | 0,242-0,362 | 0,363-0,483 | 0,484-0,604 |
Фактические границы интервалов, мг/дм | 0-0,12 | 0,13-0,24 | 0,25-0,34 | 0,40-0,48 | 0,49-0,55 |
Число значений показателя в интервале | 66 | 32 | 14 | 5 | 2 |