ГОСТ Р 59921.4-2021

НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КЛИНИЧЕСКОЙ МЕДИЦИНЕ

Часть 4

Оценка и контроль эксплуатационных параметров

Artificial intelligence systems in clinical medicine. Part 4. Evaluation and control of performance parameters

ОКС 11.040.01

Дата введения 2022-03-01

Предисловие

1 РАЗРАБОТАН Федеральным государственным бюджетным учреждением "Российский институт стандартизации" (ФГБУ "РСТ"), Государственным бюджетным учреждением здравоохранения города Москвы "Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы" (ГБУЗ "НПКЦ ДиТ ДЗМ")

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 2 декабря 2021 г. N 1672-ст

4 ВВЕДЕН ВПЕРВЫЕ

Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. N 162-ФЗ "О стандартизации в Российской Федерации". Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе "Национальные стандарты", а официальный текст изменений и поправок - в ежемесячном информационном указателе "Национальные стандарты". В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя "Национальные стандарты". Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Эффективность системы искусственного интеллекта, используемой в клинической медицине, зависит от ее эксплуатационных параметров.

В целях сбора доказательств соответствия эксплуатационных параметров, установленных в ходе разработки системы искусственного интеллекта, требованиям технической и эксплуатационной документации и применимым регулирующим требованиям, проводят их оценку и контроль. Это дает возможность продемонстрировать, что система искусственного интеллекта способна выдавать клинически значимый результат при ее эксплуатации надлежащим образом, а также не несет риска причинения вреда при использовании ее по назначению и в условиях, заявленных изготовителем. Для каждой системы искусственного интеллекта оценка и контроль эксплуатационных параметров осуществляется в течение всего жизненного цикла.

Как правило, системы искусственного интеллекта не оказывают непосредственного воздействия на пациентов и пользователя (врача), вместо этого выполняют только интерпретацию медицинских данных и предоставляют вывод результата работы пользователю, в том числе с целью поддержки принятия решений.

     1 Область применения

Настоящий стандарт устанавливает общие требования к оценке и контролю эксплуатационных параметров СИИ при вводе в эксплуатацию и периодическом контроле, что позволяет проводить однозначно интерпретируемую оценку характеристик и параметров СИИ.

Настоящий стандарт применяют к СИИ в качестве программного обеспечения, являющегося медицинским изделием.

Настоящий стандарт определяет методологическую основу для оценки и контроля эксплуатационных параметров СИИ.

     2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ Р ИСО/МЭК 9126-93 Информационная технология. Оценка программной продукции. Характеристики качества и руководства по их применению

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

     3 Термины и определения

В настоящем стандарте применены следующие термины с соответствующими определениями:

3.1

3.2

3.3 ложноотрицательный результат (ошибка второго рода): Ошибка, заключающаяся в том, что принимают нулевую гипотезу, в то время как в действительности эта гипотеза неверна.

3.4 ложноположительный результат (ошибка первого рода): Ошибка, заключающаяся в том, что отвергают нулевую гипотезу, в то время как в действительности эта гипотеза верна.

3.5

3.6

3.7

3.8

3.9 специфичность: Доля лиц с отрицательным результатом в целевой популяции без изучаемого заболевания (т.е. вероятность того, что объекты без изучаемого заболевания будут определены как здоровые).

3.10

3.11 чувствительность: Доля лиц с положительным результатом для целевой популяции с изучаемым заболеванием (т.е. вероятность того, что объекты с изучаемым заболеванием будут определены как патологичные).

3.12

3.13 эксплуатационные параметры: Параметры функционирования системы искусственного интеллекта, характеризующие качественно и/или количественно технические возможности системы искусственного интеллекта с точки зрения ее назначения.

     4 Эксплуатационные параметры систем искусственного интеллекта

Эксплуатационные параметры СИИ подразделяют на следующие категории:

- по точности;

- назначению;

- входным данным;

- принципу организации обучения;

- производительности;

- системной совместимости.

Необходимо отметить, что представлен перечень типовых эксплуатационных параметров СИИ, который может быть дополнен с учетом особенностей системы, в том числе с учетом ее назначения.

4.1 По точности

С точки зрения точности эксплуатационные параметры определены изготовителем и должны включать указанные ниже параметры, при этом могут быть включены дополнительные параметры в зависимости от назначения СИИ.

а) Доля ошибок 1-го (ложноположительный результат) и 2-го рода (ложноотрицательный результат) при принятии решений СИИ.

Данный параметр характеризует точность СИИ.

Доля ошибок 1-го рода подтверждает прогнозируемую вероятность ложноположительного результата анализа СИИ.

Доля ошибок 2-го рода подтверждает прогнозируемую вероятность ложноотрицательного результата анализа СИИ.

Значения данных параметров должны удовлетворять заявленным изготовителем в технической и эксплуатационной документациях.

б) Показатели эффективности СИИ (чувствительность, специфичность, прогностическая ценность и др.) [2].

Значение чувствительности предоставляет информацию о том, насколько четко СИИ обнаруживает заболевание.

Пример - тест, который положителен у 8 из 10 пациентов, при наличии заболевания имеет чувствительность 80%.

Значение специфичности предоставляет информацию о том, насколько СИИ правильно идентифицирует исследования пациентов при отсутствии заболевания.

Пример - тест, который отрицателен у 9 из 10 пациентов, при отсутствии заболевания имеет специфичность 0,9 (или 90%).

Положительная прогностическая ценность является долей пациентов с позитивным результатом, оцененным СИИ, у которых в действительности присутствует заболевание.

Пример - если 9 из 10 положительных результатов тестов верны (истинно положительные результаты), то значение положительной прогностической ценности составляет 90%.

Отрицательная прогностическая ценность является долей пациентов с отрицательным результатом, оцененным СИИ, у которых в действительности отсутствуют признаки наличия заболевания.

Пример - если 8 из 10 отрицательных результатов теста корректны (истинно отрицательные), тогда отрицательная прогностическая ценность составляет 80% [3].

Рабочие характеристики СИИ должны быть обеспечены изготовителем не ниже уровня, заявленного в технической документации, в течение всего срока эксплуатации СИИ (см. [4]).

4.2 По назначению

а) Тип принимаемого решения.

Данный параметр характеризует тип возвращаемого заключения от СИИ. Это может быть: