ПНСТ 777-2022

ПРЕДВАРИТЕЛЬНЫЙ НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КЛИНИЧЕСКОЙ МЕДИЦИНЕ

Часть 10

Процессы жизненного цикла

Artificial intelligence systems in clinical medicine. Part 10. Life cycle processes

ОКС 11.040.01

Срок действия с 2023-09-01

по 2024-09-01

Предисловие

1 РАЗРАБОТАН Государственным бюджетным учреждением здравоохранения города Москвы "Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы" (ГБУЗ "НПКЦ ДиТ ДЗМ")

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 8 ноября 2022 г. N 91-пнст

Правила применения настоящего стандарта и проведения его мониторинга установлены в ГОСТ Р 1.16-2011 (разделы 5 и 6).

Федеральное агентство по техническому регулированию и метрологии собирает сведения о практическом применении настоящего стандарта. Данные сведения, а также замечания и предложения по содержанию стандарта можно направить не позднее чем за 4 мес до истечения срока его действия разработчику настоящего стандарта по адресу: npcmr@zdrav.mos.ru и/или в Федеральное агентство по техническому регулированию и метрологии по адресу: 123112 Москва, Пресненская набережная, д.10, стр.2.

В случае отмены настоящего стандарта соответствующая информация будет опубликована в ежемесячном информационном указателе "Национальные стандарты" и также будет размещена на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Любая система характеризуется наличием жизненного цикла. Жизненный цикл может быть описан с использованием абстрактной функциональной модели, представляющей собой осмысление потребностей в системе искусственного интеллекта, ее реализации, эксплуатации, развитии и выводе из эксплуатации. Система развивается через свой жизненный цикл как результат действий, выполняемых и управляемых изготовителем, используя для этих действий процессы.

В настоящем стандарте определены требования для каждого процесса жизненного цикла систем искусственного интеллекта. Каждый процесс жизненного цикла систем искусственного интеллекта состоит из совокупности видов деятельности, большинство из которых, в свою очередь, разделены на задачи.

Настоящий стандарт разработан на основе ГОСТ IEC 62304-2022 "Изделия медицинские. Программное обеспечение. Процессы жизненного цикла", определяющего основу процессов жизненного цикла совместно с деятельностью (действиями) и задачами, необходимыми для проектирования и технического обслуживания безопасного программного обеспечения медицинских изделий, но не учитывающего специфику процессов жизненного цикла и характеристик систем искусственного интеллекта.

Настоящий стандарт позволяет дополнить представленный в ГОСТ IEC 62304 набор процессов жизненного цикла программного обеспечения медицинских изделий процессом мониторинга системы искусственного интеллекта на этапе эксплуатации, а также этапами эксплуатации и вывода из эксплуатации.

В настоящем стандарте определен перечень испытаний систем искусственного интеллекта, приведены типы изменений и модификаций, которые могут быть осуществлены в процессе эксплуатации системы искусственного интеллекта.

В настоящем стандарте также приведено соотнесение установленных требований с требованиями к стадиям и этапам создания автоматизированных систем, приведенных в ГОСТ 34.601-90 "Информационная технология. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Стадии создания".

     1 Область применения

Настоящий стандарт устанавливает основу процессов жизненного цикла систем искусственного интеллекта совместно с деятельностью (действиями) и задачами, необходимыми для проектирования и технического обслуживания систем искусственного интеллекта.

Настоящий стандарт не предписывает конкретную модель жизненного цикла системы искусственного интеллекта. Изготовители ответственны за выбор модели жизненного цикла для системы искусственного интеллекта и за отображение процессов, деятельности и задач настоящего стандарта применительно к этой модели.

Для целей настоящего стандарта:

- "должен" означает необходимость полного соответствия требованиям стандарта;

- "следует" - соответствие требованиям рекомендуется, но не является обязательным;

- "установить" - определять, документировать и осуществлять выполнение;

- "может" используется, чтобы описать допустимый способ достижения соответствия требованиям.

Там, где в настоящем стандарте используется "если применимо" в сочетании с требуемым процессом, деятельностью, задачей или продукцией, изготовитель должен использовать процесс, деятельность, задачу или продукцию, если не может документированно опровергнуть необходимость применения.

Настоящий стандарт распространяется на системы искусственного интеллекта, применяемые в клинической медицине, которые могут быть отнесены к программному обеспечению, являющемуся медицинским изделием.

Настоящий стандарт не устанавливает требований к документации в части ее наименований, форматов, определенного содержания и носителей для записи. Настоящий стандарт может потребовать разработки документов подобного класса или типа, например различных планов. Настоящий стандарт, однако, не предусматривает, чтобы такие документы разрабатывались или комплектовались раздельно или каким-то образом объединялись. Эти решения остаются за пользователем настоящего стандарта.

Настоящий стандарт устанавливает требования к жизненному циклу системы искусственного интеллекта в клинической медицине. Совокупность данных, процессов, деятельности и задач, изложенных в настоящем стандарте, устанавливает общую основу для процессов жизненного цикла системы искусственного интеллекта.

     2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ 19.101 Единая система программной документации. Виды программ и программных документов

ГОСТ 34.201 Информационные технологии. Комплекс стандартов на автоматизированные системы. Виды, комплектность и обозначение документов при создании автоматизированных систем

ГОСТ 34.601 Информационная технология. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Стадии создания

ГОСТ ISO 13485 Изделия медицинские. Системы менеджмента качества. Требования для целей регулирования

ГОСТ ISO 14971 Изделия медицинские. Применение менеджмента риска к медицинским изделиям

ГОСТ ISO/IEC 17025 Общие требования к компетентности испытательных и калибровочных лабораторий

ГОСТ IEC 62304 Изделия медицинские. Программное обеспечение. Процессы жизненного цикла

ГОСТ ИСО/МЭК 9126 Информационная технология. Оценка программной продукции. Характеристики качества и руководства по их применению

ГОСТ Р 53624 Информационные технологии. Информационно-вычислительные системы. Программное обеспечение. Системы менеджмента качества. Требования

ГОСТ Р 56044 Оценка медицинских технологий. Общие положения

ГОСТ Р 59921.1 Системы искусственного интеллекта в клинической медицине. Часть 1. Клиническая оценка

ГОСТ Р 59921.2 Системы искусственного интеллекта в клинической медицине. Часть 2. Программа и методика технических испытаний

ГОСТ Р 59921.3 Системы искусственного интеллекта в клинической медицине. Часть 3. Управление изменениями в системах искусственного интеллекта с непрерывным обучением

ГОСТ Р ИСО 9001 Системы менеджмента качества. Требования

ГОСТ Р МЭК 60601-1-6-2014 Изделия медицинские электрические. Часть 1-6. Общие требования безопасности с учетом основных функциональных характеристик. Дополнительный стандарт. Эксплуатационная пригодность

ГОСТ Р ИСО/МЭК 12207-2010 Информационная технология. Системная и программная инженерия. Процессы жизненного цикла программных средств

ГОСТ Р 55544/IEC/TR 80002-1:2009 Программное обеспечение медицинских изделий. Часть 1. Руководство по применению ИСО 14971 к программному обеспечению медицинских изделий

ГОСТ Р 56839/IEC/TR 80001-2-1:2012 Информатизация здоровья. Менеджмент рисков в информационно-вычислительных сетях с медицинскими приборами. Часть 2-1. Пошаговый менеджмент рисков медицинских информационно-вычислительных сетей. Практическое применение и примеры

ГОСТ Р ИСО/МЭК 90003 Разработка программных продуктов. Руководящие указания по применению ИСО 9001:2008 при разработке программных продуктов

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

     3 Термины и определения

В настоящем стандарте применены следующие термины с соответствующими определениями:

3.1

3.2 аналитическая валидация (analytical validation): Подтверждение способности системы искусственного интеллекта точно, воспроизводимо и надежно генерировать предполагаемые технические результаты вычислений из входных данных.

Примечания

1 См. [1]*

 ________________

* См. раздел Библиография. - Примечание изготовителя базы данных.

2 Аналитическая валидация является частным случаем валидации в соответствии с ГОСТ Р ИСО/МЭК 12207-2010 (пункт 4.54).

3.3

3.4 архитектура системы искусственного интеллекта (architecture of the artificial intelligence): Концептуальная структура системы искусственного интеллекта, определяющая порядок обработки информации и включающая методы преобразования информации и принципы взаимодействия элементов (программных блоков, систем) системы искусственного интеллекта.

3.5

Примечания

1 Безопасность системы искусственного интеллекта предполагает ее функционирование в соответствии с тем, как определил изготовитель, при использовании по назначению в условиях, предусмотренных изготовителем, и без нарушений безопасности обрабатываемой информации.

2 Условия использования могут включать уровень технических знаний, опыта, образования и подготовки пользователей, наличие заболеваний и физического состояния предполагаемых пациентов.

3 Безопасность системы искусственного интеллекта предполагает соблюдение требований по защищенности систем искусственного интеллекта и данных, а также прозрачности алгоритмов, бесперебойности, отсутствия ошибок в работе систем искусственного интеллекта и выполнения требований качества (см. [1]).

3.6