ГОСТ Р 71598-2024

НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НА ВОДНОМ ТРАНСПОРТЕ

Общие положения

Artificial intelligence systems in water transport. General terms

ОКС 35.240.60

Дата введения 2024-12-01

Предисловие

1 РАЗРАБОТАН Обществом с ограниченной ответственностью "Симетра Групп" (ООО "Симетра Групп"), Обществом с ограниченной ответственностью "А-Я эксперт" (ООО "А-Я эксперт")

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 6 сентября 2024 г. № 1184-ст

4 ВВЕДЕН ВПЕРВЫЕ

Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. № 162-ФЗ "О стандартизации в Российской Федерации". Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе "Национальные стандарты", а официальный текст изменений и поправок - в ежемесячном информационном указателе "Национальные стандарты". В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя "Национальные стандарты". Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Настоящий стандарт устанавливает общие положения и рекомендации по использованию искусственного интеллекта (ИИ) применительно к системам водного транспорта. Технологии искусственного интеллекта позволят повысить операционную эффективность, безопасность и улучшить процессы принятия решений на водном транспорте. Доверие к системам ИИ на водном транспорте имеет существенное значение, так как ошибки могут привести к тяжелым последствиям, создавая угрозу жизни людей, окружающей среде и экономическим интересам.

Использование ИИ на водном транспорте включает в себя широкий спектр приложений, таких как интеллектуальная навигация, мониторинг грузопотоков, предиктивное техническое обслуживание, автономное управление судами и др. Эти способы позволяют повысить эффективность работы судов, снизить риски и оптимизировать логистику в системах водного транспорта.

Настоящий стандарт служит основой для разработки, внедрения и оценки технологий ИИ на водном транспорте. Он предоставляет рекомендации по обеспечению безопасной и эффективной интеграции технологий ИИ в системы на водном транспорте в целях формирования устойчивого и технологически передового водного транспорта.

     1 Область применения

Настоящий стандарт устанавливает общие положения и область применения технологий ИИ в системах водного транспорта. Он охватывает использование алгоритмов и методов ИИ на протяжении всего жизненного цикла решений на основе ИИ в области водного транспорта, включая проектирование, разработку, тестирование, внедрение и эксплуатацию.

Стандарт применим к широкому спектру приложений на водном транспорте, включая, в частности, навигацию судов, мониторинг грузопотоков, интеллектуальное управление портами, предиктивное техническое обслуживание и повышение безопасности. Он охватывает использование технологий ИИ в операциях речного и морского транспорта, а также в различных водных судах, терминалах и портовой инфраструктуре.

Предназначенный для всех заинтересованных сторон, участвующих в разработке, внедрении и управлении технологиями ИИ на водном транспорте, настоящий стандарт служит руководящим документом, обеспечивающим интеграцию систем ИИ в отрасль водного транспорта. Не определяя конкретных технических деталей алгоритмов ИИ, стандарт устанавливает общие требования, аспекты интеллектуализации и соображения безопасности, надежности, производительности, совместимости и защиты данных.

Способствуя единообразию и соблюдению этических норм при внедрении ИИ, настоящий стандарт призван способствовать укреплению доверия к решениям на основе ИИ, что в конечном итоге повысит безопасность, эффективность и устойчивость систем водного транспорта.

     2 Термины и определения

В настоящем стандарте применены следующие термины с соответствующими определениями:

2.1

2.2

2.3

2.4

     3 Общие рекомендации по использованию технологий искусственного интеллекта на водном транспорте

Следующие общие рекомендации служат руководством для интеграции и применения технологий ИИ на водном транспорте. Следуя этим рекомендациям, отрасль водного транспорта сможет использовать технологии ИИ для повышения операционной эффективности, безопасности и улучшения процессов принятия решений, что будет способствовать созданию устойчивой и технологически развитой системы водного транспорта.

     3.1 Доверие и гарантии безопасности

3.1.1 При внедрении технологий ИИ в системы водного транспорта заинтересованные стороны должны уделять внимание безопасности и надежности. Для обеспечения точности и надежности алгоритмов ИИ необходимо проводить тщательные испытания.

3.1.2 Разработка и внедрение систем ИИ должны соответствовать всем необходимым нормам безопасности и нормативным требованиям, чтобы свести к минимуму риск аварий и защитить жизнь людей, окружающую среду и экономические интересы. Для поддержания производительности и безопасности систем ИИ необходимо техническое обслуживание и обновление.

3.1.3 Предприятиям водного транспорта следует создать механизмы непрерывного мониторинга и извлечения уроков из операций с использованием систем ИИ. Обратная связь и анализ данных в режиме реального времени позволяют выявлять потенциальные проблемы, аномалии или возникающие риски, что способствует своевременной корректировке и совершенствованию алгоритмов и систем ИИ.

3.1.4 Несмотря на то что технологии ИИ могут повысить эффективность работы водного транспорта, крайне важно внедрять меры резервирования и отказоустойчивости для смягчения последствий сбоев в работе систем ИИ. Операторы-люди должны быть готовы взять на себя выполнение критически важных функций в случае сбоев в работе систем ИИ, обеспечивая безопасность и бесперебойность работы водного транспорта.

3.1.5 Алгоритмы ИИ должны разрабатываться таким образом, чтобы обеспечивать принятие понятных и интерпретируемых решений, особенно в сценариях высокого риска. Прозрачные модели ИИ должны давать операторам и контролирующим органам возможность понять, на чем основаны решения систем ИИ, и обеспечить соблюдение норм и правил безопасности.

3.1.6 Поскольку технологии ИИ в значительной степени опираются на данные, необходимо обеспечить надежные меры кибербезопасности для защиты конфиденциальной информации и предотвращения несанкционированного доступа к системам ИИ. Предприятиям водного транспорта следует уделять первостепенное внимание защите данных, шифрованию и протоколам безопасной связи для предотвращения возможных нарушений и кибератак.

3.1.7 Симуляторы и контролируемые испытательные среды могут стать ценными инструментами для оценки эффективности алгоритмов ИИ до их внедрения в постоянную эксплуатацию. Проведение масштабных симуляций и испытаний с использованием различных сценариев может помочь оптимизировать эффективность и безопасность систем ИИ.

3.1.8 Проектирование пользовательских интерфейсов и взаимодействие между человеком-оператором и системой ИИ должны быть интуитивно понятными и удобными.

3.1.9 При разработке и внедрении технологий ИИ следует сотрудничать с экспертами, включая руководителей, инженеров и других работников предприятия водного транспорта. Использование экспертных знаний позволяет уточнить модели ИИ, привести их в соответствие с эксплуатационными требованиями и повысить практическую применимость решений ИИ на водном транспорте.

3.1.10 Информирование и просвещение общественности о роли и преимуществах использования технологий ИИ на водном транспорте являются условием завоевания доверия и признания со стороны общественности. Информирование общественности об ответственном использовании технологий ИИ способствует поддержке инициатив в области ИИ и развеивает заблуждения относительно его влияния на водный транспорт.

     3.2 Качество и доступность данных

3.2.1 Технологии ИИ в значительной степени зависят от высококачественных и полных данных, поэтому предприятиям водного транспорта следует создать механизмы сбора, хранения и обмена данными, чтобы обеспечить доступность точных данных для систем ИИ как в режиме обучения, так и в режиме эксплуатации.

3.2.2 Для обмена данными и повышения эффективности систем ИИ во всей транспортной цепочке должно быть организовано сотрудничество между участниками водного транспорта, включая грузовладельцев, судоходные компании, операторов инфраструктуры и регулирующие органы.

3.2.3 Предприятия водного транспорта должны уделять первостепенное внимание конфиденциальности данных и получать явное согласие физических или юридических лиц, чьи данные используются системами ИИ. Внедрение политики конфиденциальности данных и обеспечение соблюдения нормативных требований по защите данных необходимы для формирования доверия и уверенности в ответственном использовании технологий ИИ.

3.2.4 Для оптимизации работы алгоритмов ИИ необходимо проводить предварительную обработку и очистку данных, чтобы удалить из набора данных неточности, дубликаты и статистические выбросы. Обеспечение целостности и достоверности данных повышает точность и надежность решений, принимаемых на основе ИИ.

3.2.5 Алгоритмы ИИ могут непреднамеренно отражать предубеждения, присутствующие в данных, на которых они обучаются. Для обеспечения справедливых и равноправных результатов предприятиям водного транспорта следует активно бороться с предвзятостью и смягчать ее. Для снижения потенциальной предвзятости следует повышать разнообразие источников данных.

3.2.6 Для систем ИИ требуется сохранение исторических данных, что с течением времени позволяет выявлять тенденции, закономерности и аномалии. Для обеспечения долгосрочного обучения и оптимизации алгоритмов ИИ следует обеспечить достаточные возможности хранения данных.

3.2.7 Для защиты данных от несанкционированного доступа или потери следует внедрить протоколы безопасности, методы шифрования и системы резервного копирования.

3.2.8 Для эффективного управления данными и обеспечения соответствия соответствующим нормативным требованиям и отраслевым стандартам необходима комплексная система управления данными. Предприятия водного транспорта должны установить правила управления данными, доступа к ним и их использования.

3.2.9 Создание комитетов по этике ИИ или аналогичных консультативных органов может способствовать этичному использованию технологий ИИ на водном транспорте. Такие комитеты могут дать представление об этических дилеммах и обеспечить соответствие внедрения ИИ моральным, социальным и экологическим ценностям.

3.2.10 Регулярная оценка эффективности систем ИИ, безопасности и этических последствий необходима для постоянного совершенствования. Организации водного транспорта должны внедрить процедуры непрерывного обучения и адаптации для совершенствования алгоритмов ИИ и расширения возможностей систем ИИ.

     3.3 Сотрудничество человека и систем ИИ

3.3.1 При интеграции технологий ИИ в системы водного транспорта приоритет должен отдаваться не полной автоматизации, а взаимодействию человека и ИИ. Операторы-люди должны быть задействованы в рабочих процессах и технологических операциях, контролируя работу систем ИИ, а также должны пройти необходимое обучение, чтобы эффективно взаимодействовать с системами ИИ.

3.3.2 Технологии ИИ могут выступать в качестве инструментов поддержки принятия решений, помогая операторам принимать обоснованные и своевременные решения. Особое внимание следует уделять использованию возможностей систем ИИ для расширения возможностей человека и оптимизации процессов транспортировки на водных путях.

3.3.3 Для обеспечения эффективного взаимодействия человека и систем ИИ заинтересованным сторонам водного транспорта следует инвестировать в программы обучения и повышения квалификации персонала. Обучение должно охватывать как технические аспекты систем ИИ, так и понимание результатов работы ИИ, что позволит операторам интерпретировать данные, полученные с помощью алгоритмов ИИ, и принимать обоснованные решения.

3.3.4 Алгоритмы ИИ, используемые в системах водного транспорта, должны разрабатываться с акцентом на объяснимость и прозрачность. Обеспечение того, что результаты работы ИИ можно понять и проследить за процессом принятия решений, лежащим в их основе, способствует укреплению доверия между операторами и заинтересованными сторонами.

3.3.5 Создание механизмов обратной связи между операторами-людьми и системами ИИ позволяет последним постоянно учиться и совершенствоваться. Люди-операторы могут предоставлять алгоритмам ИИ данные и знания, относящиеся к конкретной задаче, что позволяет системам ИИ адаптироваться к изменяющимся условиям и улучшать производительность с течением времени.

3.3.6 Даже при наличии систем ИИ операторы-люди должны сохранять возможность вмешаться в работу таких систем и при необходимости отменить ее решение. Включение в системы ИИ механизмов защиты от сбоев помогает предотвратить возможные катастрофические инциденты и повышает общую безопасность.

3.3.7 Успешная интеграция технологий ИИ в водный транспорт требует принятия и освоения их всеми заинтересованными сторонами. Для успешного внедрения систем ИИ следует осуществлять информирование о преимуществах технологий ИИ, устранение опасений и вовлечение соответствующих сторон в процесс принятия решений.

3.3.8 При интеграции технологий ИИ в системы водного транспорта необходимо установить четкие границы ответственности и подотчетности. Определение ответственности за решения, принимаемые с помощью систем ИИ, возможные ошибки и последствия должно быть прописано в нормативных документах.

3.3.9 Регулярный мониторинг и аудит эффективности и результатов работы систем ИИ необходимы для выявления потенциальных погрешностей, обнаружения аномалий и обеспечения соответствия установленным стандартам и нормам.

     3.4 Прозрачность и объяснимость

3.4.1 Чтобы завоевать доверие и признание заинтересованных сторон, алгоритмы ИИ и процессы принятия решений должны быть прозрачными и объяснимыми. Предприятиям водного транспорта следует стремиться к разработке интерпретируемых моделей ИИ, которые могут обосновывать принимаемые ими решения и выдаваемые рекомендации.

3.4.2 Прозрачные системы ИИ будут способствовать более глубокому пониманию операций, управляемых ИИ, укрепят доверие заинтересованных сторон и позволят повысить уровень подотчетности и аудита в деятельности водного транспорта.

3.4.3 Проведение регулярного аудита алгоритмов ИИ и их результатов необходимо для обеспечения постоянного соответствия нормативным требованиям и отраслевым стандартам. Аудит помогает выявить потенциальные погрешности, ошибки или отклонения, что позволяет своевременно вносить исправления и улучшения.