ГОСТ Р 60.2.2.1-2016/ИСО 13482:2014 Роботы и робототехнические устройства. Требования безопасности для роботов по персональному уходу (Переиздание)

     5.12 Опасности, связанные с неправильными автономными решениями и действиями

5.12.1 Общие положения

Робот по персональному уходу, способный принимать автономные решения и совершать автономные действия, должен быть спроектирован так, чтобы неверные решения и неправильные действия не вызывали неприемлемого риска нанесения вреда.

Примеры
     

    1 Ситуация, когда мобильный обслуживающий робот берет неверный напиток и подает кофе вместо воды в чашке, может быть приемлемым риском, но подача напитка в разбитом стакане может быть неприемлемым риском.
     

    2 Ситуация, когда робот для перевозки человека делает резкое и неожиданное движение в сторону в пространстве с ровной поверхностью, может быть приемлемым риском, но движение в сторону в пространстве со скользкой поверхностью может быть неприемлемым риском.

Риск нанесения вреда в результате неправильных решений может быть снижен либо увеличением надежности принятия решения (например, с помощью более хороших сенсоров), либо ограничением воздействия неправильного решения (например, с помощью сужения границ использования).

5.12.2 Конструкция, обеспечивающая безопасность

В соответствующих случаях должны быть применены следующие меры:

a) ограничение сценариев эксплуатации для снижения риска нанесения вреда из-за неправильных действий;

b) использование уникальных идентификаторов для связанных с безопасностью объектов, траекторий перемещения и т.д.

5.12.3 Основные и дополнительные меры защиты

В соответствующих случаях должны быть применены следующие меры:

a) возможности и надежность сенсоров и алгоритмов восприятия должны быть повышены до уровня, когда неприемлемый риск не может иметь место;

b) алгоритмы идентификации должны быть разработаны так, чтобы вероятность того, что определенное решение будет правильным (например, вероятность правильной идентификации некоторого связанного с безопасностью объекта), рассчитывалась и могла быть проверена. Решения с высокой степенью неопределенности должны быть заново оценены с использованием альтернативных подходов и/или дополнительной информации. Если после повторной оценки неопределенность остается неприемлемой, то должна быть запрошена внешняя помощь или произведена защитная остановка;

c) для решений, которые могут привести к опасным ситуациям, должен применяться контроль правильности.

Пример - Правильная идентификация связанного с безопасностью объекта может быть проверена, принимая во внимание место, где он обнаружен, или время и место, где его видели последний раз;

d) решения должны проверяться с помощью разнообразных принципов обработки сенсорной информации.

Все функции роботов по персональному уходу, реализующие требования перечислений а)-д)*, должны соответствовать требованиям к характеристикам системы управления, описанным в 6.1, согласно общей оценке рисков робота.

_____________

* Вероятно ошибка оригинала. Следует читать: а)-d). - Примечание изготовителя базы данных.     

5.12.4 Информация по использованию

Ограничения по использованию должны исключать ситуации, при которых решения вызывают неприемлемый риск нанесения любого вреда с учетом предсказуемого неправильного использования.

Информация по использованию должна сообщать об очувствлении и возможностях принимать решения робота по персональному уходу и должна предоставлять инструкции, как предотвратить нанесение вреда из-за неправильных действий и решений.

5.12.5 Верификация и валидация

Подходящий метод (или методы) должен быть выбран из следующих: В, С, D, F, G.