ПРАВИТЕЛЬСТВО РОССИЙСКОЙ ФЕДЕРАЦИИ
РАСПОРЯЖЕНИЕ
от 19 августа 2020 N 2129-р
Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года
1. Утвердить прилагаемую Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года (далее - Концепция).
2. Федеральным органам исполнительной власти и Государственной корпорации по космической деятельности "Роскосмос" руководствоваться положениями Концепции при осуществлении функций по выработке государственной политики и нормативно-правовому регулированию в установленных сферах деятельности.
3. Заинтересованным федеральным органам исполнительной власти и Государственной корпорации по космической деятельности "Роскосмос" в 3-месячный срок представить в Минэкономразвития России предложения по реализации Концепции в рамках национальной программы "Цифровая экономика Российской Федерации".
Председатель Правительства
Российской Федерации
М.Мишустин
УТВЕРЖДЕНА
распоряжением Правительства
Российской Федерации
от 19 августа 2020 года N 2129-р
Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года
I. Общие положения
1. Цели Концепции
Целью Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники (далее - Концепция) является определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения таких технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства. Одновременно целями Концепции являются создание предпосылок для формирования основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением технологий искусственного интеллекта и робототехники и систем на их основе, а также определение правовых барьеров, препятствующих разработке и применению указанных систем.
Термины, используемые в настоящей Концепции, употребляются в значении, приведенном в Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. N 490 "О развитии искусственного интеллекта в Российской Федерации" (далее - Национальная стратегия), а также в национальных стандартах.
Развитие технологий искусственного интеллекта ставит серьезные вызовы перед правовой системой Российской Федерации, системой государственного управления и обществом в целом. Они обусловлены определенной степенью автономности действий систем искусственного интеллекта в решении поставленных задач и их неспособностью непосредственно воспринимать этические и правовые нормы, учитывать их при осуществлении каких-либо действий.
В настоящее время в Российской Федерации отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта и робототехники.
В то же время анализ мирового опыта показывает, что в целом ряде стран уже существует первичное правовое регулирование применения искусственного интеллекта и робототехники.
Концепция исходит из того, что для развития технологий искусственного интеллекта и робототехники необходимо создание регуляторной среды, комфортной для безопасного развития и внедрения указанных технологий, основанной на балансе интересов человека, общества, государства, компаний - разработчиков систем искусственного интеллекта и робототехники, а также потребителей их товаров, работ, услуг. Однако представления об этом балансе существенно разнятся. В связи с этим Концепция оставляет открытыми и требующими дальнейшего обсуждения отдельные наиболее спорные вопросы, но может служить инструментом для достижения в ближайшие годы сближения интересов человека, общества, государства и бизнеса в рассматриваемой сфере.
Концепция учитывает положения Национальной стратегии, национальной программы "Цифровая экономика Российской Федерации" и Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы, утвержденной Указом Президента Российской Федерации от 9 мая 2017 г. N 203 "О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы", а также положения иных документов стратегического планирования, нормативных правовых актов и методических документов, в том числе международных организаций.
С учетом динамики развития общественных отношений, связанных с созданием и использованием технологий искусственного интеллекта и робототехники, положения Концепции определены с перспективой на период до 2024 года.
2. Цели и задачи регулирования отношений в сфере технологий искусственного интеллекта и робототехники
Приоритетной целью регулирования отношений в сфере искусственного интеллекта и робототехники на данном этапе их развития является стимулирование разработки, внедрения и использования таких технологий, создания систем искусственного интеллекта и робототехники в доверенном и безопасном исполнении, которое будет способствовать достижению высоких темпов экономического роста, повышению благосостояния и качества жизни граждан, обеспечению национальной безопасности и правопорядка, достижению устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области искусственного интеллекта.
С учетом заявленной цели регулирования выделяются следующие задачи, на решение которых должно быть направлено регулирование:
создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер;
определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы;
формирование национальной системы стандартизации и оценки соответствия в области технологий искусственного интеллекта и робототехники.
При этом режим правового регулирования разработки, внедрения и применения технологий и систем искусственного интеллекта и робототехники должен обеспечивать необходимую степень защиты прав и свобод человека и гражданина, отвечать интересам общества и государства.
3. Принципы регулирования отношений в сфере технологий искусственного интеллекта и робототехники
Достижение цели и задач регулирования отношений, складывающихся в связи с разработкой и применением систем искусственного интеллекта и робототехники, должно осуществляться с учетом следующих принципов:
стимулирование развития технологий искусственного интеллекта и робототехники регуляторными средствами как основной вектор развития регулирования в обозначенный временной период ("стимулирование как основа регулирования");
регуляторное воздействие, основанное на риск-ориентированном, междисциплинарном подходе и предусматривающее принятие ограничительных норм в случае, если применение технологий искусственного интеллекта и робототехники несет объективно высокий риск причинения вреда участникам общественных отношений, правам человека и интересам общества и государства;
расширение применения инструментов сорегулирования и саморегулирования, формирование кодексов (сводов) этических правил разработки, внедрения и применения технологий искусственного интеллекта и робототехники;
человеко-ориентированный подход, предусматривающий, что конечной целью развития технологий искусственного интеллекта и робототехники, направляемого посредством регуляторного воздействия, является обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека и повышение благосостояния и качества жизни граждан;
оценка воздействия технологий и систем искусственного интеллекта и робототехники на все сферы жизни человека, общества и государства, основанная на научно выверенных исследованиях с подключением широкого круга ученых;
обеспечение баланса интересов разработчиков, потребителей и иных лиц в сфере искусственного интеллекта и робототехники, а также определение границ их ответственности за возможные негативные последствия использования технологий искусственного интеллекта и робототехники;
технологический суверенитет, предусматривающий обеспечение необходимого уровня независимости Российской Федерации в области искусственного интеллекта и робототехники с учетом государственной политики в сфере развития информационных технологий и импортозамещения;
поддержка конкуренции, предусматривающая обеспечение равных для всех, включая предприятия малого и среднего бизнеса, возможностей для применения экспериментальных правовых режимов и мер государственной поддержки, а также для доступа к необходимым в целях разработки систем искусственного интеллекта и робототехники данным из государственных и муниципальных информационных систем;
оценка при разработке нормативных правовых актов и иных документов в сфере искусственного интеллекта и робототехники социально-экономических последствий и рисков в условиях постоянного развития технологий, учет как положительного, так и отрицательного международного опыта регулирования;
обязательность обоснованной оценки рисков причинения при применении искусственного интеллекта и робототехники вреда жизни и здоровью человека, реализации угроз обороне страны и безопасности государства и принятие мер, направленных на минимизацию таких рисков и угроз.
Развитие технологий искусственного интеллекта и робототехники должно основываться на базовых этических нормах и предусматривать:
приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки и применения систем искусственного интеллекта и робототехники);
запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку);
подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств);
проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллекта не должно заведомо для разработчика приводить к нарушению правовых норм);
недопущение противоправной манипуляции поведением человека.
4. Проблемы, общие подходы и направления регулирования отношений в сфере технологий искусственного интеллекта и робототехники
Одним из основных препятствий для расширения применения систем с использованием искусственного интеллекта и робототехники является отсутствие достаточной степени доверия к ним со стороны общества. Повышение степени автономности таких систем, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения систем искусственного интеллекта и робототехники.
В настоящее время в мире отсутствуют единые подходы к регулированию технологий искусственного интеллекта и робототехники, что связано с наличием ряда проблем, не имеющих однозначного решения. Среди таких концептуальных проблемных направлений регулирования можно выделить следующие:
соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственного интеллекта;
определение предмета и границ регулирования сферы использования систем искусственного интеллекта и робототехники;
идентификация системы искусственного интеллекта при взаимодействии с человеком, включая его информирование о взаимодействии с такой системой;
правовое "делегирование" решений системам искусственного интеллекта и робототехники;
ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники;
правовой режим результатов интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта;
использование для принятия решений системами искусственного интеллекта вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем искусственного интеллекта).
Такие направления регулирования и указанные в пункте 49 Национальной стратегии основные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта, должны стать основными ориентирами при создании комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта и робототехники.
С учетом экономической и социальной значимости применения технологий искусственного интеллекта и робототехники в различных сферах их разработка и эксплуатация не должны ограничиваться регуляторными мерами, за исключением случаев, связанных с высоким риском причинения вреда жизни и здоровью граждан. Также не допускается применение технологий искусственного интеллекта и робототехники, представляющих явную угрозу обороне страны и безопасности государства.
Для выработки конкретных регуляторных решений требуется использовать риск-ориентированный подход, основанный на оценке размера потенциального вреда указанным ценностям с учетом вероятности его наступления по сравнению с потенциальным положительным эффектом от внедрения технологий искусственного интеллекта и робототехники, необходимости принятия мер по минимизации соответствующих рисков.
Сам факт использования систем искусственного интеллекта и робототехники не должен являться основанием для установления регуляторных ограничений.
Следует поддерживать развитие регулирования, вырабатываемого и приводимого в исполнение силами участников рынка (саморегулирование), включая принятие и использование документов национальной системы стандартизации, кодексов (сводов) этических правил и иных документов саморегулируемых организаций, а также иных инструментов.
Учитывая принципиальную сложность регулируемой сферы правоотношений, для выработки режима регулирования технологий искусственного интеллекта и робототехники требуется активное вовлечение представителей компаний - разработчиков систем искусственного интеллекта и робототехники, научно-исследовательских организаций в процесс экспертной проработки соответствующих нормативных правовых актов.
В дальнейшем может также потребоваться уточнение отдельных норм законодательства в целях нормативного правового регулирования новых видов правоотношений.
II. Общеотраслевые задачи регулирования применения технологий искусственного интеллекта и робототехники
1. Создание механизмов упрощенного внедрения продуктов с использованием технологий искусственного интеллекта и робототехники
Требуется создать возможности для использования специального механизма тестирования (опытной эксплуатации) и последующего внедрения решений в сфере искусственного интеллекта и робототехники. Такой механизм, в свою очередь, должен позволять своевременно и эффективно внедрять разработки без не учитывающих их специфику избыточных административных процедур, без корректировки всего применимого законодательства и с обеспечением необходимого уровня безопасности и контролируемости со стороны государственных органов.
Перспективными инструментами создания такого механизма являются экспериментальные правовые режимы ("регуляторные песочницы"), а применительно к промышленности - также правовой режим полигона общего доступа. Их применение соответствует лучшим мировым практикам и отвечает интересам индустрии. В краткосрочной перспективе требуется принятие соответствующих нормативных правовых актов, обеспечивающих гибкий механизм быстрого создания таких режимов:
в максимально широком круге отраслей;
с возможностью участия в них заинтересованных лиц на недискриминационных условиях;
с возможностью последующего включения в законодательство Российской Федерации по результатам регуляторного эксперимента норм, необходимых для применения соответствующих технологий.
Применение экспериментальных правовых режимов будет востребовано в том числе для таких продуктов и решений, как отдельные системы искусственного интеллекта в здравоохранении, медицинская робототехника, системы искусственного интеллекта и робототехники специального и двойного назначения, системы искусственного интеллекта и робототехники в сфере транспорта и логистики, системы искусственного интеллекта в государственном управлении, отдельные инструменты финансового стимулирования развития сфер искусственного интеллекта и робототехники, системы искусственного интеллекта и робототехники для строительства и топливно-энергетического комплекса.
2. Юридическая ответственность в случае применения систем искусственного интеллекта и робототехники
Наиболее значимыми вопросами применения систем искусственного интеллекта и робототехники в контексте гражданско-правовых отношений являются вопросы гражданско-правовой ответственности за вред, причиненный системами искусственного интеллекта и робототехники. Реальный уровень развития технологий искусственного интеллекта и робототехники не предполагает кардинальных изменений в регулировании института юридической ответственности, однако требует постепенной доработки его отдельных элементов.
Требуется дальнейшая проработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, доработки при необходимости механизмов безвиновной гражданско-правовой ответственности, а также возможности использования способов, позволяющих возместить причиненный действиями систем искусственного интеллекта и робототехники вред (например, страхование ответственности, создание компенсационных фондов и др.).
