ПНСТ 845-2023 Искусственный интеллект. Техническая структура федеративной системы машинного обучения

     5 Общее представление о федеративной системе машинного обучения

В федеративных системах МО несколько участников совместно используют зашифрованные данные и/или обмениваются параметрами моделей с целью обеспечить безопасность данных и защиту персональных данных. Для обеспечения наиболее эффективного использования данных зашифрованные данные каждой стороны и/или предоставленные ею параметры моделей собираются и используются для обучения модели федеративного МО. Модели федеративного МО продолжают обучаться для самооптимизации, а участники или иные лица, авторизованные на доступ к модели, могут вводить информацию для получения результатов или прогнозов на основе совместно используемых значений. Федеративные системы МО могут, например, применяться (не ограничиваясь ими) в мультимедийных и игровых приложениях.

Федеративное МО может использоваться в централизованном и децентрализованном режимах. Централизованный режим - это решение для многостороннего совместного использования зашифрованных данных и для обучения на результатах слияния данных в доверенной среде исполнения. Децентрализованный режим - это решение для совместного использования и обучения несколькими участниками, основанное на безопасных многосторонних вычислениях, при котором осуществляется обмен неоригинальными данными, не раскрывающими персональные данные.

При использовании централизованного режима сбор данных и обучение на них осуществляет доверенная третья сторона. Данный режим можно применять в тех ситуациях, когда участники готовы обмениваться данными, не содержащими персональные данные, а стоимость доступа к услугам низкая. Его также можно применять в тех случаях, когда требуется проведение сложных вычислений. В централизованном режиме могут также поддерживаться любые алгоритмы, развертывание кластера и централизованные вычисления.

При использовании децентрализованного режима применяют методы безопасных многосторонних вычислений для обмена данными или параметрами моделей с целью выполнения задач обучения. Данный режим можно применять в тех ситуациях, в которых участникам требуется строгая защита персональных данных или когда у участников имеются большие объемы локальных данных, так как в рамках обучения модели МО стороны обмениваются параметрами моделей, а не исходными данными. Безопасные многосторонние вычисления подходят в случае простых вычислений, так как они способны поддерживать меньше алгоритмов по сравнению с решением на основе доверенной среды исполнения.