ПНСТ 945-2024

ПРЕДВАРИТЕЛЬНЫЙ НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

Искусственный интеллект

ТЕХНИЧЕСКАЯ СТРУКТУРА ДЛЯ РАЗДЕЛЕНИЯ И СОВМЕСТНОГО ИСПОЛНЕНИЯ МОДЕЛИ ГЛУБОКОЙ НЕЙРОННОЙ СЕТИ

Artificial intelligence. Technical framework for deep neural network model partition and collaborative execution

ОКС 35.020

Срок действия с 2025-01-01

до 2028-01-01

Предисловие

1 РАЗРАБОТАН Научно-образовательным центром компетенций в области цифровой экономики Федерального государственного бюджетного образовательного учреждения высшего образования "Московский государственный университет имени М.В.Ломоносова" (ФГБОУ ВО МГУ имени М.В.Ломоносова) и Обществом с ограниченной ответственностью "Институт развития информационного общества" (ООО "ИРИО")

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 3 октября 2024 г. № 54-пнст

4 Настоящий стандарт разработан с учетом основных нормативных положений международного документа ITU-T F.748.20 (12/2022)* "Техническая структура для разделения и совместного исполнения модели глубокой нейронной сети" (ITU-T F.748.20 (12/2022) "Technical framework for deep neural network model partition and collaborative execution", NEQ)

________________

* Доступ к международным и зарубежным документам, упомянутым в тексте, можно получить, обратившись в Службу поддержки пользователей. - Примечание изготовителя базы данных.     

Правила применения настоящего стандарта и проведения его мониторинга установлены в ГОСТ Р 1.16-2011 (разделы 5 и 6).

Федеральное агентство по техническому регулированию и метрологии собирает сведения о практическом применении настоящего стандарта. Данные сведения, а также замечания и предложения по содержанию стандарта можно направить не позднее чем за 4 мес до истечения срока его действия разработчику настоящего стандарта по адресу: 119991 Москва, Ленинские горы, д.1, и в Федеральное агентство по техническому регулированию и метрологии по адресу: 123112 Москва, Пресненская набережная, д.10, стр.2.

В случае отмены настоящего стандарта соответствующая информация будет опубликована в ежемесячном информационном указателе "Национальные стандарты" и также будет размещена на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Процесс логического вывода для модели глубокой нейронной сети, как правило, требует больших объемов вычислительных ресурсов и памяти. В связи с этим самостоятельное исполнение модели глубокой нейронной сети оконечными устройствами представляется сложной задачей. Эффективным способом реализации совместного исполнения глубокой нейронной сети посредством оконечных и периферийных устройств является разделение модели глубокой нейронной сети, которое может снизить задержку исполнения и одновременно улучшить использование ресурсов. Целью настоящего стандарта является определение технической структуры разделения и совместного исполнения модели глубокой нейронной сети. Во-первых, необходимо заранее спрогнозировать общую задержку логического вывода, учитывая текущее состояние системы в соответствии с различными стратегиями разделения глубокой нейронной сети. Затем, опираясь на вычислительные возможности оборудования, состояние сети и свойства модели глубокой нейронной сети, необходимо выбрать подходящие места для разделения и стратегию совместного исполнения. На последнем этапе реализуется совместное исполнение модели и оптимизируется распределение ресурсов.

     1 Область применения

Настоящий стандарт направлен на определение технической структуры разделения и совместного исполнения модели глубокой нейронной сети (ГНС), включая создание модели прогнозирования задержки, разработку стратегии разделения модели ГНС, оптимизацию распределения ресурсов и совместное исполнение модели для соответствия требованиям логического вывода модели ГНС и обеспечения эффективного использования ресурсов между оконечными устройствами и периферийным устройством.

Область применения настоящего стандарта включает:

- подходы к разделению и совместному исполнению модели ГНС,

- создание модели прогнозирования задержки для разделения модели ГНС,

- разработку стратегии разделения модели ГНС,

- совместное исполнение модели ГНС после ее разделения.

     2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ Р 71476 Искусственный интеллект. Концепции и терминология искусственного интеллекта

ГОСТ Р 34.13-2015 Информационная технология. Криптографическая защита информации. Режимы работы блочных шифров

ПНСТ 845-2023 Искусственный интеллект. Техническая структура федеративной системы машинного обучения

Примечание - При использовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

     3 Термины и определения

В настоящем стандарте применены термины по ГОСТ Р 71476, а также следующие термины с соответствующими определениями:

3.1 логический вывод модели глубокой нейронной сети (deep neural network model inference): Процесс исполнения всех слоев глубокой нейронной сети последовательно, и после завершения последнего слоя глубокой нейронной сети получение результата логического вывода.

3.2