ГОСТ Р 71540-2024 (ИСО/МЭК 5392:2024) Искусственный интеллект. Эталонная архитектура инженерии знаний

     5.3 Взаимоотношения между инженерией знаний и системами искусственного интеллекта

Согласно функциональному представлению системы ИИ, приведенному в ГОСТ Р 71476, эти системы используют существующую информацию или результаты предыдущего обучения для построения модели, которая аппроксимирует поведение окружения, чтобы делать прогнозы в отношении будущего поведения.

Благодаря обучающим данным и непрерывному обучению с участием включенного в контур человека модель машинного обучения можно курировать и регулярно оценивать, обновлять и одобрять. Инженерия знаний предоставляет дополнительные возможности для сбора данных, обработки данных для извлечения информации, а также для хранения и обмена данными, информацией или знаниями.

Система ИИ с инженерией знаний может приобретать знания непосредственно из информации, извлеченной из данных, и в дальнейшем создавать базу знаний. В процессе обработки данных знания из базы знаний могут применяться для проверки и сопровождения этого процесса. В то же время, базу знаний можно поддерживать, обновлять и проверять путем:

- вычисления или выведения новых знаний на основе существующих знаний;

- пересмотра и обновления знаний с последующим одобрением инженером в процессе их курирования или включения в уже существующие знания;

- открытия новых знаний в процессе обработки данных и информации.

Кроме того, знания из базы знаний могут быть использованы, чтобы:

- управлять входными данными, например, передавать сведения о формате данных, устранять ошибки в данных, дополнять отношения между данными;

- контролировать и объяснять процесс обучения или результат обучения;

- участвовать в процессе обучения в качестве обучающего набора.

В построенной базе знаний системы ИИ есть два типа знаний:

- знания о методах, в том числе о моделях машинного обучения и других моделях, основанных на подходах, которые включают в себя управление данными и субъективный опыт, полученный от эксперта;

- знания о предметной области в виде понятий, отношений, сущностей, извлеченные из текстов, видео и т.д., полученные из входных данных или информации, а также из основополагающих закономерностей, отражаемых, например, в физических или биологических моделях. Знание о содержании может быть использовано для контроля и объяснения процесса и результатов обучения, а также для помощи в улучшении качества входных данных и информации. В то же время знание о содержании может быть использовано для улучшения процесса понимания, самих человеческих знаний и интуиции, а также может быть передано другим системам ИИ или повлиять на них.

Функциональное представление системы ИИ воспроизведено в верхней части рисунка 2, а связь инженерии знаний с системами ИИ показана в нижней части рисунка 2.