Я ведущий специалист в Отделе исследований и разработки АО «Гринатом», Валерий Поздняков. Делюсь с вами своим исследованием, кто же такой интеллектуальный агент. Будем разбираться в терминологии и выясним, кто же имеется в виду под этим термином.
Это первая статья из серии, в которой я буду разбирать терминологические тонкости наших ИИ-коллег.
Самое раннее упоминание интеллектуального агента (ИА) обнаружилось в ГОСТ Р 57127-2016/PAS 2001:2001 «Менеджмент знаний. Руководство по наилучшей практике», введенном в действие 1 июня 2017 года. Если мысленно помолодеть, почувствовать себя в обстановке 9-летней давности и прочитать нижеследующий текст глазами того времени, то… странно! Термин есть, а дефиниции – нет. Что там сказано:
«6.3.4 Новые тенденции в развитии менеджмента знаний
…
Знания, поддерживаемые интеллектуальными агентами
Этот тип развития программного обеспечения создает новые взаимоотношения между человеком и технологиями искусственного интеллекта (AI), предназначенными для систематического создания и сбора знаний»
Что мы тут видим: ИА – это:
▪ ПО,
▪ про взаимодействие с человеком,
▪ про «создание знаний» (вероятно, подразумеваются синтез и генерация) и про «сбор знаний» (поиск и обработка).
Немного, но и немало. И это 2017 год!
То, что можно назвать определением термина, появилось только в 2021 году в ГОСТ Р 59277-2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта» (дата введения в действие: 1 марта 2021 года):
«3.4 агент (agent): Физический/программный объект, который оценивает собственное состояние, состояние других объектов и окружающей среды для выполнения своих действий, включая прогнозирование и планирование, которые максимизируют успешность, в том числе при неожиданном изменении оцениваемых состояний, достижения своих целей»
Сразу зафиксируем следующее: агент не обязательно должен быть интеллектуальным! Однако, в этом случае, интеллектуальной должна быть управляющая (координирующая) система. Может быть, вышеприведенное определение поэтому и звучит просто как «агент», без намека на интеллект. Тут стоит задуматься: если в каком-нибудь нормативном тексте упоминается агент – то он какой, «умный» или не очень?
Вернемся к определению. Сразу видим, что агент может иметь и физическое воплощение. Видимо, речь о роботах, робототехнических и киберфизических системах.
Далее, агент должен уметь оценивать: 1) свое состояние, 2) состояние других объектов и 3) состояние окружающей среды. Под «другими объектами» надо понимать «зеленых» союзников, с которыми можно и нужно взаимодействовать, тогда как «красные» оппоненты – это часть окружающей среды, которой нужно опасаться и иногда стрелять в ту сторону.
Но оценка состояний агенту необходимы не просто так, а для того, чтобы успешно выполнять свои действия и достигать свои цели.
Как видим, здесь пока нет ни слова про интеллектуальную начинку и не упоминается взаимодействие с человеком. Еще заметим, что из определения не следует вывод о том, что агент всегда часть чего-то большего. Здесь он как бы сам по себе, автономен и самостоятелен.
Обратим внимание еще на один пункт ГОСТа:
«3.39 распределенная система (distributed artificial intelligence): Распределенная система обеспечивает решение проблемы управления на базе распределенной системы знаний в отличие от многоагентных систем, где базы знаний отдельных агентов взаимодействуют»
Здесь показалось важным упоминание наличия собственной базы знаний у агента.
Из следующего упоминания ИА следует, что он-таки может быть автономной и самостоятельной не частью чего-то еще – см. Приложение «Перечень технологических задач, на реализацию которых может быть направлен проект в сфере искусственного интеллекта» к Критериям определения принадлежности проектов к проектам в сфере искусственного интеллекта, утв. Приказом Минэкономразвития России от 29.06.2021 № 392:
«60. Разработка автономных интеллектуальных агентов, в том числе на основе обучения с подкреплением, а также мультиагентных систем с искусственным интеллектом»
Налицо противопоставление отдельных ИА и мультиагентных систем с ИИ! А оговорка про обучение с подкреплением пока единственное, что позволяет отличить интеллектуального агента от неинтеллектуального. Казалось бы, очевидная вещь – ИА использует технологии ИИ. Но прямо об этом не говорится.
Уже ближе к нам, с 01.02.2024г., согласно внесенным в Федеральный закон «О защите прав и законных интересов физических лиц при осуществлении деятельности по возврату просроченной задолженности и о внесении изменений в Федеральный закон «О микрофинансовой деятельности и микрофинансовых организациях» от 03.07.2016 № 230-ФЗ изменениям получила свое начало следующая дефиниция «автоматизированного интеллектуального агента»:
«Программное обеспечение, в котором применяются системы генерации и распознавания речи, позволяющие поддерживать определенные кредитором и (или) представителем кредитора сценарии разговоров с должником или третьим лицом в зависимости от содержания диалога, и которое предназначено для отправки кредитором и (или) представителем кредитора должнику или третьему лицу голосовых сообщений, передаваемых посредством сетей связи общего пользования или с использованием сайтов и (или) страниц сайтов в информационно-телекоммуникационной сети “Интернет” (далее – сеть “Интернет”), информационных систем и (или) программ для электронных вычислительных машин, предназначенных и (или) используемых для приема, передачи, доставки и (или) обработки электронных сообщений пользователей сети “Интернет”»
Закон узкоспециальный, поэтому определение вряд ли можно обвинить в широте и всеохватности. Здесь ИА стал только программой (наверное, это хорошо, потому что вряд ли будет лучше, если в дверь должнику вместо коллектора, пусть и бандитской наружности, постучится двухметровый робот, который или дверь сможет легко выломать в случае чего, или «вежливо» стучаться 24х365, сводя с ума и пугая должника и всех соседей), простым «диалоговым» ИИ: генерация и распознавание речи, оценка содержания диалога и реакция на слова собеседника, рассылка голосовых сообщений.
При этом через призму работы с речью получаем еще одно подтверждение, что интеллектуальность агента определяется использованием технологий ИИ.
ПНСТ 953-2024 «Системы искусственного интеллекта. Классификация алгоритмов и вычислительных методов» со сроком действия с 1 января 2025 года до 1 января 2028 года в части понятия «агент» ссылается на вышеуказанный ГОСТ Р 59277-2020. Но есть тут один интересный пункт 5.2.3 о координации агентов:
«Некоторые системы искусственного интеллекта координируют действия агентов. Агенты также могут сами по себе быть системами искусственного интеллекта, но в этом нет необходимости. Поведением агента может управлять множество одновременных ограничений, включая статические или динамические способы. Координация может проявляться либо явно посредством прямого взаимодействия между системами, либо опосредованно путем реакции на изменения в окружающей среде»
Кому что показалось, а лично мне здесь обозначились следующие агентские структуры или схемы:
▪ отдельно стоящий в окружающем мире ИА, эдакий синглтон, за которым не просматривается никакой управляющей или координирующей системы;
▪ несколько ИА, за которыми тоже нет ничего единого управляющего/координирующего, но которые сами по себе способны к координации совместных действий для наилучшего достижения общих (или обобщенных в ходе взаимодействия) целей;
▪ один или несколько неИА, за которыми совершенно точно должна стоять интеллектуальная управляющая и/или координирующая система;
▪ один или несколько ИА с интеллектуальным «кучером» за спиной.
Первая схема вполне рабочая, просто агент отправлен решать задачу человеком директивно. Вторая и третья схемы мне кажутся типовыми и чаще всего применимыми. А вот к четвертой есть вопрос: интеллектуальная система, названная «кучером», – она разве не может считаться просто еще одним агентом со специфическими функциями? Иными словами, выделять четвертую схему не требуется, все можно уместить во вторую.
Следующий документ можно считать эпохальным, поскольку им была формализована целая парадигма ИА как системы ИИ. Встречаем: ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022) «Искусственный интеллект. Концепции и терминология искусственного интеллекта», начало действия – 1 января 2025 года. Для начала еще одно определение интеллектуального агента:
«3.1.1 агент ИИ (AI agent): Автоматически действующий объект, который воспринимает свое окружение, реагирует на него, а также предпринимает действия для достижения своих целей»
Если сравнить с ГОСТ Р 59277-2020:
– пропала детализация «физический/программный», остался просто «объект»,
– добавилась характеристика «автоматически действующий»,
– оценка состояний, в т.ч. окружающего мира, заменена на восприятие окружения (можно трактовать так: исключена оценка собственного состояния),
– добавлена оговорка про реагирование на окружение,
– дано указание на то, что агент предпринимает действия для достижения своих целей.
В целом и общем описание ИА «как структура» в ГОСТ Р 59277-2020 заменено на описание ИА «как актор» в ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022).
Но! Здесь дано определение простому агенту, хотя заветная аббревиатура «ИИ» и присутствует. Кажется, мы наблюдаем лакуну.
Непосредственно описание парадигмы рассматривать не будем, т.к. для этого лучше изучать первоисточник, в качестве которого указан следующий: Stuart Russell and Peter Norvig. Artificial Intelligence: A Modern Approach (3rd Edition) (Essex, England: Pearson, 2009). При этом в рунете встречаются первое (1997г.), второе (2006г.) и четвертое (2021г.) русскоязычные издания. Почему в российском стандарте дана ссылка на единственное в данном ряду непереведенное 3-е издание – неизвестно. Хотя это-то как раз известно: ГОСТ “переводной” (с ИСО/МЭК 22989:2022), но почему третье? Ведь четвертое, 2021-го года, гораздо ближе и к исходному 2022 году и к русскоязычному 2024-му году?..
Собирая все в один список, получаем агента, представляющего собой:
▪ объект (несмотря на то, что детализации нет, наверняка «агентом-объектом» не может быть ничто такое, что не может действовать, т.е. не является активным актором, способным изменить окружающий мир; например, математический объект, являющийся какой-нибудь моделью ИИ, в этом смысле сам по себе не может быть агентом),
▪ приспособленный к синтезу, генерации и поиску, а также обработке данных (говоря обобщенно: приспособленный к работе с данными),
▪ способный воспринимать окружающую среду (опционально – оценивать свое внутреннее состояние),
▪ имеющий собственную базу знаний или доступ к общей с другими агентами базе знаний,
▪ способный к координации с другими агентами (если агент интеллектуальный) либо координируемый интеллектуальной системой (если агент неинтеллектуальный),
▪ действующий автоматически (в т.ч. полностью автономно),
▪ предпринимающий активные действия для достижения своих целей (рефрен «объекта»),
▪ использующий технологии ИИ (чтобы получить приставку «интеллектуальный»).
Касаемо последнего пункта (да, это отсебятина и самоуправство) – как можно попробовать решить проблему отличия ИА от неИА? Вообще для внешнего наблюдателя не имеет значения, где размещена интеллектуальная начинка: внутри агентов или внутри координирующей их интеллектуальной системы. В любом случае агенты вовне проявляются, как интеллектуальные сущности. С этой точки зрения любой агент – интеллектуален.
С понятием «агент» в сопряжении с физическими роботами связана небольшая «нормативно-детективная» история:
01.01.2024г. были введены в действие сразу несколько государственных стандартов, касающихся роботов и робототехнических устройств, в частности ГОСТ Р 60.0.0.9-2023, ГОСТ Р 60.0.0.10-2023, ГОСТ Р 60.0.0.11-2023 и ГОСТ Р 60.0.0.12-2023 (все – об онтологиях робототехники). В каждом есть одно и то же определение термина «агент»: «Что-то или кто-то, способный действовать самостоятельно, и производить изменения в мире», со ссылкой на ещё один введённый с этой же даты документ – ГОСТ Р 60.0.0.8-2023 (тоже об онтологиях). Как видно, дефиниция довольно общая, ни разу не про ИИ.
Но был ещё один стандарт в том же наборе – ГОСТ Р 60.0.0.13-2023, в котором понятие «агент» было сформулировано качественно по-другому:
«Физический/программный объект, который оценивает собственное состояние, состояние других объектов и окружающей среды для выполнения своих действий, включая прогнозирование и планирование, которые максимизируют успешность, в том числе при неожиданном изменении оцениваемых состояний, достижения своих целей»
Знакомо? Это из ГОСТ Р 59277-2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта».
Итак, в один день начинают действовать шесть документов, в пяти из которых одно определение «агента» (неинтеллектуальное), а в одном – другое (соответственно, интеллектуальное). Вот полное название стандарта с отличающимся определением: «Роботы и робототехнические устройства. Групповое управление роботами. Общие положения, основные понятия, термины и определения». Таким образом, с точки зрения разработчиков стандартов для обычного функционирования роботов интеллект особо не нужен, но как только обозначилась задача, связанная с групповым взаимодействием, на сцену выходит интеллектуальный агент.
Автор: Rosatom
