В прошлом году у меня вышла небольшая заметка с рассуждениями на тему потенциала использования аналитических систем на базе ИИ для задач прогнозирования и форсайта с очень сдержанными оценками его реальных возможностей.
Спустя год хочу вернуться к этой теме: сдвиги в ИИ очень динамичны, в центре внимания сейчас агентский подход и мультиагентные системы, которые уже достаточно крепко стоят на ногах.
Одновременно с этим, сложилась и закрепилась уже практически шаблонная риторика относительно «правильного» использования ИИ в работе аналитика: не доверяй чату джипити, будь экспертом, ставь правильные постановки, валидируй результат и будет тебе счастье (договоримся, что здесь и далее под «чатом джипити» мы понимаем любой ИИ, условно пригодный для аналитической работы). И вся эта логика называется очень модным словом «гибридный подход» или даже «гибридный интеллект». Подчеркну, что под данным понятием я имею ввиду именно логику, а не конкретное техническое решение.
Давайте разберемся, насколько такая концепция оправдана и действительно ли МАС качественно меняют ситуацию на сцене ИИ-аналитики для задач форсайта, прогнозирования и принятия решений.
Гибридный интеллект: красивая формула для операционки
Начнем с так называемой гибридности «человек-машина-человек». Подход красивый и стройный, но не является тем не менее продуктовой, аналитической и управленческой инновацией.
Примечательно, что сама по себе концепция гибридного интеллекта, предложенная, например, в статье BCG «Data Alchemy Can Give Decision Making the Golden Touch» 2021 года, т.е. задолго до расцвета идеи о всемогуществе ИИ, была лишена той упрощённой прямолинейности, которая сегодня закрепилась в профессиональном менталитете. Авторы видели в тандеме человека и алгоритма итеративный процесс, где каждая из сторон отвечает за свой уникальный вклад, а не просто перекладывает зоны ответственности. Однако со временем экспертно-аналитическое сообщество незаметно для себя адаптировало эту модель под собственные представления о комфортной работе. В ней закрепилось и стало почти догмой искажённое представление: аналитику достаточно загрузить в ИИ некий набор данных (которые он субъективно считает «качественными»), чтобы на выходе получить готовый набор «одинаково хороших» вариантов решения, из которых останется лишь выбрать любой, не боясь ошибиться. Тем самым концепция «гибридного интеллекта» стала удобным инструментом не столько для повышения качества решений, сколько для легитимизации снятия с эксперта значительной доли профессиональной нагрузки и ответственности за конечный результат.
Но дадим ей право на существование пусть даже в сегодняшней трактовке. Сегодня подход базируется, по сути, на задаче необходимости преодоления различного рода слабых мест и недостатков ИИ, по типу фэйков и галлюцинирования. Мы говорим: «ИИ, найди мне данные, какие-то факты, а я как эксперт к ним избирательно отнесусь и что-то решу». Это очень хорошо и очень правильно для задач, решение которых зависит только и лишь от наличия данных и скорости и качества их обработки, т.е., другими словами, для повседневных задач, для операционной аналитики – ознакомиться с ключевыми тенденциями на старте какого-то тематического проекта, структурировать для себя рыночные сегменты, понять главных игроков. Это работает и не требует отдельного разбора: ИИ используется как поисковик для экономии времени аналитика, с галлюцинациями боремся RAG-подходом и дообученными LLM (если домен уж очень специфичный).
Но форсайт, да и прогнозирование в целом – это на порядок более сложная деятельность, и здесь нельзя не учитывать основной принцип этой деятельности, который заключается в том, что будущее не предопределено, оно формируется сегодня, прямо сейчас, активными участниками общества. Что это значит с точки зрения аналитики? Что мы не решаем задачу предсказывания, предугадывания (для чего как раз и нужны данные, чистые данные, без фэйков, галлюцинаций и в достаточном объеме, чтобы «продлить» прошлый опыт на перспективу будущего). Форсайт как деятельность предполагает конструирование будущего. Если совсем упрощать, то форсайт – это не аналитика. И это не может не накладывать свои требования к ИИ-системам, которые должны быть адаптированы для форсайта, уж если их так необходимо задействовать.
Насколько растиражированная гибридная модель успешно функционирует уже даже в этих реалиях?
Почему гибрид спотыкается: три причины
-
Форсайт более устойчив, назовем это так, к галлюцинированию ИИ, если сделать эту историю управляемой. В форсайте нет правильного и неправильного будущего (см. выше основной принцип), никто из нас де-факто не знает, как должно выглядеть «правильное будущее». Галлюцинацию ИИ мы опознаем только потому, что знаем «правильный» ответ или хотя бы его границы, что снова отсылает нас к операционной аналитике (правильный ответ есть, я просто экономлю время на его поиск). Форсайт-мышление будет предполагать открытое отношение к любой выдаче ИИ и восприятие любого ответа как гипотезы, как возможной из составляющих большой картины будущего. Управляемость процесса – про воронку перехода к самым ценным и полезным идеям от ИИ. Именно ценным, а не «правильным».
-
Максимальная реальная ценность для форсайта все же не столько аналитические инструменты, к числу которых мы и относим ИИ-системы, сколько живые эксперты с доменной экспертизой, которые как раз и могут стать проводниками тех самых нетривиальных картин будущего. Известная проблема с экспертами – их мало, они недоступны, их экспертиза не формализована. Что это означает для процесса? Что приоритет с поиска информации в источниках (то, что делает ИИ в гибридном подходе) смещается в сторону процедур, направленных на то, как вытащить из экспертов эту самую экспертизу. Ответ – правильным образом их об этом спрашивать. И это отдельный формат аналитической работы, где ИИ все еще остается лишь ассистентом модераторов таких дискуссий, ускоряя и автоматизируя отдельные этапы. Более того, процедуры эти построены на том, что эксперты реагируют на аргументы друг друга. ИИ в гибридной модели этого не делает: он выдаёт сводку фактов. Все это усугубляется в ситуации узких доменов.
Что нам это дает в совокупности? Возвращаясь к продвигаемой интегративной модели, очень вероятна ситуация, когда ИИ выдает одно умозаключение, а человек-эксперт с ним не согласен. И если гибрид не имеет в своей основе механизма работы с такими ситуациями, способа уравновешивания двух мнений, то в чью сторону будет отдан приоритет? Традиционно и логически – в пользу экспертов.
Ну и заключительный тезис здесь в том, что сам процесс форсайта, как известно, непрямолинеен. Т.е. в реальности эта работа никогда не выглядит как умный экспертный синтез данных и фактов из аналитической систем, пусть даже самой продвинутой. Самые правильные цифры, списки трендов и технологий не дадут мгновенного озарения насчет будущего.
Резюмируем:
-
галлюцинации ИИ для форсайта – это скорее преимущество
-
знания экспертов первичнее аналитических инструментов для их обработки
-
данные в любом количестве и качестве не гарантируют качество итогового результата
Как итог: модель «человек-машина-человек» – красивая, но формальная. ИИ рассматривается как формальный поисковик фактов и создатель «креативных» инсайтов на старых данных. Человек – как формальный компилятор всех этих аналитических артефактов, магическим образом порождающий выводы и стратегические рекомендации.
В то время как форсайт в реальности это очень подвижная, живая методология. Именно поэтому ее так сложно автоматизировать.
Кажется, что здесь сильнее чем в любой иной аналитической деятельности важно приблизить работу ИИ к принципам работы «естественного интеллекта», который умеет:
-
сомневаться
-
не быть формалистом – не предлагать правильные на бумаге соображения, неприменимые к жизни
-
учитывать контекст жизни – те же «стратегические решения», принимаемые в реальности от силы раз в несколько лет, НЕ принимаются не по причине отсутствия аналитики, а потому что на них может элементарно не быть политической воли + куча других факторов за границами «академически правильного консалтинга»
Что с этим делать? Агенты — но не те, что сейчас
И вот именно здесь, казалось бы, на помощь как раз и может приди агентский подход и конкретно мультиагентные системы.
Но и здесь – тот же формализм. Агенты в аналитике сегодня это что? Это функции. Визионер трендов, поисковик рынков, оценщик рисков. А форсайту, как мы поняли выше, нужны люди и живой диалог. Может, нужные нам агенты – это не функционально-ориентированные LLM и ML-модели, а воплощение отдельной личностной экспертной единицы, максимально имитирующей «естественный интеллект», который складывается из доменных знаний и определенного настроя, майндсета – позитивное восприятие будущего или наоборот критический настрой. Подобный инструмент, кстати, есть в маркетинге, часто используемая в маркетинге инновационных продуктов и NPD – 6 шляп де Боно, т.е. это опять же не новинка. А россыпь таких агентов, при условии, что они могут взаимодействовать друг с другом без верховного агента диспетчера – не только договариваться и выводить среднее, но и конфликтовать, спорить – дадут собой воспроизведение важнейшего принципа форсайта, который заключается в живом диалоге носителей знаний. Специально не хочу говорить, что это «прототип автоматизации экспертных панелей», хотя по сути это он и есть.
Но пока такие системы существуют скорее как концепция. И главный вопрос не «когда ИИ научится форсайту?», а «готовы ли мы доверить конструирование будущего агентам, которых невозможно обучить тонким моментам методологии?». Для форсайта нужны не факт-чекеры, которые ставят себя выше ИИ, а агенты с высокоэкспертной ролью, экспертным сознанием и правом выйти за рамки привычной для аналитики нейтральности, правом на субъективизм. Какова будет роль человека в таких системах – это отдельное размышление.
Автор: rowtheboat8
