ИИ сегодня повсюду и кажется, что все о нем все знают. Что он может и что нет. Что такое ИИ-агенты, оркестрация и как с этим бороться. Если приглядеться повнимательнее, то мы увидим, что речь главным образом идет о LLM+ML+RAG в качестве инструмента обращения к каким-либо базам данных. Возможно, это сильно упрощенно, но суть от этого не меняется.
К этому сегодня добавились дискуссии о суверенных и национальных моделях. Если сегодня набрать «виды ИИ» в поисковой строке, то первое что выйдет это список моделей, сгруппированных по типам: текстовые, генерация изображений, аудио. И на этом все.
Однако, это все еще довольно узкое понимание вопроса. Например, философское понимание проблематики включает в себя большое количество разного рода концепций и понятий. Например, это и проблематика понимания сильного/слабого ИИ, концепции и основанные на них программы исследований «хадеггерианского» и «кантианского» ИИ. Существует разделение технологических подходов, основанных на коннекционистских и символьных методах. Существует концепция воплощенного ИИ. И это далеко не полный список.
Мне кажется, что представление, пусть даже общее, хотя бы о части из всего многообразия концепций, может быть полезно для более взвешенной оценки того, что говорят разного рода ИИ-евангелисты, лидеры и руководители компаний в области ИИ. В конце концов, это необходимо для понимания того, что прописано в широко обсуждаемом законе об ИИ.
Стоит отметить, что проблемы начинаются с самого начала. Уже древние греки поняли, что все не так просто с нашим сознанием. В частности, с тем, откуда берутся новые идеи. Как минимум, говорит Платон, необходимо разделять опыт и саму по себе способность мышления. Более того, хотя само по себе созерцание может многое сказать о мире, а принципы индукции были известна уже Сократу, но вот то как рождаются новые идеи оставалось загадкой. Отсюда возникает мир идей Платона. Даже Аристотель, критикуя Платона не смог отказаться от мира идей в полной мере. Ему все равно понадобился ум-перводвигатель как чистая и абсолютная форма, которая есть первопричина всего.
Позднее, уже в средние века Фома Аквинский приходит к выводу, что и рационального мышления недостаточно. Может ли логика породить новые идеи? Ответ-нет. Следовательно, необходимо разделять разум и рассудок. Рассудок (ratio) – наблюдатель и вычислитель, разум (intellectus) – есть первооткрыватель нового. Формальной логики недостаточно для познания истин.
Кант строит триаду созерцание-рассудок-разум, где только разум способен к синтезу нового знания.
Электронная энциклопедия Института Философии РАН дает такое определение:
ИНТЕЛЛЕКТ (лат. intellectus – ум, рассудок, разум) – в общем смысле способность мыслить; в гносеологии – способность к опосредованному, абстрактному познанию, включающая в себя такие функции, как сравнение, абстрагирование, образование понятий, суждение, умозаключение; противостоит непосредственным видам познания – чувственному и интуитивному; в психологии – рациональное, подчиненное законам логики мышление; противостоит нерациональным сферам психики – эмоциям, воображению, воле и т.д.
Т.е. даже сегодня остается неоднозначность: если для гносеологии интеллект включает в себя способность к образованию новых понятий, то в психологии – все это вынесено за пределы рационального: воображение, воля и т.д. выносится за пределы интеллекта. Воображение и воля не рациональны. А значит у нас нет возможности это алгоритмизировать. Возможно, в будущем математика решит эту проблему, но сегодня решения нет.
Отсюда первый вопрос: что сегодня можно включить в программу исследований в области ИИ? Речь идет не о том, что мы бы хотели включить, а что возможно в реальности. Можно ли воняйте и область исследований включить разум? И да, сегодня есть много попыток обойти этот вопрос. Например, идеи эмерджентизма: если смешать вместе много-много фактов, то в этом «бульоне» рано или поздно зародится разум. Но это – просто вера и не более того.
Не менее драматично обстоят дела с понятием «сильный» ИИ. Итак, определив, что рассудок и разум не одно и то же, принимая в расчет факт отсутствия хоть какой-то модели, объясняющей деятельность разума (хотя бы в отношении механизмов производства новых понятий), мы с неизбежностью должны ограничить область того, что мы с технической точки зрения вообще можем смоделировать. Попытки уже XX века упростить понимание интеллекта и разума только уводят в сторону. Так биологическое понимание интеллекта как «возникшего в процессе эволюции вида приспособленческой деятельности организма» никак не добавляют понимания того, как происходит генезис нового знания. Так же, как и данное Джеймсом определение цели мышления через выбор средств для осуществления планов и намерений.
Что мы имеем сегодня для понимания сильного и слабого ИИ? Есть определение сильного ИИ, данное Серлем еще в 80-х годах, как о компьютерной системе, которая не просто моделирует человеческий разум, а в буквальном смысле сама обладает разумом и сознанием в том же смысле, что и человек.
Что мы имеем в законодательстве РФ? Там нет понятия «сильный ИИ». Однако, там есть «большая фундаментальная модель ИИ», которая:
-
содержит не менее 1 млрд параметров;
-
способна выполнять широкий круг интеллектуальных задач на уровне, сопоставимом с человеком или превосходящем его;
-
может служить основой для создания или доработки других программных продуктов.
Т.е. мы видим все тот же пассаж об «уровне, сопоставимом с человеком» в решении интеллектуальных задач. А есть ли там определение интеллекта? Его нет. Есть скрытая отсылка к тестам Тьюринга, относительно надежности которых сломано немало копий.
В общем, оно очень сильно напоминает серлевское… Так что же понимать под «сильным» ИИ? А что понимать под «большой фундаментальной моделью»? Ведь понимать это необходимо с юридической педантичностью, классифицировать с юридически значимыми последствиями…
Иногда мне кажется, что серьезные исследования в области искусственного интеллекта закончились где-то на рубеже конца 80-х начала 90-х. Вначале бум вокруг нейросетей, а затем и машинного обучения в его современном представлении практически полностью остановили фундаментальные исследования в этой области. В соответствии с теорией Куна наступил период нормальной науки. Мы пытаемся из LLM/ML выжать все что можно, пытаясь приспособить во все возможные места.
И только теперь, в середине 2020-х вновь стал появляться интерес к чему-то за пределами LLM/ML. Я писал об этом в своих прошлых статьях, поэтому останавливаться на этом отдельно здесь не буду.
Однако, стоит остановиться хотя бы на двух технологических подходах. На коннекционистских и символьных методах.
Коннекционизм. Сам по себе термин возник еще в далеком 1898 году. Американский психолог Эдвард Торндайк стал описывать обучение как процесс образования связей (соединений) между стимулами и реакциями (S-R bonds). В 1943 году Уоррен Маккаллок и Уолтер Питтс создают первую логическую модель искусственного нейрона, заложив математические основы. С тех пор нейросети прошли огромный путь. Единственное что стоит здесь отметить, так это наличие как минимум 4-х фактов, которые должны, как мне кажется, учитываться при оценке возможностей данной технологии:
-
Ничего по своей сути не поменялось со времен Торндайка и мы все еще говорим об обучении как о создании сети связей. Т.е. о комбинаторике.
-
Успех нейросетей во многом обязан резкому росту производительности графических карт и накопленному за годы существования компьютеров огромного массива оцифрованных текстов, изображений и аудиофайлов.
-
Низкая удельная эффективность нейросетевого подхода уже привела к узкому горлышку нехватки вычислительных мощностей.
-
Эмерджентизм, как гипотеза о рождении новых свойств, прежде всего разумного поведения, основываясь на принципе «количество в качество» не имеет под собой никакого научного обоснования.
Символьные методы (символический ИИ). На сегодня является, пожалуй, одним из главных конкурирующих технологических подходов. И самыми забытыми в эпоху нейросетевого бума. Лучше всего о возникновении символьных методов высказался Хьюберт Дрейфус в одном из своих интервью:
Когда я преподавал в Массачусетском технологическом институте в начале шестидесятых, студенты из Лаборатории искусственного интеллекта приходили на мой курс Хайдеггера и, по сути, говорили: “Вы, философы, размышляете в своих креслах более 2000 лет и все еще не понимаете, как работает разум. Мы в Лаборатории искусственного интеллекта взяли верх и преуспеваем там, где вы, философы, потерпели неудачу. Сейчас мы программируем компьютеры так, чтобы они демонстрировали человеческий интеллект: решали проблемы, понимали естественный язык, воспринимали и учились”1. В 1968 году Марвин Мински, глава лаборатории искусственного интеллекта, провозгласил: “В течение одного поколения у нас будут интеллектуальные компьютеры, такие как ХЭЛ в фильме 2001 года”.
Далее он говорит:
Как назло, в 1963 году корпорация RAND пригласила меня оценить новаторскую работу Алана Ньюэлла и Герберта Саймона в новой области, называемой Когнитивным моделированием (CS). Ньюэлл и Саймон утверждали, что и цифровые компьютеры, и человеческий разум можно понимать как физические системы символов, использующие последовательности битов или потоки нейронных импульсов в качестве символов, представляющих внешний мир. Интеллект, утверждали они, просто требовал делать соответствующие выводы из этих внутренних представлений. Как они выразились: “Физическая система символов обладает необходимыми и достаточными средствами для общего разумного действия”
Наиболее ярко это направление вылилось в концепцию экспертных систем 1970-1980-х годов. Отголоски этого лично я застал в виде проектов «Ситуационных комнат», просуществовавших до середины 2000-х годов.
Сегодня эти идеи можно встретить в виде деревьев решений, систем компьютерной алгебры (например, Wolfram Language).
Однако, роль символьных методов, даже с учетом критики со стороны Дрейфуса, остается недооцененной. С точки зрения понимания значимости символьных методов следует вспомнить идеи Льва Семеновича Выготского и его культурно-историческую теорию развития психики. Позже его идеи были развиты Алексеем Николаевичем Леонтьевым.
С точки зрения задач ИИ нас интересует тезис о том, что наше сознание есть во многом продукт культуры. А раз у нас есть интерсубъективный слой (т.е. больше чем 1 участник), то, как минимум, общение носит символический характер. Кроме того, по Леонтьеву, сознание состоит из трех компонентов: образа (чувственной ткани), значения и личностного смысла. А значит целеполагание, осознанный выбор из множества вариантов не может быть реализован вне символьных методов. Не говоря уже о логике. Именно поэтому до сих пор те же деревья решений, алгоритмы и спецификации никуда не делись.
Так или иначе нам придется вернуться к символьным методам в концепции уже гибридных человеко-коннекционистски-символьных систем.
Крое того, они согласно последним исследованиям того же MIT, могут значительно повлиять на проблему узкого горлышка ограниченности вычислительных ресурсов. В частности, речь идет о задачах обучения на малых и сверхмалых выборках.
Хадеггерианский ИИ. Одним из первых о нем заговорил Хьюберт Дрейфус еще в середине XX века. Суть проблемы может быть сформулирована в виде вопроса, поставленного Майклом Уилером в его книге “Реконструкция когнитивного мира”:
как немагическая система в динамично меняющемся мире… должна учитывать те изменения состояния в этом мире… которые имеют значение, и те неизменные состояния в этом мире, которые имеют значение, игнорируя те, которые этого не имеют? И как эта система может извлекать и (при необходимости) пересматривать из всех имеющихся у нее убеждений только те убеждения, которые актуальны в каком-то конкретном контексте действия?
Для решения этой проблемы Марвин Мински предложил концепцию фреймов. Однако, как замечает Дрейфус, остается вопрос как один фрейм отличить от другого? В общем, имеем дело с плохой бесконечностью детализации. Основная идея «хайдеггеровского ИИ», что такой ИИ растворил бы, а не избежал или решил проблему фрейма.
Таким образом, чтобы запрограммировать хайдеггеровский ИИ, нам понадобилась бы не только модель функционирования мозга, но нам также понадобилась бы — и вот в чем загвоздка — модель нашего особого способа быть внедренным и воплощенным в мир таким образом, чтобы то, что мы испытываем, было для нас значимым именно таким образом, как оно есть.
Для нас – людей – наши внутренние концептуальные структуры являются «прозрачными», Мы не думаем о мире в формате «о! моя модель мира не совпадает с текущей ситуацией, надо произвести коррекцию». Мы действуем, и действуем сразу, и все наши внутренние структуры в сознании синхронизируются прозрачно и незаметно для нас. Мы не ощущаем молоток, мы используем его как продолжение руки для забивания гвоздя. Но можем использовать и камень. Просто молоток удобнее… Более того, мы используем молоток в связке с гвоздями и тем, что хотим закрепить….
Воплощенный ИИ. Отчасти является прямым продолжением концепции хайдеггерианского ИИ, но в несколько другом аспекте. А именно – через телесность. По сути, это и идея о том, что сильный ИИ может быть реализован только в виде программного-аппаратного комплекса, где ощущения тела, его положения в пространстве, его органы восприятия-сенсоры не просто влияют на принятие решений и обучение, но являются его неотъемлемой частью, являясь зачатую решающим фактором того, как именно будет принято решение. Если хайдеггерианский ИИ ставит проблему необходимости пребывания в мире, то концепция воплощенного ИИ говорит о необходимости именно физической реализации в виде программно-аппаратного комплекса. И никакая языковая модель в принципе не способна подойти к реализации сильного ИИ.
Эмоциональный ИИ. Наиболее часто встречающееся понимание этого термина сводится к чему-то вроде «это ветвь технологий, которая позволяет компьютерам распознавать, интерпретировать и имитировать человеческие эмоции». Однако, это узкое понимание проблематики. Прежде всего, она не отражает роль эмоций в процессе интеллектуальной деятельности. И тесно связан с хайдеггерианским и эмоциональным ИИ.
Здесь, не без удовольствия, хочется отметить приоритет советской, а затем и российской школы. Если в СССР исследования в области, скажем так, возможности алгоритмизации эмоционального поведения серьезно велись уже с начала 1920-х годов, то интерес на Западе стал проявляться только начиная с 2000-х годов. Например, в работе Солмса 2014 года. Прежде всего, это работы Виктора Константиновича Анохина, Павла Васильевича Симонова, Юрия Иосифовича Александрова и целого ряда других исследователей. Так, Симонов пишет, что эмоция есть:
«…отражение мозгом человека и высших животных какой-либо потребности и вероятности (возможности) ее удовлетворения.»
Им же предлагается следующая модель:
Э = f [П, (Ии-Ис),…], где
Э – эмоция, ее степень, качество и знак;
П – сила и качество актуальной потребности;
(Ии – Ис) – оценка вероятности (возможности) удовлетворения потребности на основе врожденного и онтогенетического опыта;
Ии – информация о средствах, прогностически необходимых для удовлетворения потребности;
Ис – информация о средствах, которыми располагает субъект.
Прежде всего, основное отличие отечественной школы в том, что здесь был сделан упор на построение математических моделей работы эмоциональной сферы.
Таким образом, подсистема (так будет точнее) эмоционального интеллекта в рамках ИИ-программ, кроме разного рода распознаваний эмоций, обязательна для реализации:
1) эмоции всегда носят осознанный и гедонистический характер, направленный на оценку соответствия прогнозируемых состояний и фактического положения дел;
2) эмоции служат для задания общей направленности мыслительных процессов, корректируя веса тех или иных поступающих сигналов.
Более подробно об этом можно прочитать, например, в моей последней статье.
Кантианский ИИ. Пожалуй, одна из самых мало известных концепций до последнего времени. Хотя недавние разговоры в СМИ о необходимости верификации моделей на соответствие тем или иным этическим, эстетическим, моральным нормам поднимают тему кантианского ИИ даже на первый план.
Формально можно дать определение кантианского ИИ как концепции, которая рассматривает ИИ-алгоритмы сквозь призму философии Иммануила Канта. Основными моментами здесь являются:
1) этика ИИ в аспекте категорического императива Канта;
2) теория познания Канта в контексте реализации принципов, заложенных философом.
Таким образом, кантианский ИИ – это ИИ, модели которого удовлетворяют этим принципам.
Автор: MaximKovalev
