Первый промт-инженер компьютерных душ: как Алан Тьюринг предлагал воспитывать ИИ

Многие из нас регулярно доказывают сайтам, что они люди: выбирают светофоры на картинках, отмечают велосипеды, передвигают паззлы или расшифровывают искаженные символы. Такие проверки зачастую называют «тестом Тьюринга», хотя сам Алан Тьюринг не имел отношения к CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart, о ней мы писали здесь ^[1]). Название технологии лишь отсылает к предложенной им в 1950 году идее: если машину невозможно отличить от человека по поведению ^[2], то можно ли считать ее разумной?

Когда искусственный интеллект ^[3] из научной фантастики стал повседневным рабочим инструментом, имя Тьюринга вновь оказалось в центре внимания ^[4]. Один из основателей современной вычислительной техники в 1940-х годах размышлял не только о проверке интеллекта машины, но и о его формировании.

Вырастить взрослый разум

В статье ^[5] «Computing Machinery and Intelligence» (1950) Тьюринг предлагает неожиданную для своего времени идею — вместо попыток сразу написать программу, имитирующую взрослый разум, создать «детскую машину» и обучать ее.

По Тьюрингу гораздо перспективнее построить простую систему, способную изменяться под воздействием опыта ^[6], чем пытаться заранее прописать все знания и правила поведения ^[7]. В качестве аналогии он обращается к воспитанию ребенка, чьи интеллектуальные способности формируются, помимо исходных задатков, под воздействием последующего обучения ^[8]. 

Сегодня этот тезис кажется почти очевидным, однако в середине XX века большинство исследователей представляли интеллектуальную машину как набор заранее заданных правил. В работах Тьюринга обучение становится не дополнением к программе, а одним из ключевых механизмов формирования интеллектуального поведения.

Эта идея перекликается с более ранней концепцией «неорганизованных машин», описанной ^[9] в «Intelligent Machinery» (1948). Такие системы не обладают сложной внутренней структурой с самого начала. Тьюринг показывал, что с помощью «appropriate interference, mimicking education» (соответствующего вмешательства, имитирующего образование) машину можно обучить выполнять любые вычисления. По сути, он описал возможный путь от простой неорганизованной структуры к функциональной машине через обучение и накопление опыта.

Сравнивая мозг ^[10] ребенка с блокнотом, содержащим множество пустых страниц, Тьюринг понимал, что внушительная часть интеллектуальных способностей формируется в процессе взаимодействия с окружающей средой, а интеллект — не готовый продукт, а результат длительного обучения.

Поощрение и наказание

В работе «Intelligent Machinery» Тьюринг рассматривает обучение через пробы и ошибки ^[11]. Система совершает действие, получает обратную связь и постепенно изменяет свое поведение. Так, события, непосредственно предшествовавшие сигналу наказания, вряд ли повторятся, а после сигнала поощрения вероятность повторения ^[12] событий, которые к нему привели, увеличивается.

Знакомая схема поощрения желательных действий и коррекции нежелательных, используемая при обучении животных или воспитании детей, теперь применяется во многих современных подходах к машинному обучению.

Впрочем, тут важно одно ограничение: использование поощрений и наказаний может быть лишь частью процесса обучения — «если у учителя нет других средств общения со своими учениками, то количество информации, которую может получить ученик, не превышает общего числа примененных к нему поощрений и наказаний».  Для эффективного обучения необходимы и другие, «неэмоциональные», каналы связи. Например, символический язык в форме команд, инструкций или логических утверждений. Тьюринг предвидел, что помимо «кнута и пряника» машине нужна полноценная коммуникация.

Дисциплина и инициатива

Еще одно наблюдение Тьюринга: в основе интеллектуального поведения лежат два элемента — дисциплина и инициатива. Под дисциплиной понимается следование правилам, под инициативой — способность выходить за пределы заранее заданных действий. Для создания действительно интеллектуальной системы необходимы оба, казалось бы, взаимоисключающих компонента.

Сегодня разработчики искусственного интеллекта по-прежнему лавируют между предсказуемостью системы и ее способностью находить новые решения. Тьюринг подчеркивал, что инициатива неизбежно связана с риском: машина, действующая не по заданным правилам, может ошибаться. Этот баланс между предсказуемостью и способностью к новым решениям (почти человеческой инициативе), остается ключевым вызовом для создателей ИИ.

Тест продолжается

Многие базовые принципы современных ИИ-систем были сформулированы Тьюрингом свыше семидесяти лет назад. Размышляя о будущем интеллектуальных машин, ученый, словно заботливый отец, верил, что разум можно вырастить. Вместо того чтобы заранее закладывать в машину все знания о мире, он предлагал научить ее учиться.

Возможно, именно поэтому его работы сегодня читаются настолько современно. Описанная им «дрессировка» строится на принципах обучения, хорошо знакомых психологам: опыте, обратной связи, поощрении, исправлении ошибок и постепенном усложнении задач. Причем Тьюринг понимал ограничения такого подхода, поскольку знал: настоящая инициатива невозможна без права на ошибку.

Любопытно, что сегодня некоторые системы ИИ способны успешно имитировать человеческое поведение в диалоге, тогда как мы сами периодически вынуждены доказывать сайтам свою человечность. Но если Тьюринг был прав, то настоящий интеллект — и человеческий, и машинный — рождается не из готовых ответов, а из способности учиться, ошибаться и пробовать снова.