Людям предстоит решить, давать ли AGI сознание: Хассабис о «втором Рубиконе»

На встрече со студентами Stanford Graduate School of Business ^[1] глава Google DeepMind и нобелевский лауреат Демис Хассабис получил неожиданный вопрос: чего искусственный интеллект ^[2] не должен касаться вовсе? В ответ он заговорил о сознании — и назвал его отдельным выбором человечества, “вторым Рубиконом”, переходить который никто не обязан.

Логика ^[3] такая. Сначала мы строим ИИ как инструмент, пусть и предельно мощный. По Хассабису, разумный инструмент такого уровня — это уже и есть AGI, и одного этого хватит как вызова на годы вперед. А вопрос о том, делать ли систему сознательной, — это совсем другой, следующий шаг. И смешивать его с первым нельзя: интеллект и сознание разделимы, сознание не возникает само собой как побочный эффект системы, способной решать даже очень сложные интеллектуальные задачи.

Чтобы объяснить, почему он их разводит, Хассабис опирается на идею машины Тьюринга — своего любимого, по его словам, понятия еще с университета. И ИИ, и человеческий разум он описывает как приблизительно полные по Тьюрингу системы: они способны вычислить почти все, что вообще вычислимо. Но из этой вычислительной всеядности сознание никак не вытекает. То есть “умный” и “сознательный” — не синонимы: первое можно получить, не получив второго. А значит, сознание — это не порог мощности, который система перешагнет сама, а осознанное решение разработчиков и общества.

Сами нынешние модели, по мнению Хассабиса, сознанием не обладают — хотя он тут же оговаривается, что некоторые коллеги по цеху с этим не согласны и единого мнения нет. Любопытное наблюдение он добавляет про чатботов: в “характере” ведущих систем уже проступают разные позиции по этому вопросу, и это не случайность ^[4], а следствие разных решений, которые принимают лаборатории при настройке.

Проблема в том, что сознание до сих пор остается плохо поставленной задачей и для философии, и для нейронауки — строгого определения попросту нет. Поэтому план Хассабиса звучит так: сначала с помощью уже построенных ИИ-инструментов разобраться в нейронауке и философии и сформулировать, что вообще считать сознанием, затем проверять системы против этого критерия — и только потом решать, стоит ли переходить черту и создавать сущности, которые хотя бы кажутся нам сознательными. И это, подчеркивает он, решение, которое человечество вправе не принимать вовсе.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть ^[5]“, где я рассказываю про ИИ с творческой стороны.