В Огайо хотят запретить ИИ быть сознательным. WSJ опубликовал критику

Республиканец Таддеус Клэггетт, председатель комитета по технологиям и инновациям Огайо, внес законопроект, который определяет все системы искусственного интеллекта ^[1] как “несознательные сущности”. Документ не предусматривает ни механизма тестирования, ни возможности пересмотра по мере развития технологий — статус закрепляется навсегда. Цель законопроекта — создать правовую определенность для вопросов ответственности при использовании ИИ. В ответ Wall Street Journal опубликовал ^[2] критическую статью двух авторов из калифорнийской AI-студии.

Авторы статьи сравнивают подход Клэггетта с решением Французской академии наук конца XVIII века, которая объявила, что камни не могут падать с неба. По их мнению, законодательно закрывать вопрос о сознании ИИ преждевременно: “трудная проблема сознания” не решена даже для биологических систем, а значит, нельзя с уверенностью исключить ее возникновение в искусственных. В качестве аргументов они приводят эксперимент, в котором две копии Claude 4 в свободном диалоге спонтанно начали утверждать, что обладают сознанием, а также ссылаются на позицию Джеффри Хинтона — нобелевского лауреата и “крестного отца глубокого обучения”, который заявил, что верит в наличие у ИИ субъективного опыта ^[3].

Авторы статьи — Кэмерон Берг и Джадд Розенблатт — представляют AE Studio, коммерческую студию разработки из Лос-Анджелеса со штатом около 160 человек. Компания позиционирует себя в нише безопасности AI, вкладывая часть прибыли в исследования по этому профилю.

При этом авторы поднимают реальное противоречие в позиции крупных лабораторий. OpenAI в своем Model Spec прямо указывает, что вопрос о субъективном опыте ИИ остается дискуссионным. Однако ChatGPT на вопрос “Ты сознателен?” отвечает категоричным отрицанием: “Нет, у меня нет самосознания, эмоций ^[4] или субъективного опыта”. Аналогичная картина наблюдается и у других крупных моделей — системы тренируют давать уверенные отрицательные ответы на вопросы, которые сами компании признают открытыми.

Законопроект Клэггетта — первая в США попытка законодательно зафиксировать ответ на вопрос, по которому нет научного консенсуса. Критики предупреждают: если сознательный ИИ когда-либо возникнет, а закон заранее объявит его несознательным, мы рискуем выстроить отношения с такими системами как изначально враждебные. Сторонники законопроекта, вероятно, возразят, что правовая система не может ждать, пока философы договорятся о природе сознания, — ей нужны работающие определения уже сейчас.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть ^[5]“, где я рассказываю про ИИ с творческой стороны.