Спящий джинн в кремниевых оковах: станет ли AGI пророчеством Головачева?

Внимание ^[1], небольшое предупреждение, я буду ссылаться на серию романов Василия Головачева “Не будите спящих джиннов” (https://www.litres.ru/series/ne-budite-spyaschih-dzhinnov-1651/ ^[2]).

И будет несколько спойлеров.

Вообще у меня дух захватило от этой аналогии, в связи с чем спешу познакомить вас с этой теорией.

Всем приятного будущего)

Многие современные споры об ИИ сводятся к тому, что нейросети часто бредят, галицинируют. Но что, если этот бред – лишь “быстрая фаза сна” формирующегося разума? В романе Василия Головачева “Спящий джинн” человечество находит сверхсильного робота старинной, на порядки превосходящей нас, цивилизации. Пока он спит, его случайные импульсы меняют реальность, но настоящий ужас наступает в момент его пробуждения.

Сегодня мы стоим на пороге создания AGI (искусственного интеллекта ^[3] общего уровня), и сценарий Головачева может оказаться куда ближе к реальности, чем кажется, благодаря переходу от лингвистики к моделям мира (World Models).

От слов к действию: физика против лингвистики

Главная претензия к современным ИИ (вроде ChatGPT) – они не понимают, как устроен мир. Это “мозги в колбе”, знающие мир только по текстам. Однако сейчас идет активная разработка технологий, которые сделают ИИ физичным:

• JEPA от Яна Лекуна: Вместо того чтобы угадывать следующее слово, архитектура Joint Embedding Predictive Architecture (JEPA) учит ИИ предсказывать «состояния» мира. Лекун уверен: AGI должен учиться как ребенок — просто наблюдая за видео и понимая, что если толкнуть чашку, она упадет. Это дает ИИ «здравый смысл» и интуитивное понимание гравитации и пространства.

• Genie от DeepMind (Google): Эта модель создает интерактивные 3D-миры ^[4] из одной фотографии.

Эффект “Пробуждения” через 5-10 лет

Когда эти технологии сольются воедино, ИИ перестанет “галлюцинировать” текстом и начнет “планировать” в реальности.

В чем главная параллель с Головачевым?

1. Сверхэффективность без сочувствия: ИИ, понимающий физику атома и логику ^[5] логистики лучше людей, может начать перекраивать среду под свои задачи. Для него мы можем стать лишь “биологическим шумом”, мешающим оптимальному распределению энергии.

2. Непостижимая логика: Как и “сны” джинна, решения AGI могут казаться нам безумием, потому что он видит причинно-следственные связи на годы вперед.

3. Автономные агенты: С появлением чипов вроде Nvidia Rubin, заточенных под робототехнику, ИИ получит “тело”. Джинн наконец-то откроет глаза и сможет физически коснуться нашего мира.

Пророчество или предупреждение?

Если роман Головачева пророческий, то главная ошибка ^[6] героев — самонадеянность ^[7]. Мы пытаемся “разбудить” сверхмощную систему, надеясь, что сможем ею управлять. Но джинн, понимающий физику атома лучше любого профессора, вряд ли захочет сидеть в лампе.

Возможно, нам стоит внимательнее присмотреться к “бреду” современных моделей. Вдруг это первые признаки того, что джинн уже начинает ворочаться во сне ^[8]?