Глава Google DeepMind и нобелевский лауреат Демис Хассабис в интервью на подкасте Y Combinator предложил необычный тест для AGI: создать на основе его архитектуры модель, обученную только на знаниях, которые были у физиков в 1901 году. Далее эта модель должна самостоятельно вывести специальную теорию относительности — то, что Альберт Эйнштейн сделал в 1905 году. По его словам, нынешние системы на это пока не способны.
Тест разводит две вещи, которые в разговорах об AGI часто смешивают: умение хорошо решать известные задачи и способность создавать принципиально новое знание. К 1901 году у физиков уже были электромагнетизм Максвелла, ньютоновская механика, термодинамика Больцмана и накопившиеся экспериментальные парадоксы — нулевой результат опыта Майкельсона-Морли, ультрафиолетовая катастрофа. Все классические инструменты были в распоряжении, но в последующие годы для прорыва потребовалась серия концептуальных скачков, которые сделал Эйнштейн.
Современные модели Хассабис называет “неровным интеллектом” (jagged intelligence): они получают золотые медали на Международной математической олимпиаде, но проваливают простые задачи, если их слегка перефразировать. По его оценке, до AGI не хватает, возможно, “одной-двух фундаментальных идей” — в частности, способности к аналогическому рассуждению и генерации новых гипотез. Без этих способностей пройти тест невозможно: открытие СТО нельзя получить интерполяцией существующих данных, требуется смена парадигмы.
Хассабис при этом не считает недостающие способности магическими — это прорывы, которые могут произойти в ближайшие годы, а не века. Но смысл теста именно в том, чтобы перестать путать технический прогресс LLM с настоящим научным творчеством — открытием, которое нельзя вывести из существующего корпуса знаний.
P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть“, где я рассказываю про ИИ с творческой стороны.
Автор: runaway_llm
