Янн ЛеКун: «AGI — неправильный термин, нужен другой»

Янн ЛеКун вместе с коллегами из Колумбийского университета и NYU опубликовал статью, в которой предлагает отказаться от термина AGI — искусственный общий интеллект ^[1]. По их мнению, это понятие не только неточное, но и тормозит развитие области.

Центральный аргумент прост: человеческий интеллект не является «общим». Он эволюционно специализирован, и мы просто не замечаем собственных слепых зон. Авторы иллюстрируют это примером чемпиона мира по шахматам Магнуса Карлсена: его игра впечатляет только в сравнении с другими людьми. Относительно компьютеров — это просто предел человеческих возможностей.

Исследователи разобрали существующие определения AGI и пришли к выводу: ни одно из них не выдерживает собственных критериев. Определения, претендующие на истинную универсальность, разбиваются о теорему «No Free Lunch» — не существует алгоритма, оптимального для всех задач. Определения, ограниченные человеческими способностями, по определению не являются «общими». Подходы OpenAI и Демиса Хасабиса из DeepMind авторы называют либо неизмеримыми, либо внутренне противоречивыми.

Вместо AGI исследователи предлагают термин Superhuman Adaptable Intelligence (SAI) — «сверхчеловеческий адаптивный интеллект». Это система, которая способна обучаться и превосходить людей в любой значимой задаче, а также заполнять пробелы там, где человек вовсе не справляется. Ключевой критерий — не набор навыков, а скорость адаптации к новым задачам.

На техническом уровне авторы делают ставку на самообучение и «модели мира», а не на авторегрессионные языковые модели вроде GPT. Ошибки ^[2] таких моделей, по их словам, «нарастают экспоненциально с длиной предсказания». Монокультура GPT-архитектур, считают исследователи, замедляет прогресс: «Однородность убивает исследования».

Хасабис и Илон Маск ранее отвергали похожие аргументы, настаивая на том, что человеческий мозг ^[3] — крайне универсальная система. ЛеКун и соавторы отвечают: даже в идеальных условиях мозг охватывает лишь «бесконечно малую долю» возможных задач.

Делегируйте часть рутинных задач вместе с BotHub ^[4]! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[5] вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[6]