Глава OpenAI Сэм Альтман в разговоре с Алексом Кэнтровицем (Big Technology Podcast) объяснил, почему считает термин AGI неудачным ориентиром. По его словам, понятие “общего искусственного интеллекта” слишком расплывчато — люди вкладывают в него разные смыслы, и дискуссия превращается в спор о ярлыках, а не о реальных возможностях систем. Альтман отмечает, что на это часто накладываются попытки мерить прогресс через условные показатели “умности” — вроде IQ или отдельных тестов, которые отражают лишь “сырую вычислительную мощность”, но не дают целостного понимания способностей системы.
Он признает, что полностью отказаться от термина сложно — он укоренился в индустрии. Но как рабочий критерий прогресса AGI его не устраивает: нет общего понимания, что именно должна уметь система, чтобы считаться “общим интеллектом”. Из-за этого одни называют AGI уже существующие модели, другие — отодвигают порог на годы вперед. Он также указывает, что часть исследователей относят текущие системы к AGI уже потому, что те начинают делать небольшие, но самостоятельные шаги в научных задачах, что лишь усиливает путаницу вокруг термина.
По мнению Альтмана, ключевое, чего не хватает нынешним системам — способность к непрерывному самообучению. Он имеет в виду не улучшение ответов в рамках заданных навыков, а другое: система сама распознает пробел в знаниях, самостоятельно его закрывает и возвращается улучшенной. Альтман сравнивает это с тем, как учатся дети — ребенок каждый день умеет больше, чем вчера.
Вместо бесконечных споров об AGI Альтман предлагает сместить фокус на следующий порог — “сверхинтеллект” — и попытаться определить его яснее. Он допускает, что границу AGI мир может пересечь незаметно, без какого-то одного переломного момента. При этом Альтман подчеркивает, что до сверхинтеллекта еще далеко, и именно поэтому сейчас важно заранее договориться о более четких критериях, чтобы не повторять ту же терминологическую путаницу.
В качестве интуитивного критерия сверхинтеллекта Альтман приводит такой образ: система, которая справляется лучше любого человека — даже усиленного ИИ — с задачами уровня руководителей государств, крупных компаний или больших научных организаций. Сначала связка “человек + ИИ” может быть сильнее, но затем человек становится ограничением, и самая мощная система — ИИ без человека.
P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть“, где я рассказываю про ИИ с творческой стороны.
Автор: runaway_llm
