Инвесторы делают большие ставки на новые стартапы в сфере сверхразумного AI

Reflection AI вышел из режима скрытности и присоединился к Safe Superintelligence (SSI) в прямом стремлении к созданию сверхразумных систем AI, что ознаменовало собой отход от более коммерчески ориентированной разработки AI. Reflection AI нацелен на создание сверхразумных автономных систем, согласно веб-сайту компании ^[1]. Недавно представленный стартап полагает, что решение проблемы автономного программирования представляет собой ключ к достижению общего сверхразума.

Их теория предполагает, что как только система освоит автономное программирование, за ней естественным образом последует прогресс во всех других компьютерных задачах. Компания объединяет обучение с подкреплением с большими языковыми моделями ^[2], работая над тем, чтобы дать LLM тот же уровень автономии, который AlphaGo ^[3] продемонстрировал в игре Го.

Стартап привносит значительный опыт ^[4] в эту задачу. За последнее десятилетие члены команды помогли разработать некоторые из самых передовых систем AI, включая AlphaGo, AlphaZero ^[5] и GPT-4 ^[6].

Reflection AI присоединяется к Safe Superintelligence (SSI) ^[7], основанной бывшим главным исследователем OpenAI Ильей Суцкевером, в целях прямого поиска сверхразума. Сообщается, что SSI ведет переговоры о финансировании, которое оценит компанию в размере до 30 миллиардов долларов ^[8], несмотря на отсутствие краткосрочных перспектив доходов.

Bloomberg сообщает ^[9], что Reflection AI уже получила $130 млн финансирования при оценке в $555 млн. Среди инвесторов — Рид Хоффман, генеральный директор Scale AI Александр Ванг, SV Angel и венчурное подразделение Nvidia.

Обе компании используют необычный подход, сосредоточившись непосредственно на суперинтеллекте, а не на разработке коммерческих продуктов в первую очередь. Эта стратегия, по-видимому, соответствует видению Суцкевера — он покинул OpenAI в мае 2024 года, как сообщается, из-за растущего внимания ^[10] компании к коммерческим интересам.

Тем временем OpenAI изменила свои публичные сообщения. Теперь компания меньше говорит о сверхинтеллекте и начала дистанцироваться от искусственного интеллекта ^[11] общего назначения (AGI). Хотя AGI остается заявленной целью OpenAI, теперь компания описывает его как постепенную эволюцию, а не как конкретную веху, которую необходимо достичь ^[12].

Этот сдвиг отражает более широкую тенденцию отрасли. Anthropic отошла от термина AGI в пользу «мощного ИИ» ^[13]. Обе компании сосредоточены на том, что в отрасли называют «моделями рассуждений», последней парадигме масштабирования, которая также в значительной степени опирается на обучение с подкреплением ^[14]. Этот подход показал особую перспективность в математике ^[15] и кодировании, где четкие правильные и неправильные ответы делают обучение ^[16] с подкреплением ^[17] особенно эффективным.

Business Insider сообщает ^[18], что Thinking Machines Lab ^[19], новое предприятие бывшего технического директора OpenAI Миры Мурати, ведет переговоры о привлечении $1 млрд при оценке в $9 млрд. Потенциальная сделка подчеркивает растущую тенденцию в финансировании AI: стартапы на ранних стадиях, особенно основанные выпускниками OpenAI, все чаще выходят напрямую на территорию единорогов.

В отличие от Reflection AI и SSI, Thinking Machines Lab избегает обсуждения суперинтеллекта или AGI в своем объявлении. Вместо этого компания делает акцент на научном сотрудничестве, сотрудничестве человека и AI, адаптивных системах AI и эмпирическом, итеративном подходе к безопасности AI. Компания планирует публиковать технические записи в блогах, статьи и код для улучшения понимания AI общественностью.

Источник ^[20]