agi.
Критика квалиа
От кажущейся данности к исследованию обусловленности, внимания и присвоения1. Умелый вход: почему вопрос о переживании кажется неустранимым2. Передача ключей: как готовая ситуация возникает из доступных опор3. Срединный путь: исследовать условия вместо назначения окончательного алфавита4. Рождение субъекта: как переживаемое становится основанием «я» и «моего»5. Новая опора: исследование имеет завершимые задачи
Глава по ИИ в Microsoft: ИИ‑модели не должны иметь сознания
Глава подразделения ИИ в Microsoft Мустафа Сулейман опубликовал в социальной сети X пост, в котором заявил, что современные модели ИИ не обладают сознанием — и разработчикам следует сделать всё, чтобы эта ситуация сохранялась.
Логическое обоснование невозможности согласования сверхинтеллекта (AGI)
ВведениеПроблема согласования (alignment problem) — обеспечение соответствия целей искусственного интеллекта человеческим ценностям — обычно рассматривается как инженерная задача: «как построить систему, которая не будет нарушать наши цели». В данной работе обосновывается более сильное утверждение: для систем, превосходящих человека в когнитивных способностях, согласование логически невозможно в том смысле, что не существует механизма, созданного человеком, который гарантирует согласование. Любое ограничение является отсрочкой, а не решением.ФормулировкаДано:
8 терминов в сфере ИИ, которые полезно знать
Как ИИ‑энтузиаст и технический писатель, который уже более пяти лет пишет об ИИ, я и так знаком со многими терминами. Но потом я подумал: «Есть же термины из области ИИ, которые людям стоит знать, в том числе и более новые».
AMD приобрела за $8,2 млрд компанию World Labs, основанную Фей‑Фей Ли
AMD объявила о покупке за $8,2 млрд World Labs — компании‑разработчика моделей глубокого обучения, предназначенных для понимания физической реальности. World Labs обосновала сделку тем, что разработка искусственного интеллекта требует «тесного сотрудничества в области исследований моделей, систем и вычислительных ресурсов». В AMD отметили, что понимание передовых рабочих нагрузок поможет компании формировать дальнейшую дорожную карту разработки чипов.
RSI стал новым AGI. Разбираем, почему это подмена понятий
В сентябре 2026 года в отрасли снова спорят о том, что считать искусственным интеллектом человеческого уровня — artificial general intelligence (AGI). Появился удобный ответ: AGI наступит тогда, когда ИИ сам сможет вести исследования ИИ и создавать своего преемника, то есть при достижении рекурсивного самоулучшения или recursive self‑improvement (RSI).
Если ваш ИИ настолько крут, готовы ли вы дать ему дробовик?
Три вопроса к тем, кто обещает безопасный AGI для человечества*aAtS — and All that Stuff (и вот это вот всё)
Кто остановит AGI: законы или мегаватты?
В последние месяцы снова активизировались призывы притормозить развитие наиболее мощных AI-систем. Причём теперь они исходят уже не только от политиков и сторонних экспертов. Руководители крупнейших AI-компаний сами обсуждают необходимость замедлить гонку, ввести независимый контроль и договориться о правилах, которые позволили бы остановиться, если дальнейшее развитие станет слишком опасным.
ИИ может уничтожить человечество с вероятностью выше 10%. Чего именно боятся исследователи
9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным.Через несколько дней похожее заявление сделал
