superintelligence.

Логическое обоснование невозможности согласования сверхинтеллекта (AGI)

ВведениеПроблема согласования (alignment problem) — обеспечение соответствия целей искусственного интеллекта человеческим ценностям — обычно рассматривается как инженерная задача: «как построить систему, которая не будет нарушать наши цели». В данной работе обосновывается более сильное утверждение: для систем, превосходящих человека в когнитивных способностях, согласование логически невозможно в том смысле, что не существует механизма, созданного человеком, который гарантирует согласование. Любое ограничение является отсрочкой, а не решением.ФормулировкаДано:

продолжить чтение

RSI стал новым AGI. Разбираем, почему это подмена понятий

В сентябре 2026 года в отрасли снова спорят о том, что считать искусственным интеллектом человеческого уровня — artificial general intelligence (AGI). Появился удобный ответ: AGI наступит тогда, когда ИИ сам сможет вести исследования ИИ и создавать своего преемника, то есть при достижении рекурсивного самоулучшения или recursive self‑improvement (RSI).

продолжить чтение

Meta* готовит новую версию Llama к концу года

продолжить чтение

У Цукерберга трещит суперкоманда AI-звёзд: уходы, конфликты и четвёртая перестройка за полгода

Фото из открытых источников

продолжить чтение