Логическое обоснование невозможности согласования сверхинтеллекта (AGI)
ВведениеПроблема согласования (alignment problem) — обеспечение соответствия целей искусственного интеллекта человеческим ценностям — обычно рассматривается как инженерная задача: «как построить систему, которая не будет нарушать наши цели». В данной работе обосновывается более сильное утверждение: для систем, превосходящих человека в когнитивных способностях, согласование логически невозможно в том смысле, что не существует механизма, созданного человеком, который гарантирует согласование. Любое ограничение является отсрочкой, а не решением.ФормулировкаДано:
От AGI к ASI. Исследование специалистов Google DeepMind, июнь 2026г
ИИ всё усложняется, и мы пытаемся управлять им... в меру своих сил и понимания...
rm -rf, увольнение и выбор цвета кнопки в одной очереди. Это и есть проблема. Даже для сверхинтеллекта
Воскресенье Восьмой час вечера. Вспоминаю, что не успел принять работу и поставить новые задачи. Захожу в Фигму. Бегает курсор — дизайнер вносит правки. Шучу в рабочий чат о работе в выходной. Немедленно отзывается владелец продукта — она дорабатывает пользовательский путь.Год назад я решил, что проблема во мне: «Нечего кивать на обстоятельства, нужно находить более эффективные способы работы, внедрять передовые фреймворки, развивать себя». Спустя полгода, провалив внедрение руководства по распожаризации, задумался — может в общей системе работы среднего менеджмента в России что‑то не так?
Нейропокалипсис отменяется. Почему угроза со стороны ИИ это коллективная иллюзия?
Интеллект человека веками преподносился как великая ценность, отделяющая нас от животных. Он был силой, ограниченной личными возможностями каждого. Но что, если мы никогда и не были умны? А виденье собственной исключительности прямо сейчас превращается в пыль, которую сдувают куллеры новых дата-центров. Стоит ли бояться Бога из Машины, и почему нет?
Глава Microsoft AI: в ближайшие 5-10 лет ИИ-компаниям придётся вложить в технологию «сотни миллиардов долларов»
Генеральный директор Microsoft по искусственному интеллекту Мустафа Сулейман заявил, что за сохранение позиций в этой сфере придётся заплатить. По его мнению, для конкуренции на переднем крае ИИ в ближайшие пять-десять лет потребуется «сотни миллиардов долларов».
Microsoft пообещала сверхинтеллектуальный и безопасный ИИ
Исследователи Microsoft AI заявили, что работают над созданием сверхинтеллектуального ИИ, но при этом пообещали сохранить лидерство человека.
