рекурсивное самосовершенствование.

Ловушка декогеренции

Полный перевод эссе The Decoherence Trap. Авторский текст опубликован под лицензией CC BY 4.0. В русской версии переведены текст и надписи на схемах, а интерактивные иллюстрации адаптированы для статичного просмотра. Авторский текст не сокращён. Примечание переводчика. Первое лицо и оценки в основном тексте принадлежат автору. Подписи под иллюстрациями, пояснения к статичной версии и явно обозначенные примечания добавлены при подготовке перевода.КороткоВ этом эссе я ввожу понятие декогеренции

продолжить чтение

Самосовершенствующийся ИИ: что происходит внутри Anthropic

На протяжении большей части истории ИИ каждый шаг в его разработке делали люди. Но в Anthropic мы всё больше делегируем часть этой работы самим ИИ-системам — и это ускоряет наш прогресс.Если тенденция продолжится и ресурсов вычислений будет достаточно, она ведёт к системе, способной полностью автономно проектировать и разрабатывать собственного преемника. Это называется рекурсивным самосовершенствованием. Мы ещё не там, и оно не неизбежно. Но оно может наступить раньше, чем большинство институтов успеет подготовиться.Опираясь на публичные бенчмарки и ранее не публиковавшиеся внутренние данные Anthropic, 

продолжить чтение