Асимметрия как свойство жизни и решение ‘Cat-Belling problems’ искусственного суперинтеллекта
Данный текст является конкретным техническим решением и ответом на вопросы, поставленные Элиэзером Юдковски в статье «Cat-Belling Problems», опубликованной 4 сентября по итогу его дебатов с Джеффри Ирвингом, прошедших 3-7 августа на международной конференции ILIAD-2026, посвященной теоретическим и математическим проблемам безопасности и контроля искусственного интеллекта.Чтобы лучше было понятно, о каких проблемах и вопросах идет речь, я опубликовал на Хабре свой перевод.
Колокольчик для кошки или языком молоть — не дрова колоть
Данный текст является переводом эссе Элиезера Юдковски «Cat-Belling Problems», опубликованного 4 сентября по итогу его дебатов с Джеффри Ирвингом, прошедших 3-7 августа на международной конференции ILIAD-2026, посвященной теоретическим и математическим проблемам безопасности и контроля искусственного интеллекта.
Если кто-то его создаст — все погибнут
На русском языке вышла написанная в 2025 книга-предупреждение о катастрофических последствиях развития все более умного ИИ.Основной темой служит проблема согласованности и прогноз апокалиптической опасности на ближайшие несколько лет.
Рецензия на книгу: If Anyone Builds It, Everyone Dies
I.Machine Intelligence Research Institute (MIRI) Элиезера Юдковского — первая организация в области безопасности ИИ. Но «первый» не всегда значит «лучший» — как там поживает Месопотамия? Пока в эту область вливаются деньги, мозги и престиж, MIRI остаётся собой — группой слабо организованных чудаков, одного из которых никак не удаётся отговорить носить на публике цилиндр с блёстками
