Если кто-то его создаст — все погибнут
На русском языке вышла написанная в 2025 книга-предупреждение о катастрофических последствиях развития все более умного ИИ.Основной темой служит проблема согласованности и прогноз апокалиптической опасности на ближайшие несколько лет.
Рецензия на книгу: If Anyone Builds It, Everyone Dies
I.Machine Intelligence Research Institute (MIRI) Элиезера Юдковского — первая организация в области безопасности ИИ. Но «первый» не всегда значит «лучший» — как там поживает Месопотамия? Пока в эту область вливаются деньги, мозги и престиж, MIRI остаётся собой — группой слабо организованных чудаков, одного из которых никак не удаётся отговорить носить на публике цилиндр с блёстками
