Асимметрия как свойство жизни и решение ‘Cat-Belling problems’ искусственного суперинтеллекта
Данный текст является конкретным техническим решением и ответом на вопросы, поставленные Элиэзером Юдковски в статье «Cat-Belling Problems», опубликованной 4 сентября по итогу его дебатов с Джеффри Ирвингом, прошедших 3-7 августа на международной конференции ILIAD-2026, посвященной теоретическим и математическим проблемам безопасности и контроля искусственного интеллекта.Чтобы лучше было понятно, о каких проблемах и вопросах идет речь, я опубликовал на Хабре свой перевод.
Колокольчик для кошки или языком молоть — не дрова колоть
Данный текст является переводом эссе Элиезера Юдковски «Cat-Belling Problems», опубликованного 4 сентября по итогу его дебатов с Джеффри Ирвингом, прошедших 3-7 августа на международной конференции ILIAD-2026, посвященной теоретическим и математическим проблемам безопасности и контроля искусственного интеллекта.
Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM
В прошлом году я уже рассказывал об AVI
От «равных» весов к «умным»: OTPO для более точного Alignment LLM
Оптимальный транспорт, чтобы взвешивать в ответе модели то, что действительно важноКонтекстЯзыковые модели уже давно вышли за рамки поисковой строки: они пишут код, тексты и помогают с ресёрчем. Сегодня доступ к ним — через мобильные приложения и API — есть у каждого. Ассистенты становятся частью повседневности: от советов по личным вопросам и факт-чекинга (при том, что модели честно предупреждают о возможных ошибках) до планов питания и выбора следующего отпуска.
