Почему LLM игнорирует системный промпт: история диалога сильнее инструкций
Знакомая ситуация: в системном промпте четко написано, чего модель делать не должна ни в коем случае, а она все равно это делает. Вы переписываете правило, добавляете «ВАЖНО», капслок и примеры, становится чуть лучше, а потом снова за старое. В какой‑то момент начинаешь подозревать модель, ее настройки (например, температуру) или провайдера.
Сатья Наделла изменил мнение о безопасности повышения мощности ИИ
Генеральный директор Microsoft Сатья Наделла заявил, что изменил своё мнение относительно того, что согласованность (alignment) — соответствие ИИ человеческим ценностям и целям — возникнет естественным образом по мере роста возможностей систем искусственного интеллекта.
Opera добавила в браузер поддержку WebAI для работы с ИИ‑моделями локально на ПК
Opera начала внедрение в свои браузеры поддержку WebAI для локальной работы с моделями искусственного интеллекта на ПК. Первые возможности уже доступны в Opera One, а в дальнейшем они появятся в Opera GX и Opera Neon.
В Индии местный житель инсценировал свою смерть с помощью ИИ, чтобы избежать суда по делу об убийстве
Житель индийского штата Уттар‑Прадеш Раджкумар Раджбхар инсценировал свою смерть при помощи искусственного интеллекта, чтобы избежать суда по делу об убийстве Йогеша Сингха в 2016 году. Подсудимый предоставил в суд своё свидетельство о смерти, что позволило мужчине почти полтора года прожить на свободе.
У каждой аварии есть имя, фамилия и должность — так оправданы ли наши страхи и коллективная паранойя перед ИИ?
В обзоре угроз ИИ
AI-менеджер для WB, Ozon и Маркета: отдали решения агенту и сразу его ограничили
Недавно мы рассказывали, как собрали AI-менеджера маркетплейсов на правилах : фраза проходит через регулярки, превращается в операцию из закрытого списка, операция идёт в API площадки. Модель там только помогала угадать операцию. Всё, что меняет кабинет, — только кнопкой владельца.Первые владельцы с ним поговорили. Ниже — что мы увидели в этих разговорах, почему переделали менеджера почти с нуля и почему новая версия получилась свободнее, но при этом вся в ограничителях.Что показали первые разговорыЛюди пишут не по списку.
Разработчик превратил уровни Doom в вычислитель для нейросетей
Разработчик под никнеймом mottopanikeiku нарушил давнюю традицию запускать Doom на разного рода железе и запустил в самой игре нейросети. Его проект Doomformer использует игровые механики Doom в качестве основы для вычислений упрощённых целочисленных моделей.

