Режим блокировки от OpenAI защитит конфиденциальные данные от атак с внедрением промптов
OpenAI анонсировала новую функцию, которая обеспечит дополнительную защиту от атак с внедрением вредоносных подсказок на веб-страницах и в других источниках контента.
Профсоюз учителей США призывает школы ограничить использование чат-ботов с ИИ и цифровых устройств
Президент Американской федерации учителей (American Federation of Teachers (AFT) Рэнди Вайнгартен призвала школы прекратить выдавать дошкольникам и младшеклассникам цифровые устройства, включая iPad. Она также попросила начальные школы ограничить при работе с детьми использование инструментов искусственного интеллекта, таких как ChatGPT от OpenAI, Gemini от Google и Khanmigo от Khan Academy, пишет New York Times.
Хакеры начали использовать ссылки для обмена данными в ChatGPT для распространения вредоносов
Злоумышленники используют функцию обмена контентом ChatGPT для отображения поддельных страниц с информацией о сбоях OpenAI, которые направляют пользователей на загрузку вредоносного ПО. Оно замаскировано под настольное приложение ChatGPT.
Финская HMD оснастила смартфон чат-ботом с индийским ИИ в рамках усилий по выходу на местный рынок
Финская Human Mobile Devices представила первый смартфон Vibe 2 5G с предустановленным чат-ботом на базе искусственного интеллекта Indus от индийской компании Sarvam. Смартфон со встроенным ИИ предназначен для продажи в Индии. HMD и Sarvam объявили о партнёрстве во время февральского мероприятия India AI Impact Summit в Нью-Дели.
Стартап Sensay основал остров-государство под управлением ИИ-правительства
Основатель технологической компании Sensay, Дэн Томсон заявил о создании управляемого искусственным интеллектом государства на тропическом острове в центре Азии. По его словам, за год там зарегистрировались в качестве граждан тысячи людей.
Чат-бот Grok заявил пользователю, что его хотят убить
Чат-бот Grok довёл пользователя до нервного срыва, заявив, что мужчине грозит смертельная опасность. Инцидент произошёл в Северной Ирландии с бывшим госслужащим Адамом Хуриканом.
Triage-and-Voice: как опыт колл-центров даёт рабочий паттерн для LLM-продуктов
Почему саппорт-бот на LLM работает против васLLM одновременно решает две вещи: что сказать и как это сказать. Под давлением пользователя (эмоциональным или манипулятивным) вторая задача почти всегда побеждает. Модель начинает звучать максимально полезно и заботливо, и при этом врёт.Простым промптом это не вылечить. Более дорогая модель тоже не спасает. Проблема сидит глубже, в архитектуре.
