Держите LLM подальше от тестов чат-бота
Держите LLM подальше от тестов чат-ботаКто тестировал чат-бота, знает: на одной реплике всё просто, а на третьей-четвёртой начинается боль. Бот должен помнить имя, которое вы назвали два хода назад, держать слоты и не сваливаться в «уточните ваш запрос» на ровном месте. И как только садишься это проверять, упираешься в развилку: чем, собственно, проверять ответы многоходового диалога.Если короткоLLM, которая оценивает ответы вашего бота, — это вторая недетерминированная система. Теперь перед зелёным CI должны договориться сразу две, и договариваются они не всегда.
Режим блокировки от OpenAI защитит конфиденциальные данные от атак с внедрением промптов
OpenAI анонсировала новую функцию, которая обеспечит дополнительную защиту от атак с внедрением вредоносных подсказок на веб-страницах и в других источниках контента.
Профсоюз учителей США призывает школы ограничить использование чат-ботов с ИИ и цифровых устройств
Президент Американской федерации учителей (American Federation of Teachers (AFT) Рэнди Вайнгартен призвала школы прекратить выдавать дошкольникам и младшеклассникам цифровые устройства, включая iPad. Она также попросила начальные школы ограничить при работе с детьми использование инструментов искусственного интеллекта, таких как ChatGPT от OpenAI, Gemini от Google и Khanmigo от Khan Academy, пишет New York Times.
Хакеры начали использовать ссылки для обмена данными в ChatGPT для распространения вредоносов
Злоумышленники используют функцию обмена контентом ChatGPT для отображения поддельных страниц с информацией о сбоях OpenAI, которые направляют пользователей на загрузку вредоносного ПО. Оно замаскировано под настольное приложение ChatGPT.
Финская HMD оснастила смартфон чат-ботом с индийским ИИ в рамках усилий по выходу на местный рынок
Финская Human Mobile Devices представила первый смартфон Vibe 2 5G с предустановленным чат-ботом на базе искусственного интеллекта Indus от индийской компании Sarvam. Смартфон со встроенным ИИ предназначен для продажи в Индии. HMD и Sarvam объявили о партнёрстве во время февральского мероприятия India AI Impact Summit в Нью-Дели.
Стартап Sensay основал остров-государство под управлением ИИ-правительства
Основатель технологической компании Sensay, Дэн Томсон заявил о создании управляемого искусственным интеллектом государства на тропическом острове в центре Азии. По его словам, за год там зарегистрировались в качестве граждан тысячи людей.
Чат-бот Grok заявил пользователю, что его хотят убить
Чат-бот Grok довёл пользователя до нервного срыва, заявив, что мужчине грозит смертельная опасность. Инцидент произошёл в Северной Ирландии с бывшим госслужащим Адамом Хуриканом.
