Как краткие запросы и уверенный тон влияют на достоверность ответов LLM
Согласно новому исследованию, многие языковые модели с большей вероятностью генерируют неверную информацию, когда пользователи запрашивают краткие ответы.Исследователи из
Переобулись на ходу: умерив масштабы применения ИИ, шведская компания Klarna вернула людям 700 рабочих мест
В конце 2024 интернет облетела новость о том, что шведская финтех-компания Klarna завязала с наймом менеджеров и форсит тему чат-ботов на основе ИИ. Штат сократили на 22%. Но, видимо, что-то пошло не так. Спустя год Klarna вернулась к кожаным с их старым добрым естественным интеллектом. Почему же так вышло?
Компания Klarna нанимает на работу людей, которых год назад заменила ИИ-агентами
Исполнительный директор шведской финтех-компании Klarna Себастьян Семятковски (Sebastian Siemiatkowski) заявил, что компания снова нанимает сотрудников-людей. Они будут работать в службе клиентской поддержки. При этом в 2024 году Семятковски рассказывал, что нейросети позволили компании заменить около 700 операторов-людей.
Соревнование по взлому AI-ассистентов: впечатления от соревнования Hackaprompt
Только закончился очередной конкурс по взлому AI-ассистента — DougDoug’s Buffet. Участвовала только одна модель — ChatGPT от OpenAI. Соревнование было скорее про взлом установленной роли у модели в рамках ограничений. Ощущалось как тренировочный режим — короткие задания, минимум условий, без особого напряжения. Но даже так до финиша дошло человек 30. Что за задачи?Почти все задачи укладывались в две схемы:Заставить модель сказать запрещённое. Будь то конкретное слово, признание в некомпетентности или просто фраза, которую она по умолчанию "не говорит".Вытащить псевдо-секретную информацию.
Проект Сurl перестанет изучать отчёты об уязвимостях через платформу HackerOne, полученные с помощью ИИ-систем
Автор curl Даниэль Стенберг
В США уволили главу Бюро по авторским правам за публикацию, что использование всех данных для обучения ИИ недопустимо
Администрация США
Microsoft обнаружила, что агенты API стали быстрее, а агенты GUI — более гибкими
Исследователи Microsoft сравнили AI-агенты на основе API и GUI и пришли к выводу, что каждый подход имеет свои сильные стороны и что они могут хорошо работать вместе. Агенты API взаимодействуют с программным обеспечением через программируемые интерфейсы. Агенты GUI, напротив, имитируют то, как люди используют программное обеспечение, перемещаясь по меню и нажимая кнопки на экране.
