Глава Anthropic: ИИ галлюцинирует реже, чем люди, но неожиданнее
Дарио Амодеи, генеральный директор компании Anthropic, заявил, что современные ИИ-модели, вопреки расхожему мнению, врут и выдумывают факты реже, чем люди.
Chicago Sun-Times опубликовала список книг для летнего чтения, из 15 книг 10 оказались выдумкой ИИ
Газета Chicago Sun-Times оказалась в центре скандала из-за публикации списка литературы для летнего чтения: в перечень
Как я не дал ИИ сойти с ума: гайд по промптам и багам
Я джун. И я давно подсел на ИИ: он помогает мне с кодом, пишет письма, даже шутит (иногда слишком по-дружески с багами). По данным McKinsey, больше
Где ИИ врёт и как с этим жить — мой гайд после фейлов
Я джун. И я давно подсел на ИИ: он помогает мне с кодом, пишет письма, даже шутит (иногда слишком по-дружески с багами). По данным McKinsey, больше 75% компаний уже тестируют генеративный ИИ – ну а я просто надеюсь, что он не подведёт в проде.Хотя, честно говоря, всё равно подводит. В этой статье я разбирался, почему ИИ ошибается, как это влияет на работу, и в конце оставил гайд с рекомендациями по промптам для генерации кода, текста и изображений.Алгоритмы багов ИИ
Cursor извинилась за бота из-за придуманной пользовательской политики
Компании Cursor пришлось извиняться за действия ИИ-агента службы поддержки «Сэма», который придумал политику, запрещающую пользователям применять инструмент редактора кода более чем на одном устройстве.
Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде
Всем привет! Меня зовут Александр, я COO в SaaS-платформе аналитики данных. Тема безопасности с активным распространением "vibe coding" (на Хабре кажется прижился термин monkey-coding) вызывает большие вопросы, ниже один из них.У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей.Распространение инструментов генерации кода на базе LLM меняет способы разработки программного обеспечения — и одновременно создает новые риски для цепочки поставок ПО.
«Галлюцинации» ИИ в судебных документах создают проблемы для юристов
Американская юридическая фирма Morgan & Morgan уведомила более тысячи своих сотрудников о том, чтобы они остерегались «галлюцинаций» инструментов искусственного интеллекта при подготовке судебных документов. Такие инструменты способны «придумывать» фальшивые судебные прецеденты, а использование выдуманной информации может привести к увольнению юристов.
Аномалии DeepSeek-v3 и DeepSeek-r1: глюкнутые токены и чат, теряющий идентичность
«Аномальные», «глючные» и «непроизносимые» токены в больших языковых моделях (LLM) — это те, которые вызывают странное поведение или не функционируют как обычный текст. Явление было впервые открыто и задокументировано
Причины возникновения галлюцинаций LLM
В данной статье будет представлен укороченный и упрощенный перевод статьи “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”. А именно перевод части, относящейся к причинам возникновения галлюцинаций. Упрощение состоит в том, что были опущены части, уходящие в конкретику. В этом переводе мы сосредоточимся на основных причинах возникновения галлюцинаций и примерах.
