Галлюцинации нейросетей. Как это устроено, откуда берётся и как с этим бороться. Часть 1
Одна маленькая даже не ошибка, а скорее особенность нейросетей пока мешает им развиваться и внедряться в жизнь куда более бурными темпами, чем сейчас. Хотя, казалось бы, — куда ещё быстрее? Но нет. Эта особенность стоила юристам отстранений от практики, авиакомпании — проигранного суда, а для Google стала поводом к потере примерно ста миллиардов долларов капитализации за один день. Слово «галлюцинация» станет словом года сразу в двух словарях.
Как мы построили multilabel guardrail‑классификатор и как мы сделали его в 3 раза быстрее и дешевле
Как учесть 15 категорий риска одновременно, не потерять редкие и критичные классы, обмануть попытки обхода фильтров и не разориться на инференсе. Изображение сгенерировано с помощью seedream-5.0-pro
OpenAI разрабатывает функцию автоматического отключения ИИ‑систем
OpenAI сообщила Палате представителей США, что её инженеры разрабатывают «автоматические возможности отключения» для систем ИИ.
Microsoft обучает виртуальных репетиторов с помощью AI‑двойников учеников
Исследователи из Microsoft Research и Университета Иллинойса в Урбане‑Шампейне представили StudentSim — систему для создания виртуальных копий учеников. Такие модели воспроизводят уровень знаний, типичные ошибки и реакцию людей на подсказки преподавателя. На них можно тестировать и обучать виртуальных репетиторов, не привлекая для этого реальных учеников.
Стартап Mostik связал GLM-5.2 и Qwen-3.5 без текстового обмена
Российские математики разработали способ, который позволяет разным ИИ-моделям обмениваться информацией без промежуточной генерации текста. О разработке 2 сентября сообщил WIRED.В демонстрации команда связала GLM-5.2 на 753 млрд параметров и Qwen-3.5 на 4 млрд параметров. По заявлению Mostik, гибридная система работает примерно в 20 раз дешевле полной GLM-5.2, а её качество находится между результатами двух исходных моделей.
Сохранение джунов и будущее кадровой воронки
Как мы знаем, рынок труда в некоторых сферах сейчас достаточно напряжен для соискателя и в материале про рынок ИТ специалистов я показывал, что некоторым молодым специалистам достаточно трудно сейчас найти работу, это касается многих офисных профессий, не только ИТ.Сами компании зажаты между необходимостью расти и при этом не сильно увеличивать тот же ФОТ и получается вопрос: зачем нам нужен джун, которого нужно около года учить, и еще не факт, что он останется работать.Это касается не только России. Причины немного отличаются, но в целом всё то же.
Как создавался агрегатор ИБ‑новостей: склейка сюжетов, семь признаков важности и порог по данным
Идея агрегатора новостей по кибербезопасности зародилась еще давно. Хотелось получать самое важное и без инфошума. LLM тогда ещё не были повседневным инструментом, и первую версию реализовал на модели суммаризации rut5_base_sum_gazeta, а важность считал textrank. Работало так себе. Потом появились сервисы, которые сами подбирают новости под настроенную ленту. Но оптимального решения так и не увидел — это либо про всё сразу, либо что‑то про одну узкую тему.
Как подключить к LLM вашу документацию и базу знаний
Материал подготовлен в рамках курса «ИИ для Python‑разработчиков». Привет, Хабр! Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Вы когда‑нибудь пытались спросить у ChatGPT о том, как работает ваш собственный проект? Модель вежливо отвечает, но её ответы — это общие шаблоны, основанные на обучении на миллионах чужих репозиториев.
5 причин внедрить ИИ в клиентский сервис
Рост затрат на найм сотрудников, постоянно выгоревшая команда, текучка, падение лояльности клиентов и просадка в выручке — это только часть последствий, с которыми сталкиваются компании без автоматизации и ИИ в поддержке.
