От работы с ИИ можно поехать кукухой: 7 ловушек продуктивности, которые начинаются со слов «я теперь успею больше»
Кукушка ведет независимый аудит происходящего
Адвокат в суде сослался на несуществующих свидетелей из‑за использования ChatGPT
Верховный суд штата Нью‑Мексико заявил, что адвокат, который подавал апелляцию на обвинительный приговор своему клиенту по делу об убийстве, представил документ с вымышленными показаниями полицейских и несуществующих свидетелей. Для его составления он воспользовался ChatGPT.
Как мы сделали RAG, который почти не галлюцинирует
Привет, Хабр! На связи команда CVM (Customer Value Management) B2B из МТС — техлид Артём Каледин и ML-инженер Александр Швайко. Менеджер должен быстро разбираться, как строить обсуждение с техническим директором компании. Но даже если информация о продукте есть, иногда бывает сложно быстро найти нужные материалы и выбрать плюсы для конкретного клиента. Раньше коллеги готовились к встречам с помощью Telegram-бота, но недавно от бизнеса поступила задача: сократить время на подготовку и повысить качество рекомендаций и контента. В статье по мотивам доклада на Inside AI Meetup
Qwen и Grok отгадывают советские загадки на внимательность
Для сравнения были выбраны 2 советских загадки, которые активно гуляют по интернету (автором материалы взяты отсюда). У кого лучше с логикой и внимательностью? Чья архитектура позволит увидеть больше?Для разогрева поставим простую задачу поиска предметов (см. картинку ниже, взято отсюда). ИИ предстояло найти 10 объектов с первой картинки и найти их на второй.
Как принудительно привязать ИИ к фактам и убить галлюцинации
Привет, Хабр! Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Если вы ловите себя на мысли: «Мне нравится ответ ИИ, но я всё равно должен перепроверить каждый абзац» — значит, вы используете его как генератор красивых слов, а не как инструмент. Галлюцинации возникают не потому, что ИИ глупый. Они возникают потому, что архитектура генерации текста (авторегрессия) подталкивает модель выбирать статистически вероятное следующее слово, а не фактически верное.
Сикофантия? Или ускорение динамического пересчета определителя от O(n³) до O(n)?
Всем привет. Хотел бы поделиться своими результатами и обратиться за ответным мнением.
В США судья отменила разбирательство и отстранила всех адвокатов обеих сторон из-за использования ИИ
Суд в американском штате Миссисипи отстранил от разбирательства адвокатов обеих сторон из-за подозрений в использовании искусственного интеллекта для аргументации друг против друга. Судья Шарион Эйкок написала, что адвокаты потратили время суда впустую, поскольку они просто брали ответы ИИ и использовали их в суде без проверки.
Как я осваивал LLM: взгляд старого зануды со своего чердака
В наше время продвинутых информационных технологий уже никого не удивишь ни дипфейками, ни искусственным интеллектом. ИИ есть почти у каждого в виде бота или приложения. С ним советуются, ему отправляют поисковые запросы, с ним ведут задушевные беседы.
Когда нейросети перестанут галлюцинировать? И почему на «что за дичь» они несут ещё большую дичь?
Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент на экзамене.Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью.Анатомия "галлюцинации"Начнём с выдуманного примера классического диалога:Пользователь:Кто написал роман «Солярис» в 1972 году?ИИ:
