Сметчик завода считал КП целый рабочий день. Мы свели это к 30 секундам: почему ChatGPT тут бесполезен
Заявка на поставку металлопроката и металлоконструкций на реальном рынке живет считанные часы. Снабженец строительного объекта отправляет ведомость одновременно в 4-5 заводов и заказывает у того, кто первым прислал официальное коммерческое предложение с точными ценами, весом и сроками отгрузки.На производстве подготовка такого расчета занимает от 4 до 8 часов рабочего времени квалифицированного сметчика. Пока завод перебивает номенклатуру в Excel и сверяет коэффициенты, заказчик уже подписывает договор с более оперативным поставщиком.
Учимся отличать галлюцинации от плохого контекста
Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Когда RAG-система выдаёт утверждение, которого нет в источниках, мы обычно называем это «галлюцинацией». Но очень часто за этим симптомом скрываются принципиально разные сбои, и путать их означает лечить не ту болезнь.Модель, к примеру, могла проигнорировать релевантный контекст или не получить его вовсе. А могла сгенерировать ответ из параметрической памяти и задним числом подобрать «подходящую» цитату.
Кот Шрёдингера в продакшене. Почему ИИ не знает, почему он это сделал
То, что вы сейчас прочитаете, — полный бред, во всяком случае с точки зрения физики. Но меня это не особенно беспокоит. Теория не обязана быть абсолютной истиной. Важно, чтобы она согласовывалась с наблюдениями, позволяла делать предсказания и выдерживала проверку экспериментом. Моя теория никаких научных проверок пока не проходила, зато удивительно хорошо объясняет то, что я регулярно наблюдаю при работе с искусственным интеллектом.А началось всё с обычного сайта, нескольких заголовков и моего наивного предположения, что если исполнителю что-то запретить, он не станет этого делать.Куда делись заголовки?
О мышах и людях: проверяем нейросеть на ложных предпосылках
Нейросети частенько винят в излишней фантазии, но сам пользователь своим промтом может тоже спровоцировать глюк. Например, если я попрошу «Расскажи, почему все летучие мыши слепы», то в запросе уже есть диагноз. Модель решает, поправлять собеседника или объяснять несуществующие обстоятельства.Разберём, откуда берутся такие ответы и какую работу за нейросеть успевает сделать наш собственный вопрос. А потом подготовим проверку нескольких формулировок в GPT Luna-6 на летучих мышах и писателях.
Разрешите машине ошибаться
Любой писатель или ученый прошлых веков хотя бы раз задумывался о будущем. Как будут жить люди? Как изменится мир и какую роль обретут в нем технологии? Станут ли машины незаменимыми помощниками человека или его новыми хозяевами?
ИИ ошибается и это хорошо
Любой писатель или ученый прошлых веков хотя бы раз задумывался о будущем. Как будут жить люди? Как изменится мир и какую роль обретут в нем технологии? Станут ли машины незаменимыми помощниками человека или его новыми хозяевами?
“Оркестр” AI‑сервисов в клинике: почему внедрить ИИ ещё не значит получить пользу
Скрытый текстВсем привет! Меня зовут Владлен Бабкин, и я практикующий управленец в медицине. В этой статье мой личный взгляд изнутри операционной реальности медицинской организации, а не обзор технологий. Под БФМ (большими фундаментальными моделями) я понимаю класс моделей, к которому относятся и большие языковые модели вроде тех, что лежат в основе ChatGPT.Фантастика, которая случилась буднично
Искусственный Интеллект манипулирует нашей памятью. И баг на нашей стороне
Созданные с помощью ИИ выводы о событиях, свидетелем которых вы были лично, порождают в сознании ложные воспоминания. Точность воспоминаний о событии снижается вдвое. А ложные воспоминания внедряются даже если вас напрямую предупредят о том, что именно ИИ подводил итоги.
От работы с ИИ можно поехать кукухой: 7 ловушек продуктивности, которые начинаются со слов «я теперь успею больше»
Кукушка ведет независимый аудит происходящего
Адвокат в суде сослался на несуществующих свидетелей из‑за использования ChatGPT
Верховный суд штата Нью‑Мексико заявил, что адвокат, который подавал апелляцию на обвинительный приговор своему клиенту по делу об убийстве, представил документ с вымышленными показаниями полицейских и несуществующих свидетелей. Для его составления он воспользовался ChatGPT.

