Галлюцинации LLM — это артефакты сжатия. И это объясняет вообще всё
Представьте, что вам дают 10 терабайт текста и говорят запихнуть это в файл на 70 гигабайт. Да так, чтобы потом по любому вопросу можно было восстановить нужный кусок. Не точно, но близко, и не побайтово, но чтобы по смыслу билось.Вы бы сказали: «так это же lossy-компрессия, часть данных неизбежно потеряется».И были бы правы, потому что именно это делает LLM.Предсказание = сжатие (и это не метафора)Тут нужно кое-что объяснить, и это самое важное в статье.Клод Шеннон доказал в 1948 году: предсказание следующего символа и сжатие данных — математически одно и то же
Топ 13 инструментов для сбора саммари из видео, аудио, текстов и PDF
Как я уже не раз отмечал в своих предыдущих материалах, инструменты со встроенными нейросетевыми примочками развиваются быстро. Буквально за несколько месяцев одни сервисы успевают захватить новые, порой совсем неожиданные ниши, а другие – обрасти таким количеством функций, что их создатели сами путаются в настройках. Рынок кипит, и уследить за всем практически невозможно.Сегодня представлю очередную подборку, но уже с конкретным, довольно узким уклоном. В прошлый раз я пристально смотрел на генерацию кода и
Утекли исходники Claude Code
Весь исходный код Claude Code утёк через sourcemap в npm. Давайте разберёмся.Где найти?Выкладывание закрытых проприетарных исходников может жёстко караться GitHub. Поэтому я их мгновенно переложил на GitVerse в свою организацию Anarchic, пока то репо не забанили на GitHub по DMCA.
3D для каждого: Как игры врут про физику — и почему это сложнее, чем кажется
Доброго времени суток, дорогие хабражители и хабражительницы!
Amazon уволила инженеров, заменила их ИИ и получила 6-часовой аутфолл на $490 млн
CEO Nvidia и профессиональный ИИ-энтузиаст Дженсен Хуанг недавно заявил, что мы уже достигли AGI
ИИ 2026: Технологии, которые выживут в продакшне
Когда технологии упираются в потолок
ЦОД для ИИ способны повысить температуру окружающей среды на 9,1 °C в регионе базирования
Центры обработки данных для задач искусственного интеллекта выделяют настолько много тепла, что способны повысить температуру в регионах базирования на более чем 9 °C. Подобные «тепловые острова» могут затрагивать до 340 млн человек.
Почему искусственный интеллект не может заменить врачей и ученых, но может им помочь
Всем добрый день! Я уже почти 15 лет работаю в сфере разработки инновационных лекарственных препаратов и диагностических инструментов, и на моей памяти приход новых технологий не раз порождал иллюзию скорого избавления человечества от всех болезней. И, конечно, разного рода открытия в области генной инженерии, иммуно-онкологии и молекулярной биологии поспособствовали появлению инновационных терапий, однако, к сожалению, многочисленные заболевания пока не поддаются излечению. В какой-то момент инструментом поиска панацеи стал считаться искусственный интеллект (здесь достаточно вспомнить
Квантовые вычисления: между аналогом и цифрой к AGI и сознанию
Из презентации IBM Qiskit «Introduction to Quantum Computing»Эта статья - попытка разобраться в концепциях квантовых вычислений, краткий обзор существующих квантовых компьютеров и размышления на тему возможно ли создать сознание на квантовой основе.
Если использование ChatGPT для написания текстов — это обман, то как быть с гострайтерами?
В феврале 2023 года, чуть более чем через год после запуска ChatGPT, Университет Вандербильта разослал своим студентам электронное письмо в связи с трагической стрельбой на территории кампуса Мичиганского государственного университета.«Недавняя стрельба в Мичигане — трагическое напоминание о том, как важно заботиться друг о друге», — говорилось в начале письма. Мелким шрифтом внизу сообщения шло примечание: «перефразировано из ChatGPT от OpenAI».Студенты сразу же выразили протест.
