TechCrunch выпустило глоссарий по ИИ

В попытке упростить понимание, что происходит в мире ИИ, издание TechCrunch выпустило ^[1] глоссарий с основными терминами, которые относятся к этой теме. Как поясняют авторы, «словарь движется столь быстро, что заставляет даже очень умных людей из технической сферы чувствовать себя неуютно». К каждому термину дано краткое пояснение, иногда есть ссылки на более подробные статьи по теме.

Глоссарий включает в себя 32 термина в алфавитном порядке. Там встречаются такие понятия, как:

Галлюцинация

Галлюцинация — предпочитаемый в ИИ‑индустрии термин для выдумывания ИИ‑моделями разных вещей: это буквально генерация информации, которая некорректна. Очевидно, это огромная проблема для качества ИИ.

Галлюцинации производят такие выводы генеративного ИИ, что могут вводить в заблуждение и даже способны привести к рискам в реальной жизни с потенциально опасными последствиями (подумайте о запросах про здоровье, которые возвращают вредные медицинские советы). 

Проблема придумывания ИИ информации наводит на мысли о последствиях пробелов в обучающих данных. Проблема галлюцинаций способствует продвижению всё более специализированных и/или вертикальных ИИ‑моделей — то есть предметно‑ориентированных ИИ, требующих более узкой экспертизы — как способ уменьшить вероятность пробелов в знаниях и сократить риски дезинформации.

или

ИИ‑агент

ИИ‑агент — это инструмент, использующий ИИ‑технологии, чтобы исполнить серию задач от вашего имени — сверх того, что может сделать более базовый ИИ‑чатбот — таких как расчёт трат, бронирование билетов или столика в ресторане или даже написание и поддержка кода. Тем не менее, как мы объясняли ранее, есть много меняющихся деталей в этой новомодной среде, поэтому «ИИ‑агент» может значить разные вещи для разных людей. Инфраструктура также всё ещё развивается, чтобы соответствовать своим обещанным возможностям. Но базовая концепция предполагает автономную систему, способную взрасти на множестве ИИ‑систем для выполнения многосоставных задач.

также есть термин «Вычисление»:

Вычисление (≈вычислительная мощь)

Являясь, впрочем, многозначным термином, вычисление обычно отсылает к жизненно необходимой вычислительной мощи, что позволяет ИИ‑моделям функционировать. Этот тип обработки движет ИИ‑индустрией, давая ей возможность обучать и развёртывать мощные модели. Термин часто выступает сокращением для тех видов железа, которые обеспечивают вычислительную мощь: вещи типа GPU, CPU, TPU, и иных форм инфраструктуры, что создают почву современной ИИ‑индустрии.

Диффузия

Диффузия — технология в сердце многих ИИ моделей, генерирующих изображения, музыку или текст. Вдохновлённые физикой, диффузные системы медленно «уничтожают» структуру данных — например фото, песен, и прочего — добавляя шум, пока ничего более не останется. В физике диффузия спонтанна и необратима: сахар, растворённый в кофе, нельзя вновь собрать в форму кубика. Но диффузия в ИИ стремится научиться своего рода «обратной диффузии», чтобы воссоздать уничтоженные данные, постигая умение возродить данные из шума.

Ранее в IT‑сфере появился ^[2] термин «мясной прокси» (meat proxy), обозначающий работника, который получает вопрос от коллеги, бездумно отправляет его в ChatGPT или Claude, а затем просто копирует ответ обратно в чат.