Как эффективно бороться с галлюцинациями нейросетей
Привет, я — Олег Рогов, руководитель фронтенд-разработки. В статье рассмотрю, почему искусственный интеллект (ИИ) галлюцинирует и как с этим бороться. С развитием ИИ больших языковых моделей перед пользователями встает вопрос о достоверности информации, которую они предоставляют. Иногда ИИ может выдавать ответы, которые выглядят убедительно, но на самом деле являются вымышленными или неточными. Явление, при котором языковая модель генерирует ложную информацию, получило название «галлюцинация».
10 примеров и вариантов использования RAG от реальных компаний. Со схемами и пояснениями
Приходилось ли вам когда-нибудь упрекать чат-бот с LLM — к примеру, ChatGPT или Claude — в устаревшей или неточной информации?Дело в том, что, формируя ответ, крупные языковые модели (LLM) опираются на наборы данных, на которых они были обучены. Однако, поскольку их основная задача — предсказывать текст, а не извлекать факты, на их точность нельзя полагаться во всех случаях. Кроме того, обучающие датасеты обычно ограничены общедоступными данными и в некоторых областях быстро теряют актуальность.
Энергоэффективность интеллекта
Мысль моя простая и на целую статью её не хватает, но на Хабре под постом комменты хуже создаются, а мне интересна обратная связь. Поэтому вот. Извиняюсь, если кого задело :)Некоторые говорят, что ИИ скоро заменят программистов. Типа, LLM "мыслит
Microsoft назвала имена киберпреступников, стоявших за сетью по созданию дипфейков с помощью ИИ компании
Microsoft назвала имена нескольких преступников, входящих в хакерскую группировку, которую обвиняют в разработке вредоносного программного обеспечения, способного обходить защиту инструментов на базе искусственного интеллекта для создания дипфейков знаменитостей и другого незаконного контента.
OpenAI представляет GPT-4.5: новый рубеж в эволюции языковых моделей
OpenAI выпустила GPT-4.5 в качестве «Research Preview». Новая языковая модель должна быть более естественной, но она значительно дороже своих предшественников.OpenAI выпустила GPT-4.5 в качестве «исследовательского предварительного просмотра», назвав его своей крупнейшей и лучшей моделью для чата. Новая модель изначально доступна пользователям и разработчикам ChatGPT Pro, а пользователи Plus и Team получат доступ на следующей неделе.
Microsoft выпустила приложение Copilot для macOS
Microsoft выпустила приложение помощника на базе искусственного интеллекта Copilot для операционной системы macOS. Софт для компьютеров Apple предоставит доступ к веб-версии инструмента, в которой пользователи смогут генерировать изображения и текст.
Вышла новая GPT-4.5 preview, она сделает меня банкротом
Несколько часов назад (на момент написания статьи) я получил информационный e‑mail от OpenAI с темой «GPT-4.5 research preview» — компания релизит свою самую большую модель на данный момент времени.Информационный e-mail от OpenAI
OpenAI выпустили технический отчет новой GPT-4.5: чем она лучше предшественников?
Сегодня OpenAI выпускают новую модель GPT-4.5 (трансляция тут), а вместе с ней и технический отчет. Давайте узнаем, что улучшилось в GPT-4.5 по сравнению с предыдущими моделями компании.
Вышел GPT-4.5 от OpenAI [обновляется, UPD 4]
Всего пару недель назад я писал о том, что Сэм Альтман анонсировал скорый выпуск GPT-4.5. Буквально вчера появились первые слухи о том, что GPT-4.5 выйдет со дня на день. И вот, свершилось, официальный анонс только что был опубликован.Официальный блог-пост: https://openai.com/index/introducing-gpt-4-5/Общая информация о модели
