Почему языковые модели «галлюцинируют»
Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?В OpenAI мы активно работаем над тем, чтобы сделать ИИ-системы полезнее и надёжнее. Но даже по мере роста их возможностей остаётся одна упрямая проблема: галлюцинации. Под этим мы понимаем случаи, когда модель уверенно выдаёт ответ, который на самом деле неверен. В нашей новой
Криптографические губки
Приветствую, Хабр! Структура криптографических алгоритмов, названная ее авторами «губкой» (sponge), была предложена в 2007 году. Название не случайно – у предложенных алгоритмов действительно есть сходство с обычной губкой, состоящее в том, что алгоритмы данной структуры выполняют преобразования в два основных этапа:«впитывание» – когда очередной блок обрабатываемых (например, хешируемых) данных накладывается на внутреннее состояние (для этого обычно используется операция XOR), которое как бы впитывает новые данные; после этого состояние перемешивается и процесс повторяется до исчерпания входных данных;
От Minecraft до Unity: как доступное обучение гейм-дизайну меняет будущее игровой индустрии
В мире, где киберспорт уже обогнал по популярности традиционные виды спорта, а метавселенные становятся новым социальным пространством, умение создавать игры — это не просто модный навык, а входной билет в индустрию будущего.
Microsoft упростила введение формул в Excel с помощью ИИ
Microsoft представила новую функцию Copilot в Excel, которая упростит написание формул. Она предлагает автодополнение, что избавляет пользователей от необходимости проверки синтаксиса, функций, ссылок на нужные ячейки т. д.
«Кентавр» против хаоса документации: как Artezio научила ИИ писать техзадания в 10 раз быстрее
Пока разработчики по всему миру мучаются с ChatGPT, пытаясь выжать из него хоть что-то приличное для технической документации, команда Artezio пошла другим путем. Вместо того, чтобы полагаться на сырой ИИ, мы создали «Кентавр» — гибридную систему, которая объединяет возможности больших языковых моделей с экспертизой опытных аналитиков.
Signal добавил облачное резервное копирование для чатов
Signal представил новую функцию, которая позволяет пользователям создавать резервные копии своих чатов со сквозным шифрованием, чтобы восстанавливать сообщения даже в случае повреждения или утери телефона.
МТС Web Services приглашает разработчиков на всероссийский чемпионат по программированию
Привет, Хабр! МТС Web Services в третий раз проводит чемпионат по алгоритмическому и робототехническому программированию True Tech Champ. Прием заявок уже открыт, так что самое время зарегистрироваться. Обещаем, что будет интересно. Спойлер: финал пройдет в формате гибрид-реалити-шоу со зрелищной битвой роботов. Подробности — под катом.
