BrainTools - Методики для развития мозга - страница 2303

Mem-векторы: как сохранить 1500 токенов в одном векторе и зачем это нужно

От сжатия текста к mem-векторам: новая веха в языковых моделяхКаждый, кто работал с большими языковыми моделями (LLM), знает про ограничение длины контекста: модель не может напрямую обработать текст, превышающий определённое число токенов. Это накладывает ограничения на работу с длинными документами и обширным контекстом. Но что если бы мы могли упаковать длинный текст в один-единственный вектор и скормить его модели как обычный токен? Звучит фантастично, однако свежие исследования показывают, что это возможно – такие “mem-векторы” позволяют сохранить сотни и даже полторы тысячи токенов

продолжить чтение

Хакер NullBulge в США признал себя виновным в краже данных Disney в Slack

Хакер под ником NullBuldge признал себя виновным в несанкционированном доступе к каналам Disney в Slack и краже 1,1 ТБ внутренних данных компании. Министерство юстиции США указало, что в начале 2024 года 25-летний житель Калифорнии Райан Крамер создал вредоносное программное обеспечение, которое позиционировалось как инструмент на базе искусственного интеллекта для генерации изображений. Злоумышленник разместил свой софт на GitHub и других платформах.

продолжить чтение

Пользователи Pinterest жалуются на блокировки аккаунтов и удаление пинов

В соцсетях пользователи Pinterest сообщают об удалении пинов и приостановке работы аккаунтов, при этом пины удаляются за нарушение правил контента, которого на самом деле в них нет,

продолжить чтение

Потребление фастфуда действительно коррелирует с низким интеллектом

Когда только-только вкатываешься в ЗОЖ, то моментально сталкиваешься со стигматизацией фастфуда. Есть масса исследований о том, как рацион с высоким содержанием насыщенных жиров и рафинированного сахара влияет на наши тела. Теперь, в новом исследовании на людях, ученые обнаружили, что подобный рацион коррелирует с низкими когнитивными способностями.

продолжить чтение

Apple работает с Anthropic над инструментом кодирования с помощью ИИ для Xcode

Apple и Anthropic создают инструмент кодирования на основе ИИ, который будет работать в Xcode. Новая версия Xcode будет включать модели Claude Sonnet для «написания, редактирования и тестирования кода от имени программистов».

продолжить чтение

R-Style Softlab представил ПО для организации мобильного офиса и другие решения с применением искусственного интеллекта

продолжить чтение

Mellum. Быстрая, миниатюрная модель для дополнения кода в редакторе

Человек купил в магазине ящик елочных игрушек. На следующий день приносит его обратно:- Ваш товар бракованный.- Что, игрушки битые?- Нет, целые.- Не блестят?- Блестят.- Так в чем же дело?- НЕ РАДУЮТ! Автодополнение всегда было силой и гордостью современных IDE. Сравнивая IDEA, VSCode и Eclipse, мы смотрим — оно вообще адекватные вещи пишет в выпадающей менюшке? Знает про Spring, про Next.js, про свежие апдейты в Питоне?Но в последнее время, детерминированные алгоритмы больше не являются предметом хайпа. В мире IDE появился новый царь горы — AI, который обязан быть везде. Старые игрушки продолжают работать, но уже не радуют.

продолжить чтение

Mellum. Как закалялась сталь

Человек купил в магазине ящик елочных игрушек. На следующий день приносит его обратно:- Ваш товар бракованный.- Что, игрушки битые?- Нет, целые.- Не блестят?- Блестят.- Так в чем же дело?- НЕ РАДУЮТ! Автодополнение всегда было силой и гордостью современных IDE. Сравнивая IDEA, VSCode и Eclipse, мы смотрим — оно вообще адекватные вещи пишет в выпадающей менюшке? Знает про Spring, про Next.js, про свежие апдейты в Питоне?Но в последнее время, детерминированные алгоритмы больше не являются предметом хайпа. В мире IDE появился новый царь горы — AI, который обязан быть везде. Старые игрушки продолжают работать, но уже не радуют.

продолжить чтение

Как мы запускали мониторинг-пилот для Новатэка: испытание холодом, логистикой и бюрократией

Многие из вас хотели бы реализовать какую-то часть компьютерных игр в реальности: системы прокачки, уровни репутации, борьба добра со злом — не зря же мы проходим через геймификацию всего на свете.Моей же страстью были стратегии. Сплю и вижу, как управляю огромными армиями, выстраиваю цепочки снабжения и контролирую ситуацию с высоты птичьего полёта. Именно эта мысль и легла в основу моего проекта.

продолжить чтение

Как мы разработали LLM-модель, которая генерирует описания товаров для пользователей Авито

Привет! Я Сергей Кляхандлер, senior DS-инженер в команде LLM Авито. В статье рассказываю, как мы разработали ML-модель, которая автоматически генерирует описания для объявлений из категории Одежда и Обувь. Поделюсь, откуда мы брали данные для обучения, какую архитектуру использовали и как тренировали модель. А в конце расскажу про важную часть работы — фейлы.Статья будет полезна DS-инженерам, которые работают с мультимодальными LLM-моделями.

продолжить чтение

  • Оставлено в