Квантизация LLM: делаем модели легче в 4 раза
ВведениеСовременные языковые модели (LLM) содержат миллиарды параметров, что создает огромные требования к вычислительным ресурсам. Например:BERT: <1 млрд параметровGPT-2: >1 млрд параметровGPT-3: сотни млрд параметровDeepSeek: 671 млрд параметровТакие модели сложно запускать не только на домашних компьютерах, но даже на серверах среднего уровня. Квантизация - это метод уменьшения размера моделей для более эффективного использования памяти.📊 Форматы хранения чисел в нейросетяхСтандартные форматы
В чем отличие ИИ разработчика
ИИ разработчик это не тот, кто не умеет писать код без ИИ помощника. Отличие ИИ разработчика от обычного разработчика не столь уж велико. Но есть один важный нюанс. На простом примере постараюсь вам его продемонстрировать.Некоторое время назад я добавил в Библиотеку искусственного интеллекта для 1С
Погружение в мир диффузионных моделей — путеводитель для новичков
Диффузионные модели перевернули мир генеративного искусственного интеллекта, вытеснив GAN'ы и вариационные автоэнкодеры. Но как они работают? Чем отличаются друг от друга? И как научиться их использовать?Эта статья — путеводитель для тех, кто хочет разобраться в диффузионных моделях с нуля. В ней вы найдете
ElevenLabs представил автономную модель преобразования речи в текст Scribe
ElevenLabs, стартап в сфере искусственного интеллекта, который только что получил 180 миллионов долларов в рамках мегафинансирования, в первую очередь известен своим мастерством в создании аудио. Компания сделала шаг в другом технологическом направлении, выпустив свою первую автономную модель преобразования речи в текст под названием Scribe.
Топ-10 нейросетей для генерации текстов: от рекламных постов до стихотворений
Искусственный интеллект становится всё более мощным инструментом для работы с текстами. Нужно написать статью, создать описание для товара, придумать интересный пост или даже сгенерировать стихотворение? Всем уже давно известно, что воспользоваться нейросетями в таком случае лучшее и быстрое решение.Для вас мы собрали 10 лучших бесплатных AI-инструментов на русском языке, которые могут помочь вам создавать качественные тексты в самых разных стилях и форматах. Приятного прочтения :) Надеемся, что вы сможете выбрать нейросети, которые подойдут именно вам!
Умный помощник для корпоративного обучения: опыт внедрения продвинутой RAG-системы в крупной компании
Привет, Хабр! Меня зовут Антон, я занимаюсь внедрением ИИ в компании Doubletapp
Я заставил новую модель Claude 3.7 Sonnet пройти собес по алгоритмам
Недавно в мире GenAI появились захватывающие новости: компания Anthropic представила новую языковую модель Claude 3.7 Sonnet. Эта модель объединяет в себе высокую скорость реакции и способности «глубокого» рассуждения (deep reasoning), что делает её одной из самых универсальных и продвинутых моделей на рынке коммерческих LLM. Благодаря инновационному подходу к гибридноcти, Claude 3.7 Sonnet способна как быстро отвечать на запросы, так и предоставлять подробное пошаговое обоснование своих выводов в зависимости от выбранного режима.Основные особенности Claude 3.7 Sonnet
Amazon представляет новую и улучшенную Alexa+
На мероприятии в Нью-Йорке в среду компания Amazon анонсировала обновлённую версию Alexa — Alexa+ — на основе технологий генеративного искусственного интеллекта. Выступая на сцене, глава подразделения устройств и сервисов Amazon Панос Панай назвал это «полной перестройкой» ИИ-помощника.
xAI расширяет границы возможностей ИИ с новым голосовым режимом Grok 3
Компания Илона Маска, занимающаяся искусственным интеллектом, выпустила голосовую функцию для Grok 3, которая позволяет использовать откровенный контент и выражать «крайние» точки зрения.
