[2-8] Autocompletion: как LLM создает подсказки кода
Дисклеймер. Я занимаюсь кодинговыми AI-ассистентами: начинал с автодополнения, сейчас работаю с агентами и внедрением AI в SDLC. Последние три года я регулярно выступаю с докладами и образовательными лекциями. За это время у меня накопилось много заметок о том, как устроены AI-ассистенты и агенты, написанных простым языком. Эта одна из них. Fill-in-the-Middle: как модель дописывает код в середине файла...В прошлой заметке мы разобрали Fill-in-the-Middle (FIM
Может ли ИИ выучить физику, просто наблюдая за миром?
О когнитивных способностях человека есть много исследований. Одно из самых известных это исследование за авторством Элизабет Спелке. Оно о том как у человека появляется самое первое, базовое понимание мира и физических законов. Её работа ставит под сомнение традиционные взгляды на то, что всё человеческое знание приобретается исключительно через опыт, и выдвигает гипотезу о наличии врожденных когнитивных систем.
Квантизация LLM: как запихнуть 70B модель в свою видюху
Ну что, думаете что для запуска LLaMA 3 70B вам нужна серверная стойка за лярд рублей? Поздравляю, вас обманули маркетологи GPU-вендоров. Модели с сотнями миллиардов параметров — LLaMA 3 70B, DeepSeek-V3 с его 671 лярдом параметров — жрут vRAM как не в себя, но есть способ запихнуть это все в обычную потребительскую видюху.Сегодня в статье разберем, как работает чудо квантизации под капотом, чем отличаются PTQ и QAT, почему MoE-модели (DeepSeek-V3, Mixtral, LLaMA 4 Scout) квантизовать сложнее и как выбрать между GPTQ, GGUF и AWQ.
В 404 Media отследили партию редких книг, которая закончила жизнь на тренировочном полигоне ИИ Amazon
Amazon закупает тонны редких книг, срезает с них корешки и сканирует их для обучения языковых моделей, выяснило издание 404 Media. На одну из редких книг, попавших на склад VGT3 американского гиганта электронной коммерции, было установлено отслеживающее устройство — смарт‑метка Apple AirTag.
От LLM-портала до фабрики внутренних агентов: как в Авито строят корпоративного ассистента «Виталик»
Привет! Меня зовут Никита, я старший DS-инженер в Авито. В этой статье расскажу, как мы строили «Виталика» — нашу корпоративную экосистему ИИ-агентов. Отвечу на три главных вопроса: как процесс становится агентом, как сделать систему production-ready и куда развивать её дальше.Статья будет полезна ML-инженерам, AI-архитекторам и техническим лидам, которые строят агентные системы на базе LLM в корпоративной среде.Якорный кейс про закупку программного обеспеченияАгентами становятся успешные процессы
Nvidia инвестирует $105 млрд в дата‑центр OpenAI в штате Огайо
Nvidia согласилась предоставить гарантию на сумму до $105 млрд, чтобы помочь OpenAI арендовать обширный центр обработки данных, который построит SB Energy в американском штате Огайо. Также Nvidia вложит $1,5 млрд в SB Energy.
Anthropic публикует системные промпты Claude. Разбираем, как они менялись от Haiku 3 до Opus 5
Что Claude получает ещё до первого сообщения пользователя, зачем модели отдельные инструкции по работе с инструментами и длинными задачами и какие идеи из system prompts можно использовать в собственных AI-ассистентах.Когда мы отправляем Claude первый запрос, для пользователя диалог только начинается.Для модели нет.До пользовательского сообщения Claude уже получает системную инструкцию, которая задаёт контекст работы: кто модель, какая сейчас дата, как оформлять ответы, как работать с доступными инструментами, что делать с неопределённостью и какие ограничения учитывать.
Зачем компаниям строить собственный AI и как это делать?
Привет! Меня зовут Саша Журавлев. Я венчурный инвестор и основатель фонда Mento VC. Мы инвестируем в технологические компании на стадиях Seed / Series A в США, а в своем телеграм-канале рассказываю, как вижу рынок и принимаю инвестиционные решения.Зачем компаниям строить собственный AI и как это делать?Ответу на этот вопрос Sequoia Capital посвятила отдельное видео для фаундеров и AI-команд.

