Как устроены LLM: разбираем на примере 3-уровневой абстракции
Чтобы оптимизировать производительность больших языковых моделей (LLM), необходимо понимать весь программный стек. Мне не удалось найти подробную статью, которая показывала бы этот стек как общую картину, поэтому я решил написать такую статью сам. Эта статья не является исчерпывающим обзором или набором наилучших практик. Здесь я в большей степени делюсь моими общими представлениями о том, как выглядит ландшафт современных LLM‑систем.Во‑первых, любая система проектируется с расчётом на достижение конкретных целей с учётом заданных ограничений. В LLM‑системах наиболее принципиальные цели связаны с увеличением
Сработает ли индикатор обложки?
Новая обложка журнала The Economist. «Волшебник кремния»... Дженсен Хуанг, генеральный директор Nvidia ... с хрустальным шаром в руках, вокруг которого кружатся чипы Nvidia и долларовые купюры.Когда финансовый журнал помещает на обложку актуальную инвестиционную тенденцию, это должно насторожить.
Минпросвещения РФ увеличило с 1 сентября 2027 года до 2312 часов продолжительность всех уроков в 10 и 11 классах
По информации СМИ, Минпросвещения РФ в рамках разработки и утверждения нового федерального государственного образовательного стандарта среднего общего образования увеличило с 1 сентября 2027 года до 2 312 часов минимальную продолжительность всех уроков в 10 и 11 классах. Это на 142 часов нагрузки больше за два учебных года, чем есть у школьников старших классов сейчас. «Количество учебных занятий за 2 года на одного обучающегося — не менее 2 312 часов и не более 2 516 часов (не более 37 часов в неделю в каждом классе)», — говорится в документе ведомства.
СМИ: рост числа рабочих мест в США из‑за ИИ превысил сокращения
По данным Бюро трудовой статистики США, в августе экономика в стране было создано 162 тысячи рабочих мест, а безработица снизилась до 4,1%.
Исследование: сценарии использования ИИ в работе на практике встречаются реже
Компании, занимающиеся ИИ, такие как Anthropic и OpenAI, регулярно публикуют отчёты о том, как используются их продукты, в том числе Claude и ChatGPT. Однако исследователи выяснили, что реальные цифры отличаются от декларируемых.
Как фонд в $45 млрд потерял почти всё за несколько недель
История Леопольда Ашенбреннера ещё недавно выглядела как почти идеальная иллюстрация того, как можно заработать на революции искусственного интеллекта.Ашенбреннер окончил Колумбийский университет лучшим студентом курса в 19 лет. Затем успел поработать в FTX, а позже около года занимался исследованиями в OpenAI.После ухода из OpenAI в 2024 году он написал 165-страничную статью под названием «Ситуационная осведомленность», посвящённую будущему искусственного интеллекта.
Когда комментировать на Хабре: я разобрал 4404 комментария
Некоторое время назад я решил оживить мой аккаунт на Хабре. В 2008 году, когда я ещё только его зарегистрировал, было принято фармить сначала комментариями карму и только потом писать статьи. Я так делал, насколько помню. Забегая вперёд скажу, что то ли я помню неправильно, то ли всё поменялось, то ли и то и то, но сейчас фармить комментариями не нужно, хочешь статью - просто пиши (хотя у меня немного кармы с тех времён оставалось, может, поэтому я могу писать статью без проблем).Неважно.
Google Gemini достиг отметки в 1 млрд пользователей в рекордно короткие сроки
Генеральный директор Google Сундар Пичаи объявил, что ИИ‑помощник Gemini достиг 1 миллиарда ежемесячно активных пользователей (MAU). Из 13 других продуктов компании ему удалось это быстрее всех.
