Слушайте выпуск #7 подкаста «про код.ии.прод». Блог компании Банки.ру.. Блог компании Банки.ру. искусственный интеллект.. Блог компании Банки.ру. искусственный интеллект. подкаст.. Блог компании Банки.ру. искусственный интеллект. подкаст. подкаст для разработчиков.. Блог компании Банки.ру. искусственный интеллект. подкаст. подкаст для разработчиков. подкаст для тимлидов.. Блог компании Банки.ру. искусственный интеллект. подкаст. подкаст для разработчиков. подкаст для тимлидов. подкаст про искусственный интеллект.
Слушайте выпуск #7 подкаста «про код.ии.прод» - 1

Привет! Меня зовут Женя, я деврел в Банки.ру.
Слушайте новый выпуск нашего подкаста на платформах:

🔗 Яндекс Музыка
🔗 VK Music
🔗 Apple Podcasts
🔗 Spotify
🔗 Mave

На этот раз позвали Рушана, тимлида нашей ML-команды. Устроили небольшой дипдайв в контексное окно: как оно устроено и как компании пришли к миллиону токенов.

В выпуске #7:
◾️ Что на самом деле занимает контекст, кроме вашего запроса
◾️ Почему модель, как и человек, помнит начало и конец, а середину пропускает
◾️ Attention за O(n²): почему эту проблему до сих пор заливают железом
◾️ Лайфхак: тридцать саб-агентов и тридцать миллионов токенов контекста в одной сессии
◾️ Модели одного семейства подыгрывают друг другу: миф или правда?

Кажется, будет полезно всем: и тем, кто только открыл Claude Code, и тем, кто давно сбрасывает сессию на половине контекста и хочет понять, почему это работает.

Новый выпуск — каждые две недели 😎

Автор: eugeneZaripov

Источник