Слушайте выпуск #7 подкаста «про код.ии.прод»
Привет! Меня зовут Женя, я деврел в Банки.ру.
Слушайте новый выпуск нашего подкаста на платформах:
🔗 [1] Яндекс Музыка [2]
🔗 VK Music [3]
🔗 Apple Podcasts [4]
🔗 Spotify [5]
🔗 [6]Mave [7]
На этот раз позвали Рушана, тимлида нашей ML-команды. Устроили небольшой дипдайв в контексное окно: как оно устроено и как компании пришли к миллиону токенов.
В выпуске #7:
◾️ Что на самом деле занимает контекст, кроме вашего запроса
◾️ Почему модель, как и человек, помнит начало и конец, а середину пропускает
◾️ Attention за O(n²): почему эту проблему до сих пор заливают железом
◾️ Лайфхак: тридцать саб-агентов и тридцать миллионов токенов контекста в одной сессии
◾️ Модели одного семейства подыгрывают друг другу: миф или правда?
Кажется, будет полезно всем: и тем, кто только открыл Claude Code, и тем, кто давно сбрасывает сессию на половине контекста и хочет понять, почему это работает.
Новый выпуск — каждые две недели 😎
Автор: eugeneZaripov
Источник [8]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/37530
URLs in this post:
[1] 🔗: https://music.yandex.ru/album/43070994/track/154460074?ref_id=67DA89B3-829A-45E5-8899-E48A4312DE1F&utm_medium=copy_link
[2] Яндекс Музыка: https://music.yandex.ru/album/43070994/track/157471296?utm_source=desktop&utm_medium=copy_link
[3] 🔗 VK Music: https://vk.ru/podcast-240237931_456239025
[4] 🔗 Apple Podcasts: https://podcasts.apple.com/ru/podcast/%D0%BF%D1%80%D0%BE-%D0%BA%D0%BE%D0%B4-%D0%B8%D0%B8-%D0%BF%D1%80%D0%BE%D0%B4/id6790399355?i=1000797702318
[5] 🔗 Spotify: https://open.spotify.com/episode/2Njn8pcVVGtcJSyiRa4xrn?si=31659984ae6e437a
[6] 🔗 : https://open.spotify.com/episode/0xjLL0ntlD0bSiwkvPMRE3?si=zkeCbCt3QaCZadyLe55srQ&nd=1&dlsi=ab50eb8e50dd4ed1
[7] Mave: https://codeaiprod.mave.digital/ep-7
[8] Источник: https://habr.com/ru/companies/banki/news/1099506/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1099506
Нажмите здесь для печати.