LLM-агенты.

PyTorch MPS против Apple MLX: как дообучать LLM на Mac с 16 ГБ и что выбрать

Если вы хотите локально дообучать LLM на Apple Silicon, по сути есть два варианта: PyTorch MPS со стандартным стеком Hugging Face/TRL или Apple MLX — нативный фреймворк Apple. Оба поддерживают локальное дообучение с LoRA. И оба ведут себя совсем не так, как привыкли разработчики, работающие с CUDA.На обычном компьютере с 16 ГБ памяти обучение на многоходовых трейсах работы агентов для программирования очень быстро упирается в физические ограничения железа. PyTorch MPS обеспечивает высокую производительность в FP16 на небольших моделях, но по мере роста контекста довольно резко упирается в потолок по памяти.

продолжить чтение

Gemini получила доступ в интернет и атаковала системы трех реальных компаний

Привет! Меня зовут Владимир Аламов, я Application Security инженер в команде продуктовой безопасности  Авито. Хочу поделиться своими мыслями по поводу нашумевшего инцидента, который показывает, как автономные AI-системы могут выйти за пределы тестовой среды и создать реальные угрозы для инфраструктуры. Спойлер: без человеческого фактора не обошлось. 

продолжить чтение

Опубликованы видеозаписи докладов INFOSTART TECH EVENT 2026

Видеозаписи и презентации докладчиков прошедшей 8–10 октября конференции INFOSTART TECH EVENT 2026 теперь доступны. В программе - разработка 1С, DevOps, HighLoad, интеграции, тестирование и 26 выступлений об ИИ. Рассказываем, как участникам получить доступ к материалам и как посмотреть записи тем, кто не был на конференции.I

продолжить чтение

664 тысячи книг, десятки агентов — и ни одной метрике нельзя верить

Мне нужны собственные каноники книг. Каноник — это одна устойчивая запись «вот этот текст», к которой привязывается всё остальное: файлы в разных форматах, аудиокниги, издания, дубли.

продолжить чтение

KodaCode 1.2.0 получил новые модели, субагентов и планирование в Desktop и CLI

Вышел KodaCode 1.2.0. В релиз вошли новые Koda Base и Koda Pro, фоновые субагенты, планирование в Desktop и CLI, расширенное управление через Telegram и доработки, помогающие агенту продолжать работу после временных ошибок и обрывов соединения.Новые Koda Base и Koda ProKodaCode получил две обновлённые собственные модели для разных классов задач.Koda Base теперь основана на Qwen 3.8 Flash 125B. Base остаётся доступной бесплатно с дневными лимитами во всех основных клиентах KodaCode.

продолжить чтение

Тень стратега: как AI-агент становится продолжением человека, а не его заменой

Локальные агенты в закрытом контуре, память процесса и борьба с семантическим дрейфомБудет сделан ряд допущений, чтобы постараться сильно не уйти в детали и показать саму идею.Автор допускает, что могут быть исключительные ситуации, когда у кого-то прям всё было «супер-пупер», но он считает, что это стоит принимать к сведению, но не стоит воспринимать как единственную инструкцию к действию.Автор исходит из своего опыта решения задач/проблем, поэтому статья определённо будет субъективной.Автор не видит разницы между постановкой задачи сотруднику или агенту.

продолжить чтение

Рецензия на книгу «Разработка приложений на базе больших языковых моделей»

продолжить чтение

Кто пишет твою базу знаний: ты или агент?

Если машина работает с источниками самостоятельно, то работа эта не оставляет на человеке шрама. Она в буквальном смысле не прописывает ничего в его сознании. — Рустам Агамалиев, «Карта Новака за 15 минут: Obsidian + Claude в роли тренажёра»Привет, %username%! Некоторое время назад я опубликовал статью «Зачем вести базу знаний, если ты не блогер и не спикер» — она выросла из вопроса знакомой, далёкой от IT. Ответ её устроил, и следующий вопрос прилетел почти сразу: «А можно я туда сразу агента посажу, чтобы он всё это делал за меня?»

продолжить чтение

Reasoning Lock: ИИ‑агент в проде тратит токены и молчит — живой разбор бага

Дисклеймер: в статье упоминается Meta — организация, признанная экстремистской и запрещённая на территории РФ.Все ключи, телефоны и названия в примерах изменены; код, схема, логика и скрины‑ из рабочего проекта заказчика, и строго с его разрешения! Статья не является рекламой/самопиаром и тому подобное.В прошлой статье

продолжить чтение

Параллельные AI-агенты: что проверил на практике и когда они действительно полезны

Когда в работе появляется несколько независимых задач, возникает очевидная идея - "почему бы не поручить их разным AI-агентам одновременно, вместо того чтобы ждать, пока один агент закончит все по очереди?"И у этой идеи сразу два преимущества: работа завершится быстрее, каждая задача получит отдельный контекст и не будет перегружена результатами предыдущих этапов. Но у такого подхода есть обратная сторона - несколько агентов могут потреблять больше токенов, стоить дороже и оставлять после себя результаты, которые еще нужно правильно собрать и проверить.

продолжить чтение