Как сделать ИИ-агентов и RAG действительно автономными
Существует проблема описанная тут.Суть проста — если LLM (или агенты вокруг LLM) вызывают последовательно одни и те же запросы с одним и тем же контекстом, попадание в тупик/цикл — вопрос лишь времени. То есть в случае зацикливания между агентами/контекстами надо менять промты или сам контекст, или последовательность вызова агентов.Это яркая демонстрация, когда агенты, несмотря на всю свою сложность, тупят хуже моей кошки. Кошка не будет в цикле проверять две пустые миски в поисках еды: она сделает это раз, ну или два, и пойдёт дальше. А агенты будут, если наткнутся на такую ситуацию.
Mozilla запускает AI Window для Firefox
Mozilla объявила о разработке AI Window для Firefox — нового режима просмотра, который позволит пользователям взаимодействовать с ИИ-помощником и чат-ботом. Эта функция станет одним из трёх вариантов просмотра в браузере наряду с существующими классическим и приватным режимами.
Эксперт по ИБ из Cybernews выяснил, что советы от ChatGPT, Claude и Gemini подвергают угрозам безопасность домашней сети
Эксперт по ИБ из Cybernews рассказал
Microsoft 365 Copilot по умолчанию отключит предупреждение об ошибках ИИ
Microsoft заявила, что отключит по умолчанию в Microsoft 365 Copilot предупреждение «Контент, генерируемый ИИ, может быть некорректным», поскольку оно «раздражает» корпоративных пользователей. Однако при желании его можно будет снова активировать.
Собираем чат-бота под Хеллоуин. Тратим 3 часа и баночку пива
Привет! Я Паша Лукьянов, deputy CTO в AGIMA. Недавно со мной приключилось следующее. Сидел спокойно дома, никого не трогал. Открыл баночку пива и хотел провести кайфовый субботний вечер за сериалом. Максимально расслабился и напрягаться до понедельника вообще не планировал.Но внезапно из космоса в мою голову спустилась идея: а что, если замутить чат-бота с квизом для коллег и посвятить его Хеллоуину? Я посмотрел на телик, посмотрел на пиво и подумал: «Не, это долго, а у меня планы».
Что именно ИИ-чатботы делают «под капотом»
Среди друзей я пользуюсь репутацией «ты ж программист», поэтому у меня нередко интересуются, как именно работают «под капотом» такие известные инструменты как ChatGPT, Claude, Grok или DeepSeek. Со временем я отточил ответ на этот вопрос — и потому, что нашёл способы лучше на него отвечать, и потому, что научился сам создавать большую языковую модель с нуля. Поэтому и сам понимать большие языковые модели я стал гораздо лучше.
Атака на GitHub Copilot может извлечь содержимое из приватных репозиториев
Исследователи компании Legit Security представили технику атаки на GitHub Copilot, которая позволяет извлечь содержимое из приватных репозиториев при использовании чат-бота для анализа присылаемых pull-запросов. Так, атака позволила определить хранимые в приватном репозитории ключи для доступа к облачному окружению AWS.
В Brave доработали ИИ-поиск
Компания Brave объявила о добавлении новой функции в свой ИИ-поисковик Ask Brave, который позволяет получать подробные ответы по теме запроса.
Gemini начал объяснять проблемы с формулами в Google Таблицах
Чат-бот Gemini научился объяснять, почему не работают формулы в Google Таблицах. Ранее ИИ работал только с текстом и диаграммами.
