Обнаружение уязвимостей ИИ агентов. Часть I: Введение в уязвимости
Этот вводная часть открывает серию статей о уязвимостях агентов ИИ, в которых изложены ключевые риски безопасности, например инъекция подсказок ввода и исполнение кода. Также заложены основы для будущих частей, где будут подробно рассмотрены недостатки исполнения кода, утечки данных и угрозы доступа к базам данных.От автора
Claude как операционная система для работы
Всем привет! Меня зовут Александр, я COO в SaaS-платформе аналитики данных. Делюсь полезными материалами, которые считаю стоят внимания. В основном про AI, изменение процессов, тренды и продуктовое видение.У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей.
На платформе курсов английского от Яндекс Практикума появился ИИ-помощник
На платформе курсов английского от Яндекс Практикума появился «Нейроэксперт»: ИИ-помощник для освоения грамматики. Теперь разбираться в сложных правилах стало проще — благодаря новому ИИ-помощнику, который всегда готов объяснить тему, проверить задание или ответить на вопрос прямо во время учебы.
ИИ Copilot обрабатывает 600 тысяч pull request для внутреннего кода Microsoft в месяц
Microsoft рассказала, насколько активно она использует помощников на основе искусственного интеллекта в своих процессах разработки. Внутренний помощник по кодированию ИИ Copilot применяется для ревью кода. Этот инструмент обрабатывает более 600 тысяч запросов на включение изменений (pull request, PR) в месяц, что составляет почти 90% от общего числа запросов.
ChatGPT сможет делать покупки в интернете и создавать презентации
Компания OpenAI внедряет новые возможности для чат-бота ChatGPT, чтобы он мог выполнять от имени пользователя всё более сложные задачи. Это часть стратегии по популяризации так называемых ИИ-агентов.Агент ChatGPT, который был представлен во время прямой трансляции в четверг, предназначен для оптимизации личных и профессиональных проектов, таких как планирование ужина и заказ ингредиентов онлайн или создание слайд-шоу для деловой встречи.
Ключевые понятия LLM
Современные языковые модели (large language models) стали ключевым элементом в развитии искусственного интеллекта и обработки естественного языка. Модели, основанные на глубоком обучении и архитектуре трансформеров, способны генерировать текст, отвечать на вопросы, писать код, создавать художественные произведения и даже участвовать в логических рассуждениях.
360 миллионов индийцев получили премиум‑чат‑ботов на базе искусственного интеллекта бесплатно на год

