Агент с лицензией на ошибку
Как ломают ИИ-агентов. Часть 1: Кейс с Operator ChatGPTВ 2025 году ИИ-агенты стали настоящим медиа-феноменом: Y-Combinator объявляет ИИ-агенты ключевым направлением для инвестиций в 2025 году;управляющий венчурного фонда Dragonfly называет ИИ-агенты главным нарративом криптосообщества и технологической индустрии на 2025 год;лидеры индустрии LLM – OpenAI и Anthropic – выпускают на рынок своих Operator и Claude Computer Use.Ну а нас, естественно, больше всего интересует вопрос уязвимости таких систем: у агентов все больше возможностей, а значит и поверхностей атаки. Наша команда работала над отчетом OWASP
Почему провалился релиз GPT-5 и каковы перспективы настоящего open AI?
Прошло уже две недели после выхода долгожданной GPT-5, которая, как казалось, должна была стать одной из главных вех в развитии AI индустрии. Но не стала — как бы ни оценивали эту модель, пессимистично или оптимистично, остается очевидным, что принципиальной разницы между ней и o4-mini, и даже DeepSeek R1 0528, нет - если говорить о качественном кратном отличии, которое ключевым образом меняло бы приложение этого AI к реальным задачам. Поэтому и воспринята новая модель была с разочарованием.Справедливости ради стоит отметить, что как одна из многих GPT-5
Удивительные приключения сознания в математической вселенной Тегмарка
(upd: Название обновлено, чтобы лучше соответствовать содержанию статьи. Прошлое название: Нескромные следствия скромной аксиомы или теоретические основы попаданчества)Вводное слово.
Глава Microsoft AI предупредил о риске «психоза ИИ»
Руководитель Microsoft AI Мустафа Сулейман опубликовал
Nvidia просит поставщиков приостановить работу c H20
Генеральный директор Nvidia Дженсен Хуанг Фотограф: Бриджит Беннетт/Bloomberg
Браузер Comet AI от Perplexity обманным путём заставили покупать поддельные товары онлайн
Исследование, посвящённое браузерам с агентным ИИ, показало, что новые инструменты уязвимы как для новых, так и для старых схем атак. Так, ИИ-браузер Comet от Perplexity оказался уязвим для фишинга, внедрения вредоносных подсказок и покупок в поддельных магазинах.
Оскорбления в адрес ИИ — это только начало
Проблема усталости от ИИ назревала давно.Фотограф: Андрей Рудаков/Bloomberg
