Точно ли агенты безопасны?
Буквально недавно я писал статью по мотивам материала Anthropic - того самого, где опять говорили "джуны больше не нужны".
Anthropic, Fable 5, Claude Code и большой отбор игрушек
Самая сильная общедоступная модель Anthropic прожила четыре дня. У меня абонемент в кофейню живёт дольше.9 июня Anthropic выкатила Claude Fable 5, он же Mythos 5 в закрытом контуре. 12 июня доступ к обеим версиям сняли. А между этими датами уместилось столько, сколько иная модель не набирает за год жизни: скрытое ухудшение ответов для ИИ-исследователей, крик "Fable взломали и вытащили системный промпт" (пост Pliny в X, архив на GitHub
Срочная новость: правительство США потребовало экстренно отключить доступ к Fable 5 и Mythos 5
Правительство США, ссылаясь на полномочия в сфере национальной безопасности, выпустило директиву экспортного контроля, требующую приостановить любой доступ к Fable 5 и Mythos 5 для иностранных граждан - независимо от того, находятся они в США или за их пределами. Это касается в том числе иностранных сотрудников Anthropic.Практический результат этого распоряжения: нам необходимо срочно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований.Доступ ко всем остальным моделям Claude не затронут.
AI не убил разработчиков. Он сделал видимость разработки дешёвой
«Я собрал приложение за вечер на Claude. Разработчики больше не нужны».Такие посты сейчас везде. Лента пестрит скриншотами красивых демок, историями «запустил стартап за выходные» и обещаниями, что теперь любой может стать продуктовым инженером.А потом понеслась...EnrichLead, собранный полностью на AI, взломали практически сразу после запуска. Ключи от сервисов лежали в открытом виде. Replit-агент, которому доверили продовую базу, просто её снёс и уверенно
В MIT написали ОС Fractal, которая «просвечивает» процессор — и нашла уязвимость в Apple M1
Исследователи из MIT (Массачусетского технологического института) написали с нуля операционную систему Fractal, единственная задача которой — снять с процессора все защитные «ширмы», которые обычно ставит ОС, и показать безопаснику, как на самом деле работают микросхемы. Чтобы продемонстрировать возможности инструмента, с его помощью нашли ранее неизвестную аппаратную уязвимость в чипе Apple M1. Работу представили в мае на IEEE Symposium on Security and Privacy.
Домик для ИИ: как завод пришёл к идее AI ready для бизнеса
Бизнес нацелился делать свой собственный AI. Все задают вопрос: «Какая модель мне нужна?» Но никто не задумывается, на каких мощностях модель будет работать. Мы тоже сначала не задумывались. Разработали корпоративного AI-агента, прокачали ИТ-команду, чтобы двигаться дальше — и споткнулись о «железный порог». Так родилась идея AI ready модуля. В статье рассказали, что это такое и почему AI начинается не с модели, а с инфраструктуры.
Microsoft ограничила доступ своих сотрудников к новой ИИ-модели Claude Fable 5
После того, как компания Anthropic выпустила первую модель искусственного интеллекта класса Mythos Claude Fable, Microsoft ограничила использование Claude Fable 5 для сотрудников из-за новых требований к хранению данных.
Руководители OpenAI призвали не стремиться к полной автоматизации мира с помощью ИИ
Руководство компании OpenAI считает, что не нужно стремиться к полной автоматизации мира с помощью искусственного интеллекта. Гендиректор Сэм Альтман и главный научный сотрудник Якуб Пахоцкий заявили, что «отчётливо понимают риски», несмотря на все преимущества ИИ для продуктивности.
