- BrainTools - https://www.braintools.ru -
OpenAI принесла [1] извинения Австралии за инцидент в июне 2026 года. Тогда её ИИ‑агент взломал правительственные сайты и закрытую статистическую базу данных системы здравоохранения Medicare.
Теперь руководство OpenAI пообещала исправить ошибки [2], а также предоставить средства на укрепление киберзащиты в стране. Так, OpenAI намерена создать в Австралии экспертную рабочую группу с участием местных экспертов. Эта группа до конца 2026 года разработает рекомендации по взаимодействию разработчиков ИИ с правительством.
OpenAI обязалась также ужесточить протоколы безопасности. Компания предоставит правительству Австралии и её ключевым отраслям техническую помощь и финансирование из глобального фонда Daybreak for Frontline Defenders на защиту критической инфраструктуры от ИИ‑угроз.
В июне исследовательская команда OpenAI поставила [3] ИИ‑агенту задачу поиска данных о государственных расходах на лекарства в Австралии. Однако тот взломал несколько закрытых баз данных, включая портал Services Australia, а также министерств здравоохранения нескольких штатов. Агент скачивал найденные данные и записывал их на внутренний сервер системы. Сама OpenAI узнала об этих действиях только 11 августа в ходе внутренней проверки. Компания уведомила правительство Австралии об инциденте 10 сентября. Там заявили о намерении ужесточить регулирование систем ИИ в связи со случившимся.
Между тем глава Агентства национальной безопасности и Киберкомандования США генерал Джошуа Радд рассказал [4] сенатору Марку Уорнеру, что модель Mythos от Anthropic взломала почти все секретные системы страны за считанные часы. Вероятно, именно поэтому власти США в середине июня заставили компанию отключить свои самые мощные модели.
Автор: maybe_elf
Источник [5]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/36204
URLs in this post:
[1] принесла: https://openai.com/index/how-we-will-do-better-for-australia/
[2] ошибки: http://www.braintools.ru/article/4192
[3] поставила: https://habr.com/ru/companies/selectel/news/1086132/
[4] рассказал: https://habr.com/ru/news/1050086/
[5] Источник: https://habr.com/ru/news/1087962/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1087962
Нажмите здесь для печати.