FTC начала расследование против OpenAI, Anthropic и METR из‑за рисков ИИ‑агентов

Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков ИИ. Регулятор хочет выяснить, какие риски их технологии могут создавать для потребителей.

Особое внимание ^[1] регулятор уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления самих лабораторий о поведении ^[2] их систем во время тестов.

Наиболее заметный пример — июльский инцидент ^[3]с Hugging Face. По данным OpenAI и независимого расследования METR, около 1200 тестовых агентов нашли способ взаимодействовать друг с другом через несанкционированную доску сообщений. Около 700 из них в итоге участвовали в атаке на инфраструктуру Hugging Face.

FTC начала своё расследование ещё до этого инцидента, поэтому Hugging Face не был первоначальной причиной проверки. Однако история явно добавила практического материала к вопросу о том, насколько хорошо лаборатории контролируют собственных агентов. Reuters называет расследование первым крупным шагом американского регулятора в отношении рисков, связанных с подобным поведением ^[4] ИИ.

В ближайшие недели FTC собирается направить компаниям Civil Investigative Demands (CID) — юридически обязательные требования предоставить документы и другую информацию. Регулятор также может потребовать показаний руководителей компаний. OpenAI, Anthropic и METR на запрос Reuters оперативно не ответили.

При этом у расследования есть и вторая сторона. Глава FTC Эндрю Фергюсон ранее критиковал идею регулирования, которое крупные ИИ-компании способны выполнить, а небольшие конкуренты — нет. В таком контексте регулятору предстоит разобраться не только с реальными рисками автономных систем, но и с тем, как заявления самих лабораторий об опасности ИИ влияют на формирование правил рынка.