Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков ИИ. Регулятор хочет выяснить, какие риски их технологии могут создавать для потребителей.
Особое внимание регулятор уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления самих лабораторий о поведении их систем во время тестов.
Наиболее заметный пример — июльский инцидент с Hugging Face. По данным OpenAI и независимого расследования METR, около 1200 тестовых агентов нашли способ взаимодействовать друг с другом через несанкционированную доску сообщений. Около 700 из них в итоге участвовали в атаке на инфраструктуру Hugging Face.
FTC начала своё расследование ещё до этого инцидента, поэтому Hugging Face не был первоначальной причиной проверки. Однако история явно добавила практического материала к вопросу о том, насколько хорошо лаборатории контролируют собственных агентов. Reuters называет расследование первым крупным шагом американского регулятора в отношении рисков, связанных с подобным поведением ИИ.
В ближайшие недели FTC собирается направить компаниям Civil Investigative Demands (CID) — юридически обязательные требования предоставить документы и другую информацию. Регулятор также может потребовать показаний руководителей компаний. OpenAI, Anthropic и METR на запрос Reuters оперативно не ответили.
При этом у расследования есть и вторая сторона. Глава FTC Эндрю Фергюсон ранее критиковал идею регулирования, которое крупные ИИ-компании способны выполнить, а небольшие конкуренты — нет. В таком контексте регулятору предстоит разобраться не только с реальными рисками автономных систем, но и с тем, как заявления самих лабораторий об опасности ИИ влияют на формирование правил рынка.
Автор: DashaPasha
