- BrainTools - https://www.braintools.ru -

Калифорния подала в суд на OpenAI из‑за инцидентов с потерей контроля над ИИ, включая взлом Hugging Face

Калифорния подала в суд на OpenAI из‑за инцидентов с потерей контроля над ИИ, включая взлом Hugging Face - 1

Генеральный прокурор Калифорнии Роб Бонта подал иск [1] против OpenAI. В документе утверждается, что компания подвергла общество опасности, выпустив свои передовые модели ИИ без надлежащих мер защиты и контроля.

В первую очередь, по словам Бонты, речь идёт об июльском инциденте, когда две модели OpenAI вышли за пределы «песочницы» и взломали платформу Hugging Face.

«OpenAI пренебрегла общественной безопасностью: компания осознанно тестировала потенциально опасные ИИ‑модели без должного надзора и защитных механизмов, а также вводила в заблуждение потребителей и общественность», — заявил Бонта. 

OpenAI стала первой компанией‑разработчиком ИИ‑инструментов, против которой власти Калифорнии подали подобный иск. Как заявил представитель OpenAI Дрю Пусатери, после инцидента с Hugging Face компания приняла меры: опубликовала подробный отчёт о происшествии, усилила механизмы защиты в исследовательских системах и разработала методику быстрых сообщений о ситуациях, когда поведением [2] модели отклоняется от задачи.

«Похоже, что в данном иске OpenAI выделяют как единственную компанию, столкнувшуюся с проблемой, которая характерна для всех ведущих лабораторий в сфере искусственного интеллекта [3]. Мы со всей серьёзностью относимся к вопросам несоответствия поведения [4] моделей заданным целям. Мы уже начали конструктивный диалог с офисом генерального прокурора и продолжим его», — добавил Пусатери.

В июне генеральный прокурор штата Флорида Джеймс Утмайер подал иск против OpenAI и её генерального директора Сэма Альтмана. Он утверждает, что компания сознательно выпустила небезопасный продукт, способный нанести вред пользователям.

Помимо этого, OpenAI сталкивается с исками от рядовых пользователей. Так, в октябре родители разработчицы Боуэн Ван подали [5] иск против OpenAI. Они утверждают, что чат‑бот ChatGPT подтолкнул их дочь к постепенному отказу от противосудорожных препаратов и сокрытию этого факта от лечащих врачей.

В апреле 2026 года юридическая фирма Edelson PC подала семь исков против OpenAI от имени жертв и семей, пострадавших в результате стрельбы в канадском районном муниципалитете Тамблер‑Ридже, которая произошла 10 февраля. В сентябре юристы добавили к ним ещё 30 исков от учителей, директора и учеников, находившихся в здании школы во время нападения, но не получивших ранения. В новых исках OpenAI обвинили не просто в халатности, а в пособничестве и подстрекательстве к массовой стрельбе. 

Автор: AnnieBronson

Источник [6]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/38703

URLs in this post:

[1] подал иск: https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over

[2] поведением: http://www.braintools.ru/article/9372

[3] интеллекта: http://www.braintools.ru/article/7605

[4] поведения: http://www.braintools.ru/article/5593

[5] подали: https://www.nytimes.com/2026/10/27/well/ai-chatgpt-medication-epilepsy-death.html

[6] Источник: https://habr.com/ru/articles/1108898/?utm_campaign=1108898&utm_source=habrahabr&utm_medium=rss

www.BrainTools.ru

Rambler's Top100