OpenAI в июне прошлого года заблокировала аккаунт подозреваемой в одном из самых жестоких массовых расстрелов в истории Канады за нарушение правил использования ChatGPT, не передав информацию в полицию.
Компания, занимающаяся разработкой искусственного интеллекта, сообщила, что у предполагаемого убийцы — Джесси Ван Рутселаара (Jesse Van Rootselaar ) — был аккаунт, который около восьми месяцев назад был обнаружен системами, отслеживающими неправомерное использование, в том числе возможное содействие насильственным действиям.
Канадская полиция заявила, что 18-летняя девушка убила восемь человек и ранила около 25, после чего покончила с собой в отдалённом городке Тамблер-Ридж на западе Канады в начале этого месяца.
По словам представителей компании, около восьми месяцев назад OpenAI выявила аккаунт, связанный с Ван Рутселааром, с помощью инструментов для выявления случаев неправомерного использования моделей искусственного интеллекта в целях содействия насильственной деятельности, и заблокировала его.
Газета The Wall Street Journal первой сообщила о том, что OpenAI идентифицировала Ван Рутселаара, со ссылкой на анонимные источники, которые утверждали, что предполагаемый убийца «в течение нескольких дней описывал сценарии с применением огнестрельного оружия», что вызвало внутренние споры примерно среди дюжины сотрудников, некоторые из которых призывали руководство сообщить об этом в полицию.
В OpenAI заявили, что в то время рассматривали возможность передачи аккаунта в правоохранительные органы, но не выявили признаков достоверного или готовящегося к осуществлению плана и пришли к выводу, что аккаунт не соответствует требованиям. После стрельбы компания связалась с канадскими властями.
«Мы сочувствуем всем, кого затронула трагедия в Тамблер-Ридж, — сообщил представитель OpenAI по электронной почте. — Мы незамедлительно обратились в Королевскую канадскую конную полицию с информацией об этом человеке и о том, как он использовал ChatGPT, и продолжим оказывать поддержку в расследовании».
Компания заявила, что обучает ChatGPT предотвращать возможный реальный вред.
Автор: nikolz
