Генеральные прокуроры штатов США выступили с совместным предупреждением крупнейшим технологическим компаниям, включая Microsoft, OpenAI и Google. Они требуют срочно исправить проблему «делюзионных» ответов искусственного интеллекта, то есть случаев, когда модели уверенно выдают неверную или вымышленную информацию. По мнению властей, такие ошибки не просто раздражают пользователя, они могут причинить реальный вред, вводя людей в заблуждение, особенно в критически важных областях, таких как здоровье, финансы или правовая информация.
Генеральные прокуроры сослались на многочисленные случаи, когда искусственный интеллект создавал убедительные, но ложные описания событий, неправильные факты или давал советы, которые противоречат здравому смыслу и официальным источникам. Они подчеркнули, что компании должны разработать систему контроля качества, которая способна фиксировать и предотвращать такие ошибки, а также проводить периодические проверки моделей. Представители государственных органов также настаивают на прозрачности тестирования, отчётности перед регуляторами и создании механизмов исправления результатов ИИ, если они оказываются недостоверными или опасными.
Компании в ответ подтвердили, что осознают проблему и ведут работу по её устранению, включая дообучение моделей, внедрение диагностических инструментов и усиление фильтров безопасности. Однако генеральные прокуроры считают, что этого недостаточно. Они призвали технологические фирмы представить конкретные планы и графики, которые покажут, как и когда будут исправлены системные ошибки. Если компании не смогут удовлетворительно ответить на запросы властей, это может привести к более жёсткому регулированию или даже юридическим последствиям.
Это предупреждение стало очередным сигналом растущего давления со стороны властей на индустрию искусственного интеллекта. Публичные дебаты вокруг ответственности за ошибки ИИ разгораются в США и в других странах мира, а требования к безопасности и точности становятся всё более жёсткими. Следим за новостями!
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: cognitronn
