Гендиректор Google DeepMind Демис Хассабис призвал ИИ-компании не повторять ошибок, которые социальные сети допускали на старте своего развития. По его словам, ИИ является одной из самых трансформационных технологий в истории, но его внедрение требует осторожного подхода.
Хассабис привёл любимый девиз Кремниевой долины «Move fast and break things».
«Мы должны извлечь уроки из социальных сетей, где этот подход — “двигайся быстро и ломай вещи” — использовался без понимания того, какими окажутся вторичные и третичные последствия», — сказал он.
По словам Хассабиса, если разработчики ИИ, как и авторы соцсетей, будут прежде всего стремиться максимизировать вовлечённость пользователей, то это приведёт к тем же проблемам, начиная от нарушения концентрации внимания и до ухудшения психического здоровья.
По его словам, алгоритмы соцсетей стремятся «захватить всё больше и больше вашего внимания», не заботясь, что это может вам навредить. В случае ИИ риски выше, поскольку его влияние затронет сразу целые индустрии и общества.
Гендиректор DeepMind призвал строить разработку ИИ по научному методу с тщательным тестированием и изучением системы перед её развёртыванием на миллиарды пользователей. Он подчеркнул, что ИИ должен быть инструментом, который служит людям, а не манипулирует ими.
Хассабис заключил, что нужно найти правильный баланс — «смело использовать возможности, но ответственно управлять рисками», а балансировать придётся «до момента появления общего ИИ».
Ранее председатель совета директоров OpenAI Брет Тейлор заявил, что мир находится в пузыре искусственного интеллекта, но это нормально. В частности, он сравнил современный ландшафт искусственного интеллекта с пузырём доткомов конца 90-х.
Автор: maybe_elf
