Демис Хассабис призвал ИИ-компании не повторять ошибок соцсетей

Гендиректор Google DeepMind Демис Хассабис призвал ^[1] ИИ-компании не повторять ^[2] ошибок, которые социальные сети допускали на старте своего развития. По его словам, ИИ является одной из самых трансформационных технологий в истории, но его внедрение требует осторожного подхода.

Хассабис привёл любимый девиз Кремниевой долины «Move fast and break things».

«Мы должны извлечь уроки из социальных сетей, где этот подход — “двигайся быстро и ломай вещи” — использовался без понимания того, какими окажутся вторичные и третичные последствия», — сказал он.

По словам Хассабиса, если разработчики ИИ, как и авторы соцсетей, будут прежде всего стремиться максимизировать вовлечённость пользователей, то это приведёт к тем же проблемам, начиная от нарушения концентрации внимания ^[3] и до ухудшения психического здоровья.

По его словам, алгоритмы соцсетей стремятся «захватить всё больше и больше вашего внимания», не заботясь, что это может вам навредить. В случае ИИ риски выше, поскольку его влияние затронет сразу целые индустрии и общества.

Гендиректор DeepMind призвал строить разработку ИИ по научному методу с тщательным тестированием и изучением системы перед её развёртыванием на миллиарды пользователей. Он подчеркнул, что ИИ должен быть инструментом, который служит людям, а не манипулирует ими.

Хассабис заключил, что нужно найти правильный баланс — «смело использовать возможности, но ответственно управлять рисками», а балансировать придётся «до момента появления общего ИИ».

Ранее председатель совета директоров OpenAI Брет Тейлор заявил ^[4], что мир находится в пузыре искусственного интеллекта ^[5], но это нормально. В частности, он сравнил современный ландшафт искусственного интеллекта с пузырём доткомов конца 90-х.