«Сбер»: ИИ может выйти из‑под контроля только при неверном обращении с технологиями

Первый зампред правления «Сбера» Александр Ведяхин заявил ^[1], что искусственный интеллект ^[2] может выйти из‑под контроля только в том случае, если пользователь сам даст ему такую возможность. 

Ведяхин рассказал, что в Альянсе в сфере искусственного интеллекта разработали так называемую «Белую книгу ИИ», в которой смоделированы различные рисковые сценарии и вероятные ответные реакции ^[3] на них. По его словам, выйти из‑под контроля ИИ может только в случае неверного обращения с технологиями, и задача разработчиков — выстроить механизмы жёсткого контроля ИИ, при этом не останавливая технологический прогресс. 

Кроме того, Ведяхин также назвал преимущества российских моделей искусственного интеллекта перед зарубежными. В частности, это люди — школа и специалисты, регулирование, а также наличие собственных суверенных моделей. «У нас нет чрезмерной жесткости, как, например, в Европе, поэтому мы чувствуем себя очень уверенно», — заявил первый зампред правления «Сбера».

Российские ИИ‑разработчики не привязаны к зарубежным решениям и потому могут создавать модели искусственного интеллекта «под себя», учитывая культуру, язык и специфику, говорит Ведяхин. 

Первый зампред правления «Сбера» отметил, что на данный момент ИИ встроен во многие критические системы, в том числе финансы, науку, оборону и логистику. По мнению Ведяхина, при этом возможны различные кризисы. При этом управленец заявил, что наиболее вероятным сценарием считает не смерть, а трансформацию и фрагментацию ИИ — в его интерпретации будущего появятся различные виды моделей, которые будут контролировать государства и корпорации, однако централизованной такая система не будет.