Крестный отец ИИ сравнил современные модели с угрозой от пришельцев

Джеффри Хинтон, один из основателей метода глубокого обучения ^[1], которого часто называют “крестным отцом ИИ”, в интервью предпринимателю Эндрю Кину предупредил ^[2] о потенциальной опасности со стороны последних моделей. Он сравнил разрабатываемые сейчас ИИ с пришельцами, которые могут представлять угрозу человечеству.

Хинтон заявил, что человечество раньше никогда не сталкивалось с вещами, которые были бы умнее его. То же ядерное оружие просто создает более мощный взрыв, и его легко понять. А вот в случае с ИИ люди пока не понимают, что фактически создают инопланетных существ.

«Если бы через телескоп Джеймса Уэбба увидели вторжение пришельцев, которые доберутся сюда примерно через десять лет, люди были бы в ужасе. Но мы сами делаем этих пришельцев. Это реальные существа. Они понимают, что говорят. Они могут строить собственные планы, чтобы шантажировать людей, которые захотят их отключить» — Джеффри Хинтон

Хинтон регулярно призывает к поиску решений, которые могли бы обеспечить мирное существование людей и искусственного интеллекта ^[3]. Например, на прошедшей 11-13 августа конференции AI4 в Лас-Вегасе он предложил ^[4] радикальную альтернативу привычной стратегии контроля над сверхинтеллектом: вместо того чтобы пытаться доминировать над ИИ, нужно сделать так, чтобы он заботился о людях, как мать заботится о ребенке. «Мать управляется ребенком» — это, по мнению Хинтона, единственный известный пример, когда более разумное существо подчиняется менее разумному.

Идея Хинтона подверглась критике из-за того, что он не объясняет, как реализовать “материнский инстинкт” технически — какие алгоритмы, данные или архитектуры должны отвечать за заботу, эмпатию и самопожертвование. Как результат, вместо реального “материнского инстинкта” легко можно получить его имитацию, что только усложнит восприятие ^[5] реальных намерений ИИ.

P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть ^[6]“, где я рассказываю про ИИ с творческой стороны.