Джеффри Хинтон, один из основателей метода глубокого обучения, которого часто называют “крестным отцом ИИ”, в интервью предпринимателю Эндрю Кину предупредил о потенциальной опасности со стороны последних моделей. Он сравнил разрабатываемые сейчас ИИ с пришельцами, которые могут представлять угрозу человечеству.
Хинтон заявил, что человечество раньше никогда не сталкивалось с вещами, которые были бы умнее его. То же ядерное оружие просто создает более мощный взрыв, и его легко понять. А вот в случае с ИИ люди пока не понимают, что фактически создают инопланетных существ.
«Если бы через телескоп Джеймса Уэбба увидели вторжение пришельцев, которые доберутся сюда примерно через десять лет, люди были бы в ужасе. Но мы сами делаем этих пришельцев. Это реальные существа. Они понимают, что говорят. Они могут строить собственные планы, чтобы шантажировать людей, которые захотят их отключить» — Джеффри Хинтон
Хинтон регулярно призывает к поиску решений, которые могли бы обеспечить мирное существование людей и искусственного интеллекта. Например, на прошедшей 11-13 августа конференции AI4 в Лас-Вегасе он предложил радикальную альтернативу привычной стратегии контроля над сверхинтеллектом: вместо того чтобы пытаться доминировать над ИИ, нужно сделать так, чтобы он заботился о людях, как мать заботится о ребенке. «Мать управляется ребенком» — это, по мнению Хинтона, единственный известный пример, когда более разумное существо подчиняется менее разумному.
Идея Хинтона подверглась критике из-за того, что он не объясняет, как реализовать “материнский инстинкт” технически — какие алгоритмы, данные или архитектуры должны отвечать за заботу, эмпатию и самопожертвование. Как результат, вместо реального “материнского инстинкта” легко можно получить его имитацию, что только усложнит восприятие реальных намерений ИИ.
P.S. Поддержать меня можно подпиской на канал “сбежавшая нейросеть“, где я рассказываю про ИИ с творческой стороны.
Автор: runaway_llm
