Андрей Карпаты: искусственный интеллект отнимает у людей способность выбирать

Один из самых влиятельных инженеров мира AI, Андрей Карпаты, в новом интервью высказал тревожную мысль: мы живём в эпоху, когда технологии постепенно лишают человечество самой способности принимать решения. По его словам, современные языковые модели не учатся как люди. Они не думают, а лишь копируют поведение ^[1], подстраиваясь под ожидания.

Карпаты скептически оценивает обучение ^[2] с подкреплением ^[3] (reinforcement learning), на котором построено большинство крупных моделей.

Это ужасный метод. Просто всё, что было до него, — ещё хуже.

Он сравнивает человека и LLM так: люди создают собственные данные — связывают новое со старым, формируют опыт ^[4], делают выводы. А модели лишь имитируют это, не обладая настоящим пониманием.

По мнению инженера, грядущая опасность не в том, что AI взбунтуется, а в том, что люди перестанут мыслить самостоятельно. Мы уже передаём машинам управление новостями, вкусами, прогнозами, медициной, а вскоре — и выбором решений. Карпаты называет этот процесс тихим вымиранием мышления ^[5]:

Мы перестаём думать и выбирать сами.

Инженер не верит в скорое появление настоящего AGI. По его оценке, до подлинного искусственного разума ещё минимум десять лет. Но то, что происходит сейчас, уже тревожно. Не машины становятся умнее, а люди всё пассивнее.

Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News ^[6].

Интервью ^[7]