Один из самых влиятельных инженеров мира AI, Андрей Карпаты, в новом интервью высказал тревожную мысль: мы живём в эпоху, когда технологии постепенно лишают человечество самой способности принимать решения. По его словам, современные языковые модели не учатся как люди. Они не думают, а лишь копируют поведение, подстраиваясь под ожидания.
Карпаты скептически оценивает обучение с подкреплением (reinforcement learning), на котором построено большинство крупных моделей.
Это ужасный метод. Просто всё, что было до него, — ещё хуже.
Он сравнивает человека и LLM так: люди создают собственные данные — связывают новое со старым, формируют опыт, делают выводы. А модели лишь имитируют это, не обладая настоящим пониманием.
По мнению инженера, грядущая опасность не в том, что AI взбунтуется, а в том, что люди перестанут мыслить самостоятельно. Мы уже передаём машинам управление новостями, вкусами, прогнозами, медициной, а вскоре — и выбором решений. Карпаты называет этот процесс тихим вымиранием мышления:
Мы перестаём думать и выбирать сами.
Инженер не верит в скорое появление настоящего AGI. По его оценке, до подлинного искусственного разума ещё минимум десять лет. Но то, что происходит сейчас, уже тревожно. Не машины становятся умнее, а люди всё пассивнее.
Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.
Автор: cognitronn
