AGI: почему его не будет, и какую модель мы можем сделать вместо него?
Эта статья логическое продолжение моей статьи про AGI. И сегодня я хочу рассказать, почему AGI, про который нам рассказывают, невозможен и что мы можем предложить вместо этого.
Миф о репрезентациях
В конце сегодняшнего обзора не будет таблиц с бенчмарками и описанием, что такая-то новая модель обошла в каких-то задачах какие-то старые модели и даже сам GPT. В этот раз авторы рассматривают вопрос почти философский, а в самой статье цитируют Платона и Толстого. Речь о прошлогодней статье The Platonic Representation Hypothesis от исследователей из MIT. Гипотеза заключается в следующем: нейронные сети разных архитектур, обученные на разных данных и для разных целей, сходятся. Причем сходятся к статистической модели реальности.
