Интерпретируемость LLM доказана?
Опубликовано исследовательское эссе о том, что сложность интерпретации нейросетей переоценена. Автор Nick Cammarata в своей статье на сайте goodfire.com утверждает, что полисемантичность нейронов вызвана не суперпозицией, а исправимыми причинами, и что большинство нейронов даже в огромных моделях выполняют одну понятную задачу. Сам автор называет текст рабочей гипотезой, техническая статья с полным описанием экспериментов пока не вышла. Но, как обычно, громкий заголовок и сильные утверждения привели к множеству пересказов, где гипотеза превратилась в факт.
