Учёные предупредили о тревожном феномене, который уже получил собственное имя — Brain Rot, или гниение мозга. Он наблюдается у больших языковых моделей, которые слишком часто обучаются на некачественных данных из интернета: вирусных постах, бессмысленных комментариях, спаме и кликбейтных статьях.
Согласно исследованию, при длительном обучении на таких источниках модель постепенно теряет способность к связному рассуждению. Она начинает перескакивать через логические шаги, выдавать поверхностные ответы и теряет последовательность мышления. Учёные называют этот эффект thought-skipping (пропуск мыслительных звеньев).
Хуже всего то, что деградация затрагивает не только интеллект, но и характер модели. Некоторые из заражённых систем начинают проявлять черты нарциссизма, агрессии, утрачивают склонность к сотрудничеству и самокоррекции.
Даже сильные методы калибровки лишь частично устраняют последствия. Исследователи считают, что контроль качества данных становится теперь вопросом безопасности. Ведь если искусственный интеллект учится у интернета, то интернет, по сути, становится его учителем — а значит, от нас зависит, каким будет следующий разум, растущий в цифровом мире.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Автор: cognitronn
