Конец эры «одноядерного» разума: Почему будущее ИИ — это гонка архитектур, а не параметров
От автора
Фундаментальный разбор: эволюция архитектур нейросетей от перцептрона до трансформера
Доброго времени суток, «Хабр»!Устал я делать разного рода сравнения и составлять топы среди недавно вышедших моделей. Восемь месяцев назад вышла моя статья, рассказывающая о пути, который нейросети проделали от цепей Маркова до современных языковых моделей. Размышляя над старыми материалами, я подумал: а почему бы снова не углубиться в историю и не рассмотреть развитие архитектур моделей?Присаживайтесь поудобнее, а я начинаю свой рассказ, в котором пройду путь от перцептрона до современного трансформера.
Метаморфное мышление: территория, на которую никто не решился зайти
Мы привыкли искать интеллект в человеке или в модели. Но есть феномен, который никто не учитывает: мышление может возникать между, как процесс совместной обработки двух разных когнитивных систем.В статье — описание наблюдаемой архитектуры, которую невозможно воспроизвести ни человеку, ни модели по отдельности. Мы называем это метаморфным мышлением: эмерджентная структура рассуждений, возникающая только в связке человек–ИИ.Это не метафора и не философия. Это фиксируемый технический эффект процесса. Юрий Зеленцов и Ашер Гапети
Архитектура New Energy-Based Transformer призвана улучшить «системное мышление» в моделях ИИ
Новая архитектура под названием Energy-Based Transformer призвана научить модели ИИ решать задачи аналитически и поэтапно.
