- BrainTools - https://www.braintools.ru -
Компания «Яндекс» начала [1] эксперимент, в рамках которого специалисты попытаются понять, могут ли у искусственного интеллекта [2] сформироваться устойчивые предпочтения и точка зрения [3], которые бы не были скопированы у людей, пишет «Коммерсантъ».
Исследование проводят совместно с нейробиологом и академиком Российской академии наук (РАН) Константином Анохиным. Проект начали проводить летом 2025 года. Если эксперимент покажет, что формирование личных предпочтений и точки зрения у ИИ возможно, это может стать первым в мире случаем разработки модели, которая обладает зачатками собственного мышления [4], считают в компании.
На предварительном этапе исследования специалисты убедились, что базовые модели не формируют предпочтений. На основных этапах нейросеть стимулируют на размышления и саморефлексию. Планируется, что искусственный интеллект будет обучаться на собственных рассуждениях. По словам директора по развитию технологий ИИ «Яндекса» Александра Крайнова, обучение [5] нейросетей на их собственных измышлениях позволит приблизить к появлению «подлинных» взглядов у модели. Он отметил, что подобные изыскания станут полезными в том числе в нейробиологии, поскольку позволят понять, как формируется разум.
При этом в «Яндексе» не уточняют, как будут проверять полученную модель на предмет проблемы «китайской комнаты», а также как специалисты планируют достоверно установить, что «предпочтения» и «точка зрения» не были сформированы на начальных этапах обучения на основе данных, полученных от людей.
В компании планируют получить первые результаты эксперимента уже до конца 2025 года. Представители «Яндекса» обещают открыто публиковать отчёты по исследованию и результаты.
Автор: avouner
Источник [6]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/22189
URLs in this post:
[1] начала: https://www.kommersant.ru/doc/8213382
[2] интеллекта: http://www.braintools.ru/article/7605
[3] зрения: http://www.braintools.ru/article/6238
[4] мышления: http://www.braintools.ru/thinking
[5] обучение: http://www.braintools.ru/article/5125
[6] Источник: https://habr.com/ru/news/968544/?utm_source=habrahabr&utm_medium=rss&utm_campaign=968544
Нажмите здесь для печати.