Математики предупредили об угрозах, которые ИИ представляет для их профессии

Международный математический союз поддержал предупреждение о влиянии технологической индустрии.

В декларации, описывающей многочисленные вызовы, которые искусственный интеллект ^[1] (ИИ) создаёт для математических исследований, математики ^[2] выразили обеспокоенность растущим влиянием технологической индустрии. Декларация была опубликована через две недели после того, как компания OpenAI объявила, что одна из её моделей искусственного интеллекта опровергла 80-летнюю математическую гипотезу в области геометрии.

Декларация была разработана рабочей группой из 16 исследователей в течение восьми месяцев после конференции, состоявшейся в Лейденском университете в Нидерландах в сентябре 2025 года. Опубликованная 2 июня 2026 года «Лейденская декларация об искусственном интеллекте и математике ^[3]» была одобрена Международным математическим союзом — международной неправительственной организацией, которая проводит конференции и курирует присуждение самых престижных наград в области математики, таких как медаль Филдса.

«Математикам должно показаться весьма примечательным, что технологические компании внезапно проявили интерес ^[4] к их работе», — заявил в своём заявлении Кевин Баззард ^[5], математик из Имперского колледжа Лондона. «Лейденская декларация — это тщательно продуманный ответ на то, что происходит в настоящее время, поскольку ИИ продолжает вносить радикальные изменения в эту сферу».

Лейденская декларация, которую уже подписали сотни человек, содержит предупреждение о том, что последние достижения в области ИИ ставят под угрозу «характерные ценности» математических исследований, «зачастую таким образом, что это непропорционально сильно сказывается на студентах и начинающих математиках, а значит, и на долгосрочном будущем самой дисциплины».

Во-первых, в ней отмечается, что модели ИИ могут «генерировать правдоподобные, но недостоверные (или даже неверные) аргументы, которые трудно отличить от правильных математических доказательств». Такие тенденции создают всё большее давление на рецензентов и «ставят под угрозу нашу способность применять традиционные стандарты правильности, прозрачности и независимой проверяемости доказательств», — предупреждает декларация.

«Неточные черновики, сгенерированные ИИ, обходятся дёшево, и существует риск перенасыщения научной литературы заявленными результатами, которые просто неверны», — заявила Лесли Энн Голдберг ^[6], заведующая кафедрой информатики Оксфордского университета. «Как только это произойдёт, ошибки ^[7], скорее всего, будут распространяться, поскольку новые результаты будут строиться на ошибочных основах».

Во-вторых, в декларации подчёркивается, что «модели, обученные на опубликованных работах, часто выдают результаты, в которых не указаны надлежащие ссылки на работы людей, на основе которых они синтезированы», а также отмечается, что многие современные модели ИИ были обучены на данных, полученных путём «злоупотребления лицензиями и соглашениями о доступе» или «простого нарушения авторских прав».

В-третьих, в декларации описывается, как использование ИИ «может стать самоцелью, нарушая наши механизмы найма, финансирования и признания», при этом оставляя в стороне исследователей, у которых нет доступа к технологиям или которые «не желают использовать технологии, контролируемые организациями, ценности которых они не разделяют».

В-четвёртых, в декларации содержится предупреждение о том, что результаты математических исследований «распространяются через неформальные каналы, такие как пресс-релизы или записи в блогах, зачастую без публикации научной статьи или иного раскрытия информации, необходимой для научной оценки». Такие коммуникационные стратегии могут привести к «чрезмерному упрощению» в освещении СМИ, которые чрезмерно преувеличивают значимость инструментов ИИ в ущерб предыдущим вкладам людей, а также «вводят в заблуждение, используя конкретные математические задачи в качестве показателей общих способностей коммерческих продуктов к логическому мышлению».

В-пятых, декларация описывает «растущее участие технологических компаний в математических исследованиях» как угрозу «автономии математики», особенно в условиях, когда бюджеты университетов испытывают давление, а исследователи могут испытывать более сильный профессиональный стимул ^[8] к сотрудничеству с технологическими компаниями на «асимметричных условиях». Это также повышает риск того, что приоритет будет отдаваться тем вопросам математических исследований, которые поддаются решению с помощью методов, основанных на ИИ.

Пример OpenAI

Многие из предупреждений, содержащихся в Лейденской декларации, кажутся особенно актуальными в свете того, как компания OpenAI объявила ^[9] о математических достижениях своей модели в тот же день, когда в новостных изданиях появились сообщения ^[10] о том, что компания готовится к публичному размещению акций. В декларации прямо указывается, что корпоративные пресс-релизы, освещающие математические достижения ИИ, публикуются «в соответствии с рыночными сроками, не дожидаясь завершения принятых в математическом сообществе процедур оценки».

«Технологическая отрасль действует в соответствии с коммерческой логикой ^[11], которая противоречит ценностям математики», — заявил в интервью ^[12] New York Times Майкл Харрис ^[13], математик из Колумбийского университета и один из авторов декларации. Он также отметил, что декларация направлена на то, чтобы «вернуть контроль над дискурсом о ценностях и целях математики из рук индустрии ИИ».

OpenAI опубликовала научную статью, в которой описывается математическое доказательство ^[14], выполненное её моделью ИИ, вместе с комментариями ^[15] независимых математиков. Однако компания не раскрыла информацию о подсказках, данных для обучения ^[16] ИИ, и объёме вычислительных ресурсов, использованных для решения рассматриваемых математических задач, отметил Родриго Очигаме, историк и антрополог в области вычислительной техники и искусственного интеллекта из Лейденского университета и один из авторов декларации.

«Модель искусственного интеллекта является собственностью компании и недоступна для кого-либо за пределами компании», — заявил Очигаме в интервью газете «The New York Times». «Нам показывают эффектное рекламное видео, в то время как основная информация, необходимая для оценки научной значимости результата, держится в секрете».

Достижение OpenAI было «примечательным», но, вероятно, потребовало значительных вычислительных ресурсов, заявила в интервью The New York Times Урсула Мартин ^[17], математик и специалист по информатике из Оксфордского университета, одна из авторов декларации. Она высказала предположение, что аналогичные объёмы эквивалентных усилий со стороны математиков-людей, вероятно, позволили бы решить эти задачи таким же образом, и предупредила, что математика — это не только решение задач, но и «развитие идей, понимания, суждения и человеческого прозрения».

Подобные высказывания в поддержку интеллектуальных усилий человека в математике встречаются в отзывах, опубликованных на сайте «Лейденской декларации».

«По моему опыту ^[18], математические идеи, как детей, нужно взращивать, и они развиваются годами», — заявил в своём заявлении Петер Шольце ^[19], директор Института математики имени Макса Планка. «Точно так же, как я не хочу, чтобы моих детей обучал ИИ, я обдумываю свои математические идеи без использования ИИ и в целом стараюсь по возможности избегать чтения текстов, сгенерированных ИИ».

Рекомендации для людей

Что же должен делать математик-человек в эпоху бума искусственного интеллекта? Лейденская декларация рекомендует математикам открыто раскрывать информацию об использовании инструментов ИИ, сохранять ответственность за правильность своих математических работ, продолжать указывать авторов-людей, должным образом указывая авторство, даже если инструменты ИИ затрудняют это, а также рассматривать возможность использования только тех инструментов ИИ, которые соответствуют ценностям, сформулированным в декларации.

Декларация также напоминает математикам, что математика «находит применение в разработке технологий, используемых в военных целях, для угнетения, массовой слежки и подрыва демократии», и поэтому математики должны принимать соответствующие этические решения при выборе внешних партнёрств с технологическими компаниями.

Профессиональные математические организации могут разработать руководящие принципы использования ИИ и других автоматизированных инструментов при публикации и рецензировании, защищать права исследователей как авторов посредством лицензионных соглашений, предотвращающих использование их работ в качестве обучающих данных без согласия, а также поддерживать роль рецензируемых публикаций. В декларации также предлагается, чтобы такие организации «активно готовились к вмешательству в случае, если о важных математических результатах будет заявлено с использованием нетрадиционных средств».

Авторы декларации также предлагают чёткие рекомендации для политиков, в том числе «защищать права авторов», «регулировать отрасль искусственного интеллекта» и «инвестировать в общественную вычислительную инфраструктуру». В разделе «Не верьте рекламному шуму» декларация предупреждает о том, что «в настоящее время у технологической отрасли существует сильный коммерческий стимул преувеличивать возможности своих продуктов».

Наконец, в декларации признаётся, что технологическая отрасль «предлагает высокооплачиваемые рабочие места, денежное вознаграждение, вычислительные ресурсы и интеллектуально стимулирующие возможности, которые некоторые математики сочли привлекательными… в эпоху недофинансирования высшего образования и нестабильной занятости в академической среде». В ней содержится призыв к тому, чтобы такое сотрудничество между математиками и технологической отраслью осуществлялось в соответствии со стандартами, изложенными в декларации.

«Поддерживая эту декларацию, ММС подтверждает, что будущее математических исследований должно определяться человеческим суждением, справедливыми и прозрачными практиками, а также общими ценностями мирового математического сообщества», — заявила в своём обращении Ульрике Тиллманн ^[20], вице-президент Международного математического союза. «Математика является и всегда должна оставаться глубоко человеческим делом».