МАНИЛА, Филиппины – Почти 2 000 математиков из известных университетов и академических институтов всего мира, включая Гарвард, Колумбийский университет, Кембриджский университет и Оксфордский университет, подписали Лейденскую декларацию об искусственном интеллекте и математике в июне 2026 года, призвав к надзору и этичному использованию технологий в математических исследованиях. 

Декларация устанавливает этическую базу для математиков, утверждая прежде всего примат человеческой автономии в их исследованиях. 

Декларация предупреждает: «[ИИ] разработки ставят под угрозу автономию математики. Растущее участие технологических компаний в математических исследованиях повышает риск того, что исследовательские вопросы могут начать приоритизироваться из-за их пригодности для автоматизированной математики, а не на основе экспертной оценки их более глубокого значения». 

Иными словами, именно человек должен определять повестку того, что является важным исследованием, а не выбирать тему лишь потому, что она хорошо сочетается с автоматизированными инструментами ИИ. 

Декларация указывает на проблемы с ИИ: склонность создавать «правдоподобные, но ненадёжные (или даже неверные)» аргументы; ненадлежащее указание авторства и использование материалов, защищённых авторским правом, в корпусе данных; а также «преувеличение» вклада технологии в исследовательскую работу. 

Для решения этих проблем декларация прежде всего настаивает на приоритете раскрытия информации об используемых инструментах, требуя от авторов включать в свои работы специальный раздел с подробным описанием использования всех автоматизированных систем и больших языковых моделей. 

Она призывает исследователей обеспечивать надлежащее указание человеческого труда, лежащего в основе любого синтезированного результата, и гарантировать, что ответственность за правильность и адекватность любого научного аргумента остаётся исключительно за авторами-людьми, которые должны лично проверять каждое утверждение независимо от того, каким образом оно было получено.

Этот призыв к подотчётности и созданию этической базы для ИИ следует аналогичным призывам из других областей, таких как медицина, образование и журналистика. Он звучит на фоне недавнего исследования в мае, которое выявило 146 900 сгенерированных ИИ поддельных цитат — по данным CNET — появившихся в научных статьях в крупных базах данных, таких как arXiv и PubMed Central. Это «уверенное галлюцинирование» грозит засорить литературу несуществующими ссылками и неверными результатами, потенциально вводя в заблуждение будущих исследователей, которые опираются на эти ошибочные основания. 

Декларация также настоятельно призывает к «значительному усилению» государственного регулирования и общественного надзора над технологической отраслью, отмечая участие ИИ в военных программах, массовой слежке, разработке технологий, способствующих дезинформации или подрывающих демократические процессы, а также его воздействие на окружающую среду. 

Она призывает правительства обеспечить более надёжную защиту материалов, защищённых авторским правом, и создать публичную вычислительную инфраструктуру на университетском, национальном и международном уровнях. Финансируя публичные альтернативы проприетарным технологиям — в частности, компьютерные кластеры для математического моделирования и машинного обучения, — политики могут гарантировать, что инструменты научного открытия остаются прозрачными и независимыми от контроля частных корпораций.

Многие инструменты ИИ сегодня находятся в руках крупных частных технологических компаний. В США сенатор Берни Сандерс выдвигает радикальную идею, утверждая, что общество должно иметь 50% долю в компаниях, занимающихся ИИ, посредством его предложенного Закона об американском суверенном фонде благосостояния в сфере ИИ. 

Требование математиков к общественному надзору, помимо академической и исследовательской честности, также обусловлено обеспокоенностью мощью коммерциализированных ИИ-структур, которые в настоящее время заинтересованы в чрезмерном продвижении своих продуктов. 

При формировании политики декларация гласит: «В настоящее время у технологической отрасли существует сильный коммерческий стимул преувеличивать возможности своих продуктов. При принятии политических решений консультируйтесь с экспертами, включая математиков, а не полагайтесь на пресс-релизы или популярные репортажи о математических результатах». 

Среди подписантов Лесли Энн Голдберг, руководитель факультета информатики Оксфордского университета, заявила: «…исследования в области математики (и математических дисциплин, таких как теоретическая информатика) почти всегда опираются на предыдущие исследования, поэтому для исследователей крайне важно знать, что результаты в литературе являются верными».

«Неточные черновики, сгенерированные ИИ, дёшевы в производстве, и существует риск засорения литературы заявленными результатами, которые попросту неверны. Как только это произойдёт, ошибки, скорее всего, будут распространяться по мере того, как новые результаты будут строиться на ошибочных основаниях. Я приветствую рекомендации Лейденской декларации, в особенности раскрытие информации об использовании инструментов и продолжение публикаций в рецензируемых журналах», — сказала она. – Rappler.com