Двадцать пять ведущих математиков подписали открытое письмо, в котором предупредили об угрозе для интеллектуального труда со стороны лабораторий искусственного интеллекта. По данным TechCrunch, специалисты обеспокоены гонкой компаний за решения известных математических задач. Все авторы письма являются лауреатами медали Филдса — одной из самых престижных наград в математике.
Поводом для дискуссии стал конфликт вокруг профессора Нью-Йоркского университета Тристана Бакмастера. Он обвинил OpenAI в попытке не указывать соавтора, работающего в Anthropic, при решении важной математической задачи. Кроме того, ученый предположил, что компания могла использовать результаты работы с Codex для подготовки собственного доказательства, созданного за несколько дней интенсивных вычислений.
В четверг OpenAI отказалась от спонсорства математического мероприятия в Калифорнийском технологическом институте. Это произошло после критики со стороны исследователей университета. При этом доказательство OpenAI пока не прошло проверку.
Авторы письма считают, что искусственный интеллект действительно может помочь в решении сложнейших математических проблем. Однако такие результаты должны быть понятны специалистам и доступны для дальнейшего обсуждения. По их словам, поспешные публикации часто не оставляют времени на полноценное описание методов, выделение новых идей и указание вклада предшественников.
Математики также предупредили о рисках, связанных с авторством и плагиатом. Они отметили, что без участия ученых, которые развивают и включают новые идеи в общую систему знаний, результаты ИИ не смогут полноценно войти в математическую традицию. На этом фоне специалисты опасаются ослабления культуры открытых исследований: крупные лаборатории могут тратить десятки миллионов долларов, чтобы опередить первоначальных авторов и первыми представить доказательство.
Новое обращение стало продолжением Лейденской декларации, опубликованной рабочей группой математиков в июне. В ней также рассматривалось влияние языковых моделей на профессию и предлагались рекомендации для ученых, организаций и законодателей. Авторы нынешнего письма подчеркнули, что главная ценность математики заключается не только в доказательствах и признании авторства, но и в развитии учеников, появлении новых вопросов и передаче знаний.