Конфликт OpenAI с математиками продолжает нарастать

Открытое письмо, которое подписали двадцать пять обладателей Филдсовской медали — высшей награды в математике, — превратило накопившееся раздражение научного сообщества в публичный конфликт с разработчиками искусственного интеллекта. Суть претензии сформулирована жестко: корпорации, соревнуясь друг с другом в решении знаменитых математических задач, ставят под удар сам институт интеллектуального труда ученых.

Поводом для эскалации стала история профессора Нью-Йоркского университета Тристана Бакмастера. Он обвинил OpenAI в давлении: компания, по его словам, требовала не указывать в авторах одной из работ его коллегу из Anthropic, с которым он совместно занимался решением важной задачи. Более того, Бакмастер поставил вопрос ребром — не могли ли материалы, загруженные учеными в Codex, быть использованы для получения собственного прорывного доказательства в ходе продолжительных вычислений. В четверг OpenAI отказалась от спонсорства математического мероприятия в Калифорнийском технологическом институте — после того как исследователи этого вуза публично раскритиковали работу компании.

Авторы письма не отрицают: способность ИИ-моделей закрывать нерешенные математические задачи способна принести человечеству огромную пользу. Но лишь при одном условии — если найденные решения смогут понять и объяснить сами математики, а вслед за ними и весь остальной мир. Проблема в том, что о таких решениях зачастую объявляют в спешке.

• На должное оформление результата, выделение основных методов и идей, ссылки на работы других ученых времени не остается.
• Как и в любой творческой профессии, это порождает серьезные вопросы об авторстве и плагиате.
• Без участия математиков, которые должны развивать и включать новые идеи в математический канон, зародившиеся с помощью ИИ концепции никогда не обретут полноценную жизнь.
• Важнейшая цепочка передачи знаний между математиками будет утеряна.

Отдельная линия тревоги — доказательство OpenAI, которое до сих пор не прошло независимую проверку. На этом фоне математики становятся все осторожнее. Они задаются вопросом, могла ли компания использовать сведения об их взаимодействии с Codex при создании новых моделей. Опасения касаются культуры открытых исследований: если ведущая ИИ-лаборатория обнаружит перспективный путь к открытию, она может потратить десятки миллионов долларов на работу языковых моделей, чтобы опередить первоначальных исследователей и первой представить доказательство. Такая динамика неизбежно подтолкнет научное сообщество к большей секретности.

Письмо стало продолжением Лейденской декларации, опубликованной рабочей группой ученых в июне. В этом документе уже рассматривалось, как полученные с помощью больших языковых моделей доказательства могут изменить работу математиков, и приводились рекомендации для ученых, научных учреждений и властей. Ценность математики ведь не сводится к доказательствам и признанию авторства. Важна и окружающая их интеллектуальная среда, в которой обучаются студенты, рождаются новые вопросы и идеи, а результаты исследований становятся частью общей системы человеческих знаний.

«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами других научных и творческих профессий. Они указывают на вопрос, который может встать перед всем человечеством: как сделать так, чтобы, пока ИИ меняет способы выполнения работы, мы не утратили изначальную цель этой работы», — говорится в письме. Именно этот вопрос, а не скорость вычислений, похоже, и станет главным в разворачивающемся споре.