Математики виступили проти ШІ-компаній через хакатон Mathathon
Провідні математики закликали призупинити Mathathon у Caltech через спонсорство OpenAI та Anthropic. OpenAI вийшла зі спонсорства, Anthropic залишилася. Конфлікт торкається авторства, плагіату та наукової етики.
Провідні математики відкрито виступили проти змагання ШІ-компаній за першість у розв'язанні знаменитих задач. На їхню думку, така гонка загрожує науці: результати доводиться перевіряти людям, а заслуги дістаються лабораторіям. Конфлікт за кілька днів дійшов до відкритих листів і публічних звинувачень у «науковій недоброчесності».
Хронологія подій виглядає так. У червні група математиків оприлюднила Лейденську декларацію з вимогою до ШІ-компаній не використовувати їхні роботи без дозволу. 8 вересня коаліція нинішніх і колишніх математиків Каліфорнійського технологічного інституту (Caltech) розіслала відкритий лист проти заходу Mathathon. 10 вересня лист опублікували, на момент публікації його підписали 771 дослідник; того ж дня OpenAI відмовилася від спонсорства заходу. 11 вересня 25 математиків найвищого рівня оприлюднили другий лист, за повідомленнями, це лауреати Філдсівської премії.
Mathathon мав відбутися в Caltech 30 жовтня. Це хакатон, на якому учасники намагаються розв'язувати відкриті дослідницькі задачі за допомогою великих мовних моделей. Спонсорами були OpenAI й Anthropic, які разом обіцяли близько двох мільйонів доларів у вигляді кредитів на ШІ. Автори листа закликали організаторів призупинити захід.
Їхні аргументи такі: компанії бачать у дослідницькій математиці рекламну можливість; результати, яких лабораторії досягають за допомогою штучного інтелекту, потребують перевірки, а цю працю виконують математики — безоплатно, без згадки в авторстві й без подяк; спонсори, на думку підписантів, привласнять собі заслуги талановитих студентів; у підсумку, за формулюванням листа, ШІ-компанії займаються науковою недоброчесністю.
OpenAI вийшла зі спонсорства. Дослідницький керівник компанії Ден Робертс написав у X, що в OpenAI розуміють: стрімкий прогрес ШІ в математиці «руйнівний», і компанія хоче більше говорити зі спільнотою. Однак Anthropic не відмовилася від участі в заході та на запити журналістів не відповіла.
Другий лист 25 провідних математиків вужчий за першу заяву, але націлений на більш серйозну проблему. Його ідея така: розв'язок складної задачі від моделі вартий чогось лише тоді, коли математична спільнота здатна його зрозуміти, перевірити й вписати в загальний канон знань. Без людей, які це роблять, ідеї штучного інтелекту «не оживуть», а ланцюг передачі знань між математиками обірветься. Автори також підкреслюють: цінність математики не лише в самих доведеннях. Вона ще й у інтелектуальній інфраструктурі довкола них, яка навчає студентів, ставить нові питання й вбудовує відкриття у ширшу картину світу.
Другий лист вийшов на фоні конкретного конфлікту. Професор Нью-Йоркського університету Трістан Бакмастер звинуватив OpenAI в тому, що компанія тиснула на нього, аби він не згадував співавтора з Anthropic у роботі над важливою математичною задачею. Він також припустив, що OpenAI могла скористатися напрацюваннями з Codex, щоб за вихідні отримати власне доведення. OpenAI заперечила, що бачила його роботу. Водночас доведення компанії, за даними видань, не верифіковане, і саме тому питання атрибуції й плагіату стоїть так гостро. Частина математиків після цього почала побоюватися, що їхні запити до Codex потрапляють у навчання нових моделей. Тож під загрозою, за їхніми словами, відкрита культура досліджень.
Загалом заклики математиків зводяться до трьох принципів: розкривати, які ШІ-інструменти допомагали в дослідженні; чесно визнавати внесок людей і поважати права авторів; не дозволяти комерційним інтересам визначати, які питання математики вважаються важливими. Як зазначає The Next Web, усі організатори Mathathon підписали Лейденську декларацію ще в червні.
Спір ширший за один хакатон. Йдеться про те, хто вважається автором відкриття, коли його зробила модель, і хто платить за перевірку результатів. Саме на цих питаннях індустрія штучного інтелекту ще не має прийнятого для всіх правила, а науковці вже готові відповідати публічними листами. Нагадаємо, кілька місяців тому аматор за допомогою одного запиту в ChatGPT розв'язав 60-річну проблему Ердьоша.
4
