萊頓人工智慧與數學宣言

本宣言呼籲採取行動，以應對在數學研究中使用人工智慧所帶來的挑戰。它是一項社群倡議的成果，並獲得國際數學聯盟 (IMU) 的認可。

萊頓人工智慧與數學宣言

序言

科技發展一再地改變了數學的實踐方式。近來的人工智慧技術，包括用於生成及形式化數學的符號方法與神經網路方法，可能已經在這段漫長歷史中開啟了一個重要的篇章。在研究者當中，人工智慧引發了各種不同的反應：對其帶來新發現的潛力感到熱情；對其快速的發展感到壓力；對這些急遽的變化感到漠不關心；以及對其對數學乃至於更廣大社會的影響感到擔憂。

數學家可以選擇是否以及如何在他們的研究中使用人工智慧。他們也有責任確保這門學科的持續蓬勃發展。本宣言呼籲數學家履行這項責任，並為個人、機構、政府及產業提供建議。

儘管我們採取數學研究的觀點，但我們所寫的內容大部分也適用於數學的其他面向。這包括了更廣泛的數學科學領域的工作、教育、指導、出版、經費補助、科學政策，以及在更廣闊世界中使用數學等各個層面。

本宣言的理念與其他面臨類似挑戰的研究事業及創意專業（無論是在學術界內或外）團結一致。它補充了其他行動呼籲，例如《烏普薩拉科學家倫理法典》、《舊金山研究評鑑宣言》、聯合國教科文組織《開放科學建議書》以及英國《通用科學家倫理法典》。國際數學聯盟出版委員會、工業與應用數學學會以及美國數學學會也已發布了相關的資料。

關於我們的價值

我們的建議奠基於我們認為是數學研究特徵的價值，而我們共同有興趣於維護這些價值。其中包括以下幾點：

從事數學研究的動機眾多，從純粹的求知慾到解決實際與社會問題的渴望。支撐數學大部分領域的是「證明」這項活動。數學證明被認為能為其結論帶來最高程度的確定性，並能讓人理解其結論為何為真。證明的這些特性支持了數學的科學誠信。
研究成果歸屬於特定作者，這些作者因其發現而獲得榮譽，並為其正確性承擔責任。這些原則構成了我們在數學研究中所追求的、以功績為基礎的標準。
數學論證被認為是透明的，並且可以進行獨立驗證。它們可能極其冗長或困難，但原則上，不需要任何專有知識或設備就能理解它們。
數學家共同關心的是，如何根據深度、難度和重要性等共享標準，對數學工作進行適當的評估。
數學不僅產出了一系列的成果，也培養了塑造這些成果的數學家社群（通常是在他們自主指導的研究背景下）的理解力、清晰度和判斷力。這種專家知識對於有效運用數學，以及持續提出新的、重要的研究問題至關重要。長期以來，這門學科的一個關鍵優勢在於能夠自主地塑造研究的方向以及追求研究所需的方法。

數學作為一門學科的這些特性，也與將數學理解為一種人類實踐及其在世界中的位置相容。作為數學家，同時也是共享世界的居民，我們有責任關懷他人及我們的環境。

潛在的威脅

人工智慧最近的發展對上述每一項價值都構成了威脅，這些威脅通常對學生和職涯初期的數學家影響尤為顯著，進而影響到這門學科的長期未來。

當前的自動化技術可以產出看似合理但不可靠（甚至是不正確）的論證，使人難以與正確的數學證明區分。這不僅適用於非正式的論證，也適用於形式化證明，其困難在於將電腦編碼的概念轉譯為人類可理解的表述。這些快速發展對我們目前的審查體系帶來越來越大的壓力，危及我們執行傳統的證明正確性、透明度及可獨立驗證性標準的能力。
大量依賴已出版數學公共資源的技術，破壞了傳統的歸屬體系。基於已出版作品訓練的模型，經常回傳的輸出未能適當引用它們所綜合的人類作品。許多當前的模型也是建立在透過系統性利用非為人工智慧考量的授權與存取安排，或者乾脆是直接違反版權保護所獲得的數據之上。
影響數學實踐方式的技術可能會擾亂當前的獎勵機制。使用人工智慧（以及因此人工智慧能夠處理的問題類型）可能會因其本身而受到鼓勵，從而擾亂我們的聘用、經費補助和榮譽認可機制。這對那些無法取得這些技術或相關決策權的研究者，或者不願意使用由價值觀與其不合之組織所控制的技術的研究者，造成了不利影響。
如果研究成果透過新聞稿或部落格文章等非正式管道傳播，通常沒有附上研究論文或其他進行科學評估所需的資訊，那麼適當的評估就會受到威脅。這種做法企圖在數學社群能進行公認的評估流程之前，就以市場時程來宣傳新成果。在許多情況下，這導致了報導上的簡化，例如過度強調自動化工具的重要性，而低估了使這些工具成為可能的人類先前的貢獻。這種過度簡化有可能影響公眾輿論，不僅損害了對數學的認知，也誤導性地將特定的數學任務用作衡量商業產品一般推理能力的指標。
這些發展威脅到了數學的自主性。科技公司越來越多地參與數學研究，這增加了研究問題可能因為其適合自動化數學處理而被優先考慮的風險，而非基於專家對其深遠意義的判斷。事實上，在自動化的過程中，對該領域更廣泛的理解可能會被永久地喪失。在大學預算壓力下，這種重塑也改變了專業激勵，鼓勵研究人員在不對等的條件下與科技公司合作。如果不加以制止，這些趨勢不僅威脅到研究人員的自主性，也影響到數學研究本身的範圍與深度。

所有這些挑戰出現的同時，人工智慧大規模投資的後果（涉及戰爭、大規模監控、政治動盪和環境破壞）正在被廣泛討論。這些引發了嚴重的倫理擔憂。若不行動，我們將面臨成為共犯的風險，支持那些威脅遠遠超出數學實踐範疇的技術。

因此，我們認為數學社群迫切需要深思熟慮的回應。以下內容是對可行動建議的簡要描述。我們鼓勵專業組織認可本宣言，並根據其自身的價值、優先事項和治理方式增加相關條款。

給個別數學家的建議

揭露工具使用

透明地揭露自動化工具（包括大型語言模型、機器學習系統、證明輔助工具及其他數學軟體）的使用情況。在您的論文中加入「工具與計算資源揭露」章節；許多期刊、出版商和專業組織已經制定了相關指南，儘管此類章節的確切形式必然會不斷演變，我們仍鼓勵作者體現聯合國教科文組織《開放科學建議書》和 FAIR 原則的精神。擔任審稿人時，請遵守出版商的指南。若允許使用人工智慧，請對使用方式保持透明，並為您提出的任何重要建議承擔責任。

支持審查工作的需求

在撰寫論文時使用人工智慧可能會引入材料，使審查工作更加耗費心力。透過揭露工具使用、提供先前結果的精確且完整參考文獻，以及在可行且適當的情況下提供形式化證明，來讓您的同儕更容易審查您的工作。

恪守開放科學原則

國際開放科學運動旨在使科學研究對所有人透明且可及。隨著數學研究越來越依賴數據和軟體，請恪守開放科學原則。另請參閱聯合國教科文組織《開放科學建議書》。

保留對正確性的責任

當在已發表的數學研究中使用自動化技術時，對於論證和結果的正確性與充分性，以及對相關先前工作引用的完整性和準確性，其責任仍完全由人類作者承擔。

肯定作者身份的人性

榮譽和責任仍屬於數學社群中的人類，不應歸於自動化系統。人工智慧可能掩蓋，但無法取代成果背後集體的人類勞動。

致力於適當的歸屬

鑒於自動化工具在適當歸屬想法方面的已知限制，這產生了一項相應的義務：主動付出努力，去尋找並致謝那些使新成果成為可能的來源。若無法達成滿意的歸屬，請在出版物中明確說明此情況。

參與公共論述

數學家有責任支持嚴謹的科學新聞報導，並參與公共論述，以解釋和脈絡化人工智慧輔助的方法與成果。這在我們自己的子領域內尤其重要，因為需要專業知識來評估關於成果深度、難度和重要性的主張。此外，我們鼓勵數學家尋求機會與其他面臨類似挑戰的研究人員和創意專業人士合作並提供支持。

隨時了解新興技術

根據您的研究興趣和需求，隨時了解電腦輔助數學工具的能力。這種理解對於我們的學科如何適應新技術，以及參與治理和公共論述非常重要。

歡迎新的貢獻者

人工智慧與數學日益增長的交集持續吸引來自其他學科的研究者。我們歡迎這個社群的擴大，以及這些貢獻者帶來的多樣化技能和觀點。我們鼓勵數學社群積極與更廣泛的社群互動，使我們的標準和實踐方式明確且可及，並為有意義的參與創造途徑。反過來，我們要求那些進入我們領域的人尊重我們的價值，同時也幫助我們調整和發展這些價值。

審慎考慮要使用的工具

某些自動化工具及其開發者會認同本宣言的條款，而有些則不會。在決定使用哪些工具，或是否使用它們時，請考慮這點。同時考慮非專有、節能或小規模的系統是否足以完成您的任務。如果不行，請考慮維護本宣言闡述的價值是否值得推遲獲得結果。

評估您工作的倫理後果，並據此採取行動

數學帶來的技術極大地改善了許多人的日常生活，但它也可能應用於開發用於戰爭、壓迫、大規模監控和破壞民主的技術。盡您所能評估研究的倫理後果，如有必要，請退出有害的工作。僅與尊重本宣言所述價值的外部夥伴建立合作關係。

給數學組織和非營利研究資助者的建議

建立專業知識並進行策略規劃

專業組織應隨時掌握技術發展，並主動向成員和更廣泛的社群提供明智的建議。它們應共同努力，引導學術出版、資助機構和政府內部的政策發展。它們也應積極準備，在遇到以非傳統方式聲稱的重大數學成果時，能夠參與其中。

在出版與審查政策上發揮領導作用

數學領域的專業組織應在制定有關在出版和審查中使用自動化技術的指南方面發揮領導作用。例如，這些指南將包括工具與計算資源揭露、歸屬、作者身份規則，以及符合數學價值的行為準則。這些將補充並支持出版商和期刊已經在制定的指南。

維持嚴謹性標準

在制定政策時，要求透過自動化技術獲得的結果必須達到能夠應對這些技術所帶來風險的標準。這些標準可能包括：要求對自動化工具所得出的中心論點提供人類可讀的描述、在適當時堅持進行形式化驗證、交叉比對理論和計算結果，或進行外部的事前審查。

保護作者的權利

自動化數學為作者權利帶來了新的挑戰，學會應主動制定範例授權協議以保護這些權利。特別是，未經同意不得將材料用作訓練資料，且出版協議應允許作者選擇不讓其作品以這種方式被使用。

堅持適當的出版管道

要求數學成果繼續發表於經過同儕審查的場所，例如期刊、論文集和書籍。新聞稿或部落格文章等非正式機制可以扮演有價值的輔助角色，但它們無法取代同儕審查或社群的審視。

支持公共研究實驗室

支持成立大學附屬、國家級或國際級的研究實驗室，專門研究自動化數學，並在行政和財務上獨立於產業。支持使用資源密集度較低、個別研究者也能使用的技術。

提供合作框架

數學家與學術組織在與產業合作時，往往面臨談判地位的不對等，以及在獲得專業支援（如法律資源或智慧財產權建議）方面也存在不對等。透過提供法律代理的管道，並促進專業實踐規範的發展，來支持處於此類合作中的研究者。

使經費補助與價值觀一致

在評估和資助涉及學術界與產業夥伴合作的專案時，應考量其與本宣言價值觀的一致性。

給政府及其他政策制定者的建議

保護作者的權利

加強對作者的法律保護，以符合本宣言的精神。

不要輕信誇大宣傳

目前科技產業有強烈的商業動機去誇大其產品的能力。在制定政策決策時，請諮詢包括數學家在內的專家，而不是依賴新聞稿或對數學成果的大眾報導。

監管人工智慧產業

近期的發展持續凸顯出監管科技產業的重大公共利益，例如在其參與軍事和大規模監控計畫、開發助長不實資訊和破壞民主的技術，以及環境成本等方面。我們與其他人一同呼籲大幅加強公眾監督。

投資公共計算基礎設施

當前的事件說明了需要公共替代方案來取代專有技術，從基本的線上協作服務，到用於數學建模和機器學習應用的電腦叢集。我們支持在大學、國家和國際層級資助公共基礎設施。

給商業人工智慧公司的建議

雖然數學社群在學術和公共政策制定中具有公認的地位，但在企業決策中卻沒有相應的角色，而這些決策正對我們的學科發揮著越來越大的影響。儘管如此，近期的發展已透過多種方式將數學工作引入產業人工智慧的努力中。一是利用數學在公共傳播和公關活動中宣傳商業人工智慧系統的能力。二是人工智慧開發者越來越多地使用數學出版物和形式化數學庫作為訓練資料的來源——不僅是針對數學的專用模型，也針對更通用的通用人工智慧。

目前，數學對通用人工智慧開發具有吸引力的原因在於，形式化證明的正確性可以自動檢查，無需人工監督。這使得能夠生成並檢查大量的問題（無論是人類撰寫還是電腦生成的），從而為訓練人工智慧模型提供近乎無限的反饋來源。這種策略的基本原理通常基於一個進一步的假設：透過數學定理證明發展出來的能力，將擴展到更廣泛的通用推理領域。一些由此產生的通用模型正在被商業化，用於引發嚴重倫理擔憂的應用，包括前面提到的：戰爭、壓迫、大規模監控和破壞民主。

我們認識到，產業提供了誘人的工作機會、金錢獎勵、計算資源和智識上的刺激，這些對一些數學家具有吸引力。而這一切都發生在高等教育經費不足和學術就業不穩定的時代。我們也認識到，許多數學家未曾預料到他們的工作會與如此巨大規模的社會和倫理影響糾纏在一起，也沒有預料到他們的工作會被整合到用於他們可能深感不安的目的的系統中。

我們呼籲數學家與產業之間的合作，至少遵守我們期望於同事、並在本宣言中貫穿闡述的標準。此類合作必須尊重員工或貢獻者公開談論公司政策和優先事項的良知自由。

工作小組成員

（此處為保持完整性，仍列出原文名單）

Jarod Alper (華盛頓大學)
Michael Barany (愛丁堡大學)
Alain Chavarri Villarello (阿姆斯特丹自由大學)
Sander Dahmen (阿姆斯特丹自由大學)
Walter Dean (華威大學)
Karthik Ganapathy (加州大學聖地牙哥分校)
Michael Harris (哥倫比亞大學)
David Holmes (萊頓大學)
Mateja Jamnik (劍橋大學)
Steven Kelk (馬斯垂克大學)
Bryna Kra (西北大學)
Ursula Martin (牛津大學)
Bartosz Naskręcki (亞當·密茨凱維奇大學 / 華沙理工大學)
Rodrigo Ochigame (萊頓大學)
Jim Portegies (埃因霍溫理工大學)
Johannes Schmitt (蘇黎世聯邦理工學院)

關於本宣言

2025年9月，荷蘭萊頓大學的洛倫茲中心舉辦了一場名為「機械化與數學研究」的會議。來自10個國家的約60名與會者包括數學家、電腦科學家、哲學家、歷史學家和社會科學家，其中不乏具有產業及政府經驗的人士。

會議結束後的八個月裡，一個較小的工作小組在數學社群的廣泛反饋下制定了本宣言。本宣言反映了截至2026年5月的人工智慧技術與數學實踐。工作小組由 Jim Portegies 召集，可透過他聯繫以獲取任何進一步資訊。

致謝

《萊頓宣言》的作者們謹向許多為早期草案提供寶貴反饋的數學社群成員表示感謝。

更新與公告

我們將在「新聞」頁面分享關於本宣言的精選更新。

機構認可

國際數學聯盟 (IMU) 我們非常重視人工智慧對我們學科的快速發展與影響：它開啟了新的、令人興奮的機會，但也提出了不容忽視的問題。透過認可本宣言，IMU 確認了數學研究的未來必須以人類判斷、公平透明的實踐，以及全球數學社群的共享價值為指導。數學是，且應始終是，一項深刻的人類事業。

重點推薦

Peter Scholze ( verified, 馬克斯普朗克數學研究所所長) 這是一份精彩且適時的宣言。數學研究的目標是人類對數學的理解，因此數學只能在人類數學家的社群中蓬勃發展。保存這種社群精神至關重要。根據我的經驗，數學思想就像孩子一樣，需要多年培養和成長。就像我不希望我的孩子被 AI 教育一樣，我在思考數學問題時也不使用 AI，並且盡可能避免閱讀 AI 生成的文本。
Terence Tao ( verified, 加州大學洛杉磯分校教授) 這是數月來社群針對數學社群基本價值與目標進行意見交流的成果。回顧起來，這些是我們幾年前就應該系統性討論的問題，但無論如何，這個過程極具價值，最終的成果也非常出色。我全心全意地認可本宣言中的聲明與建議。
Robbert Dijkgraaf ( verified, 阿姆斯特丹大學傑出大學教授；國際科學理事會當選主席；荷蘭前教育、文化及科學部長) 科學研究正處於人工智慧衝擊下的重大轉型之中，而數學是透過自動化證明生成和機器推理受到最根本影響的學科之一。因此，數學社群現在比以往任何時候都更需要團結起來，建立明確的指導方針和共享標準，不僅是為了保護數學的實踐，更是為了保護其更深層的目的：培養理解力、判斷力和人類洞察力。
Ilka Agricola ( verified, IMU 出版委員會主席；馬爾堡菲利普大學教授) AI 正從根本上改變我們做數學的方式，而且速度驚人。當它被誠實且勝任地用作「研究助理」時，提供了絕佳的可能性。但這似乎只是正在發生的一小部分：更大得多的部分是混亂，科學本身正受到攻擊。在這種情況下，至關重要的是——並且需要勇氣——退一步問自己：作為一個社群，在這樣的背景下進行數學研究對我們意味著什麼？我們應該遵循哪些原則？我們看到哪些危險？因為危險是真實存在的：複雜的 AI 語言模型的出現，使得產出看似合理但不實的研究文章比以往任何時候都更便宜、更快速，這些文章的唯一目的是被「發表」和被引用，而不是真正被閱讀，而我們所熟知的同儕審查過程正面臨危險。IMU 出版委員會對當前的狀況深感擔憂，因此我們強烈歡迎並支持促成《萊頓宣言》的社群努力。我們所熟知且熱愛的數學正面臨危機！
Jeremy Avigad ( verified, 卡內基美隆大學哲學與數學科學教授) 隨著 AI 在我們的決策過程中扮演越來越重要的角色，將數學推理和證明納入其中變得前所未有地重要。《萊頓宣言》為數學家提供了一個有用的框架，來決定如何、何時以及是否要與新技術互動。
Kevin Buzzard ( verified, 倫敦帝國學院純粹數學教授) 數學家應該會相當驚訝地發現，科技公司突然對他們的工作產生了興趣。《萊頓宣言》是對當前正在發生的事、以及 AI 持續顛覆此領域的現象，所提出的一份深思熟慮的回應。
Leslie Ann Goldberg ( verified, 牛津大學計算機科學系主任) 《萊頓宣言》指出了不當使用 AI 可能損害數學研究進展的一個重要方式：「當前的自動化技術可以產出看似合理但不可靠（甚至不正確）的論證，使人難以與正確的數學證明區分。」這是一個嚴重的問題：數學研究（以及理論計算機科學等數學學科的研究）幾乎總是建立在先前研究的基礎上，因此研究者必須知道文獻中的結果是正確的。不準確的 AI 生成草稿製作成本低廉，存在著以聲稱的成果（但根本是錯誤的）充斥文獻的風險。一旦發生這種情況，錯誤就可能因為新成果建立在不穩固的基礎上而傳播開來。我歡迎《萊頓宣言》的建議，特別是揭露工具使用，以及繼續透過同儕審查期刊進行發表。
Steven Strogatz ( verified, 康乃爾大學公眾理解科學與數學傑出教授) AI 有潛力成為數學發現中強大的合作夥伴。這種力量帶來了新的責任。《萊頓宣言》呼籲數學家保護使我們的學科值得信賴並富有啟發性的東西：證明、歸屬，以及對洞察力的追求。