《將人工智能安全視為全球公共產(chǎn)品的影響、挑戰(zhàn)與研究重點(diǎn)》由牛津未來研究院發(fā)布，眾多機(jī)構(gòu)的專家共同撰寫。報(bào)告指出，隨著 AI 發(fā)展，其安全問題成為關(guān)鍵挑戰(zhàn)，探討將 AI 安全視為全球公共產(chǎn)品的意義、挑戰(zhàn)與研究方向。

報(bào)告分析了全球公共產(chǎn)品的概念，指出 AI 安全在技術(shù)、知識(shí)和制度層面具有公共產(chǎn)品特性，但面臨平衡責(zé)任與問責(zé)、安全與能力糾纏、發(fā)展公平性等問題。不同國際聲明對(duì) AI 安全作為全球公共產(chǎn)品的理解存在差異，反映出 AI 發(fā)展的復(fù)雜性。在應(yīng)用框架時(shí)，需考慮區(qū)域、國家和全球治理層面的差異，以及政治現(xiàn)實(shí)、權(quán)力動(dòng)態(tài)等因素的影響。

為應(yīng)對(duì)這些挑戰(zhàn)，報(bào)告建議開展深入研究，明確核心需求，完善 AI 安全的公共產(chǎn)品框架，改進(jìn)治理機(jī)制，考量不同利益相關(guān)者的反應(yīng)，建立評(píng)估指標(biāo)，制定技術(shù)和經(jīng)濟(jì)策略，從而推動(dòng) AI 安全發(fā)展，確保 AI 造福人。

報(bào)告主要內(nèi)容介紹

人工智能能力的快速提升引發(fā)了人們對(duì)其潛在益處的期待，同時(shí)也引發(fā)了對(duì)超越傳統(tǒng)界限的新興集體挑戰(zhàn)的擔(dān)憂。雖然人工智能技術(shù)有助于應(yīng)對(duì)醫(yī)療、氣候變化和經(jīng)濟(jì)發(fā)展等領(lǐng)域的全球挑戰(zhàn)，但它們也帶來了風(fēng)險(xiǎn)，從當(dāng)前對(duì)算法偏見和隱私的擔(dān)憂，到有關(guān)自主性和安全性的基本問題。這些機(jī)遇和挑戰(zhàn)在不同地區(qū)和社區(qū)的表現(xiàn)可能有所不同，因?yàn)橐恍﹪以谕苿?dòng)人工智能發(fā)展的前沿，而另一些國家則在努力構(gòu)建基礎(chǔ)人工智能應(yīng)用和發(fā)展的基礎(chǔ)設(shè)施。因此，人工智能在地方、區(qū)域和全球?qū)用娑紟砹藦?fù)雜的治理挑戰(zhàn)。技術(shù)的快速進(jìn)步與集體行動(dòng)的需求相交，引發(fā)了不同利益相關(guān)者（從主要人工智能強(qiáng)國到新興經(jīng)濟(jì)體）是否以及如何協(xié)調(diào)人工智能開發(fā)、部署和風(fēng)險(xiǎn)管理方法的問題。此外，人工智能能力和資源的差異凸顯了平衡全球發(fā)展需求與前沿安全考慮的必要性。

近期的國際對(duì)話從多個(gè)角度探討了集體行動(dòng)和公共產(chǎn)品框架，作為應(yīng)對(duì)人工智能發(fā)展帶來的全球挑戰(zhàn)的方法（見附錄 A），這表明人們?cè)絹碓秸J(rèn)識(shí)到這一概念在人工智能領(lǐng)域的應(yīng)用值得認(rèn)真考慮。這些討論研究了人工智能開發(fā)、部署和安全的不同方面如何在從地方到全球的各個(gè)層面被理解為公共產(chǎn)品。公共產(chǎn)品的視角揭示了在安全研究和基礎(chǔ)設(shè)施發(fā)展等關(guān)鍵領(lǐng)域的投資不足，以及在協(xié)調(diào)不同能力和優(yōu)先事項(xiàng)的利益相關(guān)者行動(dòng)方面的挑戰(zhàn)。將人工智能安全視為全球公共產(chǎn)品意味著確保人工智能系統(tǒng)安全的知識(shí)、措施和實(shí)踐應(yīng)普遍可及、非排他性的，并且對(duì)所有人有益，無論個(gè)人貢獻(xiàn)或地理界限如何。

在迄今為止全球關(guān)于人工智能與治理的討論中，已經(jīng)討論了許多潛在的框架。有人認(rèn)為，人工智能技術(shù)本身可能構(gòu)成全球公共產(chǎn)品，特別是在其應(yīng)對(duì)氣候變化、公共衛(wèi)生和可持續(xù)發(fā)展等領(lǐng)域集體挑戰(zhàn)的潛力方面。這種框架強(qiáng)調(diào)，當(dāng)人工智能能力得到公平開發(fā)和部署時(shí)，它可以通過增強(qiáng)問題解決能力、改善資源分配和加速科學(xué)發(fā)現(xiàn)，為人類帶來非競爭性（一個(gè)國家的擁有不會(huì)減少另一個(gè)國家的擁有）和非排他性（一個(gè)國家無法阻止其他國家擁有）的利益。然而，最近的政策轉(zhuǎn)變，如 2025 年 1 月拜登政府限制國際人工智能技術(shù)轉(zhuǎn)讓的行政命令，可能挑戰(zhàn)了將人工智能視為全球公共產(chǎn)品的觀點(diǎn)，因?yàn)樾屡d的保護(hù)主義措施實(shí)際上創(chuàng)造了排他性機(jī)制，可能將世界劃分為人工智能 “有者” 和 “無者”。相關(guān)地，人工智能系統(tǒng)能力水平的提高和擴(kuò)散引發(fā)了對(duì)其開發(fā)和部署帶來的集體挑戰(zhàn)的擔(dān)憂。其中一些挑戰(zhàn)，如算法偏見和隱私問題，已經(jīng)在當(dāng)代人工智能系統(tǒng)中出現(xiàn)，而長期問題則涉及如何保持人類的自主性并防止災(zāi)難性風(fēng)險(xiǎn)。

因此，確保先進(jìn)人工智能系統(tǒng)的安全開發(fā)，即在保護(hù)其益處的同時(shí)防范人工智能系統(tǒng)的負(fù)面外部性，本身可能構(gòu)成一項(xiàng)關(guān)鍵的全球公共產(chǎn)品。

本報(bào)告探討公共產(chǎn)品框架如何為管理人工智能相關(guān)風(fēng)險(xiǎn)和外部性提供信息，分析全球公共產(chǎn)品框架的理論基礎(chǔ)及其實(shí)際影響。該分析考慮責(zé)任和公平問題，探索這些框架如何幫助解決人工智能發(fā)展中的差距，同時(shí)確保廣泛參與安全工作。我們不主張具體的政策措施，而是尋求制定一個(gè)研究議程，為未來的治理工作和國際合作提供信息。

“全球公共產(chǎn)品”：國際進(jìn)步的基礎(chǔ)框架

“全球公共產(chǎn)品”（GPG）的概念在現(xiàn)代經(jīng)濟(jì)學(xué)和政策討論中已成為一個(gè)有力的分析框架，為應(yīng)對(duì)跨越國界的集體挑戰(zhàn)提供了結(jié)構(gòu)化的方法。理解這一框架在擁有先進(jìn)人工智能的世界中的潛在應(yīng)用，需要審視其核心特征以及對(duì)治理和協(xié)調(diào)的實(shí)際影響。

全球公共產(chǎn)品與傳統(tǒng)公共產(chǎn)品的不同之處在于其在全球范圍內(nèi)提供利益，但具有相同的基本特征。“公共產(chǎn)品” 的本質(zhì)區(qū)別如下表所示：

此表突出了全球公共產(chǎn)品的兩個(gè)特征：非排他性和非競爭性，并指出了它們與其他類型商品的區(qū)別。一種具有競爭性和排他性的全球商品將是私人物品，如跨境石油儲(chǔ)備；一種具有排他性但非競爭性的商品將是俱樂部物品，如衛(wèi)星網(wǎng)絡(luò)或?qū)W術(shù)期刊；一種具有非排他性但競爭性的商品將是公共資源，如海洋魚類資源或南極資源。而在國際背景下，非競爭性、非排他性的公共物品的例子包括穩(wěn)定的氣候、疾病根除以及低風(fēng)險(xiǎn)的全球戰(zhàn)爭，這些利益影響著全球每個(gè)人，且一方的享用不會(huì)減少其對(duì)其他方的可用性。

將某些商品和服務(wù)視為 “全球公共產(chǎn)品”，對(duì)其在全球范圍內(nèi)的資助、治理和公平分配具有重要意義。

雖然商品在不同分析層面都可以是公共的，包括社區(qū)、城市、國家或地區(qū)，但由于人工智能預(yù)計(jì)會(huì)產(chǎn)生全球影響以及相關(guān)的全球協(xié)調(diào)挑戰(zhàn)，本文將重點(diǎn)放在全球?qū)用妗Ｊ袌隹赡軣o法充分提供人工智能安全保障，因?yàn)槠湟嫣幨且环N公共產(chǎn)品，單個(gè)公司無法完全獲取，而安全措施的成本是私人的，直接影響其底線。供應(yīng)不足的挑戰(zhàn)源于在其他全球公共產(chǎn)品背景下觀察到的經(jīng)典搭便車動(dòng)態(tài)。個(gè)體行為者，無論是國家、公司還是研究機(jī)構(gòu)，可能會(huì)對(duì)安全措施投資不足，因?yàn)樗麄冎揽梢詮乃说陌踩顿Y中受益而無需承擔(dān)成本。鑒于安全措施不足可能帶來的全球范圍潛在危害，這種動(dòng)態(tài)對(duì)于人工智能安全來說可能尤其令人擔(dān)憂。當(dāng)多個(gè)行為者采取這種方法時(shí)，對(duì)安全的集體投資就會(huì)低于社會(huì)最優(yōu)水平，可能導(dǎo)致對(duì)系統(tǒng)性風(fēng)險(xiǎn)、偏差或?yàn)?zāi)難性故障的防范不足。

全球公共產(chǎn)品的概念強(qiáng)調(diào)，應(yīng)對(duì)跨國挑戰(zhàn)既符合國家利益，也符合全球利益，這可能促使政府投入自身資源，并就市場往往供應(yīng)不足的共享解決方案展開合作。就像氣候變化的情況一樣，盡管化石燃料存在負(fù)面外部性，但它們?nèi)匀徽紦?jù)主導(dǎo)地位；在 COVID-19 疫情中，關(guān)鍵醫(yī)療用品和公平的疫苗分配供應(yīng)不足。

這個(gè)框架為協(xié)調(diào)和治理提供了幾個(gè)明顯的優(yōu)勢(shì)：

1. 協(xié)調(diào)合理性：該框架通過展示應(yīng)對(duì)跨國挑戰(zhàn)如何與國家和全球利益保持一致，同時(shí)表明不協(xié)調(diào)的行動(dòng)不太可能產(chǎn)生預(yù)期結(jié)果，為國際協(xié)調(diào)提供了經(jīng)濟(jì)和政治上的合理性。
2. 投資動(dòng)力：這種框架將突出市場機(jī)制或單一國家的國內(nèi)治理措施單獨(dú)使用可能導(dǎo)致全球公共產(chǎn)品供應(yīng)不足，從而為加強(qiáng)公共投資提供論據(jù)。
3. 制度架構(gòu)：該框架借鑒氣候變化行動(dòng)和公共衛(wèi)生等其他領(lǐng)域的先例，為人工智能安全的提供提出了制度安排和資金機(jī)制。
4. 特權(quán)群體動(dòng)態(tài)：國家在某些全球公共產(chǎn)品方面可能充當(dāng) “特權(quán)群體”，即擁有足夠資源、能力和動(dòng)機(jī)來提供公共產(chǎn)品并從中受益的行為者，無論其他方的貢獻(xiàn)或參與如何。在追求自身利益時(shí)，他們的行動(dòng)仍可能帶來全球利益。這種框架可能會(huì)影響大國對(duì)待人工智能安全的方式：例如，他們可能會(huì)將其作為全球公共產(chǎn)品做出貢獻(xiàn)，同時(shí)采取獨(dú)立行動(dòng)，比如制定和執(zhí)行主要符合自身利益的標(biāo)準(zhǔn)，同時(shí)保持其技術(shù)優(yōu)勢(shì)。然而，個(gè)別大國的單邊和不協(xié)調(diào)決策仍可能通過競爭互動(dòng)引發(fā)進(jìn)一步的競賽動(dòng)態(tài)，并減少特權(quán)群體單獨(dú)行動(dòng)所產(chǎn)生的全球公共產(chǎn)品。

一個(gè)關(guān)鍵問題出現(xiàn)了：哪些要素需要作為全球公共產(chǎn)品進(jìn)行保護(hù)或提供？就像清潔空氣和氣候穩(wěn)定是環(huán)境治理的基本全球公共產(chǎn)品一樣，確定人工智能發(fā)展中的核心公共產(chǎn)品為建立有效的治理機(jī)制和協(xié)調(diào)框架奠定了基礎(chǔ)。

確定人工智能領(lǐng)域的定義性公共產(chǎn)品

已有的全球公共產(chǎn)品，如清潔空氣、疾病控制和不存在跨國沖突，已成為集體行動(dòng)的明確基礎(chǔ)。隨著人工智能系統(tǒng)變得越來越強(qiáng)大和普及，我們是否必須確定類似的需要集體保護(hù)的基本產(chǎn)品？這個(gè)問題涵蓋了人工智能作為公共產(chǎn)品的潛力以及其開發(fā)和部署帶來的集體挑戰(zhàn)。理解這些要素需要分析人工智能發(fā)展和安全的不同方面如何與現(xiàn)有的全球公共產(chǎn)品框架相契合。

先進(jìn)人工智能中公共產(chǎn)品的多個(gè)維度

基本人類需求，如獲得清潔空氣和免受傳染病侵害，在政治領(lǐng)域被如此定義時(shí)，激發(fā)了對(duì)空氣污染和流行病的集體應(yīng)對(duì)。然而，多次會(huì)議和對(duì)話已經(jīng)確定了在先進(jìn)人工智能背景下引起類似程度關(guān)注的類似要素，涉及技術(shù)、社會(huì)和治理維度。

本節(jié)旨在研究在先進(jìn)人工智能的特定背景下，社會(huì)對(duì)獲取某些基本資源和環(huán)境的需求，以及擺脫極端不利全球狀況的需求。下表簡要概述了類似的政策領(lǐng)域，區(qū)分了核心全球公共產(chǎn)品、相應(yīng)的社會(huì)需求、全球公共產(chǎn)品特征以及促進(jìn)全球公共產(chǎn)品提供的補(bǔ)充工具。這將幫助我們?cè)谙乱还?jié)中將全球公共產(chǎn)品框架應(yīng)用于人工智能領(lǐng)域。

確定人工智能發(fā)展中基本公共產(chǎn)品的復(fù)雜性反映在不同國際行為者應(yīng)對(duì)這一挑戰(zhàn)的方式上。近期的國際對(duì)話產(chǎn)生了一些重要聲明，試圖勾勒出與人工智能相關(guān)的公共產(chǎn)品，每個(gè)聲明都突出了集體行動(dòng)的不同方面和方法（見表 3）。這些聲明的重點(diǎn)各不相同，從強(qiáng)調(diào)安全協(xié)議和驗(yàn)證機(jī)制作為潛在的非競爭性、非排他性產(chǎn)品，到共享治理框架的可能益處。迄今為止，最突出的國際對(duì)話和聲明包括：

• 人工智能安全國際對(duì)話（IDAIS）威尼斯聲明：主要從技術(shù)安全措施的角度探討基本公共產(chǎn)品的問題。它將安全協(xié)議和驗(yàn)證機(jī)制本身視為非競爭性、非排他性的益處，類似于清潔空氣對(duì)氣候穩(wěn)定的基礎(chǔ)性公共產(chǎn)品作用。這種框架強(qiáng)調(diào)，安全措施一旦開發(fā)出來，理論上可以使所有人受益，而不會(huì)降低其對(duì)任何特定用戶的價(jià)值。
• 《關(guān)于全球包容性科學(xué)理解人工智能的曼哈頓宣言》：采取了更廣泛的視角，將科學(xué)知識(shí)本身確定為基本公共產(chǎn)品。這種方法表明，我們對(duì)人工智能能力、機(jī)遇和風(fēng)險(xiǎn)的集體理解構(gòu)成了一種共享資源，隨著更廣泛的參與，其價(jià)值會(huì)不斷增長，類似于醫(yī)學(xué)知識(shí)在全球健康框架中作為公共產(chǎn)品的作用。
• 《人工智能安全作為全球公共產(chǎn)品報(bào)告》：采用了更全面的視角，將治理能力本身視為基本公共產(chǎn)品。這種方法強(qiáng)調(diào)，類似于核安全或航空領(lǐng)域的共享治理框架，可以通過跨境政策學(xué)習(xí)和協(xié)調(diào)提供非競爭性益處。它特別強(qiáng)調(diào)平衡發(fā)展在創(chuàng)建可持續(xù)治理結(jié)構(gòu)中的重要性。
• 《聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)報(bào)告：為人類治理人工智能》：其建議可能采取了最廣泛的視角，確定了人工智能背景下多個(gè)相互關(guān)聯(lián)的公共產(chǎn)品層次。這個(gè)框架不僅包括技術(shù)安全和科學(xué)知識(shí)，還包括機(jī)構(gòu)能力和發(fā)展基礎(chǔ)設(shè)施，這些都被視為需要集體行動(dòng)的基本公共產(chǎn)品。

更多詳細(xì)比較見附錄 A。

雖然上述所有聲明和報(bào)告都認(rèn)識(shí)到將全球公共產(chǎn)品框架應(yīng)用于人工智能領(lǐng)域的潛在價(jià)值，但對(duì)這些不同概念化的深入分析，為國內(nèi)實(shí)驗(yàn)室、國家政府和國際機(jī)構(gòu)如何獨(dú)特地理解人工智能與全球公共產(chǎn)品之間的關(guān)系，提供了重要見解。因此，有必要將表 2 中開發(fā)的框架應(yīng)用于這些現(xiàn)有的關(guān)于人工智能和全球公共產(chǎn)品的國際聲明，以及在本文同行評(píng)審期間最近的研討會(huì)上討論的其他框架。在下表中，我們探索了從先進(jìn)人工智能角度概念化全球公共產(chǎn)品的可能方式、它們的關(guān)鍵特征，以及支持的工具、資源和流程。

當(dāng)專門將全球公共產(chǎn)品框架應(yīng)用于人工智能安全時(shí)，分析框架與實(shí)施工具之間的區(qū)別變得尤為突出。將人工智能安全理解為全球公共產(chǎn)品，揭示了個(gè)體行為者對(duì)安全措施投資不足時(shí)出現(xiàn)的特定市場和協(xié)調(diào)失靈，而這些安全措施的益處超出了他們的直接控制范圍。例如，雖然強(qiáng)大的人工智能安全框架可能在全球產(chǎn)生非競爭性和非排他性的益處，但實(shí)現(xiàn)這一結(jié)果取決于特定的工具和資源，從技術(shù)標(biāo)準(zhǔn)到治理框架，而這些工具和資源本身可能具有排他性或競爭性。這一分析有助于解釋為什么將人工智能安全視為全球公共產(chǎn)品的不同框架，可能會(huì)強(qiáng)調(diào)不同的工具和資源來實(shí)現(xiàn)其提供。

本文轉(zhuǎn)載自?????歐米伽未來研究所?????，作者：歐米伽未來研究所