當前，新一代人工智能技術正在全球范圍內蓬勃興起，與大數據、區塊鏈、5G等新技術相互融合、相互因應，為經濟社會發展尤其是數字經濟發展注入新動能，正在深刻改變著人類的生產生活方式。與此同時，如何在新技術變革浪潮中始終立于主動，實現人工智能等前沿科技領域有效治理，確保其持續健康發展，也成為國際國內、社會各界廣泛關注的重要現實問題、重大時代議題。

黨的十八大以來，以習近平同志為核心的黨中央高度重視前沿科技領域發展與治理，中央政治局就人工智能、區塊鏈、量子科技等新技術領域相關問題分別進行集體學習。習近平總書記高度重視新一代人工智能發展與治理，提出“要深刻認識加快發展新一代人工智能的重大意義，加強領導，做好規劃，明確任務，夯實基礎，促進其同經濟社會發展深度融合，推動我國新一代人工智能健康發展”。

剛剛過去的2020年，波瀾壯闊、極不平凡。“兩個一百年”目標歷史交匯，中華民族偉大復興戰略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國肆虐，人工智能在疫情防控、社會治理、國際協作等多個領域發揮重要作用，新一代人工智能技術發展取得諸多重大成果，世界各國積極探索與人工智能發展相適應的治理路徑，出現諸多具有標志性意義、可能產生深遠影響的重要事件。對這些事件進行梳理總結、深入研究，有助于深化對人工智能治理規律的認識，有助于更精準把握人工智能技術、產業、生態發展趨勢，有助于引發社會各界就人工智能治理領域關鍵問題、重點難點進行深入思考，形成更廣泛共識。

人工智能治理是復雜性、系統性很高的社會議題，涵蓋政策、技術、產業、法律、傳播、倫理、安全、國際關系等諸多領域。對國際國內人工智能治理標志性事件開展研究，也必然需要各界共同推動。為此，人民智庫與曠視AI治理研究院成立聯合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評議，組織相關領域權威專家學者，從AI與公眾福祉、AI與公平正義、AI政府（企業）治理、AI系統安全性與數據隱私安全等四個主要維度出發，依據理論價值、實踐價值、新聞價值、研究價值等四個評價標準進行評議，并面向社會公眾開展在線問卷調查，對人工智能產業領域從業者，相關部委、行業協會領導專家等典型群體進行深入訪談。經綜合各方面資料、數據、意見、觀點，最終評選出2020年度全球十大人工智能治理事件。

這些事件，反映著人工智能治理領域實踐探索和前沿趨勢，反映著新一代人工智能技術的廣泛應用前景，反映著公眾對人工智能治理引導科技向善，助力政府、機構、企業的多層次、多樣化參與，通過新一代信息技術的良性發展增進人類福祉、改善民生的熱切期待。

[[377201]]

助手還是殺手？讀懂人類意識的AI或者擁有自主意識的AI？關系人類福祉的人工智能，要走“邊發展，邊治理”的新模式

人工智能這一概念，自1956年美國達特茅斯會議提出至今，經歷了漫長的野蠻生長初生階段。霍金提出“人工智能也有可能是人類文明史的終結，除非我們學會如何避免危險”；馬斯克認為，人工智能的“風險大得多”，并且這是“威脅人類文明存在的根本性風險”。

近年來，伴隨無人駕駛、人臉識別、智能語音等人工智能技術的廣泛應用，以及基于深度學習、跨界融合、人機協同、群智開放、自主操控為特征的新一代人工智能技術發展的第三次浪潮來臨，對于人工智能治理的討論再次被社會各界廣泛提及。

中國互聯網飛速發展近30年，相關專家總結互聯網治理的經驗教訓時，認為過去我們的治理模式之一就是“先發展，后治理”，即先“摸著石頭過河”，待問題出現或者積累到一定程度，再進行專項治理并建立規范。然而人工智能在我國的爆發式發展所具備的新特征更為明顯：

一是政策支持和重視程度更高；二是與社會資本的結合度更高；三是原本已成規模的互聯網企業紛紛涉足人工智能領域；四是技術基礎、產業基礎及經濟社會發展需求更為強烈。

這些因素都直接決定了人工智能治理不可能重復互聯網治理的老路，對治理結構、治理路徑和治理范圍都提出了更多、更新的挑戰，也需要我們以更創造性的理念來應對。

本次十大事件評選中，涉及人工智能與人類福祉、公平正義高度的事件受到的關注度最高，如：

• 通過算法黑箱侵犯外賣小哥利益的事件“AI成‘監工’：算法下外賣騎手挑戰交通規則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；
• 假借人工智能技術進行違法行為的事件“湖南岳陽警方破獲AI犯罪案，技術犯罪仍要懲罰人”（排名第9，得票率48.75%）。

國際方面，最受關注的是人工智能技術突破現有邊界，有可能對人類福祉造成不良影響的事件，如：

• “人工智能可以翻譯大腦想法將大腦信號轉化為文本數據，‘讀懂意識’讓隱私無處遁藏”（排名第2，得票率50.09%）；
• “人工智能技術突破現有邊界，具備‘自主意識’，可實現獨立研發、自我修復等功能”（排名第8，得票率48.75%）。

黨的十九屆四中全會《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進國家治理體系現代化的重要組成部分，是以習近平同志為核心的黨中央在全球范圍新一輪科技革命和產業變革蓬勃興起、人類發展面臨前所未有的新機遇和新挑戰的歷史時刻作出的重大部署，對于克服科技領域存在的倫理問題、促進我國科技事業健康發展，具有重要意義。

[[377202]]

發展負責任的人工智能并非一國之責，而是全球之事；人工智能治理亟需建立國際共識，探索協同共治新模式

據有關機構預測，2030年，人工智能將帶動全球GDP增長14%；其中，最大的收益將來自中國與北美，總計高達10.7萬億美元，占全球經濟影響的近70%。如此巨大的經濟體量，若失去法律、道德和倫理的約束，有可能造成不可逆轉的負面影響。本次調查中，全球性、地區性及各國涉及法律、倫理、道德規范建設的事件得到了專家和公眾的廣泛關注，

• 如“歐美、韓國相繼出臺AI治理新規，嚴格限制、甚至禁用相關人工智能技術在某些場景的發展和應用”（排名第4，得票率49.73%）等。

此外，西方國家推動人工智能在軍事領域的使用也受到廣泛關注，

• “人工智能首次控制美國軍用系統，或將開啟算法戰新時代”（排名第10，得票率48.22%）這一事件受到案例評審專家的多次提及。

清華大學人工智能國際治理研究院名譽院長傅瑩指出：“既然人工智能武器化不可避免，專家們研究的方向應是尋找合適的治理路徑。”

上海交通大學文科資深教授、中國法與社會研究院季衛東院長認為，當今世界面臨著圍繞人工智能和數據的國際規則的博弈，中國在全球化時代和數字經濟轉型過程中相對處于比較領先的位置。但由于我們過去對人工智能治理重視程度不夠，導致人工智能產品、產業在“走出去”的過程中，往往會在歐美國家遇到限制或指責，有些問題的確可以促進我國產品、技術、規范的進步，但我們也要學習適當地、巧妙地利用規則來維護國家和企業的合法權益。同時也要注意到不同國家人工智能治理模式的區別，比如美國強調人工智能企業的商業利益與企業在競爭中保持優勢地位；歐盟則強調公民權利保障及在該前提下的規則博弈；中國在上述兩個方面都有所涉及。

當前，我國正在積極融入人工智能全球治理體系，盡管偶有逆流和阻撓，但依然肩負起了一個負責任大國應肩負的責任，在人工智能全球治理中積極貢獻自己的智慧和經驗。目前的基本共識是人工智能的治理體系需要“柔性的倫理”和“硬性的法律”共同構建，更需要各個國家、國際組織、行業組織、企業、公眾的多元主體參與，倫理、技術、規范、立法等治理舉措齊頭并進的協同共治模式。

從頂層設計方面實施國家規劃并確定立法步驟。

2017年，國家印發了《新一代人工智能發展規劃》和《促進新一代人工智能產業發展三年行動計劃（2018—2020年）》，其中對人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍圖繪到底”的精神，根據規劃要求實施人工智能法律政策“三步走”：

到2020年，部分領域的人工智能倫理規范和政策法規初步建立；到2025年，初步建立人工智能法律法規、倫理規范和政策體系，形成人工智能安全評估和管控能力：到2030年，建成更加完善的人工智能法律法規、倫理規范和政策體系。

積極從全球治理角度凝聚人工智能倫理共識。

2019年5月《人工智能北京共識》發布，針對人工智能的研發、使用、治理三方面，提出了各個參與方應該遵循的有益于人類命運共同體構建和社會發展的15條原則。我國還鼓勵不同層次主體圍繞科技向善等核心倫理價值，擬定評價規則，構建人工智能的評估評價體系。一方面，引導人工智能健康持續發展，通過產業發展反哺人工智能治理領域法律法規等規則的建立健全；另一方面，借助人工智能等現代信息技術手段全面提升治理能力和治理現代化水平。2019年11月，《關于<中共中央關于堅持和完善中國特色社會主義制度推進國家治理體系和治理能力現代化若干重大問題的決定>的說明》中指出：更加重視運用人工智能、互聯網、大數據等現代信息技術手段提升治理能力和治理現代化水平。

清華大學發布的相關領域研究報告顯示，在人工智能領域，中國在科技產出與人才投入、產業發展和市場應用、發展戰略和政策環境等方面表現亮眼，特別是論文總量和高被引論文數量、專利數量均排名世界第一，企業數量全球第二。2019年6月，《亞太及日本企業人工智能倫理道德研究》報告顯示，中國企業在運用人工智能指導方針及管理標準方面位居亞洲前列。這些成績的取得，與我國對人工智能“先行一步”的態度與積極主動地發展先進技術密不可分。

[[377203]]

企業加強自律與內省是負責任的第一步，作為技術創造者，企業應成為AI治理中的重要力量

企業不僅是技術的創造者，更是技術應用的決斷者、技術價值的設計者。企業價值觀與行為，將直接影響技術為人類社會帶來的改變。因此，企業是AI治理中決不能缺席的力量。AI治理是企業發展的必選項，而不是錦上添花。

但是目前，全球AI治理尚未形成統一標準與成熟路徑。各國法律法規、標準規范各異，且落后于企業的商業實踐，因此，企業自律成為有責任感、有長遠發展意識的AI企業的首要準則。企業邁出自律的第一步，對AI行業整體發展來說就是重大進步。

縱觀近年來人工智能治理領域內的爭議事件，與人工智能頭部企業相關的事件不勝枚舉，尤其在2020年，國際科技巨頭、中國領先科技企業都開始加速企業行動，提出企業自律措施。

• 本次調查中，與企業AI治理相關的事件有“美國科技巨頭依據自身道德判斷，加強企業自律及對人工智能技術的監管”，排名第6，得票率49.55%；
• “自動駕駛服務駛上快車道，百度、滴滴等‘無人車’行駛背后的權責歸屬引關注”，排名第7，得票率48.89%。

人工智能的“自我進化”會隨著相關技術研究的深入而越來越高，需要對技術發展中可能存在的風險與不確定性進行準確判斷，更需要來自研究機構或前沿科技企業等專業力量的支持，以確保科技治理的有效性。中外前沿科技企業在人工智能治理中扮演著重要角色，頭部企業對人工智能治理實踐探索與理論研究的深度參與，為AI向善提供了重要指針。正如曠視副總裁蔣燕所言，“企業不能缺席人工智能治理，行勝于言，企業要將人工智能治理的每一步都落實到工作中”。2020年，AI企業曠視在AI治理上進行了更為深入的學術研究、探索并成功運行企業嵌入式治理模式。

上述事件背后與之緊密相關的看似是企業，卻不僅僅是孤立的企業個體行為，政府、社會、研發人員都在其中發揮重大作用。企業是AI治理重要的承載方和落地執行者，更多企業的加入可以更為有效的落地法律法規。科研人員是人工智能的“技術源頭”，在絕大多數情況下可以從源頭上對人工智能的行為與能力進行限制。2018年10月，在中共中央政治局就人工智能發展現狀和趨勢舉行第九次集體學習時，習近平總書記指出，“要加強基礎理論研究，支持科學家勇闖人工智能科技前沿的‘無人區’，努力在人工智能發展方向和理論、方法、工具、系統等方面取得變革性、顛覆性突破，確保我國在人工智能這個重要領域的理論研究走在前面、關鍵核心技術占領制高點”。

[[377204]]

AI應回歸初心，為更美好的人類社會而生；人類應以更大的善意擁抱AI，與向善的AI和諧共處

當前社會上關于是否需要賦予人工智能法律主體地位，以及對于人工智能創造出來的作品或產品，其是否擁有著作權或受到知識產權保護等問題存在諸多討論。

• “全國首例：法院認定人工智能生成文章構成作品，擁有著作權”，在本次評選中排名第3，得票率49.78%。這一標志性事件，為今后應對此類問題提供了參考樣本。

特別值得一提的是，公眾對AI與民生相關的問題高度關心，

• “AI向善，技術預警獨居老人水表及校園暴力行為”，排名第5，得票率49.69%，這一事件引發了很多網友的討論。

國安新一代人工智能治理專業委員會發布的《新一代人工智能治理原則——發展負責任的人工智能》突出了發展負責任的人工智能這一主題，強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八項原則。在該原則指引下，我們會發現AI技術的“初心”——讓人類擁有更加美好的生活。中國特色社會主義進入新時代，我國社會主要矛盾已經轉化為人民日益增長的美好生活需要和不平衡不充分的發展之間的矛盾。日益增長的美好生活需要科技助力，更需要科技向善的力量。

在全球化浪潮下，人類命運共同體正在加速構建，在人工智能及其他領域的治理中，沒有國家可以獨善其身。亦沒有任何一個社會主體能作壁上觀。在此，我們發出三點呼吁：

全球對話上，我們希望各國能夠展開更加積極地對話，在AI治理上達成廣泛共識，構建并推動既符合全球人類福祉又符合各個國家特色發展的的人工智能治理框架，形成多維度、多層次、多主題的協同共治模式。

企業責任上，企業不僅是技術的創造者，同時也是技術的自省者。希望越來越多的企業，能夠積極參與到AI治理中來，實現企業實踐與學術研究更加緊密的結合，實現新治理模式的有效落地。

社會認知上，AI這一關乎每個人生活的前沿技術，需要社會大眾更加理性地關注與看待。希望創造更加良性的公眾反饋機制與輿論環境，實現AI可持續發展。

AI技術作為推動人類社會可持續發展的使能技術，為社會帶來的改變還存在很大空間。與此同時，AI產業自身的可持續發展之路，也是漫長且充滿艱辛。我們必須合力并進，才能實現共贏共享。AI時代，為了構建更好的人類命運共同體，我們仍需不懈努力！