斯蒂芬·霍金曾說過一句名言:“成功創(chuàng)造出有效的人工智能可能是我們文明史上最大的事件，但除非我們學(xué)會(huì)如何準(zhǔn)備和避免潛在的風(fēng)險(xiǎn)，否則人工智能可能是我們文明史上最糟糕的事件。”

人工智能以LLM(大型語言模型)的形式出現(xiàn)爆炸式增長。基于與ChatGPT等工具的類似人類的自然語言對(duì)話，使許多人認(rèn)為廣泛采用人工智能的時(shí)代即將到來。在硬件和軟件上投入了大量資金，希望將許多由“純?nèi)祟悺眻?zhí)行的任務(wù)自動(dòng)化。最近，谷歌宣布對(duì)廣告銷售團(tuán)隊(duì)進(jìn)行重組，并裁員“數(shù)百名員工”，以實(shí)現(xiàn)人工智能流程的自動(dòng)化，將關(guān)鍵操作交給人工智能代理或工具。這些更高級(jí)別的人類與人工智能對(duì)話的有效性仍然未知。

包括LLM在內(nèi)的生成式人工智能(GenAI)的一個(gè)方面是市場的發(fā)展速度。研究人員多年來一直在開發(fā)新的想法和模型;然而，在過去18個(gè)月里，人們對(duì)人工智能(尤其是GenAI及LLM)的商業(yè)興趣加速增長，而且沒有顯示出放緩的跡象。霍金的建議再貼切不過了。

鑒于人工智能技術(shù)的快速發(fā)展和未經(jīng)測(cè)試的有效性，專業(yè)媒體HPCwire采訪了Intersect360 Research的高級(jí)分析師史蒂夫?康威(Steve Conway)，請(qǐng)他評(píng)論政府監(jiān)管人工智能的努力，以及這些努力可能對(duì)高性能計(jì)算(HPC)產(chǎn)生的影響。Conway十多年來一直密切關(guān)注人工智能的進(jìn)展。他就這一主題發(fā)表了大量演講并發(fā)表了大量文章，其中包括與約翰霍普金斯大學(xué)應(yīng)用物理實(shí)驗(yàn)室合作撰寫的美國高級(jí)軍事領(lǐng)導(dǎo)人的人工智能入門。

政府對(duì)人工智能的監(jiān)管情況如何?

Conway：2024年和2025年將是世界各國政府人工智能監(jiān)管的重要時(shí)期。認(rèn)識(shí)到最近的進(jìn)展，特別是生成式人工智能，可以有力地改變社會(huì)和經(jīng)濟(jì)，政府正在推動(dòng)旨在使他們成為人工智能領(lǐng)導(dǎo)者的法規(guī)，同時(shí)避免有害的潛在風(fēng)險(xiǎn)。就人工智能而言，今天的世界處于興奮和擔(dān)憂之間，法規(guī)的語言反映了這兩種情況。當(dāng)你通讀這些文件時(shí)，你會(huì)產(chǎn)生巨大的熱情和一種控制風(fēng)險(xiǎn)的緊迫感，就好像潘多拉的盒子被打開了一樣。

為什么現(xiàn)在監(jiān)管舉措越來越多?

Conway：主流的方法和學(xué)習(xí)模型非常有用，但它們還不夠透明和可靠。這種情況造成了有意或無意濫用的嚴(yán)重可能性。幾年前，我聽了芝加哥大學(xué)的Rebecca Willett的一場精彩演講，講述了人工智能可能會(huì)以多種方式引入錯(cuò)誤和偏見。生成式人工智能引起了人們的擔(dān)憂，尤其是因?yàn)樗趨R總和組織數(shù)據(jù)時(shí)無法區(qū)分事實(shí)和虛構(gòu)。

例如，像Google Duplex這樣的超現(xiàn)實(shí)機(jī)器人被故意設(shè)計(jì)成對(duì)人類隱藏它們的人工智能本質(zhì)，甚至在對(duì)話中插入“嗯”和“啊”。斯坦福大學(xué)的自適應(yīng)智能體小組提出了人工智能體的口令(Shibboleth)規(guī)則。它說，“如果被任何代理人要求，所有自主的人工智能都必須表明自己的身份，無論是人類還是其他東西。”

這對(duì)HPC社區(qū)意味著什么?

Conway:在人工智能研發(fā)的最前沿，HPC幾乎是不可或缺的，幾乎所有的HPC站點(diǎn)都在開發(fā)或探索人工智能，所以一些正在制定的國家人工智能法規(guī)主要針對(duì)科學(xué)研究人員和研究人員所謂的前沿人工智能能力，這并不是偶然的。

對(duì)HPC廠商有什么特別的影響嗎?

Conway:許多政府監(jiān)管機(jī)構(gòu)都在為前沿人工智能能力設(shè)計(jì)和交付技術(shù)，我認(rèn)為包括云服務(wù)提供商在內(nèi)的高性能計(jì)算供應(yīng)商應(yīng)該密切關(guān)注降低人工智能風(fēng)險(xiǎn)的努力，并考慮直接參與這些努力。包括保護(hù)知識(shí)產(chǎn)權(quán)和對(duì)違規(guī)行為進(jìn)行嚴(yán)重的經(jīng)濟(jì)處罰。供應(yīng)商應(yīng)該密切關(guān)注這一點(diǎn)。

這對(duì)研究人員來說意味著什么?

Conway：人工智能的透明度問題意味著，研究人員應(yīng)該繼續(xù)注意何時(shí)應(yīng)用人工智能，何時(shí)讓人類參與其中。對(duì)于重要的應(yīng)用程序，也許人工智能的使用通常應(yīng)該是一個(gè)中間步驟，而不是最后一步，只要可行，人工智能的結(jié)果就應(yīng)該由人類來驗(yàn)證。

世界各地的法規(guī)對(duì)人工智能的定義是否相似?

Conway：這些定義通常非常廣泛，通常包括廣泛的領(lǐng)域，從科學(xué)研究到社交媒體、消費(fèi)電子產(chǎn)品、自動(dòng)駕駛和半自動(dòng)駕駛、精準(zhǔn)醫(yī)療、電信等許多領(lǐng)域。各國政府不得不認(rèn)真思考，單一機(jī)構(gòu)是否能夠勝任管理如此多樣化領(lǐng)域的人工智能法規(guī)和政策。包括美國、中國和英國在內(nèi)的一些政府似乎正朝著單一機(jī)構(gòu)的解決方案邁進(jìn)，而歐盟正在針對(duì)不同的領(lǐng)域?qū)で蟛煌谋O(jiān)管方法。

能否簡要介紹一下主要國家和地區(qū)在人工智能監(jiān)管方面的立場?

Conway：當(dāng)然。我將從中國開始，中國率先采取措施，通過《負(fù)責(zé)任的研究行為準(zhǔn)則》對(duì)生成式人工智能進(jìn)行監(jiān)管。除其他事項(xiàng)外，該指導(dǎo)方針指出，在影響公眾的研究資助項(xiàng)目的申請(qǐng)中，必須明確標(biāo)注人工智能的使用。此外，中國國家互聯(lián)網(wǎng)信息辦公室(CAC)對(duì)可能威脅社會(huì)的前沿人工智能模型采取了許可制度。重要的是，CAC許可有意鼓勵(lì)中小企業(yè)、初創(chuàng)企業(yè)和大公司的創(chuàng)新。全世界都擔(dān)心，大公司可能會(huì)試圖阻止這種競爭，并在新興的人工智能市場上成為壟斷企業(yè)，在這個(gè)市場上，重要的突破可能來自小公司。

在2023年11月的布萊切利宣言中，包括英國、美國、中國、日本以及歐洲、中東和非洲以及亞太地區(qū)的許多國家在內(nèi)的28個(gè)國家同意合作管理與前沿人工智能能力相關(guān)的更高風(fēng)險(xiǎn)。預(yù)計(jì)將于今年或明年生效的《歐盟人工智能法案》(EU AI Act)被視為全球最全面、最嚴(yán)格的人工智能監(jiān)管嘗試，一些企業(yè)指責(zé)該法案扼殺了創(chuàng)新。歐盟法案規(guī)定，對(duì)嚴(yán)重違規(guī)者處以公司上一年度收入7%的罰款，罰款金額可能高達(dá)數(shù)百萬歐元。

美國總統(tǒng)拜登2023年10月發(fā)布的行政命令對(duì)于制定旨在保護(hù)隱私和懲罰歧視的潛在人工智能權(quán)利法案的原則非常重要。然而，美國30個(gè)州已經(jīng)通過了針對(duì)人工智能潛力和風(fēng)險(xiǎn)的法律。在美國，從州一級(jí)就聯(lián)邦法規(guī)達(dá)成共識(shí)并不罕見。

日本采取的方法更像美國，而不是歐洲那種更嚴(yán)格的監(jiān)管。2019年，日本政府發(fā)布了“以人為中心的人工智能社會(huì)原則”，隨后又發(fā)布了“人工智能戰(zhàn)略2022”。兩者都是為了在人工智能的進(jìn)步中保護(hù)公民和可持續(xù)發(fā)展的社會(huì)。《人工智能、機(jī)器學(xué)習(xí)和大數(shù)據(jù)法律法規(guī)2023》以數(shù)據(jù)和知識(shí)產(chǎn)權(quán)保護(hù)為中心，包括法律責(zé)任。

量子計(jì)算是另一項(xiàng)具有潛在社會(huì)風(fēng)險(xiǎn)的轉(zhuǎn)型技術(shù)。政府是否也在制定有關(guān)量子計(jì)算的法規(guī)?

Conway：(這個(gè)領(lǐng)域)監(jiān)管活動(dòng)處于早期階段，因?yàn)榱孔佑?jì)算的廣泛商業(yè)化在未來還很遙遠(yuǎn)。美國金融業(yè)監(jiān)管協(xié)會(huì)(FINRA)發(fā)布了與網(wǎng)絡(luò)安全和數(shù)據(jù)治理相關(guān)的量子監(jiān)管考慮，其他一些機(jī)構(gòu)也在考慮風(fēng)險(xiǎn)。不過，目前的緊迫性主要還是與人工智能有關(guān)。例如，在中國，百度和阿里都已將其量子研究設(shè)施移交給政府，以便更加專注于如今在人工智能領(lǐng)域的競爭。對(duì)量子計(jì)算風(fēng)險(xiǎn)的擔(dān)憂可能很快就會(huì)變得更加嚴(yán)重。

HPC社區(qū)可以為人工智能做些什么來降低風(fēng)險(xiǎn)，使監(jiān)管不會(huì)扼殺創(chuàng)新?

Conway：我認(rèn)為所有與人工智能相關(guān)的大學(xué)課程都應(yīng)該無一例外地設(shè)置倫理課程，而且培訓(xùn)應(yīng)該針對(duì)人工智能帶來的風(fēng)險(xiǎn)。全球許多知名大學(xué)已經(jīng)開設(shè)了人工智能倫理課程，包括劍橋大學(xué)、澳大利亞國立大學(xué)、佐治亞理工學(xué)院、斯坦福大學(xué)、新澤西理工學(xué)院、東京大學(xué)、斯圖加特大學(xué)、北京大學(xué)等。這方面很重要。