最近，斯坦福HAI研究所和斯坦福監(jiān)管、評(píng)估和治理實(shí)驗(yàn)室聯(lián)合發(fā)布了《美國(guó)人工智能戰(zhàn)略三大支柱的實(shí)施挑戰(zhàn)》白皮書，系統(tǒng)性地評(píng)估了美國(guó)在人工智能方面的進(jìn)展情況。

白皮書主要圍繞著AI創(chuàng)新和可信AI的三大支柱：

1. 2020年《政府中的人工智能法案》；

2. 關(guān)于「人工智能領(lǐng)導(dǎo)能力」的行政命令；

3. 關(guān)于「政府中的人工智能」的行政命令。

總體而言，這些行政命令和《政府中的人工智能法》對(duì)于確保美國(guó)的人工智能國(guó)家戰(zhàn)略至關(guān)重要，簡(jiǎn)單來(lái)說(shuō)就是「在未來(lái)十年對(duì)世界其他國(guó)家的競(jìng)爭(zhēng)優(yōu)勢(shì)」。

作者在200多個(gè)聯(lián)邦機(jī)構(gòu)中，全面檢查了每項(xiàng)要求的實(shí)施狀況之后發(fā)現(xiàn)，雖然美國(guó)在人工智能的創(chuàng)新上已經(jīng)取得了很多進(jìn)展，但也面臨著一定的問(wèn)題：

• 所有要求中只有不到40%的要求可以被公開核實(shí)為已經(jīng)實(shí)施。
• 88%的受訪機(jī)構(gòu)未能提供確定與人工智能有關(guān)的監(jiān)管機(jī)構(gòu)的人工智能計(jì)劃。
• 大約一半或更多的機(jī)構(gòu)沒(méi)有按照《政府中的人工智能命令》的要求，提交人工智能用例清單。

概要

人工智能（AI）的變革潛力是一種不爭(zhēng)的事實(shí)。

為了獲得「第四次工業(yè)革命」或「第三次數(shù)字革命浪潮」的優(yōu)勢(shì)，各國(guó)正在優(yōu)先努力重組其公共和私營(yíng)部門，資助研究和開發(fā)（R&D），并建立釋放人工智能創(chuàng)新的結(jié)構(gòu)和政策。

在美國(guó)，白宮和國(guó)會(huì)通過(guò)增加研發(fā)投資來(lái)促進(jìn)人工智能創(chuàng)新及其值得信賴的部署，探索通過(guò)國(guó)家人工智能研究資源來(lái)增加公平獲得人工智能相關(guān)資源的機(jī)制，資助全國(guó)各地的國(guó)家人工智能研究所，通過(guò)CHIPS和科學(xué)法案將2800億美元用于國(guó)內(nèi)半導(dǎo)體制造和「未來(lái)產(chǎn)業(yè)」，并在白宮的國(guó)家人工智能倡議辦公室協(xié)調(diào)人工智能政策。

一、人工智能國(guó)家戰(zhàn)略：行政命令和立法

雖然人工智能領(lǐng)導(dǎo)令尋求推動(dòng)美國(guó)所有部門的技術(shù)突破，但其他兩項(xiàng)工作側(cè)重于聯(lián)邦政府對(duì)人工智能的使用。

行政命令 13859

人工智能領(lǐng)導(dǎo)令發(fā)起了美國(guó)人工智能倡議，以「集中聯(lián)邦政府的資源發(fā)展人工智能，以提高美國(guó)的繁榮，加強(qiáng)美國(guó)的國(guó)家和經(jīng)濟(jì)安全，并改善美國(guó)人民的生活質(zhì)量。」

具體而言，它尋求加快聯(lián)邦政府的努力，通過(guò)強(qiáng)調(diào)人工智能研發(fā)、人工智能相關(guān)數(shù)據(jù)和資源、監(jiān)管指導(dǎo)和技術(shù)標(biāo)準(zhǔn)、人工智能勞動(dòng)力、公眾對(duì)人工智能的信任以及國(guó)際參與等多管齊下的方法，建立美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位所需的基礎(chǔ)設(shè)施、政策基礎(chǔ)和人才。

此外，「協(xié)調(diào)的聯(lián)邦政府戰(zhàn)略」是必要的，而且人工智能「將影響幾乎所有行政部門和機(jī)構(gòu)的任務(wù)」，人工智能領(lǐng)導(dǎo)命令進(jìn)一步授權(quán)各機(jī)構(gòu)追求六個(gè)相關(guān)的戰(zhàn)略目標(biāo)，以「促進(jìn)和保護(hù)美國(guó)在人工智能方面的進(jìn)步」。

行政命令 13960

政府中的人工智能命令指示聯(lián)邦機(jī)構(gòu)利用「人工智能的潛力來(lái)改善政府運(yùn)作」。認(rèn)識(shí)到「人工智能的持續(xù)采用和接受將在很大程度上取決于公眾的信任」，政府中的人工智能命令闡明了聯(lián)邦機(jī)構(gòu)在設(shè)計(jì)、開發(fā)、獲取和使用人工智能時(shí)應(yīng)執(zhí)行的九項(xiàng)原則。

這些原則規(guī)定，人工智能應(yīng)該是（a）合法的，（b）性能驅(qū)動(dòng)的，（c）準(zhǔn)確、可靠和有效的，（d）安全、可靠和有彈性的，（e）可理解的，（f）負(fù)責(zé)和可追蹤的，（g）定期監(jiān)測(cè)的，（h）透明的，和（i）負(fù)責(zé)的。

2020《政府中的人工智能法》

該法試圖「通過(guò)向聯(lián)邦機(jī)構(gòu)提供資源和指導(dǎo)，確保整個(gè)聯(lián)邦政府對(duì)人工智能的使用是有效的、有道德的和負(fù)責(zé)任的。」這包括建立一個(gè)人工智能職業(yè)系列，呼吁為機(jī)構(gòu)使用、采購(gòu)、人工智能的偏見評(píng)估和緩解提供正式指導(dǎo)，并在總務(wù)管理局（GSA）內(nèi)創(chuàng)建一個(gè)卓越中心，以支持政府采用人工智能。

二、總體執(zhí)行情況

作者研究了兩個(gè)行政命令和《政府中的人工智能法》中每個(gè)部門的規(guī)定的執(zhí)行情況。

在上述兩條行政命令和《2020年政府人工智能法案》中，作者發(fā)現(xiàn)45項(xiàng)要求中的11項(xiàng)，即大約27%，已經(jīng)實(shí)施。

然而，45項(xiàng)要求中有7項(xiàng)（16%）沒(méi)有在截止日期前實(shí)施，其余26項(xiàng)要求（58%）無(wú)法確認(rèn)是完全實(shí)施還是未實(shí)施。

同樣，在已經(jīng)開始執(zhí)行的要求中，具體執(zhí)行情況也不確定。包括努力使人工智能研發(fā)更容易獲得數(shù)據(jù)和源代碼，更好地利用和創(chuàng)建新的人工智能相關(guān)的教育和勞動(dòng)力發(fā)展計(jì)劃，并確保各機(jī)構(gòu)的充分參與，進(jìn)一步實(shí)施值得信賴的人工智能。

《政府中的人工智能法案》的四項(xiàng)有截止日期的要求都沒(méi)有實(shí)施：

• 人事管理辦公室（OPM）應(yīng)在2021年5月前向國(guó)會(huì)提交一份建立人工智能職業(yè)系列的計(jì)劃；
• OMB應(yīng)在2021年10月前發(fā)布一份關(guān)于人工智能采購(gòu)、減少歧視性影響或偏見的備忘錄；
• 各機(jī)構(gòu)應(yīng)在2022年4月前公開發(fā)布與之相一致的計(jì)劃；
• OPM應(yīng)在2022年7月前創(chuàng)建一個(gè)人工智能職業(yè)系列，并估計(jì)每個(gè)聯(lián)邦機(jī)構(gòu)的人工智能相關(guān)勞動(dòng)力需求。

在已經(jīng)實(shí)施的措施中，許多都遲于計(jì)劃中的時(shí)間表。例如，國(guó)家科學(xué)和技術(shù)委員會(huì)（NSTC）的人工智能專職委員會(huì)在截止期限后16個(gè)月，才向總統(tǒng)提交了關(guān)于更好地利用云計(jì)算技術(shù)的報(bào)告。

三、機(jī)構(gòu)的AI計(jì)劃

如上所述，這些行政命令和法案的一個(gè)重要焦點(diǎn)是「減少使用人工智能技術(shù)的障礙，以促進(jìn)其創(chuàng)新應(yīng)用」，同時(shí)保護(hù)公民自由、隱私、美國(guó)價(jià)值觀以及美國(guó)經(jīng)濟(jì)和國(guó)家安全。

因此，這些法令強(qiáng)調(diào)審查監(jiān)管人工智能的適當(dāng)作用，希望「避免不必要地阻礙人工智能創(chuàng)新和增長(zhǎng)的監(jiān)管或非監(jiān)管行動(dòng)」。有兩項(xiàng)要求對(duì)實(shí)現(xiàn)這一目標(biāo)至關(guān)重要：

1. 要求OMB向各機(jī)構(gòu)負(fù)責(zé)人發(fā)布一份備忘錄，就各機(jī)構(gòu)應(yīng)如何監(jiān)管人工智能提供指導(dǎo)；

2. 要求擁有「監(jiān)管權(quán)」的機(jī)構(gòu)制定并公開發(fā)布一項(xiàng)計(jì)劃（「機(jī)構(gòu)人工智能計(jì)劃」），以便與OMB提供的指導(dǎo)「實(shí)現(xiàn)一致」。

2020年11月17日，OMB發(fā)布了《行政部門和機(jī)構(gòu)負(fù)責(zé)人關(guān)于人工智能應(yīng)用監(jiān)管指南的備忘錄》（OMB M-21-06），敦促機(jī)構(gòu)采取「監(jiān)管方法，促進(jìn)創(chuàng)新和增長(zhǎng)，產(chǎn)生信任，同時(shí)保護(hù)美國(guó)的核心價(jià)值觀」。

備忘錄劃定了10條人工智能應(yīng)用管理原則，以指導(dǎo)各機(jī)構(gòu)對(duì)人工智能的監(jiān)管和非監(jiān)管方法，確定了在監(jiān)管不合適的情況下的非監(jiān)管方法，以及建議各機(jī)構(gòu)采取的行動(dòng)，以減少部署和使用人工智能的障礙。

各機(jī)構(gòu)被要求在2021年5月前提交計(jì)劃（遵守人工智能領(lǐng)導(dǎo)令的最后期限），并在其機(jī)構(gòu)網(wǎng)站上公開發(fā)布他們的計(jì)劃。

目前，在41個(gè)被評(píng)估的機(jī)構(gòu)中，只有5個(gè)（13%）使用OMB AI條例備忘錄提供的模板發(fā)布了AI計(jì)劃。這些機(jī)構(gòu)是能源部（DOE）、衛(wèi)生與公眾服務(wù)部（HHS）和退伍軍人事務(wù)部（VA），以及環(huán)境保護(hù)局（EPA）和美國(guó)國(guó)際發(fā)展署（USAID）。

剩下的36個(gè)機(jī)構(gòu)還沒(méi)有公布本機(jī)構(gòu)的人工智能計(jì)劃。

四、AI用例清單

政府中的人工智能命令的重點(diǎn)是促進(jìn)聯(lián)邦政府內(nèi)可信賴的人工智能的發(fā)展、采用和獲取。

為此，它要求各機(jī)構(gòu)「準(zhǔn)備一份人工智能的非機(jī)密和非敏感用例的清單」，并與聯(lián)邦首席信息官委員會(huì)（CIO委員會(huì)）、其他機(jī)構(gòu)以及公眾分享。

然而，公開披露人工智能用例清單一直是個(gè)問(wèn)題。

在220個(gè)被確定為可能需要遵守這一要求的機(jī)構(gòu)中，有168個(gè)機(jī)構(gòu)沒(méi)有獨(dú)立的人工智能用例清單或?qū)⑵淙斯ぶ悄苡美{入其上級(jí)機(jī)構(gòu)的清單中。在對(duì)78個(gè)上級(jí)機(jī)構(gòu)進(jìn)行檢查中，只有17個(gè)公布了人工智能用例清單。

也就是說(shuō)，在所有220個(gè)上級(jí)和下級(jí)機(jī)構(gòu)中，76%的機(jī)構(gòu)沒(méi)有公布清單，78%的機(jī)構(gòu)在上級(jí)評(píng)估中沒(méi)有公布清單。

此外，在已知有人工智能用例的49個(gè)上級(jí)和下級(jí)機(jī)構(gòu)中，47%的機(jī)構(gòu)沒(méi)有公布人工智能用例清單（23個(gè)上級(jí)和下級(jí)機(jī)構(gòu)）。在最窄的一組機(jī)構(gòu)中，即23個(gè)在母公司層面上有已知人工智能用例的大型機(jī)構(gòu)，只有11個(gè)公布了人工智能清單。

這些清單本身體現(xiàn)了在實(shí)施過(guò)程中面臨的挑戰(zhàn)。

首先，機(jī)構(gòu)沒(méi)有披露人工智能用例，即使這些用例已經(jīng)被公開記錄在案。

第二，機(jī)構(gòu)在實(shí)施人工智能用例清單方面的不一致指向了三個(gè)尚不清晰的關(guān)鍵點(diǎn)。

• 沒(méi)有響應(yīng)：

對(duì)于那些沒(méi)有公布清單的機(jī)構(gòu)，目前還不清楚他們是斷言他們沒(méi)有使用人工智能，還是僅僅沒(méi)有履行這一要求。

• 機(jī)構(gòu)結(jié)構(gòu)：

除了NIST的清單，所有公布的清單都是在上級(jí)機(jī)構(gòu)層面上公布的（例如，商務(wù)部或能源部，而不是國(guó)家海洋和大氣局或電力局公布的清單）。但不清楚的是，清單中未列出的子機(jī)構(gòu)是否沒(méi)有相關(guān)的用例，或者它們是否對(duì)假定的上級(jí)機(jī)構(gòu)的報(bào)告要求沒(méi)有做出反應(yīng)。

• AI的定義：

在2019財(cái)政年度NDAA中提供的人工智能的定義，并被納入政府指令中的人工智能，可能是相當(dāng)廣泛的，這可能使各機(jī)構(gòu)在為清查目的而將特定技術(shù)歸類為「人工智能」時(shí)更難遵守。

第三，機(jī)構(gòu)清單通常包含現(xiàn)有的透明度倡議，但有很大的差異。

五、總結(jié)

整體而言，作者認(rèn)為美國(guó)人工智能戰(zhàn)略的三大支柱，人工智能領(lǐng)導(dǎo)令、政府人工智能令和政府人工智能法，在實(shí)際操作上還不夠理想。

目前的要求在很多機(jī)構(gòu)看來(lái)就是「沒(méi)有資金支持的任務(wù)」。對(duì)此，國(guó)會(huì)應(yīng)該為各機(jī)構(gòu)提供資源，以充沛人員并培養(yǎng)技術(shù)專長(zhǎng)，進(jìn)而制定戰(zhàn)略性人工智能計(jì)劃。

如果不提供適當(dāng)?shù)馁Y源并授權(quán)高級(jí)人員履行這些職責(zé)，就很可能會(huì)影響美國(guó)在人工智能方面的領(lǐng)先地位。

作者介紹

Christie Lawrence是斯坦福大學(xué)法學(xué)院和哈佛大學(xué)肯尼迪學(xué)院的法學(xué)博士/MPP候選人，也是斯坦福監(jiān)管、評(píng)估和治理實(shí)驗(yàn)室（RegLab）的成員。她曾是國(guó)家人工智能安全委員會(huì)（NSCAI）的研究和分析主任，并曾在斯坦福以人為本的人工智能研究所、哈佛大學(xué)貝爾弗中心的網(wǎng)絡(luò)項(xiàng)目、國(guó)務(wù)院工作，并擔(dān)任管理顧問(wèn)。她擁有杜克大學(xué)的公共政策學(xué)士學(xué)位。

Isaac Cui是斯坦福大學(xué)法學(xué)院的法學(xué)博士一年級(jí)學(xué)生，是RegLab的成員，也是斯坦福大學(xué)的Knight-Hennessy學(xué)者。他在波莫納學(xué)院獲得了物理學(xué)和政治學(xué)學(xué)士學(xué)位，并在倫敦政治經(jīng)濟(jì)學(xué)院獲得了應(yīng)用社會(huì)數(shù)據(jù)科學(xué)碩士學(xué)位和監(jiān)管碩士學(xué)位，在那里他是馬歇爾學(xué)者。

Daniel E. Ho是斯坦福大學(xué)William Benjamin Scott和Luna M. Scott的法學(xué)教授、政治學(xué)教授和斯坦福經(jīng)濟(jì)政策研究所的高級(jí)研究員。他是國(guó)家人工智能咨詢委員會(huì)（NAIAC）的指定成員，斯坦福大學(xué)以人為本人工智能研究所（HAI）的副主任，行為科學(xué)高級(jí)研究中心的教師研究員，以及監(jiān)管實(shí)驗(yàn)室的主任。他在耶魯大學(xué)法學(xué)院獲得法學(xué)博士學(xué)位，在哈佛大學(xué)獲得博士學(xué)位。