AI繼續(xù)成為技術(shù)聚光燈下的焦點(diǎn)，隨著我們進(jìn)入2023年最后一個(gè)季度，國(guó)際社會(huì)對(duì)利用AI的力量產(chǎn)生了廣泛的興趣，這是正確的，但在興奮和期待的同時(shí)，世界各國(guó)政府也發(fā)出了一些適當(dāng)?shù)木妫瑩?dān)心AI的所有前景和潛力都有陰暗面：它可以容易地被壞人用作惡意目的。

因此，2023年10月30日，美國(guó)總統(tǒng)喬·拜登發(fā)布了《關(guān)于安全、可靠和值得信賴的AI開(kāi)發(fā)和使用的行政命令》，同時(shí)七國(guó)集團(tuán)領(lǐng)導(dǎo)人發(fā)表了一份聯(lián)合聲明，支持2023年5月的《廣島進(jìn)程國(guó)際行為準(zhǔn)則——開(kāi)發(fā)先進(jìn)AI系統(tǒng)的組織》。美國(guó)的行政命令還提到了預(yù)計(jì)將于11月舉行的英國(guó)AI安全峰會(huì)，屆時(shí)世界各國(guó)領(lǐng)導(dǎo)人、科技公司和AI專(zhuān)家將齊聚一堂，“促進(jìn)關(guān)于AI的關(guān)鍵對(duì)話”。

了解AI將如何影響CISO的角色是關(guān)鍵

在國(guó)際社會(huì)試圖為許多人眼中的混亂帶來(lái)秩序的嘈雜聲音中，重要的是要了解AI和ML將如何影響他們的角色及其挫敗、檢測(cè)和補(bǔ)救威脅的能力。了解新政策的動(dòng)向?qū)τ诤饬繎?yīng)對(duì)威脅的責(zé)任在哪里至關(guān)重要，并提供對(duì)這些政府機(jī)構(gòu)認(rèn)為的前進(jìn)道路的洞察。

CISO將得到很好的服務(wù)，以確保他們能夠了解各種工作組和咨詢委員會(huì)(例如，AISSB)，因?yàn)樗麄冎С制鋵?shí)體的發(fā)展和采用AI/ML工具。此外，鑒于全球倡議的流動(dòng)性，跨國(guó)界缺乏協(xié)調(diào)是一個(gè)現(xiàn)實(shí)問(wèn)題，如果指導(dǎo)方針和條例在區(qū)域內(nèi)或國(guó)家不同，可能會(huì)導(dǎo)致下游的遵約問(wèn)題。

美國(guó)關(guān)于AI的行政命令

美國(guó)的這項(xiàng)行政命令建立在白宮之前參與AI的基礎(chǔ)上，并為行業(yè)和政府提供了指導(dǎo)方針。那些擁有國(guó)家安全足跡的實(shí)體應(yīng)該特別關(guān)注AI技術(shù)的兩用可能性。這項(xiàng)行政命令指出了七個(gè)重要領(lǐng)域：

• 確保安全保障。
• 保護(hù)隱私。
• 推進(jìn)公平和公民權(quán)利。
• 為消費(fèi)者和工人挺身而出。
• 促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)。
• 提升領(lǐng)導(dǎo)力。
• 確保負(fù)責(zé)任和有效地使用AI。

站在AI監(jiān)管第一線的政府機(jī)構(gòu)

美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)面臨著一項(xiàng)艱巨的任務(wù)，它在社交媒體上將其描述為“機(jī)會(huì)”：“AI提供了巨大的機(jī)會(huì)，但我們也必須管理風(fēng)險(xiǎn)。[行政命令]指示NIST制定指導(dǎo)方針和最佳實(shí)踐，以促進(jìn)達(dá)成共識(shí)的行業(yè)標(biāo)準(zhǔn)，幫助確保安全、可靠和值得信賴的AI的開(kāi)發(fā)和部署。”

與此同時(shí)，白宮國(guó)家網(wǎng)絡(luò)總監(jiān)辦公室在社交媒體上準(zhǔn)確地描述了它對(duì)行政命令的理解：“今天的EO為AI安全和保障、保護(hù)美國(guó)人的隱私、促進(jìn)公平和公民權(quán)利建立了新的標(biāo)準(zhǔn)-它維護(hù)消費(fèi)者和工人，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)。”

美國(guó)國(guó)土安全部發(fā)布了自己的情況說(shuō)明書(shū)，解釋了行政命令及其職責(zé)，重點(diǎn)強(qiáng)調(diào)了關(guān)鍵領(lǐng)域：

• 成立AI安全與安保咨詢委員會(huì)(AISSB)，以“支持AI負(fù)責(zé)任的發(fā)展。該委員會(huì)將匯集來(lái)自AI硬件和軟件公司、領(lǐng)先研究實(shí)驗(yàn)室、關(guān)鍵基礎(chǔ)設(shè)施實(shí)體和美國(guó)政府的杰出行業(yè)專(zhuān)家。”
• 努力制定AI安全和安保指南，供關(guān)鍵基礎(chǔ)設(shè)施所有者和運(yùn)營(yíng)商使用。
• 利用AI的潛力來(lái)改善美國(guó)的網(wǎng)絡(luò)防御，強(qiáng)調(diào)中國(guó)國(guó)際安全局如何積極地“利用AI和ML工具進(jìn)行威脅檢測(cè)、預(yù)防和漏洞評(píng)估”。

另外，網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局在其自己的社交媒體帖子中強(qiáng)調(diào)，它將“評(píng)估與使用AI相關(guān)的潛在風(fēng)險(xiǎn)，為關(guān)鍵基礎(chǔ)設(shè)施部門(mén)提供指導(dǎo)，利用AI的潛力來(lái)改善美國(guó)的網(wǎng)絡(luò)防御，并為紅隊(duì)GenAI提供建議。”

評(píng)估AI對(duì)知識(shí)產(chǎn)權(quán)的威脅

對(duì)知識(shí)產(chǎn)權(quán)的威脅不是假設(shè)的，在行政命令中處于首要位置。為了加強(qiáng)對(duì)AI相關(guān)知識(shí)產(chǎn)權(quán)的保護(hù)，國(guó)土安全部將通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)協(xié)調(diào)中心創(chuàng)建一個(gè)項(xiàng)目，幫助AI開(kāi)發(fā)人員利用國(guó)土安全調(diào)查、執(zhí)法和行業(yè)合作伙伴關(guān)系來(lái)緩解與AI相關(guān)的風(fēng)險(xiǎn)。

以IBM為代表的工業(yè)界也發(fā)出了這樣的警告：“解決潛在AI安全問(wèn)題的最佳方式是通過(guò)開(kāi)放創(chuàng)新。一個(gè)強(qiáng)大的開(kāi)源生態(tài)系統(tǒng)，擁有包括創(chuàng)建者、開(kāi)發(fā)者和學(xué)者在內(nèi)的不同聲音，將有助于迅速推進(jìn)AI安全科學(xué)，促進(jìn)市場(chǎng)競(jìng)爭(zhēng)。”

ChatGPT進(jìn)入消費(fèi)者手中已經(jīng)一年了，而過(guò)去的12個(gè)月完全是旋風(fēng)式的采用。CISO必須像以前建議的那樣，提出尖銳的問(wèn)題，并要求支持在其產(chǎn)品中包含AI/ML的提供商提供來(lái)源和可證明的測(cè)試結(jié)果。雖然全球政府的倡議指向了正確的方向，但很明顯，最終的責(zé)任將落在CISO的肩上，以確定他們的實(shí)踐是否在正確的軌道上。