AI的風險已不再是一個次要問題，它已成為核心主線。

有何回報?更快的決策、更智能的系統、無限的自動化。

有何難題?盲點之深，連最優模型也難以預測。

然而，在企業競相邁向“AI優先”之際，多數企業仍在沿用為傳真機時代設計的治理模式，這無異于試圖在諾基亞3310手機上觀看Netflix視頻。

在密碼和防火墻主導的世界中誕生的風險模型，無法應對自我修改的智能體或能在句中自行改寫規則的模型。

過去18個月里，我全身心投入解決這一問題，從零開始構建框架，推動行業首創的舉措，如“開放式Web應用程序安全項目(OWASP)自主式AI系統十大風險清單”和“世界經濟論壇(WEF)網絡彈性指南”。這并非副業，也非在貼滿柔和色便簽紙的會議室舒適環境中進行。我所經歷的是混亂的工作坊、緊迫的截止日期以及能熔化鋼鐵的治理辯論。

以下三點經驗，是任何教科書或國際標準化組織(ISO)術語表都無法直接傳授給你的，只有當你努力設計可行的AI風險標準，在不確定中奮力前行時，才能領悟到這些。

1. 戰略需要張力，而非僅求共識

每個人都聲稱追求一致。但過度一致?那只會通往平庸的快車道。

我學到的首要一點是：如果會議桌上的每個人都迅速達成一致，那你可能解決的是錯誤的問題，或者根本什么問題都沒解決。

在AI治理工作的初期，我們面臨工程師專注于模型權重、倫理學家執著于公平性、合規團隊則對尚未出臺的法規感到焦慮的局面。禮貌的做法本應是淡化一切，直到所有人都默默點頭表示同意。

但這樣做的結果，只會是得到一套平淡無奇的治理方案，連阻止一個惡意聊天機器人推薦漂白劑作為排毒方法都做不到。

我們反其道而行之，我們像登山者利用繩索的張力一樣利用分歧，不是為了爭斗，而是為了防止墜落。激烈的辯論并非機能失調，它們是設計工具。

我們沒有追求一個完美且不可動搖的框架，而是構建了腳手架。模塊化原則，能夠隨著能力的演變而擴展。我們嵌入了自主性、反饋循環和突發行為的概念，而不僅僅是靜態控制。

如果你的戰略會議讓人感到舒適，那你就不是在為現實世界做準備，而是在制作宣傳冊。

2. 執行在于邊緣案例

最重大的AI威脅并非邪惡的機器人，而是被誤解的系統。

AI治理圖表在幻燈片中看起來很美，整潔、線性、色彩編碼。

但在實際應用中，模型會游離，它們會學習到一些你未曾教授的內容。

它們會漂移到未經測試的領域。

它們會在后臺模擬場景，然后做出你無法完全追蹤的決策。

我們曾直接遭遇這樣的陷阱。Anthropic公司當時正在試驗一個自我改進的語言模型，該系統能夠持續調整其算法和代碼。

理論上很巧妙，直到你意識到審計跟蹤剛剛自行刪除了，試圖治理一個幽靈。

大多數風險登記冊的問題在于，它們假設系統會“公平競爭”，但自我修改的智能體不會，它們可以繞過你的電子表格。

因此，我們改變了方法。我們構建了意圖感知保護措施，不是嚴格的規則，而是自適應的護欄，能夠根據模型試圖完成的任務進行調整。

我們不僅繪制了架構圖，還繪制了行為圖。

? 當AI說謊時會發生什么?

? 當它進行遞歸調用時會發生什么?

? 當它忽略或拒絕你的指令時會發生什么?

大多數治理框架在這些不尋常且往往被忽視的角落中都會崩潰，這正是你的應對策略需要發揮作用的地方。

3. 與業務共同構建，而非僅為業務構建

沒有什么比在孤立環境中設計治理標準更能迅速扼殺它了。

你不能把自己鎖在房間里，敲出一份90頁的PDF文件，然后期望產品團隊會敬禮服從。真正的采納發生在摩擦存在的地方：在沖刺階段、在工作流程的快捷方式中、在“快速交付”的文化中。

將AI融入業務流程的人往往不會閱讀政策，有些人甚至不知道它們的存在，這就是為什么我們共同創造了一切，工程師、產品負責人，甚至市場營銷人員都參與其中。

我們舉辦了工作坊，讓團隊模擬AI故障。我們對框架進行了紅隊測試，看看它們會在哪里崩潰。我們不再問“這合規嗎?”，而是開始問“在壓力下，只有一半信息時，這會幫助你做出更好的決策嗎?”。

結果如何?一個活生生的應對策略手冊，不是一份在SharePoint上積滿灰塵的治理墓碑，而是直接融入產品和安全生命周期的原則、觸發器和模板。是與業務共同呼吸，而非從遠處監管的東西。

當最接近風險的人幫助塑造護欄時，他們會真正擁有它們。

未來不在于控制，而在于準備

這是許多風險領導者仍不愿聽到的部分：你永遠無法完全控制AI風險。

這些系統變化太快、思考方式太奇特、打破了太多假設，以至于無法永遠被限制，但這并不意味著你無能為力，這意味著你需要一種不同的能力，一種為適應而非統治而構建的能力。

? 如果你從事政策制定，就起草靈活的護欄。

? 如果你從事工程工作，就從第一天開始構建可觀測性。

? 如果你從事審計工作，就尋找信號，而不僅僅是證據。

AI風險治理不是一次性修復，它是一種姿態，一種能力。只有當你使用它時，它才會變得更強。

因此，對你的框架進行壓力測試。破壞你的工具，假設你遺漏了什么，因為你確實遺漏了，并以期望自己會犯錯，但準備好迅速調整的心態進行構建。

最重要的風險

在AI治理中，最危險的做法不是將有缺陷的框架投入生產。

而是假裝你在控制，而實際上你并沒有。

從小事做起，現在就開始，構建腳手架，測試邊緣案例，讓每天與風險共存的人參與進來，并讓你的框架保持活力，因為死去的框架不會保護你。

我已經看夠了，知道：沒有完美的治理模型在前方等待。只有你今天開始構建，并在明天不斷演進的模型。

如果你也在構建，我想聽聽你的想法，帶來你的創意，挑戰我的思考，讓我們在現實世界做出反應之前，先創造出能在現實世界中發揮作用的東西。