關于人工智能治理的討論往往含糊不清，令人沮喪。組織談論人工智能倫理和監管合規性，但在實際實施方面，許多組織都因不確定性而癱瘓。就目前而言，治理往往是一項高層公司指令，而不是一項具體可行的計劃。

人工智能治理不是一個通用的、一刀切的框架，而是一種特定于模型的戰略，一種確保運營層面的透明度、問責制和公平性的戰略！

數字化轉型公司Blackstraw.ai的首席收入官Guy Reams表示，治理不能仍然是一個抽象的原則。相反，它必須在模型級別深入嵌入人工智能系統，考慮從數據沿襲到偏差檢測再到特定領域風險的所有因素。如果沒有這種轉變，治理將成為一種表面文章，對防止人工智能失敗或監管處罰幾乎沒有作用。

為了探索這種思維轉變，我們應該坐下來討論為什么人工智能治理必須發展，以及企業現在應該做些什么來領先于潮流。

為什么公司不能等待監管

人工智能治理中的一個常見誤解是，監管機構將制定規則，減輕企業的責任負擔。美國前總統拜登關于人工智能的行政命令（已被特朗普政府廢除）以及歐盟的《人工智能法案》制定了廣泛的指導方針，但這些政策將始終落后于技術創新。人工智能的快速發展，特別是自2022年ChatGPT出現以來，只會擴大這一差距。

Reams警告說，那些希望人工智能法規提供完全清晰或免除責任的公司正在為自己的失敗做準備。

他說：“（治理）最終是他們的責任。”“制定行政命令或特定法規的危險在于，它通常會使人們的想法偏離他們的責任，并將責任歸咎于法規或治理機構。”

換句話說，僅靠監管并不能使人工智能安全或符合道德規范。公司必須擁有所有權。雖然Reams承認需要一些監管壓力，但他認為治理應該是一項全行業的合作努力，而不是一項僵化的、一刀切的任務。

他解釋說：“我認為，個人授權會產生一個潛在的問題，人們會認為問題已經解決，但事實并非如此。”

企業必須主動建立自己的人工智能治理框架，而不是等待監管機構采取行動。不作為的風險不僅在于監管，還在于運營、財務和戰略。如今忽視人工智能治理的企業將發現自己無法有效地擴展人工智能，容易受到合規風險的影響，并有失去利益相關者信譽的風險。

特定模型人工智能治理是當務之急

許多人工智能治理策略的最大缺陷是它們往往過于抽象，無法落地。當人工智能系統大規模部署時，廣泛的道德準則和監管復選框并不容易轉化為真正的問責制。治理必須嵌入模型級別，塑造人工智能在整個組織中的構建、訓練和實施方式。

Reams認為，有效的人工智能治理的第一步是建立一個跨職能的治理委員會。人工智能監管往往由法律和合規團隊主導，導致政策過于謹慎，扼殺了創新。

Reams回憶道：“我最近看到一項政策，一家企業決定在整個企業范圍內禁止使用所有第三方人工智能，使用人工智能的唯一方法就是使用他們自己的內部人工智能工具。”“所以，你可以用他們創建的聊天機器人進行自然語言處理，但你不能使用ChatGPT或Anthropic或任何其他工具。”

Reams表示，治理不應僅限于少數人的全面限制，還應包括法律、IT安全、商業領袖、數據科學家和數據治理團隊的意見，以確保人工智能政策既具有風險意識又實用。

透明度是特定模型治理的另一個關鍵支柱。谷歌率先提出了模型卡的概念，模型卡是機器學習模型提供的簡短文檔，可以提供模型訓練的背景、可能存在的偏差以及更新的頻率。Reams認為這是所有企業都應該采用的最佳實踐，以揭示黑匣子。

Reams說：“這樣，當有人使用人工智能時，他們會彈出一張非常開放、透明的模型卡，告訴他們問題的答案是基于這個模型的，這就是它的準確性，這是我們最后一次修改這個模型。”。

數據沿襲在對抗不透明人工智能系統的透明度支柱中也發揮著關鍵作用。Reams說：“我認為有一種黑箱思維，也就是說，我問一個問題，然后（模型）就會想出來，給我一個答案。”“我認為我們不應該使最終用戶認為他們可以信任黑匣子。”

人工智能系統必須能夠將其輸出追溯到特定的數據源，確保遵守隱私法，促進問責制，并降低產生幻覺的風險。

偏差檢測是治理透明度的另一個關鍵組成部分，有助于確保模型不會因訓練數據不平衡而無意中偏向某些觀點。Reams表示，人工智能中的偏見并不總是我們與社會歧視聯系在一起的公開類型，它可能是一個更微妙的問題，即模型根據其訓練的有限數據扭曲結果。為了解決這個問題，公司可以使用偏見檢測引擎，這是一種第三方工具，可以根據訓練數據集分析人工智能輸出，以識別無意偏見的模式。

Reams指出：“當然，你必須信任第三方工具，但這就是為什么作為一家公司，你需要齊心協力，因為你需要開始思考這些事情，并開始評估和找出適合你的方法。”他指出，公司必須主動評估哪種偏見緩解方法符合其行業特定的需求。

人為監督仍然是關鍵的保障措施。人工智能驅動的決策正在加速，但讓人參與進來可以確保問責制。在欺詐檢測或招聘決策等高風險領域，人工審核人員必須在采取行動之前驗證人工智能生成的見解。

Reams認為，這是對人工智能局限性的必要檢查：“當我們開發框架時，確保決策可由人類審查，這樣人類就可以參與決策的循環，我們可以利用這些人類決策來進一步訓練人工智能模型。讓人類參與循環時，模型可以進一步增強和改進，因為人類可以評估和審查正在做出的決策。”

人工智能治理作為競爭優勢

人工智能治理不僅關乎合規性，還可以作為一種業務彈性戰略，定義公司在保持信任和避免法律陷阱的同時負責任地擴展人工智能的能力。Reams表示，忽視治理的組織正在錯失機會，隨著人工智能的不斷進步，可能會失去競爭優勢。

他說：“將會發生的是，人工智能將變得越來越大，越來越復雜。如果你不掌握治理，那么你就不會在需要的時候準備好實施這一點，而且你也沒有辦法處理它。如果你還沒有完成這項工作，那么當人工智能真正發展壯大時，它甚至還沒有開始，你將毫無準備。”。

在模型層面嵌入治理的公司將能夠更好地負責任地擴展人工智能運營，減少監管風險，并建立利益相關者的信心。但治理并不是在真空中發生的，保持這種競爭優勢還需要對人工智能供應商的信任。大多數組織依賴人工智能供應商和外部供應商提供工具和基礎設施，這使得整個人工智能供應鏈的透明度和問責制變得至關重要。

Reams強調，人工智能供應商可以發揮至關重要的作用，特別是在上述透明度支柱方面，如模型卡、訓練數據源的披露和偏見緩解策略。公司在部署供應商提供的人工智能模型之前，應建立供應商問責措施，如持續的偏見檢測評估。雖然治理始于內部，但它必須擴展到更廣泛的人工智能生態系統，以確保可持續和合乎道德的人工智能采用。

以這種整體思維進行人工智能治理的組織不僅會保護自己免受風險，還會將自己定位為負責任的人工智能實施的領導者。企業必須將治理從合規復選框轉變為深度集成、特定于模型的實踐。

現在不采取行動的公司將難以負責任地擴展人工智能，當人工智能的采用從實驗階段轉變為運營需要時，將處于戰略劣勢。在這種新范式中，人工智能治理的未來將不是由監管機構定義的，而是由在制定實用的模型級治理框架方面發揮領導作用的組織塑造的。