AI可能帶來的潛在風險是真實存在的，它們可能會擾亂運營，造成破壞和高昂的成本，然而，最大的風險莫過于在企業中不積極應用AI而導致的顛覆性風險。

讓我們先仔細看看這些風險。

新的網絡安全風險

AI為黑客提供了新的復雜工具，特別是隨著新的開源AI技術的發展。我們看到越來越多的網絡犯罪分子，尤其是外國惡意行為者，利用AI生成高效的網絡釣魚活動和網絡攻擊。自OpenAI在2022年11月發布ChatGPT以來，釣魚郵件數量增加了1265%。

最大的挑戰之一是深度偽造。黑客可以使用AI冒充任何人，包括CEO和決策者。比如，有一名香港的金融工作人員被深度偽造所欺騙，支付了2500萬美元，這名工作人員收到了一封據稱是首席財務官發來的郵件，要求釋放資金，盡管有些懷疑，但當他加入了一個顯示首席財務官及其同事的Zoom會議時，這名工作人員就不再懷疑了。實際上，這次Zoom會議上除了這名工作人員，其他人都是AI生成的深度偽造。

我們正在進入一場AI軍備競賽，我們需要AI驅動的解決方案來保護我們免受使用AI的黑客的攻擊。確保你的安全供應商使用最新的AI技術，并讓你的管理團隊了解AI帶來的潛在威脅。

AI對公司聲譽的風險

如果AI沒有正確實施和監控，會對公司的聲譽造成風險。

以加拿大航空公司為例，由于AI驅動的客戶服務出現故障，他們的聲譽受到了損害。一位乘客因參加家人葬禮未能申請喪葬優惠票，事后向加拿大航空公司要求退還差價，AI驅動的聊天機器人回復說“沒問題”，但問題是，加拿大航空公司的政策明確規定，折扣必須在旅行前申請。加拿大航空公司選擇在法庭上爭論此事，而不是提供乘客要求的小額折扣，結果損害了公司的聲譽。

在部署AI工具時要小心，并勤奮監控它們的表現。更重要的是，在處理與AI相關的問題時，要考慮對聲譽的影響。

AI可能帶來的法律風險

像任何技術一樣，AI也并不完美，而這些缺陷可能導致法律問題。

例如，金融科技公司Hello Digit原本應該幫助客戶儲蓄并保證不透支。由于AI算法出錯，導致公司從客戶的利息和透支費用中扣取了一部分，這也導致了消費者金融保護局(CFPB)對Hello Digit采取了行動，Hello Digit可能需要在法庭上為其AI解決方案進行辯護。

AI能夠實現一些非常出色的功能，但僅僅因為AI可以做到并不意味著它是合法的。例如，Facebook(現為Meta)的AI面部識別技術可以識別照片中的人，這聽起來完全無害——這是一張你和朋友拍的照片——但實際上違反了伊利諾伊州的生物識別隱私法，這個和解案使Facebook付出了6.5億美元的代價。

AI可能帶來的運營風險

使用AI的自動化運營流程需要管理監督和對人類行為的考慮。

2021年，Zillow的股價暴跌，主要原因是他們依賴于一個錯誤的AI算法來預測房價，Zillow根據這些預測購買房屋。AI可以成為預測分析的強大工具，但即使是AI也只能基于歷史信息做出預測。諸如新冠疫情大流行這樣的事件必然會扭曲預測分析，這對Zillow產生了不利影響。

任何運營變化也必須考慮到人類因素，人們必須接受新的AI流程。例如，UPS開發了ORION，一個AI驅動的平臺，用于規劃包裹和卡車的路線，但為了讓Orion發揮作用，UPS必須說服員工適應新的系統。一開始，員工不喜歡適應，花了些時間讓員工使用新的AI驅動程序，最終，Orion降低了燃料和維護成本，并使司機能夠進行更多的投遞，然而，ORION幾乎失敗，因為員工并不真正想要它。

顛覆風險

最大的風險是當你的競爭對手積極采用AI時，你卻沒有。

根據IBM的數據，42%的企業規模組織已經部署了AI，40%正在探索AI采用模式，其中59%加速了AI投資。

AI已經顯著影響了銷售和營銷、產品開發、服務運營和供應鏈管理，未能利用AI創造競爭優勢的公司面臨落后的風險。

AI機會提供競爭優勢

要利用AI獲得最佳競爭優勢，企業必須確定AI在哪些方面可以帶來最大的回報。

麥肯錫的研究顯示，GenAI的用例通常分為四個領域：客戶關系、銷售和營銷、軟件工程以及研究和開發。

以下是AI為企業帶來的最有前景的機會領域：

銷售和營銷——AI通過增強客戶互動來改進營銷和增加銷售。例如，凱捷使用一個AI平臺來跟蹤銷售漏斗中的買家意圖，將合格潛在客戶的數量增加了五倍。星巴克使用AI分析客戶數據，以定制優惠并應用動態定價，來提高客戶忠誠度和平均訂單價值。

產品開發——AI在預測客戶需求和行為方面非常有價值，使其成為產品開發的理想工具。Stitch Fix 使用 AI 為客戶策劃個性化服裝，分析偏好、時尚趨勢、反饋和其他因素，以定制服裝并影響庫存決策。

服務運營——AI可以促進客戶服務。例如，聯合利華的AI系統將客戶服務響應時間減少了90%。公司還使用AI進行預測分析，用于計劃維護等應用。例如，GE航空公司將計劃外停機時間減少了50%，并節省了10億美元的維護成本。

供應鏈管理——正如UPS的例子所示，AI可以優化運輸和物流。馬士基使用AI進行實時貨物跟蹤，在出現延誤時方便通知客戶。巴西的Delly’s Food Service使用AI進行動態定價優化，通過管理不斷變化的市場價格，將其毛利率提高了1.1%(在低利潤業務中這是一個巨大的數額)。

任何希望在當今市場競爭的企業都將采用AI，但高層管理人員必須保持警惕。雖然AI存在需要管理的風險，但AI可以帶來巨大的好處，使任何公司在與更大的競爭對手競爭中獲得競爭優勢。