人工智能的影響幾乎波及了商業世界的方方面面，金融業也不例外。預計金融部門的組織將經歷人工智能變革力量的巨大變化。華爾街被視為全球金融和經濟中心，長期以來一直依賴傳統技術，但現在對人工智能技術，特別是生成式人工智能(GenAI)產生了濃厚的興趣。

盡管華爾街在人工智能研究、開發和專利方面投入了數十億美元，但它們可能在沒有足夠安全保障的情況下取得進展。美國消費者監督機構最近的一項調查表明，華爾街的人工智能可能會導致算法復雜、缺乏透明度、有偏見或虛假信息，這可能導致下一次金融危機。

消費者監督機構的調查包括分析美國專利商標局(USPTO)的人工智能相關專利申請。華爾街的銀行正在為各種應用申請專利和商標。高盛(Goldman Sachs)、摩根大通(JPMorgan Chase)和摩根士丹利(Morgan Stanley)正在尋求人工智能來分析證券、投資、預測股價和投資組合。

華爾街幾乎每家銀行都在開發自己版本的ChatGPT，為客戶和員工提供金融建議。這是令人擔憂的，因為“人工智能幻覺”的風險是使用GenAI的最大威脅之一，因為它可能導致有偏見或誤導性的產出，這在金融領域可能會帶來災難。

“如果沒有適當的監管，下一次金融危機可能將是由人工智能引起的。”消費者監督組織(Consumer Watchdog)的科技倡導者Justin Kloczko說，“由于少數幾家強大的銀行依賴于一些有偏見的算法，房地產或股市可能會引發衰退。”

根據消費者監督機構的說法，使用人工智能可以創造復雜的新金融衍生品，讓投資者可以用數十億美元的垃圾債券進行賭博。這可能導致像2008年金融危機那樣嚴重的經濟崩潰。

南加州大學研究人工智能的金融學教授Gerard Hoberg在接受消費者監督組織采訪時表示:“這些公司使用自動化越多，并且開始在更大的市場上使用自動化時，那么就會出現一些系統性風險。”

消費者監督組織在報告中呼吁美國州政府和聯邦政府加強監管，建議進行更復雜的監控和定期審計，以防范系統性風險和“羊群效應”（“羊群效應”指的是一種系統性偏見，即投資者傾向于追隨和復制其他投資者的行為）。

該報告還建議人工智能投資系統遵守與人類投資顧問相同的標準，并要求對人工智能投資算法的黑匣子數據進行外部審查。

消費者監督機構的報告強調了加州政府為解決這一問題所做的努力。加州隱私保護局(CPPA)制定的規則草案允許人們選擇不使用人工智能自動化技術進行任何財務決策。加州政府制定的規則提供了針對人工智能風險和偏見的保護，并為其他州提供了一個效仿的榜樣。

自2020年以來，美國專利商標局的人工智能相關專利申請激增，申請數量超過8萬件。有趣的是，超過90%的人工智能專利申請僅由五家投資銀行提交，它們還控制著一半人工智能投資交易和三分之二以上的研究論文。如果監管機構不采取行動，當華爾街的頂級銀行決定使用有偏見或不可靠的人工智能模型，全球經濟可能遭受下一次金融危機。