Gartner法律與合規實踐部門高級主管分析師Ron Friedmann表示，“ChatGPT和其他大型語言模型(LLM)工具生成的輸出容易存在一些風險。法律和合規領導者應該評估這些問題是否對企業構成重大風險，以及在企業內部及其擴展的第三方企業中需要采取哪些控制措施。如果不這樣做，企業可能會面臨法律、聲譽和財務方面的后果。”

法律和合規負責人應該評估的六個ChatGPT風險包括：

1、捏造的和不準確的答案

也許ChatGPT和其他LLM工具最常見的問題是傾向于提供不正確的信息(盡管表面上看似合理)。

Friedmann稱，“ChatGPT也容易產生‘幻覺’，包括捏造錯誤的答案，以及不存在的法律或科學引用。法律和合規領導者應該發布指導，要求員工在接受ChatGPT生成的任何輸出之前，審查其準確性、適當性和有效性。”

2、數據隱私及保密

法律和合規負責人應該意識到，如果聊天歷史沒有被禁用，輸入ChatGPT的任何信息都可能成為其訓練數據集的一部分。

Friedmann解釋稱，“在提示中使用的敏感、專有或機密信息都可能會被納入企業外用戶的回復中。法律和合規部門需要為ChatGPT的使用建立一個合規框架，并明確禁止將敏感的企業或個人數據輸入公共LLM工具。”

3、模型和輸出偏見

盡管OpenAI努力減少ChatGPT中的偏見和歧視，但已知的這些問題已經發生，并且可能會持續存在，盡管OpenAI和其他企業正在積極努力地將這些風險降到最低。

Friedmann認為，“完全消除偏見幾乎是不可能的，法律和合規需要凌駕于管理人工智能偏見的法律之上，并確保他們的指導是合規的。這可能涉及與主題專家合作，以確保輸出的可靠性，并與審計和技術部門合作，以設置數據質量控制。”

4、知識產權(IP)和版權風險

考慮到ChatGPT是在大量的互聯網數據上訓練的，這些數據可能包括受版權保護的信息。因此，它的輸出有可能違反版權或知識產權保護法案。

Friedmann稱，“ChatGPT不提供源代碼參考或解釋其輸出是如何生成的。法律和合規負責人應該密切關注適用于ChatGPT輸出的版權法的任何變化，并要求用戶仔細檢查他們生成的任何輸出，以確保它不侵犯版權或知識產權。”

5、網絡欺詐風險

惡意行為者已經在大規模地濫用ChatGPT來生成虛假信息，例如，虛假評論。

此外，使用LLM模型的應用程序，包括ChatGPT，也容易受到提示注入的影響，這是一種黑客技術，使用惡意的對抗性提示來欺騙模型執行它不打算執行的任務，例如編寫惡意軟件代碼或開發假冒知名網站的網絡釣魚網站。

Friedmann補充道，“法律和合規負責人應與網絡風險所有者協調，探討是否或何時就這一問題向公司網絡安全人員發出備忘錄。他們還應該對盡職調查來源進行審計，以核實其信息的質量。”

6、消費者保護風險

未能向消費者披露ChatGPT使用情況的企業(例如，以客戶支持聊天機器人的形式)可能面臨失去客戶信任的風險，并在不同法律下被指控為“不公平”的做法。

例如，加州的聊天機器人法規定，在某些消費者互動中，企業必須清楚而明顯地披露消費者正在與機器人進行交流。

Friedmann總結道，“法律和合規負責人需要確保他們企業的ChatGPT使用符合所有相關法規和法律，并向客戶進行適當的披露。”