2025 年，隨著 AI 技術的快速發展，大模型正在重塑金融行業的服務模式和運營體系。在這一背景下，金融行業迎來了前所未有的機遇，也面臨著風險管控與合規發展的雙重挑戰：如何在大模型應用中平衡創新與風險？如何在強監管環境下確保 AI 技術的合規使用？這些問題已成為金融行業關注的焦點。

9 月 17 日，由火山引擎與 51CTO 聯合舉辦的"金融大模型安全守護月系列直播——云上話 AI 安全”第二期——《大咖真心話：金融大模型避坑指南》直播活動圓滿落幕。

直播聚焦金融大模型安全風險，由火山引擎云安全解決方案負責人林揚主持，特邀平安科技信息安全平臺領域負責人董曉瓊、中銀證券科技風險與安全負責人蔣瓊、某證券公司安全專家李維春、知其安董事長聶君四位專家，展開了一場深入技術深水區的對話與智慧碰撞。

討論中，四位專家就金融行業大模型落地、安全風險與應對、智能體應用風險、話題控制、AI 賦能金融安全及未來發展方向等話題，分享了前沿觀點與實戰經驗，為金融行業提供了可操作的解決方案與發展思路，助力金融機構在探索 AI 應用的同時筑牢安全防線。

金融大模型落地初顯成效，應用助力業務效率提升

當前，大模型正逐步在各行業落地應用，而金融機構對其始終秉持審慎的態度。在圍繞大模型在金融行業落地的討論中，四位專家一致認為，受強監管屬性影響，金融行業的大模型應用推進速度明顯慢于零售、游戲等行業，整體仍處于啟動階段。不過，董曉瓊也強調：“在智能客服、保單審核等場景中，大模型已展現出初步的應用成效。”

蔣瓊進一步補充道："不同企業在大模型應用場景的深度與其數據成熟度密切相關。智能風控是目前金融企業普遍應用的場景，因為它直接擊中了金融行業風險控制的痛點。”同時，她還特別強調了對客場景中的安全要求。她表示，“在對客場景中，我們必須審慎對待，需要重點關注數據鏈路上的風險和責任邊界。”

與其他金融場景相比，雖然大模型能顯著提高審核效率，但董曉瓊提醒道："大模型可以作為輔助工具，最終決策結果仍需人工復核。"

這種審慎的態度體現了金融行業對風險控制的高度重視，也為大模型在金融領域的落地奠定了堅實基礎。

大模型安全風險涌現，防護需體系化與前置化

隨著大模型在金融應用場景中的不斷拓展，其安全風險也呈現出多元化特征。在討論大模型安全風險與應對策略時，四位專家從多維度分析了大模型本身存在的安全威脅，并給出了對應的防護措施。

董曉瓊系統性地指出了四類安全風險：其一，提示詞注入與越權可能誘導模型泄露賬戶信息或違規辦理業務；其二，訓練數據可能被推導，導致金融敏感信息和客戶隱私泄露；其三，模型偏見與歧視可能在信貸審批、保險定價等場景引發公平借貸風險和訴訟；其四，輸出的似真非真的內容也會給金融機構帶來安全風險。

除了深度剖析通用模型存在的風險外，四位專家還就開源模型的安全性問題進行了深入討論。

董曉瓊強調："開源模型存在‘來源不可控、數據泄露風險和行為不可預測’等問題，建議建立完善的治理體系。同時蔣瓊也提及到，投入生產前，應對開源大模型進行沙箱測試和對抗樣本測試。

智能體應用風險凸顯，全鏈路防護成重點

無論是通用模型還是開源模型，其自身的安全風險已然成為行業關注的焦點。而隨著智能體應用的快速發展和在金融業務中的深度融合，其所帶來的新型風險正逐漸演變為金融行業面臨的核心挑戰。

李維春從兩方面拆解了智能體應用帶來的安全風險的原因：一方面，大模型的幻覺和提示詞攻擊給智能體應用帶來了諸多不確定性風險；另一方面，MCP 協議安全性不足引入漏洞問題。

聶君做了進一步補充道，他表示，智能體應用實質上擴大了攻擊面。此外，員工從公開模型市場下載的二次開發模型可能攜帶后門，導致智能體被攻擊者控制，造成嚴重后果。

另外，四位專家一致提到，數據安全風險是智能體應用帶來的新型安全挑戰。用戶在使用過程中可能會將敏感數據輸入大模型，或者從中獲取到其他業務領域敏感信息，這種情況極易導致數據泄露和合規風險。

金融話題精準管控與 AI 反欺詐手段并重

除了技術層面的防護，內容安全管控同樣不可或缺。在金融大模型應用過程中，話題內容的安全控制與 AI 生成內容的真實性鑒別已經成為保障業務安全的重要環節。

董曉瓊在討論中強調：“金融行業的話題控制需要重點關注領域識別和合規識別兩大方面。領域識別需確保內容與銀行服務、投資服務等金融領域相關；合規識別則要涵蓋信貸違規、稅務違規、保險違規等合規檢測，以及金融犯罪、詐騙等違法信息識別，同時還需關注金融價值觀風險。”

同時，她也提出了控制方法：繪制金融領域全業務鏈條上的敏感話題地圖，全面枚舉可能存在的敏感話題。在此基礎上，通過對業務敏感話題進行分類，針對不同業務領域制定特定規則和風險點，實施精準的攔截、修飾或引導策略。此外，建立事后審計能力也至關重要，通過還原處理，為模型優化提供有價值的反饋。

面對 AI 生成內容帶來的"見尾見真"挑戰，李維春表示，目前仍主要依賴專家人工識別，但可以通過將專家經驗轉化為規則和機器學習方法來實現自動化處理。行業也在嘗試用 AI 來檢測 AI 生成的報告、交易憑證和換臉技術，不過目前成果尚不確定。

聶君則通過真實案例向大家分享道：“已經有專業公司開始運用專門的 AI 技術對圖片和文本進行鑒證。同時，中國信通院發起的‘可信人臉應用守護計劃’正在構建人臉識別安全評測實驗室，推動行業建立統一的安全標準和檢測體系。”

AI 賦能安全運營，未來走向審慎繁榮

無論是大模型還是智能體應用，其產生的安全風險不容忽視，但大模型作為一項新技術也為金融安全帶來了新機遇。在探討大模型如何賦能金融安全時，四位專家分別從安全運營、監管合規、數據安全、業務風控四方面分享了自己的真知灼見。

董曉瓊首先從安全運營角度指出：“大模型能夠輔助安全 SOC 實現智能研判與處置，顯著提升運營效率。”聶君進一步補充道：“目前大量的實踐表明，AI 大模型已經可以替代部分安全分析師的工作，有效降低誤報率，提升告警處置能力，從而擴展安全團隊的人力邊界。”

在監管合規方面，李維春詳細闡述了大模型的應用價值。他表示，目前可基于大模型實現從外規到內規的匹配、內規到 Checklist 的轉化、證據與 Checklist 的匹配審核及報告自動生成。此外，他還分享了一項實踐案例：“深圳有兩家金融機構采用大模型結合規則的方法進行數據分類分級，準確率高達 90%，大幅提升了工作效率。”

在討論金融 AI 安全未來發展趨勢時，四位專家一致指出，金融 AI 將呈現"審慎的繁榮"。蔣瓊預測：“監管將出臺更細化、明確的安全合規框架，對訓練數據提出可追溯要求，對輸出內容制定可解釋標準。金融機構需要提前布局，建立符合監管要求的技術體系和治理架構。”

聶君表示：“監管部門將加強對 AI 應用的監督檢查，行業協會制定自律規范，社會公眾通過舉報參與監督，形成多元化的監督機制。這種多方參與的體系將有助于促進行業健康發展。”

結語

隨著監管政策的不斷完善和 AI 技術的持續進步，未來金融行業將迎來大模型應用的快速發展期。行業各方需攜手共進，共同推動金融 AI 的健康可持續發展，為金融行業的數字化轉型提供堅實的安全保障。

正如林揚在總結中提到的："希望金融安全與 AI 能夠同頻發展，實現讓安全更智能、智能更安全的美好愿景。火山引擎將繼續致力于為金融企業提供安全可靠的技術支持，助力行業在數字化轉型道路上行穩致遠。"