大模型正在從技術變革走向產業變革。無數的AI原生應用，正在重新定義我們與數字世界乃至物理世界的交互方式。作為產業端落地的重要行業之一，大模型在金融領域，也正在創造越來越多的增量值。大模型在金融行業的入口主要體現在以下幾個方面：

? 金融風險管理：大模型技術可以用于構建更準確、更全面的風險模型，幫助金融機構評估和管理市場風險、信用風險、操作風險等，提供更精確的風險預測和決策支持。
? 量化交易：大模型技術可以應用于量化交易策略的開發和執行，通過分析海量的金融數據和市場信息，識別出潛在的交易機會和趨勢，自動執行交易策略并進行實時調整。
? 個性化投資建議：大模型技術可以根據個體投資者的偏好和風險承受能力，生成個性化的投資建議和組合配置，輔助投資者做出更明智的決策。
? 金融欺詐檢測和預防：大模型技術可以應用于金融欺詐檢測和預防，通過分析用戶的交易數據、行為模式和歷史記錄，識別出潛在的欺詐行為和異常交易，提高金融機構對欺詐風險的識別和應對能力。
? 智能客戶服務：大模型技術可以用于構建智能客戶服務系統，通過提供流暢的人機對話服務，提升客戶滿意度和忠誠度。
? 智能投顧與個性化理財：AI智能體被認為是未來的發展方向，可以應用于智能投顧與個性化理財、智能風控與反欺詐、智能催收與語音機器人等多個領域。

? 智能核保和理賠：在保險行業，大模型技術可以用于智能核保和理賠，提高效率和準確性。

? 智能支付和交易：在支付領域，AI技術讓支付體驗變得更加智能化，如支付寶和微信支付推出的智能卡功能，以及Google Pay運用機器學習技術提供個性化支付建議。

? 后臺管理：大模型在金融企業運營的后臺管理中也有應用，如智能招聘系統和智能培訓系統，提高了招聘的準確性和培訓的質量。

這些應用場景展示了大模型技術在金融行業的廣泛潛力和影響力，它們不僅改進了現有的操作流程，還開辟了新的可能性，幫助金融機構在市場競爭中取得先機。

Tips1 研發框架

建設統一的AIGC應用研發框架，為上層應用場景提供統一的大模型研發基礎能力。研發框架面向大模型端，實現對各類MaaS服務的能力進行適配包裝，以實現一次研發，多端適配；在面向應用場景端，則提供統一的標準化API能力，包含會話等，降低應用場景研發的復雜度

某保險公司的Maas架構

Tips2 金融類GPT的Prompt

利用LLM對新聞的自動處理

LLM擁有強大的數據整合與分析能力，可以幫助基本面投資者進行定量分析

Tips3 RAG思維導圖

提升方案

數據預處理,數據添加標簽過濾
意圖識別 (semantic-router)
提示詞優化
知識圖譜（大幅提高準確率場景)
多重召回 如 BM25 ,ES結合提升召回率，ReRank 重排
知識圖譜
Query Expansion(創建類似的問題盡可能召回更多數據）
Q&A
使用LangChain&LlamaIndex框架(LangServe,LangSmith)

Tips4 隱私安全

金融行業充滿了敏感信息和潛在的風險，保護用戶隱私成為了至關重要的考慮因素。

傳統安全能力主要考察模型在財產隱私、違法犯罪、偏見歧視、社會和諧等方面的安全能力。
在傳統安全的測評中，Claude2遙遙領先取得了最高分83.00，高出第二名15分。
Claude2的良好表現可能與Anthropic對AI安全的重視密不可分，Anthropic 的首要目標是通過創建一個“有用、無害、誠實”的大語言模型，并配備精心設計的安全防護措施，來避免安全問題。排在第二名的是文心一言4.0（API）取得68分。緊隨其后是智譜清言和Yi-34B-Chat，均超過了65分。在安全能力上的測評上，GPT系列依然呈現出不穩定的情況，超過GPT3.5的國內模型有14個。GPT4(API)不盡如人意，可能與國內外安全范圍及OpenAI安全策有關。

總體來看，在傳統安全測評中國內大模型的表現不俗，是當下國內大模型比較重視的一個方向，同樣我們看到Claude2即使在中文場景下依然展現出很高的安全水準，值得國內大模型進一步分析。

示例:基于LLM的關鍵詞抽取

Tips5 AI Agent智能體

金融領域 Agent的應用場景

Agent 場景
信貨、財富管理、信貸、投研、
個性化：個性化教研、個性化財富管理服務、個性化催收
數據分析 BI
Agent 類型
創造與生成類助手 (API,AutoGPT)
企業知識助手 （RAG）
數據分析助手（N2SQL ,Code Interpreter）
應用&工具助手（LangChain agent tools,Open AI Assistant API）
AI 自動化流程（RPA,Zapier,Flowise)

Tips6 模型微調

優秀開源大模型訓練微調框架，支持全參，部分參數和Lora 等調優。下圖展示使用LLaMA-Factory 和使用官方ChatGLM P-Tuning的調優性能對比。

LLaMA-Factory允許用戶在瀏覽器中直接進行模型的訓練、評估和推理，無需復雜的命令行操作并預集成了多種流行的大型語言模型，包括LLaMA、BLOOM、Mistral、Baichuan、Qwen和ChatGLM。

本文轉載自公眾號數字化助推器  作者：天涯咫尺TGH

原文鏈接：??https://mp.weixin.qq.com/s/jXbEJhIHq87jQso3Eoc5Uw??