精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向

發布于 2024-9-3 11:22
瀏覽
0收藏

我們在探討大模型應用的成敗時,我們往往會聚焦于三個關鍵要素:模型本身的性能、支撐長期記憶能力的知識庫,以及擴展執行能力的工具箱。企業級層面更多因素參考下圖:

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向-AI.x社區

感興趣可以聯系獲取更多細節

就為大模型構建記憶能力來講,過去一年里我們的重點落在向量檢索層面,其存儲底層焦點就是向量數據庫,曾一度爆發向量數據庫大戰。隨著需求的復雜化,我們越來越清楚地意識到,大模型的記憶能力僅僅依賴向量數據庫是不夠的。在今年,隨著GraphRAG的爆火,知識圖譜融合到RAG中變成一個新的熱點,這也反映了在此領域的發展趨勢。

融合"記憶"架構

從筆者來看,不論是向量數據庫,圖數據庫,KV數據庫,以及關系數據庫,他們都各有所長,都可以為大模型提供特有的上下文供給,比如檢索一個問題可以知識圖譜構建骨架,向量數據庫來聯想周邊相似的內容,kv數據庫豐富細節,關系數據庫提供可靠數據支持。它們融合起來,能夠更全面,更準確的召回結果,以便大模型生成更準確的結果。可以預言,向量數據庫、圖數據庫、KV數據庫等多種存儲方式結合,構建出一個多層次的記憶系統,為大模型提供了更全面、更智能的記憶支持,將會成為主流實踐。

最近有一篇論文《HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction》,也用實際的評估結果證明GraphRAG + VectorRAG,即 HybridRAG,從向量數據庫和知識圖譜(KG)中檢索上下文,顯著優于傳統的單一使用 VectorRAG 和 GraphRAG的結果。在信息提取過程中,利用向量數據庫進行廣泛的相似性檢索,同時通過知識圖譜提供結構化的、關系豐富的上下文數據,從而生成更準確、上下文相關的回答。

在論文提到的金融領域的實驗顯示,HybridRAG在檢索準確性和答案生成方面表現出色,尤其在結合了兩種RAG方法后,相比單獨使用任一技術,HybridRAG在信實性(faithfulness)和答案相關性(answer relevance)等關鍵指標上都有顯著提升。以下是論文中三種RAG管道(VectorRAG、GraphRAG、HybridRAG)在不同評估指標上的實驗結果展示:

評估指標

VectorRAG

GraphRAG

HybridRAG

準確性(Faithfulness)

0.94

0.96

0.96

答案相關性(Answer Relevance)

0.91

0.89

0.96

上下文精度(Context Precision)

0.84

0.96

0.79

上下文召回率(Context Recall)

1.0

0.85

1.0

來自:https://arxiv.org/abs/2408.04948

現在,我們已經理解了多種異構存儲對大模型記憶構建的意義,那么在這方面比較有前途的框架支持呢。

Mem0

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向-AI.x社區

Mem0正是這樣一個項目,它通過結合知識圖譜、向量數據庫和鍵值存儲等多種數據存儲方式,為AI提供了一個強大的記憶中間層。這不僅讓AI能夠記住用戶偏好,還能根據個體需求不斷學習和適應。

Mem0的記憶系統不僅僅是數據的簡單存儲和檢索,而是通過智能化的分析和管理,讓大模型的記憶變得更具個性化,Mem0可以即時更新記憶,加入新的信息和交互,在多個會話中保留信息,保持對話連續性,對于長期參與至關重要,如虛擬伴侶或個性化學習助手。,維持上下文的連貫性,具有時效性、相關性和遺忘機制,會優先考慮最近的對話,并逐漸遺忘過時的信息,這能夠確保記憶的準確和及時,以便給出更準確的響應。

官方是這么解釋其工作過程的:

Mem0 采用混合數據庫方法來管理和檢索人工智能代理和助手的長期記憶。每個記憶都與唯一標識符(如用戶 ID 或Agent ID)相關聯,從而使 Mem0 能夠組織和訪問特定于個人或上下文的記憶。當使用 add() 方法將信息添加到 Mem0 時,系統會提取相關事實和偏好,并將其存儲到不同的數據存儲區:向量數據庫、KV數據庫和圖數據庫。當AI Agent或 LLM 需要調用記憶時,就會使用 search() 方法。然后,Mem0 會在這些數據存儲中執行搜索,從每個來源檢索相關信息。然后,這些信息會通過一個評分層,評分層會根據相關性、重要性和再現性來評估這些信息的重要性。檢索到的記憶可以根據需要添加到 LLM 的提示中,從而增強其響應的個性化和相關性。

當一個AI助手或代理與用戶互動時,Mem0會根據交互中的關鍵信息,為用戶建立專屬的記憶空間。通過對用戶的長期行為進行分析,Mem0能夠實時調整和優化大模型的應答,使其更加貼近用戶的個性和需求。

例如,當你告訴AI助手你喜歡在周末打網球時,Mem0不僅會記錄下這條信息,還會通過圖數據庫將這條信息與其他相關記憶(如你平時的運動習慣、喜歡的運動品牌等)關聯起來。未來,當你再與AI互動時,它不僅能記住你喜歡網球,還能根據這些信息提供更為細致和個性化的建議。

下面是mem0使用的基本方法。

pip install mem0ai

import os
from mem0 import Memory

# 假設你已經有了OpenAI API密鑰
os.environ['OPENAI_API_KEY'] = 'sk-proj-V7DGXzoKsCZVKMGSq3otY4ir2ip8vUwpI8ec_nT3BlbkFJAOz9PVs3oe-6Qq8gW0DRBGBOqTmcsfWP4FDkdXymrdTN9kSUXFqmEdrycA'

m = Memory()

def store_practice_memory(user_id, practice_details):
    """
    存儲用戶的網球訓練記憶。
    """
    m.add(practice_details, user_id=user_id, metadata={"category": "tennis_practice"})
    all_memories = m.get_all(user_id=user_id)
    print("memorie0------: ", all_memories[0])
    memory_id = all_memories[0]["id"] # get a memory_id
    return memory_id


def retrieve_practice_memory(user_id, query):
    """
    檢索用戶的網球訓練記憶。
    """
    related_memories = m.search(query=query, user_id=user_id)
    return related_memories

def provide_training_advice(user_id, query):
    """
    提供個性化的網球訓練建議。
    """
    training_history = retrieve_practice_memory(user_id, query)
    
    if training_history:
        response = "基于你之前的訓練,建議你今天專注于提升反手擊球技巧。"
    else:
        response = "歡迎開始你的網球訓練之旅,讓我們從基礎的正手和反手擊球開始吧。"
    
    return response

def update_practice_memory(memory_id, new_details):
    """
    更新用戶的網球訓練記憶。
    """

    m.update(memory_id=memory_id, data=new_details)
    return memory_id

def get_memory_history(user_id, memory_id):
    """
    獲取特定記憶的歷史記錄。
    """
    all_memories = m.get_all(user_id=user_id)
    print(all_memories)
    memory_id = all_memories[0]["id"] # get a memory_id
    history = m.history(memory_id=memory_id)
    return history

def delete_memory(memory_id):
    """
    刪除特定記憶。
    """
    result = m.delete(memory_id=memory_id)
    return result

def delete_all_memory(user_id):
    """
    刪除所有記憶。
    """
    result = m.delete_all(user_id=user_id)
    return result


user_id = "alice"
practice_details = "今天練習了正手擊球,感覺力量控制有所提升。"
memory_id = store_practice_memory(user_id, practice_details)
print(f"memory_id: {memory_id}\n")
#memory_id: 66b96ee0-dab6-4347-bcf6-280845f87983


# 用戶請求訓練建議
query = "正手擊球訓練"
advice = provide_training_advice(user_id, query)
print(f"advice: {advice}\n")
#advice: 基于你之前的訓練,建議你今天專注于提升反手擊球技巧。

# 用戶在某項技能上取得了顯著進步,更新記憶
new_details = "正手擊球技巧已顯著提升,可以開始練習截擊了。"
update_practice_memory(memory_id, new_details)

# 獲取記憶的歷史變化
memory_history = get_memory_history(user_id, memory_id)
print(f"memory_history: {memory_history}\n")

#memory_history: [{'id': '1d1e7ac4-6cd5-431a-b931-b71d4940c30b', 'memory_id': '66b96ee0-dab6-4347-bcf6-280845f87983', 'old_memory': None, 'new_memory': 'Practiced forehand strokes today. Feels that power control has improved.', 'event': 'ADD', 'created_at': '2024-09-01T22:38:57.313817-07:00', 'updated_at': None}, {'id': 'fd36b9a3-4d50-44e8-9997-1d5a1a9f09f4', 'memory_id': '66b96ee0-dab6-4347-bcf6-280845f87983', 'old_memory': 'Practiced forehand strokes today. Feels that power control has improved.', 'new_memory': '正手擊球技巧已顯著提升,可以開始練習截擊了。', 'event': 'UPDATE', 'created_at': '2024-09-01T22:38:57.313817-07:00', 'updated_at': '2024-09-01T22:38:57.752296-07:00'}]

# 刪除記憶
delete_memory(memory_id)
all_memories = m.get_all(user_id)
print(f"all_memories: {all_memories}\n")

#all_memories: []

圖數據庫使用:

  • 構建

from mem0 import Memory

config = {
    "llm": {
        "provider": "openai",
        "config": {
            "model": "gpt-4o-mini",
            "temperature": 0
        }
    },
    "graph_store": {
        "provider": "neo4j",
        "config": {
            "url": URL,
            "username": USERNAME,
            "password": PASSWORD
        }
    },
    "version": "v1.1"
}

m = Memory.from_config(config_dict=config)

user_id = "alice123"
m.add("I like painting", user_id=user_id)
m.add("I love to play badminton", user_id=user_id)
m.add("I hate playing badminton", user_id=user_id)
m.add("My friend name is john and john has a dog named tommy", user_id=user_id)
m.add("My name is alice", user_id=user_id)
m.add("John loves to hike and Harry loves to hike as well", user_id=user_id)
m.add("My friend peter is the spiderman", user_id=user_id)

大模型的“記憶”不應僅僅只依靠向量數據庫,mem0是一個很好的“融合架構”實踐方向-AI.x社區

  • 查詢:

m.get_all(user_id=user_id)
m.search("Who is spiderman?", user_id=user_id)
{'memories': [{'id': '44c054fc-a671-4b51-baee-76f4f73b8135',
   'memory': "Friend named Peter is referred to as 'the spiderman.'",
   'hash': '3990cbff8c4252e1ea3435a9f0eebf3d',
   'metadata': None,
   'score': 0.657225732037368,
   'created_at': '2024-08-27T15:53:17.605817-07:00',
   'updated_at': None,
   'user_id': 'alice123'}],
 'entities': [{'source': 'peter',
   'relation': 'identity',
   'destination': 'spiderman'}]}

在這一過程中,Mem0不僅僅是一個簡單的記憶存儲工具,而是通過對信息的深度處理,成為了一個智能化的“記憶中樞”,幫助大模型在與用戶的每次互動中都能變得更加精準和貼心。

還有一個類似的項目GraphMemory(https://github.com/bradAGI/GraphMemory),感興趣可以查閱。

可以推測,混合的記憶存儲結構會和混合RAG檢索結構一起,成為LLM應用的標準范式。?

本文轉載自 ??AI工程化??,作者: ully

收藏
回復
舉報
回復
相關推薦
天堂√中文最新版在线| 国产偷人妻精品一区二区在线| 欧美巨大xxxx| 欧美日韩在线一区二区| 国产传媒久久久| 欧美日韩视频精品二区| 韩国精品一区二区| 青青青国产精品一区二区| 成人在线视频福利| 色婷婷成人在线| 特级毛片在线| 日本一区二区视频在线观看| 欧美麻豆精品久久久久久| 女人床在线观看| 亚洲欧美日本在线观看| 精品一区二区三区在线播放| 久久久久久网址| 激情高潮到大叫狂喷水| 欧美男男freegayvideosroom| 欧美三级电影网站| 蜜桃传媒一区二区三区| 日本免费在线观看| 91香蕉视频黄| 国产日韩在线一区二区三区| 一级黄色大毛片| 日日夜夜精品视频免费| 午夜精品一区二区三区在线播放| 亚洲怡红院在线观看| 久久综合欧美| 亚洲国产精品久久久久秋霞蜜臀| 在线看免费毛片| a成人v在线| 色诱亚洲精品久久久久久| 日韩中字在线观看| 欧美伦理免费在线| 亚洲色图视频网| 亚洲一区二区三区午夜| 番号在线播放| 久久精品综合网| 久久亚洲免费| 香蕉久久一区二区三区| 国产精品亚洲一区二区三区在线| 成人av色在线观看| 97人妻精品视频一区| 天堂资源在线中文精品| 久久久免费在线观看| 欧美成人精品欧美一| 亚洲精品在线观看91| 综合激情国产一区| 在线观看免费黄色网址| 成人一区而且| 久久九九亚洲综合| 成年人一级黄色片| 中文字幕av亚洲精品一部二部| 日韩在线观看免费网站| 成人无码精品1区2区3区免费看| 国产亚洲第一伦理第一区| 国产午夜一区二区| 影音先锋男人在线| 999国产精品| 精品国产一区二区三区久久| 在线观看黄网址| 午夜免费视频在线国产| 欧美高清视频手机在在线| 亚洲视频专区在线| 中文字幕第4页| 国产欧美日韩在线一区二区| 国产亚洲视频中文字幕视频| 国产精品久久久久久成人| 日韩精品电影| 久青草国产97香蕉在线视频| 91成人福利视频| 黄色日韩精品| 91精品成人久久| 日韩精品一区二区亚洲av| 久久午夜精品一区二区| 国产精自产拍久久久久久| 99视频在线观看免费| 大陆成人av片| 日本免费一区二区三区| 麻豆电影在线播放| 亚洲韩国一区二区三区| 男人天堂1024| 成人精品一区二区三区电影| 日韩视频免费观看高清完整版 | 丝袜综合欧美| 欧美日韩激情网| 激情黄色小视频| 综合成人在线| 亚洲欧美国产高清| 日本免费a视频| 天天免费亚洲黑人免费| 69成人精品免费视频| 日日摸日日碰夜夜爽av| 国产精品第一国产精品| 日韩一级二级三级| 亚欧洲乱码视频| 亚洲视频电影在线| 欧美中文字幕在线视频| 97在线视频人妻无码| av成人免费在线观看| 亚洲午夜高清视频| 嗯啊主人调教在线播放视频 | 国产精品成人免费精品自在线观看 | 亚洲综合成人在线视频| 午夜精品久久久内射近拍高清| 成人自拍视频| 亚洲欧美精品在线| 久久久一二三区| 麻豆精品一二三| 久久伊人一区| 午夜成年人在线免费视频| 在线精品国精品国产尤物884a | 国产白丝精品91爽爽久久| 日本成人黄色免费看| 色噜噜狠狠狠综合欧洲色8| 日本高清不卡在线观看| 69亚洲乱人伦| 在线精品国产| 国产男女猛烈无遮挡91| 日本五码在线| 亚洲成人tv网| 国产精品日日摸夜夜爽| 国产电影一区二区在线观看| 欧美综合在线第二页| 黑人乱码一区二区三区av| 国产精品国产三级国产a| 97在线播放视频| 久久97精品| 欧美精品18videos性欧| 国产精品女人久久久| 亚洲国产精品成人久久综合一区| 成熟了的熟妇毛茸茸| 成人午夜三级| 久久久噜久噜久久综合| www.激情五月| 亚洲欧美电影一区二区| 亚洲黄色av片| 仙踪林久久久久久久999| 国产精品香蕉av| 成人精品一区二区三区免费| 日韩欧美精品免费在线| 国产又粗又猛又色| 宅男噜噜噜66国产日韩在线观看| 国产精品久久久久久久小唯西川 | 国产精品网站入口| yw在线观看| 欧美三级午夜理伦三级中视频| 国产熟妇久久777777| 老色鬼久久亚洲一区二区| 欧美日韩在线不卡一区| 成人天堂yy6080亚洲高清 | 少妇av在线| 欧美α欧美αv大片| 欧美日韩国产精品综合| 国产成人精品三级麻豆| 国产女教师bbwbbwbbw| 91久久精品无嫩草影院| 日韩女优av电影| 农村妇女精品一区二区| 韩国成人在线视频| 国产精品久久国产| 免费精品一区二区三区在线观看| 日韩视频在线免费| www.色播.com| 午夜精品福利一区二区蜜股av | 五月婷婷之综合激情| 欧美一级本道电影免费专区| 国产精品一区二区三区久久久| 欧美激情二区| 日韩精品一区二区三区中文精品| 国产一级在线视频| 久久综合九色综合97婷婷女人| 免费国产成人av| 午夜精品一区二区三区国产| 成人在线观看91| 超碰aⅴ人人做人人爽欧美| 中文字幕久热精品视频在线| 国产女人高潮毛片| 婷婷一区二区三区| 丰满的亚洲女人毛茸茸| 国产伦精品一区二区三区免费迷| 国产一二三在线视频| 九九精品在线| 91美女高潮出水| 日本乱码一区二区三区不卡| 搡老女人一区二区三区视频tv| 国产不卡精品视频| 精品久久久视频| 国产中文字幕久久| caoporn国产一区二区| 国产一线二线三线在线观看| 国精品一区二区三区| 日韩三级电影网站| 成人线上播放| 国产人妖伪娘一区91| 51精品视频| 精品国产一区av| 你懂的在线视频| 日韩一区二区三区观看| 欧美黑人一区二区| 亚洲欧美日韩小说| 91手机在线观看| 日韩三区免费| 97高清免费视频| 四虎影院在线免费播放| 91免费看`日韩一区二区| 91插插插影院| 日韩影院精彩在线| 日韩黄在线观看| wwwwww.色| 在线看片不卡| 无码免费一区二区三区免费播放| eeuss鲁片一区二区三区| 你懂的国产精品| 国产精品久久久久久久久久久久午夜片 | 精品视频国产| 成人亲热视频网站| 欧洲精品一区二区三区| 欧美激情奇米色| 色网站在线看| 亚洲精品中文字| 好吊色一区二区| 欧美一二区视频| 91中文字幕在线播放| 在线观看亚洲专区| 在线能看的av| 同产精品九九九| 亚洲一区欧美在线| 夜夜精品视频一区二区| 成人涩涩小片视频日本| 欧美经典三级视频一区二区三区| 特级西西人体4444xxxx| 成人久久久精品乱码一区二区三区 | 日韩福利在线| 国产一区二区三区电影在线观看 | 视频一区中文字幕| 激情六月丁香婷婷| 国产精品综合| 国产无套内射久久久国产| 国产模特精品视频久久久久| 久久av综合网| 亚洲大片av| 欧美 日韩 亚洲 一区| 亚洲人成在线影院| 人人妻人人添人人爽欧美一区| 在线日韩中文| 久久亚洲中文字幕无码| 亚洲黄色av| 欧美a在线视频| 鲁大师影院一区二区三区| 国产a级一级片| 三级精品在线观看| 蜜桃免费在线视频| 久久国产视频网| 日韩va在线观看| 国产一区美女在线| 国产精久久久久| 99在线精品一区二区三区| 国产精品探花一区二区在线观看| 91香蕉视频污在线| www色com| 亚洲日本丝袜连裤袜办公室| 日韩成人毛片视频| 亚洲午夜av在线| 亚洲大片免费观看| 欧美日韩一级片在线观看| 一区二区三区黄色片| 日韩午夜激情av| 无套内谢的新婚少妇国语播放| 日韩av在线导航| 番号在线播放| 欧美日韩成人在线播放| 欧美aa一级| 国产精品免费网站| 国产精品久久久久久久久久辛辛 | 亚洲毛片在线| 国产无套粉嫩白浆内谢的出处| 免播放器亚洲一区| 精品人妻二区中文字幕| 91免费看视频| 老熟妻内射精品一区| 亚洲国产日产av| 中文字幕无线码一区 | 你懂的在线观看| 久久久www成人免费精品张筱雨| 蜜臀av在线播放| 国产精品99久久99久久久二8| 91精品在线免费视频| 精品一卡二卡三卡四卡日本乱码 | 91高清视频免费观看| 成人精品一区二区三区电影| 成人动漫视频在线观看完整版| 亚洲精品国产动漫| 少妇熟女一区二区| 香蕉久久国产| 国产精品久久久久久久av福利| 国产91精品久久久久久久网曝门| 一区二区三区伦理片| 一区二区三区在线视频观看| 精人妻无码一区二区三区| 精品国产乱码久久久久久免费 | 国产成人高清| 999久久欧美人妻一区二区| 日韩二区在线观看| 水蜜桃av无码| ●精品国产综合乱码久久久久 | 久久久久久亚洲精品杨幂换脸| 欧美精品色视频| 亚洲国产高清aⅴ视频| 黑人一级大毛片| 欧美成人aa大片| 成人日韩欧美| 国产精品久久久久免费a∨大胸| 免费福利视频一区| 日韩精品久久一区二区| 卡一卡二国产精品| 三上悠亚ssⅰn939无码播放 | 荡女精品导航| 视频一区二区视频| 免费精品视频最新在线| 欧美老熟妇乱大交xxxxx| 亚洲图片自拍偷拍| 精品人妻午夜一区二区三区四区| 中文精品99久久国产香蕉| 中文字幕乱码在线播放| 国产精品香蕉视屏| 欧美韩日精品| 欧美一级免费在线| 综合中文字幕亚洲| 亚洲网站在线免费观看| 亚洲一区999| 欧美日韩123区| 久久久影院一区二区三区 | 欧美在线激情视频| 久久动漫网址| 玩弄中年熟妇正在播放| 成人精品一区二区三区四区| 国产大片免费看| 91精品国产综合久久精品麻豆| 亚乱亚乱亚洲乱妇| 国产视频999| 97精品在线| 久久精品一二三四| 亚洲美女少妇撒尿| av资源免费看| 欧美精品久久一区二区| 911亚洲精品| 波多野结衣综合网| 91丝袜国产在线播放| 日本熟女毛茸茸| 国产亚洲精品91在线| 韩日精品一区| 在线观看精品视频| 国产福利91精品| 久久一二三四区| 日韩电影中文字幕在线观看| 欧美激情护士| 日产精品一线二线三线芒果| 日本视频一区二区三区| 免费看一级黄色| 欧美一区二区黄| 国产亚洲成av人片在线观看 | 国产免费一区二区三区在线能观看 | 中文字幕一区三区| 国产av一区二区三区精品| 久久久影视精品| 九九在线高清精品视频| jizz欧美性11| 一区二区激情小说| 青青草超碰在线| 国产日韩欧美91| 国产精品hd| 国产免费看av| 91精品国产综合久久香蕉的特点 | 忘忧草精品久久久久久久高清| 在线观看免费看片| 欧美日韩精品二区| 日本在线免费播放| 国产v亚洲v天堂无码| 久久精品五月| 国产极品国产极品| 日韩av中文字幕在线播放| 成人涩涩视频| av在线免费观看国产| 久久美女艺术照精彩视频福利播放| 中文字幕永久免费视频| 欧美黑人巨大精品一区二区| 三级小说欧洲区亚洲区| 在线观看日本一区二区| 亚洲成人av电影在线| 阿v免费在线观看| 黄色国产精品一区二区三区| 蜜臀av性久久久久蜜臀aⅴ| 国产精品99精品无码视| 在线观看欧美成人| 精品按摩偷拍| 国产美女视频免费看| 色综合久久88色综合天天6| 永久免费网站在线|