近日，由極客公園主辦的 AGI Playground2023活動在北京圓滿結束，活動匯聚了當下 AGI 領域最具公信力、話語權、前瞻性的行業領袖與公司，起底潮流下的大模型技術底層邏輯和新范式變革的底層思維。向量數據庫公司Zilliz、360集團、阿里云、百度、百川智能等行業頭部公司參會，Zilliz 創始人兼 CEO 星爵、百川智能創始人王小川、360集團創始人周鴻祎等明星創業者分別在不同的主題下進行了分享。

其中，Zilliz 創始人兼 CEO 星爵的演講讓人印象深刻。

(資料圖)

星爵的演講主題為《AGI 時代到來，為什么向量數據庫成關鍵?》，在他看來:

●當下 CVP Stack 已經成為 AGI 時代重要的數據應用開發范式，代表 “V” 的向量數據庫扮演著重要角色，Milvus 和 Zilliz Cloud 作為向量數據庫中的佼佼者，無論是性能還是成本方面，都能很好地滿足開發者的需求。

●向量數據庫作為大模型的記憶體，能夠為 LLMs 提供向量檢索和存儲的功能，是大模型開發和訓練中不可缺少的重要組成部分。

●AGI 時代的下一個 Killer App 是智能體，向量數據庫可以為其提供長期的記憶存儲。

向量數據庫成為新型開發范式 CVP Stack 的重要一環

向量數據庫是一種為了高效存儲和索引 AI 模型產生的向量嵌入（embedding）數據而專門設計的數據庫。在傳統的關系型數據庫中，數據通常以表格的形式存儲，而在向量數據庫中，數據以向量的形式存儲。向量(embedding)是一組數值，可以表示一個點在多維空間中的位置。向量數據庫非常擅長處理大量的高維 embedding數據，這種數據在機器學習和深度學習應用中很常見。

LLM 時代之下，工具棧變得更加簡化，開發者甚至可以實現用周末兩天時間做出一個不錯 demo 的設想，其背后的終極奧義便是 CVP Stack。其中，C 的意思是以 ChatGPT 為代表的大模型，它在 AI 程序中充當中央處理器的角色;V 代表 Vector Database，即以 Milvus 為代表的向量數據庫，充當 embedding storage 的角色;最終會通過 prompt 的方式進行交互。

總結來看，在大模型時代下，無論是誰，只要擁有一個 ChatGPT 賬號、會寫 prompt、找到一個 embedding 的數據庫為模型提供相關領域的知識，甚至為其提供一個緩存層，便可以輕而易舉地成為一個很好的工程師。OSSChat（https://osschat.io）就是典型的應用，用于解決開源項目文檔冗長、不易查找等問題，目前已經支持幾十個主流的開源項目。

|Zilliz 創始人兼 CEO 星爵

向量數據庫之于大模型的關鍵作用

向量數據庫可以看作大模型的外置記憶快，能夠長期存儲大模型的數據，供模型隨時調用。向量數據庫在LLM領域的應用主要可以分為以下6類:管理私有數據和知識庫、為大模型提供實時數據更新、實現大模型的個性化和增強、提供智能體的記憶、保存大模型的處理結果、構建更復雜的AI系統。

對于大模型應用開發者來說，向量數據庫是一個非常重要的基礎設施，可以在最大限度發揮大模型威力的同時保護數據隱私，實現更豐富的功能。LLMs 和向量數據庫共同推動 AGI 的發展，二者缺一不可。

向量數據庫為下一個 Killer App 提供長期的記憶存儲

智能體是大模型的一個新興應用場景，用于構建具有獨立智能的虛擬人物、虛擬代理甚至人形機器人。向量數據庫不僅可以幫助智能體記憶其感知的歷史數據和上下文，幫其做出智能決策，還能使其根據長期記憶來實現自我演進，被認為是下一代 Killer App。

智能體需要記憶。人類的大腦有一個區域叫做海馬體，負責長期記憶，記憶是人類智能很重要的部分，不可能今天把昨天的事情忘記還說自己很聰明。行業里面的正在嘗試用向量數據庫為智能體存儲長期記憶，因為向量數據庫的成本是很可控的。未來如果每個人都能夠有幾十個智能體幫助人類生產生活，像向量數據庫這樣具有語義檢索的存儲市場會迎來很大的增長。

向量數據庫作為一款數據庫產品，“更大更快更便宜”是未來發展的核心趨勢。更大是指能處理更大的數據量，這意味著支持百億條數據甚至更高的可擴展性;更快是指更高的性能，包括毫秒級的響應時間和高達數萬的QPS;更便宜是指更少的資源消耗更高的性價比，在相同資源消耗的情況下提供更強大的性能。

標簽：