Letta是一個開源框架,專注于構建具有高級推理能力和透明長期記憶的有狀態大型語言模型(LLM)應用。它由加州大學伯克利分校的Sky Computing Lab孵化,由博士生Sarah Wooders和Charles Packer創立。Letta的前身是MemGPT,該項目在發布前便因熱度而被廣泛關注。Letta旨在解決大語言模型(LLM)在多輪對話和文檔分析中的上下文窗口限制問題,通過虛擬上下文管理,使模型能夠記住并學習,即使在上下文窗口填滿后也不遺忘。
Letta開源項目官網入口網址:https://github.com/letta-ai/letta

核心亮點:
- 狀態化記憶:支持分層記憶塊,Agent 可以修改、刪除、檢索自己的記憶
- 多 Agent 協作:不同 Agent 能共享記憶塊,形成復雜的協作網絡
- 背景代理:提供 sleep-time agent,在后臺自動維護和更新記憶
- 文件系統接入:可直接訪問外部文件夾,處理 PDF、TXT、JSON 等資料
- 模型兼容性強:支持 OpenAI、Anthropic、Ollama 以及本地模型,隨時切換
- ?部署靈活:既有 Cloud 服務,也能本地自托管,還提供桌面版 UI
Letta是一個開源框架,支持多種部署環境,包括Docker和pip安裝,推薦使用Docker進行生產環境部署。它提供CLI工具、API服務器、ADE(代理開發環境)等,支持用戶創建、部署和管理代理。Letta支持多種模型提供商,如OpenAI、Anthropic等,并且支持多種數據庫后端,如PostgreSQL。
Letta強調開源和透明性,鼓勵社區參與和貢獻,提供多種貢獻途徑,包括提問、報告問題、探索路線圖及參加社區活動。Letta還獲得了1000萬美元的種子投資,估值達7000萬美元,投資方包括Felicis、Jeff Dean、Hugging Face等知名投資人。
Letta的愿景是推動AI記憶管理的發展,使代理記憶和推理透明化,構建開放平臺,使開發者能夠透明、可控地開發狀態化AI應用。
相關導航
暫無評論...