大模型已經(jīng)發(fā)展一年了，然而大模型的幻覺問題一直令人詬病，其中檢索增強(qiáng)生成（RAG）是緩解幻覺比較有效的方式。

目前有兩個(gè)基于LLM的應(yīng)用框架可以很容易實(shí)現(xiàn)RAG Pipeline，分別是LangChain和LlamaIndex，本文將在四個(gè)任務(wù)上對(duì)比一下這兩個(gè)框架的不同實(shí)現(xiàn)。

LangChain： 一個(gè)使用LLM開發(fā)應(yīng)用程序的通用框架。

LlamaIndex： 一個(gè)專門用于構(gòu)建RAG系統(tǒng)的框架。

盡管 LlamaIndex 的目標(biāo)市場(chǎng)比 LangChain 要小得多（使用Github stars表示社區(qū)的活躍度），但其資金數(shù)額接近LangChain。LangChain還提供了更多企業(yè)級(jí)的產(chǎn)品（比如LangServe、LangSmith等等）。

LlamaIndex 和 LangChain 是用于構(gòu)建LLM應(yīng)用程序的兩個(gè)框架。雖然LlamaIndex專注于RAG用例，但LangChain似乎應(yīng)用更廣泛。但它們?cè)趯?shí)踐中有何不同？

在這篇文章中，我們比較了兩個(gè)框架在完成四個(gè)常見任務(wù)時(shí)的表現(xiàn)：

連接到本地LLM實(shí)例并構(gòu)建聊天機(jī)器人。

索引本地文件并構(gòu)建RAG系統(tǒng)。

將以上兩者結(jié)合起來，制作一個(gè)具有RAG功能的聊天機(jī)器人。

將聊天機(jī)器人轉(zhuǎn)換為Agent，這樣它可以使用更多的工具并進(jìn)行簡(jiǎn)單的推理。         

原文鏈接：https://blog.csdn.net/2301_78285120/article/details/135895441