柚子快報邀請碼778899分享:graphrag-ui安裝使用
柚子快報邀請碼778899分享:graphrag-ui安裝使用
介紹
項目地址: https://github.com/wade1010/graphrag-ui
GraphRAG-UI 是 GraphRAG 的用戶友好界面,GraphRAG 是一個強大的工具,可使用檢索增強生成(RAG)方法對大量文本數(shù)據(jù)進行索引和查詢。本項目支持最新版graphrag,旨在為 GraphRAG 提供方便的管理和交互方式,支持配置 ollama 等本地大模型服務,使其更容易為廣大用戶所使用。
pip 安裝
1. 安裝ollama(可選):
訪問 [Ollama官網(wǎng)](https://ollama.com/) 來安裝。如果是 Linux ,可以直接運行下面命令
curl -fsSL https://ollama.com/install.sh | sh
2. pip 安裝本軟件:
pip install graphrag-ui
或者
pip install graphrag-ui -i https://pypi.org/simple
3. 啟動 API Server
graphrag-ui-server
4. 啟動 UI
啟動綜合版 UI
graphrag-ui
或啟動純凈版 UI
graphrag-ui-pure
ollama和本軟件非同一機器啟動的情況
如果ollama和該軟件安裝不在同一臺機器上,需要修改下設置。
執(zhí)行下面兩個命令
graphrag-ui-server
graphrag-ui
啟動后,瀏覽器打開 http://yourip:7862/
先修改 LLM API Base URL ,將localhost改為你ollama所在服務器的IP,端口如果做了修改也改下。沒改就用默認的即可 Embeddings API Base URL同理。 修改完之后,點擊 Update LLM Settings 進行保存
 ̄□ ̄||,測試發(fā)現(xiàn)目前有點bug,這個更新后,假如手動刷新頁面,頁面這里還是顯示舊值,不影響使用,后期修復下。
使用
默認 ollama和本軟件是需要安裝在同一服務器的,如果不是就按上面章節(jié)的方法修改下。
下載模型
默認模型分別是 qwen2:latest 和 nomic-embed-text:latest ,跑起來占5G多顯存。
ollama pull qwen2:latest
ollama pull nomic-embed-text:latest
模型修改
如果不想使用默認模型,可以先試用ollama下載想要的模型,然后根據(jù)下面方法修改配置。
上傳txt文件
GraphRAG 需要使用txt文件進行解析。自己找一些,然后通過下面步驟
上傳成功后,可以查看自己傳的文件,如下圖
構建索引
步驟如下圖
這一步驟根據(jù)文件大小來決定時間,建議初期測試可以用個小文件。 執(zhí)行期間可以看下圖日志,執(zhí)行完成會有如下成功標識: All workflows completed successfully.
測試
提煉相關問題
點擊 “Data Management”。按下圖步驟,先看看上傳文檔的內容,好從中提問。
這里根據(jù)文檔,我想到的問題是,“除了東勝神洲,天下還有幾個洲?”
提問
local 提問
按如下步驟,可以進行 local 提問
global 提問
跟上圖,不同支出在于下面紅色部分
可視化
1、選取.graphml文件
2、進行可視化 點擊如下圖的按鈕
柚子快報邀請碼778899分享:graphrag-ui安裝使用
參考鏈接
本文內容根據(jù)網(wǎng)絡資料整理,出于傳遞更多信息之目的,不代表金鑰匙跨境贊同其觀點和立場。
轉載請注明,如有侵權,聯(lián)系刪除。