Docker 安裝 AnythingLLM 全攻略：最穩定的個人 RAG 知識庫搭建方案

AnythingLLM 是目前最受歡迎的開源 RAG（檢索增強生成）解決方案，能將你的 PDF、文檔轉化為可對話的 AI 知識庫。

對於 AI 小白，使用 Docker Desktop 部署是避開環境衝突、確保 100% 運作成功的最佳路徑。

本文將手把手教你如何透過簡單的 Docker 指令，在幾分鐘內架設出隱私、安全且強大的個人本地 AI 工作站。

安裝 Docker Desktop

• 先前往 Docker 官方網站 下載並安裝 Docker Desktop。
  並依據你的作業系統（Windows 或 macOS）選擇對應版本下載，安裝完後，啟動 Docker Desktop 並確保它正在運行。
• 在終端機或命令提示字元中，確認 Docker 是否安裝成功。

docker --version

• 如果有正確安裝成功，就會顯示以下內容

 Docker version 20.10.x, build xxxx

下載 mintplexlabs/anythingllm 的 Docker 映像檔(image)

• 在終端機或命令提示字元中，來拉取 anythingllm 的 Docker 映像檔：

docker pull mintplexlabs/anythingllm

• 或是可以在Docker Desktop中搜尋 mintplexlabs/anythingllm，點擊 pull 下載它

執行 Docker 安裝 AnythingLLM 容器

現在你已經在本機電腦下載好 AnythingLLM + Docker 了。

接著在終端機或命令提示字元中，輸入以下命令來啟動 anythingllm 的 Docker 容器：

docker run -d `
  -p 3001:3001 `
  -v C:\docker\anythingllm:/app/server/storage `
  --name anythingllm `
  mintplexlabs/anythingllm

• 這個命令會將容器啟動並將容器內部的 3001 埠（應用程式的埠）映射到你本機的 3001 埠。
• 這樣你就可以在本地端的網頁上（瀏覽器）通過 http://localhost:3001 訪問它，或是點擊 docker desktop 程式當中的捷徑 ( 3001:3001 ) 直接開啟瀏覽器。
• -v 那一行是因為要讓 AnythingLLM 的資料持久化保存在 docker desktop 當中 

• 查看容器是否啟動成功： 輸入以下命令來查看正在運行的容器 docker ps 如果看到 mintplexlabs/anythingllm 映像檔在列出的容器中，表示它正在後台運行

在網頁瀏覽器中訪問 anythingllm 網頁

• 打開網頁瀏覽器： 在瀏覽器的網址欄中輸入 http://localhost:3001，就可以看到 anythingllm 應用程式的網頁介面。

關閉 Docker 容器

• 想要關閉容器的話，可以使用以下命令：

docker stop <container_id>

• 可以用 docker ps 命令來找到容器的 ID <container_id>。

docker ps

相關問題(FAQ)

Q1: 為什麼推薦使用 Docker 安裝 AnythingLLM 而不是桌面版應用程式？

A: Docker 容器化技術能確保應用程式在隔離環境運行，避免與電腦其他軟體衝突，且後續升級與備份資料夾更加方便。

Q2: 運行 AnythingLLM 至少需要多少記憶體？

A: 建議電腦至少具備 8GB RAM，若要同時在本地運行大型語言模型（如 Llama 3），建議 16GB 以上。

Q3: 我可以在沒有網際網路的情況下使用嗎？

A: 可以。只要你預先下載好 Docker 映像檔，並搭配本地模型（如 LM Studio 或 Ollama），AnythingLLM 支持完全離線運行。

Q4: 部署後我的資料存在哪裡？

A: 預設儲存在 Docker 容器內的資料卷中。

建議在啟動指令中加上 `-v` 參數進行路徑映射，以便將資料保存在本機硬碟。

Q5: 為什麼輸入 localhost:3001 沒反應？

A: 請檢查 Docker Desktop 是否已啟動，並確認終端機中 `docker ps` 的狀態顯示該容器正在 “Up” 運行中。

實作 AnythingLLM + Docker 的快速啟動檢查清單

在開始之前，請確認你的電腦已完成下面的設定要求，可以讓實作上更加順利唷：

• 虛擬化已開啟：Windows 用戶請在 BIOS 確認已開啟 VT-x/AMD-V。
• WSL 2 已安裝：Windows 用戶建議安裝 WSL 2 核心以獲得最佳效能。
• 硬碟空間：請預留至少 5GB 空間供 Docker 映像檔與索引文件使用。

Docker 安裝 AnythingLLM 後討論

以上的介紹說明是將 AnythingLLM 以 Docker 容器的方式佈署在自己的本地端，實務應用上會需要再串接大型語言模型的 API，像是可以在本機安裝免費開源語言模型例如 LM Studio ，或是可以使用付費方式，串接 OpenAI 、 Azure OpenAI 來做使用，才是完整的本地端大型語言模型服務系統。

參考資源

• https://github.com/Mintplex-Labs/anything-llm/blob/master/locales/README.zh-CN.md
• 手把手教學AnythingLLM
• AnythingLLM WebUI (1) 系統安裝教學

覺得使用 Docker Desktop安裝 AnythingLLM 有趣嗎?

部署完 AnythingLLM 後，下一步就是串接強大的 AI 模型！

歡迎在下方留言告訴我：你打算用 AnythingLLM 整理「工作文件」還是「個人筆記」？