引言

人工智能（AI）正在迅速發(fā)展，借助 DeepSeek 等強大的開源模型，您可以在本地運行尖端的大型語言模型（LLM）。

本指南將引導您使用輕量級推理框架 Ollama 部署 DeepSeek，并結合 Dify 平臺構建可視化 AI 助手。

完成部署后，您將能夠通過 Python API 調用模型，快速開展人工智能驅動的實驗，并實現(xiàn)完全私有化的數(shù)據(jù)處理。

第一部分：為什么選擇 DeepSeek？

• 快速高效 — 針對本地推理優(yōu)化，輕量且響應迅速。
• 開源 — 無限制訪問，無廠商鎖定。
• Python API 集成 — 方便在 Python 應用中調用。
• 可定制 — 支持根據(jù)業(yè)務需求進行微調與修改。

第二部分：Ollama 本地部署 DeepSeek

步驟 1：安裝 Ollama

Ollama 是一個輕量級運行時，可簡化本地 LLM 部署。安裝命令：

curl -fsSL https://ollama.ai/install.sh | sh

按 Enter 鍵或單擊以查看大圖

安裝后，驗證它是否正常工作：

ollama --version

步驟 2：下載 DeepSeek 模型

建議先下載 15 億參數(shù)的小型模型，節(jié)省系統(tǒng)資源：

ollama pull deepseek-r1:1.5b

步驟 3：運行 DeepSeek

此命令初始化 DeepSeek 模型，并使其準備好處理自然語言查詢:

ollama run deepseek-r1:1.5b

步驟 4：安裝 Python 包并調用 API

第三部分：Dify 集成與可視化 AI 助手

1. 為什么結合 Dify？

• 訪問 1000+ AI 模型（平臺無關，兼容多模型推理）。
• 提供 Web UI、知識庫、RAG、工作流等工具。
• 支持完全離線運行，確保數(shù)據(jù)安全。

2. 部署前準備

硬件要求

• CPU：≥ 2 核
• GPU/RAM：≥ 16 GiB（推薦）

軟件要求

• Docker
• Docker Compose
• Ollama
• Dify 社區(qū)版

3. 安裝 Dify 社區(qū)版

bash

git clone https://github.com/langgenius/dify.git

cd dify/docker

cp .env.example .env

docker compose up -d

安裝完成后，訪問：

http://your_server_ip

4. 在 Dify 中接入 DeepSeek

1. 打開 Profile → Settings → Model Provider。
2. 選擇 Ollama 并點擊“添加模型”。
3. 模型名稱：deepseek-r1:7b（根據(jù)實際部署填寫）。
4. 基本 URL：http://your_server_ip:11434。

5. 構建 AI 應用

(1) 聊天機器人

• 創(chuàng)建空白應用 → 選擇“聊天機器人”類型 → 指定 DeepSeek 模型 → 測試交互。

(2) 知識庫增強（RAG）

• 上傳內部文檔 → 啟用父子分塊保留結構 → 將知識庫接入 AI 應用上下文 → 提升回答準確性。

(3) 工作流集成

• 可加入 Web 搜索節(jié)點、代碼執(zhí)行節(jié)點、負載均衡和錯誤處理節(jié)點，實現(xiàn)更復雜的自動化邏輯。

第四部分：常見問題（FAQ）

Q1：Docker 中 Ollama 無法訪問？

• 修改 Ollama 環(huán)境變量：Mac：launchctl setenv OLLAMA_HOST "0.0.0.0"Linux：編輯 ollama.service 并添加 Environment="OLLAMA_HOST=0.0.0.0"Windows：在系統(tǒng)環(huán)境變量中設置 OLLAMA_HOST 并重啟 Ollama。

Q2：如何修改 Ollama 地址和端口？

• 使用環(huán)境變量 OLLAMA_HOST 綁定新地址和端口。

總結

結合 Ollama 與 Dify，您可以在本地快速部署 DeepSeek 模型，實現(xiàn)完全私有化、安全可控、可定制的 AI 助手。

此方案兼顧了部署簡單性與功能擴展性，適用于個人開發(fā)者與企業(yè)落地應用，并可在未來結合量化模型與推理加速進一步提升性能。

結論：方案特色與價值

本方案將 Ollama 的輕量化本地推理能力與 Dify 的可視化應用構建平臺深度結合，實現(xiàn)了從模型部署到業(yè)務落地的全鏈條私有化 AI 解決方案。其核心特色包括：

1. 完全私有化與數(shù)據(jù)安全

• 全程離線運行，數(shù)據(jù)不出本地網(wǎng)絡，滿足企業(yè)級合規(guī)與隱私保護需求。

1. 快速落地與低門檻

• 從安裝到可用只需約 1 小時，部署流程簡單，無需深厚 AI 開發(fā)經驗。

1. 高度靈活的模型與功能擴展

• 兼容多種模型版本（1.5B ~ 70B），可根據(jù)硬件能力自由選擇，并支持知識庫增強（RAG）、Web 搜索、工作流編排等功能。

1. 低成本與高性能并存

• 一次部署，持續(xù)使用，無需支付云端調用費用；結合本地 GPU 可顯著降低推理延遲。

1. 全場景適配

• 適用于個人研發(fā)實驗、企業(yè)客服與質檢、知識管理、內部培訓等多種場景，具備很強的可擴展性。

總結來看，這套 Ollama + Dify + DeepSeek 組合，不僅為個人和企業(yè)提供了安全可控、快速可用、可持續(xù)演進的 AI 能力，還為未來的多模態(tài)、加速推理和定制化應用奠定了堅實基礎。

最后，如有其他AI相關模型定制或者部署需求，歡迎通過公眾號“320科技工作室”與我們聯(lián)絡。