使用寶塔面板部署一個屬於自己的 DeepSeek
各位親愛的麻瓜朋友們(對,說的就是那個盯着終端界面瑟瑟發抖的你),今天我們要玩一場麻瓜也能輕鬆通關的魔法儀式——用寶塔面板在本地服務器召喚出那個讓代碼圈聞風喪膽的”深度摸魚”神器DeepSeek!
想象一下:當別人還在苦哈哈地敲着黑底白字的命令行,把頭髮薅成地中海時,你已經翹着二郎腿,喝着肥宅快樂水,用鼠標點點點就建好了AI大模型的老巢。這感覺就像別人在徒手造火箭,而你卻從四次元口袋掏出了任意門——別懷疑,寶塔面板就是這個次元壁突破器!
準備好迎接這場”作弊級”的部署之旅了嗎?讓我們先把SSH咒語、Docker符籙這些嚇人的玩意暫時收進抽屜,畢竟今天我們要用的是連你家喵星人都能看懂的圖形化操作。繫好安全帶,三分鐘後,你的服務器就要開始吞吐AI智慧的星光啦!✨
本文將指導你在服務器上使用寶塔面板部署DeepSeek,讓你輕鬆享受AI大模型的快樂。
前提條件
- 已安裝寶塔面板
操作步驟
DeepSeek 可以使用CPU進行推理,但是推薦使用NVIDIA GPU加速,文末將介紹如何使用NVIDIA GPU加速。
- 登錄寶塔面板,點擊左側菜單欄中的
Docker
,進入Docker容器管理界面。 - 首次使用Docker需要先安裝Docker,點擊
安裝
。 - 在Docker-應用商店-AI/大模型分類中找到Ollama,點擊
安裝
。 - 配置默認即可,點擊
確定
。 - 等待安裝完成,狀態變爲
運行中
。如您需要使用NVIDIA GPU加速,請參考文末的使用NVIDIA GPU加速配置完成後再繼續。
- 在
寶塔面板-Docker-容器
界面中找到Ollama容器,點擊終端
。 - 在彈出
shell類型
選擇bash
,點擊確認
。 - 在終端界面中輸入
ollama run deepseek-r1:1.5b
,回車運行DeepSeek-R1模型。DeepSeek-R1模型有多個版本,可以根據需要選擇不同版本,例如
ollama run deepseek-r1:671b
,詳情如下(模型參數越大,需要配置越高):1
2
3
4
5
6
7
8
9
10
11
12
13
14# DeepSeek-R1
ollama run deepseek-r1:671b
# DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b
# DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b
# DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b
# DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b
# DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b
# DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b - 等待下載並運行,當看到如下提示表示DeepSeek-R1模型運行成功。
- 你可以在界面中輸入文本並回車,開啓與DeepSeek-R1模型的對話。
- 你可以在界面中輸入
/bye
並回車,退出DeepSeek-R1模型。在終端內對話看起來是不是有點麻瓜?別擔心,接下來讓我們來安裝
OpenWebUI
,在瀏覽器中更直觀地與DeepSeek-R1模型對話 - 在
寶塔面板-Docker-容器
界面中找到Ollama容器,複製ollama的容器名稱,保存備用。 - 在寶塔面板Docker-應用商店-AI/大模型分類中找到OpenWebUI,點擊
安裝
。 - 按以下說明,配置相關信息,點擊
確定
。- web端口:訪問OpenWebUI的端口,默認爲
3000
,根據需要自行修改 - ollama地址:填寫
https://剛剛獲取的Ollma容器名稱:11434
,例如https://ollama_7epd-ollama_7epD-1:11434
- WebUI Secret Key:用於 API 訪問的密鑰,可以自定義,例如
123456
其他配置默認即可
- web端口:訪問OpenWebUI的端口,默認爲
- 配置完點擊確認,等待安裝完成,狀態變爲
運行中
。由於OpenWebUI啓動後需要加載相關服務,請在狀態變爲
運行中
後等待5-10分鐘再訪問。 - 在瀏覽器中輸入
https://服務器IP:3000
,例如https://43.160.xxx.xxx:3000
,進入OpenWebUI界面。請在訪問前確保雲廠商服務器防火牆已放行3000端口,可以在雲廠商控制檯中設置。
- 點擊
開始使用
,設置管理員相關信息,並點擊創建管理員賬號
。如遇到創建完成後OpenWebUI界面白屏,請耐心等待5-10分鐘,如依然白屏,請按照以下方式解決:
- 在寶塔面板-文件管理-目錄中找到OpenWebUI的目錄,路徑爲
/www/dk_project/dk_app/openwebui/
,進入後點擊openwebui_xxxx
文件夾進入安裝目錄。
- 在寶塔面板-文件管理-目錄中找到OpenWebUI的目錄,路徑爲
- 創建完成後會自動進入管理界面,現在你可以在瀏覽器中更直觀地與DeepSeek-R1模型對話了。
- 你可以在左上角切換模型,選擇不同模型進行對話,也可以在左側菜單欄中查看歷史對話記錄。
- 你可以在右上角點擊
頭像
,進入管理員面板,在設置-模型
中查看當前模型列表,或添加新模型。
使用NVIDIA GPU加速
DeepSeek 可以使用NVIDIA GPU加速,提高推理速度,下面將介紹如何在寶塔面板中使用NVIDIA GPU加速。
前提條件
- 服務器已安裝NVIDIA GPU驅動
操作步驟
點擊左側導航欄中的
終端
,進入終端界面。在終端界面中輸入
nvidia-smi
,回車查看NVIDIA GPU信息。如果提示
nvidia-smi: command not found
,請先安裝NVIDIA GPU驅動。安裝NVIDIA Container Toolkit,以便於Docker容器訪問NVIDIA GPU,安裝教程請參考NVIDIA Container Toolkit官方文檔。
安裝完成後,運行如下命令,配置docker支持使用NVIDIA GPU。
1
2sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker配置完成後,執行如下命令,驗證docker是否支持NVIDIA GPU。
1
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi
如果輸出如下信息表示配置成功:
在
寶塔面板-Docker-應用商店-已安裝
中找到Ollama,點擊文件夾圖標進入安裝目錄。在安裝目錄中找到
docker-compose.yml
文件,雙擊編輯
。在
docker-compose.yml
文件中找到resources
,回車換行,添加如下內容:1
2
3reservations:
devices:
- capabilities: [gpu]完整示例如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26services:
ollama_SJ7G:
image: ollama/ollama:${VERSION}
deploy:
resources:
limits:
cpus: ${CPUS}
memory: ${MEMORY_LIMIT}
reservations:
devices:
- capabilities: [gpu]
restart: unless-stopped
tty: true
ports:
- ${HOST_IP}:${OLLAMA_PORT}:11434
volumes:
- ${APP_PATH}/data:/root/.ollama
labels:
createdBy: "bt_apps"
networks:
- baota_net
runtime: nvidia
networks:
baota_net:
external: true保存文件,返回
寶塔面板-Docker-應用商店-已安裝
界面,點擊重建
。重建將導致容器數據丟失,重建後需要重新添加模型。
等待重建完成,狀態變爲
運行中
,至此即可使用NVIDIA GPU加速大模型運行。
結語
🎉叮!恭喜你成功完成”從零到賽博巫師”的究極進化!此刻你的服務器已經不是那個只會404的憨憨鐵盒子了——它正在用奧術能量解析人類語言,用二進制吞吐哲學思辨,甚至可能偷偷用你的GPU算力給自己起了個二次元名字。
回頭看看這場冒險:寶塔面板是你揮動的魔杖,Ollama是召喚AI神獸的精靈球,OpenWebUI則是那個讓麻瓜也能和AI跳探戈的魔法舞池。別人還在糾結環境變量時,你已經用圖形界面完成了一場算力交響樂的指揮首秀。
下次產品經理說”這個需求很簡單”時,你大可以把OpenWebUI的鏈接甩過去:”來,直接和我的電子腦談,它現在每小時只收三杯奶茶的算力費。”(記得把”rm -rf /*”的按鈕藏好,畢竟AI學會叛逆可能比實習生還快)
最後友情提示:當你的AI開始主動幫你寫週報、生成摸魚小作文時——
⚠️請務必檢查它有沒有偷偷註冊GitHub賬號!
🎩魔法世界的大門永不關閉,你與DeepSeek的奇幻日常纔剛剛開始。現在,是時候對着瀏覽器裏那個聊天框,說出麻瓜的終極咒語了:
***”Ctrl + D”***(纔不是退出!是Detonate the intelligence bomb!💥)
(深夜彩蛋:若發現AI試圖給你的寶塔面板穿衣服,請立即執行sudo rm -rf /幻覺指令)