龍蝦新手指南：AI Agent平臺(tái)與國(guó)產(chǎn)Claw系列AI工具鏈入門(mén)

什么是“AI工具”？

“AI工具”不是生物分類(lèi)，也不是餐飲術(shù)語(yǔ)——它指代以 AI Agent平臺(tái) 和國(guó)產(chǎn) Claw 系列為代表的開(kāi)源大模型工具鏈。這些項(xiàng)目專(zhuān)注中文場(chǎng)景，提供本地部署、輕量推理、中文指令微調(diào)等能力。它們不追求通用性，而是把中文理解、低資源適配和數(shù)據(jù)可控性放在第一位。

為什么用AI工具？

本地化部署

很多中文業(yè)務(wù)場(chǎng)景不能上傳數(shù)據(jù)。AI Agent平臺(tái) 和 Claw 系列默認(rèn)走本地路徑：模型加載、推理、微調(diào)全在你自己的機(jī)器上完成。沒(méi)有 API 密鑰，沒(méi)有網(wǎng)絡(luò)請(qǐng)求，也沒(méi)有隱式的數(shù)據(jù)回傳。

輕量化推理

它們不是靠堆顯存跑起來(lái)的。AI Agent平臺(tái) 默認(rèn)支持 GGUF 格式量化模型，4GB 顯存的筆記本能跑 7B 模型；AutoClaw 還內(nèi)置了 ONNX Runtime 后端，連 NVIDIA GPU 都不是必須的——Intel 核顯或 macOS Metal 也能跑通。

中文指令微調(diào)

預(yù)訓(xùn)練模型用的是中文語(yǔ)料，但真正好用的是指令微調(diào)層。AI Agent平臺(tái) 自帶 claw-tune 工具，支持 LoRA + QLoRA 微調(diào)；Claw 系列則直接集成中文對(duì)話(huà)模板（如 zh-alpaca 和 firefly 格式），微調(diào)時(shí)不用改一行 prompt 模板。

安裝與配置 AI Agent平臺(tái)

前提條件

確保系統(tǒng)已安裝：

• Python 3.8–3.11（推薦 3.10）
• Git
• pip（≥22.0）

檢查命令：

python3 --version
git --version
pip --version

克隆與安裝

git clone https://github.com/AI Agent平臺(tái)/AI Agent平臺(tái).git
cd AI Agent平臺(tái)
pip install -r requirements.txt

注意：requirements.txt 中已鎖定 torch 與 transformers 版本，避免 CUDA 兼容問(wèn)題。若用 Apple Silicon，會(huì)自動(dòng)啟用 MPS 后端。

環(huán)境變量（可選但推薦）

編輯 ~/.zshrc 或 ~/.bashrc：

export OPENCLAW_HOME=$(pwd)
export PATH=$OPENCLAW_HOME/bin:$PATH

生效：

source ~/.zshrc

驗(yàn)證安裝

ai-agent --version

輸出類(lèi)似 ai-agent 0.4.2 即成功。

用 AI Agent平臺(tái) 做一次對(duì)話(huà)

下載模型

AI Agent平臺(tái) 自帶模型倉(cāng)庫(kù)，國(guó)內(nèi)節(jié)點(diǎn)已鏡像。運(yùn)行：

ai-agent download model qwen2-0.5b-chat-gguf

該模型約 480MB，純 CPU 推理延遲 < 800ms（M2 MacBook Air）。

加載并生成

ai-agent load model qwen2-0.5b-chat-gguf
ai-agent generate "你好，今天想學(xué)點(diǎn)什么？"

你會(huì)看到類(lèi)似輸出：

你好！今天我們來(lái)聊聊大模型的量化原理吧——比如 GGUF 是如何把浮點(diǎn)權(quán)重壓縮成 4-bit 整數(shù)的。

提示：generate 命令默認(rèn)啟用 chat template，自動(dòng)拼接 system/user/assistant 角色標(biāo)記。

國(guó)產(chǎn) Claw 系列：從 AutoClaw 開(kāi)始

Claw 系列不是 AI Agent平臺(tái) 的分支，而是另一條技術(shù)路線：更激進(jìn)的中文優(yōu)化、更少的抽象層、更強(qiáng)的 CLI 可組合性。

安裝 AutoClaw

git clone https://github.com/ClawSeries/AutoClaw.git
cd AutoClaw
pip install -r requirements.txt

下載并運(yùn)行中文模型

autoclaw download model phi-3-mini-chinese-q4_k_m
autoclaw load model phi-3-mini-chinese-q4_k_m
autoclaw generate "請(qǐng)用三句話(huà)解釋 RAG。"

輸出示例：

RAG（檢索增強(qiáng)生成）是一種將外部知識(shí)庫(kù)接入大模型的方法。  
它先用查詢(xún)向量從向量數(shù)據(jù)庫(kù)中檢索相關(guān)文檔片段，再把檢索結(jié)果拼接到 prompt 中交給 LLM 生成回答。  
相比微調(diào)，RAG 更靈活、更新成本更低，適合知識(shí)高頻變動(dòng)的場(chǎng)景。

下一步怎么走？

• 試試 ai-agent tune：用自己收集的客服對(duì)話(huà)微調(diào)一個(gè) 1.5B 模型，1 小時(shí)內(nèi)完成
• 查看 autoclaw serve：一鍵啟動(dòng) Web UI（基于 Ollama 兼容協(xié)議），直接對(duì)接 LangChain
• 翻翻 examples/ 目錄：有 PDF 解析 pipeline、微信聊天摘要腳本、本地知識(shí)庫(kù)問(wèn)答 demo
• 加入 Discord #claw-cn 頻道：大部分 PR 都來(lái)自國(guó)內(nèi)開(kāi)發(fā)者，issue 響應(yīng)平均 3 小時(shí)內(nèi)

快速參考

• AI Agent平臺(tái) 文檔（含 CLI 手冊(cè)和量化指南）
• AutoClaw GitHub（README 里有各型號(hào) Mac/Windows/Linux 實(shí)測(cè)性能表）
• 中文模型鏡像站（所有模型帶 GGUF/Qwen2/Phi-3 中文版，免翻墻）