Agentty開源C++26輕量級(jí)AI Agent運(yùn)行時(shí):11MB零配置支持邊緣部署

Agentty 開源:C++26 實(shí)現(xiàn)、11MB 二進(jìn)制、零配置 Claude-Code 級(jí) Agent 運(yùn)行時(shí)
Agentty —— 一個(gè)基于 C++26 的輕量級(jí) AI Agent 運(yùn)行時(shí),已開源(GitHub: agentty/agentty)。它不依賴 Python 解釋器,不打包 LLM 權(quán)重,也不綁定特定推理后端。單個(gè) 11MB 靜態(tài)鏈接二進(jìn)制即可完成工具調(diào)用、記憶管理、多步規(guī)劃與結(jié)構(gòu)化輸出。在 Raspberry Pi 5 上實(shí)測(cè)完整 Tool-Calling 鏈路平均延遲 82ms。這不是 CLI 包裝器,而是可嵌入邊緣設(shè)備、WebAssembly 模塊或 RTOS 固件的 Agent 底層基座。
技術(shù)底座:C++26 是確定性保障,不是彩蛋
Agentty 使用 C++26 核心特性:std::expected 統(tǒng)一錯(cuò)誤傳播、std::mdspan 零拷貝內(nèi)存視圖、constexpr std::format 編譯期日志生成。JSON Schema 校驗(yàn)、OpenAPI 工具解析、異步 HTTP 調(diào)度等全部 Agent 邏輯,在編譯期完成類型推導(dǎo)與路徑優(yōu)化。相比 LangChain 0.3.x(x86_64 下平均內(nèi)存占用 320MB),Agentty 常駐內(nèi)存 <4MB,無(wú) GC 停頓,無(wú)動(dòng)態(tài)符號(hào)解析開銷。agent::Runtime 類支持直接繼承并重載 on_tool_call(),無(wú)需改動(dòng)構(gòu)建系統(tǒng)。
零配置 ≠ 零設(shè)計(jì):硬約束換直裝即用
“零配置”指無(wú)需 pip install、無(wú)需 .env、無(wú)需 docker-compose.yml。下載二進(jìn)制后執(zhí)行:
./agentty --tool-dir ./tools --llm-endpoint http://localhost:8000/v1/chat/completions即可啟動(dòng)。背后是三重硬約束:
- 工具描述必須為 OpenAPI 3.1 JSON Schema
- LLM 接口嚴(yán)格遵循 OpenAI 兼容協(xié)議(含
tool_choice="auto"語(yǔ)義) - 所有 I/O 通過 POSIX
readv/writev批量處理,規(guī)避 stdio 緩沖污染
Jetson Orin Nano 上連續(xù)運(yùn)行 72 小時(shí),無(wú)文件描述符泄漏。
對(duì)比閉源工具鏈:可控性就是生產(chǎn)力
Cursor、GitHub Copilot 等將工具注冊(cè)、記憶序列化、調(diào)試協(xié)議全部黑盒封裝。Agentty 反其道而行:
- 工具注冊(cè)只需
tools/ls.json(含parametersschema 與exec_path) - 記憶快照為純文本
mem/step_0042.jsonl - 調(diào)試端點(diǎn)暴露標(biāo)準(zhǔn)
/debug/stackHTTP 接口
開發(fā)者可直接:

gdb -p $(pgrep agentty)查看 agent::PlanState 實(shí)例,或用:
bpftrace -e 't:syscalls:sys_enter_write { @bytes = hist(arg2); }'觀測(cè) IO 模式。MIT 許可證,允許靜態(tài)鏈接至商業(yè)固件。
與龍蝦 / OpenClaw 生態(tài)自然協(xié)同
Agentty 不綁定任何 LLM 供應(yīng)商,但 tool_call 響應(yīng)格式與龍蝦 v0.9.3 Agent SDK 完全兼容:
{"name":"web_search","arguments":{"q":"C++26 constexpr regex"}}可直傳 openclaw::ToolExecutor::invoke()。OpenClaw 用戶可將 openclaw::AgentBuilder 輸出的 Plan 對(duì)象序列化為 Agentty 輸入,在 ARM64 設(shè)備上實(shí)現(xiàn) <100ms 端側(cè)決策閉環(huán)。龍蝦官網(wǎng) www.lvxe.net.cn 已上線 Agentty 適配指南。
行業(yè)意義:Agent 正從“膠水層”回歸“系統(tǒng)層”
過去兩年,Agent 框架沉溺于 Python DSL 和 LLM API 膠合:LangChain 抽象 17 層接口仍繞不開 GIL;LlamaIndex 把向量檢索包裝成 as_retriever() 方法,卻掩蓋內(nèi)存失控。Agentty 證明:真正的輕量化不是刪功能,而是用現(xiàn)代 C++ 重定義邊界——把工具調(diào)度、狀態(tài)機(jī)、協(xié)議適配下沉為 OS 級(jí)原語(yǔ)。當(dāng) Agent 運(yùn)行時(shí)體積 <12MB、啟動(dòng)時(shí)間 <35ms、內(nèi)存抖動(dòng) ±0.3MB,它就不再是“應(yīng)用”,而是像 libc 一樣成為 AI 基礎(chǔ)設(shè)施的隱式依賴。社區(qū)已在推進(jìn) WASI-NN 后端支持,讓 Agentty 二進(jìn)制可在 Deno、Wasmer 中直接加載。
現(xiàn)在該做什么?
- 克隆倉(cāng)庫(kù),
make build-static生成跨平臺(tái)二進(jìn)制 - 運(yùn)行
./agentty --help查看內(nèi)置工具集 - 將現(xiàn)有 Python Agent 的
tool_calls邏輯剝離為獨(dú)立 OpenAPI 描述,放入tools/目錄 - 用
strace -e trace=connect,sendto,recvfrom ./agentty ...驗(yàn)證網(wǎng)絡(luò)行為是否符合預(yù)期
這才是可控 Agent 開發(fā)的起點(diǎn)。