Pi agent 的設計哲學:極簡系統
引言
這篇文章說明我自己使用 Pi agent 的經驗,以及一些對比分析。
正文
相關資源
系統提示詞長度的隱性成本
主流 AI 代理工具(如 Claude Code、Cursor、GitHub Copilot 等)的系統提示詞通常包含:
- 詳細的角色定義與行為準則(數百到數千 tokens)
- 複雜的工具調用說明與範例
- 多輪對話的處理邏輯
- 邊界情況與錯誤處理指令
- 格式化輸出要求
這些系統提示詞總數可達好幾萬 tokens,甚至更多。每一次用戶發起請求,這些 tokens 都會作為 prefill(預填充) 內容被送入模型進行推理。
對於雲端 API,這筆開銷由服務商承擔;但對於本地 LLM Tool(Ollama、LM Studio、oMLX 等)的用戶,這直接轉化為可感知的延遲——每一次對話輪次都要為系統提示詞「買單」。
即使是本地 LLM Tool 做了 cache,第一次仍然需要花費較多時間。
Pi 的系統提示詞
Pi agent 採取了截然不同的策略:
┌─────────────────────────────────────────────────────────┐
│ Pi 預設系統提示詞 ≈ 300-500 tokens │
├─────────────────────────────────────────────────────────┤
│ • 核心身份與目標 │
│ • 僅包含當前可用工具的精簡 schema │
│ • 極少量格式約束 │
└─────────────────────────────────────────────────────────┘實測數據對比
輸入: Hi
| 工具 | 版本 | Prefill Token 數量 |
|---|---|---|
| Pi | v0.80.7 | 2,661 |
| Claude Code | v2.1.210 | 25,490 |
| Codex CLI | v0.144.1 | 11,265 |
環境: MacBook Pro M2Max 64GB GPU 30 Core
Prefill 速度: 大約只有 600 Token/Second
單單開始對話,這幾個工具需要等待的時間就有很大的差距,更別論後續的操作了。
結語
Pi 的極簡設計哲學在本地 LLM 環境下尤為重要。減少系統提示詞的長度不僅能降低延遲,也能讓開發者更專注於核心功能,而非被複雜的提示詞所束縛。
發布日期:2026 年 7 月 15 日