Skip to content

Pi agent 的設計哲學:極簡系統

引言

這篇文章說明我自己使用 Pi agent 的經驗,以及一些對比分析。

正文

相關資源

系統提示詞長度的隱性成本

主流 AI 代理工具(如 Claude Code、Cursor、GitHub Copilot 等)的系統提示詞通常包含:

  • 詳細的角色定義與行為準則(數百到數千 tokens)
  • 複雜的工具調用說明與範例
  • 多輪對話的處理邏輯
  • 邊界情況與錯誤處理指令
  • 格式化輸出要求

這些系統提示詞總數可達好幾萬 tokens,甚至更多。每一次用戶發起請求,這些 tokens 都會作為 prefill(預填充) 內容被送入模型進行推理。

對於雲端 API,這筆開銷由服務商承擔;但對於本地 LLM Tool(Ollama、LM Studio、oMLX 等)的用戶,這直接轉化為可感知的延遲——每一次對話輪次都要為系統提示詞「買單」。

即使是本地 LLM Tool 做了 cache,第一次仍然需要花費較多時間。

Pi 的系統提示詞

參考系統提示詞程式碼

Pi agent 採取了截然不同的策略:

┌─────────────────────────────────────────────────────────┐
│  Pi 預設系統提示詞 ≈ 300-500 tokens                     │
├─────────────────────────────────────────────────────────┤
│  • 核心身份與目標                                       │
│  • 僅包含當前可用工具的精簡 schema                      │
│  • 極少量格式約束                                       │
└─────────────────────────────────────────────────────────┘

實測數據對比

輸入: Hi

工具版本Prefill Token 數量
Piv0.80.72,661
Claude Codev2.1.21025,490
Codex CLIv0.144.111,265

環境: MacBook Pro M2Max 64GB GPU 30 Core

Prefill 速度: 大約只有 600 Token/Second

單單開始對話,這幾個工具需要等待的時間就有很大的差距,更別論後續的操作了。

結語

Pi 的極簡設計哲學在本地 LLM 環境下尤為重要。減少系統提示詞的長度不僅能降低延遲,也能讓開發者更專注於核心功能,而非被複雜的提示詞所束縛。


發布日期:2026 年 7 月 15 日