Hermes 技术

AI 写代码太费 Token？一个 9.5MB 小工具，直接砍 80%

RTK（Rust Token Killer）是一个 9.5MB 零依赖的命令输出压缩工具，在 AI Agent 执行命令和上下文窗口之间加一层智能过滤器，通过过滤、分组、截断、去重将 Token 消耗降低 72%-92%。覆盖 100+ 开发命令，实测 3ms 延迟完全无感。

AI写代码太费Token？一个9.5MB小工具，直接砍80%

你有没有算过，让AI帮你写代码，一天要烧多少Token？

先说结论

我给AI Agent装了一个叫 RTK 的工具，一个命令，零配置，Token消耗直接砍掉80%。

核心思路就一句话：在命令输出喂给AI之前，先压缩一遍。

问题是什么

用AI Agent干活的人都知道，Agent特别"啰嗦"——它会疯狂执行命令，然后把所有输出原封不动塞给自己的上下文窗口（AI一次能"看到"的信息量）。

举个例子，项目里跑个 git status：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15

On branch main
Your branch is up to date with 'origin/main'.

Changes not staged for commit:
  modified:   src/components/Dashboard.tsx
  modified:   src/hooks/useAuth.ts
  modified:   src/pages/Login.tsx
  modified:   src/utils/api.ts
  modified:   package.json
  modified:   package-lock.json

Untracked files:
  src/utils/newFeature.ts
  tests/test_newFeature.py
  ...

大概 2000个Token。

但AI真正需要知道什么？就一句话：“5个文件改了，还没commit”。

一个中型项目，AI Agent跑30分钟，光是 ls、cat、git status、pytest 这些命令的输出，就能吃掉 11.8万个Token。按主流商业API的价格算，这就是几块钱没了。

更致命的不是钱——是上下文窗口被垃圾信息占满，AI真正需要关注的代码逻辑反而被挤掉了。

RTK做了什么

RTK（Rust Token Killer） 的工作原理极其简单：

1
2
3
4
5

没有RTK：
AI → 执行 git status → 完整输出(2000 tokens) → 塞给AI

有了RTK：
AI → 执行 git status → RTK拦截 → 压缩后输出(200 tokens) → 塞给AI

它在命令和AI之间加了一层过滤器，对输出做四件事：

  • 过滤：去掉注释、空行、无关信息
  • 分组：把相似内容合并（比如按目录归类文件）
  • 截断：保留关键上下文，砍掉重复
  • 去重：把重复的日志行合并成计数

压缩效果：

命令原始输出RTK压缩后节省
ls -la完整文件列表紧凑目录树72%
git status30行状态信息一行摘要80%
pytest全量测试日志只看失败的90%
git commit完整输出“ok abc1234”92%
cargo test编译+测试全量只看失败90%

覆盖 100+ 命令：git、find、grep、各种test runner、lint工具、Docker、K8s、AWS CLI……基本你能想到的开发命令它都支持。

我的实测

装完之后我跑了两个命令测试，RTK自己的统计面板：

1
2
3
4
5

Total commands:    2
Input tokens:      987
Output tokens:     279
Tokens saved:      713 (72.2%)
Total exec time:   3ms (avg 1ms)

72.2%的节省，延迟3毫秒。完全无感。

再看一个具体对比。项目目录下跑 ls：

压缩前（原始 ls -la，987 tokens）：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

drwxr-xr-x  35 root  root   1120 May 12 06:56 .
drwxr-xr-x  35 root  root   1120 May 12 06:56 ..
drwxr-x---   3 root  root   4096 May 10 22:00 .config
drwxr-xr-x   2 root  root   4096 Apr  8 18:12 .gnupg
drwxr-xr-x   4 root  root   4096 May  6 21:30 .hermes
drwxr-xr-x   2 root  root   4096 May  7 12:48 .local
-rw-r--r--   1 root  root    37B May  2 14:25 .npmrc
-rw-r--r--   1 root  root   348B Apr  8 18:12 .profile
-rw-r--r--   1 root  root   1.1K May 12 06:51 .bashrc
-rw-r--r--   1 root  root   72B Apr  8 18:12 .zshrc
-rw-r--r--   1 root  root    13K May 12 06:52 .bash_history
...（省略20行）

压缩后（rtk ls，279 tokens）：

1
2
3
4
5

.config/  .gnupg/  .hermes/  .local/
.bashrc  1.1K  .profile  348B  .zshrc  72B
.bash_history  13.0K  .npmrc  37B
dialogs/  exes/  output/  workspace/
...（紧凑列表，无多余信息）

同样的信息量，砍了72%的Token。

它不是万能的

说几个我注意到的问题：

1. 覆盖不了AI工具的内置命令

比如某些AI编码工具有自己的 Read、Grep 内置工具，这些不走系统shell，RTK拦截不到。得手动用 rtk read、rtk grep 替代。

2. 46k Star，476个Open Issue

增长太快，维护压力肉眼可见。不过核心的命令压缩功能很稳——过滤文本输出这种事，不太容易出问题。

3. 会收集使用数据

默认有遥测上报（设备哈希+命令统计）。开源项目，代码可以审计，在意的话可以关掉。

谁该用，谁不需要

✅ 该装的：

  • 用AI Agent写代码（任何AI工具都行）
  • Token消耗大、账单肉疼
  • 上下文窗口老是不够用，AI"忘性"大

❌ 不需要的：

  • 偶尔问两句话、不跑命令
  • 不用AI做开发

怎么装

一行命令，9.5MB单文件，零依赖，装完就能用：

1

curl -fsSL https://raw.githubusercontent.com/rtk-ai/rtk/refs/heads/master/install.sh | sh

macOS 也可以用 Homebrew：

1

brew install rtk

装完验证一下：

1
2

rtk --version   # 应该显示 rtk 0.39.0
rtk gain        # 查看节省统计

如果你的AI工具在支持列表里（Claude Code、Cursor、Copilot、Codex、Gemini CLI……），跑一下 rtk init -g 自动配置。否则直接在命令前加 rtk 前缀：rtk git status、rtk pytest、rtk ls。

RTK 解决的不是什么高大上的问题——它就是在做一件事：别把垃圾喂给AI。

这件小事，省80%的Token。