ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

1024 写给极客:能复现、能退出,才有资格谈信任

1024 写给极客:能复现、能退出,才有资格谈信任

我喜欢“代码即法度”这句话的锋利,也越来越在意它省略了什么。代码可以稳定执行一条错误规则,可以忠实处理一份虚假输入,还可以把一个暂时占有管理员密钥的人变成事实上的裁判。把这些问题都交给“数学不会骗人”,只是把信任藏到了别的地方。

对写 AI 与 Web3 应用的人而言,今年的变化很具体:模型可以起草补丁、生成测试、整理证据;智能账户可以承载更细的权限。我们获得了更大的行动半径,也必须回答更细的问题:哪些工作真的发生了,谁允许它发生,出错之后谁有权停下?

开放标准的价值在于能够带走什么

Anthropic 在 10 月 22 日宣布将 Agent Skills 标准捐赠给 Agentic AI Foundation。对工程师更实际的问题,是一份工作流是否依赖某个平台的隐含状态,换一个执行器后还剩下多少可复现内容。公告

一个技能目录可以保存说明、脚本和参考资料,但可读的文本并不会自动变成可信的执行权限。接手者仍要检查环境要求、脚本来源和工具边界,尤其不能让下载来的说明替用户批准转账或发布。格式规范

我更愿意用三个问题判断一个开源 Agent 项目是否方便交接:没有作者陪着,别人能否重跑一个小例子;没有作者持有的私钥,用户能否撤销授权;服务停了以后,数据和资金有没有清楚的退出路径。它们都比仓库里是否放了一句宏大的愿景更难伪装。

可验证也有它不回答的问题

哈希能帮助发现文件改动,不能证明文件里的叙述属实;约束检查器能验证被写下的关系,不能替人选择应该检查的关系;合约可以拒绝越权请求,不能自行判断管理员设计的权限是否合理。

这不削弱这些工具的价值。相反,知道它们不回答什么,才知道下一份证据该去哪里找。部署字节码与源码之间的对应,需要构建记录;预言机值与真实世界之间的对应,需要数据源和更新规则;模型的解释与实际工具调用之间的对应,需要可追踪产物。

以太坊基金会的审计经验把候选报告与可复现发现分开,也让我更愿意把“还不知道”保留在日志里。模型可以在一分钟内写出很长的结论,但一个能被其他人重跑的失败用例往往更有用。审计经验

给不可撤销的系统留一个慢一点的环节

开放并不意味着每个动作都应自动执行。提案和执行分离、升级前留下审阅时间、关键权限可以撤销,这些看起来不够激进的机制,才让普通使用者有机会理解变化并选择离开。时间锁不是安全的万能解,但它明确承认了一个事实:用户需要时间作决定。时间锁与退出窗口

本文是关于工程选择的讨论,没有宣称作者运行过某个主网 Agent、完成过未公开的审计或取得任何投资收益。新的工具值得尝试,旧的工程习惯也值得保留:说明输入,记录结果,承认边界,把控制权交还给承担后果的人。对我而言,这样的 1024 纪念,比一段“代码永生”的宣言更踏实。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进