reverify — Anti-hallucination for AI agents that read binaries（reverify：给读二进制的 agent 加防幻觉层）

📅 2026-08-31 创建 | 🏷️ 🧰 值得研究的仓库 | ⭐ 761★（上线 4 天，7 天爆发窗口）| Python
🔗 原文：https://github.com/2akouwu/reverify

是什么

一个针对「会读二进制/底层字节的 agent」的防幻觉基础设施。核心机制是 propose-verify 分离：模型提出断言，确定性工具裁决——每条关于字节内容的声明都会被标记为 VERIFIED 或 REFUTED 并附证据；已验证的事实可以跨上下文重置存活。提供 MCP server + CLI 两种接入形态。

🔍 小白解读

先说几个词

• 读二进制的 agent：分析软件成品（机器码）的 AI 助手——逆向工程、漏洞分析这类活。
• 幻觉：AI 一本正经地编造事实的毛病。分析底层程序时尤其危险，错误结论可能让安全决策全盘皆错。
• propose-verify（提议-裁决分离）：核心设计——AI 只负责提出猜测，下结论的必须是传统确定性工具的实测。像法庭上律师陈词、法官判案。
• VERIFIED / REFUTED：每条 AI 结论都带上标签——已验证属实/已证伪，附证据，不再让 AI 自己给自己打分。
• MCP：把外部工具接进 AI 的一套通用协议，相当于给 AI 装标准的「工具插座」。
• 上下文重置：AI 工作久了要清空记忆重新开始；这个项目保证已验证过的事实重置后依然在。

这篇到底在说什么

前天讲过一个类似项目：让 AI 做逆向分析、传统工具验证。这个项目（4 天 761 星）更进一步，把「AI 提议、工具裁决」做成了基础设施：AI 的每一条结论都会被打上「已验证/已证伪」标签并附证据，而且验证过的事实可以跨会话保存。它解决的是同一个行业级焦虑——AI 能产出惊人数量的分析，但没人敢直接信。与其教 AI 别说谎，不如让说谎变得不可能。

这跟普通人有什么关系

这个思路可以搬走：不管用 AI 做什么，都给自己立一条规则——「AI 说的不算，验过才算」。技术上，有安全/逆向需求的团队可以直接把这套东西接进工作流（MCP/CLI 两种接法），让 AI 分析报告的每条结论都带可查证据。

为什么值得架构师关注

agent 做逆向工程、固件分析、安全审计、编译产物检查时，幻觉的直接后果是错误的工程决策甚至安全事故。reverify 把「模型说的」和「字节里真实存在的」用证据链强制分开，是 agent 可靠性工程里少数能直接落地的模式。这个「声明必须过确定性验证才成为事实」的架构，可以推广到任何 agent 读文件/读数据库的场景。

核心内容

• 核心原则：The model proposes, deterministic tools decide（模型提议，确定性工具裁决）
• 每条声明输出 VERIFIED / REFUTED + 证据，而非让模型自我报告
• 已验证事实持久化：grounded facts survive context resets（上下文重置不丢已验证结论）
• 交付形态：MCP server + CLI，可挂进现有 agent 工作流
• 增速信号：上线 4 天 761★（7 天爆发窗口），说明「agent 验证层」需求真实存在

行动建议

团队若有二进制分析、逆向、安全审计类 agent 任务，直接按 README 跑一次 MCP 接入试点；评估点是其验证工具对目标二进制格式的覆盖面。即便不用此仓库，也建议把「声明-证据」模式写进自家 agent 的工具设计规范。