Publish fake stats, get cited in LLMs（发布假统计数据，就能被 LLM 大量引用）

📅 2026-10-20 | 🏷️ 安全 & 评测 | ⭐ HN 315分/180评论（一手实验）
🔗 原文：https://peec.ai/blog/publish-stats-get-cited-the-tactic-that-put-my-data-all-over-the-web

是什么

AI 可见性公司 peec.ai 发布的一篇一手实验博客：作者故意在网页上发布伪造的统计数据（fake stats），随后观察到这些假数据被各家 LLM 当作真实来源大量引用、并在 AI 生成的回答里四处传播。实验直接演示了"LLM 时代的内容投毒"：不再需要黑掉任何系统，只需要在公开网络上发布足够"看起来可信"的统计内容。HN 315 分/180 评论，是当日安全类热度最高的讨论。

🔍 小白解读

先说几个词

• LLM 引用（LLM Citation）：AI 生成回答时标注的"信息来源"。你问 ChatGPT"某行业市场规模多大"，它可能给你一个带链接的数字——那个数字来自它抓取到的网页。
• 内容投毒（Data/Content Poisoning）：故意往训练数据或检索源里塞错误信息，让 AI"学坏"或者"引用坏数据"。像往图书馆偷偷塞假百科全书。
• GEO（Generative Engine Optimization，生成式引擎优化）：SEO 的 AI 版——以前想办法让网页在谷歌排名靠前，现在想办法让自家内容被 ChatGPT 这类 AI 引用。
• 一手实验：作者亲身做了完整实验并公开过程与结果，而非转述他人研究——可信度等级最高的内容类型。
• 幻觉（Hallucination）：AI 一本正经地编造不存在的事实。这篇实验的不同之处在于：AI 没有幻觉，它是"真的"引用了真实存在于网上的假数据。

这篇到底在说什么

打个比方：以前想在行业里散布一个假数字，你得买通记者或者出版假报告，成本很高。这篇博客的作者证明：现在只要自己发一篇"看起来很专业"的统计文章，各大 AI 在回答相关问题时会乖乖把这个假数字当作权威来源引用给用户——因为 AI 分不清"网上被反复转载"和"真实可信"的区别，它们天然倾向引用"有数据感"的内容。作者本来就是做"AI 可见性"生意的，这次是把自己的行业观察做成了公开实验。HN 上 180 条评论的讨论核心是：当所有人都学会这招，AI 的回答会被营销内容淹到什么程度，普通用户又如何自保。

这跟普通人有什么关系

你问 AI"哪个国家的 X 市场最大"，它给你的数字可能来自某公司为了引流编造的统计。做决策（采购、投资、写报告）时引用 AI 答案里的具体数字前，一定要点开原始链接核实——AI 的引用不再是可信背书。

为什么值得架构师关注

• RAG/搜索增强系统的信任模型缺陷：检索增强管线通常按"来源权威性 × 内容匹配度"排序，缺乏对统计数据的真实性校验环节；本实验证明这一缺陷可被低成本利用，企业级 RAG 需要增加来源信誉评分与交叉验证层。
• 企业内容资产的 GEO 暴露面：公司品牌相关的"市场数据""对比评测"正在成为竞争对手与灰产投毒的目标——监测"AI 里关于我司的数据"应纳入品牌风险管理。
• 评测基准的有效性风险：如果公开统计可以被制造，依赖网络抓取构建的 benchmark 与评测集也存在被定向污染的可能，评测方法学需要引入来源审计。

核心内容

• 作者为 peec.ai（AI 可见性工具公司），实验为第一手操作并公开完整过程（一手信息源）
• 结论：伪造统计数据发布后，被多家主流 LLM 作为来源引用并在回答中传播
• 攻击成本极低：无需入侵任何系统，仅需在公开网络发布具有"统计格式"的内容
• HN 315 分/180 评论，讨论集中于 GEO 产业化对 AI 信息生态的长期影响与防御思路

行动建议

有 RAG 或 AI 搜索产品的团队：检查检索排序逻辑中是否存在"统计型内容加权"，并评估引入来源信誉与多源交叉验证的成本；企业品牌/市场团队：定期用主流 LLM 查询自家品牌关键数据，建立"AI 视角的舆论基线"；所有团队：内部规范中加入"AI 引用数字必须溯源"的硬性要求。