AI生成内容信任问题 零知识证明技术受关注

近期，AI生成的内容在互联网上大量传播，引发了对信息真实性的广泛关注。以伊朗冲突为例，多个虚构的战场视频在社交平台广泛传播，导致用户难以辨别真伪。这种趋势不仅限于图像和视频，还扩展到自主代理（Autonomous Agents）领域——这些程序能够浏览网页、进行交易、发布内容，甚至与人类互动，而用户往往无法识别其机器身份。

检测方法面临挑战

为应对AI生成内容，传统思路是开发检测工具，但效果有限。研究表明，通过添加模糊和失真处理，最先进的图像检测器准确率可降至4%。检测方法失效的根本原因在于攻击者拥有不对称优势，类似于杀毒软件无法根除恶意软件的结构性困境。

自主代理带来的新问题

AI不再仅仅是内容生成工具，而是开始执行具体行动。自主代理可能基于被污染的训炼数据产生系统性错误，例如在医疗账单中造成数百万美元的欺诈性收费，或利用定价漏洞导致巨额损失。由于代理的决策过程基于概率模型，同一问题两次回答可能不同，导致无法追溯其具体行为或审计其训练数据与指令。

零知识证明的技术方案

零知识证明（ZK）是一种加密技术，允许一方在不透露具体信息的情况下证明某条陈述为真。该技术最初于1985年提出，并于2016年用于验证核弹头设计而不泄露细节。如今，ZK被应用于区块链和AI领域。在媒体领域，ZK可以证明照片由真实设备在特定时间拍摄且未被修改，不泄露敏感信息。在AI领域，ZK可以在推理阶段证明特定模型和参数产生特定输出，在输入阶段证明训练数据来源合法且未被篡改，在输出阶段将结果与生成过程加密绑定，在身份层让人类证明自身为人类而代理证明自身为代理，同时保护隐私。

历史类比与政策建议

1990年代的互联网信任问题通过HTTPS协议解决——浏览器要求网站提供加密证书，否则拒绝连接。当前AI时代的信任问题需要类似机制：零知识证明作为“加密证书”，让任何参与方都能验证代理的身份、授权范围和行为约束。作者建议美国国会要求高风险AI代理（如处理金融交易或与未成年人互动）携带加密证明，并规定每一次重要行动（付款、合同、交易、数据交换）都需附有授权证明。美国国家标准与技术研究院（NIST）已开始探索零知识证明的标准化工作。

本文内容为技术观点分享，不构成任何投资建议。投资有风险，决策需谨慎。

信息来源：CoinDesk