社交媒体正被各种“AI slop”填满画风奇怪的风景图、复制粘贴的评论、自动生成的短视频旁白。内容生产成本近乎为零识别成本却不断上升。Pangram联合创始人兼CEO Max Spero对此并不意外更让他警惕的是AI生成内容已经进入求职简历、商品评论和保险理赔等真实场景。过去几年一批初创公司涌入AI检测赛道试图用模型识别模型。而Spero想提醒的是AI检测远不是“Real or Fake”那种二选一游戏。为什么不是“真假”判断题真实世界的内容很少是纯粹的“真”或“假”。一段文字可能是人类写完再用AI润色一张图片可能是基于真实照片做生成式修改一段录音可能只是降噪但关键部分由AI合成。Spero将这种状态称作“连续光谱”中间是大量协助与虚构交织的灰色地带。“检测器面对的不是一套固定伪造模式而是不断迭代的生成模型。今天可识别的特征明天可能已经消失。”——Max Spero更棘手的是对抗攻击改写同义词、加入噪声、破坏水印都可能让检测系统失效。传统的“找不同”式鉴别在这样一场攻防博弈中难以维持稳定。一场未必有终点的军备竞赛行业目前的检测路径大致包括统计分类器、生成模型水印与来源认证。OpenAI曾上线AI文本分类器最终因准确率不足而关闭。这个案例证明单点检测工具很难在开放世界长期有效。Spero认为真正可行的方案不是给内容贴“真/假”标签而是把验证嵌入生产流程。Pangram试图提供一套整合多信号的验证层内容是否为模型生成、指令链是否透明、使用者身份是否可追溯。这项工作没有太多先例也很难一劳永逸。检测的两难漏判与误伤另一个严峻挑战是误报。检测系统漏判会让AI造假继续泛滥误伤则会删除真实用户的内容甚至影响他们的声誉与生计。Spero表示比“能否识别AI”更重要的是“能否承担误判代价”。检测结果必须附带置信度与证据而非简单下结论。“模型在变数据在变攻击方式也在变。如果把AI检测看成静态判断题很快就会被现实教育。”——Max Spero编者按需要“可信上下文”编者按AI检测不是精巧的智力游戏而是一种新数字基础设施。它的难点不在识别某个单一伪造而在于为整个网络建立可信内容路径。未来也许没有绝对“真实”只有更可验证、更可追溯的上下文。当每个人都能生成一切“验证”就会成为基础服务。Pangram的观点提示我们AI检测的答案不会藏在二分法里而是需要产品、规则与公共基础设施共同回答。本文编译自TechCrunch本文首发于赢政天下 (https://www.winzheng.com/article/ai-detection-harder-real-or-fake)获取更多深度技术内容与资源欢迎访问官网。
