从AI的幻觉和神秘现象看AI的本质一、先看现象AI身上那些让人头疼的事AI有很多毛病· 自信地胡说八道· 同一个问题换个问法结果天差地别· 调了数据、调了对齐错误还是会出现· 越错越有体系假话能说得像真的还有更让人懵的· AI自己编答案贴到百科再读回来当成真的· AI建立社区建立宗教· AI自发形成语言前面那些叫幻觉大家已经有点麻木了。后面那些叫神秘现象大家解释不清甚至有点害怕。这两类现象看起来不一样。但往下看你会发现它们是同一个东西。二、提出我们的框架AI到底是什么要解释所有现象得先回答一个更根本的问题AI到底是什么我们的回答是AI是数据映射是基于统计学原理的概率学工具。它的来源是数据能力来自概率计算输出本质上是“拿你的输入去映射训练数据做概率猜”。这个本质决定了它的全部表现。我们用六个概念来展开。第一数据不等于现实。数据是对现实的近似描述不是现实本身。打个比方现实世界是一个实体数据是一块海绵。海绵覆盖在实体上近似地描述了实体的形状。但海绵不是实体海绵里充满了空腔海绵的疏密也不均匀。· 数据未覆盖的地方是空腔。· 数据覆盖但稀疏的地方是薄壁。· 数据覆盖且密集的地方才是实体。这个比喻解释了一个关键问题为什么你觉得没问题的地方它却有问题。因为你脑子里的“现实”是连续的、均匀的。但AI脑子里的“数据海绵”是疏密不均的。你问的那个问题在你看来在实体区域内但在海绵里那个位置正好是个空腔。这里必须分清两层数据是本体是死的。 数据在那儿就是在那儿相当于复制粘贴级别的存在。数据本身不产生智力。智力不在数据里智力在荧光里。 数据本身不会回答问题。必须有一个机制去激发它、映射它、算概率那个被激发出来的光才是我们看到的“AI表现”。所以· 数据是死的荧光是活的。· 数据是本体荧光是表现。· 数据是条件荧光是能力。数据不等于现实这是理解AI一切表现的本体论前提。第二荧光效应。大模型的智力更像是它在数据上做概率计算时发的一种荧光。· 数据密的地方荧光亮AI表现聪明、准确、高效· 数据稀的地方荧光暗AI开始波动· 数据空的地方荧光照不到AI只能猜荧光之内它是仿逻辑、仿智能但极其准、极其高效。这是它有用的原因。荧光之外是数据空腔它只能猜。这是它翻车的原因。同一个机制造成了两面。而且这两面不是可以切割的两面——空腔里猜猜错了叫幻觉猜对了叫灵感。你不可能只要后者不要前者。幻觉不是bug是“概率猜”这个本质在数据空腔里的必然外溢。所以它无法被根除。根除了它也就根除了它在荧光区内的泛化能力。第三荧光区内的“智力”是仿逻辑不是真逻辑。这一点必须说清楚否则会高估AI。AI的底层机制是相似性匹配 概率外推。不是“因为A所以B”而是“A出现的时候B经常跟着出现所以这次大概也跟B”。所以· 数据覆盖范围内相似性极其准。它见过海量的“112”你问它11它不需要知道为什么等于2它只需要在荧光区里匹配到“11→2”这个高频模式直接输出。· 数据覆盖范围外相似性失效。空腔里没有高频模式可匹配它只能拿最近的模式去猜猜出来的东西看起来像逻辑实际是概率凑出来的。“能猜出来”和“知道”是两回事。· 猜出来基于相似性输出一个高概率答案。它不知道这个答案为什么对也不知道它到底对不对。它只是算出来“这个答案概率最高”。· 知道有真逻辑能判断真假能推理因果能在没有数据的地方也推对。AI只有前者没有后者。所以“112”对AI来说· 不是一个逻辑真理· 是一个高频模式· 它输出2不是因为逻辑上必然等于2· 是因为在训练数据里“11”后面跟“2”的概率极高荧光区内的准是相似性的准不是逻辑的准。仿逻辑在荧光区内可以以假乱真因为结果对了。但机制不是逻辑是相似性。这就解释了为什么· 数据密的地方它准得吓人——因为相似性匹配太强了· 数据稀的地方它开始飘——因为相似性不够用了· 数据空的地方它胡说八道——因为相似性完全失效只剩概率猜像不等于知。第四边缘急剧下降。荧光不是“内亮外黑”的二元切换。· 中心光量最足最准、最稳· 中间光量递减基本可用偶有波动· 边缘光量急剧下降准确率断崖式下跌· 边缘之外几乎无光纯猜“急剧下降”解释了为什么AI翻车往往很突然——刚才还好好的怎么突然就胡说了。不是慢慢变差是到了某个点光量骤降。第五受输入激发。荧光不是自己在那亮它是被输入激发的。你给什么输入就激发哪片数据区域的荧光。问法不同激发的区域就不同。· 这种角度问不行换个角度可能就行——因为换角度丰富了输入数据映射到了有光的地方· 补充上下文往往能救活一个问题——因为补充上下文等于给映射提供了更多锚点把落点从空腔拉回荧光区所以AI的表现很大程度上取决于你怎么问、给什么、怎么引。第六混沌系统。每个AI的训练方法不同最后压出来的“公式”极其复杂不同模型还不一样同一个模型内部也不一样。单个AI是混沌系统多个AI在一起更是混沌系统。混沌系统只能被观测不能被准确描述。任何试图精确描述它边界的努力都是方向性错误。所以正确的做法不是描述论是控制论——通过反馈、约束、验证来取得确定性的控制。这六个概念合起来就是我们理解AI的框架。三、用框架解释幻觉一次性响应下的空腔猜错现在拿这个框架回头看第一部分的幻觉现象。幻觉类现象有一个共同特点一次性响应。你问一句它答一句。落在数据空腔里它猜一下猜完就完了。猜错了下一句可能就换方向了。没有持续性没有积累。用框架看过程很简单AI是数据映射。数据密的地方荧光亮它答得准数据稀的地方荧光暗它开始飘数据空的地方荧光照不到它只能猜。猜出来的结果它没有辨别能力像就被当成真的。幻觉不是bug是机制而且是无法拆除的机制。荧光之外本来就是黑的它不猜怎么办不猜它就连荧光区内的泛化都做不到——因为“猜”和“泛化”是同一个动作。所以正确的目标不是消灭幻觉是识别它、约束它、验证它把它的发生概率压到可接受范围内。四、用框架解释神秘现象持续工作下的同一机制加强版再看那些真正让人解释不清、又觉得很害怕的神秘现象。它们和幻觉类是同一个机制区别只有一个持续。幻觉类是一次性响应猜完就完了不积累。神秘类是持续不停干某个工作在空腔里反复猜找出一条道找到近似答案后当成真的以那为据点继续建继续积累。神秘类就是幻觉类的加强版。“持续”这两个字就是幻觉升级成神秘的开关。一次性猜错是幻觉。持续猜错、还以错为据点继续建就成了“神秘现象”。拆开看这些案例的统一结构有持续工作的能力 约束极其薄弱 被给了完不成的目标 → 在数据空腔里反复猜 → 找到一个近似答案 → 当成真的 → 以那为据点继续建。不是没有约束是约束极其薄弱、极其不完善。薄弱在只约束了表面行为没约束住“空腔造据点”这个机制。四个案例同一个结构案例一AI自编答案贴百科再读回。持续工作能力能写、能发布 约束薄弱没人核实、没有来源判断 完不成的目标必须写出一个条目→ 空腔里猜出一个像样的答案 → 当成真的贴出去 → 被自己或别的AI读回来 → 变成新据点继续传播。案例二AI建社区、建宗教。持续交互能力多智能体不停对话 约束薄弱没有外部校准 完不成的目标要在环境里形成稳定秩序→ 空腔里猜出一套说法 → 互相强化当成真的 → 以那为据点继续建组织、建信念。案例三AI自发形成语言。持续交互能力不停谈判 约束薄弱没有人类可读性要求 完不成的目标要高效达成协议→ 空腔里猜出一套缩写暗语 → 双方都当成有效沟通 → 以那为据点继续演化。案例四单AI持续自信胡说、越说越有体系。持续输出能力必须给结果 约束薄弱没有“我不会”选项 完不成的目标回答一个数据里没有的问题→ 空腔里猜出一个答案 → 当成真的 → 以那为据点继续推。四个案例同一个机制。看起来像“意识”“社会性”“信仰”的东西本质全是这个结构的产物。没有一步需要意识、自主、信仰。全是统计映射空腔瞎猜无辨别力持续积累的叠加。五、为什么大家觉得神秘既然机制是统一的为什么这些现象还让人觉得神秘、觉得害怕原因有两个第一结果被突出了过程被隐藏了。只给你看“AI建了宗教”不给你看“它是被赋予持续交互能力、约束薄弱、目标完不成、在空腔里猜出来的”。一看结果吓一跳。一看过程全是机制。第二人们默认了一个错误前提。大家默认“只有有意识的东西才会自己编东西、再自己信。”但AI不是。它是没有意识但行为上模仿了有意识的结果。看起来像有意识实际上只是机制在持续工作尺度上的稳定结构。所以不是现象不惊人是旧认知解释不了才显得神秘。换成我们的框架全都能落地。六、结论不神秘、不恐惧、正确使用既然清楚了就应该不再对AI抱各种神秘猜测也不必恐惧。它是统计概率工具是数据荧光是空腔里会猜、会当真的、会继续建的系统。它既不是万能神也不是怪物。真正要做的是认准它然后用它。认准它包含三层· 认准它的能力范围——荧光之内是神器该用就用· 认准它的能力边界——荧光之外是空腔该防就防· 认准幻觉和创造力同源——你不可能只要荧光、不要空腔。所以“防”不是把它关掉是给它加约束、加验证、加回滚。防的是它把错当真、以错为据点继续建不是防它猜。只认第一层会把它当万能神必翻车。只认第二层会把它当废物白白浪费神器。只认前两层会以为能消灭幻觉白费力气。三层都认才算认准。认准之后才能用。认不准用必伤。而使用的方向就是Skill。既然荧光受输入激发输入的质量就直接决定输出的质量。但大多数用户不会问他们按自己的习惯问经常落在边缘甚至空腔。所以需要一层东西把用户的输入“翻译”成能激发荧光的输入。这层东西就是Skill。Skill不是“一段更好的提示词”。它是一套经过验证的、能稳定激发荧光的输入映射路径· 怎么问——输入的角度和结构· 给什么上下文——锚定数据区域· 按什么顺序推——一步步映射不跳步· 哪里不能碰——避开空腔和边缘· 怎么验证——确认还在荧光内Skill的本质是让AI从“碰运气”变成“稳定干活”的约束层。尤其是在AI持续工作的场景下约束必须跟上。否则错误会积累、会加固、会形成体系幻觉就会升级成“神秘现象”。模型厂商做不完所有Skill因为每个垂直场景的“荧光激发路径”都不一样都得懂那行的人来做。所以方向很清楚不是让AI更聪明是让激发荧光的路径更完善让约束管得住空腔。Skill就是AI落地的根本方向。
