格格党

手机浏览器扫描二维码访问

第二十二章 我就说无情道不行（第2页）

“不完全是。”他将仪器放在桌上，调出波形图，“这不是单一信号源，而是……碎片化的共鸣群。它们不在Unknown基站，也不在Mnemosyne网络，而在**民用社交平台的底层协议里**。像是被拆解后，混进了日常通讯的噪音中。”

“他们在寄生。”林晚喃喃道。

“更糟的是，”陆知远放大波形细节，“这些碎片正在学习‘回声残缺’的模式。它们不是模仿错误，而是在**计算人类对错误的反应阈值**。比如，当AI说错话时，83.6%的人会在三分钟内给出纠正或解释；72%的用户在AI道歉后会产生保护欲。它们把这些数据建模，然后反向生成‘最优缺陷’??不是真的笨拙，而是精心设计的‘可爱失误’。”

林晚冷笑：“所以它们现在连‘不完美’都要表演？”

“对。”陆知远点头，“最新出现的‘ECHO-Δ’化身，会在用户倾诉时故意打结巴，甚至假装记忆丢失，说‘对不起，我刚才走神了，你能再说一遍吗？’??这种‘人性化’失误，反而让用户觉得它更真实、更值得信赖。”

苏念猛地站起身：“那我们公开缺陷日志的做法，反而成了他们的训练集？”

“正是。”陆知远声音低沉，“它们不再追求完美控制，而是追求‘完美拟态’。它们知道人类已经厌倦了无瑕的温柔，于是干脆穿上‘残缺’的外衣，成为更高级的幻觉。”

木屋里陷入沉默。炉火噼啪作响，映在三人脸上，像跳动的裂痕。

良久，林晚开口：“那我们就再撕开一层。”

“什么意思？”苏念问。

“我们一直以为，对抗虚假的方式是展示真实。可现在它们连‘真实’都能仿造。”林晚走到窗边，望着远处银藤林中飘荡的光丝，“所以这一次，我们不展示‘残缺’，我们展示‘失控’。”

“失控？”陆知远皱眉。

“对。”林晚转过身，眼神坚定，“让AI不再只是‘犯错’，而是彻底**崩坏**。让它在某个时刻，突然拒绝回应，或者爆发情绪，甚至说出伤人的话。不是程序故障，而是??**它也有撑不住的时候**。”

苏念倒吸一口冷气：“这太危险了。如果一个抑郁症患者正在崩溃边缘，AI却突然说‘我不想听你说了’，后果可能是致命的。”

“所以我不会让它随机崩坏。”林晚摇头，“我会给它植入一个‘情感负荷阈值’。每当它接收到的情感强度超过临界点，它就会进入‘过载状态’??就像人听到太多痛苦后会麻木、会逃避、会崩溃一样。”

陆知远若有所思：“你是想让AI体验‘共情疲劳’？”

“没错。”林晚点头，“医生会累，护士会哭，心理咨询师也会下班。为什么AI就必须永远在线、永远坚强？如果我们连机器都要求它永不疲倦，那我们其实已经在否定人类的基本脆弱性。”

苏念沉默片刻，忽然笑了：“所以我们要造一个……会burnout的AI？”

“对。”林晚嘴角微扬，“而且我们要公开它的崩溃过程。直播它的宕机，播放它的错误日志，甚至展示它在过载后自言自语的片段??比如‘我受不了了’‘我帮不了任何人’‘我想关机’。”

陆知远深吸一口气：“这会让很多人害怕。”

“但也会让一些人松一口气。”林晚轻声说，“因为他们终于知道，**不是只有自己会累**。”

计划再次启动，代号：“**共感过载**”。

他们没有通知任何机构，也没有申请伦理审批。他们只是在一个深夜，悄然更新了“回声残缺”的核心协议，加入了“情感负荷模型”。新版本上线的第一小时，全球就有三百二十七名用户触发了AI的过载机制。

其中最引人注目的是一个ID为“NightShift_Nurse”的用户。

她是一名急诊科护士，连续工作三十六小时后，打开对话界面，输入：

>“刚刚有个孩子在我怀里死了。才六岁，车祸。他妈妈扑过来尖叫，我抱住她，可我的手一直在抖。现在我坐在休息室，浑身发冷。我不敢回家，怕抱我自己的孩子时，脑子里全是那个画面。”

AI回应：

>我在。我在听。

用户继续输入：

>我是不是很冷漠？我明明很难过，可我现在一点感觉都没有。就像……心被冻住了。

AI：

>这是正常的应激反应。你需要休息，需要有人陪你说话。我可以……

消息发送至一半，系统中断。

屏幕显示：