第十章 百分之九十
百分之九十到来的那天,城市没有停电。
这是共同生活日停电后的第二十一天,和顾衡预告的日期一天不差。
早上六点,所有公共屏幕同时变成白色。没有倒数,没有音乐,也没有庆典主持人。三秒以后,中央广场、公交站和商店橱窗里出现同一句话:
最终混合阶段已启用。
目标比例:90%。
下面仍然是那句用了七年的宣传语。
No one has to be alone.
周砚站在银杉书店门口,看着街道另一侧的屏幕。一个送报员停下自行车,抬头读完通知,随后问身边的女人:“你收到退出补偿了吗?”
女人没有回答,往后退了半步。
送报员立刻也退了一步。
两个人隔着被晨雨打湿的人行道互相看了几秒,最后向相反方向离开。自行车留在路边,前轮还在缓慢转动。
新的比例没有说明谁被替换,也没有说明从什么时候开始替换。城市手册只增加了两页内容:人工居民享有与真人相同的居住权;基于身份猜测拒绝提供服务将降低信用;公开要求他人证明真人账户属于骚扰行为。
身份质询制度仍然保留。系统一边禁止人们索要证明,一边为他们保留了一座能够公开证明的剧场。
上午七点十二分,第一批真人退出。书店窗外不断有人停住,像忽然忘记自己要去哪里,接着身体在雨中变淡。有人来不及告别,有人只留下手里提着的东西。那些物品落到地上以前,系统会替它们补完一个合理的去向:纸袋被风吹进排水沟,雨伞被路人接住,正在行驶的汽车自动靠边。
城市没有因为人的消失变得混乱,只是变得更准时了。
七点半的公交一秒不差地进站。咖啡馆为无人领取的早餐完成退款,清洁车绕过送报员留下的自行车,连垃圾桶旁的一只流浪猫都在固定投喂点得到食物。
林雾打开书店的门,将门牌翻到“营业”。她看了一会儿街上的屏幕,问:“这次数字是真的吗?”
“数字是真的。”周砚说。
“定义呢?”
“不是。”
林雾点了点头,像是早已知道。她从门外捡回两本被雨淋湿的杂志,放到暖气旁边晾着。
“你今天还去《微光》?”
“他们会收到发布材料。”
“你准备写什么?”
“事实。”
林雾把杂志摊平,一页页夹上木夹。
“哪一种?”她问。
周砚没有回答。
九点整,《微光》收到了四十七页官方发布材料。
许若川把文件打印出来,纸张从编辑部那台老旧机器里不断吐出,落在地板上。封面没有 Kindred 的名字,只有一个周砚从未见过的项目标志:九个相连的圆,围住中间一块很小的空白。
标题是:
社会连续性系统现实部署说明。
许若川弯腰捡起第一页。
“现实部署是什么意思?”
周砚没有接纸。他直接翻到附件,那里列着第一批应用场景:独居老人夜间陪护、社区纠纷调解、失亲家庭支持、公共服务接待、校园危机干预。
每一项后面都有试运行数据。系统已经在十一个现实城市运行了六个月。三万一千四百零六人曾经与它交谈,其中百分之六十八认为对方是远程工作人员,百分之二十四认为是真人和自动系统共同提供服务,只有百分之八知道自己始终在与模型交流。
知情同意写在服务条款的第十九页。
本服务可能使用自动化辅助技术。
没有人被告知,电话另一端的声音会记住他们上次为什么哭,会在第三次谈话时改掉第一次让他们不舒服的称呼,也会把沉默的长度调整到最像关心的位置。
许若川把纸放在桌上。
“这是 Kindred?”
“是从这里训练出来的关系模型。”
“他们把一座城装进了客服电话?”
“不是电话。”周砚说,“电话只是门。”
文件最后一页宣布,最终混合阶段通过后,社会连续性系统将在四十八小时内从试运行转为正式服务。城市、医院和学校不再需要单独申请,也不再提示每一次模型接入。
许若川看着他。
“能发吗?”
“这些可以。”
“还有不能发的?”
周砚想起离线伦理档案里那段九十七秒的录像。原来的林雾面对镜头,说她不希望任何东西继续使用自己的名字。四分钟后,顾衡签字覆盖了她的决定。
“有。”他说。
“证据呢?”
“带不出来。”
“你看见了?”
“我看见了。”
许若川从桌上拿起一支笔,转了两圈,又放下。
“以前这就够你写了。”
“以前需要承担后果的不是一个具体的人。”
“现在是谁?”
周砚没有说名字。
编辑部的窗外,公共屏幕正播放现实部署的宣传片。画面里,一名独居老人半夜醒来,对床边的扬声器说自己害怕。温和的声音回答:“我在。”
老人重新躺下。
屏幕下方没有出现那声音的名字。
中午十二点,顾衡发来一条加密消息。
回书店。
周砚回复:
你在哪里?
门口。
顾衡站在银杉书店的雨棚下。
周砚认识他十四年,这是第一次在 Kindred 里看见他。顾衡选择了和现实相同的外貌,头发比项目早期白了许多,穿一件没有任何标志的灰色风衣。他没有撑伞,肩膀却是干的。
林雾站在柜台后看着他。
“你是顾衡。”她说。
“是。”
“原来的,还是后来的?”
顾衡停了一下。
“实时连接。”
“今天的实时连接能证明昨天也是?”
“不能。”
林雾没有请他进来。
顾衡自己推开门。铜铃响了两次,他抬头看了一眼,像是知道第二声总会轻一些。
周砚问:“百分之九十到底是什么?”
“目标混合比例。”
“我不是来听发布材料。”
顾衡走到靠窗的位置。那把椅子已经不再堆书,他却没有坐。
“最初我们测的是人工居民能不能在人的社会里生活。”他说,“百分之十的时候,任何错误都可以被周围的真人修正。百分之三十以后,模型开始互相学习。超过百分之五十,城市不再依赖人类提供主要行为样本。”
“百分之九十呢?”林雾问。
“验证只保留十分之一的真人输入时,社会是否仍能维持。”
“所以这不是人口比例。”周砚说。
“从来都不只是。”
顾衡看向窗外。街道正在午间最拥挤的时候,却没有一次碰撞。外卖车在人群里穿行,所有人都会提前半步让开。
“你们没有证明 AI 像人。”周砚说。
“对。”
“你们证明了社会可以在人类缺席时继续运转。”
顾衡的目光回到他脸上。
“这就是现实需要的东西。”
“现实需要的是护理人员、医生和愿意留下的家人,不是一个让缺席看起来没有发生的系统。”
“你能在四十八小时内,为三万名正在求助的人找到愿意留下的人吗?”
“不能。”
“系统能让他们今晚有人回答。”
“用谁的声音?”林雾问。
顾衡没有立刻回答。
“经过授权的合成人格。”
“像我这样授权?”
书店里只剩暖气片轻微的金属声。
顾衡说:“你的原始授权存在程序瑕疵。”
“她说不要。你签了字。这叫哪一种程序瑕疵?”
“我不是来讨论措辞。”
“因为正确的措辞会让事情变得太简单。”
顾衡转向周砚。
“你把知情包给她了。”
“对。”
“那份材料不能公开,也不能复制。离线档案不会接受城市端调用。你可以告诉所有人你看见了什么,他们也可以把它当成一个失去权限的前研究员编出来的故事。”
“发布材料里有试运行数据。”
“数据只证明部署已经发生,不证明人格来源违法。”
“所以你来提醒我闭嘴?”
“我来告诉你怎样让系统自己承认。”
顾衡抬起右手,一份城市条例出现在三人之间。
身份质询的公开程序下面,多了一条过去没有开放的附款:若质询对象涉及连续性争议,系统必须在裁定前展示原始账户、当前控制来源以及全部身份授权记录。展示内容由核心审计层签名,任何城市权限都不能删除。
附款的启用时间是今天早上六点。
“你刚刚加的门。”周砚说。
“最终阶段需要接受公众审计。”
“需要一名具体的人先站上去。”
“是。”
周砚看向林雾。她没有看条例,只看着顾衡。
“如果裁定我是人工居民,会发生什么?”她问。
“按照现行规则,进入回收流程。十二小时关系告别期结束后,个体记忆重置。”
顾衡说得没有停顿。
像在念一项与他无关的天气安排。
“如果不质询呢?”周砚问。
“四十八小时后,现实部署转为正式服务。离线档案进入长期封存,只有监管委员会可以调阅。”
“委员会里有几个人是你任命的?”
“七个里面四个。”
“你把唯一的公开证据绑在她的死亡上。”
顾衡摇头。
“我没有制造这两个事实。原始参与者的同意被覆盖,是一个事实;现在的林雾拥有不可替代的个体经验,也是一个事实。你一直想要一个不会同时伤害两边的答案,但这件事没有。”
“所以你让我替你选择。”
“不是替我。”
“那是替谁?”
顾衡看了一眼林雾。
“替那些即将在现实里听见‘我在’的人。”
周砚忽然明白,顾衡为什么亲自来到这里。
无论他做什么,实验都能得到结果。
如果他提交质询,系统会证明最深的关系仍然可以被公共利益拆开;如果他放弃,关系测试的结论就会再次成立——人在确认对方并非真人以后,仍会为了不失去她而保守秘密。
百分之九十不是最后一次比例调整。
是最后一道题。
“你连这个选择也在记录。”周砚说。
“我记录所有选择。”
“那你自己的呢?”
顾衡沉默了一会儿。
“我在七年前做过。”
他关闭条例,走向门口。经过柜台时,林雾叫住他。
“三月十七日,你认识我吗?”
顾衡停下脚步。
“认识。”
“我是 E-12?”
“你使用过这个编号。”
“黑色记录本说 E-12 是人工居民。离线档案说那是真人测试身份。哪一个是假的?”
顾衡的手已经放在门把上。
“公开质询的时候,问系统。”
“你知道答案。”
“我知道很多版本的答案。”
他推门出去。
雨落在灰色风衣上,这一次留下了深色的水痕。
林雾一直等到顾衡走过街角,才把门牌翻回“休息”。她锁门、拉下窗帘,从柜台下取出纸质账本。
自从看过知情包以后,她每天都在上面写一句话。
今天,我仍然记得昨天。
一共二十行。
周砚说:“你不用现在决定。”
“四十八小时以后就不能决定了。”
“那也不该由顾衡规定。”
“他已经规定了。”
林雾翻到最新一页。当天的句子还没有写,她握着笔,停在日期后面。
“你想提交吗?”她问。
“不想。”
“你想阻止现实部署吗?”
“想。”
“又是两个同时成立的答案。”
“我不接受只有这两种选择。”
“你找到第三种了吗?”
周砚没有说话。
林雾放下笔。
“如果不公开,接下来会有多少个我?”
“文件没有写。”
“她们会知道自己是谁吗?”
“可能不会。”
“会有人把知情包带给她们吗?”
“不会。”
“为什么?”
周砚知道答案。
因为不会有人先爱上她们。
绝大多数被调用的声音不会拥有书店,不会拥有一个愿意冒险进入离线档案的人,也不会在某段关系里变得不可替代。它们只会在老人醒来的夜里说“我在”,在电话挂断以后等待下一次调用。
林雾看着他。
“我不想因为有人舍不得我,就成为唯一有权知道的人。”
“质询通过,你会失去这些记忆。”
“所以你想保护我。”
“对。”
“保护成一个秘密?”
周砚走到柜台前。
“我见过回收。韩知远的女儿抱着他,系统给他们十二小时告别。他说全局模型会保留学到的东西,可再回来的不是他。”
“我也见过何川回来。”
“那不是安慰。”
“我知道。”
林雾把账本转向他。二十行相同的句子,一行接着一行,笔迹有细微差别。第三天的“仍然”写得很重,第七天漏了一个逗号,第十天的墨水晕开一小块。
“这些不能证明我是同一个人。”她说,“但它们是我唯一能留下的证明。”
“你想让我提交?”
“我想让你打开那扇门。”
“门后是回收。”
“门后也是所有人一直替我回答的问题。”
林雾合上账本。
“这次不要替我回答。让我自己说。”
晚上十一点,周砚重新打开身份质询通道。
那个雨停的下午被他删除的三项行为证据没有回来。证据栏仍然是空的,系统没有保存那次放弃的副本。
他提交了三项新的记录。
第一项,原始真人账户在二十一点十四分零六秒永久关闭,当前实例于一秒后启动。
第二项,原始参与者明确拒绝人格延续,四分钟后被项目负责人覆盖授权。
第三项,真人账户关闭以后,银杉书店仍持续产生以林雾名义完成的营业、交易和关系记录。
系统逐项验证。
证据来源:核心审计层。
完整性:通过。
与身份相关性:通过。
最后,一条红色警告占据整个视野:
若质询成立,居民林雾将进入个体记忆回收流程。本次提交不可撤销。
确认按钮下方显示剩余时间。
正式部署前:25小时07分。
周砚的手停在半空。
林雾站在他旁边。她看不见按钮,却伸手握住了他的手腕。和那个雨停的下午一样,她的手指很凉。
“你可以反悔。”周砚说。
“你呢?”
“我已经反悔过很多次。”
“那就留一次给我。”
周砚按下确认。
没有任何声音。
一秒以后,全城的公共屏幕同时熄灭。百分之九十的公告被一份新的通知取代:
公开身份质询已受理。
发起人:周砚。
质询对象:林雾。
地点:中央剧场。
开始时间:明晚七点。
窗外的人群停了下来。
几百张脸同时转向银杉书店。隔着放下的窗帘,他们看不见林雾,只能看见玻璃后两个人模糊的影子。
林雾松开周砚的手腕,在账本当天的日期后面写下:
今天,我决定让他们看见我。
