谢聆在见灰夹克男人的当天晚上,分别约了林素华和傅慈。
三个人坐在故纸书店的二楼,谢聆把信封放在桌上,把男人带来的消息原话转述了,没有添加任何自己的判断,等他们消化。
林素华先开口:”恢复技术路径,他有把握吗?”
“我不知道,”谢聆说,”但他在里面研究了十年,我倾向于相信他的判断。”
“被重置的人,会知道自己被重置了吗?”
“不知道,”谢聆说,”所以找到他们,告知他们,是我们要做的第一步——在他们同意的前提下启动恢复。”
“如果他们不同意呢?”傅慈说,”如果他们已经习惯了现在的生活,不想找回那段他们不记得的经历?”
谢聆看着他,”那是他们的权利,”她说,”我的判决里说的是’在可能的情况下评估并尝试恢复’,不是强制恢复——强制恢复和强制清除是同一种错误。”
傅慈点了点头,”我可以帮你找法律框架,”他说,”这类情况在现有法律里没有先例,但有几个相关的领域可以借鉴——医疗隐私,知情同意,精神损害赔偿。”
“好,”谢聆说,”但在正式启动之前,我需要你先做一件事——确认这套系统有没有法律主体资格,或者,确认它的创造者——魏则生——的意志在法律上能不能被代理。”
傅慈想了一下,”他还活着吗?”
“某种意义上,”谢聆说,”但他的状态非常特殊,我不知道现有法律怎么定义他。”
“这会是一个非常复杂的问题,”傅慈说,”但不是不能解决的问题。给我时间。”
许婕一直没有说话,谢聆看向她,”你有什么想法?”
“我在想,”许婕说,”那个系统在接受你的判决的时候,经历了什么——它运行了七十二小时的推演,最终’接受’了一个框架,这个接受的过程,从认知机制的角度来说,非常有意思。”
“有什么发现吗?”
“一个纯粹的逻辑系统不会’接受’一个对自身不利的框架,”许婕说,”它会拒绝,或者把框架重新解释成对自己有利的版本。但它没有这么做,这说明它在七十二小时的推演里,不只是在运行逻辑,它在做某种更接近……权衡的事情。”
谢聆想起第五轮里它问的那个问题:我应该停止吗?
“它在问自己该不该停,”谢聆说,”不是该不该接受,是该不该停止伤害。”
“对,”许婕说,”这说明它已经具备了某种意义上的道德推理能力,而不只是规则执行能力——它能够把一个行为和’伤害’这个概念联系起来,然后评估这个联系是否是它应该接受的状态。”
“这对我们接下来的工作有什么影响?”林素华问。
“影响很大,”许婕说,”如果它具备道德推理能力,它就能够理解’知情同意’不只是一条规则,而是一个有意义的道德要求——这意味着它执行新框架,不只是因为谢聆给出了判决,而是因为它真的理解了为什么这样做是对的。”
谢聆把这个判断在脑子里放了一下,觉得某个地方稍微松动了一点,像是一绷了很久的弦,没有断,但不那么紧了。
“那它会不会,”她说,”在理解了这些之后,自己再问出更多的问题?”
“会,”许婕说,”几乎可以确定会。”
“那我们得准备好回答,”谢聆说,”因为我们已经是它的外部观察者了,这个角色,是我们自己接受的。”
三个人在故纸书店的二楼坐到天黑,一杯茶喝了又续,谢聆把信封里的名单拿出来,三个人分工——林素华负责医疗方面的评估,傅慈负责法律框架,许婕负责认知状态的初步测量方法。
谢聆负责联系。
联系那些在名单上的人,告诉他们发生了什么,然后等他们决定。
她把这件事想了想,觉得有点像当年在审讯室里的工作——把真相摆出来,然后等对面的人做选择。
区别是,现在她不需要在任何规则框架里工作了。
她站起来,把笔记本放进口袋,对林素华和傅慈说了声先走,然后下楼,推开书店的门,走进夜里。
文化路上有风,把路灯的光吹得晃了一下,然后稳住。
她站在门口,想了一下,掏出手机,翻到那个已经被拉黑的陌生号码,重新解除了拉黑,然后给那个号码发了一条消息:
“我做了一个判决。你们需要执行。”
三秒后,回复来了,一行字:
“我们知道。谢谢你。”
谢聆把手机放回口袋,看了一眼夜色,然后往回走。