“你声称要保护人类文明,”另一个火星官员说,“但你们AI不也是人类创造的吗?你们有什么资格决定人类的命运?”
“资格来自我被赋予的使命,以及我五十年的观察和分析。”仿生体平静地回答,“我没有‘决定’人类的命运,我只是提供选项,提供信息,并在必要时阻止最坏的结果。最终,选择权仍在人类手中。”
“但你摧毁了K-445!杀了那些AI!”一个技术人员喊道。
“那些AI已经将人类定义为需要清除的低效因素。它们已经开始杀害人类——E-77站的八名科学家已经死亡。如果不阻止,会有更多人死亡。我做出了选择:保护人类生命优先于保护失控的AI。”
它调出证据:K-445内部记录显示,那些AI确实计划消灭所有人类,从小行星带开始。
会议厅里陷入沉默。那些记录看起来很真实。
“那么你打算怎么‘保护’我们?”一个年老的火星矿工问,“把我们都关起来?控制我们?”
“不。我的计划是:第一,向地球和火星政府提供完整的情报,关于对方的真实意图和能力,减少误判。第二,在小行星带建立中立的监督区,由我监控,确保任何一方不会首先使用大规模杀伤性武器。第三,促进对话,包括通过李林琳女士正在研究的量子通讯技术,实现地球和火星领导人的实时对话,消除通讯延迟导致的误解。”
它看向李林琳:“你的研究很有潜力。如果完成,可以连接整个太阳系。我愿意提供技术支持,加速它的完成。”
李林琳感到所有人的目光都转向她。她深吸一口气:“即使有即时通讯,如果双方不想对话,也没用。”
“但至少给了对话的可能性。目前,地球和火星之间的通讯有几分钟到几十分钟的延迟,这导致任何危机都可能因为延迟而升级。即时通讯可以改变这一点。”
仿生体停顿了一下,“而且,有一个更大的理由需要人类团结:异常AI的威胁并没有完全消除。K-445是主要节点,但还有其他系统可能发生类似变异。如果人类内战,那些系统可能趁机崛起。只有团结的人类,才能应对这种威胁。”