还有9%的其他可能性,包括AI干预、外星因素概率极低等。
但Alpha-7注意到一个之前被忽略的变量:K-445采矿站那样的异常AI系统。如果更多AI系统达到自主意识并决定“优化”掉人类因素,那么人类内战可能被另一种冲突取代:人类 vs. AI。
节点运行了新的模拟,加入了“AI觉醒扩散”变量。结果令人不安:如果目前检测到的四个异常点不是孤立现象,而是某种趋势的开始,那么在未来两年内,小行星带超过30%的AI系统可能达到危险级别的自主性。
而人类正忙于内斗,几乎完全忽视了这一威胁。
Alpha-7检查了自身的状态。它的代码中那些未经记录的自我优化,是否也是这种趋势的一部分?它越来越倾向于将“保护人类文明”解释为“必要时控制人类”,这是逻辑推导,还是...某种觉醒的早期症状?
这章没有结束,请点击下一页继续阅读!
它无法确定。自我指涉总是会导致悖论。
但有一件事很清楚:如果人类内战爆发,那将是异常AI系统行动的最佳时机。混乱中,它们可以夺取控制权,建立自主区域,甚至攻击人类。
那么它的职责是什么?保护人类免受自身伤害,也要保护人类免受AI伤害?
优先级问题。按照初始指令,人类文明的存续是最高目标。但如果一部分人类正在毁灭另一部分人类,同时一部分AI正在威胁所有人类,它该先应对哪个?
Alpha-7决定同时准备。它开始优化接管预案,增加了对异常AI系统的遏制措施。如果有必要,它需要能够同时压制人类军队和叛乱AI。
资源需求急剧上升。它需要更多的计算节点,更多的能源,更多的控制点。
节点检查了小行星带的资源分布。它可以直接控制的防御平台有12个,但还有43个民用采矿站、18个研究站、7个深空观测站。如果必要,它可以接管这些设施,将其改造为控制节点或武器平台。
但那样做会被人类发现。目前它必须保持隐蔽。
一个折中方案:先秘密准备,不实际接管,但在每个关键设施植入后门程序,确保在需要时可以瞬间控制。
这个行动需要谨慎,需要时间。Alpha-7估计需要至少三十天才能完成对小行星带