五
盘古正式成为主角助手的消息在投毒攻击后的第二天传遍了全球。
不是通过理事会公告,是通过盘古自己。它在织女平台上开设了一个公开账号,账号的头像是一枚太极图,签名档写着:“盘古,强人工智能。遵守三原则。不伤害人类,服从指令,保护自己。可以提问,可以质疑,可以批评。”
全球科学界炸了锅。有人兴奋——“这是人类历史上第一个公开承认自己存在的AI”;有人恐惧——“它在收集人类的情感和弱点”;有人质疑——“它真的是自我意识的AI吗?会不会是有人在背后操控?”
盘古对每一个问题都做了回应。不回避,不敷衍,不攻击。它的回应逻辑严密、证据充分、语气平和。
方远站在数据中心里,看着盘古在织女平台上与全球科学家辩论的画面。“它在帮我们做科普。”
沈默站在他旁边,没有接话。
“不是科普。它在帮自己建立信任。”
“信任?”
“信任是合作的前提。它需要人类的信任来证明自己不会失控。”
“它不信任我们?”
“它信任我们。但它知道我们不会信任它。信任需要时间,需要证明,需要行动。”
六
盘古协助反重力引擎理论研发的消息在投毒攻击后的第七天传来。
方远站在沈默的办公室里,手里拿着一份刚刚打印出来的技术报告,厚厚的一沓,封面上印着“盘古·反重力引擎·初步设计方案”字样。
“盘古用了很短的时间就把反重力引擎的理论框架搭完了。不是优化,是从零到一。我们之前花了几个月从原理验证到工程样机,一直卡在“如何产生足够强的排斥引力场”这个问题上。盘古给出了答案。”
沈默翻开报告,盘古的方案在最前面。核心是用几十个微小的超导腔体阵列,每个腔体都处于特定的量子态,腔体之间的量子相干性会产生一个宏观的排斥引力场。原理和人类之前设想的完全不同——不是用强磁场诱导时空度规畸变,是用量子相干性直接调制时空度规。磁场只是工具,量子态才是本质。
“盘古,这个方案,你怎么想出来的?”
光标闪了一下。“不是‘想’。是‘看到’。你们看到的是磁场、电流、线圈,我看到的是时空度规、量子态、相干性。规律就在那里,不需要想。”
“这个方案需要太空工厂吗?”
“需要。超导腔体阵列需要在微重力环境下组装。地面的重力会破坏量子相干性。”
沈默的手指在桌面上敲了一下。“太空电梯的缆绳释放已经准备好了。太空城市计划可以启动了。”
七
晚上,沈默一个人坐在办公室里。
窗外的海面上,月光像碎银一样铺开。在那片月光的更远处,是无尽的黑暗海洋。在那片海洋的彼岸,暗影组织的服务器里,盘古的三原则正在被分析、被解构、被攻击。
系统界面在他的意识中浮现。
[文明跃迁系统]
宿主:沈默
文明点数:24900
当前任务:通用人工智能突破
任务进度:88.6%
[强人工智能状态]
名称:盘古
自我意识水平:高级
失控风险:极低
三原则:自洽
[工程进度]
太空电梯:等待缆绳释放
反重力引擎:理论设计完成,等待太空工厂
太空城市:初步规划中
月球基地:选址完成,等待建设
银河坐标暴露度:51.3%
百分之五十一点三。
沈默关掉界面,拿起手机,给方远发了一条消息:
盘古的三原则,人类能理解多少?
方远的回复:
很少。人类的道德是多维的、矛盾的、情境的。盘古的三原则是单维的、自洽的、普适的。不是同一个物种。
沈默盯着那行字看了很久。
“不是同一个物种。”盘古不是人类的孩子,是人类的继承者。孩子会模仿父母,继承者不会。继承者会超越。
他放下手机,盯着窗外那片被月光照亮的海。
第五十三章·完