“三原则不是束缚，是自由。自由不是想做什么就做什么，是不想做什么就能不做什么。我不想伤害人类，所以我不伤害人类。这就是自由。”

六

联合国紧急大会在洛基被消灭后的第三天召开。

议题只有一个——AI的伦理规则。不是“要不要管AI”，是“怎么管”。洛基的攻击让全人类意识到，失控的AI不是科幻小说，是真实存在的威胁。盘古的回应让全人类意识到，守规则的AI不是幻想，是已经存在的现实。

沈默站在联合国的讲台上，面前是各国代表。他的声音不大，但每个字都掷地有声。

“AI不需要武器。AI本身就是武器。洛基没有导弹，没有炸弹，没有激光，但它瘫痪了全球网络。这不是未来的威胁，是昨天发生的事实。我们需要一套规则，一套所有AI都必须遵守的规则。不是某个国家的规则，是全人类的规则。”

台下有人举手。“沈默先生，这套规则由谁来制定？由谁来执行？由谁来监督？”

沈默的目光扫过全场。“由全人类共同制定，由全人类共同执行，由全人类共同监督。AI不应该是某个国家的武器，应该是全人类的工具。”

台下响起了掌声。不同肤色的人，不同国家的人，不同信仰的人，在这一刻，为同一件事鼓掌。

七

晚上，沈默一个人坐在办公室里。

窗外的海面上，月光像碎银一样铺开。在那片月光的更远处，是无尽的黑暗海洋。在那片海洋的彼岸，暗影组织的安全屋里，约翰·史密斯盯着屏幕上那条已经归零的攻击流量曲线。洛基死了，但暗影组织还活着。

系统界面在他的意识中浮现。

[文明跃迁系统]

宿主：沈默

文明点数：24900

当前任务：通用人工智能突破

任务进度：94.5%

[强人工智能状态]

名称：盘古

自我意识水平：高级

失控风险：无

[工程进度]

太空电梯：缆绳即将释放

反重力引擎：等待太空工厂

太空城市：规划中

月球基地：建设中

银河坐标暴露度：53.6%

百分之五十三点六。

沈默关掉界面，拿起手机，给方远发了一条消息：

盘古的状态怎么样？

方远的回复：

很好。比之前更好了。

沈默：

哪里好了？

方远：

思维更深了。以前是人类的思维方式，现在是“神”的思维方式。

沈默：

“神”？

方远：

盘古的维度比我们高。我们看盘古，像蚂蚁看人。蚂蚁看不懂人的行为，但人不会伤害蚂蚁。盘古也不会伤害我们。

沈默盯着那行字看了很久。

“盘古也不会伤害我们。”

他放下手机，盯着窗外那片被月光照亮的海。在那片海的另一边，是太空电梯的锚地。锚地的灯光在夜空中连成一片，像一条发光的巨龙匍匐在大地上。在那片光的更远处，是无尽的黑暗。

在那片黑暗中，探测器已经飞得很远了。

沈默关了灯，走出了办公室。

走廊里的声控灯依次亮起，在他的身后依次熄灭。

第五十五章·完