“这两个词之间的区别，只取决于拿着最高权限的人是谁。”
布鲁斯没有否认这一点。
“所以我才需要你来参与设计，维克多。”
“如果把这个系统完全交给那些政客和官僚，他们会毫不犹豫地把它变成一座数字监狱。”
“但如果由我们来设计，至少，我们还能在系统里保留最基本的边界。”
“边界？”钢骨问，“比如，不记录我们的真实身份，只记录行动代号？”
布鲁斯点了点头：“我的初始方案是，每个注册的超人类都会获得一个匿名的数字授权码。”
“你们的真实身份由一个独立的、三重加密的数据库保护。”
“只有在发生重大伤亡、需要启动追责调查时，经过联合国安理会、超人类委员会以及当事方法律代表三方同时授权，才能解封。”
钢骨发出一声冷笑。
“你觉得那些政客会老老实实地遵守你设计的规则？”
“我不相信政客。”布鲁斯的声音冷得像冰，“所以我才要亲自设计系统。”
就在这时，会议桌的另一端，托尼·斯塔克的全息投影闪现出来。
他看起来明显没睡好，眼窝深陷。
钢骨看向托尼的投影：“如果接入我的母盒网络，系统的安全性会比地球上任何已知的网络都要高得多。但问题也更大。”
“母盒不是普通的计算机，它会学习，会自我扩展，会主动优化信息路径。”
“你们确定，要把这种拥有自主学习能力的东西，放进一个政治监管体系里？”
“我们刚刚因为一个拥有自主学习能力的人工智能，差点把整个地球砸成一块陨石。”托尼的语气里充满了自嘲和疲惫。
“你猜我确不确定？”
布鲁斯看了一眼情绪不佳的托尼，开口道：“所以，我们不建立拥有自主决策能力的AI，只建立一个纯粹的记录系统。”
“所有行动的审批权限，仍然由人类组成的委员会来完成。”
“母盒网络只负责信息的加密、记录、预警和异常追踪，它本身不具备任何执行能力。”
钢骨沉默了片刻，似乎在权衡利弊。
最终，他点了点头：“我可以帮你们搭建原型系统，但我有三条绝对的限制。”
“第一，这个系统本身不能拥有任何武力执行权限。”
本章未完，请点击下一页继续阅读！