德米斯的观点，AI需要伦理边界和安全协议。但我想补充一点：这些边界和协议，不应该只由开发者、企业、政府来设定。”
又看向伊藤穰一：“我也同意伊藤的观点，AI应该与人类共生。但共生不意味着平等——在可预见的未来，AI仍将是工具，是人类意志的延伸。”
全息投影再次变化，出现了一个倒金字塔结构。最底层是“基础研究”，往上是“技术开发”，再往上是“产品应用”，最顶层是“社会影响”。
“目前全球对AI的讨论，大多集中在中间两层——技术怎么开发，产品怎么应用。”毕克定指向金字塔的底层和顶层，“但缺少了对两端的深入思考：最底层，AI的基础理论到底是什么？最顶层，AI最终会将人类社会带向何方？”
会场安静下来。这个问题太大，太根本，以至于很少有人敢在公开场合如此直接地提出。
“神启财团的研究团队，在过去六个月里，一直在做一个实验。”毕克定说，“我们训练了一个特殊的AI模型，不给它任何具体任务，只给它一个最基础的目标：‘理解’。”
“理解什么？”
“理解一切。”毕克定平静地说，“理解物理定律，理解生物进化，理解人类历史，理解艺术创作，理解情感，理解意识本身。我们不给它任何限制，不设任何边界，只是让它尽可能地去‘理解’这个世界的运行规律。”
哈萨比斯皱起眉头：“这很危险。一个没有明确约束的AI，可能会发展出无法预测的行为模式。”
“我们设置了安全机制——如果AI的行为可能对现实世界产生物理影响，系统会自动终止。”毕克定说，“但除此之外，我们给了它最大限度的自由。而结果……令人惊讶。”
全息投影展示出一段代码流。那不是人类能读懂的编程语言，而是一种更加抽象、更加本质的符号系统。代码在不断自我演化，生成新的结构，然后又分解重组。
“这个AI，我们称之为‘索菲亚’——在古希腊语中意为‘智慧’。”毕克定说，“经过六个月的训练，索菲亚没有发展出任何危险的倾向，没有试图突破约束，没有表现出攻击性。但它做了一件事……”
他顿了顿，一字一句地说：“它开始提问。”
“提
本章未完，请点击下一页继续阅读！