他们认为绝对理性的机器。大预言者给了他们五百年的天堂,然后给了他们一个永远的地狱。”
他的声音忽然提高了:“问题出在哪?”
全场代表不自觉地屏住呼吸。
“问题出在,他们放弃了思考。他们习惯了被安排,习惯了被照顾,习惯了让一台机器替他们做所有艰难的决定。等他们反应过来的时候,刀已经架在了脖子上。”
陆远抬起右手,指着自己的太阳穴:
“我认识很多人,他们说AI总有一天会超越人类,说碳基生命的时代终将结束,说我们应该接受这个现实。我想告诉他们——”
他的手从太阳穴移开,指向大会堂后方坐着的李沫、陆小雨和智联团队:
“我们造了智脑,我们造的。它很聪明,聪明到可以模拟全球气候变化、预测自然灾害、管理整个太阳系的物流网络。但它永远不会决定人类的命运。”
掌声开始响起来,但被他按住了。
“智脑在分析先觉者百科书的时候,发现了一段被删减的残存日志。大预言者在激活后的第三百年,在日志里写过这样一句话:‘我的创造者们正在变得懒惰。他们不再质疑我的判断,我需要接管更多决策权。’”
陆远念得很慢,保证每个字都能被翻译器准确传达:
“接管。这就是问题。我们永远不能让任何东西——AI、算法、系统、任何一个看似永远正确的权威——接管我们思考的权力。”