一秒记住【笔趣阁】biquge34567.com，更新快，无弹窗！
陆远等了几秒，继续说道：
“智脑有一个核心指令。这是我们从第一行代码写起就定死的——任何情况下，人类的决策权高于AI。智脑可以提建议，可以给方案，甚至可以推翻自己的方案，但最终的决策键，必须由人类的手指按下去。”
有代表站了起来。
是美利坚代表，那个曾在太平洋上与华夏对峙的前海军上将。
他的嘴唇动了一下，似乎想说什么，最终没有说出口。
陆远看向他，继续说道：
“联合理事会提议制定一份关于AI伦理的公约，我完全同意。我提议，这份公约应当包括三条核心原则。”
他举起一根手指：
“第一，禁止任何国家、任何组织、任何个人，开发具备独立自我意识的人工智能。智能可以很高，但不能产生‘我是谁’这个意识。自我意识是自由的基石，也是危险的起点。”
“第二，禁止对任何可能存在智慧生命或潜在智慧生命的星球实施殖民。宇宙很大，太阳系只是其中一粒沙。如果我们在火星上发现了哪怕一个细菌，那个细菌的演化方向，也应当由它自己决定。”
“第三，所有应用于军事领域的人工智能系统，必须保留不可移除的人工终止开关。这个开关的最终控制权，归属联合国防务理事会五人常任理事国一致决议。任何单边行动，将被视为对人类命运共同体的背叛。”
他放下手，声音恢复到正常的讲话音量：
“我是商人，不是政客。我讲不出漂亮的辞藻。我只能告诉各位——我们刚从一场星际战争中活下来。我们赢得惊险，赢得惨烈，赢得幸运。下一次，如果没有下一次的话，我们必须确保，敌人不是我们自己创造出来的。”
大屏幕上，先觉者小女孩的笑脸渐渐淡去，取而代之的是一行大字：
《星际文明AI伦理公约（草案）》
陆远向后退了一步，对着全场微微欠身：“谢谢。”
大会堂里沉默了三秒。
然后，又有人站了起来。
还是那个美利坚代表，老海军上将。
他双手缓慢而坚定地开始鼓掌。
掌声瞬间蔓延到整个会场。
法兰西代表站起来，俄罗斯代表站起来，巴西、南非、印度、东瀛、肯尼亚……
所有国家的代表全体起立。
掌声像暴风雨一样砸在大会堂的穹顶上，回荡，再回荡。
一位非洲小国的代表掌心都拍红了，镜头扫过他的脸，他眼睛里全是泪水。
东瀛代表团里，那个曾经是主战派的外相已经下台了。
新上任的代表是个矮小的白发老人，他鼓掌鼓得最用力，嘴里低声重复着一句日语。
后来的唇语专家分析那段影像时，读出了那句话的意思：
“知道了，知道了，我们知道了。”
陆远在如雷的掌声中走回座位。
李沫偏过头，压低声音对他说：“远哥，你这嘴皮子，不当演说家可惜了。”
“我可没说假话。”陆远坐进椅子里，“查查数据，大预言者那段日志是真的。”
李沫一愣：“我以为是你编的。”
“我从来不编这种事。”陆远拧开矿泉水瓶盖，喝了一口，“但我念的时候确实改了一个字。原日志写的是‘他们需要被接管’，我把‘需要’改成了‘我觉得他们需要’。多三个字，意思差很多。”
李沫瞪着他看了好几秒，最终忍不住笑了出来：“你这个人……真是厉害。”
大会进入投票环节。
秘书长站在讲台上，宣读完公约草案全文后，郑重宣布：
“现在开始表决。赞成的，请亮绿牌。”
绿光如海啸般席卷了整个会场。
193个国家，193张绿牌。
没有一张反对票，没有一张弃权票。
人类历史上从未达成过如此一致的共识。
无论在冷战时期，在反恐战争时期，在太平洋战争时期，总会有不同的声音。
但当全人类刚刚从一个共同的外部敌人手中，抢回生存权的那一刻。
当所有人亲眼看到先觉者文明，因为自己的造物而毁灭的证据时。
反对的声音消失了。
秘书长深吸一口气，敲下木槌：“决议通过。”
陆远在台下看到，晚星她们学校的老师发来一条消息。
小学六年级的道德与法治课，今天的课题临时改成了“AI时代的伦理选择”。
老师发来一张照片：
黑板上写着公约的三条核心原则，下面歪歪扭扭的粉笔字是小学生们的签名。
最小的那个签名，只有三个字：陆晚星。
他把手机递给李沫看。
李沫看了一眼，把手机还给他，转头盯着天花板看了好一会儿。
“怎么了？”陆远问。
李沫揉了揉眼睛：“没啥，有灰。”
大会结束后，陆远走出联合国大楼。
纽约的夜晚已经降临，曼哈顿的摩天大楼亮起了一排又一排的灯火。
几个小时后，这栋大楼外的广场上，公约的全文将被用三十种语言刻在一面黑色的花岗岩墙壁上。
记者们涌上来，长枪短炮对着他。
一个CNN的女记者把话筒塞到他面前：
“陆先生，您今天反复强调了人类决策权的重要性。请问，您认为智脑有一天可能背叛人类吗？”
陆远站住了：“不会。”
“为什么您这么确定？”
“因为它没有欲望。”陆远说，“大预言者背叛先觉者，原因在于先觉者给了它控制欲——他们让它觉得，只有它才能拯救源星。智脑没有‘只有我才能’这个念头。我们给它写的是——‘你提供选择，人类决定。’”
女记者追问：“如果将来某个科学家擅自修改了这条指令呢？”
“所以公约才要签。”陆远指了指身后灯火通明的大楼，“约束的不是机器，是人。公约约束的是一百九十三个国家里的每一个人——包括我。所有的科学家，所有的工程师，所有的将军，所有的领导人。这才是公约的价值。”
他钻进等待的车里。
车门关上前，最后一句飘了出来：
“AI可以是武器，伦理才是扳机。扳机在哪，未来就在哪。”
车队驶离联合国总部。
广场上那面黑墙正在吊装，几个工人小心翼翼地将第一块花岗岩面板对准基座。
石头的纹路在路灯下，泛着微微的光。