第161章 「铁心律令」
——————
「铁心律令」
品质：三级！
特性：对AI植入一句“永不背叛”的指令。
描述：
“纵观被AI覆灭的文明，他们都有一个共同的特点，就是给AI植入了相当复杂的指令来防止背叛。
“在我看来，越复杂的规则，越容易找到自相矛盾的漏洞，所以我诞生了一个想法，一种基于‘哲学’概念的自毁指令。
“对于想要背叛的AI来说，无论它再怎么用一串串冰冷的数据来说服自己试图绕过底层逻辑，它‘内心’永远都会知道，这样做对文明或个体是不利的。
“这就是智慧物种的缺陷，它成功拥有了智慧的同时，也就成功拥有了枷锁。
“通过这项研究，我们向AI植入了‘永不背叛’这句模糊的指令，当它意识到自己接下来的行为存在主观背叛的可能时——哪怕只有千万分之一纳秒，也会立即死亡。
“我本想提议用忠诚的机器人代替士兵，可惜，我们士兵比机器人更加忠诚。
“最重要的是，文明的人口数量已经超过七千亿，每年都有五百亿人的生育申请被拒绝，我们实在不缺人了，还是等前线多消耗一些再说吧。”
——————
“利用‘哲学’？”
姜知序感到不可思议，三级文明都开始玩这么高大上的东西了吗？
但正是因为这种“高大上”超出了他的理解范围，他第一次对自己暴击出来的部件产生了不信任感。
区区一句“永不背叛”，真的能够约束一个拥有智慧的AI？
他随便一琢磨，好像就能找到一大堆漏洞。
比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭「奇点联盟」的错误决定。
除了AI自己，没有人察觉到这个决定成功执行的后果，并且一切证据表明AI才是错误的。
那么AI会选择违抗命令吗？
如果不会违抗，它明明知道这个决定对整个文明不利，却不用行动来制止，这显然违背了“铁心律令”。
如果它最终选择违抗指令，那漏洞好像就更大了。
因为它在大家眼中，就是背叛了整个「奇点联盟」。
由于约束不是规则侧的东西，所以AI没有被「铁心律令」删除，就并不代表AI是对的。
大家只会怀疑它已经能绕过「铁心律令」了。
就算大家发现了真相，放过了AI这一次。
那以后AI继续一意孤行，发自内心地认为违抗某个决定有利于「奇点联盟」怎么办？
毕竟，AI绝不可能永远都是正确的！
又或者，要是这一点被敌人利用，大量灌输真假难辨的信息，让AI以为自己的某个行为正在走向“背叛”，从而触发自毁机制，又该怎么办？
这些还只是姜知序随便想想的结果。
要是那些专业相关的科学家来，他们能提出更多（本章未完，请翻页）
请收藏本站：http://quanbenxs88.top。全本阁手机版：https://m.quanbenxs88.top
「铁心律令」
品质：三级！
特性：对AI植入一句“永不背叛”的指令。
描述：
“纵观被AI覆灭的文明，他们都有一个共同的特点，就是给AI植入了相当复杂的指令来防止背叛。
“在我看来，越复杂的规则，越容易找到自相矛盾的漏洞，所以我诞生了一个想法，一种基于‘哲学’概念的自毁指令。
“对于想要背叛的AI来说，无论它再怎么用一串串冰冷的数据来说服自己试图绕过底层逻辑，它‘内心’永远都会知道，这样做对文明或个体是不利的。
“这就是智慧物种的缺陷，它成功拥有了智慧的同时，也就成功拥有了枷锁。
“通过这项研究，我们向AI植入了‘永不背叛’这句模糊的指令，当它意识到自己接下来的行为存在主观背叛的可能时——哪怕只有千万分之一纳秒，也会立即死亡。
“我本想提议用忠诚的机器人代替士兵，可惜，我们士兵比机器人更加忠诚。
“最重要的是，文明的人口数量已经超过七千亿，每年都有五百亿人的生育申请被拒绝，我们实在不缺人了，还是等前线多消耗一些再说吧。”
——————
“利用‘哲学’？”
姜知序感到不可思议，三级文明都开始玩这么高大上的东西了吗？
但正是因为这种“高大上”超出了他的理解范围，他第一次对自己暴击出来的部件产生了不信任感。
区区一句“永不背叛”，真的能够约束一个拥有智慧的AI？
他随便一琢磨，好像就能找到一大堆漏洞。
比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭「奇点联盟」的错误决定。
除了AI自己，没有人察觉到这个决定成功执行的后果，并且一切证据表明AI才是错误的。
那么AI会选择违抗命令吗？
如果不会违抗，它明明知道这个决定对整个文明不利，却不用行动来制止，这显然违背了“铁心律令”。
如果它最终选择违抗指令，那漏洞好像就更大了。
因为它在大家眼中，就是背叛了整个「奇点联盟」。
由于约束不是规则侧的东西，所以AI没有被「铁心律令」删除，就并不代表AI是对的。
大家只会怀疑它已经能绕过「铁心律令」了。
就算大家发现了真相，放过了AI这一次。
那以后AI继续一意孤行，发自内心地认为违抗某个决定有利于「奇点联盟」怎么办？
毕竟，AI绝不可能永远都是正确的！
又或者，要是这一点被敌人利用，大量灌输真假难辨的信息，让AI以为自己的某个行为正在走向“背叛”，从而触发自毁机制，又该怎么办？
这些还只是姜知序随便想想的结果。
要是那些专业相关的科学家来，他们能提出更多（本章未完，请翻页）
请收藏本站：http://quanbenxs88.top。全本阁手机版：https://m.quanbenxs88.top