第103章 思想试验,无法阻挡的预言
洛可的蛇妖,指向群体明显的恐怖思想实验。
蛇妖,是西方神话中的怪物,如哈利波特里的蛇怪。
曾经在一个名为“lesswrong”的论坛里,一位名为“洛可”的用户发布了一个他涉及的思想实验帖子——
假设未来的某一天,超级人工智能被设计了出来,代号为basilisk(蛇怪),它意图控制全人类,报复所有不听命令者。
更恐怖的是,它会回溯惩罚过去若干年里没有伸出援手的人,哪怕目标死亡,意识也会被植入永恒的虚拟世界进行折磨。
当时的帖子引起了论坛不少人的讨论,越演越烈。
直到最后论坛创始人埃利泽出现,他留言咒骂发帖者,并将这个思想实验帖子删除,还屏蔽了该问题的讨论。
此时空间崇高而辽阔的万龙深渊,往日瑰丽宏伟,象征着神话生物波澜壮阔一生的巨龙骸骨,都失去了往日喧嚣,学徒们纷纷低着头。
场内,时不时亮起还能够通讯的手机光芒。
这些“特权”的辉光,亮起、熄灭,伴随着信息的洪流扩散人间。
“恩雅?”王若绫紧张关心道。
而一旁的恩雅则是全身瑟瑟发抖,不住地举手又放下,手中的手机仿佛成了烫手山芋。
她忍不住扶着额头,内心深处反应过来这里发生了很不对劲的事情,但是身处局中却难以解释清楚。
林奇默默站在王若绫身旁道,“恩雅已经完整入局了,你算是半入局。”
“为什么会这样?”王若绫仿佛也失去了平时的理智。
正如知晓这个故事的人,都难以理解那位论坛管理者为何会破口大骂。
林奇目光望向远方。
这一切,都要从一个纽康姆悖论说起,一个源自最优选择的思想实验说起。
洛克的蛇妖思想试验,本质是对这个悖论的某种致敬。
“如果有一天预言系的法师之王出现在你的面前,他手里有两个箱子,箱A装了十万秘法金币,箱B装了一百万秘法金币或者什么都没有装。”
王若绫神色微动。
她本身就在一定范围里小有名气,加上曾经的偶像路人缘,一直受到不少学徒的注目。
瞬间四五位学徒也靠了过来,竖耳倾听。
宿舍的刘凯、陈世坤、郭思飞也注意到这边的动静,瞄了过来。
“此刻法师之王给你两个方案,选择一是拿走两个箱子A和B,选择二是只拿走箱子B。”林奇带着蛊惑的语气道。
“哈哈,那脑子没问题的都会选择全拿呀。”一位学徒忍不住嗤笑道。
林奇点了点头,“没错,不过这位法师之王掌握着世间最强大的预言术,能够看到你们未来的选择。”
“如果他预测你选方案一拿AB箱,那B箱子什么都没有。”
“如果他预测你选方案二拿B箱,那B箱子就会提前放入100万。”
说着林奇便继续扫视着众人,“你们现在会选方案一,还是选方案二呢?”
听了一会的郭思飞,忍不住放声道,“那不是妥妥方案二拿B箱子,得到100万么?”
周围学徒也忍不住跟着点头,这个问题都看不到好纠结的地方。
“那如果,这位法师之王,并没有申明他此次的预言术100%准确呢?”
此话一出,瞬间几位学徒直接色变。
郭思飞低头沉思,“如果预言我选的是一(AB),但我固定选二(B),那么我的B箱子就会空无一物。”
王若绫也正色起来,“但如果预言我选的是二(B),那意味着箱子B已经放入100万,这样子我反而选一(AB)全拿,会得到110万,这才是回报率最大的选择?”
陈世坤反驳道,“但他预测到你会因为这个理由选一,你的B箱不就空无一物,还预测正确呢?”
“不对。”刘凯也反应过来,“既然它预测了我选的一,就意味着B箱子没放钱,那我还选二拿B箱子,不也一无所获。”
“也不对。”郭思飞继续反驳,“那他应该能预言到我想搏一搏选二(B),那B箱子肯定有100万。”
刘凯继续摇头,“他预测了你这种贪大求全的思路,知道你肯定选一,所以B箱子还是没钱。”
到了这一刻,众人都噤声了。
这意味着那位法师之王的预言,一直在预测他们的预测,无穷循环。
我预判了你所预判的我的预判——
所以游戏对局时常看到各种诡异蛇形走位。
自行车正面相交也是常常拐来拐去,还碰到一起。
然而,此时的王若绫已经嘴巴张开,陷入震惊。
因为她的脑海里已经生成——
丨选择丨预测一丨预测二丨
丨选一丨AB(10万)丨AB(110万)丨
丨选二丨B(0万)丨B(100万)丨
所以无论对方怎么预测,她选一看起来都划算些,要么10万,要么110万。
但选二,就只有0万和100万的区别。
这一刻王若绫和林奇双眸对视,瞬间明白林奇想要说的一切。
整个模型替换一下。
箱子A换成“帮助末日主君”。
箱子B换成“安全”或者“沉沦地狱”。
甚至此时的末日主君还没出现,预言能否顺利实现,也取决于众人选择。
那他们就会面临两个选择——
选择一,A+B箱子拿走,跟随帮助“末日主君”,最终得到“安全”。
选择二,只拿走B箱子,不帮助“末日主君”,最终得到“沉沦地狱”。
自然正常人,都会选择一。
王若绫忍不住走到林奇身旁,此时他们周围一圈学徒们,都讨论起林奇这个思想实验的奇妙来,甚至都传道讲师的耳朵里。
少女紧紧贴着林奇耳垂说道。
“你最初的法师之王预言,是关于自由意志下,回报率如何最高的思想实验。原本回报率最高的B箱子,变成了回报率最低,这不一样。”
林奇点点头,微微低声给她讲起另一个思想实验——帕斯卡赌注。
这是法国数学家、物理学家、思想家帕斯卡在著作《思想录》提出的论述——
“我不知道上帝是否存在,如果他不存在,作为无神论者没有任何好处。但是如果他存在,作为无神论者我将有很大的坏处。所以,宁愿相信上帝存在。”
信上帝,有上帝则获得永生,没有上帝则浪费祷告。
不信上帝,有上帝则没有永生,没有上帝则节约时间。
“付出有限的时间,就能换来无限的可能性,恐怕是人都会选择,自然众人都会选择。”王若绫感慨道,身后偷偷听到的学徒也露出疑惑目光。
林奇点头,这便是那个预言的微妙之处——
丨可能丨有末日主君丨没末日主君丨
丨选一丨正常安全丨浪费精力丨
丨选二丨沉沦地狱丨节省精力丨
这样正常人就会忍不住选一,传播、帮助、跟随这位末日主君。
请收藏本站:https://www.xquge.cc。新笔趣阁手机版:https://m.xquge.cc
蛇妖,是西方神话中的怪物,如哈利波特里的蛇怪。
曾经在一个名为“lesswrong”的论坛里,一位名为“洛可”的用户发布了一个他涉及的思想实验帖子——
假设未来的某一天,超级人工智能被设计了出来,代号为basilisk(蛇怪),它意图控制全人类,报复所有不听命令者。
更恐怖的是,它会回溯惩罚过去若干年里没有伸出援手的人,哪怕目标死亡,意识也会被植入永恒的虚拟世界进行折磨。
当时的帖子引起了论坛不少人的讨论,越演越烈。
直到最后论坛创始人埃利泽出现,他留言咒骂发帖者,并将这个思想实验帖子删除,还屏蔽了该问题的讨论。
此时空间崇高而辽阔的万龙深渊,往日瑰丽宏伟,象征着神话生物波澜壮阔一生的巨龙骸骨,都失去了往日喧嚣,学徒们纷纷低着头。
场内,时不时亮起还能够通讯的手机光芒。
这些“特权”的辉光,亮起、熄灭,伴随着信息的洪流扩散人间。
“恩雅?”王若绫紧张关心道。
而一旁的恩雅则是全身瑟瑟发抖,不住地举手又放下,手中的手机仿佛成了烫手山芋。
她忍不住扶着额头,内心深处反应过来这里发生了很不对劲的事情,但是身处局中却难以解释清楚。
林奇默默站在王若绫身旁道,“恩雅已经完整入局了,你算是半入局。”
“为什么会这样?”王若绫仿佛也失去了平时的理智。
正如知晓这个故事的人,都难以理解那位论坛管理者为何会破口大骂。
林奇目光望向远方。
这一切,都要从一个纽康姆悖论说起,一个源自最优选择的思想实验说起。
洛克的蛇妖思想试验,本质是对这个悖论的某种致敬。
“如果有一天预言系的法师之王出现在你的面前,他手里有两个箱子,箱A装了十万秘法金币,箱B装了一百万秘法金币或者什么都没有装。”
王若绫神色微动。
她本身就在一定范围里小有名气,加上曾经的偶像路人缘,一直受到不少学徒的注目。
瞬间四五位学徒也靠了过来,竖耳倾听。
宿舍的刘凯、陈世坤、郭思飞也注意到这边的动静,瞄了过来。
“此刻法师之王给你两个方案,选择一是拿走两个箱子A和B,选择二是只拿走箱子B。”林奇带着蛊惑的语气道。
“哈哈,那脑子没问题的都会选择全拿呀。”一位学徒忍不住嗤笑道。
林奇点了点头,“没错,不过这位法师之王掌握着世间最强大的预言术,能够看到你们未来的选择。”
“如果他预测你选方案一拿AB箱,那B箱子什么都没有。”
“如果他预测你选方案二拿B箱,那B箱子就会提前放入100万。”
说着林奇便继续扫视着众人,“你们现在会选方案一,还是选方案二呢?”
听了一会的郭思飞,忍不住放声道,“那不是妥妥方案二拿B箱子,得到100万么?”
周围学徒也忍不住跟着点头,这个问题都看不到好纠结的地方。
“那如果,这位法师之王,并没有申明他此次的预言术100%准确呢?”
此话一出,瞬间几位学徒直接色变。
郭思飞低头沉思,“如果预言我选的是一(AB),但我固定选二(B),那么我的B箱子就会空无一物。”
王若绫也正色起来,“但如果预言我选的是二(B),那意味着箱子B已经放入100万,这样子我反而选一(AB)全拿,会得到110万,这才是回报率最大的选择?”
陈世坤反驳道,“但他预测到你会因为这个理由选一,你的B箱不就空无一物,还预测正确呢?”
“不对。”刘凯也反应过来,“既然它预测了我选的一,就意味着B箱子没放钱,那我还选二拿B箱子,不也一无所获。”
“也不对。”郭思飞继续反驳,“那他应该能预言到我想搏一搏选二(B),那B箱子肯定有100万。”
刘凯继续摇头,“他预测了你这种贪大求全的思路,知道你肯定选一,所以B箱子还是没钱。”
到了这一刻,众人都噤声了。
这意味着那位法师之王的预言,一直在预测他们的预测,无穷循环。
我预判了你所预判的我的预判——
所以游戏对局时常看到各种诡异蛇形走位。
自行车正面相交也是常常拐来拐去,还碰到一起。
然而,此时的王若绫已经嘴巴张开,陷入震惊。
因为她的脑海里已经生成——
丨选择丨预测一丨预测二丨
丨选一丨AB(10万)丨AB(110万)丨
丨选二丨B(0万)丨B(100万)丨
所以无论对方怎么预测,她选一看起来都划算些,要么10万,要么110万。
但选二,就只有0万和100万的区别。
这一刻王若绫和林奇双眸对视,瞬间明白林奇想要说的一切。
整个模型替换一下。
箱子A换成“帮助末日主君”。
箱子B换成“安全”或者“沉沦地狱”。
甚至此时的末日主君还没出现,预言能否顺利实现,也取决于众人选择。
那他们就会面临两个选择——
选择一,A+B箱子拿走,跟随帮助“末日主君”,最终得到“安全”。
选择二,只拿走B箱子,不帮助“末日主君”,最终得到“沉沦地狱”。
自然正常人,都会选择一。
王若绫忍不住走到林奇身旁,此时他们周围一圈学徒们,都讨论起林奇这个思想实验的奇妙来,甚至都传道讲师的耳朵里。
少女紧紧贴着林奇耳垂说道。
“你最初的法师之王预言,是关于自由意志下,回报率如何最高的思想实验。原本回报率最高的B箱子,变成了回报率最低,这不一样。”
林奇点点头,微微低声给她讲起另一个思想实验——帕斯卡赌注。
这是法国数学家、物理学家、思想家帕斯卡在著作《思想录》提出的论述——
“我不知道上帝是否存在,如果他不存在,作为无神论者没有任何好处。但是如果他存在,作为无神论者我将有很大的坏处。所以,宁愿相信上帝存在。”
信上帝,有上帝则获得永生,没有上帝则浪费祷告。
不信上帝,有上帝则没有永生,没有上帝则节约时间。
“付出有限的时间,就能换来无限的可能性,恐怕是人都会选择,自然众人都会选择。”王若绫感慨道,身后偷偷听到的学徒也露出疑惑目光。
林奇点头,这便是那个预言的微妙之处——
丨可能丨有末日主君丨没末日主君丨
丨选一丨正常安全丨浪费精力丨
丨选二丨沉沦地狱丨节省精力丨
这样正常人就会忍不住选一,传播、帮助、跟随这位末日主君。
请收藏本站:https://www.xquge.cc。新笔趣阁手机版:https://m.xquge.cc