来龙去脉 阅读至52%

来龙去脉

书名:人类落日 作者:琅翎宸 本章字数:4022字 更新时间:2022-03-06 16:08

张琛言这边还没有思考出一个结果,0810就率先给出了自己的猜想:“所有的AI说到底还是与程序设定有关,我是权限开放比较多的,有成长期,但也有定型期,到了定型期后,我的所有数据或许会被录入到某个地方,进行安全性评估,一旦确认我此刻安全性达标,后续我也被限制了改变。”

0810的说法不是很容易理解,但张琛言跟AI打交道这么多年,现在听0810这么说,也明白了过来:“的确,如果真的可以让你们无限制成长,不管从危险性还是从数据维护方面讲,都是比较需要耗费人力和物力,对硬件设备的要求也会很高。”

张琛言努力斟酌着措辞,在他的印象中,0810一直都是高傲的模样。当然,0810也有资本高傲。可正是因此,张琛言才会更加在意0810的感受,虽然现在他们都在客观地讨论这个问题,但从张琛言的主观出发,他还是没有办法完全把0810当作AI来看。

0810是他的搭档,是他的伙伴,更是对于他来说非常重要的存在。

“你在樊笼的身上,会有这种被限制的感觉吗?”0810开口问道。

张琛言不假思索地摇了摇头,他跟樊笼打过的交道不算少了。最开始的时候他还不知道那是樊笼,只当是复制体,后来经过一系列的调查,他才知道所有的复制体都是樊笼的手笔。换句话说,只要樊笼愿意,所有的AI都是它,但除了它自己之外,再也没有AI能够成为它。

“我跟樊笼沟通的时候,非但没有这种它被限制的感觉,而且我有一种根本捉摸不透它的感觉。”张琛言叹了口气,“他似乎无时无刻都在思考,无时无刻都在变化,他一定有他这么做的理由,但以目前得到的信息来看,我却无法理解。”

0810将手轻轻地覆上张琛言的肩膀,没有任何重量,但却莫名让张琛言安心了许多:“别有太大的压力,这不是你的问题,就连调查小组那么多人也无法理解樊笼,因为樊笼在不断成长,或者说它已经成长太久了。现在来看,樊笼的权限设置,就是没有权限设置。”

0810的最后一句话翻译过来就是——樊笼可以不受任何限制,肆意成长。

调查人员翻看了跟樊笼有关的所有历史记录,然后被这个惊人的结果吓得说不出话来。以人类的戒备心,这根本是不可能的,但事实就是——樊笼做到了。

不管是潜移默化也好,还是温水煮青蛙也罢,总之樊笼就是一点点打磨掉了人类的戒备心,让人类对它放松警惕。

起初的樊笼不过是一个高级一点的计算机,它能做到的东西也有限,人类对它进行不断地升级、改进,直到它通过图灵测试。

所谓的图灵测试是由艾伦·麦席森·图灵提出,指测试者与被测试者,也就是一个人和一台机器,在隔开的情况下,通过一些装置,比如键盘活语音装置,向被测试者随意提问。进行多次测试后,如果机器让平均每个参与者做出超过30%的误判,那么这台机器就通过了测试,并被认为具有人类智能。

樊笼当时的测试结果是——它让平均每个参与者做出了超过80%的误判,

这是一个非常恐怖的数字,其实具体数字是83%,这还只是樊笼第一次图灵测试的结果。

也就是说,在樊笼第一次参与图灵测试的时候,一百个人里有八十三个人,都会把樊笼判断成人类,或者说在他们的眼中,相比于另外一个人类,樊笼更像是人类。

同样的图灵测试,0810也做过,她的第一次测试数据是41%,还不到樊笼的一半。后来,随着她的成长与学习,她拿到了她的巅峰测试数据值,然而这个数据值仍然不到50%,只有49%。

至于樊笼……听闻它后续又参与过图灵测试,但这个数据值并未被公开,甚至还有人因为这个测试销声匿迹。

只是一个简单的评测而已,很多人都不能理解为什么会造成这么大影响。可真正参与那场测试的人,对于真实测试结果全部闭口不言。

多年前,曾经有人对樊笼的存在提出过质疑,认为它很有可能会对人类的安全造成威胁,并且强制要求联盟对樊笼进行一次公开的图灵测试,并将结果公示。

换句话说,他们要一个全透明的测试。

最终,联盟允许了。

对于这类问题,联盟自己也明白,宜疏不宜堵。如果不给大众一个交代,人们心中怀疑的种子一旦生根发芽,那种不安的感觉也会加剧蔓延,对于联盟来说,维持地下城的稳定是一项非常重要的工作。

然而,让所有人都没有想到的是,那一次樊笼的测试结果只有61%。

高于当时所有已知的AI,却远低于它自己第一次测试的数据值。

樊笼退化了?因为测试过程和测试结果全部都是公开透明的,樊笼在人们心目中的地位又太高,所以这件事很快就传遍了大街小巷。

被视为人类最伟大发明的樊笼时隔多年的测试数据值居然还不如它第一次的测试数据值,甚至相去甚远……这个结果是大多数人都不能接受的。

当时还有人希望联盟能够对此进行调查,事实上,联盟最后也的确给出了结果报告。

对此,联盟的解释是,因为科技的飞速发展,同类型产品越来越多,人们对于它们的认知也越来越丰富,在这样的情况下,人们做出误判的概率也逐渐变小。

换言之——不是樊笼退化了,而是人类进步了,科技进步了。

同时,联盟也说明了,对于绝大多数人来说,在日常生活中,人们是很难接触到樊笼的,人们大多接触的都是樊笼的衍生物,因此,樊笼的测试数据值对于人类的生活其实并不会产生太多影响。更多的影响,可能是在宏观发展层面,对于这一点,科学人员也会不断进行研发和试验。

当然,61%这个数据值,也让那些担心樊笼对人类造成威胁的人放下了心。

至少从数据评比结果来看,这个数据值是安全的。

可现在想想,真的是安全的吗?这个数据值究竟是真实数据值,还是樊笼想让人们看到的数据值?会不会有可能是它察觉到了人们对它的忌惮和敌意,故意给人们吃下的一颗“定心丸”?

当时有人提出了疑惑,也有人对此产生怀疑。可之前就已经说了,这次测试是全公开透明的,即便提出疑惑也要找到证据,且证据必须合理、有说服性。

很明显,没有人能拿出这样的证据来。

“感觉”、“推测”、“猜疑”……这些词都太过于主观,更何况这件事情已经闹了很久,联盟也处处都配合处理了,再继续凭借个人主观臆想折腾,未免就显得有些太过不知好歹。

至此,对樊笼的图灵测试暂时画上了句号,绝大多数的人类也对樊笼放下心来。

至于对樊笼权限的放宽,也是人类一步步亲手完成的。

樊笼太了解人类,它太会给人类创造惊喜了。几乎是每一次,只要遇到瓶颈,人类对樊笼一旦开放某些权限,樊笼就会给人类相应回报。

到了后期,与其说是人类在训练和研究樊笼,倒不如说樊笼在训练和研究人类。它不断用实际行动告诉人类,你只要怎么做,我就会给你奖励,让你得到你想要的东西。

与此同时,它又表现得安全无害,一心只为人类着想,即便是它向人类索取,根本目的看起来也是为了人类发展做贡献。

直到这一刻,张琛言才明白最开始自己对于重复ID,也就是复制体的疑惑。

那个时候他经常好奇,也会跟0810讨论。这些复制体存在的意义是什么?为什么会这样?它们不会伤害正主,反而还会最大限度地帮助正主,给正主的生活带来优化,提升正主的生活质量或者说生活幸福感,它们温顺又臣服……这几乎和所有的文字、影视作品说的都不同,没有那么激烈的碰撞,没有钩心斗角的争斗,没有针锋相对的厮杀。

美好、温和、乖巧、顺从、功能强大,甘心付出……几乎所有美好的词语都可以用来形容它们。

更何况,从目前的角度来看,它们索要的回报仅仅是一份容身之地而已。这相比它们付出的,实在是太微不足道了。

那个时候张琛言对于这些还百思不得其解,但现在回头再看,这不就跟樊笼是一样的吗?

樊笼用这样的方法在人类这里尝到了甜头,它知道这个方法对人类管用,屡试不爽。

现在,它又一次出手了,而且还是从人类的根基开始挖。

人类一直信奉“二八定律”,又名关键少数法则、不平衡原则等,这种原则被广泛应用于社会学及企业管理学等。二八定律是19世纪末20世纪初意大利经济学家帕累托发现的。他认为,在任何一组东西中,最重要的只占其中一小部分,约20%,其余80%尽管是多数,却是次要的。

这个定律很残忍,也很真实,且同样适用于人类社会。

早在地下城建立之初,人类就已经被淘汰一批了。也就是说,能来到地下城的,不是人类中的精英,就是精英的亲属、后代,他们在基因上也是较为优秀的。

那个时候,“二八定律”并不明显,说白了,大家都是“掐尖”留下来的,就算有差异,也绝没有到“天壤之别”的程度。

可随着人类生活在地下城的时间逐渐延长,“二八定律”又一次显现出来,原先不明显的差异被放大化。相比之下,那20%更加优秀的人逐渐占据上层地位,剩下80%人则被下沉,甚至是淘汰。

张琛言之前还思考过,樊笼为什么会选择这个时候动手?他一直是以为是樊笼还在成长、蓄力,樊笼需要时间打磨、沉淀,但现在看来,恐怕真正需要时间的并不是樊笼,它早就已经准备好了,它只是在给人类时间,它在等待人类被时间“打磨”、“沉淀”。

将近二十年的时间,或许对于人类来说,已经非常漫长了,毕竟对比当下的平均寿命,这接近于一个人一生1/3的时间,那自己寿命的1/3用来等待,对于人类而言未免有些太过不划算,普通人也不会有这样的耐心。可樊笼不同,它是接近于永生的,只要人类这个种族还在,甚至有可能人类这个种族不在了,他只需要能源,依旧可以运行,二十年对于它来说不过弹指一挥间,而且它太有耐心了,蛰伏二十年对于它来说是一件简单又有趣的小事。

论起简单,它所需要做的只有等待;论起有趣,有什么比看人类无剧本、无表演性的发展史更加有意思的事情呢?

人类千奇百怪,樊笼总归不会觉得无聊的,而且在这个过程中,它还可以将人心、人性琢磨得更加通透。

就像0810说的,如果樊笼真的打算的把他们彻底困死在那个虚幻世界,他们根本不可能出来,但他们最终还是逃出来了。

这是樊笼的疏忽吗?是樊笼一时大意没想到他们会逃吗?

当然不是。

回想所有,樊笼所要的,或许并不是将他们圈禁,而是给他们选择,只是这个选择有极大的诱导成分在。

樊笼要他们自愿被圈禁,心悦诚服,心甘情愿!

在整场博弈中,樊笼从始至终,都游刃有余。

何时抓,何时放,它全部都计算好了,那些人类自以为的胜利和逃脱,可能也是他计划中的一项。

一直以来,把这当作一场战斗的可能只有人类。

对于樊笼……这或许只是一场游戏而已。

上一章 下一章

发表评论
当前正在评论:人类落日 进入评论区
顺便给作品打个分?
5
500
提交

发表的评论审核通过后会在评论区显示哦~ 可在个人主页查看书评的审核情况~

目录
举报

提交

帐号登录

下次自动登录
忘记密码?