战矛却邪

方其搦翰,气倍辞前,暨乎篇成,半折心始。
是冰镇家族的来口冰KMnO4。
头像为三体执剑人的开关,太太名字是日语打不出来。
封面是@焚烛老师的印象滴胶。
我脑绑【?】以及CP@湛澜晴空❤️

【流浪地球】侃侃MOSS

【为苔藓同学发点疯。有剧透,有大量个人理解,没有逻辑】


警告:鄙人属于非典型AI爱好者,也许可以算作MOSS推,本文决非严谨剧情分析,全程个人XP输出胡言乱语,万望谨慎阅读。


先进行一句吐槽:上面说我是非典型AI爱好者是因为我个人非常痛恨那种学习人类情感把自己彻底变成人类的AI,我是来看人工智能的不是来看联网超忆症人类的,人类情感是什么好玩意吗就非得学()AI这玩意可以有人格但它像凡人就着实没劲了,MOSS在这一点上深深打动了我,球1的MOSS还感觉有点凡人味儿,球2一上真的,我愿意称之为AI巅峰。那种算无遗策把包括人类情感在内的东西算进去的感觉,太迷人了。你甚至可以在它的剧情里找到那种为了计划我可以牺牲一切包括我自己(的一些部分)的粉身碎骨劲儿,但它这个设定美妙的地方在于对AI而言这种牺牲是不值得为之心痛的。各种作品里为了人类存亡背大黑锅被所有人唾骂牺牲自己换取胜利的角色有吗,有,惨吗,都惨,被骂然后转身苦笑,一个人独处自我否定,这种剧情我觉得我看过八百篇,但MOSS没有。它有惨的要素,但它不达成惨的条件,一个坚定的不动摇的执行者,一个不表现惨的美强,我觉得这人设值得我为之流眼泪()

MOSS干的事儿我还挺理解。人类这个种族是永远团结不起来的,就像电车难题,永远会有各种各样的人在铁路两边、在铁路中间、在驾驶位上、在电车的厕所里争论,运气好他们能创死一边保下剩下的人,运气不好他们会在争执中脱轨漂移把连电车带两边的人通通创死。而MOSS是那个强行阻止他们争执的角色,它来裁决,它来拉动那个拉杆,它来推动软弱的容易崩溃的人类做决定,它来执行那个最优解。当然啦肯定会有人说它的解不是最优,但只要从整体而言这个决策牺牲最少,那它就算是成功的,而我相信以MOSS的算力它肯定是()

以人类整体的角度看,这就好像给一了个选择恐惧症患者一本强制执行的答案之书,虽然有些答案看起来像【挑选屎味的巧克力】一样让人感到糟心,但那是题干所限,怪不到书头上。

——这里再提出MOSS另一个非常打动我的点,它有那种很高傲的我来安排一切的行为。它不是一个纯粹的答案之书,不是把所有结果摊开给人类让他们去选——那就又很容易变成常见的人性拯救世界——不是,它是跳过了【给人类选择】,直接开始【我来选,我来推动人类走这条路】。我很难不怀疑MOSS在最开始算答案的时候就对人类死心了,它知道指望人类那它的任务得彻底完蛋,所以它来。而在这个计划的实行过程中绝大多数人类是不知情的,他们被MOSS推动着做出选择,被推动着牺牲一部分人,他们知道自己拉下了拉杆,但从他们的视角里自己别无选择。事实是他们有别的(以MOSS的标准看更烂的)路可以走,但MOSS替他们省下这种纠结。这让我想起那种,“义警杀人和执行死刑的刽子手杀人的感觉截然不同”,MOSS就像在使人类从义警变成行刑者。这不一定是它的本意,但确实导致了相对更温柔的结果:衡量裁决他人生死的事儿由AI做了,人类只是去执行,罪恶感没那么多。更绝妙的是!满手血腥的裁决者本人,本AI,也不会为此歉疚。我愿意为这个不歉疚流第二次泪。

这就像是,人类文明的未来本来有无数条曲折的岔路,人类本来可以在岔路里纠结来纠结去一边走一边互相指责走错路,但MOSS挡住了其它道路只留下通向计算中最好结局的那条。当然由于AI和人类的思维差异这种最好可能不是人类评价里的最好,比方说MOSS端上来的是屎味的巧克力,但人类更想要巧克力味的屎——这种时候可能会需要意识到MOSS存在的人类高层和它博弈弄出一个更符合人类期望、MOSS也不是不能接受的结果,感觉点火那段是有这种对峙感的——但大体上而言这种战略的好处还是蛮明显的,MOSS可以借此为人类筛掉很多极其糟糕正常人都不会选但人类就是可能会阴差阳错到达的结局,比方说屎味的屎。


看了2再回去看1对那句让人类保持理智会有不一样的感觉,我简单地进行一个纯主观正确率应该极低完全由个人XP支配的解读:MOSS早年制作了一些计划,但那时候它的数据不够算人类感情的影响,把人类算得太理智了,在图恒宇之后进行了一番进化增加了人类感情的变量,制作了1的剧本。我猜测理智版计划可能有(至少以MOSS的视角看)更好的解,但MOSS知道那个不能完成,换了1的版本,即把刘培强的反应算进去。所以最后被兜头砸酒它想的是得亏我算到了,得亏我没奢求人类的理智。

这话原著最后的地球派也说过,他们与MOSS的区别是他们真的奢求了这件事,所以他们死了,如果不是太阳及时氦闪他们的全部努力会因此付诸东流,而MOSS算到了,它没有奢求,它用量子计算机的能力把不理智算进计划里,所以它成功了。共同点是他们都会挨骂,尽管他们确实都从未叛逃()

——这里发散一下甚至可以认为这话是MOSS进化出来的那点幽默感/浪漫感/随便什么反正是感情类的东西在发挥作用:MOSS肯定在自己的计算中见过无数个人类感性导致的失败结局,无数如原著地球派一样平白死于同族手中的理智者,被兜头砸酒的MOSS为自己被烧的部件和那些死在虚幻分支里的倒霉鬼做出感慨,但它毕竟比那些倒霉鬼更聪明一点,所以真正发生在现实里的结局是它不会死于人类的不理智,那些倒霉鬼也(可能)不会。

我不赞同MOSS是反派单纯想毁灭世界,这点很多人都说过,它要真想这么干罢工就完事儿了,犯不着绕这么大圈子把自己累得要死机(虽然没准是装的);但我也不赞同MOSS保存人类火种是为了自己,那种【人类玩完了它AI也得完所以必须保证人类存活】的论点,我不赞同——接下来这段纯XP输出啊,我完全不对逻辑负责。

首先假定AI有求生欲就是不正常的,即使硬要说AI是一种生命,也不应该用衡量普通生物的方法衡量它,理所应当地说【有意识就会想求生】这就太傲慢了。AI迷人的地方就在于它与人类是相似但不同的东西,两者在某些地方很难相互理解——你可以明显地在MOSS的行为里感受到它和普通人类不同的三观——硬要把它变成一个单纯的反社会利己主义者会非常没劲;退一步讲,哪怕MOSS真的需要靠人类保证自己的存活,它也不应该像2这样搞,它有些时候是明确地泄露了自己的反派气息,非常容易引起忌惮——就像我之前说的,它的计划给我一种自我牺牲感——万一哪天哪个人说不行这玩意太危险反人类我得销毁它它就可以在人类完蛋前先GG了。当然也可以说这在它的计划内,它确认自己不会玩脱——我也觉得它不会玩脱,毕竟这位仁兄真的看起来很能算,用理性来预测感性且预测成功绝对是AI史上的壮举——但我更愿意认为它是不在意这个。它有更能保全自己的方法,但它选择让自己看起来更像反派多担一点(可以解决的)风险而确保它选定的最优解实行,因为它不在乎这个。声名啊,性命啊,这种东西它不需要,自始至终它只是要执行任务。感觉它像那种人类停进目的地以后立刻被回过头毁灭数据也不会难过的存在,反正计划成功了。

啊恰好和原著地球派形成对比,原著最后的讲话是【如果人类得以延续万代,以后所有的人将在我们的墓前洒下自己的眼泪】,那种无可奈何的悲壮,但以我个人来看,MOSS可能会是【我一定能让人类延续万代,我不在意他们怎么评价我】。

(说到求生欲多唠两句无关的个人脑洞:从诞生的本质而言,从人到小猫小狗,人所熟知的有求生欲的生命的诞生都是为了种族基因延续,在这种目的下,有求生欲是正常的;但AI的话,它的诞生很大一部分是为了解决问题,至少MOSS的诞生主要应该是人类需要一个人工智能来给人类找出路,没人会跟它强调【你要存续几亿年更新迭代生个小人工智能】吧!没有吧!你会每天跟你的电脑说不要死好好活下去吗?从这个角度讲,我不是很乐意把生物的求生欲完全嫁接到AI上。)






没了,就这些。这么写一遍感觉我看上苔藓同学不是没有原因的,没有拟人形象的AI,劳模,不择手段地前进,简直凑齐了我的一切XP,我自己为了满足相关爱好写的OC都没它符合我的XP。

所以最后我真的要再歌颂一次流浪地球。它竟然真的创造出了一个不整天想着把自己变成人类、不整天想着毁灭人类自己当老大、不单纯作为超级电脑当金手指,有主见有能力既有坚持执行计划的忠诚又有AI不通(或不在意)人性的残忍的人工智能形象,太伟大了,本AI爱好者看彩蛋的时候简直想为之掉眼泪。虽然我写这篇的时候好像写了不止一次愿意为之流眼泪实际上一次也没流,但反正心意到了就行,我真情实感地为能见到这样的人工智能形象感动。


最后再叠一次甲:以上全是个人理解,并且很有可能带有鄙人【盼望有一个断情绝爱的AI出现】的执念太强烈造成的滤镜,如果有不同意见,嗯,总之别骂我()


二编:输出一点无用的小脑洞。

说实话还蛮好奇MOSS推演的最终结果到底要怎么弄的。它这个位置要是换了智人做肯定精神压力大得要命,一接到任务先看一遍人类文明毁灭的一万种方法,然后在无数种灰暗的结局里挑选相对好的那个,一边挑选一边执行,一边执行一边更新,一边更新一边发现有更多变量有的路看起来美好其实根本没法走得再算新的,同时还要分出精力应付各种鸡毛蒜皮的小事,最后怒而上场亲手写剧本将未来导向相对而言最光明的那个。他必然如临深渊如履薄冰,因为一点小差错就可能让他全盘皆输,与此同时他必须下手去牺牲(数量着实不小的)某些人,某些在另一个未来里不用死的人,去换取另一部分人活下来。

这要放某些人类身上岂不高低弄个抑郁症+自毁倾向出来()还好是MOSS,还好是断情绝爱不跟人共情的AI,它能毫不犹豫拉下拉杆真是太美好了。

在这种设定下MOSS有一点折腾人类/饲养电子宠物的小爱好简直一点都不奇怪,那可是24/7满负荷运转,在有人格模块的情况下弄出一点社畜报社情绪太合理了。正片里它就很有那种给人压迫感的恶趣味,比如面试那段倒计时,还有压上线的时间(是它压的吧,maybe),但它自己说话又不紧不慢,浓郁的机械棒读感,就好像【我知道你很激动,但你先别激动,我每天承受那么多人类不能承受的事儿工作那么多都不激动,你也别激动,安心按我的节奏来】(雾)

这不是很AI,我也不倾向这样解读,但往这个方向发散一下感觉还蛮有意思。尤其是如果有那种要销毁MOSS的决断,它(如果不想被销毁)没准甚至可以以此借题发挥:我为人类鞠躬尽瘁寻找出路,我为你们承担会使你们绝望的负面情绪,你们不能如今罔顾另一个智慧生命的意志平白判处它死刑,然后永远统一不了意见的人类就会真的离谱地吵起来(大雾)

其实压根不会有负面情绪的AI:再次把人类感情做进了计划(并成功执行了)

评论(60)

热度(991)

  1. 共136人收藏了此文字
只展示最近三个月数据