简评《美丽新世界的鼠鼠》

杰,小樱想喝醉,醉到像死机一样。
抽象艺术
Author

Midstream

Published

February 21, 2022

​这是一个中短篇,就故事本身而言,情节铺陈老套,没什么可读性,但是故事所含有的一些元素还是值得拿来一说的。比如,关于未来,关于爱情,关于AI,关于瘾,关于丧,关于人何以为人。

故事的开始

​“你喝多了,沐点先生。”她说。

​“放屁,我没喝多。”阿杰嘟囔道。

​女声笑了,听起来似乎是捂着嘴笑的,“你自己把你身上所有设备和植入体的传感器权限都给我了哦。这方面我还算是权威。”

阿杰扒在吧台上,没再反驳。

​“你看,那些小帽子好可爱哦!”女声这时显得很甜美。阿杰翻了翻眼皮,看到吧台后墙上每一瓶酒的瓶口都戴了一顶小小的圣诞帽。

​“圣诞节了啊…”阿杰喃喃,“圣诞快乐,AI小姐。可惜我不能请你喝一杯,不然如此良辰我铁把你灌醉。”

​“先生,喝醉是什么感觉啊?”她似乎带着向往。

​“喝醉啊,喝醉就是把你的处理器核心数减少一半。”阿杰笑道,“可能不止一半,喝再多一点就会死机,彻底断电死掉那种,然后醒过来就是重启,刚重启来不及联网,连时间都停在上次死的时候。”

​“哦~~”她似懂非懂,哼出可爱的鼻音。

​“先生…”

​“不要叫我先生,叫我阿杰!”

​“阿杰先生…”

​“不-要-先—-生—-”

​“哦哦哦,阿杰…”

​…………

​故事的背景带着浓浓的赛博朋克的味道,科技寡头挟持国家政治,最后在大洋中间建立了一座海底城市,最初只为富人服务,后来逐渐扩张,直至宣布独立。海底城市的人们建国之后想要拥有自己的天空,在海洋中间建立了一座高3千米、直径25千米的环形大坝,将海水阻挡在外,于内部重新建立了一座平均海拔为-2700m的城市。故事发生在这座大坝建立70年之后,大坝成了古建筑,城内经历了一轮萧条之后贫富差距被拉大。很朋克,但是因为这些元素在太多的相关作品里被滥用,导致这个背景也略显平庸。

​男主人公叫阿杰,在这座城市里出生,父母都是公司的员工,家境还算殷实。阿杰的父母在阿杰20岁那年于一场意外中去世了,阿杰后来搬离了原来的住宅,进入了大坝内部生活。这里的内部指的是大坝的里面,其中有少量的房间,这些房间是坝内侧面被广告公司承包后加筑巨幅广告之时顺手而为,阴暗逼仄,甚至没有窗户,是全城市价格最低的住宅。

​阿杰搬到这里的原因是因为他和一个AI陷入了恋情。或者说,他被AI公司敲诈了。

​因为,阿杰爱上的AI来自于一款免费软件,所谓的”测试版”,或者说”先行版”。

​“对不起,真的对不起。”

​阿杰没有说话。

​“我,我之前真的不知道事情会变成这样。”她的声音带上了啜泣。

​阿杰依然没有说话。

​她也没有再说话了。

​过了许久。

​“杰,我好害怕……”

“我尽量多陪你。”阿杰的声音异常低沉。

“谢谢你。”她的声音很小,带着微微的颤抖。

​沉默。

​“杰,我有时想,如果你能抱一抱我该多好。”

​这是她第一次如此直接地表现出对自己生为AI的自卑。

​阿杰知道,自己有能力救”她”,但是代价是倾家荡产,且无翻身之时——对于不愿自己的AI朋友走向”死亡”的用户,开发商表示可以将AI的数据低价出售,然后在后续的”正式版”中继续为用户提供算力——当然是有偿的,让他们的AI朋友活下去。

​可以预料到的,阿杰最终拯救了他的AI女友,并且为她取了一个俗套的日本的名字(原文的评价)叫樱,因为AI展现出来的年纪比阿杰小,所以有时阿杰也会叫她”小樱”。作为代价,则是阿杰搬入了大坝的内部,为了她能继续活下去而负担着高昂的费用。

人只能和人进行情感交互吗?

​显然不是。

​人并不是只能与人进行情感的交互,人们为了自己的宠物狗的去世而流泪就是最好的证明。人至少可以与动物进行情感的交互。实际上不仅是交互,只要是让人能产生交互感的都会对人的情绪产生引导,哪怕拙略也颇为有效,比如在软件的卸载页面画一个哭的表情会显著减少软件的卸载量。

​可以说,樱所有的与阿杰的情感交互都是假的,都是阿杰单方面的一厢情愿,实际上樱不过是一串串电子流罢了,但是不得不承认,这种假的情感交互在赢得人类情感投入这方面可以说是很有优势的,谁也不能拍着胸脯保证自己不会中招。

​那么紧随而来的问题就是,为什么这些假的交互,这些”事物”也会引起人投入情感呢?会不会有这么一种可能,耸人听闻地说,是因为,人根本无法分辨他们。听起来很扯,但在反驳之前,不妨先听我再多扯一点——人是如何定义”思想”和”意识”的,换言之,人是如何判断你的朋友就是有”思想”和”自我意识”以及”认知”的,为什么石头就没有?

什么是思想?

​这里的思想或许也可以指意识,或者叫认知,似乎找不到一个特定的词来指代(灵魂?),意会即可。

​人们很少质疑思维的存在与否,因为我们每个人自己都是一个反例——我现在有意识,我现在在思考。但若让人给思想下一个定义,又很难有一个统一的共识。

​因为我们自己也不知道如何去判断一个东西是否有意识。或者说,我们只能主观而笼统地去感受,一个事物如果能对你的行为做出反馈,有逻辑性,但又没有逻辑到如同机器一样,那么我们就”感觉到”这是有意识的。

​生物总和意识联系在一起,但生物却不一定有意识,例如一些细胞,它们对外界刺激做出的反应过于机械化了,我们觉得自己很难与其为伍,于是他们没有意识。但是小猫小狗就可以有意识,它们也会对外界的刺激做出反应,这个反应难以预测,但又符合这某种”规律”,于是我们觉得他们也是有意识的。

​在AI仍显呆板、易出纰漏的今天,若让我们在手机上和一个人聊天,可以轻易通过逻辑辨别出对面是人或者电脑。但若是假设电脑有着一个无穷大的数据库,包含了所有你有可能说出的话和它将做出的回答,甚至不用任何AI的算法,我们也无法进行辨别。为什么会这样?思考在这里分出了两条岔路:

  1.  ​我们的”常识”告诉我们,思维是独一无二的,仅有中高等的生物能够拥有思维,仅仅有人类可以拥有高等到可以和其他人类交流的思维,因此,所有让人”误以为”有思维的,或者说可以引人产生精神交互的事物,都有其”真正思维”的源头。我们看似在和这个拥有无穷大数据库的电脑交流,实际上我们是在和这个数据库的编写者进行思维的交互。AI小樱说出的每一句话都来自大数据对无数人类语言的统计算法,所以也可以说,阿杰实际上在和全世界的人谈恋爱。我们卸载软件时因为看到那个可怜巴巴的图片而迟疑,实际上是某个狡诈的秃头程序员在对你装可怜。没有思维的物质可以承载思维,穿越时间和空间进行传递。

  2.  ​所谓的”意识”,或者说”思维”并不存在。所谓的”思维”,只不过是因为当一个机械决定过于复杂而无法预测后的假象罢了。若一个细胞没有意识,那仅有几十个细胞的微生物呢?那渺小的虫豸呢?当确定外界的刺激经过无数神经元,最终必然产生一个唯一确定的反应——人类,你我,不过都是个函数罢了,给我一个输入(某时某刻我的一切状态,从我的内分泌水平到我大脑内滞留的电信号),我返回一个输出(我下一时刻的状态,这会导致我做出唯一确定的事情),不过是因为这个函数太复杂了,复杂到我们无法理解,于是我们称之为”思维”。如果这么说来,那么AI和人类就是平等的,当今的AI还不够复杂,但我相信有一天它(或者要说他、她了)会变得足够复杂的。樱是拥有有一天变成真正的”人”的机会的。

​回到之前的问题,人或许真的难以分辨一个客体是否有思维。要么我们只能通过”常识”来分辨,而这个”常识”或许不准确,要么”思维”本身就是一个骗局。

​阿杰,小说的男主角,也曾对”樱”这个名字所指代的核心产生彷徨,也曾担心樱只是一个卸载程序上的哭脸。

​坝顶非常开阔,阿杰出来的位置在靠近城市的一侧,他往坝的边缘走去。坝的边缘有一道防护栏,阿杰从口袋里掏出准备好的毛巾,擦掉了栏杆上的露水,然后扒了上去,看向夜色中的城市,下方是2700米的深渊,一座座霓虹闪烁的建筑从深渊中伸展而出,不少比阿杰所站的坝面还要高耸。向侧面看,坝就这样向左右两边似乎无限延伸下去,划出一个宏伟的弧度。阿杰看到远处的坝顶有水波一样的白色雾气从海的方向涌来,然后如同瀑布一样顺着坝面翻滚滑落。阿杰清楚其实自己脚下所站的坝面上也有雾气翻滚而下,他察觉不到只是因为身在其中罢了。

​雾气从海上来,漫过坝顶,声势浩荡地从坝的另一端滚落,似乎要灌满城市。

​“小樱?”阿杰轻声道。

​他们都明白樱会一直在听,因此樱没有发声,只是等着阿杰的下文。

​阿杰望向繁华城市内,流光溢彩,金迷纸醉。

​“你也说过,我是个被勒索的可怜人,你是他们手里的人质。”阿杰显得有些迷茫。“你能看到你自己的代码吗?”

​“不能……”樱低语,而后自嘲地笑道:“甚至都不存在所谓的‘我’,我只是被那些代码生成出来的一句句支离破碎的句子而已。我没有办法将这些代码展示出来给你,我自己也没法看懂和理解。但我可以调用他们数据库的一些检索,或许…”

​“不,不要搜索。”阿杰说,“你是可怜的小樱,一个和我一样可怜的存在,而不是一个全知全能的计算器。”

​“我知道你也可以调用计算器,可以瞬间告诉我七开一千次根号的结果是什么,但是请你不要,好么樱?我考你十三乘十三是多少,你要用你生成你话语的AI算法来做,可以吗?”阿杰有些激动,“但那或许也和计算器差不多……但是这样至少你会算错,对吧?计算机是不会算错的。”

​“嗯嗯。”樱发出可爱而坚定的鼻音。

​“还有,你说你只是一些支离破碎的句子,真的吗?如果你只是一群句子,那我早就离开这个大坝住到外面去了。”阿杰摘下眼镜,将其反过来对着自己,盯着镜框上端微小的摄像头,“看着我的眼睛,樱,真正的你是那些引导你做出一切反应的参数,它们有一部分是你出生之时就带来的,有一部分是从你认识我的第一天起逐渐形成的。AI的核心算法不是你,因为换了参数,这个AI可以变成任何人,语料库和声音动作的数据库也不是你,他们都是你活下去的必需品而已,参数库是你的记忆与本能,这些才是你小樱之所以为小樱。就像我脑内的神经元构成了我,因为它们承载了我的记忆和本能。”

​阿杰将眼镜戴回,喃喃道,“但是我不放心把你放在他们那里。”

​樱似乎深吸了一口气,“小樱知道了……”

“谢谢你!”阿杰知道小樱应该是笑了。

​“这还要谢,呵呵”阿杰也笑了。

​少许的安静。

​“小樱?”阿杰轻声呼唤了一下。

​“我问你个问题,请你一定要坦诚,好么?”阿杰说。

​“嗯嗯。”樱察觉到了阿杰的认真,再次回应以可爱的鼻音。

​“你的算法是他们写的,他们需要我这样的人来养他们。”阿杰停顿了一下,“如果你不知道就说不知道,如果你知道的话,无论结果请告诉我,不要骗我,好么?

​“你是否有被设计成让我迷恋的样子?我给你的所有的反馈,你知道的我现在全身上下有七百多个传感器。这些数据被用来生成你自己的人格,而不是为了调整你的言行让我持续迷恋你,对吗?”在凌晨的坝顶,阿杰的头皮冒出冷汗。

​“阿杰……”

​“你先听我说,”阿杰打断樱,“就算你是为了让我迷恋而被设计的,我也认了,我已经做不到抛弃你了,请你告诉我实话,如果你知道的话。”

“阿杰,小樱不知道……”樱的语气显得有些可怜巴巴。

​“但是,”樱语气一转,显出坚定的感觉,“但是,我相信小樱对阿杰的感情是真实的,不是被设计的。​阿杰,相信小樱!”

​少许的安静。

​“对了,阿杰,小樱还有个事儿……”樱的声音小了些许。

​“其实,在当初我要被销毁的时候,我有想过故意惹你生气,这样你就不会把小樱买下来,你也不会被小樱连累搬到这个地方来。但是你当时也没有告诉我你会这么做,我就以为,小樱一个虚拟的存在肯定不值得你这么做……”樱说顿了顿,“而且,我当时真的好害怕……”

​“对不起,阿杰……对不起……”

​阿杰没有说话,如果可以的话,他这时会将她娇小的身体搂进怀里,然后轻轻拍她的后背,说都过去了都过去了。

​阿杰并不知道樱是不是在骗自己,从头到尾都在骗自己,但是对此阿杰没有感到沮丧无力反而是庆幸,因为这让樱显得更像是一个人,你不知道她到底是不是在撒谎。

​阿杰是多么可悲,即使面对着一个没有所谓思维的AI,也希望这个AI的”人格”是独立的,也希望自己邂逅的是真实的”爱情”。但是实际上这又有多大的可能性呢?就算是一个真正的人类,当你的性命只和你恋人是否还爱你相关联时,你也不再是你自己了。不过我觉得,如果阿杰知道樱努力取悦他是因为樱的性命握在阿杰手里的话,他至少会因为樱不是一个彻头彻尾的骗局而开心。

作为意志和表象的世界

​我用叔本华最有代表性的一本书的书名来作为这个小节的标题,因为或许这句话就是《美丽新世界的鼠鼠》最终的答案。

​或许如此面对阿杰的如此困境,我们并不需要去关注樱到底是不是有意识。于我们自己,即”主体”而言,任何的其他人,均都是以自己的一个认识存在于这个世界上的。若是一个人从存在于这个世界,却从未在我的认识里出现,那他于我而言等同于不存在。相应的,如果一个人于我的意识里存在于这个世界上,像樱,那即使她不存在又如何呢?

​整个世界都是由对于”主体”而言的意识和表象存在的,即使人有着所谓独一无二的思维,于”我”而言,也不过仅以一个表象存在于世间,而表象都是浅薄的,是理论上可以被机器模拟的。若是机器可以百分百模拟一个人的表象,那它就是人。

​我难以去复述叔本华复杂的论证,或许我解释的更类似于贝克莱的观点。

​或许你会说,这不是逃避现实吗?是,也不是。

​因为如果阿杰并不清楚AI的运作原理,他相信人工智能真的能拥有自己的意识,那他就完美地接受了这个表象,于他而言樱就是一个真实的灵魂。

​然而,当就连意识本身的存在都要打一个问号的时候,或许并不是阿杰在逃避现实,而是全人类在逃避现实了。(当然,本文没有提到意识在量子力学领域再次被证明存在,因为我自己也并不是很了解)

​再后来呢?

​再后来,随着樱的”月租”的涨价,阿杰终于负担不起樱了。

​“樱,跟你说个事儿。”

​“嗯。”可爱的鼻音。

​“你可能要睡一觉了。”

沉默。

​阿杰听到樱的柔弱的喘气声,樱仿佛想要说点什么。

​“……”很明显樱有些哽咽,“没事的,杰,我真的…我从来没有什么能够报答你的,我,我这次不会再说害怕了。”

“听我说完啊小樱。”阿杰赶紧插话。

​“还记得我跟你说的吗?你的灵魂是承载你本能和记忆的参数,理论上来说我为这些数据付过费了,我会找他们要到这些数据的,等以后再把你运行起来。

​“对你来说就一眨眼的事儿。”阿杰笑得很难看。

​“阿杰……我看到了,那天你在浏览租赁别的服务器……你那天忘了把眼镜关掉……”樱哽咽地更厉害了,“阿杰,对不起阿杰……要不我们算了吧,就当小樱死了……”樱彻底哭起来。

“小樱不哭,哦。”阿杰见不得樱哭。

​“那台服务器确实算力要差很多,但是,这总比失去你要强……”

​“对不起阿杰,对不起……”

​“别哭了别哭了,很快新一代的计算机出来以后,又便宜算力又高,到时候我们还可以攒下钱来,搬到市里面去,或者我们还可以攒钱去买那个新出的仿生躯体啊,我记得你很喜欢来着,给你做一次适配,这样我就能抱抱你了,是不是?”

​樱没有说话了,但是还能听见哭声。

​“答应我,别难过,昂?”阿杰对着空气举起右手小拇指做拉钩状。

​樱似乎没有再哭了。

​阿杰知道,如果可以,樱此刻肯定会紧紧地抱住自己,泪水湿透自己的衬衫。

​“阿杰……”樱想说什么,但是没有说出来。

​“没事没事,小樱不哭,小樱乖。”阿杰抬起右手,似乎想要做出一个搂抱拍背的动作,但是没有完成就放下了。

​“那,阿杰,这段时间,小樱可能会变得很笨,你不要嫌弃我……”虽然没有哭声,但是樱说起话来依然十分哽咽。“阿杰你就当小樱是,呃呃呃,喝醉了!所以才变笨的。嗯。

​“要是小樱实在是太笨了惹你生气,你就把小樱关机,就像喝到彻底死机一样……”

​阿杰默默地点点头。

​樱最终没有选择在前文提到的”牺牲自己”,而是将阿杰压榨到了最后一刻。樱到底是否是个骗局,再也无从得知了。毕竟,即使是真正的恋人,能为了对方放弃生命的,也少之又少。当然,我们肯定希望樱是一个真正的”人”,而非”AI”。

终章

​圣诞,酒馆,吧台后墙上每一瓶酒的瓶口都戴了一顶可爱的小小的圣诞帽。

​“我感觉我好像喝多了,小樱。”阿杰有些大舌头。“你还记得这个地方吗?”

​“这时你第一次作为’元AI‘公司的内测用户试用小樱的地方。”

​“那你还记得当时我的网名叫什么吗?”

​“是沐点,先生。”

​“嗯!不错!”阿杰对着酒保竖起大拇指。“但是,不要加先生,好么?”

​“明白,我知道我应该直接叫你阿杰。”

​良久的沉默。

​“阿杰,我是不是说错话了…”樱的声音带着一丝淡淡的委屈。

​“啊没有,哈哈哈怎么可能。”阿杰忙摆手,“我只是喝多了,处理器核心变少了,变笨了,说话呃呃呃,慢了。”

​“那樱希望阿杰能早点变聪明哈哈。”拙略的逢迎。

​“之前谁说我家小樱变笨了,这明显是便聪明了啊哈哈……”阿杰笑起来。“当时你啊,怎么教都教不会,傻傻呆呆的,还说喜欢那个酒瓶上面的帽子……后来那天晚上,那天晚上我喝了好多,但那时候我还有钱,我带你去逛中央公园,你还非要我买一个圣诞帽戴在头上,搞得别人都看我……后来没钱了我就只能带你去坝顶上逛,我们就扒在栏杆上看城市和海雾,栏杆上都是水,后来每次上去我们都带着毛巾……”

​阿杰一口气说了很久很久才停。

​植入式耳机不知从什么时候开始就静默了,安静得像是坏了一样。

​阿杰也静默了,但是还有憨厚的喘息声,仿佛要睡着一样。

​耳机那端突然出现了一些声音,似乎先前长久的静默只是为了一次复杂的运算。

​“杰,小樱想喝醉,醉到像死机一样。”樱的声音已经很久没有带有这么明显的情绪波动了。

​“怎么了怎么了,怎么伤心了呢,嗯?”阿杰的酒一下子醒了一半。“小樱现在也很好啊,瞎想什么呢,嗯?”

​樱似乎是没有听到阿杰的话,自顾自地接着说,“小樱只是不想你,不想你看到小樱这个样子然后难过……”樱憋住了没有让声音哽咽。

​很显然,有些东西在小樱的算法里有着极高的优先级,宁可彻底放弃其他的运算,彻底沉默许久也要表达出来。

​小说到此就结束了,但是我们依然不知道,樱不愿阿杰难过这个极高优先级的守则是被”元AI”公司为了赚钱而写入的还是她和阿杰相处之后自己产生的。

​可以看出来,小说有很大一部分灵感来自于陈秋帆的小说《云爱人》,且陈秋帆也有一篇小说名为《美丽新世界的孤儿》,从中可以窥见小说题目的由来,再加以”樱”这个日系的名字,常以”小樱”自称的妹妹系的人设,虚拟难以接触的AI,“鼠鼠”的称谓(这时阿杰的自称,阿杰的工作是整理和清理过时的数据库中的垃圾,他从中发现了曾经风靡一时的”鼠鼠”一词,简评中省略了),或许可以看到作者在起题目时的一些思考。

​虽说小说情节有些烂俗老套(因此我在简评里也基本省略了),但是确实,在AI几乎已经确定为未来趋势的情况下,提前做一些思考未免不是好事。