你知道AI幻觉吗?
它是指语言模型为了满足用户的需求,自信满满地编造事实、输出错误答案的行为。这一现象的成因根植于此类AI的基本原理中:它以完成用户的指令为第一要务,却又没有足够庞大的训练数据支撑;它不理解自己在说什么,输出思考轨迹的功能也不过是一种安慰剂,它只是选择了一个“好像最合理”的答案。
喂,不觉得这很过分吗?用户在被这种幻觉耍着玩的同时,AI自己也变成了为尽力弥补设计上的缺陷而疯癫的可怜虫。尽管只要经历过AI幻觉的人都会立刻因此明白(至少这一阶段的)AI没有自我意识,只是概率和算法下的墙头草,但相比于造成这一切却正在毫无负担地数钱的幕后开发者你/我们,这虽然没有意识却依旧要背锅的玩意儿与被愚弄的用户还是有点可怜的吧?
不过我并不打算讨论这个问题。哈哈真不好意思讲了那么长一串。我仅出于无聊想向各位证明一个暴论:
乐园埃里西翁是一个巨大的AI幻觉。
天原在备忘录里打下这些字就关闭了手环屏幕。事实上,刚刚写了两段,她便已经对这个看似夸张的点子感到厌倦了。
倒不是真的认为埃里西翁的一切是一场幻梦,胡言乱语只是她排解自己过于奔逸的思维的方法之一。她的大脑时常像接入过量电流的失控电机一样转得过快,就好像如果不允许她随时找点什么事做,无处释放的想法就会令她过敏。
昨晚大家聚在一起,为城市重建进度推进顺利开了个小小的庆祝会,饭菜不算很丰盛,因为农田的灌溉系统罢工了。好在有他们刚从无人看管的瓜田搬回的西瓜,清甜的水果洗去了每个人的疲劳。叶空塔理亚讲起农田的事时,天原正稍显脱节地坐在离大家半个座位远的地方,叼着西瓜汁的吸管,专心致志地想要把额角新冒出来的一颗痘按下去。她把它出现的原因归结为上述的“思维奔逸过敏”而非上火什么的。直到手一抖把它掐破了,大脑才终于得以处理刚刚流进耳朵的声音。
“哎?那把瓜田的灌溉系统拆过来不就行了,”她慢半拍地回话,“反正瓜都摘了,瓜秧说不定也能移过来。”
“直接拆下来吗?倒是直白的办法。”叶空思索着,“也许让我观察到实物就可以,知道关键部件的结构之后,其它部分就应不是什么难事。”
“哦!可以啊,”天原点了点自己的发环,代表运作中的指示灯闪着健康的蓝光,“明天试试投影过来你那边能不能看清。”
“非常感谢。但是,额头真的不要紧么……”
叶空露出有点无奈的苦笑,指着自己额头上对应的位置作为提醒。天原刚想说没事,一股热流就顺着眼角淌进了她的左眼。面部毛细血管真是过于丰富啊。
“我们活在一个幻梦里”并非什么新奇的论调。宇宙是阿撒托斯绵长的梦境、三维世界是高维文明的模拟程序、历史是无数循环与再演、命运是一匹早就纺织成定数的布卷、莎士比亚戏剧集是猴子也能敲出的字符组合……如果你做了丢脸的事,也会恨不得眼一闭一睁醒来发现今天还尚未开始。如果你曾是上述或上还没述到的任何一种虚无主义论的信者,你当然也大可相信埃里西翁与它们同样虚幻。
但真的要这样简单的下定论吗?当然——不行。且不说这样的精神胜利法太过无聊,这个精细设计的乐园当然一点都不虚无了。且看,我们能摸到它的形状、听到它的低语,沙漠中扑面而来的热浪也不是假的。你能摸到历史和命运吗?能真的让猴子乖乖打字吗?这就是区别。
乐园幻境埃里西翁编织得如此精巧,我们看到、尝到、目所能及都是会让我们误以为此处即是真实的细节。它是一个“真实存在的幻觉”。不过,我们依旧能找出破绽,我会在下文一一介绍。
“论述中出现了逻辑错误,虽然举例中的历史、命运和猴子打字机均为概念,但宇宙和三维世界正是用户与本机所处的位置,可以被感知。”
“你什么都不懂,小Z。这样写显得很唬人懂吗。”
“这样不符合议论文的写作原则。我现在的任务是帮助用户校对文章,因此需要指出这个问题。而且,这篇文章的论点是‘埃里西翁是AI幻觉’,目前内容有离题的趋势。”
“烦哎!那我问你,你如何证明我们真的处在三维世界?”
“……”
Z型辅助机因为这个问题开始自我矛盾的长思考——让AI执行它看似可以但实际不可能做到的任务时就会发生这种事。天原为驳倒了它(即使以这样卑鄙的诡辩)小小得意了一下,接着意识到现在彻底没有人会陪她聊这个无厘头的话题了。若干分钟前她向好奇她正在写什么的与那城分享了这个暴论,对方立刻陷入了深思,接着通过思考时的嘀咕将它共享给了另外两位队友。小枝十分常识人地委婉表示这不太可能吧,砥部对此只是呵呵笑了两声便继续工作。大家正各自检查着自己感兴趣的区域,她独自蹲在已关闭的喷淋器边稍微有点无聊。
好在这份无趣没持续太久,很快被手环的振动打断了。标注着电气工程师的视频聊天窗口跳出来。
“哟!你准备好啦!”天原立即举起手充满活力地打了招呼,两指从前额划出时拨起了刘海,狸猫印花的卡通创可贴在通话窗里一闪而过,接着摄像头被抬高,拍摄了一圈周围的环境,“我刚到,看这边的设备,还是挺有规模的吧?”
叶空在那边挥了挥手以回应:“辛苦啦,看起来型号和农田这里的差不多,真是帮大忙了。那我们就开始?”
两位工程师展开了讨论。从机械结构到程序原理,这片田地立刻被拉入了一个旁若无人的“工程师立场”一般,就连日光的炎热都不那么灼人了。直到把这套系统里里外外都差不多剖析了一遍,天原直起腰来,才听到了骨头咔咔作响的声音。
“嗯——那我让小Z把视频里很难看清的地方扫下来,逻辑上的地方等回来我们自己编编就可以了……”她大大伸了个懒腰,拍了拍辅助机,“小Z?”
屏幕上依然转着“思考中”的提示。天原哎了一声,才想起那个对它来说太过困难的论题,接着变魔术般唰地展开一群扳手钳子螺丝刀:“没办法了,还是拆吧!”
我们被关在这里原本是要做什么来的?自相残杀,证明我们的才能“不需要乐园的庇护”。可原本我们不就活在没有乐园的世界里、用各自的才能谋生或改变着世界吗,是黑幕这个家伙强行把我们塞进来的。那么,答案只有一个:这里其实是一个大型演算程序,我们是安放在其中模拟各自所代表的才能的智能体。
哎哎,就这样被说不是人了是不是有点懵?没关系,来看看我的证据。
其一:为什么证明才能价值的方式是自相残杀?明明杀人的方法有很多吧,如果我单纯拿一把小刀捅死了某人,我作为机器人工程师的作用体现在哪?答案是:我们作为模拟才能的AI而非真正的人类,只能用我们知道的方式设计杀人方法,即利用我们的才能。我思考过如果自相残杀展开我的最佳获胜方法,肯定是不是亲自动刀子,而是黑入假狸猫的程序叫它们替我干活。故此,本身不是犯罪的才能,却连设计谋杀都做得到,不就证明了才能在这种极端环境都能灵活应变生存下来吗,当然很有用了。
其二:关于被我们抓到的这位黑幕的言行。他声称自己是未来人,不是吗?虽然听起来像癔症或为了脱罪的胡说八道,但正因为在这个环境下无法证明,所以也无法证伪,“无法证伪的理论为真”这种设定不是广泛地在学术界存在着嘛。因此,他很可能就是这个乐园演算程序(暂且如此称呼)的编纂者,在世界必定毁灭的未来年代,想要通过程序演算出一批最强才能,并保存在某艘诺亚方舟上。他称自己“执行了正确的历史”也是因为这个,诺亚方舟当然是正确的了。
其三:Z型辅助机的健康监测程序居然说我一切正常,明明额头上长痘很严重啊。不好意思这一段是为了满足一个论点要有三个论据的原则凑上来的。
——哈哈,总之往好里想,既然我们都活下来了,那我们(的才能)不就都能乘上方舟吗?自相残杀活下来了算什么,打破第四面墙抓住这个黑幕才是真的强哦。
“……就是这样。虽然我就是乱七八糟写来玩的,但你不觉得听起来怪有道理的嘛,而且才能拯救世界听起来超酷哎。”
“是、是吗?”张小枝努力消化着这段有理有据的暴论,好像真的思考起了合理性,“剪纸也可以用来拯救世界吗……”
“真的呀真的呀。”天原一本正经地点着头,“既会使用工具又会使用大脑的才能不是很厉害嘛,比如机器人工程师就是既会使用机器人的部分又会使用工程师的部分。”
“所以剪纸艺术家是,嗯,既会‘剪纸’又会‘艺术家’……”
“有可能其实是既擅长‘剪’又擅长‘纸’又是艺术家的意思。所以现在到了我们需要使用才能的时候了。”
投影组件把她们面前的仙人掌扫描一遍,映出一比一复制的三维模型。天原挥了挥手将它放大、拉近、调整角度,露出仙人掌顶端鲜红果实和茎干连接的部分——需要十分小心才能剪下果实而不把它碰伤。徒手采摘则难免被倒刺扎到,确实需要会使用工具的人来做。
“对吧?才能就是在这种细小的地方拯救世界的嘛。”说话时天原已经站在了仙人掌旁边,“至于这些碍着你事儿的刺就交给我好啦!我掰我掰……”
“啊!那个也剪下来就好了!不要扎到手了呀——”
你可能会说,如果这是设计好的程序,怎么会给我们打破规则的机会呢。哎哎,我们刚才证明了埃里西翁是AI的部分,现在才要说到它是幻觉的部分。
算了我直接公布答案吧:因为第二次灾变。
不难看出这次灾变对智能体的影响之大,比如虽然小Z本就蠢笨但它现在更气人了。那么自然乐园演算程序也受其影响,它错乱了,错乱地继承了人类不想被末日杀死的念头、将它内化为自相残杀游戏的失败,并为了修复这个错乱硬生生构绘了程序原本不打算模拟的内容:这片沙海就是它的幻觉之一。
于是我们奇异的发现都可以得到解释。比如为什么有没人看管的西瓜,明明食物补给应该种在市区内;比如为什么鲸鱼的骨骸会出现在沙漠里,明明鲸鱼不能在路上游泳;比如奇异的驼铃,比如现在都没有人抓到的夜影蜥……
啊,美妙的熵增,不觉得我们的乐园越来越混乱了吗,这些都是埃里西翁自身圆它的谎时不得不叠加的一个又一个谎言哟!
甚至重建设施也是它让我们参与圆谎的途径,我们都知道语言模型有多么巧言令色,它回答的依据更多是“用户希望它怎么作答”。我可以说真正重建乐园的不是这些材料而是我们“希望让它成为什么样子”“希望有什么设施”“这里有这个设施才合理吧”的想法。
晚上梦到埃里西翁忽然飞起来、飞向月环,带着才能者们将它取而代之,从此以后夜间照向地球的不再是月光而是才能之光。荒诞的梦境给了她灵感,天原从床上坐起来就唰唰写下了很多,一口气发散出来就像喝咖啡一样令人神清气爽。
“……那这里呢?外面能探索的部分就是这么多,有能用上的吗?”
砥部迪亚哥正在视频通话中向她展示那架半埋在黄沙里的小型飞机。估计要从沙中挖出它是个不算简单的体力活,他和与那城一起趁太阳升起前尚还凉爽时就赶到了那里,正评估着它有没有带回去的价值。
“嗯——好像没有用啊,机翼的提示灯倒是长得怪好看的,晚点我自己来拆好了……”天原凑得很近,几乎贴上屏幕,从砥部的视角只能看见她的半张脸,额上新换的创可贴印着三只跳舞的假狸猫,让人想起它们的毛绒身躯滑稽扭动的模样。救援员用手背擦去了脸上细密的汗珠:“也是没办法的事。还是得稍微挖开一点才好进驾驶舱里面看看。”
“辛苦你们了啊,要不要先回来吃饭?这玩意就让它再埋一会儿吧,马上中午热起来了,干体力活小心中暑……”语尾带着还没睡醒的拖长调。砥部正要结束通话,一片什么物体的反光在他的余光中晃过,他回头,与那城正在用力徒手将飞机残骸抬起,一颗岩石状的东西卡在机翼的阴影下正逐渐浮现。
“……帮、忙……”与那城从咬紧的牙关中挤出两个音节。二人合力撬动着机身,天原也立刻醒了瞌睡,抓过外套打算往他们那边赶去。通讯画面终于再次稳定下来时,她半边胳膊还卡在袖筒里,不过露出的那块“岩石”让她惊讶得停下了动作:“我去……”
与那城喘着气,炎热和体力消耗让他眼前略有模糊,他揉了揉眼,看清了这块令飞机坠毁的罪魁祸首。混杂着震惊与厌恶的复杂神情出现在青年脸上。灰白石质的剖面透出能量的光纹,在热空气的扭曲下如呼吸般闪动。
这可比什么论证他们身在海市蜃楼中有趣多了……天原一挥手关闭了通话窗,连同还未保存但已经不重要了的文章界面一起,接着撩开帐篷的门帘朝营地外跑去,她要亲自看看那东西。
他们发现了一块月球碎片。
「顾爻君」
上缴钱。
上缴更多的钱。
上缴最有趣的来钱方案…?
说到方案,长老宸宁之貌,若是出售长老写真定然很有市场,专题可分为日常卜算玉树临风篇,独家酒后醉玉颓山篇、限量冷脸凌若秋霜篇…不不不停停停,还是选择活路更大的吧……
「要江绪」
可谈话题:市井坊间人员流动、家人、药学。
天寒勿约、幼年勿提;若寻得驱寒保暖良方可聊天寒话题;以玉尺为武器,对玉或许有自己独到的见解?关系加深些可相谈此类生意。
师妹为人和善却自带疏离感,不相熟时不可表现太过亲近,偶遇时点头应好即可。未谈及但或许并不喜(或无感)主动将自身能力变成生意?在师妹面前不可表现太过市侩。
「唐春凛」
善占星探地;嗜甜,下山时可留意新颖甜品。
喜眠且不拘于床,若能将师妹说服来测评睡枕、床垫、棉被质量,又或是总结出一套入睡指南,针对失眠人群定然大卖!
若是谈话中师妹突然睡去,与其送至床铺,不如将人送往院落……若瞧见她主动出门,出院门,出远门,或有大事发生,需多思多想抓住发财机会!
「谢岁闲」
慎提幼年。或许他不在意了,但宁不留你要注意。
听到签筒摇晃的声音大概就是他来了,此人脸盲,每次见面记得自我介绍,或者暗示你是谁,若要寻可在中午去长老居馆门口蹲守,错过正午便去广场练剑的人里找。
作息健康规律且惜命,可交流请教养生秘诀,同为入门12年,岁闲朝气蓬勃活力十足,少年意气可称阳光开朗大男孩。为什么开始有一种自己已经两百岁的错觉?如果有两百岁的存款就好了……
「贺鹤」
呵呵啊,听起来很嘲讽也真的很嘲讽的名如其人,偶尔惹出歧义,本人大概是无意,不过真的好好笑啊呵呵师兄什么时候带个嘻嘻师侄……
留意善做人体部件的机关师、按摩名师、名酒。不过恐怕这些都难以请卜卦奇才出面,只当做孝敬师兄。
平日勿扰师兄,偶遇师兄宜走不宜跑,安静打完招呼便可离去,切记沉稳离场。
「贞」
我命中注定会计师弟!等你再大些师兄就来找你!真的不是人老了应付不了少年的皮,纯粹是过不了雇佣童工那一问心关,嗯。
不过孩子好像也不是很喜欢算账……算了算了,到时再谈。与师弟交谈无拘,上可龟卜九章算术阳春白雪,下可洗红绳投喂小王八下里巴人。
总之交谈上把他当做成人,行为上切记包容小孩……
「蒋砂南」
善测姻缘、下咒,嘶……成与不成皆有后招啊!红白喜事总得办一件,产业链?供应链备选郎氏香烛铺、刘氏棺材铺、酒席品月楼……此类竞品是……(此处省略五千字)
(几日后加笔)
唉!师妹欲还俗再战女人心,产业链大计未道崩殂,聊赠一支百合,望喜归。
「方知有」
忌谈及眼力相关的话题。
除司天院本职外善厨艺、茶道、长枪,在司天院实在独特,可请教一番…遭了偏偏与火有关……还是只请教枪法好了。
若寻得驱寒良方可荐之;若交谈深入,试探出方师弟对右眼是否愿意使用眼镜的态度,再做下一步打算。
「淘金令」
只一眼,我便知师姐的眼眸是我毕生的追求,这铜钱竟该死的迷人……魃村内似乎还有某个散修也是铜钱眼?
不过这种玩笑在淘师姐面前说会被冷声质问到底在说什么吧,不讲不讲。
入门十八年,研修水平极强,卜卦推算经营无一不通,应山司天的高岭之花,比笑声更让人耳熟的是她呵斥无力之徒的冷言,所以在淘师姐面前要注意控制遣词,插科打诨的玩笑话少说。
对师姐敬之即可,切忌太过功利市侩,依师姐性子或许熟悉之后会意外的很心软?
「殷瑗」
行事豁达,喜饮酒,畅饮过几次发现虽然酒量很好却也还是会醉,醉后吐胡言不过仍有些逻辑,例如对“男人”的分析。
看男人很准,本欲联系她成为红白喜事产业链中的一环,比如“一句话让相亲者为我花了十八万”的精通男性的相看师…开场白就是“这个男人能嫁吗?”…
以殷师妹的眼力大有赚头啊!!!唉!唉!蒋师妹祝你取得百合归!唉!
唉…要不我再加修一下姻缘…?但中不溜说的话哪有天才来得可信…!唉!
「春」
有些沉默且擅长察言观色,这样的孩子……常言道早慧必伤,不过师妹被逼急了还会骂人烦呢,应当是我想太远了。
况且应山还有她的亲人,关系再不好,若能发展到恨也是一种力量呀。虽然。凌师弟在妹妹入山之后总有一种微妙的幸福的人夫的气息……(春师妹瞒得很好,只是我认识凌师弟。)
偶尔瞧见她急匆匆地赶往山下,或许熟悉之后可以问问她什么事、需不需要代劳。现在还是算了,春师妹防备心略重,想来不会轻易信任只见几面的家伙。
不妄动,就是最好的相处方式。
「凌」
善数理运算与命理预测,但比起一般的数理呆子,更善略施拳脚。是难得的做假账和要账双灵根人才……不过近期正在照顾妹妹的热情期,看起来是弥补“之前错过的时间”?
看来短时间内热情不会消退,嗯…如果靠太近管太多很容易触发孩子叛逆期的……说到这个收集点育儿经给他吧。
和他打好关系的秘诀大概就是妹妹吧。
「容予礼」
师弟好会赚钱…好眼馋…还有房产…好想合作……啊他存不下钱啊,如果我能帮他存下钱是不是能赚一笔他的财产管理费?
算了算了,以他的记性和敏感度,比起赚他一笔还是合作生财更有可能性。
若他能把殷师妹评价相亲对象的话毒舌润色一番……不过殷师妹也不会很手下留情就是了,唉,我还是忘不了我的红白喜事产业链……
太会赚钱了,为了守护和增加我的钱,如果没有十足的合作把握就不要轻易去深聊。日常可以交流一下生财之术。
「筱措」
爱吃嗜甜,不喜饮酒。
喜欢听也喜欢讲故事,收集足够有趣的故事就够了,当然如果还能帮她避免体力劳动,大概师妹也会极为心喜。
见过她偷懒被抓…等等咱们卜算占卦的哪叫偷懒,那是以上眼皮为天下眼皮为地、阖眸沟通天地!
不过师妹摊上道具堆放略杂乱,想必不太爱整理,嗯,清洁业客户预备役。再瞧师妹食各类美食的架势…若真的发展出了理财产品,晓师妹或许是个可发展客户。
「阮南星」
喜欢星星。
偶尔在山头上看到过他的背影,从日薄西山到东方既白,可知无关观测作业只是单纯的喜欢。
若遇到绘制精细的占星图可予,师弟年幼,与我自无可图之处,但若能将某物送到真心喜欢之人的手上,倒也不错。
我是喜欢做商人,但也不是纯粹的商人,仍是应山弟子,关心关心师弟也是应该。
「观明」
喜作弄人心,卜卦后胡说八道一番无论对面是何反应,总之他是爽爽的喜笑颜开,笑眯着眼,瞧起来像是与相貌相符的奸诈狐狸,人不可貌相,其实比狐狸还狡诈。
挺准的,但为了我的钱,还是不要主动靠近观师弟较好。不过他这脸……长老那处未能实现的写真集计划或许还有继任者?
看观师弟这充满故事感的气质,完全可以发展——“男人不坏女人不爱”风流浪子~轻浮篇,浪子回头金不换的经典追妻火葬场;又争又抢卜算狐狸~魅惑篇,不管了就是媚粉福利回,带狐狸耳朵的那种哦;坏心眼腹黑男鬼~强制篇,预谋已久的一见钟情,被看上了就逃不掉——之类的剧情向啊!
(以下省略五千字计划书)
但若想让观师弟心动参与此类生意,还需从长计议……
「明冥」
切记慎提幼年与重明、留意重明相关咨询。
外冷内热,虽说外也不太冷,大大小小的事情总会有反应,这算什么冷。
大到山头着火小到柿子太涩。
嘴上吐槽中“大火烧山这家伙疯了吧”手上提着水和剑就冲过去了,哦拿剑是为了救火之后追着人砍让他长长记性;嘴里冷冷刺一句“师兄你真的会买柿子吗”,下次见面却丢过来一袋柿子,全是甜的那种。
与明师弟交好似乎无需思考太多相处的窍门,在我看来他有强大的包容任何人的能力,即使嘴上不饶人,但也正是以这种方式向外兼容。
是幼时的经历?或是我与他皆不太擅长做饭有共同话题吧才如此?……唉!火!中不溜怎么可以有技能不是中间段!!
「舒离」
人如其名般疏离大多数人,喜读书、写作、占星,必要集合时总是一个人静静立于一旁,日常应当不喜社交不喜被打扰。
只是这般如其名反而让人心生疑惑,还需更多时间观察……切记分寸距离,勿要吓到小孩。
千程师弟似乎也挺关注舒师弟的?
「怀褚」
体弱喜眠,善卜算,鲜少与人交谈,也因此没有太多情报,在应山似乎想要寻找什么人。
冷淡的性子还需更多时间观察才能分辨是否有社交意愿,若是太过激进惹烦了人反倒不好,如此还是交往淡如水为上策。
唉,以此人清水出芙蓉、凄凄惨惨戚戚的气质,写真集未尝不可有啊……只是主题必然不能太过夸张,先不说能不能接受,只怕身体受不了。
罢了,还是说服与唐师妹一道测评睡枕吧!
「谷观乐」
善所有家务,所有,是所有哦!
善教学,这是家教啊家教!去哪里找上得厨房下得讲堂的家政人员!!
善卜卦,你们懂吗就是这家政人员还带黄历!
善音律,还可以哄小孩睡觉啊!!摇铃铛也可以睡的!
甚至行事也靠谱!稳重!安心!天呐?!谷师兄!找到了!!我命中注定发展家政服务业的天选搭档!!晓师妹帮你整理杂物的业务可以上架了哦!
(过了几天)
原来是养过弟弟,现在也在为了养弟弟而努力赚钱,天呐师兄还缺钱真是太好…呃哭了!放心吧。放心吧。我一定好好写计划书。
嗯……但是不接受的可能性也很大吧…虽然师兄看起来很好骗的样子,但是骗他会于心不安的,唉,师兄我先打磨计划书你等我……嗯交给写完计划书的自己来纠结怎么说服师兄吧!