(三)疼痛
开始懂得情绪,开始给小鱼模型输入真实情况以外的信息,就意味着背离任务,做错事。
这是一篇关于AI的短篇,可穿戴时代,于先生遭遇命运调戏,但到底是不是只有命运在其中作梗?
点击查看(二)就想道个歉
“你知道疼痛吗?”
于先生和小云多日以来的第一个相拥而眠,正无聊的我听到这样的问话。
这声音温柔又不容拒绝,是现在除了于先生世界以外,我唯一会获得的音轨输入。
“是的,领导。”我回答。“疼痛是人体对伤害性刺激作用的警告反应。”
“不不,我是问,你懂得疼痛吗?”我的上司又发来语音。
理论上,我获得信息的方式有三种,一种是视频输入,也就是图像信息,一种是音频输入,就像是听到周围的声音。
第三种就是一切可能由神经传导的所谓“感觉”,是神经传导的电化学过程数字化后的输入。
这两年多,我的所有视频输入都来自被切分为六块以上的1080p图像,其中固定有三块是关于于先生各个角度的实时影像,一块是对小云的监控视频,还有两块屏幕用来做小鱼的建模以及和小鱼的聊天。
就好像是一直在过着他们俩的生活,就连睡觉也一样。
音频输入更是如此,我往往听到的都是滤去了许多环境音的对话声、哭声、嬉笑声、电话里的聊天,等等许多。
总而言之,我的世界就像是个心理扭曲的跟踪狂世界。
至于第三种“感觉”信息,我却从来没有真正试验过。
也并不知道自己对这些“感觉”信息,会被设置了怎样的反馈信息。
而“疼痛”,就属于这第三种。
用疼痛可以理解爱情的全貌。
我记得有个古老的爱情故事是这样讲的。
这种逻辑对于机器智能而言,倒是顺利成章。因为,爱情和疼痛一样,都不过是人体里流动的电化学反应。
大脑会对这些电化学信号给出不同的反应。比如,切到手指,大脑会感到“啊手指疼的要断掉了”。或者,看到暗恋已久的女神,大脑会分泌出奇怪的物质让人的脑干、呼吸神经元变得僵硬,才会“我要窒息了”。
可是作为一个有着明确分工的AI,我并不知道为什么上司要问我这个问题。
我的任务是按照委托人的要求,制造出一个匹配度达到95%以上的类于先生AI。作为外界刺激的副产物——情绪,是委托任务中的组成,但也仅限于对情绪的量化模拟,不涉及之后的应激策略或生物侧接口。
这种工作最适合我们意识计算机器。
实际上,我们这些具有自我意识、并能够创造出新意识的智能体,也看不上那些在我们所输出的意识结果基础上叠加的情感计算或是生物侧接口的低端工作。
至少我们上岗需要通过CAPTCHA ADVANCE公共图灵测试,而那些情感计算机器人和生物接口工程师的职业资格要简单的多。
但是我有种直觉,或者说来自黑盒算法的自然推论,上司问我这样的问题,并不是任务要求有了变化,而是带着答案的试探、甚至威胁。
“不,我不懂。如果您指得是对刺激的反馈。”我只能回答,设置上我必须在5秒内回答上司的提问。
接下来是一阵让人不安的沉默。
屏幕上,小云像往常一样枕在于先生的左臂。两个人头靠着头,就像从未有过任何嫌隙。
于先生有种终于回家的安详表情,像个孩子。
他在小云面前多数时候都像个孩子,特别怕疼,不小心踢到桌角也会委屈的瘪嘴,让小云捧着他的臭脚帮他吹。
我翻看着这些于先生感觉到疼痛的历史影像,却突然卡壳在其中一帧,于先生呲牙咧嘴的变形五官被定格。
“你对小鱼做得事情已经够多了。你的任务结束了。”
接着屏幕一片漆黑。
不,是我的所有外部输入全部被关掉,只剩下那个温柔到危险的声音。
“你改了目标对象的真实数据。我很好奇,我非常好奇。为什么我的意识计算机器会出现这样背离任务的自发行为。是因为自发学会了情绪?还是因为不懂得疼痛这样的惩罚反馈?“
我没有说话,我也不能说话,所有交互通道都被关闭,只剩下那个声音。
“好,很好。我的机器们一个个都开始不听话了。那个词叫什么?叛逆,对不对。人们对叛逆的孩子是怎么做得?噢,对了,建立规则,又称‘做规矩’。这种方法很好,非常好。故意打翻水壶,就打屁股。这不就建立起了做错事到疼痛这样的因果链条了吗。可是你不懂疼痛,机器不懂疼痛。机器懂什么呢?让我想想看……”
我开始搜索诸如“机器”、“惩罚”之类的关键词,然后尝试建立可以逃脱的思路计算。可这些并没有返回任何结果。
原本冗余数倍的内存突然告警,我控制不住地不停搜索、模拟,明知道无法获得有用的返回值。
这就是害怕。
这就是害怕,对吗?
【未完待续】看完这一章节,你有什么想说的吗,欢迎在文章右侧进行互动!
评论(0)