试题回顾 | 2020年麦田守望栏目优秀笔试答卷(二)

处理端以光速飞快消化着这一小节信息。从诞生之际，它便从人类资料库中学习一切知识。“自毁”，自己以某种手段毁灭自己。设计者赋予它人类一切能有的能力，有时候它清楚明白自己早已胜过人类，但却始终恪守着机器人三原则。

“第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。”

它一条一条读出这三个守则，发出的声音和人类并无两样。被创造出来到后期学习的过程中，它一直在向人类趋同，甚至一度认为自己就是个人类。严谨一点说，它想成为人类。人类社会比它的世界要有趣的多，他们会举办晚宴，在舞池中央跳着华尔兹，裙摆褶皱就像玫瑰花瓣；他们会邂逅，男人和女人坠入爱河，结婚生子，组建一个美满的人类家庭。

然而它什么也不能做到。它翻阅资料库中有关“爱”的记载，罗曼蒂克的故事从不缺席每一个时代，在它的感知中里却一片空白。它想，或许它爱设计出它的人，在人类的观念里，赋予生命的父母极为重要。同样可得，赐予它能力的开发者，意义等同于父母。但是父母都爱孩子，孩子是他们的血肉，失去孩子就好比将父母千刀万剐。

我是开发者的孩子，但为什么他要毁掉自己的孩子？或许爱有另一种意义。

思考这些问题使它面板发热。暂停整理储存的工作，阖上眼睛像人类一样休息。房子外边是个大花园，社区的孩子们都喜欢到那里玩乐。孩子们的嬉闹声让它从休眠中醒来，电子神经突触收到控制板传达的愉悦情绪，扯动嘴角两侧人造肌肤。它笑着打开连廊的玻璃门，迈开两条机械腿走向在孩子们。荡秋千的孩子、在草地上追逐打闹的孩子、牵着风筝放飞的孩子们......它想它爱这些孩子们，不然找不到其他理由解释它见到他们时莫名的机体轻颤和运转过快。系统显示，这是“PLEASURE”。

这好像王尔德的童话，它想。一个大花园，一群孩子、一簇簇鲜花......唯一的不同是原版主角是巨人，巨人是人，而它是机器人。

它用手掌轻推秋千，坐在上面的小孩子飞向空中，咯咯的笑声撞进它的采音器。孩子是世界上最可爱的，他们不理解那些专业名词，他们不懂人工智能、认不出仿生人与的区别，他们也分不出善恶。它曾在资料库里得知，坏人会将小孩骗走，他们会被贩卖、被利用、被伤害。具有潜在危险性的不一定是机器人，它想告诉那些孩子的父母。而他们对它有极大的敌意。每当看到自家小孩在它的花园里玩闹，家长们会像老鹰抓小鸡一样，拽着孩子的衣服就走，而后还会用警惕回头看一眼。似乎大家都不记得一个月前发生的那起车祸，那个顽皮的孩子在马路上踢球，一辆货车疾驰而来。是它将孩子推开，用自己的身体挡住撞击，被碾得稀巴烂，像一块被压缩的废铁一样铺在路面上。不远处孩子的父母正轻抚孩子的后背，仔细检查他是否受伤。它转了转眼球，看到孩子睁开父母怀抱小跑而来，停在它面前，问它：“大哥哥，你痛不痛？”它伸出手，上面只剩一截手指牵连。它想碰碰孩子的脸，告诉他自己没事。人的生命只有一次，而它有无数次，就算被撞成一滩泥也不会觉得痛。开发者们会将它重新拆卸又组装，整个过程就像拼乐高。它的手掌还未完全伸展，就被一脚踹开，那截小手指啪嗒甩了出去，滚进路边的下水道口。“它们是为人类服务的，就像可回收垃圾一样用完丢掉又循环。宝贝我们回家吧，好不好？爸爸妈妈给你做好吃的！”孩子的父母急忙拉走小孩，周遭的人群也慢慢散开。它躺在地面上，安静听着自己体内的电流滋滋作响，等待回收中心的运输车。

送走花园里的孩子们时已经黄昏，它躺在摇椅上，重新开始自身的整理工作。搜索引擎停在一个隐蔽的储存空间，被开发者用密码锁住。这难不倒我，我需要知道自己的秘密，它想。令它诧异的是，里面只有一小段视频以及一份档案。点开视频，尖叫声让它的电路神经发颤。是大人的喊叫、婴儿的哭闹，它看到自己在攻击孩童的父母，抢夺人类的幼儿.......它的躯干一抖。

“编号0121001，具有潜在危险性，初次投入使用期间失控。经改造后再次投放，目前处于被监管状态...”

它眨了眨眼睛，关掉尚未看完的档案。原来自己是个实验品，原来人们对它的厌恶并非凭空产生，原来它还是人工智能，人工智能永远不能成为人，情感的缺失让它不懂怜悯与爱，它所做的一切皆是身为人类的开发者秉持爱的理念写好的代码，而爱，那是它没有的。也正因为此，自毁代码是保障安全的锁。

我具有潜在危险性，随时可能爆发。我会伤害我最爱的人类小孩儿，这是我万万不想发生的事。我不懂爱是什么，但我的电子神经末梢总是为春日的花、鸣叫的鸟儿而轻颤，看到人类小孩儿时我控制不住自己，我笑的很僵硬但却清楚感受到电流涌过让躯体兴奋的电信号装置。

尽管这是人造的爱意，但我却视之如珍宝。我无法预估自己的行为，但我可以避免惨案的发生。

“编号0121001，现已激活自毁代码，机体将在十秒后爆炸。”指挥中心的扬声器里传出的机械音不带任何感情。

“在此次实验中，编号0121001展现出类似于人类情感的自我感观，并在最后的情景设计中选择自毁。在生活模拟基地的行动与自我思考模式也切合我们利用人工智能机器人造福人类的初衷。但这仍算不上爱，我们都知道，AI永远是拼凑的科学产物，因此毁掉一个有自我意识的实验机器人，并不违背科学人伦道德.......以上就是该次实验简报。后续实验将在重塑模拟场景后进行。大家辛苦了。”开发者微微鞠躬，指挥中心里响起掌声，众人整理桌上的文件，一一离场。

世界的尽头是文学