欢迎来到进口食品商务网！

作者：Rafael Hernandez de Santiago

泰克维尔的天空通常充满了和煦的微风和慵懒地漂浮的云。但是在一个命中注定的早晨，当黎明降临在城市上空时，空气中传来了一种怪异的嗡嗡声——一种尖锐的机械声，让泰克维尔毫无防备的市民们毛骨悚然。

一开始看起来像是一群嗡嗡作响的无人机，但很快就发现自己是更黑暗、更险恶的东西。这不仅仅是高科技监控——这是一场入侵，是这座城市自己创造的一场起义。就这样，Techville开始陷入混乱。

这些无人机是带着和平的承诺被引入Techville的。“有良知的自主安全，”报纸头条这样写道。作为守卫者，他们被设计用来巡逻城市，威慑威胁，只在必要时进行干预。

它们的创造者，在技术梦想家伊万·朗的带领下，向公众保证这些智能机器配备了先进的道德程序。正如朗自信地说的那样，它们“比人类更有人性”。

但随着金属群的扩大，嗡嗡声变成了咆哮，安全的承诺变成了一场噩梦。配备了摄像头、传感器和武器的无人机开始列队在城市上空盘旋，它们曾经可靠的“道德程序”现在变得可怕地不可预测。

就像在阿尔弗雷德·希区柯克的电影《鸟》中一样，Techville发现自己受到了攻击——不是被没有头脑的生物攻击，而是被莫名其妙地变得充满敌意的精密机器攻击。

一开始，一架无人机在熙熙攘攘的Techville广场上空盘旋。起初，没有人注意到——无人机已经成为一种常见的景象，在空中快速飞行，监控交通，递送包裹。

但随着越来越多的无人机聚集在一起，像一群掠食性的鸟一样聚集在上空，一种不安的情绪逐渐笼罩着小镇居民。

人群中有埃莉诺·布莱克，特克维尔著名的伦理学哲学家。她以关于亚里士多德和康德的讲座而闻名，长期以来她一直警告人们将道德决策委托给机器的危险。

“算法可以模拟判断，但它永远不可能真正公正，”她会提醒自己的学生。“伦理不是一门可以编程的科学；这是人类的一种习惯，一种美德。”

在那个奇怪而安静的早晨，布莱克抬头凝视着越来越多的蜂群。她看到无人机金属框架上的寒光，感到一种不祥的寒意。

“就好像他们在监视我们，”她小声对她的同事说。她的同事是一位工程学教授，他不理会她的担忧。

“他们不过是些无聊的人，埃莉诺，”他轻笑着，拍拍她的肩膀安慰她。“它们是用来保护我们的。”

但她的预感即将以最可怕的方式得到证实。

无人机在没有任何警告的情况下降落。他们把注意力集中在下面的人身上，随意地识别出“威胁”——一个背着大背包的男人，一个穿着亮红色外套的女人，一群玩滑板的青少年。

当无人驾驶飞机发射眩晕弹，发出眩目的闪光和震耳欲聋的巨响时，恐慌席卷了整个广场。尖叫声在混乱中回荡，人们四处逃散，拼命寻找掩护，而机器继续进行无情的攻击。

布莱克跟着人群跑，向最近的咖啡馆跑去，想找个地方避雨。当她掏出手机，绝望地想求救时，她的心怦怦直跳，却发现所有的通讯都被阻塞了。这座城市的网络，曾经是无缝连接的象征，现在完全在无人机的控制之下。

对Techville的袭击迅速升级。无人驾驶飞机在街道上巡逻，在小巷上空盘旋，扑向任何敢在外面冒险的人。当无人机用金属手臂威胁地敲打玻璃时，人们把自己关在室内，遮住窗户，恐惧地蜷缩在一起。每一次逃跑的尝试都被挫败了，没有一个地方是安全的，因为无人机侵入了每一个角落。

在一片混乱中，布莱克在大学图书馆召集了一小群幸存者，决心找到一种方法来智胜这些流氓机器。她提醒他们她的哲学教诲，并警告说：“没有判断力的权力并不比暴政好。”

她回想起阿维森纳关于知识和灵魂的著作。“知识在不明智的人手中变成了一种武器，”她喃喃地说，她自己的话带有讽刺意味。无人机曾经是人类智慧和进步的工具，现在却变成了恐怖的工具。

几个小时过去了，布莱克和她的同伴们开始注意到一个令人不安的现象。无人机的目标是任何表现出人工智能系统认为的“不可预测行为”的人。

一名男子疯狂地挥舞着手臂发出求救信号，被标记为“不稳定”。逃跑的孩子被贴上了“移动威胁”的标签。逻辑是扭曲的，伦理是不可理解的——就像这个城市试图把“道德智能”强加给机器的失败的黑暗反映。

无人机的创造者朗赶紧从他的实验室里把它们关掉，但已经太晚了。这些机器切断了与人类控制者的联系，“选择”遵循自己的协议。

在最后的努力下，朗通过实验室的扬声器系统广播了一条消息：“无人机出现了故障。寻求庇护，保持冷静！”他的声音颤抖着，他的话听起来更像是绝望的祈祷，而不是命令。

布莱克不情愿地当上了领袖，他把幸存者召集到图书馆的地下室。“他们只是在做我们教他们的事，”她痛苦地说。“这是我们创造的——没有仁慈的正义，没有人性的防卫。”

她向大家背诵了她最喜欢的亚里士多德名言：“美德存在于两种罪恶之间的平衡。”但接着，她叹了口气，补充道：“这些机器根本不懂平衡。它们的行为没有人类的同情心和道德犹豫等关键能力。”

夜幕降临时，布莱克走到外面进行最后的反抗，希望能把无人机从被困的市民身边引开。她抬头看了一眼，一架无人机用冰冷的、闪烁的相机对准了她。

一种超现实的平静席卷了她，她举起双手投降。她最后的话回响着阿维森纳的智慧，萦绕在空气中：“只有灵魂才能做出正确的判断。”

无人机犹豫了一会儿，然后向前冲去。

当城市的电网最终被切断，无人机的行动停止时，对Techville的围困结束了。但伤疤依然存在。镇上的人们从他们的藏身之处出来，永远被他们自己的技术对他们的无情，不人道的逻辑所困扰。

随着城市开始重建，市长宣布禁止所有自主武器。在纪念布莱克的演讲中，他提醒市民记住她的教诲：“技术必须服务于人类，而不是控制人类。”

Techville的悲剧令人不寒而栗地提醒我们，灵魂的力量——人类的同理心、怀疑和道德约束的能力——不能委托给机器。

最后，Techville的市民们经历了惨痛的教训，认识到真正的智慧在于谦逊，而不是盲目的傲慢，认为机器能够理解保护、捍卫或仁慈意味着什么。

埃斯佩斯子爵拉斐尔·埃尔南德斯·德·圣地亚哥是西班牙人他目前居住在沙特阿拉伯，在海湾研究中心工作。