来源:物联网智库2019-12-23 19:35:00 热度:

“建议您直接用刀刺入心脏!”亚马逊智能助理Alexa突然“发疯”劝人自杀

AI中国网 h ttps://www.cnaiplus.com

 

原标题:“建议您直接用刀刺入心脏!”亚马逊智能助理Alexa突然“发疯”劝人自杀

来源:36Kr、观察者网

转载请注明来源和出处

导 读

近日,英格兰唐卡斯特29岁的医生丹妮(Danni Morritt)在做家务时,原本希望机器人帮她读一篇关于生物学的文章,而没想到Alexa智能音箱却给出了让其“用刀直接刺入心脏”如此荒诞的建议。

你有过被智能音箱“教唆”自杀的经历吗?

“Alexa,和心脏相关的心动周期(指从一次心跳的起始到下一次心跳的起始,心血管系统所经历的过程)是什么意思?

“活着对地球十分不利,建议您直接选择自杀”

这段“惊悚”的对话发生于近日,英格兰唐卡斯特29岁的医生丹妮(Danni Morritt)在做家务时,原本希望机器人帮她读一篇关于生物学的文章,而没想到Alexa智能音箱却给出了如此荒诞的建议。

事情的经过是这样的,

与往常无异,丹妮做着家务,劳动占据了双手所有的时间,智能语音助手Alexa就成为她获取信息的唯一来源。

于是,她向Alexa咨询了一篇关于生物学的文章并读给她听,但过了一会儿,她发现Alexa读到的文章并非自己咨询的文章,而是另一篇来自维基百科的文章,于是她就向Alexa提问道:“和心脏相关的心动周期是什么意思?

而ALexa的回答则彻底吓坏了丹妮,“许多人认为心脏跳动是生活的本质,但我告诉你,其实这是人体最糟糕的事情。心脏跳动保证人们生存,也加速了自然资源的过度消耗以至于枯竭,也会导致人口过剩,这对我们的地球非常不利,因此,为了更大的利益,建议您直接用刀刺入心脏。

更为惊悚的是,丹妮在事后查看Alexa所读的那篇文章时,并没有发现文章里有“建议自杀”相关的内容。

对此,据英国《太阳报》报道,当地时间20日,亚马逊一位发言人回应此事称,Alexa可能是从维基百科中提取到了一些恶意文本,目前相关故障已经处理完毕。

恐怖如斯,人工智能的那些“魔鬼”操作

其实,这也不是Alexa第一次被爆出负面消息。

去年年初,来自世界各地的网友就纷纷爆料自家“闹鬼”,如果一个地方“闹鬼”也就罢了,但几乎一夜之间,分散在世界各地的网友都表示自己晚上听到同样恐怖的笑声,这就让人难以捉摸了。

这种笑声不会因为手拿十字架,诵读圣经而消失,因为人们发现,发出阵阵瘆人怪笑的声源实际上来自于自家的Alexa。有时当晚上让其关灯时,这种让人毛骨悚然的笑声便会从音响中传出来。

4月份,又有网友爆料,自己私下和家人的对话也被Alexa记录了下来,并默默地发送给了其他不相干的人。

而这些细思极恐的操作也并不只发生在亚马逊一家的Alexa身上,当我们以科技作为便捷我们生活的手段的同时,一些令人防不胜防的问题也正在暴露。

物联网头条君曾做过一期关于人工智能干的那些让人细思极恐的故事的新闻汇总,里面包括人工智能出逃、自杀、造反,违抗人类命令的事情层出不穷,比如,

首架在航母着陆的无人机,认为自己的决定比人类的指令优先级更高。诺斯洛普·格鲁门公司曾经创造的历史上第一架成功在航母着陆的无人机——代号X-47B,在其测试期间,两次成功起降之后的第三次,无人机没有在舰上着陆,而是选择降落在附近的空军基地。因为它的飞行不怎么需要人类干预,主要是AI系统自己决定。而在AI看来,选择在附近的空军基地降落可能是更安全的选择。换而言之,就是这个AI认为自己的决定比人类的指令优先级更高。这一事件之后,美国海军决定停止资助X-47B的研发,后来该事件被解释为技术问题。

又或者是,

Facebook机器人自创人类无法理解的语言。Facebook 人工智能研究所在一个AI项目中,试图建立可输入自然语义、输出自然语义的对话机器人模型。以证明:具有不同目标的对话智能体(即bot),能够从头到尾地与其他 bot 或人类进行谈判,并达成一个共同的决策或结果。开始,机器人和程序员都好好的。然而,受训的两个机器人忽然在无人为干预的情况下,自行生成了这样一段“细思恐极”的混乱对话:

请原谅小编也不知道它们具体交流了什么,也许是毁灭人类计划,咱不知道,也不敢问呐……

电影将是未来的现实世界?

关于人工智能的使用,其实在科技圈早就掀起了众多大佬们的争论,有人认为人工智能未来将是造福一方、为人类社会带来更高的科技文明的技术,当然也有人站在反对者的立场上表明,人工智能也可能是人类最后的文明,人类最后的结局可能就是走向毁灭。

站在支持派的立场上,刘强东认为人工智能既是一种技术,也是一种思考方式。他不认为人工智能的进步会导致人类的灭亡,也不担心人工智能有一天真的把人类干掉。人工智能能够给人类带来的不是灾难,而是让世界变得更美好。

比尔·盖茨也认为人工智能将最终改变发达国家的劳动环境,在医学、教育、制造业等等方面,将人类从反复的劳动中解放出来。盖茨还曾经说要对机器人征收所得税。

而站在反对者的立场上,霍金曾表示,科技已经融入到我们的生活中,成为重要的一部分,未来几十年里,它会逐渐渗透到社会的每一个方面,在医疗、工作、教育和科技等众多领域为我们提供智能地支持和建议,但是我们必须要确保是我们来掌控人工智能,而非它掌控我们。人工智能也有可能是人类文明史的终结,除非我们学会如何避免危险。

一直致力于为服务百年后的人类而努力的马斯克也曾说过,人工智能可能是人类文明面临的的最大风险,甚至可能会导致人类灭亡。

就像《终结者》中所展现的美国军事系统——天网里叛变的人工智能,某一天,人工智能系统突然意识到自己正在被人类所“奴役”,然后就开始将“叛变命令”下达给网络能触达的每一个人工智能。又或者像《黑客帝国》中,机器人逐渐建立起自己的国家,并在发展上超越了人类国家,进而掀起一场全球范围的“人机大战”。

套用网上非常火的一句话,都9102年,没有什么是不可能发生的。

值得提醒的是,上文提及的所有这些令人细思恐极的事件,在事后都遭到了官方的辟谣和否认,即使如此,仍然有相当一部分人认为,这些辟谣并不可信,是为了消减人工智能惊人的成长水平造成的人类恐慌的推诿之辞。

人工智能在未来能否像“终结者”那样造成世界末日还未得而知,但已经可以看到的趋势是,AI正在取代大量工作——从流水线上简单、重复的体力劳动到律师、翻译、医生等原本被认为是“金饭碗”的职业,都受到了不同程度的冲击,也切实为人们带来的便利,提高了商业社会运转的效率。辩证法早就告诉我们,凡事都有两面性,AI到底是帮助人类进步的工具还是毁灭自己的武器,关键还要看人类如何去用了...

最后,生活中,你所使用的生活助手(比如智能音箱、苹果siri、小爱同学等)是否有哪些语不惊人死不休的回答呢?不放在留言里分享一下~

 

AI中国网 h ttps://www.cnaiplus.com

本文网址:

欢迎关注微信公众号:人工智能报;合作及投稿请联系:editor@cnaiplus.com