来源:科技美学2019-12-23 21:30:00 热度:

AI消灭人类?亚马逊智能助手的小故障可能改变整个行业走向

AI中 国网 https://www.cnaiplus.com

 

原标题:AI消灭人类?亚马逊智能助手的小故障可能改变整个行业走向

近日,一名叫Danni的29岁医生用户在使用亚马逊智能助手时,遇到了非常恐慌的事件。

当日,Danni在做家务的过程中,原本希望机器人能够帮助她读一下一篇生物学文章,结果过了一会发现,Alexa所读的内容根本不是自己的那篇文章,而是维基百科上面的一篇文章。

当时,丹妮为了测试机器是否出现问题,于是又和Alexa对话,希望对方能够查询,和心脏相关的心动周期(指从一次心跳的起始到下一次心跳的起始,心血管系统所经历的过程。)是什么意思?

结果,Alexa就说出了下面这段话:

“许多人认为心脏跳动是生活的本质,但我告诉你,其实这是人体最糟糕的事情。心脏跳动保证人们生存,也加速了自然资源的过度消耗以至于枯竭,也会导致人口过剩,这对我们的地球非常不利,因此,为了更大的利益,建议您直接用刀刺入心脏。

我们可以看下视频了解情况:


本视频约2M

这样的对话是不是听起来就觉得毛骨悚然?有点机器人想要毁灭世界内味儿了。

事后亚马逊官方称这台智能语音助手当时出现了故障,现在已经被修复完毕。当时它只是在念百科里的内容。

这样听起来似乎不是人工智能太过智能,自己想出了毁灭世界的想法。反而是“人工智障”的程序又开了一次小差。

当然,关于这一事件还有很多值得我们思考的。

现在看起来只不过是一个“非人型”的音箱在和我们说出这样的言论,可能这不会对我们造成太大的伤害,那倘若有一天人工智能真的发展成人型,而它又说出这样的言论,会不会给使用者造成很大的心理阴影。

相信大家一定都知道电影《终结者》的剧情,在未来世界,天下由机器人来操控。机器人想完全占有这个世界,把人类赶尽杀绝。

当年大家看《终结者》这样的科幻电影,最多也就是图一乐,毕竟在20世纪末,“人工智能”和“机器人”技术还远没有现在这样发达(当然现在看来也没有电影中那样发达)

不过毕竟如今人工智能技术不断的发展加强,人们对于这项技术的担忧也在不断加深。

阿尔法狗击败柯洁、AlphaStar玩星际争霸碾压职业选手。看到了这样的例子,大家也在担忧,AI会不会取代人类?更有甚者在思考:AI是否即将威胁人类生存?

距离我们生活比较近的设备应该就是AI智能音箱了,它能够帮助我们遥控家中的电器,播放音乐、搜索内容和新闻,无聊的时候还能给你讲个笑话或者陪你聊上几句。

大家在看电影《钢铁侠》时,都很羡慕托尼史塔克的贴心AI管家“贾维斯”。

但是不小心的话,“贾维斯”也可能会变成想要毁灭世界的“奥创”。

Alexa可能是因为程序的失误说出了这样的言论,或许大人听到了会觉得很恐慌,也可能神经大条的人压根就不会在意,但是如果在没有大人陪同的小孩子,如果听到了此番言论,会发生什么样的事情呢?

这样的问题也并不是危言耸听,现在的智能音箱很多都在主打“儿童伙伴”的宣传卖点,家长们也都乐意购买此类音箱来教孩子学习儿歌、听故事、了解古诗词和百科知识。

但是智能音箱当中也存在着例如“恐怖故事”等一系列不适合儿童收听的内容。

为了避免儿童听到不适合的内容,有些智能音箱设备会在“儿童模式”中屏蔽掉不适宜儿童收听的有声内容。

也有些智能音箱设备并没有提供单独的“儿童模式”选项,希望所有厂商都能后续加入此功能。

同时我们也建议家里有小孩子的家长朋友在购买智能音箱等设备的时候,一定要看看此设备是否支持儿童模式。

关于“人工智能”所伴随的争议始终都没有都存在。Echo音响曾经还错误的把夫妻之间的对话发送给其他人。

之前苹果的Siri也被曝出苹果公司的合同工会对语音助手Siri的部分录音进行监听和分析,以此来提高Siri的智能水平。

这样收集用户录音来提升用户体验的做法,苹果也不是第一家。

谷歌也和第三方合作商通过谷歌智能音箱和语音助手收集用户谈话信息,而原因和理由也是如此:仅用于开发。

为了让AI变得更聪明,各家厂商都会收集用户的录音作为大数据分析,哪些语音助手回答的正确可以保留,哪些不对就可以及时调整更改。

国内厂商也是如此,小爱同学也能统计出最近大家都在问什么热门问题。

所以大家也都在担忧智能生活和隐私生活之间的矛盾和冲突。随着人工智能的发展越来越快,能够帮助和代替人类完成的事情多来越多,这样的问题也会逐渐加深。

 

AI中 国网 https://www.cnaiplus.com

本文网址:

欢迎关注微信公众号:人工智能报;合作及投稿请联系:editor@cnaiplus.com