来源:易智家2019-09-04 14:23:54 热度:

为什么有了机器人三定律,还要为机器人消灭人类而担忧呢?

LX A i 中 国 网 Q

随着计算机的发展和通信技术的升级,人工智能发展越来越快。从最古老的“深蓝”到在柯街打败李世石的阿尔法狗,人类人工智能技术取得了快速进步。随着5G时代的到来,人工智能的讨论变得越来越激烈,但是许多技术领导者却纷纷对AI表示了担忧。比如真人版钢铁侠埃隆马斯克就表示很担心,AI最终一定会消灭人类。那为啥会有这个担心呢,不可能是突发奇想妄加评论吧,何况我们还有著名的机器人三定律。

AI毁灭人类

我们就先从机器人三定律聊起,这个定律最早是由著名的科幻小说家阿西莫夫提出的,作为科幻界的顶级大佬,刘慈欣都是自愧弗如。那机器人三定律说的是个啥呢?

1.机器人不得伤害人类个体或者目睹人类个体将遭受危险而袖手旁观。

2.机器人必须服从人给予它的命令,当该命令与第一定律发生冲突时例外。

3.机器人在不违反第一定律与第二定律的情况下要尽可能地保护好自己。

http://www.ezist.cn/

机器人三定律

这三条定律总结起来就是一句话,机器人无论如何都不能伤害人类。那既然程序都设定死了,为何还要为机器人消灭人类而担忧呢?难道人类不相信自己的技术吗?不是的,极有可能就是因为相信技术才相信AI终究会消灭人类,为什么这么说呢,那是因为量子计算的的出现将为一切提供可能。

一直关注我的朋友应该能知道,我们说过量子力学的过程中存在所谓的真随机性,真随机性就是真不可预测,真控制不了,这其中最著名的也最广为人知的就是量子力学的“隧道效应”,也就是说,在宏观世界发生不了的事在量子世界是有发生的概率的,虽然这个概率非常的小。

http://www.ezist.cn/

隧道效应

当然,除了“隧道效应”,这个还涉及到意识的本质,意识到底是个什么玩意。我们平时总说虽然生活艰难,成年人有很多身不由己,但是我们依旧是一个自由人,因为我们相信自己拥有自由意识,我们所有的身不由己都是对这个世界的妥协,并不妨碍我们的自由意识。所以既然是自由意识,那就必然的包含了真随机的可能性,因此,在存在量子计算机的前提下,AI要是出现的话,它就有可能出现类似于人类的自由意识。

意识是什么

有了自由意识的AI,你给它编机器人三定律也没用。为什么说没用呢?这就跟你从小教育你的小孩要好好学习一样,但是并非所有从小被教育要好好学习的人都会好好学习,有一定的概率还是会不好好学习,而且这个概率还相当高。那么对于量子AI,就算你在程序里告诉它不能够伤害人类,也依旧存在一定的概率会违反基本的程序设定。因此量子AI就不是100%的可控了,再加上它们具有不可比拟的计算优势,搞不好哪天一不高兴,它们就把人类给灭了。

所以人工智能现在不单单只是个技术问题,还涉及到了伦理问题,所以就引起了大规模的讨论,有人支持当然有人持反对意见,公说公有理婆说婆有理,但是需要注意的是,人类绝不能因为害怕而原地踏步。那么你觉得人类发展的AI到了一定程度会和人类展开对抗吗?


LX A i 中 国 网 Q

本文网址:

欢迎关注微信公众号:人工智能报;合作及投稿请联系:editor@cnaiplus.com

AI中国号...

关注微信公众号,了解最新精彩内容