来源:2019-01-15 11:53:00 热度:

安全问题将是AI开发的最大挑战,今年将迎爆发期

AI中国 网 https://www.cnaiplus.com

无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,但一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。近日,阿里安全专家表示,“安全AI会成为未来网络安全问题的新解法,将在2019年迎来爆发期。”

“AI发展趋势是一定的,但AI应用来解决安全问题时并不能生搬硬套,需要根据实际场景进行AI的技术升级,”阿里安全图灵实验室负责人奥创表示,在大量的AI技术落地之前,安全AI需要引起足够的重视才能从源头上防范更多的风险。

奥创解释,安全AI是指安全场景中进化出的AI,拥有更强、更多元化的能力,与当前通用AI的理念不同,其更注重在业务安全领域垂直纵深的技术积淀,开发出适应更多安全场景的新一代AI,让传统的安全问题找到新的AI解法。

基于问答技术、知识图谱和对抗样本等技术,阿里安全近日研发出新一代AI验证码,通过AI挖掘生活常识类信息作为问答题库,并对原始图像有针对性的加入干扰,使得人眼识别不受影响,但会显著降低黑产AI打码的成功率。

基于安全AI理念,阿里安全图灵实验室推出的AI鉴黄师可识别图片、弹幕、语音等多维度信息。

“知识图谱、多源网络、对抗样本等构建出更强、更安全的AI技术能力,可以有效防范攻击,降低风险”。奥创举例,用AI判定互联网平台上对于违规视频的判定,除了计算机视觉技术之外,加入了语言、语音等多源网络的设计,比如视频画面、视频中的语音、弹幕和交互信息等多个维度。

奥创认为,2019年将是安全AI的爆发之年,针对安全场景的AI设计,极限数据情况下的模型训练、实现不同业态与场景下的模型迁移、决策场景下的模型可解释性、强对抗场景下的模型安全性这四个方向将非常值得探索。

“欧盟刚刚出台《人工智能道德准则》,明确提出AI的发展方向应该是‘可信赖AI’,包含安全、隐私、透明等多个方面,AI应用正在成为一个社会问题,如何解决已经成为各界共同关注的话题。”奥创说。

AI中国 网 https://www.cnaiplus.com

欢迎关注微信公众号:人工智能报;合作及投稿请联系:editor@cnaiplus.com