来源:2022-07-18 00:00:00 热度:

是前沿科技还是伪科学?情绪识别AI争议不断

A i 中 国 网
是前沿科技还是伪科学?情绪识别AI争议不断

7月18日消息,根据外媒VentureBeat报道,不少科技公司都在使用一种叫做“情感AI”的技术。情感AI技术可以利用面部识别技术,通过面部表情分析一个人的内部情绪、感觉、动机或态度。

这种情感AI技术基于一种叫做“基本情绪”(basic emotions)的理论。该理论把人类交流时的基本情绪状态分为六种——幸福、惊讶、恐惧、厌恶、愤怒、悲伤。

但是,目前情感AI技术的科学依据尚不充分。并且,这项技术在实际应用中会带来一系列伦理隐私问题,这些都让大众对这项技术的争议不断。

一、视频面试自动打分,情感AI帮公司筛选人才

目前,情感AI技术被广泛应用于各个领域,情感AI技术可以在这些领域很好地发挥积极作用。

在职业领域,面试官通过这种情感AI技术来对求职者的面试进行打分,其评分标准包括“热情”、“学习意愿”、“责任感”、“个人稳定性”等。

在韩国,情感AI技术已经普遍应用于求职面试中。所以,韩国的求职顾问往往会让他们的客户通过AI面试来进行练习,以提高求职面试的成功率;在安全领域,边防人员用情感AI技术来检测边境检查站的不明人士,预防潜在威胁;在医疗领域,医生把情感AI技术作为检测和诊断情绪障碍患者的辅助手段。

是前沿科技还是伪科学?情绪识别AI争议不断

▲视频面试

二、人类表情复杂难判,情感AI科学依据不足

但是,目前情感AI技术在科学依据和可行性方面存在很大的争议。

研究人员发现,人们的面部表情在不同的语境和文化之间存在很大差异,目前没有足够的证据表明面部结构可以准确、可靠、具体地反应人类的情绪状态。

此外,也有很多证据表明,人类面部表情的变化差异非常大,不存在一个判断情绪的统一标准。具体来说,人类的“开心”可以通过成千上万种表情来表达。即使是同一个面部表情,在不同人的脸上表达的意思也不同。

未来学家Tracey Follows在推特上表达了她对情感AI技术的不确定性,Tracey Follows说:“在最坏的情况下,这项技术可能是一种伪科学。”AI伦理学者Kate Crawford称:“面部表情和情绪之间的关联还没有得到证实。因此,基于情感AI技术做出的决策充满了不确定性。”

是前沿科技还是伪科学?情绪识别AI争议不断

▲Tracey Follows的推特截图

出于这种担忧,一些公司放弃了对情感AI技术的开发。6月22日,微软宣布停售个人面部情绪分析工具,并进一步限制面部识别工具的使用,同时下架了其Azure Face(面部识别服务)的AI情绪识别功能。

三、涉及隐私和伦理,情感AI技术惹争议

据称,这项技术不仅被应用在视频面试等领域,还被用来“监控”人们的思想。VentureBeat称,有些公司通过情感AI软件判断员工是否对公司足够忠诚,以此决定是否要与该员工进行单独谈话。还有些公司通过情感AI软件判断员工是否处在最佳的工作状态中,以此来安排员工的休息时间,以提高公司的生产率和利润。

《神经科学新闻》(Neuroscience News)提出了一个关键的问题:就算情感AI可以准确读取每个人的感受,我们是否愿意在生活中运用这样的技术?我们愿意把自己的心理活动和情绪毫无保留地暴露在别人眼前吗?这是一个涉及隐私的核心问题。

是前沿科技还是伪科学?情绪识别AI争议不断

▲微软下架了AI情绪识别功能

结语:是监控还是进步?情感AI应用需进一步规范与发展

每一项技术在新推出的时候都会面临争议,情感AI技术也是如此。更何况,这是一项尤为需要明确伦理边界的技术,稍有不慎,这项技术就会被指有监控之嫌。

试想,如果这种技术在更多领域深度应用,那么人类为了影响机器的判断结果,而改变自己的面部表情,迎合机器的判断,让机器支配自己的行动,是否有些本末倒置?毕竟,我们创造机器的初衷是让它们为人类服务,而不是让我们被机器支配。

况且,面部表情与人类情绪之间的关系尚无科学证据,这项技术的科学基础尚不牢固。人类的情绪复杂多变,远远不止基础情绪中划分的这六种。即使面对同一件事,每个人的表达方式也不同。

总的来说,这项技术还尚在起步阶段,无论是在科学基础、伦理道德、实践应用方面,都还有很长的路要走。

来源:VentureBeat

A i 中 国 网

本文网址:

欢迎关注微信公众号:人工智能报;合作及投稿请联系:editor@cnaiplus.com

AI中国号...

关注微信公众号,了解最新精彩内容