联合国教科文组织近日发表了一份报告，批评目前大多数AI语音助手存在性别偏见，原因是它们几乎都有着女性的名字和声音，并被设置成千篇一律的、顺从的女性形象。
AI强化性别偏见
报告对四家公司语音助手的调查显示，当听到用户的性骚扰言论时，语音助手的回应往往模糊且温顺。几乎没有语音助手给出否定回答，或是将用户的言论标记为不合适。报告认为，这就发出了一个信号，暗示女性是乐于助人、温顺、取悦他人的，用户只需按下按钮，发出生硬的语音命令就可以了。
早在1964年，聊天机器人Eliza的语音助理就预设声音为女声。目前，除了Siri、Cortana等，国内领先的智能语音助手同样存在此类现象，比如百度的“小度”、阿里的“天猫精灵”和小米的“小爱同学”等。
中国科学院自动化研究所研究员、北京智源人工智能研究院人工智能伦理与安全研究中心主任曾毅认为，AI语音助手中性别偏见的问题并不是由算法本身造成的，而是产品设计者的选择，直接反映了人类自身的倾向。尽管现代性别观念中倡导男女平等，但现实社会依然普遍对女性有着刻板印象，即通常认为女性是温和顺从的，有足够的耐心和理解力。
“
人工智能产品研发者的最初动机可能来自所谓的大多数用户的偏好，但无形中却造成了性别偏见，而AI无非是对数据特征和属性的学习。实际上目前的AI模型与技术仍然很难像人一样理解偏见的真正意义及后果。
”
英国媒体《卫报》早前发表评论文章也指出，人工智能已经开始出现了种族和性别偏见，但是这种偏见并非来自机器本身，而是计算机在学习人类语言时吸收了人类文化中根深蒂固的观念。
人工智能对性别的偏见在其他领域中也充分展现。比如，亚马逊基于人工智能技术的简历筛选与招聘系统“自己学会”优选男性求职者，而女性简历会被自动减掉分数，该项目已在去年被迫关停；职业平台LinkedIn通过复杂的人工智能算法向用户推荐工作时，多为男性求职者推荐高收入职业，而很少向女性推荐高收入职业等。
报告认为，产品开发者严重的性别比例失衡是产生“偏见”的一个原因。
一项国内调查发现，中国程序员群体的男女比例近12：1。联合国教科文组织的这份报告也提到，在人工智能开发人员中，仅12%是女性；软件开发人员中的女性比例低至6%；信息通信技术专利申请人中的男女性别比例为13：1。人工智能与新媒介技术与文化研究专家、北京大学教授吴靖：
“
传统的性别社会化教育形成了这样一个大体的社会分工，使得AI、计算机领域多以男性为主导。
”
“
他们自身带有的偏见会被直接嵌入AI系统。
”
女性参与AI研发会扭转局面？
报告建议：探索将语音助手的“性别”设置为中性的可行性；用户可根据需要更改智能助手设置；培养女性从事先进科技研究的能力，使其能与男性一同引领新技术的发展方向等。
牛津大学数据伦理和算法领域的研究人员桑德拉·沃彻呼吁建立一个人工智能监管机构，对带有偏见的决定进行检测并采取行动。
责编：张慧娟
编审：刘志军、李 锐
素材来源：中国科学报、新浪科技
图片来源：IC photo
本文网址：
