是前沿科技还是伪科学？情绪识别AI争议不断

本文系网易新闻·网易号特色内容激励计划签约账号【智东西】原创内容，未经账号授权，禁止随意转载。

智东西（公众号：zhidxcom）
编译 | 夏舍予
编辑 | 徐珊
智东西7月18日消息，根据外媒VentureBeat报道，不少科技公司都在使用一种叫做“情感AI”的技术。情感AI技术可以利用面部识别技术，通过面部表情分析一个人的内部情绪、感觉、动机或态度。
这种情感AI技术基于一种叫做“基本情绪”（basic emotions）的理论。该理论把人类交流时的基本情绪状态分为六种——幸福、惊讶、恐惧、厌恶、愤怒、悲伤。
但是，目前情感AI技术的科学依据尚不充分。并且，这项技术在实际应用中会带来一系列伦理隐私问题，这些都让大众对这项技术的争议不断。
一、视频面试自动打分，情感AI帮公司筛选人才
目前，情感AI技术被广泛应用于各个领域，情感AI技术可以在这些领域很好地发挥积极作用。
在职业领域，面试官通过这种情感AI技术来对求职者的面试进行打分，其评分标准包括“热情”、“学习意愿”、“责任感”、“个人稳定性”等。
在韩国，情感AI技术已经普遍应用于求职面试中。所以，韩国的求职顾问往往会让他们的客户通过AI面试来进行练习，以提高求职面试的成功率；在安全领域，边防人员用情感AI技术来检测边境检查站的不明人士，预防潜在威胁；在医疗领域，医生把情感AI技术作为检测和诊断情绪障碍患者的辅助手段。

▲视频面试
二、人类表情复杂难判，情感AI科学依据不足
但是，目前情感AI技术在科学依据和可行性方面存在很大的争议。
研究人员发现，人们的面部表情在不同的语境和文化之间存在很大差异，目前没有足够的证据表明面部结构可以准确、可靠、具体地反应人类的情绪状态。
此外，也有很多证据表明，人类面部表情的变化差异非常大，不存在一个判断情绪的统一标准。具体来说，人类的“开心”可以通过成千上万种表情来表达。即使是同一个面部表情，在不同人的脸上表达的意思也不同。
未来学家Tracey Follows在推特上表达了她对情感AI技术的不确定性，Tracey Follows说：“在最坏的情况下，这项技术可能是一种伪科学。”AI伦理学者Kate Crawford称：“面部表情和情绪之间的关联还没有得到证实。因此，基于情感AI技术做出的决策充满了不确定性。”

▲Tracey Follows的推特截图
出于这种担忧，一些公司放弃了对情感AI技术的开发。6月22日，微软宣布停售个人面部情绪分析工具，并进一步限制面部识别工具的使用，同时下架了其Azure Face（面部识别服务）的AI情绪识别功能。
三、涉及隐私和伦理，情感AI技术惹争议
据称，这项技术不仅被应用在视频面试等领域，还被用来“监控”人们的思想。VentureBeat称，有些公司通过情感AI软件判断员工是否对公司足够忠诚，以此决定是否要与该员工进行单独谈话。还有些公司通过情感AI软件判断员工是否处在最佳的工作状态中，以此来安排员工的休息时间，以提高公司的生产率和利润。
《神经科学新闻》（Neuroscience News）提出了一个关键的问题：就算情感AI可以准确读取每个人的感受，我们是否愿意在生活中运用这样的技术？我们愿意把自己的心理活动和情绪毫无保留地暴露在别人眼前吗？这是一个涉及隐私的核心问题。

▲微软下架了AI情绪识别功能
结语：是监控还是进步？情感AI应用需进一步规范与发展
每一项技术在新推出的时候都会面临争议，情感AI技术也是如此。更何况，这是一项尤为需要明确伦理边界的技术，稍有不慎，这项技术就会被指有监控之嫌。
试想，如果这种技术在更多领域深度应用，那么人类为了影响机器的判断结果，而改变自己的面部表情，迎合机器的判断，让机器支配自己的行动，是否有些本末倒置？毕竟，我们创造机器的初衷是让它们为人类服务，而不是让我们被机器支配。
况且，面部表情与人类情绪之间的关系尚无科学证据，这项技术的科学基础尚不牢固。人类的情绪复杂多变，远远不止基础情绪中划分的这六种。即使面对同一件事，每个人的表达方式也不同。
总的来说，这项技术还尚在起步阶段，无论是在科学基础、伦理道德、实践应用方面，都还有很长的路要走。
来源：VentureBeat

---