情感AI研究人员质疑准确性,要求监管

情感识别已被用于教育,警务和招聘,但是许多专家认为该技术不可靠,可能导致歧视。

研究人员称
美国政府来规范情感识别行业,
最近几个月因过分夸张和社会化而受到打击
危害。

情感识别是情感计算的一个分支,目前正被公司用于教育,警务和招聘,但是许多专家认为该技术不可靠,可能导致歧视。

推荐阅读
1的26,658

还请参见:利用AI释放电子病历的潜力

去年7月发表的一项研究证实,使用当前的工具,不可能通过看着一个人的脸来判断情绪。这是大多数以情感识别方式出售的商业产品的销售基调,目前这些产品正在美国,韩国和中国部署,以进行高风险决策。

奥格斯堡大学计算机专家伊丽莎白·安德烈(ElisabethAndré)在接受《麻省理工学院技术评测》采访时说:“没有认真的研究人员会声称你可以分析面部的动作单元,然后才真正知道人们在想什么。”

但是由于缺乏
法规,包括HireVue,Affectiva和NVISO在内的多家公司正在推广
他们的产品能够做到这一点。据研究人员指出
一种情感,该技术需要与其他传感器配合使用,
像心率和姿势。

AI Now研究机构最近呼吁全面禁止所有情感识别技术用于高风险决策。 DataPop联盟的首席数据科学家Nuria Oliver制定了更合理的计划:“我们明确定义了流程,以证明我们所消费的某些产品(无论是我们食用的食物还是所服用的药物)对于我们来说都是安全的采取他们,他们实际上做了他们声称做的事。我们没有相同的技术流程。”

奥利弗呼吁
应该制定法规,让一些公司经营,同时保持良好状态
演员出来。与此有关的是执法部门和其他政府
部门已经在与这些公司合作,并且显然没有完全
了解其背后的技术。

梅瑞迪斯·惠特克(Meredith Whittaker)
AI Now联合总监表示,情感识别研究仍应继续
前进,但商业方面应该停止。 “我们特别呼吁
未经监管,未经验证,没有科学依据的商业广告部署
影响识别技术。商业化正在伤害人们,
可能是因为它提出的主张决定了人们对
资源”,她说。

尽管情绪识别的兴趣不如2020年民主党候选人提名的人脸识别那么多,但它开始出现一些倒退。在伊利诺伊州,现在在面试中使用AI分析是非法的,FTC的任务是调查HireVue。在欧洲,欧盟委员会正在考虑在公共场所禁止面部识别的五年;情绪识别禁令可能随之而来。

资讯来源:由0x资讯编译自RTINSIGHTS,版权归作者David Curry所有,未经许可,不得转载
关注我们:Twitter | Facebook | Linkedin | Medium | Telegram | Weibo | WeChat