登陆

欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋

admin 2019-08-22 244人围观 ,发现0个评论

参加:张倩、杜伟

希腊、匈牙利、拉脱维亚的安全组织正在打开一个试点方案,运用依据人工智能技能的「虚拟差人」来判别出入境旅客是否「心怀不轨」。但记者测验后却发现,这个「虚拟差人」如同很简略「谎称军情」。

测验「虚拟差人」的记者来自美国查询新闻网站 The Intercept,他们在本年年初经过塞尔维亚-匈牙利边境时打开了测验。记者诚笃地答复了一切问题,但最终却被「虚拟差人」判别为扯谎,在 16 道测验题中答错了 4 道,得分为 48 分(满分 100)。评价记者测谎成果的匈牙利差人说,体系建议她承受进一步的检查,虽然这些检查后来并没有进行。

这个「虚拟差人」被称为 Silent Talker,它是一个测谎仪,用于加强欧洲的边境办理,使旅客在获准经过海关前承受测谎仪测验。

详细流程如下:

在抵达机场之前,旅客运用自己的电脑登录一个网站,上传护照相片,然后呈现一位身穿蓝色水兵制服的棕发虚拟差人。

这位虚拟差人会提出问题,比方「您姓什么?」、「您的国籍以及游览意图是什么?」。旅客需求答复此类问题以及虚拟差人提出的其他问题,然后它会运用电脑摄像头扫描面部和眼球运动,以搜索扯谎的痕迹。

在与虚拟差人交互的最终,体系提供给旅客一个二维码,旅客需求在抵达边境之时向保镳出示此二维码。然后保镳运用手持平板设备扫描二维码,提取指纹,从头审阅虚拟差人捕捉到的面部图画,以检查是否与护照共同。保镳平板设备上会显现分数(总分 100 分),然后获悉虚拟差人对旅客是否扯谎的判别。

假如旅客被断定企图诈骗体系,则将其分类为「高度风险」或「中度风险」,这将取决于该旅客被发现问题答复过错的次数。

那些被确定风险的旅客或许会被回绝入关,虽然在大多数情况下,他们无法知道虚拟差人测验在决议方案中是否起到了效果。此外,虚拟差人的测验成果一般不会泄漏给旅客。

虚拟差人的宿世此生

虚拟差人是 iBorderCtrl 项意图产品,该项意图参加者包括匈牙利、拉脱维亚和希腊的安全组织。现在,测谎仪测验是自愿的,试验方案也将于 8 月完毕。假如该方案取得成功,欧盟其他国家或许也会打开相应项目。该项意图发展潜力也在欧盟大陆引起了争议,媒体争相报导。

现在,欧盟的一个研讨方案现已向 iBorderCtrl 项目投入了 450 万欧元,并由 13 个合作伙伴组成的财团进行办理,包括希腊安全研讨中心、德国汉诺威莱布尼茨大学以及匈牙利 BioSec、西班牙 Everis 和波兰 JAS 等技能与安全公司。

IBorderCtrl 测谎体系是由英国曼彻斯特城市大学的研讨人员开宣布来的,他们标明,该技能能够在人们在电脑上答复问题时捕捉到「微姿势」,然后对面部表情、眼球运动和姿势进行剖析。此外,他们还以为这种测谎体系代表了边境安全的未来发展方向。

在 2018 年 6 月宣布的一篇论文中,他们就标明这种虚拟差人「十分适合在入境海关对话中检测出旅客是否扯谎,因为它能够有用地捕捉到旅客回话中包括的信息。」

论文地址:https://www.researchgate.net/publication/328399576_Intelligent_Deception_Detection_through_Machine_Based_Interv欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋iewing

可是,一些学者对 IBorderCtrl 测谎体系的价值提出了质疑,以为它依靠伪科学来断定旅客是否诚笃。

质疑声不断的测谎体系

测谎依据站不住脚

英国德比大学(University of Derby)刑事侦察学教授 Ray Bull 曾帮忙英国警方提高面谈技巧,通晓测谎技能。他以为,iBorderCtrl 项目是「不可信的」,因为没有依据标明监测人们的面部微姿势是判别他们是否扯谎的精确办法。

Bull 标明:「iBorderCtrl 测谎体系的研制人员在诈骗咱们,他们说自己这种技能十分有用,但其实浪费了许多金钱。该技能对人们在诚笃和诈骗时的行为产生了根本性误解。」

技能不行通明

IBorderCtrl 是一种辅佐预筛查流程的技能。可是建议通明度的活动人士标明,在获取更多相关技能信息(如决议方案所运用的算法)之前不该推行该项目。

本年早些时分,米兰赫尔墨斯欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋通明度与数字人权中心(Milan-based Hermes Center for Transparency and Digital Human Rights)的研讨人员运用信息自在法获取了 IBorderCtrl 测谎体系的内部文件,包括数百页内容。可是,文件内容遭到了许多的修正,并且许多页面彻底被涂改掉了。

赫尔墨斯中心的研讨人员 Riccardo Coluccini 标明:「经过隐秘处理这些问题的文件来企图按捺对该体系的评论,这种做法真是太可怕了。了解技能背面的赞助流程十分有必要。这些内部文件里究竟写了些什么?这些财团又怎么证明运用这种伪科学技能的合理性呢?」

体系存在种族成见

曼彻斯特的研讨人员也对 iBorderCtrl 体系进行了研讨,他们测验了 32 个人,成果显现该体系的精确率仅为 75%。但他们注意到,参加测验的人员在种族和性别上散布不均衡,其间亚裔或阿拉伯裔参加者人数少于欧洲白人,并且女人少于男性。

欧盟数据维护监管组织负责人 Giovanni Buttarelli 对此标明忧虑,以为 iBorderCtrl 体系或许会依据人们的种族身世而轻视他们。

iBorderCtrl 体系发言人回绝答复有关种族轻视的问题。该项意图一个网站供认「该测谎体系将影响到旅客的基本权利,但现在测验是自愿的,因而不会呈现轻视、人格尊严等问题。」

学界对情感剖析东西牢靠性的质疑

用 AI 进行情感辨认是该范畴的一大研讨热门,但正如上述测谎仪所揭穿的相同,这项技能如同并没有那么靠谱。

近来,来自美国东北大学心理学系、加州理工学院人文社会科学院的研讨者对运用 AI 技能进行情感辨认的牢靠性提出了质疑。他们对愤恨、讨厌、惊骇、高兴、哀痛和惊奇等六种最盛欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋行的心情类别进行了研讨,指呈现有的情感辨认东西用于判别情感类型的依据还过分简略、广泛,不适合大规模运用。

  • 论文:Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements
  • 论文链接:https://journals.sagepub.com/eprint/SAUES8UM69EN8TSMUGF9/full#

这份研讨标明,人类情感的表达办法具有多样性,因而仅仅依据一组面部表情来揣度情感类型很难得出牢靠的定论。「数据标明,人们在气愤时只要不到 30% 的时刻会蹙眉,」其间一位研讨者标明,「因而蹙眉并不等于气愤,仅仅气愤的一种体现。」也就是说,人们在超越 70% 的情况下气愤是不蹙眉的,更重要的是,人们在不气愤时反而常常蹙眉。

此外,不同文化背景、情境下的人表达情感的办法,乃至不同的人表达同一心情的办法也不尽相同。并且,类似的面部表情或许会表达多种情感。

当然,这篇论文并没有否定典型面部表情的存在,而是对立运用面部表情进行「牢靠」的情感辨认。

之前许多研讨以为某些面部表情与心情之间存在很强的相关,但它们往往存在办法上的缺点。例如,这些研讨以试验参加者做出的夸大表情作为某种情感体现的研讨起点。然后,他们要求参加测验的目标对这些表情打上标签,因为可选择的表情规模十分有限,所以迫使他们达到某种一致。

研讨者标明,人类了解心情的办法比这要杂乱得多。「咱们气愤的时分或许会大吼大叫,或许会哭,有时还会大笑,或许仅仅静静地考虑怎么报复敌人」。

可是,那些出售情感剖析东西的公司却很少考虑这些奇妙之处。以微软的算法为例,该公司标明,他们的算法能够「依据通用的面部表情辨认出 8 种中心情感状况……」这项研讨辩驳的正是这种论调。

当然,这种批判也不是最近才提出的。论文作者及其他研讨者早在数年前就开端宣布正告,称这些情感辨认模型过于简略。

面临这些质疑,那些售卖情感剖析东西的公司标明,他们的剖析依据的不仅仅面部表情,还有许多其他信号。现在,一些比较抢先的公司也测验在情感剖析中参加语音、步态、眼动等信号,但难点在于他们是怎么平衡这些信号。

这种不成熟的情感剖析东西的运用也很简略被人运用。就像咱们知道点赞某些图片会影响咱们的广告推送相同,咱们也能够依据对这些东西的了解而故意做出某欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋种表情。

研讨者标明,他们的研讨最想表达的一点是,咱们需求以一种愈加杂乱的办法来辨认情感。情感的表达十分多样、杂乱并且有必定的语境。她将这种思想的改变与达尔文的研讨进行类比,「达尔文认识到,一个物种的生物学范畴并欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋不是固定不变的,而是由高度改变的个别组成的。」研讨者标明,「情感欧盟边检AI测谎仪上线了,第一天就差点让记者进了小黑屋范畴也是如此。」

参阅链接:

https://theintercept.com/2019/07/26/europe-border-control-ai-lie-detector/

https://www.thevipsaerge.com/2019/7/25/8929793/emotion-recognition-analysis-ai-machine-learning-facial-expression-review

请关注微信公众号
微信二维码
不容错过
Powered By Z-BlogPHP