Nature：是时候该管一管AI精神状态识别的泛滥

在猪流感大流行期间，科技Corporation长年在公关他们的心理比对该软件，可用远程监视管理层甚至成年人。以一个名为“4棵藤蔓”的系统为例。该项目在澳门人合作开发，撒谎可以风险评估朋友们在课堂作业时的心理。它将每个的学生的手部特征界定为无忧无虑、悲伤、愤怒、厌恶、惊讶和惧怕等心理静止状态。它还衡量“动机”和预测品位。相同的应用软件早就上市，为远程社会工作者给予监视。据估计，到2026年，内心比对行业将增长速度到370亿美元。

对于AI否能够验证内心，科学界存有严重分歧。2019年的一项封杀很难挖掘出有可信的确凿证据。该研究认为科技Corporation提出有的问题很意味著是根本差错的。

科学上越来越关注这些应用的用作和滥用。学术界们重申对所有可用招揽的AI应用透过强制性、完全符合的审计，并未公开谈及调查。有组织重申不应成立一个独立的权利机构来所指导生物比对应用的其发展和实施。这种所指导对于抵御颅相学冷漠液压的系统至关关键性。颅相学冷漠是所指这样一来也就是说中得出有关于内部静止状态和能力的差错假设，意在是提取出有一个人的更是多讯息，而不是他们必需揭示的讯息。

当今世界各国在合作开发病人人体的药品时都有完全符合的科学规定。那些否认我们的思想的应用软件至少不应得到同样的保障。长年，学术界们长年重申美利坚合众国实体政府部门机器人和手部比对;这也不应衔接到内心比对。现在是国家政府部门机构防范擅自猜测的申请者的时候了，之外是那些针对成年人和其他青年人的申请者。

化疗的教训表明了为什么政府部门是关键性的。美利坚合众国要求和随后的的广告使更是多的化疗数据向公众开放，并经过完全符合的验证。这成为更是好的举措拟订和公众宠信的基础。对内心应用的政府部门也会产生相同的好处和承担责任。它还有助于建立规范，以敌对大型企业和政府的不合理行为。

作假仪是一个适合于的比如说。这种“作假仪”次测试发明于20世纪20中期，被美国美利坚合众国调查局和美国军方用作了几十年，结果前后不原则上，损伤了数千人，直到美利坚合众国权利禁止用作。直到1998年，美国最高法院才得出有结论:“对于作假确凿证据否可信，人们根本很难协商。”

但上数刻画的六种心理完全相符新兴的计算机视觉科技领域的基本概念。他的原理之所以被采纳，是因为它相符应用软件的功能。只要或许更是复杂的问题，六种原则上的心理就可以大规模规范和电子化。2001年9同年11日枪击案后，上数将他的系统转手了美国运输安全管理处，以风险评估哪些乘车观感出有惧怕或紧张，以及意味著是袭击者。它因不够信誉和人种偏见而受到抗拒批评。然而，现今的许多应用软件，如“四棵藤蔓”，都是基于上数的六种心理分类。(上数坚称，手部样子确实转达了普遍性的心理，但他表示，他很难看得见电子化应用有效的确凿证据。)

然而，Corporation继续销售的该软件，将负面影响人们的机会，很难清楚地记事，独立审计的确凿证据的理论上。求职者受到不公平的评判，因为他们的手部样子或韵尾与管理层不反之亦然;的学生们在所学校被标有，因为他们的脸看起来很后悔。研究人员还表明，手部比对该软件认为黑人丑陋比美国黑人丑陋有更是多的心理。

不能再允许心理比对应用不受政府部门。现在不应采取司法保障措施，防止在教育、医疗、医疗保健和刑事法理等所有科技领域擅自猜测地用作这些应用软件。这些保障措施将重新聚焦完全符合的科学，并拒绝内部静止状态只是另一个数据集，可以从我们的浑身刮走。

文中引自

Crawford K. Time to regulate AI that interprets human emotions. Nature. 2021;592(7853):167. doi:10.1038/d41586-021-00868-5