美国当地时间6月22日周二，微软宣布停止销售基于面部图像分析个人情绪状态的自动技术，并限制其面部识别工具的使用。

多年来，许多活动人士和学者一直担心，声称能够识别个人年龄、性别和情绪状态的面部分析软件可能存在偏见、侵犯性或根本不可靠，因此不应该允许销售。

微软承认上述问题，并于周二表示，计划从其人工智能(AI)服务中移除这些用于检测、分析和识别人脸的功能。微软将于本周停止向新用户出售该技术，现有用户将于今年逐步停止使用。

这些变化是微软加强对其AI产品控制的努力的一部分。经过两年的审查，微软的一个团队已经制定了一个“负责任的人工智能标准”。在这份27页的文件中，该公司列出了对负责任的人工智能系统的具体要求，以确保它们不会对社会产生有害影响。

这些要求包括确保AI系统“为它们致力于解决的问题提供有效的解决方案”，以及“为确定的人口群体(包括边缘化群体)提供类似的优质服务”。

这些技术将用于帮助个人做出重要决定，如获得就业、教育、医疗、金融服务或生活机会。在它们发布之前，需要由微软首席负责人工智能官NatashaCrampton领导的团队进行评估。

显然，微软越来越担心这种情绪识别工具，它可以将个人面部表情分类为愤怒、蔑视、厌恶、恐惧、快乐、中立、悲伤或惊讶。Crampton说：“我们表达自己的方式存在巨大的文化、地理和个人差异，这引发了人们对AI识别工具可靠性的担忧，同时也提出了更大的问题，即面部表情是否是反映个体情绪状态的可靠指标。”

Crampton还表示，年龄和性别分析工具以及其他检测微笑等面部特征的工具可能有助于盲人或视力不好的人解读视觉图像。然而，微软认为向公众提供这些分析工具是不合适的。克兰普顿强调，系统所谓的性别分类器是二元的，“这与我们的价值观并不完全一致”。

微软还将对其面部识别功能进行新的控制，该功能可用于身份验证或搜索特定的人。例如，在线汽车公司优步在其应用程序中使用该软件来验证司机的面部是否与司机账户上的ID相匹配。想要使用微软面部识别工具的软件开发人员需要申请访问权限，并解释他们计划如何部署该工具。

用户还将被要求申请并解释他们将如何使用其他可能被滥用的AI系统，如CustomNeuralVoice。该服务可以根据某人的语音样本生成人的声纹，这样作者就可以创建他们的合成语音，以他们不会说的语言阅读有声书籍。

因为该工具可能被滥用，例如生成某人没有说过的话，用户必须经过一系列步骤来确认他们正在使用的声音是经过授权的，并且录音中包含微软可以检测到的水印。Crampton说：“我们正在采取具体行动来实践我们的人工智能原则，但这将是一个漫长的旅程。”

和其他科技公司一样，微软的AI产品在开发过程中也遇到了很多挫折。2016年，微软在Twitter上发布了一款名为Tay的聊天机器人，旨在向与之互动的用户学习如何“理解对话”。然而，该机器人很快开始发布种族主义和攻击性的推文，微软最终不得不删除它们。

2020年，研究人员发现，微软、苹果、谷歌、IBM和亚马逊开发的“语音转文本”工具在黑人用户中表现不佳。虽然微软的系统是其中最好的，但是白人的误识率是15%，而黑人是27%。

尽管微软收集了各种语音数据来训练其AI系统，但它从未完全理解语言的多样性。因此，该公司聘请了华盛顿大学的社会语言学专家来帮助解释它需要了解的语言变体。这种方法超越了人口统计和地区差异，包括了人们在正式和非正式场合的说话方式。

Crampton说：“认为种族是一个人说话方式的决定性因素实际上是一种误导。经过咨询专家，我们知道其实有很多因素会影响语言的多样性。解决语音和文本之间差距的过程极大地帮助了公司制定新标准的指南。”

Crampton还说：“现在是为AI制定规范的关键时期。”她提到了欧洲的拟议法规，这些法规对人工智能的使用设定了规则和限制。克兰普顿说：“我们希望用我们的标准为科技公司普遍应该遵守的标准的讨论和制定做出贡献。”

关于AI的潜在危害，科技界已经激烈争论多年。争论的起因是一些AI的错误和失误对人们的生活产生了实际影响，比如决定人们能否获得利益的算法。荷兰税务当局错误地剥夺了贫困家庭的儿童保育福利，因为有缺陷的算法排除了拥有双重国籍的人。

人脸识别和分析的自动软件一直备受争议。去年，脸书关闭了使用了十年的照片识别系统。该公司负责AI业务的副总裁提到“很多人担心面部识别技术在社会中的地位”。

几个黑人因为面部识别不匹配而被错误逮捕。2020年，警察在明尼阿波利斯开枪打死GeorgeFloyd后，引发了“黑人的命就是命”的抗议。与此同时，亚马逊和微软宣布暂停美国警方对其面部识别产品的使用，称其使用需要更明确的法律。

此后，华盛顿和马萨诸塞州通过了法律法规，要求对警察使用面部识别工具进行司法监督。Crampton表示，微软曾考虑过是否在有法律依据的州开始向警方提供其软件，但决定目前不这么做。她说，这种情况可能会随着法律环境的变化而改变。

普林斯顿

大学计算机科学教授、著名AI专家阿温德·纳拉亚南（ArvindNarayanan）表示，公司可能正在放弃分析面部的技术，因为他们可能意识到，至少目前，这些系统没有太大的商业价值。微软没有透露其面部分析功能有多少用户。纳拉亚南预测，公司不太可能放弃其他侵入性技术，比如定向广告，它会让人们选择最好的广告来展示给特定用户，因为它们依然是“摇钱树”。（小小）