亚马逊这项技术将立法,以平衡创新和减少潜在风险

2022-04-28
273
163

作者:卖家之家
来源: 卖家之家

美国买家数据库试用

卖家之家获悉,亚马逊于近期提出了关于面部识别技术立法的消息,旨在结束歧视和侵犯公民权利,此前一项研究称,亚马逊的面部识别工具带有种族和性别偏见。亚马逊表示,他们已经制定了负责任地使用面部识别技术的指导政策,以鼓励决策者考虑将其作为潜在立法的基础。


今年2月,麻省理工学院(Massachusetts Institute of Technology)发表的一项研究称,亚马逊的Rekognition工具在识别非白人女性的图像时出错率为31%。


亚马逊AWS的人工智能总经理马特·伍德(Matt Wood)博士回应了这些批评,称这项研究“具有误导性,得出了错误的结论”。他说,亚马逊Rekognition的设计目的是“匹配看起来相似的面孔” ,以验证个人身份。因此,使用面部识别来判断面部识别的准确性是“不明智的,因为它不是用于该目的的预期算法。”


亚马逊近日表示,在过去的几个月里,他们已经与客户、研究人员、学者、政策制定者和其他人进行了交流,以了解如何平衡面部识别的好处和潜在的风险。这些讨论促使他们拟订了负责任使用这项技术的准则。


以下是亚马逊关于面部识别立法的几点指导原则:


1. 面部识别应始终依法使用,包括保护公民权利的法律


亚马逊表示,他们的客户有责任遵守使用这项技术的法律。AWS可接受使用政策(AUP)禁止客户使用任何AWS服务,包括亚马逊Rekognition,违反法律,违反我们的AUP的客户将不能使用我们的服务。在现有法律应如何适用于面部识别技术的问题上可能存在模糊或不确定性的情况下,亚马逊声称已经并将继续向政策制定者和立法者提供支持,帮助他们确定需要制定指导或立法的领域,以澄清这些法律的正确应用。


2.在执法中使用面部识别技术时,人工审查是确保使用预测做出决定不侵犯公民权利的必要组成部分


亚马逊表示,面部识别通常用于将数十万个潜在比赛的“缩小范围”缩小到少数; 正是这种能力使人类能够更容易、更有效地完成需要花费更多时间的任务,从而在许多方面造福社会。然而,亚马逊表示,面部识别不应该被用于做出可能会侵犯公民权利的完全自动化的最终决定。在这些情况下,应该使用对人脸识别结果的人工审查来确保权利不受侵犯。


3.当执法部门使用面部识别技术进行身份识别或以可能威胁公民自由的方式时,建议使用99%的置信度评分阈值


亚马逊称,面部识别系统可以将信心分数视为对信任程度的衡量标准。置信度得分越高,结果就越可信。亚马逊表示,当使用面部识别识别调查中感兴趣的人时,执法部门应使用建议的99%置信度阈值,并仅将这些预测用作调查的一个要素(不是唯一的决定因素)。


4.执法机构在使用面部识别技术时应该透明


为了让公众对负责任的执法部门使用面部识别技术产生最大的信心,亚马逊鼓励执法机构在使用该技术时做到透明,并在定期的透明报告中描述这种使用。亚马逊表示,这些报告应说明面部识别技术是否以及如何使用,并详细说明为保护公民隐私和公民权利而实施的保护措施。


5.视频监控和面部识别技术在公共或商业环境中一起使用时应该有通知


亚马逊表示,人们一直担心面部识别技术及其在公共或商业环境中与视频监控相关的潜在用途。在许多情况下,已经有法律规定在公共或商业场所(例如购物中心和餐馆)使用摄像机的法律已经解决了这个问题。AWS支持在使用视频监控(包括面部识别)的场所使用书面的可见通知。


以下上就是亚马逊目前鼓励政策制定者考虑的指导方针,作为美国和其他国家的潜在立法和规则。

出海资讯亚马逊这项技术将立法,以平衡创新和减少潜在风险

——图源:亚马逊关于面部识别立法的几点指导原则



AWS全球公共政策副总裁迈克尔庞克(Michael Punk)表示:

“新技术不应因其潜在的滥用而被禁止或谴责。相反,所有相关各方之间应该进行公开,诚实和认真的对话,以确保技术得到适当应用并不断加强。AWS投入大量资源确保我们的技术高度准确并减少偏见,包括使用反映性别,种族,民族,文化和宗教多样性的培训数据集。我们还致力于向客户介绍最佳实践,并确保我们的技术开发团队拥有不同的观点。我们将继续与行业、政府、学术界和社区团体的合作伙伴就此主题开展合作,因为我们坚信面部识别是商业、政府和执法部门使用的重要甚至关键的工具。“ 


(卖家之家/编译:危伟)


声明:本文由卖家之家编译和整理,转载本文不得修改标题及原文,并保留来源以及原文链接,否则我们将保留追索权利。

文章内容由作者创作,作者负责内容的真实性、准确性和合法性。出海易倡导尊重与保护知识产权,未经作者和/或本网站许可,不得复制、转载、或以其他方式使用本网站内容。如发现本站文章存在版权问题,烦请联系chuhaiyi@baidu.com,我们将及时核实处理。文章来源:卖家之家,本文为作者独立观点,不代表出海易立场。