iStockphoto / Vit_Mar
2020 年 2 月 11 日
作者
-
196体育app 副总裁
该博客是关于技术行业人权评估的两个系列博客中的第一篇。下一篇博客将考虑如何应对此处提出的挑战。
在过去的 10 年里，196体育app 团队为科技行业的公司进行了多项人权评估。虽然大多数尚未公布，但最近公开可用的例子包括Facebook 在缅甸的评估、 谷歌的名人识别工具、 Telia 公司退出欧亚大陆以及Facebook 提议的监督委员会。
196体育的评估侧重于各种主题：一些侧重于地理，另一些侧重于新产品、服务或技术，还有一些侧重于如何将基于人权的方法整合到决策过程中。贯穿始终的一个共同挑战是如何在技术行业截然不同的现代环境中解决传统的人权问题。
联合国人权委员会充分认识到这一挑战，并启动了一个项目，以提供指导和资源，以提高技术领域联合国商业与人权指导原则 (UNGPs) 的实施质量。正如他们的范围界定文件正确认识到的那样，既缺乏关于如何在实践中应用 UNGPs 的清晰度，也需要确保方法符合国际标准。 196体育app 期待积极参与该项目。
对于如何在实践中应用 UNGPs 以及确保方法符合国际标准的需要都缺乏明确性。
人权评估只是 UNGPs 期望的整体人权尽职调查方法的一部分，尽管它们通常是设计用于识别、预防、减轻和解释公司如何应对人权影响的整体方法的关键输入。196体育过去十年在技术领域进行的人权评估提出了一些挑战，随着新技术的开发、引进和采用，在设计适合未来十年的人权尽职调查框架时必须解决这些挑战。
- 用户在塑造影响中的作用。评估人权影响时的一个重大挑战是技术公司的产品设计与其在现实生活中的使用方式（无论是个人、企业客户还是政府）之间的相互作用。虽然技术公司通常可能不是造成伤害的原因，但他们经常通过其他人使用他们的产品和服务来促成或直接与伤害有关，因此，公司越来越普遍地限制如何产品可以使用。然而，在尊重用户隐私的同时识别违规行为并不容易——技术公司通常只是缺乏对发现滥用所需数据的可见性。196体育经常在完成对一家科技公司的人权评估后得出结论， 196体育应该对使用该技术的公司进行评估，而不仅仅是设计它的公司。
- 可替代性问题。 “如果196体育不把这个产品卖给一个邪恶的演员，那么其他人就会”是技术行业的一个普遍说法——虽然不是技术行业独有的，但这个问题确实具有特殊的意义。今天对面部识别的担忧完美地说明了这一点：如果一家负责任的公司决定不向邪恶的行为者提供服务，而另一家公司选择这样做，则人权的整体实现并没有得到改善。在全球范围内，不乏科技公司愿意介入那些受尊重的公司决定不介入的领域。
- 需要全系统的方法。虽然今天的人权评估通常是针对一家公司进行的，但在技术行业，解决方案通常需要在系统层面应用。例如，政府获取数据并使用它来侵犯人权（例如极端监视）的风险不能由一家公司单独行动来解决。因此，全球网络倡议等合作对于确保集体解决在公司层面获得的见解至关重要。在许多情况下，标准制定、多方利益相关者的努力以及政府的监管对于有效应对不利影响至关重要。
- 当地环境的不同重要性。全球用户可以快速采用并开始使用新技术产品、服务、平台或功能，但人权意义可能因当地情况而有很大差异。这带来了双重挑战，即及时确定这些影响是什么，并尝试在近 200 个国家/地区应用全球政策——而且每个国家/地区通常具有不同的地方背景。公司可以优先考虑风险较高的地点，但西方媒体报道的国家、地区和社区总是有可能比那些没有报道的国家、地区和社区获得更多公司的关注。
- 规模的挑战。与当地环境的重要性相关的是技术的绝对范围，不应低估这种规模的运营影响。正如196体育在最近对 Facebook 提议的监督委员会的人权审查中指出的那样，“虽然在其他行业提供补救措施的努力通常旨在满足有限数量的权利人的需求，这些权利人基于明确界定的地理区域并使用有限的语言多种语言，Facebook 监督委员会的设计需要满足数十亿权利人（包括用户和非用户）的需求，他们可能身处世界任何地方，可能会说任何语言。”
- 技术的民主化影响。在最近的几项人权评估中，196体育建议公司部署基于“允许列表”和“阻止列表”的方法来定义谁应该或不应该能够使用产品，重点是避免或防止产品在更高级别的滥用风险情景。对这种方法的批评很简单：技术的最初承诺是它使封闭社会民主化并开放，那么公司应该由谁来决定在哪里、何时以及如何部署它？
- 政府问题。 UNGPs明确指出政府有责任保护人权；然而，在实践中，政府往往远远没有履行这一职责，而是利用技术、数据和法规来侵犯而不是保护权利。在许多其他行业环境中，法律往往是好的但没有得到执行，而在技术行业，法律往往是坏的并且被过度执行。当系统中的关键参与者不愿意合作或者是问题的根源时，系统范围的方法是不可能的——例如，面部识别解决方案需要监管，但政府通常是客户，以违反人类的方式使用面部识别权利。
- 评估不确定性。对新产品、服务或功能的人权评估应侧重于识别、避免、预防和减轻可能与这种使用相关的不利人权影响——挑战在于196体育通常不知道它是如何确定的将被使用、将在何处使用或由谁使用。 作为人权尽职调查的一部分，196体育已经开始部署未来和战略预见方法，但如果说196体育可以预见到每一种可能发生的情况，那就太天真了。这一挑战随着人权评估发生的研究和设计链的进一步发展而倍增。
限制新产品的使用以避免对人权的不利影响是否也会阻碍传播科学进步和技术进步的好处的紧迫优先事项，这本身就是一项人权？
总而言之，这些挑战提出了一系列复杂的道德问题和困境：公司何时适合定义其产品可以和不可以使用的方式，以及政府或社会何时适合这样做？限制新产品的使用以避免对人权的不利影响是否也会阻碍传播科学进步和技术进步的好处的紧迫优先事项，这本身就是一项人权？公司应该为权利人提供多少关于他们如何使用产品的自主权，以及应该在多大程度上限制这种自主权？在互联网的不同层级，例如平台提供商、服务提供商或基础设施层，适当的行动可能会有所不同，这对吗？
隐藏在这些问题背后的还有塑造互联网未来的基本辩论，例如国际标准制定机构在定义互联网运作方式方面的作用，互联网在地理、政治和商业边界上“分裂”的风险，以及是否政府应该对加密加以限制。
UNGPs 以及 UNGPs 赖以建立的各种人权原则、标准和方法提供了应对这些挑战的途径，但要确定这条途径的方向，仍有许多工作要做。在 196体育app，196体育进行了人权评估，196体育知道它们只是了解技术对人权的影响的发现之旅的一部分。196体育非常感谢通过发布评估为对话做出贡献的公司，在本系列的第二部分中，196体育将分享更多有关应对此处提出的挑战的解决方案的信息。
主题
让196体育谈谈 196体育app 如何帮助您实现业务转型和实现可持续发展目标。
