2023年4月7日
这场大流行病将使我们对人工智能（AI）技术在决策方面的优势产生全新的认识。世界各地的人们都在意识到，这项技术每天都在他们不知情的情况下被使用。但他们也认识到，其应用已成为公共利益的必然选择。
因此，各国政府和企业已部署不同类型的人工智能来抗击疫情。他们改善了诊断或开发了治疗方法。然而，如果有人因AI预测模型将其标记为潜在传染源而被禁止乘坐公共交通工具，会怎么样？如果有人因感染Covid-19而被拒绝提供健康保险或按揭贷款，又会怎么样？由AI获取的结果是否足以成为限制个人自由的正当理由？
从法律角度来看，当AI技术参与决策时，“歧视”或“客观”等概念受到了挑战。AI辅助的决策基于算法或数学。可以说，这赋予了它们某种程度的客观性。然而，其结果仍可能具有歧视性。
什么是人工智能决策？
《牛津英语词典》将人工智能定义为“能够执行通常需要人类智能的任务的计算机系统的理论与开发，例如视觉感知、语音识别、决策以及语言间的翻译”。
AI利用算法进行分类、分析、画像或做出预测，以执行通常需要人类智能的任务。这包括遴选员工或学生、广告投放、评估保险风险、图像搜索分析以及防止大流行病的传播。
反过来，荷兰拉德堡德大学计算机与信息科学研究所的法学教授 Frederik Zuiderveen Borgesius 将算法描述为“导致某些数据发生转换的一系列记录在案的步骤”. 他将其称为“计算程序的一种抽象、形式化的描述”。它们是逐步指导决策过程以获得特定结果或解决方案的指令。
因此，AI和算法是密切相关的概念。算法是让AI得以工作并实现其目的的内部编码指令。
凭借算法和AI组织海量数据的便捷性与准确性，该技术可以改善任何政府、组织或个人的决策过程。事实上，任何涉及人类与AI系统相结合的社会、经济或政治决策都可以被视为部分或完全自动化的。
算法的本质
然而，这些算法是否完全没有偏见和歧视？我们真的可以依赖算法或AI来做出客观决策吗？难道它们不只是用逻辑和数学处理数据的机器吗？
事实是，世界各地的许多案例表明，算法和AI并非中立，既不免于偏见，也不免于歧视。曾有算法将特定人群识别为“大猩猩”。还有算法向男性展示比女性薪酬更高的职位，甚至在求职过程中筛选掉女性的简历。在另一个案例中，住在危险社区的人被阻止支付快递服务费用。这些仅仅是人们仅仅因为性别或表型而被区别对待的几个例子。
如果社会想要依靠这项技术来改善决策过程，就有必要理解这些偏见如何被转移到算法和AI中或被其所吸收。
算法与AI歧视
用巴塞罗那西班牙高等科学研究理事会人工智能研究所（Instituto de Investigación en Inteligencia Artificial-CSIC）所长 Ramón López de Mántaras 的话说：“如果你学习的数据存在偏见（无论是有意还是无意），算法做出的决定就会带有偏见。”
算法仅仅是计算机程序的指令。它作为输入接收的数据可能会复制甚至放大人类的偏见或成见。出于这个原因，AI可能会延续具有歧视性的数据分析过程和进一步的预测，从而加剧社会中存在的各种刻板印象。
如果是这样，如果在数据收集过程中谨慎且正确地操作，能否降低或减轻通过完全或部分自动化决策过程产生歧视的风险？
像《麻省理工科技评论》撰稿人 Karen Hao 这样的专家表示，这还不够。如果算法被编程为以“不正确”或“有偏见”的方式分析数据，算法本身就可能导致带有偏见的决策。Hao 认为，“历史歧视模式”正被AI设计师所讨论，因为这项技术可以像人类一样学会如何思考。这包括模仿我们的偏见或刻板印象。
另一方面，我们应该考虑到目前还没有任何AI系统具有其自身的意图性。因此，在部分或完全自动化的决策过程中做出的任何导致歧视的有偏见决定，归根结底都是由于输入数据或处理编程中的偏见。无论哪种情况，故意或恶意都必须与程序员或AI系统所有者相关联。
考虑到这一点，在评估AI系统或算法时，必须从法律角度分析其决策，以识别歧视案例。
我们如何保护自己免受AI驱动的歧视？
众所周知，世界各地的许多条约和宪法都禁止歧视。但当决策由AI系统做出时，这是否足以保护并确保平等待遇？
联合国《世界人权宣言》第七条规定：
“法律面前人人平等，并有权享受法律的平等保护，不受任何歧视。人人有权享受平等保护，以免受违反本宣言的任何歧视和旨在煽动这种歧视的任何行为的侵害。”
因此，所有人都有权不受AI驱动的歧视性系统或算法造成的任何侵犯人权行为的影响。然而，这取决于各个国家法律法规的效率。实现非歧视性的自动算法或AI增强型决策过程有许多途径。
一方面，在欧洲联盟，《欧洲人权公约》（EHRC）第十四条禁止歧视，规定：
“应确保享受本公约所列权利和自由，不得因性别、种族、肤色、语言、宗教、政治或其他见解、民族或社会出身、与少数民族的联系、财产、出生或其他身份等任何理由而受到歧视。”
此外，EHRC对直接歧视和间接歧视作出了区分。直接歧视是基于某种特定特征针对某人，例如禁止特定宗教信仰的人。如果歧视是因为表面上中立的做法而发生的——比如禁止所有头戴物的规定，这在默认情况下会阻碍有宗教习惯的人申请工作——这可能被视为间接歧视。
这两种类型的歧视都可能由算法或AI驱动的系统引起，尤其是间接歧视。算法和AI系统可能会通过表面上中立的标准、做法或选择，无意中使具有特定表型、文化或性别的特定人群处于不利地位。有关说明此问题的最近案例，请参阅欧洲人权法院案例：ECtHR, Biao v. Denmark (Grand Chamber), No. 38590/10, 24 May 2016，第 91 和 92 段。
因此，欧洲现行法规要求在使用前对基于算法或AI系统的通用政策、措施或做法进行分析，并可能需要获得批准，因为目前尚不清楚它们是否可能违反禁止歧视的规定。
美国的方式
另一方面，考虑到欧洲监管的重点不在于意图，而在于做出歧视性决策是否缺乏客观或合理的正当理由，对“黑箱”缺乏监管的问题将变得重要。“黑箱”指的是AI系统的内部编程。这些程序通常被IT公司保密，但需要保持透明度，以便法官分析潜在的歧视性决策是如何做出的。
与欧盟类似的情况也将发生在阿根廷、玻利维亚、智利、厄瓜多尔、墨西哥、秘鲁和乌拉圭等拉丁美洲国家。在这些国家的大多数宪法和法规中，都要求权利平等并禁止歧视。但要确定某项决策或行为是否具有歧视性，必须查明不平等待遇是否属于“任意”或“不合理”。因此，在该地区，如何使AI系统的黑箱过程透明化以证明算法辅助的行为或决策的正当性将非常重要。如何防止处理有偏见的数据这一问题也同样重要。
最后，在《巴伦法律词典》（Barron's Law Dictionary）中可以找到另一种有趣的途径，其中对“歧视”的定义如下：
“对处于相似情况的当事人给予不平等待遇。联邦法律禁止在就业、住房、教育、选举权和使用公共设施等事务中基于种族、性别、国籍、宗教和年龄的歧视。此外，各州或任何政府机构均不得从事任何导致基于种族、性别、国籍、宗教或年龄之歧视的行为。”
根据这一定义，重点将放在可能从事的任何可能导致歧视的行为上。在这个意义上，如果任何州或政府机构从事或使用具有歧视性的AI驱动技术，即使没有导致不平等待遇，也是违法的。然而，如果有私营组织使用AI驱动的技术，则只有在结果构成歧视时，才会构成违法行为。
结论
由算法或AI系统辅助的部分或完全自动化的决策过程可能会引发、甚至放大偏见和歧视。随着这类技术在决策中的广泛应用，世界各地的法规都将面临挑战。
诸如存在偏见的数据处理、黑箱透明度、故意带有歧视性的程序或政策，以及监管算法或人工智能技术的措施等议题，必须加以讨论和改进。鉴于全球大流行等紧急情况推动了越来越智能、精准和快速的技术的应用，这一点尤为突出。
尽管如此，就目前而言，使用该技术来简化决策流程的政府机构和企业必须设计相应措施，以提供其算法运行机制的透明度，或以合理的方式为其结果提供正当理由。正如我们所见，我们的人权正面临风险。
Natalia Jara 是智利 Philippi Prietocarrizosa Ferrero DI & Uria 的律师。
图片： Geralt，基于 Pixabay 许可证。
