2023年4月7日
在2020年三八国际妇女节之后，法国全国律师协会（CNB）汇聚了十五位女性律师、工程师、教授、研究人员、程序员及企业家，共同探讨解决人工智能算法中性别偏见的方案。
尽管历史上第一位程序员是女性，但如今的机器和算法主要由男性设计。2020年，数字领域的从业人员中女性仅占17%。只有航空领域的女性专业人员比例更低。为了扭转这一局面，CNB还宣传了女性榜样，以鼓励女性在该领域占据一席之地。
在科技界，女性处于边缘地位。她们有时会受到对“极客”刻板印象的阻碍——即一个窝在电脑屏幕前、吃着冷披萨的必然男性形象。这种男性科技宅的观念不仅已被证明过时，而且还将女性形象排除在数字世界之外。
人工智能（AI）往往被拟人化，并被认为对针对女性的偏见负有责任和过错。然而在现实中，AI只是分析了我们自身的偏见。它们表达的只不过是其创造者观点的汇总。因此，AI可能会复制人力资源部门仅考虑男性求职者简历的性别歧视倾向。在谷歌上搜索“公司董事”一词，最常见的结果是戴领带的男性图像。相反，搜索“清洁人员”，您主要会看到戴围裙的女性。无论是有意还是无意，算法设计者往往会将自身的偏见融入他们设计的算法中，从而带来性别歧视的后果。我们可以遇到几种类型的偏见。
存在可能引发种族歧视后果的数据偏见。例如，通过对面部形态标准或肤色的自动识别来体现。如果学习是建立在单一的欧洲标准之上，AI的学习数据就不具有代表性，从而导致了这种后果。预测算法的偏见由此延续了它们吸收的历史数据。如果法律专业人员依赖此类算法，人类的自由和主观能动性将被冻结。
经济偏见更加隐蔽和有害，但同样普遍。辅助广告设计的算法出于纯粹的经济原因，会考量降低某一群体优先级与另一群体相比的可预测成本。因此，它们可能会产生针对女性的偏见。
AI可能会盲目地做出歧视。但它本身既不负有责任，也无罪过。相反，它是在没有任何真正纠正可能性的情况下放大现有的偏见。歧视性偏见难以识别，但更难修复。这就是为什么我们需要更多女性以及来自少数群体的人士参与这些工具的设计。它们的参数必须融合我们生活和观点多样性的丰富内涵。
数字化正在改变社会，而且只要电力存在，就会继续消耗电力。整个经济都有数字化的支撑。难道每个行业在成为新兴数字市场时，都必须变得男性化吗？
数字知识偏向男性化。在法国确实如此。但并非所有地方皆然。在某些地方，数字领域对女性而言是一个大有可为的行业，因为它允许她们居家办公，并能更好地适应她们的现实制约。
纠正性别偏见需要找到将女性更好地融入科技分析和研究业务中的方法。一种途径可能是在培训阶段介入，使课程对女性更具吸引力。企业也应当利用现有的内部组织手段，将女性纳入决策过程。招聘的多样性是一项易于实施的措施，有助于在企业结构中实现更公平的代表性。
是有必要去实施强制还是说服，设立配额还是设立激励机制？长期以来，“配额”一词被理解为招收资历较浅的申请人，让许多人咬牙切齿。然而，引入配额并不妨碍业绩表现。虽然这可能不是唯一的途径，但它可以快速见效。竞争力和成功不应区分性别。一个没有男女混合的行业领域令人担忧，因为丰富性源于多样性。
性别偏见对女孩的学业表现有着深远影响。据观察，尽管女孩在小学阶段成绩优异，但从中学开始就会失去自信。如果一项练习被呈现为数学难题，女孩的表现就会较差。而当这种偏见被解构时，男孩的表现反而变差。改变课程描述具有明显的影响。因此，教师培训至关重要。教师肩负着陪伴孩子度过整个教育过程的高尚任务。他们必须成为抵御不平等的第一道防线。
因此，让女孩很早就接触编程非常重要，因为刻板印象并非在幼童时期就已全部形成。编程并不比写作更复杂，代码也不是工程师的专属财产。学校需要向所有儿童教授编程。这里也没有年龄障碍；只要拥有可用的工具，当代以及未来的女性都可以在数字世界中占据一席之地。虽然教育是一项长期解决方案，但培训是确立女性地位和纠正性别偏见的短期对策。
话虽如此，在社会层面出现了一个令人惊讶——甚至可能令人担忧的现象：一个国家的总体平等水平越高，选择数字学科研究的女性就越少。相反，国家体系越不平等、男女同处时间越少，进入数字领域的女性反而越多。这是否应该引发我们思考：男女同校是否成为了阻碍女性进入数字科技领域的催化剂？
归根结底，父母是孩子最大的榜样，但对父母进行培训却更为困难。尽管如此，应当让他们了解女性在数字领域的巨大发展潜力，以激发其女儿的兴趣。
世界上最好的设备，如果忽视性别偏见，就会重蹈覆辙，对女性造成同样的劣势。从这场讨论中，浮现出了困难、危险和警告。然而，随着企业、政府以及国际层面意识的提高和对解决方案的探索，人们的乐观情绪日益增长，关于人工智能伦理的反思正在深入展开。
Christiane Féral-Schuhl 是法国全国律师协会主席。
图片： Tumisu，基于 Pixabay 许可证。
