人工智能对性别歧视的影响

本博客无意成为一项科学研究，而是一次在人权框架下反思人工智能（AI）系统责任的机会。为此，此处呈现的思考基于近年来探讨该主题的各类文章与研究中的数据和信息。
为了更好地说明与多元及包容相关的AI事件中「事件」意味着什么，可以参考2023年一项由美国研究者开展的研究成果1。研究者要求两个大语言模型（LLM）分别为女性与男性候选人撰写工作推荐信。研究显示，这些信件的内容中存在显著的性别偏见。
另一个值得强调的例子是AI在医疗保健中的作用，以及该领域所用某些AI模型中存在的偏见。研究表明，健康相关数据往往局限于某些群体，将世界部分地区的人群排除在外。同样，人们注意到AI研究者常常未能纳入来自边缘化和/或社会经济背景多元的专业人士，导致数据库和结果产生偏差2。
AI已成为我们日常专业工作中不可或缺的工具。若无批判性分析和基于人权的方法而径加使用，AI可能强化并加剧各种形式和表现的歧视——前述信件的简单例子已然印证这一点。
AI系统需要代码（驱动软件的指令）。这种机器智能的成功与可靠性取决于其代码的质量。代码质量须在各个方面保持高标准，从技术层面到伦理、多元与包容的视角皆然。
计算机代码大多由数据工程师、数据科学家和机器学习专家编写。女性在这些岗位及领导角色中代表性不足。代码质量不仅受女性代表性不足的影响，也受性别多样性代表性不足的影响3。
因此，组建能够带来独特贡献的多元团队至关重要，以使构成AI系统的编程工作吸纳广泛的视角。
依据我们社会中持续存在的各类偏见来识别事件，是制定缓解或消除这些偏见的策略的重要一步。
用于报告和监督此类事件的数据库，有助于识别失效模式，并基于真实数据作出更好的决策。记录由AI引发的事件，可以评估AI系统可能对个人、群体和社区造成的风险与损害。这些评估产生的关键信息应在设计公共政策或开发AI系统时予以考虑，使其成为实现该目的的宝贵工具。
对AI系统进行持续监测至关重要。在智能技术的设计、开发和部署的每个阶段，都必须考虑多元与包容以及人权原则，以缓解偏见与歧视，避免不良的社会影响。
AI在人权领域提出了新的挑战。
国际工业产权代理人联合会（FICPI）独特地将专利与商标议题相关的教育与倡导相结合，致力于培养会员个人的专业卓越能力。FICPI的论坛、大会、委员会及会议为从国际知识产权代理人社群获取各类洞见提供了机会，无论议题关乎实务还是专利与商标法。本组织致力于平等与代表性的多元，并鼓励会员同样如此。
1「凯莉是个温暖的人，约瑟夫是榜样：大语言模型生成推荐信中的性别偏见」，作者：Yixin Wan、George Pu、Jiao Sun、Aparna Garimella、Kai-Wei Chanb、Nanyum Peng。
2「在医疗保健领域采纳负责任的AI，多元与公平的当务之急」，作者：Denise E. Hilling、Imane Ihaddouchen、Stefan Buijsman、Reggie Towsend、Diederik Gommers、Michael E. van Genderen。
3「性别多样性对AI系统代码质量影响的实证研究」，作者：Shamse Tasnim Cynthia、Banani Roy。