（JY编译）人们通常会关注人工智能在前沿领域的应用，如ChatGPT，但实际上，人工智能技术已经在日常生活中扮演了重要角色，例如在筛选求职履历、租房申请，甚至在某些情况下决定医疗护理。虽然已经发现一些人工智能系统存在歧视问题，如倾向于某些种族、性别或收入，但政府的监管却很少。
至少有七个州的立法者正在采取重大立法行动，试图规范人工智能中的偏见问题，填补了国会不作为的空白。这些提议是长达数十年的讨论的第一步，旨在平衡人工智能这项模糊新技术的好处与广泛记录的风险。
白宫《人工智能权利法案蓝图》（Blueprint for an AI Bill of Rights）的共同撰写人之一、布朗大学教授苏雷什·文卡塔·苏布拉曼尼安（Suresh Venkatasubramanian）说道︰「人工智能实际上影响着你生活的每个方面，无论你是否意识到它。人们可能不会太在意它的存在，但由于一些人工智能系统存在问题，因此人们需要关注并加以解决。」
成败将取决于立法者在与价值数千亿美元、以光速发展的产业进行谈判的同时，能否解决涉及高度复杂的问题。
根据软体产业倡导组织商业软体联盟（BSA）的数据，去年多个州议会提出的近200项与人工智能相关的法案中，其中只有大约十几项最终被通过成为法律。
那些法案以及今年正在辩论的400多项与人工智能相关的法案主要集中在监管人工智能的特定方面。近200项针对深度伪造（Deepfake）技术被滥用，包括禁止用于制作色情内容的提案，像充斥着社交媒体的泰勒-斯威夫特（Taylor Swift）的照片。而其他法案则旨在确保如ChatGPT聊天机器人不会被用于不当用途，例如提供危险的指令。
这些法案与从加州到康乃狄克州正在辩论的七项州法案是分开的，这些法案反映了人工智能在社会各个领域中可能引发的各种问题，尤其是涉及歧视的复杂性和严重性。
研究人工智能歧视倾向的人认为，各州在建立规范方面已经落后。法案所谓的「自动决策工具」（automated decision tools），这些工具被广泛用于制定重大决策，但通常处于隐匿状态。
根据联邦执法机构公平就业机会委员会（EEOC）的数据，估计高达83%的雇主使用演算法来协助招聘；对于《财星》500强公司来说，这一比例是99%。
然而，根据皮尤研究中心（Pew Research Center）的调查，大多数美国人对于招募过程中使用的演算法工具并不了解，更不用说这些系统是否有偏见了。
历史数据中存在的偏见和歧视可能会被人工智能系统学习和延续。
亚马逊在近十年前被发现「偏爱」男性求职者后，取消了其招聘演算法项。人工智能是透过学习过去的履历（主要是男性求职者）来评估新履历的。虽然演算法不知道求职者的性别，但它仍然会降低带有「女性」字样或列出女性院校的简历的等级，部分原因是在它学习的历史数据中没有女性的身影，导致了对女性申请者的不公平评价。
一在一起集体诉讼中担任律师的克里斯汀·韦伯（Christine Webber）说︰「如果你让人工智能从现有管理人员历来做出的决定中学习，而如果这些决策过去一直偏向某些人群并对其他人群不利，那么这就是人工智能技术会学到的内容。」她指控一款人工智能系统对租房申请人进行评分时存在歧视黑人或西班牙裔的行为。
法院文件描述了该诉讼案的原告之一玛丽·路易斯（Mary Louis），一位黑人女性，在申请在马萨诸塞州租房时收到了一条含糊其辞的拒绝回复︰「我们利用的第三方服务拒绝了您的租屋申请。」
法庭记录显示，当路易斯提交两份房东推荐信以证明她在过去16年里准时或提前支付租金的优良租房记录时，她收到了另一份回复︰「很遗憾，我们不接受上诉，并且无法改变租屋筛选的结果。」
解决人工智能系统在决策中缺乏透明度和问责制度部分是法案的目标。法案的制定借鉴了去年加州的尝试，旨在对私营部门中的人工智能偏见进行全面的监管。该加州法案最终没有通过。
根据这些法案，要求使用自动决策工具的公司进行「影响评估」，以便了解人工智能在决策中的作用、收集的数据、歧视风险分析和公司的保障措施。根据具体法案的要求，这些评估可能需要提交给州政府，或由监管机构要求提供。
一些法案还要求公司告知客户在做出决策时会使用人工智能，并为他们提供选择退出的机会，但可能存在一些限制条件。
产业游说组织BSA负责美国政府关系高级副主席克雷格·奥尔布赖特（Craig Albright）表示，该协会的成员普遍支持一些提议中的措施，例如进行影响评估。
奥尔布赖特说︰「尽管人工智能技术发展速度快，但法律跟上的好处在于公司了解了他们的责任，消费者也可以更加信任技术。」
但这对立法来说是个不尽人意的开端。华盛顿州的一项法案已经在委员会中遭遇了挫折，而加州在2023年提出的提案也没有成功，这些提案中的许多是以此为蓝本的。
加州众议院议员丽贝卡·鲍尔-卡汉（Rebecca Bauer-Kahan）在去年失败的立法基础上进行了修改，并得到了Workday和微软等一些科技公司的支持。此前她取消了公司定期提交影响评估的要求。预计科罗拉多州、罗德岛、伊利诺伊州、康乃狄克州、维吉尼亚州和佛蒙特州等也在考虑或已经提出类似的立法，以解决人工智能偏见的问题。
布朗大学的苏布拉曼尼安表示，虽然这些法案是朝着正确方向迈出的一步，但是对于影响评估的具体细节和捕捉偏见的方法仍然模糊不清。同时许多法案限制了公众取得相关报告的途径，这可能使得人们难以确定是否受到了人工智能的歧视。
一种更严格的方法来识别人工智能歧视行为是透过偏见审计来测试其是否存在歧视，然后公开结果。然而，业界对此提出了反对意见，他们认为这将暴露他们的商业机密。
大多数立法提案中都没有对人工智能系统进行例行测试的要求。这些提案仍然面临很长的道路，尽管如此，它们标志着立法者和选民开始认真对待这种正在变得越来越普遍的技术。
苏布拉曼尼安说︰「人工智能已经渗透到我们生活的各个方面，因此我们每个人都应该对其引起的影响和潜在的风险保持警惕。」
Photo by Yancy Min on unsplash