（JY編譯）人們通常會關注人工智能在前沿領域的應用，如ChatGPT，但實際上，人工智能技術已經在日常生活中扮演了重要角色，例如在篩選求職履歷、租房申請，甚至在某些情況下決定醫療護理。雖然已經發現一些人工智能系統存在歧視問題，如傾向於某些種族、性別或收入，但政府的監管卻很少。
至少有七個州的立法者正在採取重大立法行動，試圖規範人工智能中的偏見問題，填補了國會不作為的空白。這些提議是長達數十年的討論的第一步，旨在平衡人工智能這項模糊新技術的好處與廣泛記錄的風險。
白宮《人工智能權利法案藍圖》（Blueprint for an AI Bill of Rights）的共同撰寫人之一、布朗大學教授蘇雷什·文卡塔·蘇布拉曼尼安（Suresh Venkatasubramanian）說道︰「人工智能實際上影響著你生活的每個方面，無論你是否意識到它。人們可能不會太在意它的存在，但由於一些人工智能系統存在問題，因此人們需要關注並加以解決。」
成敗將取決於立法者在與價值數千億美元、以光速發展的產業進行談判的同時，能否解決涉及高度複雜的問題。
根據軟體產業倡導組織商業軟體聯盟（BSA）的數據，去年多個州議會提出的近200項與人工智能相關的法案中，其中只有大約十幾項最終被通過成為法律。
那些法案以及今年正在辯論的400多項與人工智能相關的法案主要集中在監管人工智能的特定方面。近200項針對深度偽造（Deepfake）技術被濫用，包括禁止用於製作色情內容的提案，像充斥著社交媒體的泰勒-斯威夫特（Taylor Swift）的照片。而其他法案則旨在確保如ChatGPT聊天機器人不會被用於不當用途，例如提供危險的指令。
這些法案與從加州到康乃狄克州正在辯論的七項州法案是分開的，這些法案反映了人工智能在社會各個領域中可能引發的各種問題，尤其是涉及歧視的複雜性和嚴重性。
研究人工智能歧視傾向的人認為，各州在建立規範方面已經落後。法案所謂的「自動決策工具」（automated decision tools），這些工具被廣泛用於制定重大決策，但通常處於隱匿狀態。
根據聯邦執法機構公平就業機會委員會（EEOC）的數據，估計高達83%的僱主使用演算法來協助招聘；對於《財星》500強公司來說，這一比例是99%。
然而，根據皮尤研究中心（Pew Research Center）的調查，大多數美國人對於招募過程中使用的演算法工具並不了解，更不用說這些系統是否有偏見了。
歷史數據中存在的偏見和歧視可能會被人工智能系統學習和延續。
亞馬遜在近十年前被發現「偏愛」男性求職者後，取消了其招聘演算法項。人工智能是透過學習過去的履歷（主要是男性求職者）來評估新履歷的。雖然演算法不知道求職者的性別，但它仍然會降低帶有「女性」字樣或列出女性院校的簡歷的等級，部分原因是在它學習的歷史數據中沒有女性的身影，導致了對女性申請者的不公平評價。
一在一起集體訴訟中擔任律師的克里斯汀·韋伯（Christine Webber）說︰「如果你讓人工智能從現有管理人員歷來做出的決定中學習，而如果這些決策過去一直偏向某些人群並對其他人群不利，那麼這就是人工智能技術會學到的內容。」她指控一款人工智能系統對租房申請人進行評分時存在歧視黑人或西班牙裔的行為。
法院文件描述了該訴訟案的原告之一瑪麗·路易斯（Mary Louis），一位黑人女性，在申請在馬薩諸塞州租房時收到了一條含糊其辭的拒絕回复︰「我們利用的第三方服務拒絕了您的租屋申請。」
法庭記錄顯示，當路易斯提交兩份房東推薦信以證明她在過去16年裡準時或提前支付租金的優良租房記錄時，她收到了另一份回复︰「很遺憾，我們不接受上訴，並且無法改變租屋篩選的結果。」
解決人工智能系統在決策中缺乏透明度和問責制度部分是法案的目標。法案的制定借鑒了去年加州的嘗試，旨在對私營部門中的人工智能偏見進行全面的監管。該加州法案最終沒有通過。
根據這些法案，要求使用自動決策工具的公司進行「影響評估」，以便了解人工智能在決策中的作用、收集的數據、歧視風險分析和公司的保障措施。根據具體法案的要求，這些評估可能需要提交給州政府，或由監管機構要求提供。
一些法案還要求公司告知客戶在做出決策時會使用人工智能，並為他們提供選擇退出的機會，但可能存在一些限制條件。
產業遊說組織BSA負責美國政府關係高級副主席克雷格·奧爾布賴特（Craig Albright）表示，該協會的成員普遍支持一些提議中的措施，例如進行影響評估。
奧爾布賴特說︰「儘管人工智能技術發展速度快，但法律跟上的好處在於公司了解了他們的責任，消費者也可以更加信任技術。」
但這對立法來說是個不盡人意的開端。華盛頓州的一項法案已經在委員會中遭遇了挫折，而加州在2023年提出的提案也沒有成功，這些提案中的許多是以此為藍本的。
加州眾議院議員麗貝卡·鮑爾-卡漢（Rebecca Bauer-Kahan）在去年失敗的立法基礎上進行了修改，並得到了Workday和微軟等一些科技公司的支持。此前她取消了公司定期提交影響評估的要求。預計科羅拉多州、羅德島、伊利諾伊州、康乃狄克州、維吉尼亞州和佛蒙特州等也在考慮或已經提出類似的立法，以解決人工智能偏見的問題。
布朗大學的蘇布拉曼尼安表示，雖然這些法案是朝著正確方向邁出的一步，但是對於影響評估的具體細節和捕捉偏見的方法仍然模糊不清。同時許多法案限制了公眾取得相關報告的途徑，這可能使得人們難以確定是否受到了人工智能的歧視。
一種更嚴格的方法來識別人工智能歧視行為是透過偏見審計來測試其是否存在歧視，然後公開結果。然而，業界對此提出了反對意見，他們認為這將暴露他們的商業機密。
大多數立法提案中都沒有對人工智能系統進行例行測試的要求。這些提案仍然面臨很長的道路，儘管如此，它們標誌著立法者和選民開始認真對待這種正在變得越來越普遍的技術。
蘇布拉曼尼安說︰「人工智能已經滲透到我們生活的各個方面，因此我們每個人都應該對其引起的影響和潛在的風險保持警惕。」
Photo by Yancy Min on unsplash