絕大多數人上週對紐約市生效的人工智慧和招募法律感到憤怒。這項法律是美國的首個人工智慧法律，因此它的實施方式將為其他城市進行人工智慧政策和辯論提供經驗和指導。像紐約州一樣，美國其他州也在考慮將人工智慧招聘規定納入歐洲《人工智慧法案》之中。
由於存在自動化以及加強現有種族和性別偏見的方式，招聘中使用人工智慧引發了批評。已證實人工智慧系統在評估候選人的面部表情和語言時傾向於優先考慮白人、男性和身體健全的候選人。
這個問題值得關注，因為多數公司在招募過程中都至少使用過一次人工智慧。美國平等就業機會委員會主席夏洛特·布羅斯（Charlotte Burrows）在 2023 年 1 月的一次會議上表示，多達 80% 的公司使用某些自動化工具來做出招聘決策。
紐約市 7 月 5 號生效的《自動化招聘決策工具法》（Automated Employment Decision Tool）規定，在招聘中使用人工智慧的雇主必須如實告知候選人他們正在這樣做。為了證明他們的系統沒有種族主義或性別歧視，他們需要每年進行獨立審計。求職者可以要求潛在雇主提供有關該技術所涉及資料的收集和分析方面的資訊。違規行為將被處以最高 1500 美元的罰款。
（資料來源：STEPHANIE ARNETT/MITTR | GETTY）
#該法律的支持者表示，對於監管人工智慧和減輕其使用帶來的一些危害和風險而言，這是一個好的開始，即使它並不完美。要求公司更深入了解他們所使用的演算法，以確定該技術是否無意中對女性或有色人種產生不公平的歧視。
這是一個罕見但成功的案例，從美國人工智慧監管政策的角度來看，我們可能會看到更多相關的地方規定。聽起來很有希望，對吧？
但這項法律遭到了巨大的爭議。公共利益團體和民權倡議者表示，該法案的可執行性和廣泛性都不夠，而必須遵守該法案的企業則辯稱，該法案不切實際，會帶來沉重的負擔。
民主與技術中心（Center for Democracy & Technology）、監控技術監督項目（S.T.O.P.，Surveillance Technology Oversight Project）等組織認為，該法律“包容性不足”，有可能遺漏招聘中許多自動化系統的使用，包括使用人工智慧篩選數千名候選人的系統。
鑑於相關審計行業目前尚未成熟，對獨立審計的結果尚不確定的是其更重要的方面。 BSA——一個有影響力的科技貿易組織，成員包括 Adobe、微軟和 IBM——於 2023 年 1 月向紐約市政府提交了批評該法律的評論，認為第三方審計是「不可行的」。
S.T.O.P.執行董事阿爾伯特·福克斯·卡恩（Albert Fox Cahn）表示：“關鍵問題是，審計師將以何種方式獲取公司信息，以及他們真正能夠在何種程度上質詢公司的運營方式。儘管我們僱用了財務審計師，但我們卻缺乏一套被普遍接受的會計原則，更不用說稅法和審計規則了。」
根據卡恩的觀點，這項法律可能會導致人們對人工智慧和招募流程形成虛假的安全感。他說：「這是一個遮羞布，僅用來證明保護措施是存在的，而在實踐中，我不認為任何一家公司會因為這被納入法律而被追究責任。」
重要的是，強制審計必須評估人工智慧系統的輸出是否對特定人群持有偏見，這會用到一種被稱為「影響比」的指標來確定該技術的「選擇率」是否因不同群體而異。
審計不需要嘗試確定演算法如何做出決策，法律也迴避了深度學習等複雜形式的機器學習中的「可解釋性」問題。正如你所想像的，這些遺漏之處成為了人工智慧專家爭論的熱點。
在美國，在等待聯邦立法的過程中，我們可能會看到更多此類人工智慧監管的地方法律，這些法律大多針對該技術的一個特定應用。透過參與這些地方法律的爭議，我們才能揭示未來幾十年中人工智慧工具、安全機制和執法的定義將如何演變。新澤西州和加利福尼亞州已經在考慮類似的法律。
支援：Ren
以上是為什麼很多人會對紐約《人工智慧招募法》感到生氣？的詳細內容。更多資訊請關注PHP中文網其他相關文章！
