纽约通过就业法中关于人工智能的最终规则

(资料图)

为避免产生歧视性后果，纽约市近日通过了第144号地方法律，禁止雇主和职业中介在没有进行偏见审计的情况下，使用人工智能和基于算法的技术(称为AEDT，或自动就业决策工具)进行招聘、雇佣或晋升。这一法律事实细则的最终确定被多次推迟，但消费者和工人保护局(DCWP)于2023年4月6日公布了该法律的最终规则，并将于7月5日开始实施。

最终规则与2022年12月拟议规则非常相似。最重要的更新主要是扩大了自动就业决策工具（AEDT）的定义和修改了一些关于偏见审计的规则。

根据该法律，“自动就业决策工具（AEDT）”是指“可以发布简化的输出结果（包括评分、分类或建议)以用于实质性地协助或取代酌情决策的过程，这种过程源自机器学习、统计建模、数据分析或人工智能”。最终规则拓宽了“机器学习、统计建模、数据分析或人工智能”的定义，取消了此类技术必须通过使用交叉验证训练或测试数据来优化输入和参数的要求。这意味着过去不被视为AEDT的某些技术现在将被视为AEDT，并将受到法律的保护。

最终规则的另一个重要区别增加了由独立审计员对AEDT技术进行强制性“偏见审计”有关的要求。偏见审计被定义为“由独立审计员进行的公正评估”。最终规则在很大程度上维持了首次出现在2022年9月和2022年12月提案中的偏见审计的最低要求，包括(1)计算每个种族/民族和性别类别的选择率，(2)将这些“选择率”与被选择最多的类别进行比较，以使用定义的公式确定“影响比率”。偏见审计要求的另一项变化是：将允许独立审计员在影响比计算中可以排除包含低于2%用于偏见审计的数据的类别。关于已公布的偏见审计结果摘要所要求的内容也已扩大，包括某一类别的申请人数量和该类别的得分率。最终规则还限制了雇主或职业介绍所可能使用有关AEDT的历史数据的偏见审计的情况。使用前提是只有当雇主或职业介绍所提供其使用AEDT的历史数据，或者雇主、职业介绍所从未使用过AEDT时，才允许这样做。

此项法律实施和执行的延迟使很多当地企业有时间与外部法律顾问和人工智能供应商合作，以评估他们对人工智能相关工具的使用。鉴于144号法律中关于最终规则中的内容，企业应完善其偏见审计计划，并注意根据扩大的定义，最初未涵盖的某些技术现在可能被视为AEDT。另外，美国有些州已经开始对雇主使用人工智能征收关税，如加利福尼亚州、伊利诺伊州和马里兰州。美国司法部和美国平等就业机会委员会也表示，他们打算重点关注人工智能工具在就业环境中的使用。（姜利华）

标签：