首页/数字权利/AI偏见与歧视
数字权利

当做出对您不利决定的不是人,而是算法

如今自动化工具会筛选求职者、为信贷申请打分、标记租户——这些工具可能编码了现行法律早已禁止的同类歧视,只是更难被察觉。美国目前尚无统一的"AI歧视法";相反,您的保护来自将现有的民权法和消费者保护法适用于自动化决策,再加上不断增多的州和地方AI专项规则拼图。

At a Glance

Title VII / ECOA / FHA
无论是人还是算法做出决定,美国现行反歧视法律同样适用
纽约市第144号地方法
要求对用于纽约市求职者的自动化招聘工具进行独立偏见审计
2027年12月
欧盟AI法案高风险义务从这一日期起适用[verify]
300天
在设有公平就业机构的州,典型的EEOC立案期限[verify for your state]

适用的法律不会因为是电脑做出决定而改变

如果一个自动化工具筛选求职者、为保险定价、给贷款申请打分或标记租户,适用的基础反歧视法通常与适用于人类决策者的法律相同:就业方面是1964年《民权法案》第七章,信贷方面是《平等信贷机会法》(ECOA),住房方面是《公平住房法》,等等。供应商的算法——而非招聘经理——作出了不利决定这一事实,并不能使雇主或贷款人免于这些法律的约束;这只会让歧视更难被发现,因为一个表面中立的评分模型仍可能对受保护群体产生歧视性影响(差别性影响)。

2023年5月,EEOC发布了技术指南,将算法招聘工具视为受第七章"选拔程序"约束的对象,须接受与其他任何测试相同的不利影响分析。2025年1月,随着机构领导层更迭,该指南文件被从EEOC网站上撤下。撤下一份指南文件并不等于废除了背后的成文法——第七章、《美国残疾人法》(ADA)和《雇佣年龄歧视法》(ADEA)仍然适用于AI驱动的就业决策——但这确实意味着,目前关于这些法律如何具体适用于算法工具的正式联邦机构指导有所减少。verify the EEOC's current published position before relying on any specific AI-hiring standard as official federal guidance

在信贷决策方面,《B条例》(实施ECOA)已经要求贷款方在拒绝信贷时提供具体、准确的不利行动通知——即使该决定是由机器学习模型驱动的,也不例外。使用不透明算法的贷款方不能因此跳过这项通知或给出含糊的理由;实际影响决策的具体因素通常仍需被披露。verify how your specific lender's adverse-action notice describes the reasons, and whether it appears to actually reflect the model's real decision factors

实际的救济方式是什么

救济来自背后适用的民权法或消费者保护法,而不是单独的"AI法"救济

就业歧视(第七章/ADA/ADEA)

如果您能证明自动化工具造成了差别性影响,或被用于故意歧视,可获得补发工资、恢复原职,某些情况下还可获得补偿性/惩罚性赔偿——通过EEOC立案及潜在诉讼来追讨。

信贷/借贷(ECOA)

因ECOA违规——包括与算法决策相关的不充分不利行动通知——可获得实际损害赔偿,某些情况下还可获得惩罚性赔偿和律师费。

纽约市偏见审计不合规

民事处罚由市政府对雇主评估,不直接支付给求职者——对您而言,实际价值在于这迫使雇主提供的透明度(审计结果、通知)。

更新、更专门针对AI的规则(仍在成形中)

纽约市第144号地方法(自2023年7月起实际执行)要求对纽约市求职者或雇员使用"自动化就业决策工具"的雇主,在过去一年内对该工具进行独立偏见审计,公布审计结果摘要,并提前告知求职者其有权要求采用替代流程。这目前是美国最具体、最具可执行性的AI专项透明度规则之一,对不合规行为设有民事处罚。verify current penalty amounts and enforcement posture, as these can be updated

科罗拉多州通过了一部广泛的AI法案(SB 24-205),旨在应对"高风险"决策中的算法歧视,但其生效日期被州议会两次推迟,随后又被一部范围更窄的法律(SB 26-189,2026年5月签署)完全取代,该新法采取披露与透明度的方式,而非最初的注意义务与影响评估框架,生效日期为2027年1月1日。这是这一领域变化速度之快的一个鲜明例证——不要假设最初宣布的科罗拉多AI法案规则就是实际生效的规则。verify Colorado's current AI law and effective date directly before relying on it

在欧盟,《AI法案》((EU) 2024/1689号条例)将用于招聘、候选人筛选和生物识别的AI系统归类为"高风险",附带风险管理和人工监督等义务。根据2026年的一项简化("综合一揽子")协议,大多数此类系统的高风险义务被推迟至2027年12月2日,而范围更窄的透明度规则(如AI生成内容标注)仍将于2026年8月生效。verify the current EU AI Act compliance calendar before assuming any specific obligation is already active

如何逐步维权

首先确定这属于哪种决策类型——流程和期限都取决于此

1

确定这实际上属于哪种决策

就业、信贷、住房和保险决策由不同的法律、机构和期限管辖。自动化招聘拒绝和自动化贷款拒绝并非同一种索赔。

2

要求获得决策的具体理由

对于信贷决策,您通常有权根据ECOA/B条例获得具体的不利行动通知。对于就业决策,请以书面形式询问该工具评估了什么、是否存在偏见审计(纽约市第144号地方法要求进行审计)。

3

记录模式,而不仅仅是您自己的个案

当您能够指出一种模式时——即来自不同受保护群体、处境相似的其他人被同一工具区别对待——算法歧视索赔最为有力。请保存招聘信息、拒绝信函以及任何公开的偏见审计报告。

4

在期限内向相关机构提交申诉

对于就业歧视,请向EEOC(或您所在州的公平就业机构)提交申诉——这通常是根据第七章/ADA/ADEA提起诉讼前的必要程序。对于信贷问题,您可以向CFPB投诉和/或直接提起ECOA索赔。

5

考虑聘请律师进行差别性影响分析

证明一个表面中立的算法产生了歧视性效果,往往需要统计分析,而没有法律和技术方面的帮助很难完成——一位在算法歧视索赔方面有经验的就业或消费者保护律师,可以评估您的案件是否具备这类证据。

需要收集的文件

  • 您收到的拒绝、否决或不利行动通知
  • 任何提及自动化筛选或AI的招聘信息、申请或产品说明
  • 雇主发布的任何偏见审计摘要(纽约市要求公布)
  • 该工具如何评估您的截图或记录(如有)
  • 被区别对待的处境相似人员的姓名/详情(如有)

时间框架与时效期限

这些期限遵循背后适用法律的期限,而非"AI专项"期限

并不存在专门针对"AI歧视"的独立诉讼时效——期限取决于背后适用的索赔类型(就业、信贷、住房),因此请先确定这一点。

JurisdictionLimitation Period
美国——EEOC立案(就业)通常为180天,在设有州/地方公平就业机构的辖区延长至300天verify for your state before relying on either figure
美国——ECOA民事诉讼(信贷)根据ECOA时效规定,通常为违规行为发生后5年内verify exact current figure and any exceptions
纽约市——第144号地方法投诉向纽约市消费者与工人保护局提交;请查阅该局当前的流程及期限指南verify
欧盟——AI法案高风险义务根据2026年综合一揽子协议,大多数独立高风险系统的义务被推迟至2027年12月2日verify before assuming any specific obligation is already enforceable

现实的结果与注意事项

如果您能展示清晰、有据可查的模式——例如显示存在差异的偏见审计,或不利行动通知中明显带有歧视性的拒绝理由——您的立场会比仅凭"这个算法看起来不公平"的怀疑要牢固得多,后者在没有底层数据的情况下很难证明。

纽约市第144号地方法确实推动了真实的透明度(公布的偏见审计摘要),但监管评估发现各雇主的合规情况参差不齐——缺失或质量低劣的审计本身就值得提出,但不要假设每个使用自动化工具的雇主都已经真正合规。

这是一个确实尚未稳定的法律领域,规则每年都在变化(如上文科罗拉多和欧盟的例子所示)——本页可以帮助您确定正确的基础索赔和流程,但它无法预测特定机构或法院将如何对待特定的算法工具。

常见误区

将"AI歧视"当作一种独立的法律索赔

目前尚无独立的联邦AI歧视成文法——您的索赔实际上是一项涉及算法的就业、信贷、住房或其他现行民权索赔。

假设一份指南文件被撤下就意味着法律发生了变化

EEOC撤回其2023年AI技术指南,并未废除第七章、ADA或ADEA——这些成文法仍然管辖算法就业决策。

依赖关于各州AI法律的过时报道

各州AI立法变化很快——科罗拉多最初的AI法案在其规则生效之前就被取代了。请确认您所依赖的任何州法律当前实际生效的版本。

未要求获得具体的决策因素

您通常有权获得具体的理由(尤其是信贷决策)——一份含糊的"不符合要求"通知本身可能就是一个值得提出的合规问题。

整理您的AI歧视案件

使用计算工具确定哪部基础法律适用于您的情况,并整理您已有的通知、记录和模式证据。

整理您的AI歧视案件

使用计算工具确定哪部基础法律适用于您的情况,并整理您已有的通知、记录和模式证据。

这些信息会保存在您的私人工作区中,直到您选择下一步操作。

This stays in your private workspace until you choose a next step. It does not submit a claim on your behalf on its own.

Official and Legal References

美国民权路径 vs. 欧盟/各州AI专项规则

美国目前主要通过适用现有的行业专项民权法和消费者保护法(第七章、ECOA、FHA)来应对算法歧视,再加上不断增多的州/地方AI专项透明度规则拼图(纽约市第144号地方法是最成熟的一个)。欧盟则通过AI法案的分层风险义务采取了更全面的监管路径,尽管其最严格的(高风险)义务已被推迟至2027年12月。这两种路径都尚未完全定型——请在依赖任何具体规则之前核实其当前状态。

常见问题

真实的边缘案例,以通俗语言解答

雇主说是"AI做的决定",不是他们——他们仍要承担责任吗?

我需要统计证据证明存在某种模式才能提出索赔吗?

如果我在美国,但AI供应商是欧洲公司,欧盟AI法案能保护我吗?

本页面提供截至2026年7月关于AI偏见与算法歧视的一般信息。这不是法律建议。这是一个跨越美国联邦、州及欧盟规则、变化迅速的法律领域——在依赖任何具体规则或期限之前,请向合格律师或相关监管机构核实当前要求。

整理您的AI歧视案件

使用计算工具确定哪部基础法律适用于您的情况,并整理您已有的通知、记录和模式证据。

整理我的案件