Bir Kişi Değil de Bir Algoritma Aleyhinize Karar Verdiğinde

Otomatik bir araç iş başvurularını tarıyorsa, sigortayı fiyatlandırıyorsa, bir kredi başvurusunu puanlıyorsa veya bir kiracıyı işaretliyorsa, altta yatan ayrımcılık karşıtı yasa genellikle bir insan karar vericiye uygulanacak olanla aynıdır: istihdam için 1964 Medeni Haklar Yasası'nın Title VII'si, kredi için Eşit Kredi Fırsatı Yasası (ECOA) ve konut için Adil Konut Yasası, diğerleri arasında. Olumsuz kararı bir işe alım yöneticisi değil bir satıcının algoritması üretmiş olması, işvereni veya kredi verenini bu yasalardan muaf tutmaz; bu yalnızca ayrımcılığın tespit edilmesini zorlaştırabilir, çünkü görünüşte tarafsız bir puanlama modeli yine de korunan bir grup üzerinde ayrımcı bir etki üretebilir (orantısız etki).

Mayıs 2023'te EEOC, algoritmik işe alım araçlarını diğer testler gibi aynı olumsuz etki analizine tabi bir Title VII "seçme prosedürü" olarak ele alan teknik bir rehber yayınladı. Bu spesifik rehber belgesi, kurum liderliğindeki bir değişikliğin ardından Ocak 2025'te EEOC'nin web sitesinden kaldırıldı. Bir rehber belgesinin kaldırılması altta yatan yasayı yürürlükten kaldırmaz -- Title VII, ADA ve ADEA hâlâ AI odaklı istihdam kararlarına uygulanır -- ancak bu, o yasaların algoritmik araçlara spesifik olarak nasıl uygulandığına dair şu anda daha az resmi federal kurum rehberi olduğu anlamına gelir. verify the EEOC's current published position before relying on any specific AI-hiring standard as official federal guidance

Kredi kararları için, Yönetmelik B (ECOA'yı uygulayan yönetmelik), bir kredi verenin krediyi reddettiğinde -- kararı bir makine öğrenimi modeli yönlendirmiş olsa bile -- spesifik, doğru bir olumsuz eylem bildirimi vermesini zaten gerektirir. Opak bir algoritma kullanan bir kredi veren bu bildirimi atlayamaz veya belirsiz bir gerekçe veremez; kararı gerçekte etkileyen spesifik faktörlerin genellikle yine de açıklanması gerekir. verify how your specific lender's adverse-action notice describes the reasons, and whether it appears to actually reflect the model's real decision factors

New York City'nin Yerel Yasa 144'ü (Temmuz 2023'ten bu yana yürürlükte), NYC adayları veya çalışanları üzerinde bir "otomatik istihdam karar aracı" kullanan işverenlerin, aracın geçen yıl içinde bağımsız olarak önyargı denetiminden geçirilmesini, denetim sonuçlarının bir özetinin yayınlanmasını ve adaylara alternatif bir süreç talep etme hakkıyla önceden bildirim yapılmasını gerektirir. Bu, şu anda ABD'deki en somut, uygulanabilir AI'a özgü şeffaflık kurallarından biridir ve uyumsuzluk için hukuki cezalar öngörür. verify current penalty amounts and enforcement posture, as these can be updated

Colorado, "yüksek riskli" kararlarda algoritmik ayrımcılığı hedefleyen geniş kapsamlı bir AI Yasası (SB 24-205) çıkardı, ancak yürürlük tarihi meclis tarafından iki kez ertelendi ve ardından orijinal özen yükümlülüğü ve etki değerlendirmesi çerçevesi yerine bir açıklama ve şeffaflık yaklaşımı benimseyen, 1 Ocak 2027'de yürürlüğe girecek daha dar kapsamlı bir yasayla (SB 26-189, Mayıs 2026'da imzalandı) tamamen değiştirildi. Bu, bu alanın ne kadar hızlı hareket ettiğinin açık bir örneğidir -- Colorado'nun başlangıçta duyurulan AI Yasası kurallarının gerçekte yürürlükte olan kurallar olduğunu varsaymayın. verify Colorado's current AI law and effective date directly before relying on it

AB'de, AI Yasası (Tüzük (AB) 2024/1689), işe alım, aday tarama ve biyometrik kimlik tespitinde kullanılan AI sistemlerini "yüksek riskli" olarak sınıflandırır ve risk yönetimi ile insan gözetimi gibi yükümlülükler getirir. 2026 sadeleştirme ("omnibus") anlaşmasının ardından, bu tür sistemlerin çoğu için yüksek riskli yükümlülükler 2 Aralık 2027'ye ertelenirken, daha dar kapsamlı şeffaflık kuralları (AI tarafından üretilen içerik etiketlemesi gibi) hâlâ Ağustos 2026'da yürürlüğe giriyor. verify the current EU AI Act compliance calendar before assuming any specific obligation is already active

Açık, belgelenmiş bir kalıp gösterebildiğiniz davalar -- bir orantısızlık gösteren önyargı denetimi veya olumsuz eylem bildiriminde açıkça ayrımcı bir ret gerekçesi -- "algoritma haksız görünüyordu" şüphesinden çok daha güçlü bir zemine sahiptir, çünkü bu, altta yatan veri olmadan kanıtlanması zordur.

NYC'nin Yerel Yasa 144'ü gerçek şeffaflık sağladı (yayınlanmış önyargı denetimi özetleri), ancak gözetim değerlendirmeleri işverenler arasında tutarsız uyum bulmuştur -- eksik veya düşük kaliteli bir denetim başlı başına işaretlenmeye değer, ancak otomatik araç kullanan her işverenin gerçekten uyumlu olduğunu varsaymayın.

Bu, yukarıdaki Colorado ve AB örneklerinin gösterdiği gibi kuralların yıldan yıla değiştiği, gerçekten belirsiz bir hukuk alanıdır -- bu sayfa doğru altta yatan talebi ve süreci belirlemenize yardımcı olabilir, ancak belirli bir kurumun veya mahkemenin belirli bir algoritmik araca nasıl davranacağını tahmin edemez.