जब कोई व्यक्ति नहीं बल्कि एक एल्गोरिदम आपके विरुद्ध निर्णय लेता है

यदि एक स्वचालित उपकरण नौकरी आवेदकों की स्क्रीनिंग करता है, कीमतों का बीमा करता है, एक ऋण आवेदन का स्कोर करता है, या एक किरायेदार को चिह्नित करता है, तो अंतर्निहित भेदभाव-विरोधी कानून आम तौर पर वही होता है जो मानव निर्णय-निर्माता पर लागू होता है: रोजगार के लिए 1964 के नागरिक अधिकार अधिनियम का शीर्षक VII, ऋण के लिए समान क्रेडिट अवसर अधिनियम (ईसीओए), और आवास के लिए उचित आवास अधिनियम, अन्य। तथ्य यह है कि एक विक्रेता का एल्गोरिदम - भर्ती करने वाला प्रबंधक नहीं - प्रतिकूल निर्णय उत्पन्न करता है, नियोक्ता या ऋणदाता को इन कानूनों से छूट नहीं देता है; यह भेदभाव का पता लगाना कठिन बना सकता है, क्योंकि एक चेहरे से तटस्थ स्कोरिंग मॉडल अभी भी एक संरक्षित समूह (असमान प्रभाव) पर भेदभावपूर्ण प्रभाव उत्पन्न कर सकता है।

मई 2023 में, ईईओसी ने एल्गोरिथम हायरिंग टूल्स को शीर्षक VII "चयन प्रक्रिया" के रूप में मानते हुए तकनीकी मार्गदर्शन प्रकाशित किया, जो किसी भी अन्य परीक्षण के समान प्रतिकूल प्रभाव विश्लेषण के अधीन था। एजेंसी नेतृत्व में बदलाव के बाद जनवरी 2025 में उस विशिष्ट मार्गदर्शन दस्तावेज़ को ईईओसी की वेबसाइट से हटा दिया गया था। मार्गदर्शन दस्तावेज़ को हटाने से अंतर्निहित क़ानून निरस्त नहीं होता है - शीर्षक VII, एडीए और एडीईए अभी भी एआई-संचालित रोजगार निर्णयों पर लागू होते हैं - लेकिन इसका मतलब यह है कि वर्तमान में कम औपचारिक संघीय एजेंसी मार्गदर्शन है कि वे कानून विशेष रूप से एल्गोरिथम टूल पर कैसे लागू होते हैं। verify

क्रेडिट निर्णयों के लिए, विनियमन बी (जो ईसीओए को लागू करता है) को पहले से ही एक लेनदार को एक विशिष्ट, सटीक प्रतिकूल-कार्रवाई नोटिस देने की आवश्यकता होती है जब वह क्रेडिट से इनकार करता है - जिसमें मशीन-लर्निंग मॉडल ने निर्णय लिया था। अपारदर्शी एल्गोरिथम का उपयोग करने वाला ऋणदाता इस नोटिस को छोड़ नहीं सकता या अस्पष्ट कारण नहीं बता सकता; निर्णय को वास्तव में प्रभावित करने वाले विशिष्ट कारकों का आम तौर पर अभी भी खुलासा किए जाने की आवश्यकता है। verify

न्यूयॉर्क शहर के स्थानीय कानून 144 (जुलाई 2023 से प्रभावी प्रवर्तन) के लिए एनवाईसी उम्मीदवारों या कर्मचारियों पर "स्वचालित रोजगार निर्णय उपकरण" का उपयोग करने वाले नियोक्ताओं को पिछले वर्ष के भीतर स्वतंत्र रूप से पूर्वाग्रह-लेखापरीक्षित उपकरण रखने, ऑडिट परिणामों का सारांश प्रकाशित करने और वैकल्पिक प्रक्रिया का अनुरोध करने के अधिकार के साथ उम्मीदवारों को अग्रिम सूचना देने की आवश्यकता होती है। यह वर्तमान में अमेरिका में सबसे ठोस, लागू करने योग्य एआई-विशिष्ट पारदर्शिता नियमों में से एक है, जिसमें गैर-अनुपालन के लिए नागरिक दंड का प्रावधान है। verify

कोलोराडो ने "उच्च-जोखिम" निर्णयों में एल्गोरिथम भेदभाव के उद्देश्य से एक व्यापक एआई अधिनियम (एसबी 24-205) पारित किया, लेकिन इसकी प्रभावी तिथि विधायिका द्वारा दो बार पीछे धकेल दी गई और फिर इसे पूरी तरह से एक संकीर्ण कानून (एसबी 26-189, मई 2026 पर हस्ताक्षरित) द्वारा बदल दिया गया, जो 1 जनवरी 2027 से प्रभावी, देखभाल और प्रभाव-मूल्यांकन के मूल कर्तव्य के बजाय एक प्रकटीकरण-और-पारदर्शिता दृष्टिकोण लेता है। यह इसका एक स्पष्ट उदाहरण है कि कैसे यह क्षेत्र तेजी से आगे बढ़ रहा है - यह न मानें कि मूल रूप से घोषित कोलोराडो एआई अधिनियम नियम वास्तव में लागू हैं। verify

यूरोपीय संघ में, एआई अधिनियम (विनियमन (ईयू) 2024/1689) भर्ती, उम्मीदवार स्क्रीनिंग और बायोमेट्रिक पहचान में उपयोग की जाने वाली एआई प्रणालियों को "उच्च जोखिम" के रूप में वर्गीकृत करता है, जो जोखिम प्रबंधन और मानव निरीक्षण जैसे दायित्वों को वहन करता है। 2026 के सरलीकरण ("सर्वग्राही") समझौते के बाद, ऐसी अधिकांश प्रणालियों के लिए उच्च जोखिम वाले दायित्वों को 2 दिसंबर 2027 तक के लिए स्थगित कर दिया गया था, जबकि संकीर्ण पारदर्शिता नियम (जैसे एआई-जनित सामग्री लेबलिंग) अभी भी अगस्त 2026 में प्रभावी होंगे। verify the current EU AI Act compliance calendar before assuming any specific obligation is already active

ऐसे मामले जहां आप एक स्पष्ट, प्रलेखित पैटर्न दिखा सकते हैं - एक असमानता दिखाने वाला पूर्वाग्रह ऑडिट, या एक प्रतिकूल-कार्रवाई नोटिस में स्पष्ट रूप से भेदभावपूर्ण अस्वीकृति का कारण - इस संदेह की तुलना में बहुत मजबूत आधार है कि "एल्गोरिदम अनुचित लग रहा था," जो अंतर्निहित डेटा के बिना साबित करना मुश्किल है।

NYC के स्थानीय कानून 144 ने वास्तविक पारदर्शिता को प्रेरित किया है (पूर्वाग्रह-ऑडिट सारांश प्रकाशित किया है) लेकिन निरीक्षण मूल्यांकन में नियोक्ताओं के बीच असंगत अनुपालन पाया गया है - एक लापता या निम्न-गुणवत्ता वाला ऑडिट स्वयं चिह्नित करने लायक है, लेकिन यह मत मानिए कि स्वचालित उपकरण का उपयोग करने वाले प्रत्येक नियोक्ता ने वास्तव में अनुपालन किया है।

यह वास्तव में कानून का एक अस्थिर क्षेत्र है जिसके नियम साल-दर-साल बदलते रहते हैं (जैसा कि कोलोराडो और यूरोपीय संघ के ऊपर दिए गए उदाहरण दिखाते हैं) - यह पृष्ठ आपको सही अंतर्निहित दावे और प्रक्रिया की पहचान करने में मदद कर सकता है, लेकिन यह भविष्यवाणी नहीं कर सकता है कि एक विशिष्ट एजेंसी या अदालत एक विशिष्ट एल्गोरिथम टूल के साथ कैसा व्यवहार करेगी।