न्यायालयों में आर्टिफिशियल इंटेलिजेंस के उपयोग का विनियम

जस्टिस पी.एस. नरसिम्हा की अध्यक्षता वाली सुप्रीम कोर्ट की एआई (AI) समिति ने न्यायालयों में आर्टिफिशियल इंटेलिजेंस के उपयोग से संबंधित विनियम का प्रारंभिक मसौदा जारी किया है। समिति ने इस मसौदे पर जनता और हितधारकों (stakeholders) से 20 जून, 2026 तक टिप्पणियां और सुझाव मांगे हैं।

यह कदम न्यायपालिका में आर्टिफिशियल इंटेलिजेंस(Artifical Intelligence- AI) पर बढ़ती निर्भरता को लेकर उपजी चिंताओं के बीच उठाया गया है। हाल ही में, सुप्रीम कोर्ट ने एक मामले पर संज्ञान लेते हुए एक निचली अदालत को फटकार लगाई थी, जिसने अपने फैसले में ऐसे निर्णयों का हवाला दिया था जो वास्तव में थे ही नहीं और एआई द्वारा मनगढ़ंत (hallucinated) थे। शीर्ष अदालत ने इस कृत्य को महज एक सामान्य गलती मानने से इनकार करते हुए सीधे तौर पर “न्यायिक कदाचार” (judicial misconduct) करार दिया था।

मसौदा विनियम, 2026 की मुख्य विशेषताएं

मानवीय निर्णय के अधीन (Subservient to Human Judgment): मसौदा स्पष्ट रूप से एआई को केवल एक सहायक क्षमता में कार्य करने का प्रावधान प्रदान करता है।
मुख्य न्यायिक परिणामों पर प्रतिबंध (Prohibition on Core Judicial Outcomes): एआई को सजा का निर्धारण करने, जमानत की पात्रता का मूल्यांकन करने, आरोपी के भागने के जोखिम का आकलन करने या दोबारा अपराध करने की प्रवृत्ति का अनुमान लगाने (रिस्क स्कोरिंग) से पूरी तरह प्रतिबंधित किया गया है।
अस्पष्ट प्रणालियों पर रोक (Ban on Opaque Systems): पारदर्शिता सुनिश्चित करने के लिए किसी भी अदालती प्रक्रिया में “ब्लैक-बॉक्स” या अस्पष्ट (unexplainable) एआई सिस्टम के उपयोग की पूरी तरह से मनाही है।
एंटी-प्रोफाइलिंग और निगरानी (Anti-Profiling and Surveillance): एआई प्रणालियों का उपयोग गवाहों या पक्षों की प्रोफाइलिंग करने के लिए नहीं किया जा सकता है। साथ ही, जब तक कानून द्वारा विशेष रूप से अनुमति न दी जाए, इनका उपयोग न्यायिक अधिकारियों, अधिवक्ताओं या वादियों की निरंतर निगरानी (surveillance) के लिए नहीं किया जा सकता।
‘ह्यूमन-इन-द-लूप’ दृष्टिकोण (‘Human-in-the-Loop’ Approach): जिन एप्लिकेशन्स से व्यक्तिगत स्वतंत्रता या वैध अधिकारों को उच्च जोखिम हो सकता है, उनके लिए मानवीय निगरानी और स्वतंत्र ऑडिट की अनिवार्य आवश्यकता होगी।
डेटा संरक्षण और पूर्वाग्रह-मुक्त (Data Protection & Non-Bias): डेटा की प्रोसेसिंग ‘डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023’ के अनुरूप होनी चाहिए। एआई सिस्टम को संविधान के तहत निषिद्ध किसी भी पूर्वाग्रह (जाति, धर्म, लिंग आदि) को न तो बढ़ावा देना चाहिए और न ही शामिल करना चाहिए।
अनुमत प्रशासनिक उपयोग (Permitted Administrative Uses): एआई की सहायता गैर-निर्णयात्मक (non-decision-making) कार्यों में लिया जा सकता है, जैसे कि केस मैनेजमेंट (मामला प्रबंधन), ट्रांसक्रिप्शन (कार्यवाही को लिखना), निर्णयों का अनुवाद करना और सुनवाइयों की शेड्यूलिंग करना।
संस्थागत ढांचा (Institutional Framework): मसौदे में सुप्रीम कोर्ट के स्तर पर एक पूर्णकालिक ‘शीर्ष निकाय’ (Apex Body) बनाने का प्रस्ताव है। इसमें सुप्रीम कोर्ट और हाई कोर्ट के जज, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के अधिकारी, और नीति विकास व मानक तय करने के लिए साइबर सुरक्षा और वित्त विशेषज्ञ शामिल होंगे।

न्यायपालिका में एआई को विनियमित करने की आवश्यकता

गलत डेटा का जोखिम: जेनरेटिव एआई (Generative AI) मनगढ़ंत डेटा, झूठे अदालती संदर्भ (precedents) बनाने के लिए प्रवृत्त पाए गए है, जैसा कि हाल ही में निचली अदालत की घटना में देखा गया है। यह कानूनी प्रक्रिया और न्याय के सिद्धांत से समझौता करता है।
पूर्वाग्रह (Bias): ऐतिहासिक डेटा पर प्रशिक्षित एआई मॉडल के कारण समाज के हाशिए पर मौजूद (marginalized) समुदायों के खिलाफ प्रणालीगत पूर्वाग्रहों को स्थायी रूप देने का जोखिम रहता है, जो निष्पक्ष सुनवाई के सिद्धांतों को प्रभावित करता है।
प्राकृतिक न्याय के सिद्धांतों को खतरा: अस्पष्ट और न समझे जा सकने वाले एल्गोरिदम द्वारा लिए गए निर्णय किसी भी वादी के तार्किक आदेश (reasoned order) और पारदर्शी न्याय पाने के अधिकार का उल्लंघन करते हैं।
डिजिटल विभाजन (Digital Divide): अत्यधिक तकनीकी उपकरणों पर बहुत ज्यादा निर्भरता ग्रामीण, आर्थिक रूप से कमजोर या भाषाई रूप से विविध समुदायों को न्याय व्यवस्था से दूर कर सकती है, जिससे न्याय तक उनकी पहुंच सीमित हो जाएगी।

न्यायपालिका में एआई को एकीकृत करने से जुड़ी चिंताएं और चुनौतियां

एआई “हैलुसिनेशन” का जोखिम: जेनरेटिव एआई उपकरण “हैलुसिनेशन”शिकार हो सकते हैं तथा तथ्यों, कानूनों को गलत संदर्भ में पेश कर सकते हैं। यदि इस पर रोक न लगाई गई, तो कानूनी शुचिता से समझौता होगा। इसी जोखिम को सुप्रीम कोर्ट ने हाल ही में संभावित “न्यायिक कदाचार” के रूप में वर्गीकृत किया है।
एल्गोरिद्मिक भेदभाव: एआई सिस्टम पूर्व के डेटा पर प्रशिक्षित होते हैं, जिनमें गहरे सामाजिक पूर्वाग्रह हो सकते हैं। ऐसे उपकरणों को लागू करने से नस्ल, धर्म, जाति या लिंग से जुड़े पूर्वाग्रह स्वचालित रूप से और बढ़ सकते हैं, जो सीधे समानता के अधिकार (अनुच्छेद 14) का उल्लंघन है।
“ब्लैक बॉक्स” दुविधा: कई उन्नत एआई एल्गोरिदम अपारदर्शी (opaque) होते हैं, जिसका अर्थ है कि उनके आंतरिक निर्णय लेने के रास्तों का ऑडिट नहीं किया जा सकता है। व्यक्तिगत स्वतंत्रता के मामलों में अस्पष्ट एआई का उपयोग वादियों को एक न्याय पाने के हक से वंचित करता है, जो प्राकृतिक न्याय के मूलभूत सिद्धांतों के खिलाफ है।
डिजिटल विभाजन का गहरा होना: जहाँ महानगरीय (metropolitan) न्यायालय अत्याधुनिक तकनीक को सुचारू रूप से अपना सकती हैं, वहीं अधीनस्थ न्यायालय अक्सर बुनियादी डिजिटल बुनियादी ढांचे (infrastructure) के लिए भी संघर्ष करती हैं। एआई-संचालित कानूनी उपकरणों पर अत्यधिक निर्भरता ग्रामीण, आर्थिक रूप से पिछड़े या भाषाई रूप से विविध वादियों को अलग-थलग कर सकती है।
डेटा गोपनीयता का उल्लंघन: एआई प्लेटफार्मों के माध्यम से अत्यधिक संवेदनशील मुकदमेबाजी डेटा की भारी मात्रा को प्रोसेस करना गंभीर डेटा सुरक्षा खतरों को जन्म देता है और डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 के उल्लंघन का जोखिम पैदा करता है।
सत्यापन का अतिरिक्त बोझ: हालांकि मसौदे में एक सख्त “प्रकटीकरण व्यवस्था” (Disclosure Regime) है जो वकीलों द्वारा एआई के उपयोग की घोषणा को अनिवार्य रूप से करने का प्रावधान करता है। लेकिन, इसे लागू करने से फाइलों की तथ्यात्मक प्रामाणिकता को सत्यापित करने के लिए न्यायालयों पर अतिरिक्त प्रशासनिक बोझ पड़ेगा, जिससे संभावित रूप से देरी हो सकती है।

भविष्य की रणनीति

“ह्यूमन-इन-द-लूप” को लागू करना: यह सुनिश्चित किया जाना चाहिए कि एआई केवल सहायक भूमिका में रहे। मुख्य न्यायिक जिम्मेदारियां—जैसे कि गवाहों की विश्वसनीयता का मूल्यांकन, जमानत का निर्धारण और सजा तय करना—मानवीय न्यायाधीशों के अनन्य (exclusive) कार्यक्षेत्र में रहनी चाहिए। क्योंकि मानव के पास भावनात्मक बुद्धिमत्ता (emotional intelligence), निष्पक्षता और संदर्भ की समझ होती है, न कि एआई के पास।
मजबूत संस्थागत निगरानी: सुप्रीम कोर्ट के स्तर पर प्रस्तावित स्थायी ‘शीर्ष निकाय’ (Apex Body) के साथ-साथ हाई कोर्ट की एआई समितियों की स्थापना में तेजी लाई जाए। इस निकाय को सख्त मूल्यांकन मानक, एक “एआई इंसिडेंट डेटाबेस” और प्रौद्योगिकी विक्रेताओं (technology vendors) के लिए स्पष्ट खरीद नीतियां स्थापित करनी चाहिए।
अनिवार्य ऑडिट और सैंडबॉक्सिंग: किसी भी उपकरण को न्यायालयों कार्य करने के लिए अपनाए जाने से पहले नियंत्रित पर्यावरण परीक्षण (sandboxing) से गुजरना होगा। अंतर्निहित पूर्वाग्रहों, तकनीकी गड़बड़ियों और सुरक्षा कमजोरियों की जांच के लिए नियमित, स्वतंत्र एल्गोरिद्मिक ऑडिट किए जाने चाहिए।
डिजिटल विभाजन को पाटना: एआई उपकरणों की शुरुआत के साथ-साथ उप-जिला और ग्रामीण न्यायालयों में डिजिटल बुनियादी ढांचे को व्यवस्थित रूप से अपग्रेड किया जाना चाहिए। न्याय तक पहुंच को सक्रिय रूप से लोकतांत्रिक बनाने के लिए एआई एप्लिकेशन्स को स्थानीय भाषा के अनुवाद पर केंद्रित होना चाहिए।
क्षमता निर्माण और प्रशिक्षण: कानूनी पेशेवरों, अदालत के कर्मचारियों और न्यायिक अधिकारियों को एआई की सीमाओं पर व्यापक प्रशिक्षण की आवश्यकता है। वकीलों को एआई-जनरेटेड शोध को सत्यापित करने के लिए जवाबदेह बनाया जाना चाहिए। इससे यह स्थापित हो सके कि तकनीक एक सहायक है, पेशेवर लापरवाही के लिए कोई ढाल नहीं।

प्रारंभिक परीक्षा प्रश्न

प्रश्न. मसौदा ‘न्यायालयों में आर्टिफिशियल इंटेलिजेंस (AI) के उपयोग के लिए विनियम, 2026′ के संबंध में निम्नलिखित कथनों पर विचार कीजिए:

ये विनियम निर्णयों के अनुवाद और केस शेड्यूलिंग जैसे प्रशासनिक कार्यों के लिए एआई के उपयोग को कड़ाई से प्रतिबंधित करते हैं।
मसौदा विनियम यह आदेश देते हैं कि न्यायालयों में एआई प्रणालियों द्वारा डेटा की प्रोसेसिंग डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 के अनुरूप होनी चाहिए।
न्यायपालिका में एआई पर्यवेक्षण के लिए प्रस्तावित शीर्ष निकाय (apex body) की अध्यक्षता केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री द्वारा की जाएगी।

उपर्युक्त कथनों में से कौन-सा/से सही है/हैं?

A) केवल 1 और 2

B) केवल 2

C) केवल 2 और 3

D) 1, 2 और 3

उत्तर: B) केवल 2

व्याख्या: कथन 1 गलत है क्योंकि मसौदा स्पष्ट रूप से अनुवाद और केस मैनेजमेंट जैसे प्रशासनिक कार्यों के लिए एआई के उपयोग की अनुमति देता है। कथन 3 गलत है क्योंकि प्रस्तावित शीर्ष निकाय की अध्यक्षता भारत के मुख्य न्यायाधीश (CJI) द्वारा नामित सुप्रीम कोर्ट के एक न्यायाधीश करेंगे, न कि केंद्रीय मंत्री। मसौदे के प्रावधानों के अनुसार कथन 2 बिल्कुल सही है।

मुख्य परीक्षा प्रश्न

प्रश्न. “तकनीक न्याय में सहायता कर सकती है, लेकिन वह न्यायाधीश की जगह नहीं ले सकती है।” भारतीय न्यायिक प्रणाली में एआई को एकीकृत करने के अवसरों और चुनौतियों का मूल्यांकन कीजिए। (15 अंक, 250 शब्द)

आपके उत्तर को संरचित करने के लिए मुख्य बिंदु (Key Pointers to Structure Your Answer):

प्रस्तावना (Introduction): मसौदा विनियम, 2026 के संदर्भ का उल्लेख करें, और एआई को कड़ाई से केवल सहायक बनाए रखने पर सुप्रीम कोर्ट की एआई समिति के रुख को रेखांकित करें।
अवसर (सहायक भूमिका – The Assistive Role): चर्चा करें कि एआई भारत में मामलों के भारी लंबित बोझ (pendency) को कम करने में कैसे मदद कर सकता है (जैसे, स्वचालित मामला प्रबंधन, बहुभाषी निर्णयों का त्वरित अनुवाद, स्वचालित ट्रांसक्रिप्ट और सुव्यवस्थित शेड्यूलिंग)।
चुनौतियां (मुख्य खतरे – The Core Threats): एआई हैलुसिनेशन (फर्जी नजीरें), “अपारदर्शी” (opaque) एल्गोरिदम में पारदर्शिता की कमी, सामाजिक पूर्वाग्रहों का सुदृढ़ीकरण, जमानत के लिए पक्षपातपूर्ण “रिस्क स्कोरिंग” के माध्यम से व्यक्तिगत स्वतंत्रता को खतरा, और डेटा गोपनीयता कानूनों (DPDP अधिनियम, 2023) के साथ संरेखण जैसे मुद्दों को उजागर करें।
मसौदे का विश्लेषण (Analysis of the Draft): ‘ह्यूमन-इन-द-लूप’ (मानवीय भागीदारी) के दर्शन और मुख्य न्यायिक परिणामों (सजा निर्धारण, प्रोफाइलिंग) पर लगाए गए प्रतिबंध की सराहना करें।
निष्कर्ष (Conclusion): एक संतुलित दृष्टिकोण के साथ निष्कर्ष निकालें कि दक्षता बढ़ाने के लिए एआई का उपयोग एक उपकरण के रूप में किया जाना चाहिए, लेकिन अंतिम नैतिक, नैतिक और कानूनी गणना हमेशा मानव बुद्धि और विवेक पर ही टिकी रहनी चाहिए।