मेटा–भारत प्लेटफॉर्म गवर्नेंस विवाद

हाल ही में, मेटा के सीईओ मार्क जुकरबर्ग ने निम्नलिखित मुद्दों पर भारत सरकार से माफी मांगी है:

23 जुलाई को पोस्ट किए गए प्रधानमंत्री नरेंद्र मोदी के फेसबुक वीडियो का अस्थायी प्रतिबंध।
मेटा के स्वामित्व वाले प्लेटफॉर्म पर बाल यौन शोषण सामग्री (CSAM) की उपस्थिति और उसे बढ़ावा देना।
डीपफेक और AI-जनित हानिकारक सामग्री।
फेसबुक और इंस्टाग्राम पर परिचालन और सामग्री-समीक्षा (कंटेंट-मॉडरेशन) की विफलताएं।

मेटा के ग्लोबल अफेयर्स हेड जोएल कापलान ने प्रधानमंत्री की पोस्ट पर गलत तरीके से लगाए गए प्रतिबंध के लिए केंद्रीय आईटी मंत्री अश्विनी वैष्णव से अलग से माफी मांगी। रिपोर्टों के अनुसार, मेटा ने इस घटना का कारण अपने स्वचालित मॉडरेशन सिस्टम की खराबी बताया, जिसके बाद पोस्ट को बहाल कर दिया गया था।

प्रमुख अवधारणाएं (Key Concepts)

A. मध्यस्थ (Intermediary)

सूचना प्रौद्योगिकी (IT) अधिनियम, 2000 की धारा 2(1)(w) के तहत, मध्यस्थ मोटे तौर पर वह व्यक्ति होता है जो किसी अन्य व्यक्ति की ओर से इलेक्ट्रॉनिक रिकॉर्ड प्राप्त करता है, संग्रहीत करता है, प्रसारित करता है या उससे संबंधित सेवाएं प्रदान करता है।

सोशल मीडिया प्लेटफॉर्म आमतौर पर मध्यस्थ के रूप में सुरक्षा का दावा करते हैं क्योंकि वे स्वयं सामग्री बनाने के बजाय तीसरे पक्ष (थर्ड-पार्टी) की सामग्री को होस्ट या प्रसारित करते हैं।

B. सेफ हार्बर (Safe Harbour)

धारा 79(1) मध्यस्थ के माध्यम से होस्ट या प्रसारित तीसरे पक्ष की जानकारी के लिए कानूनी देनदारी से सशर्त सुरक्षा प्रदान करती है। हालांकि, यह सुरक्षा धारा 79(2) और धारा 79(3) में दी गई शर्तों के अधीन है।

इसलिए, सेफ हार्बर कोई निरपेक्ष या पूर्ण प्रतिरक्षा (absolute immunity) नहीं है। यह सुरक्षा निम्नलिखित स्थितियों में समाप्त हो सकती है जब प्लेटफॉर्म:

प्रसारण स्वयं शुरू करता है।
जानकारी प्राप्त करने वाले का चयन करता है।
सामग्री का चयन या उसमें संशोधन करता है।
किसी गैर-कानूनी कार्य का षड्यंत्र रचता है, सहायता करता है, उकसाता है या प्रेरित करता है।
गैर-कानूनी सामग्री का कानूनी रूप से मान्यता प्राप्त नोटिस मिलने के बाद भी कार्रवाई करने में विफल रहता है।
निर्धारित सम्यक सतर्कता (Due Diligence) दायित्वों का उल्लंघन करता है।

धारा 79(3) स्वतंत्र रूप से सेफ हार्बर ‘प्रदान’ नहीं करती है। धारा 79(1) छूट प्रदान करती है, जबकि धारा 79(3) उन परिस्थितियों का उल्लेख करती है जिनमें यह छूट लागू नहीं होगी।

C. प्लेटफॉर्म बनाम प्रकाशक (Platform vs Publisher)

केंद्रीय कानूनी प्रश्न केवल यह नहीं है कि मेटा यूजर कंटेंट को होस्ट करता है या नहीं। सवाल यह है कि क्या उसकी भूमिका केवल एक निष्क्रियों (passive) की है या उसके एल्गोरिदम और व्यावसायिक तंत्र:

सामग्री का चयन और उसकी सिफारिश (recommend) करते हैं।
विशिष्ट सामग्री के लिए दर्शकों/श्रोताओं को तय करते हैं।
जुड़ाव (engagement) के आधार पर सामग्री को प्रवर्धित (amplify) करते हैं।
विज्ञापनों का मुद्रीकरण (monetise) करते हैं।
सामग्री की दृश्यता (visibility) और पहुंच में बदलाव करते हैं।

सरकार का यह कथित रुख कि मेटा “मध्यस्थ की परिभाषा के अंतर्गत नहीं आता है”, जारी नियामक विवाद में सरकार का एक दावा माना जाना चाहिए, न कि कोई अंतिम न्यायिक निर्णय। इस कानूनी मुद्दे के समाधान के लिए मेटा के वास्तविक कार्यों, एल्गोरिथम प्रणालियों और वैधानिक शर्तों के अनुपालन की जांच की आवश्यकता होगी।

कानूनी और नियामक ढांचा

सूचना प्रौद्योगिकी अधिनियम, 2000

प्रावधान	प्रासंगिकता
धारा 2(1)(w)	“मध्यस्थ” (Intermediary) को परिभाषित करती है
धारा 69A	निर्दिष्ट परिस्थितियों में जानकारी तक सार्वजनिक पहुंच को अवरुद्ध (ब्लॉक) करने की शक्ति देती है
धारा 79(1)	तीसरे पक्ष की सामग्री के लिए सशर्त सेफ हार्बर प्रदान करती है
धारा 79(2)	सेफ हार्बर सुरक्षा के लिए शर्तें निर्धारित करती है
धारा 79(3)	जब मध्यस्थ गैर-कानूनी गतिविधि में योगदान देता है या कानूनी नोटिस के बाद सामग्री हटाने में विफल रहता है, तो सुरक्षा समाप्त करती है
धारा 67, 67A और 67B	इलेक्ट्रॉनिक रूप में अश्लील, यौन रूप से स्पष्ट और बाल यौन शोषण सामग्री (CSAM) से निपटती हैं
धारा 79 (IT नियम, 2021 के साथ पठित)	प्लेटफॉर्म के लिए व्यापक सम्यक सतर्कता (Due Diligence) ढांचा तैयार करती है

IT नियम, 2021

सूचना प्रौद्योगिकी (मध्यवर्ती दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 मध्यस्थों पर सम्यक सतर्कता दायित्व लागू करते हैं और महत्वपूर्ण सोशल मीडिया मध्यस्थों (SSMIs) पर अतिरिक्त दायित्व डालते हैं।

महत्वपूर्ण दायित्वों में शामिल हैं:

शिकायत अधिकारी (Grievance Officer) की नियुक्ति।
नियमों, गोपनीयता नीति और उपयोगकर्ता समझौते का प्रकाशन।
निर्दिष्ट गैर-कानूनी सामग्री के खिलाफ त्वरित कार्रवाई।
उपयोगकर्ता की शिकायतों और अपीलों के लिए तंत्र।
हटाई गई सामग्री और प्रासंगिक अभिलेखों (records) का संरक्षण।
SSMIs द्वारा मुख्य अनुपालन अधिकारी, नोडल संपर्क व्यक्ति और निवासी शिकायत अधिकारी की नियुक्ति।
अनुपालन रिपोर्ट और पारदर्शिता-संबंधित आवश्यकताएं।
हानिकारक सामग्री की कुछ श्रेणियों की पहचान के लिए तकनीक-आधारित उपाय।
संवैधानिक और न्यायिक जांच के अधीन, प्रमुख मैसेजिंग प्लेटफॉर्म्स के लिए पता लगाने की क्षमता (traceability) से संबंधित दायित्व।

यह नियम यौन रूप से स्पष्ट सामग्री, प्रतिरूपण (impersonation), नग्नता और निजी अंगों को चित्रित करने वाली सामग्री से जुड़े मामलों में त्वरित कार्रवाई की मांग करते हैं। यह CSAM और AI-जनित यौन शोषण सामग्री के लिए विशेष रूप से प्रासंगिक है।

डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 (DPDP Act)

DPDP अधिनियम प्राथमिक रूप से सामग्री-समीक्षा (content-moderation) कानून नहीं है। हालांकि, यह प्रासंगिक है क्योंकि यह बच्चों के व्यक्तिगत डेटा के प्रसंस्करण (processing) को नियंत्रित करता है।

कानून के तहत निर्धारित ढांचे के अधीन, किसी बच्चे के व्यक्तिगत डेटा को संसाधित करने से पहले एक डेटा न्यासी (Data Fiduciary) को सत्यापन योग्य अभिभावक सहमति प्राप्त करनी होगी।

इस प्रकार, इस मुद्दे के दो स्पष्ट आयाम हैं:

सामग्री सुरक्षा: CSAM और डीपफेक का निवारण एवं रोकथाम।
डेटा सुरक्षा: बच्चों के व्यक्तिगत डेटा के गैर-कानूनी संग्रह, प्रोफाइलिंग और शोषण को रोकना।

संवैधानिक आयाम

अनुच्छेद 19(1)(a): विचार और अभिव्यक्ति की स्वतंत्रता

सोशल मीडिया प्लेटफॉर्म निम्नलिखित के लिए महत्वपूर्ण स्थान बन गए हैं:

राजनीतिक संचार
सार्वजनिक बहस
चुनाव अभियान
सरकारी आउटरीच
नागरिक पत्रकारिता
लामबंदी और विरोध प्रदर्शन

किसी सत्यापित सार्वजनिक हस्ती (जैसे प्रधानमंत्री) की पोस्ट को गलत तरीके से हटाना निम्नलिखित चिंताओं को जन्म देता है:

प्रक्रियात्मक सुरक्षा उपायों की कमी।
स्वचालित मॉडरेशन पर अत्यधिक निर्भरता।
सार्थक स्पष्टीकरण का अभाव।
मनमाने या राजनीतिक रूप से चुनिंदा मॉडरेशन का जोखिम।

अनुच्छेद 19(2): युक्तियुक्त निर्बंधन (Reasonable Restrictions)

अभिव्यक्ति की स्वतंत्रता निरपेक्ष नहीं है। निम्नलिखित आधारों पर प्रतिबंध लगाए जा सकते हैं:

भारत की प्रभुता और अखंडता
राज्य की सुरक्षा
लोक व्यवस्था (Public order)
शिष्टाचार या सदाचार
मानहानि
अपराध-उद्दीपन
विदेशी राज्यों के साथ मैत्रीपूर्ण संबंध

CSAM, यौन शोषण, आपराधिक धमकी, गैर-सहमति वाली अंतरंग तस्वीरें और उकसावे के कुछ रूप वैध रूप से प्रतिबंधों को आकर्षित कर सकते हैं। हालांकि, प्रतिबंधों को वैधानिकता, आवश्यकता, आनुपातिकता (proportionality) और प्रक्रियात्मक निष्पक्षता की शर्तों को पूरा करना होगा।

अनुच्छेद 14: गैर-मनमानापन (Non-arbitrariness)

स्वचालित मॉडरेशन प्रणालियाँ असंगत परिणाम उत्पन्न कर सकती हैं:

हानिकारक सामग्री ऑनलाइन रह सकती है।
वैध राजनीतिक सामग्री को हटाया जा सकता है।
समान सामग्री के साथ अलग व्यवहार हो सकता है।
उपयोगकर्ताओं को पर्याप्त कारण या अपील तंत्र न मिलना।

यदि मॉडरेशन मनमाना, अपारदर्शी या भेदभावपूर्ण है, तो यह अनुच्छेद 14 के तहत चिंता पैदा करता है।

अनुच्छेद 21: निजता, गरिमा और बाल सुरक्षा

CSAM और डीपफेक यौन सामग्री सीधे तौर पर निम्नलिखित को खतरे में डालती है:

निजता
गरिमा
शारीरिक स्वायत्तता
प्रतिष्ठा
मानसिक स्वास्थ्य/कल्याण
बच्चों और संवेदनशील व्यक्तियों की सुरक्षा

नागरिकों को गंभीर डिजिटल नुकसान से बचाने के राज्य के कर्तव्य को निजता के अधिकार और अभिव्यक्ति की स्वतंत्रता के साथ संतुलित किया जाना चाहिए।

इस घटना से उठे मुख्य मुद्दे

1. स्वचालित मॉडरेशन और जवाबदेही

रिपोर्ट के अनुसार, मेटा ने स्पष्ट किया कि प्रधानमंत्री की पोस्ट को उसके आंतरिक AI-आधारित मॉडरेशन सिस्टम द्वारा गलती से फ्लैग किया गया था। यह बिना जवाबदेही के ऑटोमेशन की समस्या को उजागर करता है।

AI सिस्टम निम्नलिखित कारणों से गलत फ्लैग कर सकते हैं:

ट्रैफिक में अचानक उछाल।
संदर्भ को न समझ पाना (Contextual misunderstanding)।
राजनीतिक भाषण का गलत वर्गीकरण।
अपर्याप्त प्रशिक्षण डेटा।
दृश्य या भाषाई संकेतों पर अत्यधिक निर्भरता।
व्यंग्य, उद्धरण, रिपोर्टिंग और वास्तविक दुष्प्रचार में अंतर करने में कठिनाई।

इसलिए प्लेटफॉर्म को निम्नलिखित प्रदान करना होगा:

उच्च-प्रभाव वाले मामलों में इंसानी समीक्षा (Human review)।
सत्यापित सार्वजनिक खातों के लिए प्राथमिकता के आधार पर त्वरित सुनवाई।
सामग्री हटाने का कारण बताना।
समयबद्ध अपील प्रक्रिया।
ऑडिट ट्रेल्स।
मॉडरेशन प्रणालियों की स्वतंत्र निगरानी।

2. एल्गोरिथम द्वारा प्रवर्धन (Algorithmic Amplification)

मुद्दा केवल यह नहीं है कि प्लेटफॉर्म गैर-कानूनी सामग्री होस्ट करता है या नहीं। एल्गोरिदम यह तय कर सकते हैं कि:

उपयोगकर्ता क्या देखते हैं।
वे इसे कितनी बार देखते हैं।
कौन सी सामग्री वायरल होती है।
किन विज्ञापनों को अधिक पहुंच मिलती है।
क्या हानिकारक सामग्री संवेदनशील उपयोगकर्ताओं को अनुशंसित (recommend) की जा रही है।

यह बहस को कंटेंट होस्टिंग से हटाकर कंटेंट एम्प्लीफिकेशन पर ले जाता है। एक प्लेटफॉर्म यह दावा कर सकता है कि वह केवल एक मध्यस्थ है, जबकि उसकी सिफारिश प्रणालियाँ (recommendation systems) सक्रिय रूप से सामग्री के प्रसार और दृश्यता को आकार देती हैं। यह एक नियामक चुनौती पैदा करता है क्योंकि मौजूदा कानून काफी हद तक निष्क्रिय मध्यस्थों के लिए बनाए गए थे।

3. CSAM और ऑनलाइन बाल सुरक्षा

CSAM केवल आपत्तिजनक सामग्री नहीं है; यह बच्चों के यौन शोषण और उत्पीड़न का सबूत है। मुख्य चिंताओं में शामिल हैं:

अवैध सामग्री को बढ़ावा देने वाले सशुल्क विज्ञापन।
एन्क्रिप्टेड या बंद समूह।
हटाने के बाद बार-बार री-अपलोड होना।
सिंथेटिक बाल-शोषण सामग्री उत्पन्न करने के लिए AI का उपयोग।
हानिकारक सामग्री का मुद्रीकरण।
सीमा पार होस्टिंग और जांच में कठिनाइयां।
कानून प्रवर्तन अधिकारियों को तुरंत सामग्री की रिपोर्ट करने में विफलता।

एक अधिकार-आधारित दृष्टिकोण के लिए इस मुद्दे का इलाज केवल प्लेटफॉर्म-अनुपालन समस्या के रूप में करने के बजाय पीड़ितों की सुरक्षा और पुनर्वास पर ध्यान केंद्रित करने की आवश्यकता है।

4. डीपफेक और सिंथेटिक मीडिया

डीपफेक का उपयोग निम्नलिखित के लिए किया जा सकता है:

राजनीतिक दुष्प्रचार
प्रतिरूपण (Impersonation)
वित्तीय धोखाधड़ी
सांप्रदायिक लामबंदी
यौन शोषण
प्रतिष्ठा पर हमला
चुनावों और सार्वजनिक विमर्श में हेरफेर

चुनौती इनमें अंतर करने की है:

आपराधिक रूप से भ्रामक डीपफेक।
व्यंग्य और हास्य (Satire and parody)।
कलात्मक अभिव्यक्ति।
पत्रकारिता और जनहित का दस्तावेजीकरण।
खुलासे के साथ सिंथेटिक मीडिया का वैध उपयोग।

एक कंबल प्रतिबंध (पूर्ण प्रतिबंध) नवाचार और मुक्त भाषण को नुकसान पहुंचा सकता है। एक बेहतर दृष्टिकोण में लेबलिंग, स्रोत मानकों (provenance standards), त्वरित शिकायत निवारण, आपराधिक जांच और प्लेटफॉर्म की जवाबदेही को संयोजित किया जाना चाहिए।

संसदीय निगरानी और कार्यपालिका का नियमन

संसदीय स्थायी समिति की चेतावनी बड़े प्रौद्योगिकी प्लेटफॉर्मों की विधायी जांच को दर्शाती है। संसदीय निगरानी जवाबदेही में सुधार कर सकती है, लेकिन इसे संवैधानिक सीमाओं के भीतर काम करना चाहिए।

संभावित चिंताओं में शामिल हैं:

क्या कोई समिति वैधानिक प्राधिकरण के बिना सीधे कानूनी परिणाम लागू कर सकती है।
क्या केवल एक माफी ही जवाबदेही का पर्याप्त उपाय है।
क्या सेफ हार्बर की समाप्ति के लिए एक विशिष्ट कानूनी प्रक्रिया का पालन किया जाना चाहिए।
क्या नियामक दबाव से अत्यधिक सामग्री हटाई जा सकती है।
क्या प्लेटफॉर्म को नोटिस, सुनवाई और अपील का अवसर मिलता है।

आदर्श प्रणाली को पारदर्शी वैधानिक प्रक्रियाओं और न्यायिक समीक्षा के साथ संसदीय निगरानी को जोड़ना चाहिए।

श्रेया सिंघल मामला और सम्यक प्रक्रिया

श्रेया सिंघल बनाम भारत संघ (2015) मामले में, सर्वोच्च न्यायालय ने अभिव्यक्ति की स्वतंत्रता का उल्लंघन करने के लिए IT अधिनियम की धारा 66A को रद्द कर दिया था। कोर्ट ने सुरक्षा उपायों के अधीन धारा 79 की संवैधानिक वैधता को बरकरार रखा और टेकडाउन के संदर्भ में “वास्तविक ज्ञान” (actual knowledge) शब्द की व्याख्या को सीमित किया।

यह निर्णय इसलिए महत्वपूर्ण है क्योंकि इसने स्थापित किया कि:

मध्यस्थों को केवल निजी शिकायतों के आधार पर वैधानिकता तय करने के लिए मजबूर नहीं किया जाना चाहिए।
सामग्री हटाने (टेकडाउन) के दायित्वों को अदालत के आदेश या कानूनी रूप से मान्य सरकारी अधिसूचना से जोड़ा जाना चाहिए।
सामग्री विनियमन को अनुच्छेद 19(1)(a) और अनुच्छेद 19(2) का सम्मान करना चाहिए।
अस्पष्ट और अत्यधिक व्यापक प्रतिबंधों से भाषण पर प्रतिकूल प्रभाव (chilling effect) पड़ सकता है।

वर्तमान मुद्दे पर अनुप्रयोग:

यह निर्णय प्लेटफॉर्म को CSAM या अन्य आपराधिक सामग्री को नजरअंदाज करने की छूट नहीं देता है। बल्कि, यह एक कानूनी रूप से संरचित प्रणाली की मांग करता है जिसमें:

राज्य उचित प्राधिकरण के माध्यम से गैर-कानूनी सामग्री की पहचान करे।
प्लेटफॉर्म तेजी से कार्रवाई करें।
पीड़ितों के पास प्रभावी उपाय हों।
उपयोगकर्ताओं को प्रक्रियात्मक निष्पक्षता मिले।
नियामक कार्रवाई आनुपातिक बनी रहे।

हितधारक विश्लेषण (Stakeholder Analysis)

हितधारक	मुख्य चिंता
केंद्र सरकार	राष्ट्रीय सुरक्षा, लोक व्यवस्था, कानूनी टेकडाउन और प्लेटफॉर्म का अनुपालन
संसदीय समितियां	शक्तिशाली प्रौद्योगिकी कंपनियों की जवाबदेही
मेटा और अन्य प्लेटफॉर्म	कानूनी निश्चितता, परिचालन व्यवहार्यता और सेफ हार्बर का संरक्षण
उपयोगकर्ता	मुक्त भाषण, निजता, पारदर्शिता और प्रभावी अपील
बच्चे और पीड़ित	शोषण, उत्पीड़न और पुन: पीड़ित होने से सुरक्षा
कानून प्रवर्तन एजेंसियां	साक्ष्यों तक पहुंच, सीमा पार सहयोग और समय पर रिपोर्टिंग
विज्ञापनदाता	ब्रांड सुरक्षा और अवैध विज्ञापन प्लेसमेंट की रोकथाम
नागरिक समाज	सेंसरशिप, निगरानी और मनमाने मॉडरेशन से सुरक्षा
न्यायपालिका	संवैधानिक संतुलन, आनुपातिकता और सम्यक प्रक्रिया

सरकार का रुख: ताकत और चिंताएं

सख्त कार्रवाई के समर्थन में तर्क:

प्लेटफॉर्मों के पास पर्याप्त तकनीकी और वित्तीय क्षमता है।
उनके एल्गोरिदम सार्वजनिक विमर्श और सामाजिक व्यवहार को प्रभावित करते हैं।
CSAM और डीपफेक गंभीर और अपूरणीय क्षति पहुंचाते हैं।
लाभ-संचालित सिफारिश प्रणालियाँ सुरक्षा पर जुड़ाव (engagement) को प्राथमिकता दे सकती हैं।
बार-बार होने वाली परिचालन विफलताओं को हमेशा केवल तकनीकी त्रुटियों के रूप में खारिज नहीं किया जा सकता।
सेफ हार्बर को सार्थक अनुपालन के अधीन होना चाहिए।

अत्यधिक नियमन से जुड़ी चिंताएं:

व्यापक देनदारी से प्लेटफॉर्म वैध भाषण को भी हटाने के लिए प्रेरित हो सकते हैं।
राजनीतिक दबाव के परिणामस्वरूप चुनिंदा सेंसरशिप हो सकती है।
स्वचालित प्रणालियाँ और भी अधिक रूढ़िवादी और त्रुटि-प्रवण बन सकती हैं।
छोटे प्लेटफॉर्मों के पास महंगी अनुपालन आवश्यकताओं को पूरा करने के लिए संसाधनों की कमी हो सकती है।
सरकारी मांगों को कानून और सम्यक प्रक्रिया द्वारा समर्थित होना चाहिए।
हर प्लेटफॉर्म को एक प्रकाशक (publisher) के रूप में मानने से इंटरनेट का कामकाज कमजोर हो सकता है।

आगे की राह (Way Forward)

A. जोखिम-आधारित प्लेटफॉर्म विनियमन

प्लेटफॉर्मों को निम्नलिखित के अनुसार विनियमित किया जाना चाहिए:

यूजर बेस
बिजनेस मॉडल
सेवा की प्रकृति
एल्गोरिथम प्रवर्धन की डिग्री
बच्चों और संवेदनशील उपयोगकर्ताओं के लिए जोखिम
सामग्री का मुद्रीकरण या सिफारिश करने की क्षमता

एक छोटे चर्चा मंच (discussion forum) और एक विश्व स्तर पर हावी सोशल मीडिया प्लेटफॉर्म को समान दायित्वों का सामना नहीं करना चाहिए।

B. स्वतंत्र एल्गोरिथम ऑडिट

बड़े प्लेटफॉर्मों को निम्नलिखित का आवधिक ऑडिट करने की आवश्यकता होनी चाहिए:

सिफारिश प्रणालियाँ (Recommendation systems)
विज्ञापन-समीक्षा प्रणालियाँ
बाल-सुरक्षा नियंत्रण
डीपफेक पहचान
सामग्री समीक्षा में त्रुटि दरें
पूर्वाग्रह और असमान प्रभाव
अपील और बहाली के निर्णय

C. उच्च-प्रभाव वाले निर्णयों के लिए मानवीय समीक्षा

निम्नलिखित से संबंधित सामग्री:

निर्वाचित प्रतिनिधि
सार्वजनिक आपात स्थिति
जनहित पत्रकारिता
सत्यापित संस्थागत खाते
राजनीतिक संचार

को त्वरित इंसानी समीक्षा (human review) मिलनी चाहिए, बिना राजनीतिक अभिनेताओं के लिए कोई विशेष प्रतिरक्षा बनाए।

D. मजबूत बाल-सुरक्षा ढांचा

उपायों में शामिल होने चाहिए:

CSAM की सक्रिय पहचान।
ज्ञात अवैध सामग्री के लिए हैश-मैचिंग (hash-matching) सिस्टम।
तेजी से हटाना और पुन: अपलोड करने से रोकना।
सक्षम प्राधिकारियों को अनिवार्य रिपोर्टिंग।
मजबूत विज्ञापनदाता सत्यापन।
भारत में विशेष बाल-सुरक्षा टीमें।
पीड़ित-केंद्रित शिकायत और पुनर्वास तंत्र।

E. डीपफेक गवर्नेंस

भारत को विकसित करना चाहिए:

स्पष्ट कानूनी परिभाषाएं।
सिंथेटिक मीडिया के लिए अनिवार्य प्रकटीकरण या लेबलिंग।
प्रोवेनेंस (उत्पत्ति) और वॉटरमार्किंग मानक।
नुकसान पहुँचाने वाले प्रतिरूपण के लिए त्वरित टेकडाउन।
जानबूझकर की गई धोखाधड़ी, यौन शोषण और उकसावे के लिए आपराधिक देनदारी।
व्यंग्य, अनुसंधान, पत्रकारिता और कलात्मक अभिव्यक्ति के लिए सुरक्षित स्थान।

F. पारदर्शिता और सम्यक प्रक्रिया

प्लेटफॉर्मों को निम्नलिखित प्रकाशित करना चाहिए:

सामग्री-समीक्षा नियम।
सरकारी टेकडाउन अनुरोध।
हटाई गई सामग्री की संख्या और श्रेणी।
त्रुटि और बहाली दरें।
स्वचालित प्रणालियों का उपयोग।
अपील के परिणाम।
विज्ञापनदाता सत्यापन प्रथाएं।

सरकार को प्रमुख सामग्री प्रतिबंधों के लिए कानूनी रूप से टिकाऊ कारण भी प्रकाशित करने चाहिए।

G. अंतरराष्ट्रीय सहयोग

चूंकि प्लेटफॉर्म और हानिकारक सामग्री विभिन्न अधिकार क्षेत्रों में काम करती है, इसलिए भारत को आवश्यकता है:

तेज़ पारस्परिक कानूनी सहायता (Mutual legal assistance)।
इंटरपोल और विदेशी कानून प्रवर्तन एजेंसियों के साथ सहयोग।
CSAM रिपोर्टिंग के लिए समान मानक।
सीमा पार साक्ष्य-साझाकरण तंत्र।
प्रौद्योगिकी कंपनियों और बाल-संरक्षण संगठनों के साथ सहयोग।

प्रारंभिक परीक्षा कैप्सूल (Prelims Capsule)

महत्वपूर्ण तथ्य:

धारा 79, IT अधिनियम, 2000: मध्यस्थों के लिए सशर्त सेफ हार्बर।
धारा 79(3): वे परिस्थितियाँ जिनमें मध्यस्थ सुरक्षा लागू नहीं हो सकती है।
धारा 69A: वैधानिक सुरक्षा उपायों के अधीन, जानकारी तक सार्वजनिक पहुंच को रोकने की सरकार की शक्ति।
IT नियम, 2021: मध्यस्थों के लिए सम्यक सतर्कता और शिकायत निवारण दायित्व।
SSMI: बढ़ाए गए अनुपालन दायित्वों के साथ महत्वपूर्ण सोशल मीडिया मध्यस्थ।
CSAM: बाल यौन शोषण सामग्री; यह किसी बच्चे के शोषण का प्रतिनिधित्व करता है और सामान्य अश्लील सामग्री से अलग है।
श्रेया सिंघल बनाम भारत संघ: धारा 66A को रद्द कर दिया गया; सुरक्षा उपायों के अधीन धारा 79 को बरकरार रखा गया।
अनुच्छेद 19(1)(a): विचार और अभिव्यक्ति की स्वतंत्रता।
अनुच्छेद 19(2): युक्तियुक्त निर्बंधन के आधार।
अनुच्छेद 14: मनमानेपन के खिलाफ सुरक्षा।
अनुच्छेद 21: निजता, गरिमा और व्यक्तिगत स्वतंत्रता।
DPDP अधिनियम, 2023: बच्चों के व्यक्तिगत डेटा के प्रसंस्करण को नियंत्रित करता है लेकिन यह पूर्ण सामग्री-समीक्षा कानून नहीं है।

संभावित कथन-आधारित प्रश्न:

प्रश्न: निम्नलिखित कथनों पर विचार कीजिए:

IT अधिनियम की धारा 79 सोशल-मीडिया प्लेटफॉर्मों को सभी उपयोगकर्ता-जनित सामग्री के लिए पूर्ण प्रतिरक्षा प्रदान करती है।
श्रेया सिंघल मामले में सर्वोच्च न्यायालय ने IT अधिनियम की धारा 66A को रद्द कर दिया था।
IT नियम, 2021 महत्वपूर्ण सोशल मीडिया मध्यस्थों (SSMIs) पर अतिरिक्त दायित्व लागू करते हैं।

उपर्युक्त कथनों में से कौन-सा/से सही है/हैं?

(a) केवल 1 और 2

(b) केवल 1 और 3

(d) 1, 2 और 3

उत्तर: (c) केवल कथन 2 और 3 सही हैं।

मुख्य परीक्षा हेतु मॉडल उत्तर (Mains-Ready Answer)

प्रश्न: “मेटा-भारत विवाद मुख्य रूप से हावी सोशल-मीडिया प्लेटफॉर्मों को केवल निष्क्रिय मध्यस्थ मानने की अपर्याप्तता को दर्शाता है।” चर्चा कीजिए।

मॉडल उत्तर:

प्रधानमंत्री के वीडियो के अस्थायी प्रतिबंध, CSAM और डीपफेक सामग्री को लेकर मेटा की माफी से जुड़े हालिया विवाद ने मध्यस्थ देनदारी और प्लेटफॉर्म की जवाबदेही पर बहस को फिर से शुरू कर दिया है। मेटा ने वीडियो हटाए जाने का कारण अपने स्वचालित मॉडरेशन सिस्टम में एक परिचालन त्रुटि बताया, जबकि भारत सरकार ने कंपनी के कानूनी और सुरक्षा दायित्वों के अनुपालन पर सवाल उठाए।

सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत, मध्यस्थों को तीसरे पक्ष की सामग्री के लिए सशर्त सेफ हार्बर प्राप्त है। यह सुरक्षा सम्यक सतर्कता (due diligence) के अधीन है और तब लागू नहीं हो सकती जब कोई प्लेटफॉर्म गैर-कानूनी गतिविधि में योगदान देता है या कानूनी रूप से मान्य नोटिस के बाद कार्रवाई करने में विफल रहता है। IT नियम, 2021 महत्वपूर्ण सोशल मीडिया मध्यस्थों पर शिकायत निवारण, अनुपालन कर्मियों, पारदर्शिता और कुछ तकनीक-आधारित उपायों सहित अतिरिक्त दायित्व लागू करते हैं।

हालांकि, हावी प्लेटफॉर्म केवल निष्क्रिय रूप से सामग्री होस्ट करने से कहीं अधिक कार्य करते हैं। उनके एल्गोरिदम जानकारी का चयन करते हैं, सिफारिश करते हैं, रैंक करते हैं और उसे प्रवर्धित (amplify) करते हैं। विज्ञापन प्रणालियाँ उपयोगकर्ताओं के ध्यान का मुद्रीकरण भी करती हैं। इसलिए, प्लेटफॉर्म की जिम्मेदारी का मूल्यांकन केवल इस आधार पर नहीं किया जा सकता कि मूल सामग्री किसने बनाई। CSAM, सिंथेटिक मीडिया, राजनीतिक दुष्प्रचार और लक्षित हेरफेर से जुड़े मामलों में जोखिम विशेष रूप से गंभीर हो जाते हैं।

साथ ही, प्लेटफॉर्मों को प्रत्येक यूजर पोस्ट के प्रकाशक (publisher) में बदलने से अत्यधिक सेंसरशिप हो सकती है और अनुच्छेद 19(1)(a) को नुकसान पहुंच सकता है। श्रेया सिंघल मामले में, सर्वोच्च न्यायालय ने जोर दिया था कि टेकडाउन दायित्वों को संवैधानिक रूप से मान्य कानूनी प्रक्रियाओं से जोड़ा जाना चाहिए। इसलिए, विनियमन को वैधानिकता, आवश्यकता, आनुपातिकता और प्रक्रियात्मक निष्पक्षता को संतुष्ट करना चाहिए।

भारत को एक जोखिम-आधारित ढांचा अपनाना चाहिए जिसमें स्वतंत्र एल्गोरिथम ऑडिट, उच्च-प्रभाव वाले टेकडाउन की इंसानी समीक्षा, पारदर्शी सरकारी अनुरोध, मजबूत बाल-सुरक्षा प्रणाली, डीपफेक प्रोवेनेंस मानक और प्रभावी अपील शामिल हों। सेफ हार्बर की सुविधा उपलब्ध रहनी चाहिए, लेकिन केवल उन प्लेटफॉर्मों के लिए जो वास्तविक अनुपालन प्रदर्शित करते हैं और गैर-कानूनी सामग्री को सक्रिय रूप से प्रवर्धित नहीं करते हैं।

इस प्रकार, उद्देश्य अप्रतिबंधित प्लेटफॉर्म नियंत्रण या अनियंत्रित राज्य सेंसरशिप नहीं होना चाहिए। यह एक अधिकार-सम्मानजनक जवाबदेही ढांचा होना चाहिए जो बच्चों की रक्षा करे, मुक्त भाषण को बनाए रखे और शक्तिशाली डिजिटल प्लेटफॉर्मों को उनकी प्रणालियों द्वारा बनाए गए जोखिमों के लिए जवाबदेह बनाए।

निबंध और साक्षात्कार के लिए मूल्य संवर्धन (Value Addition)

उपयोगी कीवर्ड (Keywords):

Conditional safe harbour (सशर्त सेफ हार्बर)
Algorithmic amplification (एल्गोरिथम प्रवर्धन)
Platform accountability (प्लेटफॉर्म जवाबदेही)
Synthetic media (सिंथेटिक मीडिया)
Digital constitutionalism (डिजिटल संविधानवाद)
Content moderation (सामग्री समीक्षा)
Notice-and-takedown (नोटिस और टेकडाउन)
Procedural fairness (प्रक्रियात्मक निष्पक्षता)
Child-centric internet governance (बाल-केंद्रित इंटरनेट गवर्नेंस)
Risk-based regulation (जोखिम-आधारित विनियमन)
Transparency by design (डिजाइन द्वारा पारदर्शिता)
Human-in-the-loop moderation (मानवीय हस्तक्षेप वाली समीक्षा)

एक-पंक्ति निष्कर्ष (One-Line Conclusion):

मुख्य चुनौती यह सुनिश्चित करना है कि प्रौद्योगिकी प्लेटफॉर्मों को उपयोगकर्ताओं द्वारा कही गई हर बात का प्रकाशक न माना जाए, लेकिन साथ ही उनके एल्गोरिदम द्वारा अनुशंसित, प्रवर्धित और मुद्रीकृत की जाने वाली सामग्री की जिम्मेदारी से उन्हें भागने की अनुमति भी न दी जाए।

Table of Contents