परिचय
बाल आयुक्त द्वारा किए गए एक अध्ययन के निष्कर्षों के अनुसार, सोशल मीडिया प्लेटफॉर्म को चलाने के लिए जिम्मेदार एल्गोरिदम ही बच्चों के फीड में अवांछित अश्लील जानकारी लाने के लिए जिम्मेदार हैं।
यह डेटा ऑनलाइन सुरक्षा अधिनियम के कार्यान्वयन से पहले प्राप्त किया गया था; तथापि, यह उन खतरनाक सूचनाओं के विभिन्न रूपों की तस्वीर प्रस्तुत करता है, जिनसे बच्चे ऑनलाइन संपर्क में आते हैं और जिन तक वे पहुंच बनाते हैं, साथ ही यह भी बताता है कि यह सामग्री किस प्रकार उन पर प्रभाव डालती है।
अश्लील
सर्वेक्षण के नतीजों से पता चला कि सत्तर प्रतिशत उत्तरदाताओं ने अश्लील सामग्री देखी थी। सर्वेक्षण में भाग लेने वाले कुछ उत्तरदाताओं की उम्र सोलह साल से भी कम थी, जबकि कुछ की उम्र इक्कीस साल थी। एक-चौथाई से ज़्यादा बच्चों ने बताया कि ग्यारह साल की उम्र तक उन्हें इस तरह की जानकारी मिल चुकी थी, और औसत बच्चे ने बताया कि तेरह साल की उम्र में उन्हें इस तरह की जानकारी मिल चुकी थी।
ऑनलाइन अश्लील सामग्री के संपर्क में आए उत्तरदाताओं के निष्कर्षों के अनुसार, यह पाया गया कि अश्लील सामग्री के शीर्ष दस स्रोतों में से आठ ऐसी वेबसाइटें थीं जो सामाजिक नेटवर्किंग या सोशल मीडिया आउटलेट्स से जुड़ी थीं।
X, जिसे पहले ट्विटर के नाम से जाना जाता था, वह वेबसाइट थी जहाँ सबसे ज़्यादा युवा पोर्नोग्राफ़ी के संपर्क में आए। 45 प्रतिशत उत्तरदाताओं ने कहा कि उन्होंने X पर पोर्नोग्राफ़ी देखी। इस जानकारी के आधार पर, यह निष्कर्ष निकाला जा सकता है कि युवाओं को वेबसाइट X पर पोर्नोग्राफ़िक सामग्री देखने की संभावना उन वेबसाइटों की तुलना में ज़्यादा है जो पूरी तरह से पोर्नोग्राफ़िक सामग्री से भरी हैं।
युवाओं के बीच लोकप्रिय कई अन्य सोशल मीडिया साइट्स भी इस सर्वेक्षण में शामिल हैं। शोध से पता चलता है कि इन साइट्स का बार-बार ज़िक्र होना चिंता का विषय है। इस श्रेणी में कई प्लेटफ़ॉर्म शामिल हैं, जिनमें स्नैपचैट (29 प्रतिशत), इंस्टाग्राम (23 प्रतिशत), टिकटॉक (22 प्रतिशत) और यूट्यूब (15 प्रतिशत) शामिल हैं।
59% उत्तरदाताओं ने, जो कि एक आश्चर्यजनक रूप से उच्च प्रतिशत है, स्वीकार किया कि वे गलती से इंटरनेट पर अश्लील सामग्री पर आ गए हैं। 2023 में ऐसा करने वालों की संख्या 38 प्रतिशत होने की तुलना में, यह उल्लेखनीय वृद्धि है। पेन हिक बीच के कानूनी भागीदार, मार्क जोन्स द्वारा दिए गए एक बयान में कहा गया है कि “बच्चे स्वयं सक्रिय रूप से खोज करने के बजाय, प्लेटफ़ॉर्म द्वारा उपयोग किए जाने वाले एल्गोरिदम के कारण हानिकारक सामग्री देख रहे हैं।” यह टिप्पणी इस तथ्य के जवाब में की गई थी कि बच्चे हानिकारक सामग्री देख रहे हैं।
विवाद समाधान विभाग
हानिकारक और सुलभ सामग्री पर नियंत्रण विवाद समाधान विभाग के सदस्य जोन्स एक वकील हैं जो लोगों और कंपनियों, दोनों का प्रतिनिधित्व करते हैं। उन्होंने जो अतिरिक्त बयान दिया, वह इस प्रकार है: “ऑनलाइन सुरक्षा अधिनियम और बाल सुरक्षा कर्तव्यों के अनुसार, प्लेटफ़ॉर्म को अपने एल्गोरिदम को ऐसी सामग्री की सिफ़ारिश करने से रोकना आवश्यक है जिसे बच्चों के लिए हानिकारक माना जाता है।” निगमों के प्रतिनिधि होने के अलावा, जोन्स लोगों का भी प्रतिनिधित्व करते हैं।
उम्र सत्यापन के अन्य तरीकों के साथ, इसका उद्देश्य इंटरनेट का उपयोग करते समय बच्चों की सुरक्षा सुनिश्चित करना है। शुरुआत से ही, संभावित रूप से खतरनाक जानकारी को नाबालिगों तक पहुँचने से रोकने की पूरी ज़िम्मेदारी एल्गोरिदम की है। यही वह कार्य है जिसके लिए वे ज़िम्मेदार हैं।
आयु सत्यापन प्रक्रियाएं
ऑफकॉम द्वारा नाबालिगों के लिए संहिता को अपनाना और नई आयु सत्यापन प्रक्रियाओं को लागू करना, दोनों ही इस शोध के विषय हैं, जो इन दोनों पहलों को सक्रिय समर्थन प्रदान करता है। इसके अतिरिक्त, यह अध्ययन नाबालिगों के लिए संहिता के कार्यान्वयन में सहायता प्रदान करता है। बाल संहिता के अनुसार, सोशल मीडिया साइट्स बच्चों को ऐसी जानकारी से बचाने के लिए संशोधन करने के लिए बाध्य हैं जो उनके लिए संभावित रूप से हानिकारक हो सकती है।
जोन्स ने कहा कि सरकार द्वारा बाल संहिता को 2025 में 25 जुलाई के बाद लागू किया जाएगा। यह जानकारी जोन्स ने ही दी। इस क्षेत्र में होने वाले किसी भी बदलाव को देखना बेहद रोमांचक होगा, बशर्ते कि कोई बदलाव हो भी। अगर कोई बदलाव होता भी है, तो वह बेहद महत्वपूर्ण होगा। ज़्यादा सटीक तौर पर कहें तो, क्या प्लेटफ़ॉर्म सामग्री पर सफलतापूर्वक निगरानी रख रहे हैं और क्या वे बच्चों द्वारा पढ़ी जा रही संभावित रूप से खतरनाक जानकारी को रोकने के लिए विनाशकारी एल्गोरिदम का इस्तेमाल नहीं कर रहे हैं, यह विशेष रूप से चिंता का विषय होगा।
चित्रण
इसके अलावा, सर्वेक्षण से पता चलता है कि उत्तरदाताओं ने जिन अश्लील सामग्रियों के संपर्क में खुद को रखा, उनमें से अधिकांश ने ऐसे कृत्यों का संकेत दिया जो अश्लीलता से संबंधित पहले से मौजूद कानूनों के तहत निषिद्ध हैं। यह एक महत्वपूर्ण निष्कर्ष है। यह ध्यान रखना महत्वपूर्ण है कि सर्वेक्षण का तथ्य इस विशेष पहलू की ओर ध्यान आकर्षित करता है। इसका एक उदाहरण यह तथ्य हो सकता है कि सर्वेक्षण में भाग लेने वाले 58 प्रतिशत व्यक्तियों ने ऐसी अश्लील सामग्री देखी थी जिसमें 18 वर्ष से कम आयु के व्यक्ति का गला घोंटकर हत्या की गई थी।
इसके अलावा, सर्वेक्षण में भाग लेने वाले 44 प्रतिशत उत्तरदाताओं ने कहा कि उन्होंने अपने जीवन में कभी न कभी बलात्कार का चित्रण देखा है। शोध इस तथ्य की ओर ध्यान आकर्षित करता है कि इसका युवाओं के आपसी संबंधों पर हानिकारक प्रभाव पड़ता है, जिसका परिणाम उनकी यौनिकता के बारे में अपेक्षाओं और व्यक्ति के अपने शरीर के प्रति दृष्टिकोण पर पड़ता है।
बाल आयुक्त
कंप्यूटर वीकली को दिए एक साक्षात्कार में, बाल आयुक्त के एक प्रवक्ता ने कहा कि पोर्नोग्राफ़ी के बच्चों के व्यवहार पर पड़ने वाले हानिकारक प्रभाव और बच्चों के सामने आने वाली पोर्नोग्राफ़िक सामग्री की मात्रा के बीच एक गहरा संबंध है। यह निष्कर्ष केवल बच्चों द्वारा घटित घटनाओं की स्वयं की रिपोर्टिंग के आधार पर निकाला गया था।
उन्होंने जो जानकारी दी, उसके अनुसार, “बच्चों ने बाल आयुक्त को बताया कि उन्हें रिश्तों में हिंसा का सामना करना पड़ सकता है, या उन्हें यौन प्रकृति की अपनी पहली बातचीत में वैसा ही अनुभव होने की उम्मीद थी जैसा वे पोर्नोग्राफी में देखते हैं, क्योंकि अधिकांशतः उन्हें ऐसा ही देखने को मिलता है।”
यौन रूप से आक्रामक व्यवहार
मीडिया में महिलाओं को जिस तरह से चित्रित किया जाता है, उसके विपरीत, महिलाओं का चित्रण, जिन्हें पुरुषों की तुलना में यौन रूप से आक्रामक व्यवहार का शिकार ज़्यादा दिखाया जाता है, विशेष रूप से चिंता का विषय है। ऐसा इसलिए है क्योंकि महिलाओं को पुरुषों की तुलना में ज़्यादा आक्रामक दिखाया जाता है। सर्वेक्षण के निष्कर्षों के अनुसार, यह एक प्रमुख कारक है जो महिलाओं के प्रति हिंसक यौन प्रवृत्ति के विकास में योगदान देता है।
समिति ने पाया कि हिंसक पोर्नोग्राफ़ी देखने वाली युवतियों की अपनी सहमति की अवधारणाएँ विकृत हो गई थीं। यह एक बहुत ही महत्वपूर्ण निष्कर्ष था। आयोग द्वारा किए गए सर्वेक्षणों और शोध के आधार पर यह बात सामने आई। जाँच पूरी होने के बाद, आयोग के प्रवक्ता इस निष्कर्ष पर पहुँचे।
अध्ययन का संदर्भ
अध्ययन के निष्कर्षों के अनुसार, “अश्लील सामग्री देखने वाली लड़कियों के इस कथन से सहमत होने की संभावना काफ़ी ज़्यादा थी कि ‘ना’ कहने वाली लड़कियों को यौन संबंध बनाने के लिए राजी किया जा सकता है।” “यह अध्ययन के संदर्भ में कहा गया था।” हो सकता है कि वे पहले नकारात्मक प्रतिक्रिया दें; फिर भी, अब उन्हें उम्मीद है कि उन्हें अपना रुख बदलने के लिए मना लिया जाएगा। पिछले दस-पंद्रह वर्षों में यौनिकता और रिश्तों की शिक्षा के परिणामस्वरूप, अनुमति की अवधारणा हमारी शिक्षा प्रणाली में गहराई से समा गई है। दूसरी ओर, ऐसा प्रतीत होता है कि इस अवधारणा को अब कई बाधाओं का सामना करना पड़ रहा है।
इस तथ्य के बावजूद कि सोशल मीडिया प्लेटफॉर्म इन बच्चों की एक बड़ी संख्या के लिए संपर्क का पहला बिंदु है, बाल आयुक्त ने पुष्टि की कि एल्गोरिदम स्वाभाविक रूप से हानिकारक नहीं हैं; बल्कि, तथ्य यह है कि प्रौद्योगिकी कंपनियां बच्चों के लिए हानिकारक जानकारी को खत्म करने के लिए अपने सर्च इंजन को अनुकूलित नहीं कर रही हैं।
सूचान प्रौद्योगिकी
सूचना प्रौद्योगिकी व्यवसाय के एक प्रवक्ता ने कहा कि संगठन अपने युवा ग्राहकों की जनसांख्यिकी से अवगत है और इसे ध्यान में रख रहा है। वे उपयोगकर्ताओं की गतिविधियों की पहचान करने और उन पर नज़र रखने में सक्षम हैं, जो उनके पास है। वे ऐसा करने में सक्षम हैं। यदि आप उस एल्गोरिथम सामग्री को अपने से कम उम्र के उपयोगकर्ता को निर्देशित करने की प्रक्रिया में हैं, तो इस बात पर अधिक ज़ोर दिया जाना चाहिए कि आप इसे किसके लिए निर्देशित कर रहे हैं, और इस बारे में कम प्रश्न होने चाहिए कि आप इसे किसके लिए निर्देशित कर रहे हैं। या तो इसे उनकी स्ट्रीम तक पहुँचने से पहले ही ब्लॉक कर दिया जाना चाहिए, या लोगों को साइट से दूर रखने के लिए और अधिक कठोर उपाय करने होंगे, जो कि हमने अभी तक X जैसी साइटों के साथ नहीं देखा है। किसी भी तरह से, यह ज़रूरी है कि इन दोनों विकल्पों को लागू किया जाए। चाहे कुछ भी हो, इसे तुरंत रोका जाना चाहिए।
एक अध्ययन के परिणामस्वरूप दिए गए सुझावों में से एक के अनुसार, ऑनलाइन बेची जाने वाली पोर्नोग्राफ़ी को भी ऑफ़लाइन उपलब्ध पोर्नोग्राफ़ी के समान ही सामग्री मानकों का पालन करना होगा। इस कानून के कार्यान्वयन से यह सुनिश्चित होगा कि गैर-घातक गला घोंटने के चित्रण पर प्रतिबंध लगाया जाएगा।
रिश्ते, स्वास्थ्य और यौन शिक्षा (आरएचएसई)
इसके अलावा, यह मांग करता है कि सरकार ऐसे संभावित समाधानों पर शोध करे जिनका प्रभाव नाबालिगों को वर्चुअल प्राइवेट नेटवर्क (वीपीएन) का उपयोग करके ऑनलाइन सुरक्षा अधिनियम की आवश्यकताओं से बचने से रोकने में हो। यह अध्ययन सरकार द्वारा किया जाना आवश्यक होगा। इसके अतिरिक्त, स्कूलों द्वारा नए संबंध, स्वास्थ्य और यौन शिक्षा (आरएचएसई) पाठ्यक्रम को सफलतापूर्वक क्रियान्वित करने के लिए, उनके लिए अतिरिक्त आवश्यक संसाधन प्राप्त करना आवश्यक है। कुशल कर्मियों को आकर्षित करने के उद्देश्य से, इस पाठ्यक्रम में आरएचएसई से जुड़े क्षेत्रों में विशेषज्ञता रखने वाले शिक्षकों की भर्ती अभियान शामिल होना चाहिए। ऑनलाइन सुरक्षा अधिनियम की प्रभावशीलता को मापने के लिए एक मानक के रूप में कार्य करने के लिए, यह आवश्यक है कि यह लागू हो।
अध्ययन में कहा गया है कि यह सर्वेक्षण अगले वर्ष एक बार फिर किया जाएगा ताकि यह पता लगाया जा सके कि बच्चों की पहुँच वाले संसाधनों में कोई बड़ा बदलाव आया है या नहीं। यह इस बात का पता लगाने के लिए किया जाएगा कि कोई बदलाव आया है या नहीं। हालाँकि संचार नियामक संस्था, ऑफकॉम ने रिपोर्ट के निष्कर्षों पर सीधे तौर पर कोई प्रतिक्रिया नहीं दी है, फिर भी उसने पहले कहा है कि “तकनीकी कंपनियों को बच्चों को पोर्न, आत्म-क्षति, आत्महत्या और खाने के विकार से जुड़ी सामग्री तक पहुँचने से रोकने के लिए उम्र की जाँच शुरू करनी चाहिए।” इसके अलावा, उसने यह भी कहा है कि वह “ऐसी किसी भी व्यक्तिगत सेवा की जाँच शुरू करने की उम्मीद करता है” जो अनुपालन आवश्यकताओं को पूरा नहीं करती हैं।
सोशल मीडिया प्लेटफॉर्म
एक अतिरिक्त दिलचस्प बात यह है कि ऑफकॉम ने स्पष्ट कर दिया है कि वह “उन व्यक्तिगत सेवाओं की जाँच शुरू करने की उम्मीद करता है जो मानकों को पूरा नहीं करतीं”। रिपोर्टों के अनुसार, सोशल मीडिया प्लेटफ़ॉर्म द्वारा इस्तेमाल किए जाने वाले एल्गोरिदम हानिकारक और भ्रामक सामग्री के प्रसार के लिए ज़िम्मेदार रहे हैं। इसके प्रत्यक्ष परिणामस्वरूप, कई लोगों ने अपनी अपेक्षाएँ व्यक्त की हैं कि इन एल्गोरिदम पर और भी कड़े नियम लागू होंगे।
गलत सूचनाओं के प्रसार और विज्ञापन व जुड़ाव-आधारित व्यावसायिक मॉडलों को बढ़ावा देने वाले एल्गोरिदम के बीच एक संबंध पाया गया है ताकि पैसा कमाया जा सके। यह संबंध हाउस ऑफ कॉमन्स की विज्ञान, नवाचार और प्रौद्योगिकी समिति द्वारा पूर्व में स्थापित किया गया था। दूसरी ओर, उन्होंने अपने सिस्टम में ऐसे कोई प्रोटोकॉल शामिल नहीं किए जो संभावित रूप से नुकसान पहुँचाने वाली सामग्री को प्राथमिकता से हटा दें।
निष्कर्ष
मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस मॉडल, एल्गोरिदम के निर्माण के आधार के रूप में काम करते हैं, और एल्गोरिदम स्वयं भी; ये ही नींव का निर्माण करते हैं। इन एल्गोरिदम में पूर्वाग्रह होने का खतरा है, जिसके कारण वे भयावह और क्लिक उत्पन्न करने वाली सामग्री को अधिक महत्व देंगे। यह एल्गोरिदम के विकसित होते पूर्वाग्रहों का परिणाम होगा। अच्छे सामाजिक परिणामों को बढ़ावा देने और उपभोक्ताओं को खतरनाक सामग्री के संपर्क में आने से बचाने के लिए इस तकनीक का पुन: उपयोग बहुत कम अतिरिक्त कार्य के साथ किया जा सकता है। यह एक ऐसा काम है जो किया जा सकता है।