कृत्रिम बुद्धिमत्ता और संबंधित प्रौद्योगिकियों से उत्पन्न होने वाले संभावित नुकसान को रोकने के लिए लागू कानूनी सुरक्षा उपाय

भारत की कृत्रिम बुद्धिमत्ता रणनीति माननीय प्रधानमंत्री के प्रौद्योगिकी के लोकतंत्रीकरण के विजन पर आधारित है। इसका उद्देश्य भारत-केंद्रित चुनौतियों को संबोधित करना, अवसरों का सृजन करना तथा अंततः नागरिकों के जीवन को बेहतर बनाना है। साथ ही, सरकार एआई और संबंधित प्रौद्योगिकियों से उत्पन्न संभावित नुकसान के प्रति सजग सचेत है। बच्चों को होने वाले नुकसान से बचाने के लिए निम्नलिखित कानूनी सुरक्षा उपाय लागू हैं:

1. सूचना प्रौद्योगिकी (आईटी) अधिनियम, 2000

सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी नियमों के तहत मध्यस्थ (जैसे सोशल मीडिया प्लेटफॉर्म) को बच्चों के लिए हानिकारक सामग्री, जिसमें यौन रूप से स्पष्ट सामग्री या हिंसा को बढ़ावा देने वाली सामग्री शामिल है, को होस्ट करने या साझा करने से रोकना अनिवार्य है।

सरकार या न्यायालय के आदेश की सूचना मिलने के 3 घंटे के भीतर (बिना सहमति के यौन/अंतरंग सामग्री के लिए 2 घंटे के भीतर) प्लेटफार्मों को गैरकानूनी सामग्री को हटाना अनिवार्य होगा।

साथ ही, उन्हें भारतीय नागरिक सुरक्षा संहिता, 2023 या यौन अपराधों से बच्चों का संरक्षण अधिनियम, 2012 (पीओसीएसओ) जैसे कानूनों के तहत संबंधित अपराधों के बारे में अधिकारियों को रिपोर्ट करना अनिवार्य है।

2. बच्चों के डेटा का संरक्षण (डीपीडीपी अधिनियम, 2023)

डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 और नियम, 2025 में कृत्रिम बुद्धिमत्ता से चलने वाले खिलौनों सहित प्रौद्योगिकियों के माध्यम से एकत्रित व्यक्तिगत डेटा को शामिल किया गया है।

यह अधिनियम बच्चों के व्यक्तिगत डेटा को संसाधित करने के लिए विशेष सुरक्षा उपाय प्रदान करता है, जिसके तहत किसी भी बच्चे के व्यक्तिगत डेटा को संसाधित करने से पहले माता-पिता या विधिक अभिभावक की सत्यापन योग्य सहमति अनिवार्य है।

नियमों में पहचान एवं आयु सत्यापन वर्चुअल टोकन जैसे तंत्रों के माध्यम से सत्यापन योग्य अभिभावकीय सहमति प्राप्त करने की व्यवस्था की गई है।

इस अधिनियम और इसके अंतर्गत बनाए गए नियमों के तहत बच्चों की गतिविधियों पर नज़र रखना, उनके व्यवहार की निगरानी करना या उन्हें लक्षित करके विज्ञापन देना प्रतिबंधित है।

3.सीईआरटी-आईएन नियमित रूप से अपनी आधिकारिक वेबसाइटों और सोशल मीडिया हैंडल पर सुरक्षा, बचाव संबंधी सुझाव और जागरूकता पोस्टर, इन्फोग्राफिक्स और वीडियो साझा करता है, ताकि इंटरनेट उपयोगकर्ताओं को बच्चों के लिए ऑनलाइन सुरक्षा उपायों के बारे में जागरूक किया जा सके।

4. सूचना प्रौद्योगिकी (उचित सुरक्षा प्रथाएं और प्रक्रियाएं तथा संवेदनशील व्यक्तिगत डेटा या सूचना) नियम, 2011, (एसपीडीआई नियम) ।

इन नियमों के अनुसार संगठनों को व्यक्तिगत डेटा केवल निर्दिष्ट उद्देश्यों के लिए ही एकत्र करना होगा, इसे साझा करने से पहले सहमति प्राप्त करनी होगी और गोपनीयता नीतियां प्रकाशित करनी होंगी। संवेदनशील व्यक्तिगत डेटा को प्रकाशित नहीं किया जाना चाहिए और न ही इसे किसी तीसरे पक्ष द्वारा आगे साझा किया जाना चाहिए।

5. इंडिया एआई गवरनेंस संबंधी दिशा-निर्देश

ये दिशानिर्देश मानव-केंद्रित और उत्तरदायी एआई के विकास को बढ़ावा देते हैं। ये इस बात को स्वीकार करते हैं कि बच्चे एक संवेदनशील समूह हैं, जिन्हें कृत्रिम बुद्धिमत्ता प्रणालियों से जोखिम और दीर्घकालिक नुकसान का सामना करना पड़ सकता है।

इन दिशा-निर्देशों में एआई से संबंधित नुकसानों के जोखिम मूल्यांकन ढांचे और निगरानी की सिफारिश की गई है, ताकि नीति निर्माताओं को एआई प्रणालियों से उत्पन्न वास्तविक जोखिमों को बेहतर ढंग से समझने और उचित गवरनेंस संबंधी प्रतिक्रियाएं तैयार करने में मदद मिल सके।

6. खिलौनों की सुरक्षा और हानिकारक सामग्री के लिए विनियामक ढांचा

भारत में खिलौनों को खिलौना गुणवत्ता नियंत्रण आदेश और बीआईएस मानकों का पालन करना अनिवार्य है, जबकि बच्चों से संबंधित हानिकारक या अश्लील सामग्री को आईटी अधिनियम, आईटी नियमों और पीओसीएसओ अधिनियम के तहत विनियमित किया जाता है।

7. सूचना सुरक्षा शिक्षा एवं जागरूकता (आईएसईए)

सूचना सुरक्षा में मानव संसाधन तैयार करने और साइबर स्वच्छता और साइबर सुरक्षा के विभिन्न पहलुओं पर सामान्य जागरूकता पैदा करने के लिए कार्यक्रम आयोजित किए गए हैं। अब तक देशभर में 4,309 जागरूकता कार्यशालाएँ आयोजित की गई हैं, जिनमें स्कूल/कॉलेज के छात्रों, शिक्षकों, कानून प्रवर्तन अधिकारियों, सरकारी कर्मचारियों और आम जनता सहित 9.63 लाख से अधिक प्रतिभागियों ने भाग लिया है। इनमें से 1,186 जागरूकता कार्यशालाएँ स्कूली बच्चों और छात्रों के लिए आयोजित की गईं, जिनमें 3.38 लाख प्रतिभागियों ने भाग लिया। 1.13 लाख स्कूली शिक्षकों, पुलिस कर्मियों और स्वयंसेवकों को 66 कार्यक्रमों में मास्टर ट्रेनर के रूप में प्रशिक्षित किया गया है और अप्रत्यक्ष माध्यम से लगभग 15 करोड़ अनुमानित लाभार्थियों तक पहुंच बनाई गई।

8. राष्ट्रीय बाल अधिकार संरक्षण आयोग (एनसीपीसीआर) द्वारा किया गया अध्ययन:

एनसीपीसीआर ने 2021 में 'बच्चों द्वारा मोबाइल फोन और इंटरनेट सुविधा वाले अन्य उपकरणों के उपयोग के प्रभावों (शारीरिक, व्यवहारिक और मनो-सामाजिक)' पर एक अध्ययन किया। अध्ययन रिपोर्ट https://ncpcr.gov.in/uploads/165650458362bc410794e02_effect1.PDF पर उपलब्ध है।

इसके अतिरिक्त, एनसीपीसीआर ने साइबर सुरक्षा और बच्चों के संरक्षण पर निम्नलिखित दिशा-निर्देश तैयार किए हैं:

• बच्चों, अभिभावकों, शिक्षकों और आम जनता के बीच जागरूकता बढ़ाने के लिए "ऑनलाइन सुरक्षित रहें" शीर्षक से दिशानिर्देश और मानक सामग्री लिंक https://ncpcr.gov.in/public/uploads/16613370496305fdd946c31_being-safe-online.pdf पर उपलब्ध है।
• विद्यालय में बच्चों की सुरक्षा एवं संरक्षा संबंधी नियमावली में शामिल करने के लिए साइबर सुरक्षा संबंधी दिशा-निर्देश निम्नलिखित लिंक पर उपलब्ध हैं:

https://ncpcr.gov.in/uploads/16613369326305fd6444e1b_cyber-safety-guidline.pdf

• स्कूलों में बुलिंग और साइबर बुलिंग की रोकथाम के लिए दिशा-निर्देश निम्‍नलिखित लिंक पर उपलब्ध हैं:

https://ncpcr.gov.in/uploads/1714382687662f675fe278a_preventing-bullyingandcyberbullying-guidelines-for-schools-2024.pdf

राष्ट्रीय शैक्षिक अनुसंधान एवं प्रशिक्षण परिषद ने कोविड-19 के समय में सुरक्षित ऑनलाइन शिक्षा पर एक पुस्तिका भी जारी की है।

यह पुस्तिका लिंक https://ncert.nic.in/pdf/announcement/Safetolearn_English.pdf पर उपलब्ध है।

9. साइबर अपराधों के प्रति राष्ट्रीय प्रतिक्रिया को मजबूत करने के लिए अतिरिक्त उपाय:

इस प्रकार के साइबर अपराधों से समन्वित तरीके से निपटने के तंत्र को और मजबूत करने के लिए सरकार ने कई अन्य उपाय भी किए हैं, जिनमें निम्नलिखित शामिल हैं:

• गृह मंत्रालय (एमएचए) राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल (www.cybercrime.gov.in) का संचालन करता है, ताकि नागरिक सभी साइबर अपराधों की रिपोर्ट कर सकें, विशेष रूप से बच्चों के खिलाफ अपराधों पर ध्यान केंद्रित करते हुए।
• भारतीय साइबर अपराध समन्वय केंद्र (I4C) की स्थापना साइबर अपराधों, जिनमें बाल यौन शोषण भी शामिल है, के खिलाफ समन्वित और व्यापक कार्रवाई सुनिश्चित करने के लिए की गई है।
• महिलाओं और बच्चों के खिलाफ साइबर अपराध रोकथाम योजना के तहत राज्यों/केंद्र शासित प्रदेशों को क्षमता निर्माण के लिए वित्तीय सहायता प्रदान की जाती है, जिसमें साइबर फोरेंसिक प्रयोगशालाओं का निर्माण और पुलिस, अभियोजकों और न्यायिक अधिकारियों का प्रशिक्षण शामिल है।
• सरकार समय-समय पर इंटरपोल से प्राप्त सूचनाओं के आधार पर, जो केंद्रीय जांच ब्यूरो (सीबीआई) के माध्यम से भेजी जाती हैं, बाल यौन शोषण सामग्री (सीएसएएम) वाली वेबसाइटों को ब्लॉक करती है।
• इंटरनेट सेवा प्रदाताओं को निर्देश दिया गया है कि वे इंटरनेट वॉच फाउंडेशन (यूके) और प्रोजेक्ट अराक्निड (कनाडा) जैसे वैश्विक डेटाबेस का उपयोग करके सीएसएएम वेबसाइटों को गतिशील रूप से अवरूद्ध करने का निर्देश दिया गया है।
• इंटरनेट सेवा प्रदाताओं को पैरेंटल कंट्रोल फिल्टर को बढ़ावा देने और अंतरराष्ट्रीय गेटवे के माध्‍यम से पहचाने गए सीएसएएम वेबसाइटों को अवरुद्ध करने के निर्देश दिए गए।
• साइबर सुरक्षा के प्रति जन जागरूकता को @CyberDost जैसी पहलों, रेडियो अभियानों और छात्रों एवं किशोरों के लिए पुस्तिकाओं के प्रकाशन के माध्यम से बढ़ावा दिया जाता है।

राष्ट्रीय अपराध रिकॉर्ड ब्‍यूरो (गृह मंत्रालय) और अमेरिका के राष्ट्रीय लापता एवं शोषित बाल केंद्र (एनसीएमईसी) के बीच एक समझौता ज्ञापन (एमओयू) भी किया गया है, जिसके तहत ऑनलाइन बाल यौन शोषण से संबंधित सूचनाएं साझा की जाती है, जिन्हें त्वरित कार्रवाई के लिए राष्ट्रीय पोर्टल के माध्यम से राज्यों/केंद्र शासित प्रदेशों को भेजी जाती है।

केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्री श्री अश्विनी वैष्णव ने यह जानकारी आज लोकसभा में दी।

***

पीके/केसी/आईएम/एम