टीएनपी डेस्क (TNP DESK): आर्टिफिशियल इंटेलिजेंस (AI) अब सिर्फ पढ़ाई, जानकारी जुटाने या सवालों के जवाब देने तक सीमित नहीं रह गया है. बड़ी संख्या में किशोर भी अपनी भावनाएं साझा करने, सलाह लेने और निजी समस्याओं पर बातचीत के लिए AI चैटबॉट्स का इस्तेमाल कर रहे हैं. ऐसे में युवाओं की ऑनलाइन सुरक्षा को लेकर बढ़ती चिंताओं के बीच Meta ने Teen Safety को और मजबूत बनाने के उद्देश्य से एक अहम फीचर पेश किया है. अब यदि कोई किशोर Meta AI से आत्महत्या, खुद को नुकसान पहुंचाने या गंभीर मानसिक संकट से जुड़ी बातें करता है, तो तय प्रक्रिया के बाद उसके माता-पिता को इसकी सूचना भेजी जा सकती है. कंपनी का कहना है कि इस पहल का उद्देश्य संकट की स्थिति में परिवार को समय रहते सतर्क करना और जरूरत पड़ने पर बच्चे तक मदद पहुंचाना है.
कैसे काम करेगा नया सुरक्षा सिस्टम?
Meta के अनुसार, यदि किसी किशोर की बातचीत में आत्महत्या, आत्म-क्षति या मानसिक संकट से जुड़े संकेत मिलते हैं, तो सबसे पहले Meta AI उस चैट को स्वतः पहचानकर फ्लैग करेगा. इसके बाद केवल AI के आधार पर फैसला नहीं लिया जाएगा, बल्कि Meta की विशेष टीम उस बातचीत की मैनुअल समीक्षा करेगी. यदि समीक्षा के दौरान वास्तविक जोखिम की संभावना दिखाई देती है, तभी संबंधित अभिभावक को अलर्ट भेजा जाएगा. कंपनी का कहना है कि इस प्रक्रिया का उद्देश्य अनावश्यक अलर्ट भेजना नहीं, बल्कि गंभीर मामलों में समय रहते परिवार को जानकारी देना है.
किन प्लेटफॉर्म्स पर मिलेगा यह फीचर?
यह नया सुरक्षा फीचर फिलहाल उन माता-पिता के लिए उपलब्ध होगा, जिन्होंने Instagram Supervision फीचर को सक्रिय किया हुआ है. इसके अलावा Meta AI का उपयोग जहां-जहां किया जा रहा है, वहां भी यह सुरक्षा व्यवस्था लागू होगी. इनमें Instagram, WhatsApp, Facebook Messenger और स्टैंडअलोन Meta AI ऐप शामिल हैं. माता-पिता को केवल ऐप नोटिफिकेशन ही नहीं, बल्कि जरूरत पड़ने पर ईमेल, SMS या WhatsApp के माध्यम से भी सूचना भेजी जा सकती है. साथ ही विशेषज्ञों द्वारा तैयार किए गए सुझाव भी उपलब्ध कराए जाएंगे, ताकि वे अपने बच्चे से सही तरीके से बातचीत कर सकें और आवश्यक सहायता दे सकें. Meta ने इस फीचर को अभी शुरुआती चरण में अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में लॉन्च किया है. कंपनी ने बताया है कि वर्ष के अंत तक इसे अन्य देशों में भी चरणबद्ध तरीके से उपलब्ध कराया जाएगा.
अब तक यदि कोई किशोर Meta AI से आत्महत्या या खुद को नुकसान पहुंचाने जैसी बातें करता था, तो AI केवल उसे मानसिक स्वास्थ्य सहायता सेवाओं (Crisis Helpline) की जानकारी देता था और किसी भरोसेमंद व्यक्ति से बात करने की सलाह देता था. नई व्यवस्था में एक बड़ा बदलाव यह है कि गंभीर जोखिम की स्थिति में अभिभावकों को भी सूचना दी जा सकेगी. Meta का कहना है कि सिस्टम "Safety First" सिद्धांत पर काम करेगा. यानी यदि किसी बातचीत में जोखिम का हल्का संकेत भी मिलता है, तो उसकी समीक्षा की जा सकती है. कंपनी भविष्य में ऐसे मामलों में आपातकालीन सेवाओं से संपर्क करने जैसे अतिरिक्त सुरक्षा विकल्पों पर भी काम कर रही है.
इसके साथ ही Meta ने अपने Teen Users के लिए Limited Content Setting को भी पहले से अधिक मजबूत बनाया है. अब Meta AI संवेदनशील, अनुचित या जोखिमपूर्ण सवालों की पहचान अधिक प्रभावी तरीके से करेगा और कई मामलों में ऐसे अनुरोधों का जवाब देने से इनकार कर देगा. कंपनी के अनुसार, Meta AI पहले से ही किशोरों के साथ रोमांटिक, यौन संबंधी या शराब जैसे विषयों पर बातचीत नहीं करता. नए फिल्टर लागू होने के बाद ऐसे मामलों में सुरक्षा का स्तर और अधिक मजबूत हो जाएगा. Meta का मानना है कि इन बदलावों से AI का उपयोग करने वाले किशोरों के लिए एक अधिक सुरक्षित डिजिटल वातावरण तैयार किया जा सकेगा.