बच्चों की ऑनलाइन सुरक्षा को और मजबूत बनाने के लिए Meta ने एक नया AI सेफ्टी फीचर लॉन्च किया है। इस फीचर के तहत यदि कोई किशोर (Teenager) Meta AI चैटबॉट से बातचीत के दौरान आत्महत्या (Suicide) या खुद को नुकसान पहुंचाने (Self-harm) जैसी गंभीर बातें करता है, तो उसके माता-पिता को तुरंत अलर्ट भेजा जाएगा।
कंपनी के मुताबिक, यह सुविधा फिलहाल अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में Instagram के Parental Supervision Tool का इस्तेमाल करने वाले परिवारों के लिए शुरू की गई है। Meta का लक्ष्य इस साल के अंत तक इसे दुनिया के अन्य देशों में भी उपलब्ध कराना है।
हर अलर्ट से पहले होगी इंसानी जांच, सिर्फ AI के भरोसे नहीं होगा फैसला
Meta ने बताया कि एक विशेष AI सिस्टम ऐसी चैट की पहचान करेगा, जिनमें आत्महत्या या खुद को नुकसान पहुंचाने का स्पष्ट उल्लेख होगा। हालांकि, केवल AI के आधार पर माता-पिता को अलर्ट नहीं भेजा जाएगा। कंपनी हर संदिग्ध चैट का पहले मैन्युअल रिव्यू करेगी, ताकि गलत अलर्ट की संभावना कम रहे।
Meta ने अपने ब्लॉग पोस्ट में कहा कि ऐसे अलर्ट माता-पिता के लिए चिंता का कारण बन सकते हैं, इसलिए कंपनी सटीकता सुनिश्चित करने के बाद ही नोटिफिकेशन भेजेगी।
अब पेरेंट्स देख सकेंगे बच्चे ने AI से किन विषयों पर की बातचीत
नई सुविधा के तहत माता-पिता यह भी जान सकेंगे कि उनके बच्चे ने पिछले सात दिनों में Meta AI के साथ किन विषयों पर बातचीत की है। इससे अभिभावकों को अपने बच्चों की डिजिटल गतिविधियों और मानसिक स्थिति को बेहतर ढंग से समझने में मदद मिलेगी।
विशेषज्ञों का मानना है कि ऐसे समय में, जब AI चैटबॉट्स का इस्तेमाल तेजी से बढ़ रहा है और मानसिक स्वास्थ्य से जुड़े मामलों को लेकर AI कंपनियां जांच के दायरे में हैं, Meta का यह कदम बच्चों की ऑनलाइन सुरक्षा को मजबूत करने की दिशा में एक महत्वपूर्ण पहल माना जा रहा है।
