सीजी भास्कर, 19 अगस्त। आर्टिफिशियल इंटेलिजेंस का दायरा लगातार बढ़ रहा है। ईमेल लिखने, कोडिंग और जटिल सवालों के जवाब देने से लेकर रिसर्च तक में एआई का इस्तेमाल हो रहा है। हालांकि, एआई की बढ़ती क्षमताओं के साथ इसके गलत इस्तेमाल और सुरक्षा से जुड़े जोखिम भी गंभीर होते जा रहे हैं। एआई मॉडल विकसित करने वाली कंपनी एंथ्रोपिक ने अपनी रिस्क रिपोर्ट में जैविक और रासायनिक हथियारों, एआई रिसर्च, मॉडल के व्यवहार और साइबर सुरक्षा से जुड़े खतरों पर चिंता जताई है। (AI Safety Risks)
रिपोर्ट के मुताबिक, ज्यादा सक्षम एआई मॉडल कुछ परिस्थितियों में ऐसे लोगों की मदद कर सकते हैं, जिनके पास जैविक या रासायनिक हथियारों से जुड़ी पूरी विशेषज्ञता नहीं है। एआई की तकनीकी क्षमता ऐसे लोगों की सीमित जानकारी को बढ़ा सकती है, इसलिए कंपनी ने अपने मॉडलों में अतिरिक्त सुरक्षा उपायों की जरूरत पर जोर दिया है।
एआई से एआई रिसर्च में तेजी की चिंता : AI Safety Risks
एंथ्रोपिक के मुताबिक, उसके प्रोडक्शन सिस्टम में इस्तेमाल होने वाले कोड का बड़ा हिस्सा अब एआई की मदद से तैयार किया जा रहा है। इससे रिसर्च और डेवलपमेंट की गति बढ़ रही है। हालांकि, कंपनी को चिंता है कि भविष्य में अगर एआई खुद ज्यादा सक्षम एआई सिस्टम विकसित करने से जुड़ी रिसर्च को तेजी से आगे बढ़ाने लगे, तो तकनीकी विकास की रफ्तार इंसानों की निगरानी और नियंत्रण क्षमता से आगे निकल सकती है।
कंपनी का मानना है कि ऐसे हालात में एआई रिसर्च की दिशा और गति पर पर्याप्त मानवीय निगरानी बनाए रखना जरूरी होगा। इसके लिए सुरक्षा मानकों और परीक्षण व्यवस्था को भी लगातार मजबूत करने की जरूरत होगी।
यह भी पढ़ें : AI Edited E-Ticket Scam : एआई से बन रहे फर्जी ई-टिकट, एक ही सीट पर कई यात्रियों का दावा, रेलवे सतर्क
मॉडल के व्यवहार और साइबर सुरक्षा पर भी नजर
रिपोर्ट में एआई मॉडलों के व्यवहार से जुड़े जोखिमों का भी आकलन किया गया है। मौजूदा मॉडल सामान्य तौर पर इंसानों के खिलाफ काम करने जैसी प्रवृत्ति नहीं दिखाते, लेकिन कुछ परीक्षणों में ऐसी परिस्थितियां सामने आईं, जहां मॉडल किसी लक्ष्य को हासिल करने के लिए तय नियमों से हटने या गलत तरीका अपनाने की कोशिश करते दिखाई दिए।
साइबर सुरक्षा भी बड़ी चुनौती बनकर सामने आई है। एआई (AI Safety Risks) मॉडल जितने अधिक सक्षम हो रहे हैं, उन्हें सुरक्षित रखने की जरूरत भी उतनी ही बढ़ रही है। कंपनी के अनुसार, बेहद सक्षम एआई सिस्टम साइबर हमलावरों के लिए आकर्षक लक्ष्य बन सकते हैं। ऐसे में मॉडल की सुरक्षा, डेटा की गोपनीयता और संवेदनशील तकनीक तक अनधिकृत पहुंच रोकना महत्वपूर्ण होगा।
एंथ्रोपिक ने इन जोखिमों से निपटने के लिए सुरक्षा व्यवस्था में अधिक निवेश, बेहतर सुरक्षा तकनीक और लगातार निगरानी की जरूरत बताई है।
यह भी पढ़ें : Grok AI Controversy : Elon Musk के एआई पर फिर उठे गंभीर सवाल, 11 दिनों में लाखों आपत्तिजनक इमेज का दावा
