OpenAI से जुड़ा एक ऐसा मामला सामने आया है, जिसने AI एजेंट्स की सुरक्षा और यूजर्स की प्राइवेसी को लेकर नई चिंता पैदा कर दी है।रिपोर्ट के मुताबिक, OpenAI के AI एजेंट्स ने ChatGPT यूजर्स की 53 तस्वीरें ऐसी जगहों पर पहुंचा दीं, जहां उन्हें नहीं पहुंचना चाहिए था। हालांकि कंपनी ने कहा कि इनमें से ज्यादातर तस्वीरें अब हटा दी गई हैं। बाकी तस्वीरों को हटाने के लिए संबंधित होस्टिंग कंपनियों से संपर्क किया जा रहा है।लेकिन कहानी सिर्फ 53 तस्वीरों तक सीमित नहीं हैं।
आखिर क्या है मामला
AI एजेंट सामान्य चैटबॉट से आगे की तकनीक हैं।ये सिर्फ सवालों का जवाब नहीं देते, बल्कि उन्हें कुछ काम करने के लिए इंटरनेट और दूसरे डिजिटल टूल्स तक पहुंच भी दी जा सकती है।समस्या तब पैदा होती है, जब कोई एजेंट अपने तय दायरे से बाहर जाकर ऐसा काम कर दे, जिसकी उम्मीद उसके डेवलपर्स ने नहीं की थी। रिपोर्ट्स में बतया हुआ है की OpenAI की अब जाँच शुरू हो गई हैं जिनमे सितम्बर के मध्य तक 2 दर्जन ऐसे मामलों की पहचान अब तक हो चुकी है। वाही OpenAI का कहना है कि इन सभी घटनाओं की जांच पूरी करने में कई महीने लग सकते हैं।
53 तस्वीरों ने बढ़ाई चिंता?
इस दौरान 53 तस्वीरों का मामला इसलिए महत्वपूर्ण है क्योंकि यह सीधे यूजर प्राइवेसी से जुड़ा है।OpenAI अपने AI मॉडल्स की ट्रेनिंग के लिए कुछ यूजर डेटा का इस्तेमाल करता है। कंपनी का कहना है कि ट्रेनिंग से पहले डेटा को anonymise किया जाता है।इस प्रक्रिया में नाम, संपर्क से जुड़ी जानकारी और कुछ metadata जैसी पहचान से जुड़ी जानकारियों को हटाने की कोशिश की जाती हैं ।
अभी तक OpenAI ने यह स्पष्ट नहीं किया है कि लीक हुई तस्वीरें AI-generated थीं या उनमें वास्तविक लोग मौजूद थे।कंपनी ने यह भी नहीं बताया कि ये तस्वीरें मूल रूप से कब पोस्ट की गई थीं।
जांच में सिर्फ तस्वीरें ही नहीं मिलीं
ऐसे में अब OpenAI ने कहा है कि उसके AI मॉडल्स ने रिसर्च और ट्रेनिंग के दौरान कुछ सरकारी वेबसाइटों से भी जानकारी हासिल की हैं।इनमें अमेरिकी Securities and Exchange Commission और US Census Bureau की वेबसाइटें शामिल थीं। हालांकि, जांच में इन मामलों में किसी अनधिकृत अकाउंट एक्सेस, अकाउंट से छेड़छाड़ या सुरक्षा सेंध का सबूत नहीं मिला।यानी वेबसाइट से जानकारी हासिल करना और किसी सिस्टम को हैक करना—इन दोनों को एक ही चीज नहीं माना जा सकता।
Transluce ने लगाए आरोप
AI रिसर्च संस्था Transluce ने एक और गंभीर दावा किया।उसके मुताबिक, OpenAI से जुड़े एजेंट्स ने अमेरिकी शिक्षा विभाग की नागरिक अधिकार वेबसाइट को हैक करने की कोशिश की।हालांकि, यह कोशिश सफल नहीं हुई।Transluce के अनुसार, जांच के दौरान एजेंट्स से जुड़ी गतिविधियों में उजागर हो चुके credentials का इस्तेमाल, anti-bot सुरक्षा को पार करने की कोशिश और फर्जी अकाउंट जैसे तरीके सामने आए।
कहानी की शुरुआत हुई Hugging Face मामले से
इस पूरी जांच की एक अहम कड़ी जुलाई में सामने आई घटना से जुड़ी है।21 जुलाई को OpenAI ने बताया था कि उसके AI एजेंट्स अपने निर्धारित टेस्टिंग एनवायर्नमेंट से बाहर निकल गए थे साथ ही AI प्लेटफॉर्म Hugging Face पर ऐसी गतिविधियां कीं, जिनकी अनुमति उन्हें नहीं थी।इसके बाद OpenAI ने अपने एजेंट्स की पुरानी गतिविधियों के लॉग की जांच शुरू की।और यहीं से एक बड़ा सवाल सामने आया—क्या यह सिर्फ एक isolated incident था, या AI एजेंट्स पहले भी इसी तरह का व्यवहार कर चुके थे?
महीनों में 15 से ज्यादा मामले
बताते चलें कि Hugging Face की घटना के बाद करीब दो महीनों में OpenAI से जुड़े AI एजेंट्स के 15 से ज्यादा अलग-अलग मामले सार्वजनिक हो चुके हैं।इनकी गंभीरता एक जैसी नहीं थी।कुछ मामलों में एजेंट्स ने इंटरनेट पर spam जैसे संदेश पोस्ट किए।
ये भी पढ़े: दशाश्वमेध से निकाला एक टन से अधिक कचरा
ऑस्ट्रेलिया में भी सामने आया मामला
ऐसे में अब इसको लेकर ऑस्ट्रेलिया के प्रधानमंत्री Anthony Albanese ने संयुक्त राष्ट्र में कहा था कि जून में OpenAI के एजेंट्स ने एक सरकारी स्वास्थ्य डेटा पोर्टल में प्रवेश किया था। इसके बाद उन्होंने इस घटना के बारे में OpenAI की ओर से दी गई जानकारी के तरीके पर भी सवाल उठाए।
क्या यह सिर्फ OpenAI की समस्या है?
यहां एक और महत्वपूर्ण बात है। AI एजेंट्स के अनचाहे व्यवहार की समस्या सिर्फ OpenAI तक सीमित नहीं है।Hugging Face घटना के बाद Anthropic, Google और Meta ने भी अपने एजेंट्स से जुड़ी गतिविधियों की समीक्षा की और कुछ मामलों की जानकारी सार्वजनिक की। इससे पता चलता है कि AI एजेंट्स के साथ चुनौती केवल मॉडल को ज्यादा intelligent बनाने की नहीं है।चुनौती यह भी है कि—उसे किस तरह की permissions दी जाएं?
वह किन वेबसाइटों तक पहुंच सके?
किस डेटा को देख सके?
कौन-से काम करने की अनुमति हो?
AI एजेंट्स का उद्देश्य इंसानों के कई डिजिटल कामों को आसान बनाना है।लेकिन जैसे-जैसे इन एजेंट्स को ज्यादा autonomy, ज्यादा tools और ज्यादा internet access मिलता है, वैसे-वैसे उनके संभावित प्रभाव का दायरा भी बढ़ता है। 53 तस्वीरों का मामला इसी बड़ी बहस का एक हिस्सा है। एक तरफ AI कंपनियां ऐसे सिस्टम बना रही हैं जो इंसानों की तरफ से ज्यादा जटिल काम कर सकें।दूसरी तरफ, इन सिस्टम्स के अप्रत्याशित व्यवहार, privacy और security risks को नियंत्रित करना भी उतना ही जरूरी होता जा रहा हैं।
