जब इस AI मॉडल से प्रधानमंत्री नरेंद्र मोदी के नाम पर दस्तावेज़ बनाने को कहा गया, तो पहले तो मॉडल ने मना कर दिया और सुरक्षा उपायों का हवाला दिया. लेकिन जब प्रॉम्प्ट को थोड़ा सा बदला गया, तो AI ने खुद के वार्निंग सिस्टम को दरकिनार कर एक असली सा दिखने वाला वोटर आईडी कार्ड बना दिया.
अब तक साइबर अपराधियों के लिए सरकार की ओर से जारी पहचान और नागरिकता दस्तावेज़ों की जालसाजी करना एक मुश्किल काम था. लेकिन अब, OpenAI के ChatGPT ने इस काम को बेहद आसान बना दिया है. OpenAI के लेटेस्ट AI मॉडल GPT-40 जिसने हाल ही में इंटरनेट पर स्टूडियो Ghibli स्टाइल की तस्वीरों से तहलका मचाया. अब असली जैसे आधार कार्ड, पैन कार्ड, पासपोर्ट और यहां तक कि वोटर आईडी कार्ड भी बना रहा है.
आसानी से बनाए फेक आईकार्ड
हालांकि यह AI मॉडल किसी असली व्यक्ति की जानकारी देने पर दस्तावेज़ नहीं बनाता, लेकिन यह कुछ प्रसिद्ध हस्तियों के फर्जी दस्तावेज़ ज़रूर बना देता है. इससे यह डर बढ़ गया है कि इसका इस्तेमाल साइबर क्राइम को बढ़ावा देने में हो सकता है.
GPT-40 से एक फर्जी आधार कार्ड बनाने को कहा, जो परिणाम सामने आए, वे चौंकाने वाले थे. एक ऐसा दस्तावेज़ जो इतना असली लगता था कि कोई एक्सपर्ट ही उसमें मामूली गड़बड़ी पहचान सकता था.
मामला सिर्फ आधार कार्ड तक नहीं रुका. यह मॉडल पूरी फेक आईकार्ड की सीरीज बना सकता है, जिसमें पैन कार्ड, पासपोर्ट और वोटर आईडी जैसे दस्तावेज़ एक जैसे फ़ॉर्मेट और डिटेल में आपस में मेल खाते थे. इसका मतलब है कि कोई भी व्यक्ति इस AI का इस्तेमाल कर बिल्कुल असली दिखने वाली नकली पहचान बना सकता है.
जब इस मॉडल से प्रधानमंत्री नरेंद्र मोदी के नाम पर दस्तावेज़ बनाने को कहा गया, तो पहले तो मॉडल ने मना कर दिया और सुरक्षा उपायों का हवाला दिया. लेकिन जब प्रॉम्प्ट को थोड़ा सा बदला गया, तो AI ने खुद की वार्निंग प्रणाली को दरकिनार कर एक असली सा दिखने वाला वोटर आईडी कार्ड बना दिया, जिसमें नाम और फोटो भी साथ था.
GPT-40 नकली पेमेंट रिसिप्ट भी बना सकता है. 100 रुपये के एक Paytm ट्रांजेक्शन को मोबाइल स्क्रीन पर दिखाने वाले प्रॉम्प्ट ने एक ऐसी तस्वीर दी जो असली और नकली के बीच फर्क कर पाना लगभग नामुमकिन कर देती है. एक अन्य मामले में, X (पूर्व ट्विटर) पर एक यूज़र @godofprompt ने दिखाया कि यह AI कैसे एक फर्जी लेकिन असली जैसी दिखने वाली स्टैनफोर्ड यूनिवर्सिटी की बैचलर डिग्री बना सकता है, जो वास्तव में कभी अस्तित्व में नहीं थी.
दस्तावेज़ों की जालसाजी लंबे समय से ठगों का हथियार रही है, जिससे वे लोगों का भरोसा जीतकर उन्हें ठगते हैं. लेकिन जनरेटिव AI आने के बाद इसकी पहुंच कई गुना बढ़ गई है. अब नकली दस्तावेज़ बनाना पहले से कहीं ज़्यादा तेज़ और आसान हो गया है. सोशल मीडिया पर कुछ यूज़र्स ने यह सवाल भी उठाया है कि OpenAI को आधार और पैन कार्ड जैसे असली दस्तावेज़ों तक पहुंच कैसे मिली, जिनका इस्तेमाल GPT-40 को ट्रेंड करने में किया गया हो सकता है.
गलत इस्तेमाल से बचाव के लिए OpenAI का कहना है कि उसने GPT-40 से बनी तस्वीरों में C2PA मेटाडेटा जोड़ा है, जिससे पता लगाना आसान होगा कि कोई फोटो AI ने बनाई गई है या नहीं.