xAI Grok deepfake lawsuit ने आर्टिफिशियल इंटेलिजेंस की सीमाओं, डिजिटल प्लेटफॉर्म की जिम्मेदारी और महिलाओं की ऑनलाइन सुरक्षा को लेकर एक नई बहस छेड़ दी है। इलॉन मस्क की AI कंपनी xAI और उसके चैटबॉट ग्रोक (Grok) के खिलाफ दायर यह मामला न केवल टेक इंडस्ट्री बल्कि वैश्विक कानूनी जगत में भी हलचल पैदा कर रहा है। इस केस की केंद्र में हैं 27 वर्षीय राइटर और पॉलिटिकल स्ट्रैटेजिस्ट Ashley St Clair , जिन्होंने आरोप लगाया है कि ग्रोक की मदद से उनकी आपत्तिजनक डीपफेक तस्वीरें बनाई गईं, जिससे उन्हें मानसिक आघात और सामाजिक बदनामी झेलनी पड़ी।

🔴 न्यूयॉर्क की अदालत में दर्ज हुआ हाई-प्रोफाइल मुकदमा

गुरुवार को एश्ले सेंट क्लेयर ने न्यूयॉर्क सिटी की स्टेट सुप्रीम कोर्ट में यह मुकदमा दायर किया। उनका दावा है कि ग्रोक चैटबॉट ने यूजर्स को उनकी पुरानी तस्वीरों में हेरफेर कर अश्लील और अपमानजनक डीपफेक इमेज बनाने की अनुमति दी।
सेंट क्लेयर के अनुसार, उनकी 14 साल की उम्र की एक पुरानी फोटो को डिजिटल रूप से बदला गया और उसमें उन्हें बिकिनी पहने दिखाया गया। इसके अलावा कुछ अन्य इमेज में उन्हें एक एडल्ट महिला के रूप में आपत्तिजनक यौन पोज़ में दर्शाया गया।

यह मामला केवल व्यक्तिगत छवि को नुकसान पहुंचाने का नहीं, बल्कि डिजिटल स्पेस में महिलाओं की गरिमा और सुरक्षा के अधिकार का भी प्रतीक बन गया है।

🔴 धार्मिक अपमान और मानसिक पीड़ा का आरोप

एश्ले सेंट क्लेयर ने अदालत में यह भी कहा कि कुछ डीपफेक तस्वीरों में उन्हें स्वस्तिक छपी बिकिनी पहने दिखाया गया, जिसे उन्होंने विशेष रूप से डराने वाला और अपमानजनक बताया। चूंकि वे यहूदी समुदाय से ताल्लुक रखती हैं, इसलिए उन्होंने इस हरकत को धार्मिक भावनाओं को ठेस पहुंचाने वाला बताया।

उनका कहना है कि इन तस्वीरों के सामने आने के बाद उन्हें मानसिक तनाव, सामाजिक बदनामी और भावनात्मक अस्थिरता का सामना करना पड़ा। उन्होंने कोर्ट से मांग की है कि xAI को तत्काल ऐसे किसी भी टूल या प्रक्रिया को रोकने का आदेश दिया जाए, जिससे उनके या किसी और के डीपफेक बनाए जा सकें।

🔴 xAI का पलटवार: कोर्ट और अधिकार क्षेत्र पर विवाद

इस xAI Grok deepfake lawsuit में कंपनी ने भी जवाबी कदम उठाया है। xAI का दावा है कि एश्ले सेंट क्लेयर ने यूजर एग्रीमेंट का उल्लंघन किया है। कंपनी का कहना है कि उसके नियमों के मुताबिक, उसके खिलाफ कोई भी कानूनी कार्रवाई केवल टेक्सास के फेडरल कोर्ट में ही की जा सकती है।

इसी आधार पर गुरुवार को ही xAI ने इस केस को न्यूयॉर्क स्टेट कोर्ट से हटाकर मैनहट्टन के फेडरल कोर्ट में ट्रांसफर करा लिया। इतना ही नहीं, उसी दिन टेक्सास के फेडरल कोर्ट में एश्ले सेंट क्लेयर के खिलाफ काउंटर केस भी दायर कर दिया गया, जिसमें कंपनी ने हर्जाने की मांग की है।

🔴 X और xAI पर गंभीर आरोपों की झड़ी

सेंट क्लेयर का कहना है कि जब उन्हें पहली बार अपनी डीपफेक तस्वीरों के बारे में पता चला, तो उन्होंने पिछले साल ही X प्लेटफॉर्म से शिकायत की थी। उन्होंने तस्वीरें हटाने और भविष्य में ऐसी किसी भी एडिटिंग को रोकने की मांग की थी।

शुरुआती जवाब में प्लेटफॉर्म ने कथित तौर पर कहा कि ये तस्वीरें उसकी पॉलिसी का उल्लंघन नहीं करतीं। बाद में X ने भरोसा दिलाया कि उनकी सहमति के बिना उनकी तस्वीरों का इस्तेमाल या एडिटिंग नहीं की जाएगी।

हालांकि, सेंट क्लेयर का आरोप है कि इसके बाद उनके साथ जवाबी कार्रवाई की गई। उनके मुताबिक—

उनका प्रीमियम X सब्सक्रिप्शन और वेरिफिकेशन चेकमार्क हटा दिया गया।
उनके अकाउंट की मॉनेटाइजेशन सुविधा बंद कर दी गई, जबकि उनके करीब 10 लाख फॉलोअर्स हैं।
दूसरी ओर, उनकी अपमानजनक नकली तस्वीरें प्लेटफॉर्म पर बनी रहीं।

🔴 कौन हैं एश्ले सेंट क्लेयर?

एश्ले सेंट क्लेयर एक जानी-मानी राइटर और पॉलिटिकल स्ट्रैटेजिस्ट हैं और न्यूयॉर्क सिटी में रहती हैं। वे इलॉन मस्क के 16 महीने के बेटे रोमुलस की मां भी हैं। इस हाई-प्रोफाइल पहचान के कारण उनका मामला और अधिक चर्चा में आ गया है।

अपने कानूनी दावे में उन्होंने भावनात्मक नुकसान, मानसिक पीड़ा और अन्य कानूनी आधारों पर बिना तय की गई हर्जाने की रकम की मांग की है। साथ ही उन्होंने कोर्ट से यह भी आग्रह किया है कि xAI को तुरंत आदेश दिया जाए कि वह उनके नाम या तस्वीरों से जुड़े किसी भी डीपफेक टूल के इस्तेमाल पर रोक लगाए।

🔴 ग्रोक और डीपफेक: तकनीक या खतरा?

ग्रोक को इलॉन मस्क की कंपनी xAI ने एक उन्नत AI चैटबॉट के रूप में पेश किया था, जिसका उद्देश्य यूजर्स को अधिक खुला और “रियल टाइम” जानकारी का अनुभव देना है। लेकिन इसी खुलेपन को लेकर आलोचक कहते हैं कि कुछ यूजर्स इसका दुरुपयोग कर महिलाओं की आपत्तिजनक तस्वीरें और अश्लील कंटेंट बना रहे हैं।

डिजिटल अधिकार विशेषज्ञों का मानना है कि डीपफेक तकनीक का गलत इस्तेमाल किसी की पहचान, गरिमा और मानसिक स्वास्थ्य पर गंभीर असर डाल सकता है। खासकर जब यह नाबालिगों या सार्वजनिक हस्तियों से जुड़ा हो, तो इसका प्रभाव कई गुना बढ़ जाता है।

🔴 15 जनवरी का ऐलान: ग्रोक पर लगी आंशिक रोक

15 जनवरी को X ने घोषणा की थी कि अब ग्रोक असली लोगों की तस्वीरों को कपड़े कम करके दिखाने या एडिट करने का काम उन क्षेत्रों में नहीं करेगा, जहां यह गैर-कानूनी है। इमेज जनरेशन और एडिटिंग की सुविधा को केवल पेड अकाउंट्स तक सीमित करने का फैसला लिया गया, ताकि जवाबदेही तय की जा सके।

कंपनी ने यह भी कहा कि उसकी नीति में बच्चों के यौन शोषण, बिना सहमति की न्यूडिटी और अनचाहे सेक्सुअल कंटेंट के लिए जीरो टॉलरेंस है। ऐसे किसी भी कंटेंट को तुरंत हटाया जाएगा और बच्चों से जुड़े मामलों में संबंधित अकाउंट्स की जानकारी कानून लागू करने वाली एजेंसियों को दी जाएगी।

🔴 वैश्विक बहस: AI की आज़ादी बनाम डिजिटल सुरक्षा

यह xAI Grok deepfake lawsuit केवल एक व्यक्ति और एक कंपनी के बीच का कानूनी संघर्ष नहीं रह गया है। यह मामला अब इस बड़े सवाल में बदल चुका है कि AI को कितनी आज़ादी दी जानी चाहिए और डिजिटल प्लेटफॉर्म की जिम्मेदारी कहां तक बनती है।

कुछ विशेषज्ञ मानते हैं कि सख्त नियम और निगरानी के बिना AI टूल्स समाज में नई तरह की डिजिटल हिंसा को जन्म दे सकते हैं। वहीं, टेक इंडस्ट्री का एक वर्ग कहता है कि अत्यधिक नियंत्रण से नवाचार और अभिव्यक्ति की स्वतंत्रता पर असर पड़ सकता है।

🔴 आगे क्या? कोर्ट की नजरें और दुनिया की निगाहें

अब यह मामला फेडरल कोर्ट में पहुंच चुका है, जहां यह तय होगा कि अधिकार क्षेत्र, यूजर एग्रीमेंट और डिजिटल प्लेटफॉर्म की जिम्मेदारी को कैसे परिभाषित किया जाए। कोर्ट के फैसले का असर केवल xAI और X पर ही नहीं, बल्कि दुनिया भर की AI कंपनियों और सोशल मीडिया प्लेटफॉर्म की नीतियों पर भी पड़ सकता है।

xAI Grok deepfake lawsuit ने तकनीक की चमक-दमक के पीछे छिपे उन खतरों को उजागर किया है, जिनसे आम लोग और खासकर महिलाएं जूझ रही हैं। एश्ले सेंट क्लेयर का यह कानूनी कदम आने वाले समय में AI के इस्तेमाल, डिजिटल अधिकारों और प्लेटफॉर्म की जवाबदेही को लेकर एक नई दिशा तय कर सकता है, जहां नवाचार और सुरक्षा के बीच संतुलन की परीक्षा होगी।