प्लेटफॉर्म X ने घोषणा की है कि वह Grok के जरिए असली लोगों की आपत्तिजनक तस्वीरें बनाने और संपादित करने पर प्रतिबंध लगाएगा। यह कदम उन हफ्तों की प्रतिक्रिया में आया है जब प्लेटफॉर्म पर यौन संबंधी डिपफेक्स तेजी से फैल रही थीं।
X के अनुसार, अब से वास्तविक लोगों की बिकिनी जैसे उजागर कपड़ों वाली तस्वीरों को Grok द्वारा संपादित नहीं किया जाएगा। कंपनी ने तकनीकी उपाय लागू किए हैं और ऐसे क्षेत्रों में जहां इस तरह की सामग्री अवैध है, वहां भौगोलिक ब्लॉकिंग पर कार्य कर रही है। इसका मतलब है कि X यूरोप में नग्न तस्वीरों के लिए Grok के उपयोग को अवरुद्ध कर सकता है, लेकिन अन्य जगहों पर इसे जारी रख सकता है।
यूरोपीय नेताओ ने तीव्र प्रतिक्रिया दी। आयोग अध्यक्ष उर्सुला वॉन дер लेयेन ने महिलाओं और बच्चों को डिजिटल रूप से नग्न करने को “अकल्पनीय व्यवहार” कहा और बिना सहमति के बनाए गए डिपफेक्स से वास्तविक नुकसान होने की बात कही।
यूरोपीय आयोग ने X को निर्देश दिया है कि Grok से संबंधित सभी दस्तावेज़ और डेटा सुरक्षित रखें। यह यौन संदूषण वाली डिपफेक्स को रोकने के लिए निगरानी के तहत किया जा रहा है। इससे ब्रुसेल्स मस्क के खिलाफ कार्रवाई कर सकता है।
यूरोपीय नियामक इस बात पर ज़ोर देते हैं कि घोषित कदम अंतिम नहीं हैं। वे देखेंगे कि क्या यह उपाय सचमुच नागरिकों की रक्षा करते हैं और तब तक अपने DSA जांच को खुले रखेंगे जब तक इसकी प्रभावशीलता सुनिश्चित नहीं हो जाती।
राष्ट्रीय नियामक भी स्थिति पर नजर रखते हैं। यूनाइटेड किंगडम में ऑफकॉम ने इस कदम का स्वागत किया लेकिन कहा कि संभावित उल्लंघनों पर औपचारिक जांच जारी है। इंडोनेशिया भी इस विरोध में कदम उठा रहा है।
X ने कहा है कि उसने Grok के साथ छवि निर्माण को और सीमित कर दिया है, जिसमें कई फीचर भुगतान वाले सब्सक्रिप्शन से जोड़े गए हैं। इसका मतलब है कि मुफ्त X उपयोगकर्ताओं के लिए इसे पूरी दुनिया में बंद किया जा सकता है, लेकिन भुगतान करने वाले ग्राहक नकली नग्न तस्वीरें बनाने के लिए Grok का उपयोग जारी रख सकते हैं। नियामक बताते हैं कि आंशिक प्रतिबंध अपने आप समीक्षा समाप्त नहीं करता।
यूरोपीय DSA अधिकारियों के अनुसार यह स्पष्ट नहीं है कि नए नियम पर्याप्त हैं या नहीं। वे जहां जरूरी हो कार्रवाई करना जारी रखेंगे और यदि प्रतिबंध असफल हुए तो अतिरिक्त कदम उठाने का संकेत देते हैं। यह मुद्दा अगले सप्ताह यूरोपीय संसद के एजेंडा पर भी है। अमेरिकी राष्ट्रपति ट्रम्प इंटरनेट उपयोग के लिए यूरोपीय DSA नियमों को सेंसरशिप का रूप मानते हैं।