AI डीपफेक का खतरा: YouTube और X पर अश्लील टूल्स को बढ़ावा देने का आरोप
ISD की नई स्टडी में बड़ा खुलासा: YouTube और X जैसे प्लेटफॉर्म्स यूजर्स को AI अश्लील टूल्स वाली वेबसाइट्स पर भेज रहे हैं। लाखों यूजर्स का डेटा खतरे में।
YouTube और X (ट्विटर) पर इस बात का आरोप है कि ये दोनों ही प्लेटफॉर्म्स लाखों यूज़र्स को AI पावर्ड अश्लील टूल्स ऑफर करने वाली वेबसाइट्स पर भेज रहे हैं. इंस्टिट्यूट फॉर स्ट्रेटेजिक डायलॉग (ISD) की एक नई स्टडी से पता चलता है कि इन प्लेटफॉर्म्स ने 4 महीने की अवधि में लाखों यूज़र्स को ऐसी सर्विसेज वाले प्लेटफॉर्म पर भेजा है जहां कोई भी अश्लील तस्वीरें बना सकता है. स्टडी से सामने आए ये नतीजे वाकई चौंकाने वाले हैं और इन नतीजों के सामने आने से अब इस बात पर चिंता बढ़ रही है कि सोशल मीडिया प्लेटफॉर्म्स यूजर्स को डीपफेक टूल खोजने में कैसे मदद कर रहे हैं, जबकि प्लेटफॉर्म्स की पॉलिसीज़ उन्हें ऐसा करने से रोकती हैं.
स्टडी से सामने आई ये बात
ISD की पब्लिश हुई स्टडी में डीपफेक बनाने वाले 10 सबसे ज्यादा इस्तेमाल होने वाले ऐप्स और वेबसाइट्स की जांच की गई और एनालाइज किया गया कि यूज़र्स उन्हें कैसे ढूंढ रहे थे. पाया गया कि सोशल मीडिया प्लेटफॉर्म्स ने दिसंबर 2025 और मार्च 2026 के बीच अश्लील कंटेंट (तस्वीर) बनाने वाली वेबसाइट्स पर 5.7 मिलियन से ज्यादा विज़िट किए. YouTube के जरिए भी 1.82 मिलियन विज़िट हुए, जो सभी रेफरल्स का 30 परसेंट से ज्यादा है, जबकि X दूसरा सबसे बड़ा सोर्स था, जिसने 1.3 मिलियन से ज्यादा विज़िट किए.
रिपोर्ट के मुताबिक, अनड्रेस ऐप जैसे शब्द सर्च करने वाले यूज़र्स को इन टूल्स को रिव्यू करने और प्रमोट करने वाले वीडियो दिखाए गए. कुछ वीडियो में ऐप्स के लिंक और फ्री क्रेडिट देने वाले प्रोमो कोड भी थे, जिससे सर्विसेज़ को एक्सेस करना आसान हो गया.
पॉलिसी का उल्लंघन कर रहे प्लेटफॉर्म्स
शोधकर्ताओं का कहना है कि इन नतीजों से तो साफ है कि कंपनी अश्लील कंटेंट पर प्रतिबंध लगाने वाली खुद की बनाई नीतियों (पॉलिसी) का उल्लंघन कर रही है. उनका तर्क है कि नियम उन वेबसाइटों और टूल पर भी लागू होने चाहिए जो इस तरह की अश्लील तस्वीरें जेनरेट करते हैं.