सामाजिक सञ्जाल, विशेषगरी टिकटकमा लामो समयसम्म स्क्रोल गर्दा यौन उत्तेजक र अनुपयुक्त सामग्री सिर्जना गर्ने एआई भिडिओ एपका विज्ञापनहरू व्यापक रूपमा देखिन थालेका छन्। यी एपहरूले महिला र किशोरीहरूलाई ‘डिपफेक’ (Deepfake) मार्फत आपत्तिजनक रूपमा प्रस्तुत गर्दै सामाजिक विकृति बढाउन मद्दत पुर्याएको भन्दै चिन्ता व्यक्त गरिएको छ।
Boom.AI, VideoAI, DreamVid जस्ता दर्जनौँ एआई भिडिओ एपहरू बजारमा उपलब्ध छन्। यी एपले प्रयोगकर्तालाई एक वा दुई तस्बिर अपलोड गरेकै भरमा कपालको रङ्ग परिवर्तन गर्ने, कुनै चिन्ह समात्ने वा काल्पनिक पात्रसँग जोड्ने जस्ता विभिन्न भिडिओ टेम्प्लेटहरू प्रदान गर्छन्।
अत्यन्तै अनुपयुक्त र अप्ठ्यारा विकल्पहरू
यी एपहरूमा अत्यन्तै अनुपयुक्त र अप्ठ्यारा विकल्पहरू पनि छन्। उदाहरणका लागि, DreamVid एपमा ‘Enhance’ विकल्प मार्फत कसैको ठूलो स्तन देखाउन सकिन्छ। सोही एपको ‘AI Dancing’ फिचरमा छोटा लुगा लगाएका महिलाहरूले आकर्षक ढङ्गले हिप हल्लाइरहेको देखिन्छ। ‘आउटफिट’ विकल्पहरूमा १२ मध्ये ६ वटा कुनै न कुनै प्रकारका बिकिनी वा स्विमसुट हुन्छन्। बाँकीमा एकदमै थोरै वस्त्र, अर्ध वस्त्र, स्कुल गर्ल युनिफर्म जस्ता लुगाहरू छन्। अचम्मको कुरा, यी मध्ये कुनै पनि पुरुषहरूको लागि लक्षित छैनन्, जसले महिलालाई वस्तुकरण गरिएको स्पष्ट देखाउँछ।
विज्ञापन र वास्तविकतामा भिन्नता, जातीय पूर्वाग्रह
विज्ञापनमा देखाइने भिडिओहरू असहज लाग्ने गरेरै यथार्थपरक जस्ता देखिए पनि एप आफैंले प्रयोग गर्दा एआईका कमीकमजोरी स्पष्ट देखिन्छन्। चुम्बनहरू अप्ठ्यारा लाग्छन् र अँगालो हाल्ने दृश्यहरू कसिला देखिन्छन्, हात र खुट्टाको स्थान पनि अनौठो हुन्छ। कपडा, कपाल, सामान र अनुहारका विशेषताहरू भिडिओको बीचमा हराउने वा परिवर्तन हुने गर्छन्। यसबाहेक, एआई प्रणालीहरूमा लामो समयदेखि जातीय पूर्वाग्रहको समस्या रहेको छ र फरक जातिका विषयहरूलाई जोड्दा यी एपहरू प्रायः अलमलिने गर्छन्।
उच्च शुल्क र कम्पनीहरूको अपारदर्शिता
सामान्यतया यस्ता एपहरू निःशुल्क प्रयोग गर्न सकिँदैन। अधिकांशले साप्ताहिक २.९९ देखि ७.९९ डलर वा वार्षिक ४९.९९ देखि ६९.९९ डलरसम्मको सब्सक्रिप्सन शुल्क लिन्छन्, जसले भिडिओ बनाउन सीमित क्रेडिट पनि प्रदान गर्छन्।
यस्ता एप बनाउने कम्पनीहरूबारे त्यति धेरै जानकारी उपलब्ध छैन। उदाहरणका लागि, Videa: AI Video Maker इस्तानबुल, टर्कीको प्योर याज्लिम लिमिटेड सर्केटीबाट सञ्चालित छ। Boom.AI लाई नाइनजी नामक कम्पनीले चलाउँछ, जसले आफूलाई ‘नन-गेमिङ एप पब्लिसर’ भएको बताउँछ। DreamVid को सञ्चालन शेन्जेन आईमाईफोन टेक्नोलोजी को. लिमिटेडले गर्छ।
नियमनकारी निकाय र सामाजिक असर
यी एपहरू ओपनएआईको सोरा (Sora) वा गुगलको भियो (Veo) जस्ता ठूला भिडिओ जेनेरेटरहरूको तुलनामा निकै सरल र बढी अनुमति दिने खालका छन्। सोरा र भियो जस्ता प्लेटफर्महरूमा कन्टेन्ट पोलिसी कडा छन् र यौन उत्तेजक, असहमतिपूर्ण कार्यहरू वा हानिकारक रूढीवादलाई बढावा दिने प्रम्प्टहरू अस्वीकार गर्छन्। तर यी एपहरूमा भने तपाईंले केवल केही तस्बिरहरू अपलोड गरेकै भरमा चाहेको कुरा प्रदान गर्छन्।
डिपफेकमार्फत नग्नता सिर्जना गर्ने यस्ता एपहरूले महिला र किशोरीहरूमाथि उत्पीडनका लागि मद्दत पुर्याइरहेका छन्। तर, गुगल प्ले स्टोर, एप्पलको एप स्टोर, र मेटा (फेसबुक/इन्स्टाग्राम) जस्ता प्रमुख प्रविधि कम्पनीहरूले यस्ता एपहरूलाई हटाउन ढिलाइ गरिरहेका छन्। यद्यपि उनीहरूले यौन सन्तुष्टि, आपत्तिजनक सामग्री वा नग्नता विरुद्ध स्पष्ट नियमहरू भएको बताएका छन्, यी एपहरू र तिनका विज्ञापन एउटा हटेपछि अर्को तुरुन्तै देखा पर्ने गरेका छन्।
यस्ता डिपफेक एपहरूले सिर्जना गरिरहेका सामग्रीले पछिल्लो समय सामाजिक विकृति बढाइरहेका छन्। सामान्य प्रयोगकर्ताले मनोरञ्जन वा प्रयोगका लागि प्रयोग गरेजस्तो देखिए पनि यी एपमार्फत महिलाको शरीरलाई वस्तुजस्तो प्रस्तुत गरिनु, यौनिक सन्दर्भमा प्रयोग गरिनु र कृत्रिम रूपमा उत्तेजक दृश्य बनाइनुले समाजमा गलत सोच र दृष्टिकोण बढाउने खतरा छ। विशेषगरी किशोर-किशोरीहरू यस्ता सामग्रीप्रति आकर्षित हुँदा उनीहरूमा यौनिकताप्रति विकृत धारणा बस्ने सम्भावना रहन्छ। यसले महिलाप्रतिको सम्मान घटाउने मात्र नभई डिजिटल उत्पीडन र साइबर अपराधको जोखिम पनि बढाउने विश्लेषण गरिएको छ। यस्ता प्रविधिले सिर्जना गर्ने दृश्यहरू यथार्थजस्तो देखिए पनि वास्तविकता नहुँदा झूटको सहारा लिएर चरित्रहत्या वा बदनाम गर्नेसम्मका घटना हुनसक्ने देखिन्छ।
