कैसे Sora AI भविष्य में बहुत सी परेशानियां पैदा कर सकता है?

5 Min Read

कैसे Sora AI भविष्य में बहुत सी परेशानियां पैदा कर सकता है?

Sora AI एक text-to-video generative AI model है, जो की OpenAI द्वारा February 2024 में रिलीज़ हुआ है। यह Text के ज़रिए, बिल्कुल असली लगने वाली वीडियो जनरेट करती है। इसकी सैंपल में दिखाई की वीडियो को देख कर यह कह पाना बिल्कुल मुश्किल है, की यह सब असली इंसान या जानवर नहीं, सब AI से बनाया गया है।

बढ़ती हुई टेक्नोलॉजी हमें अचंभा जरूर करती है, पर साथ में यह सोचने को भी मजबूर करते देती है कि आखिर इसकी सीमा किधर है। कैसे कहा जाए की इतनी टेक्नोलोजी सही है, और हमारे लिए हानिकारक नहीं। और इसमें कोई शक नहीं है कि Sora फिल्म मेकिंग की काया जरूर पलटेगा, पर यह बहुत सारी मुसीबतें भी जरूर लाने वाला हैं।

नुकसानदेह कंटेंट का जेनरेशन

Sora के पास यह काबिलियत है, की वह ऐसी वीडियो बना सकता है जिसमे, हिंसा, खून-खराबा, 18+, किसी समूहों को अपमानजनक रूप से दिखाना, और अवैध गतिविधियों का प्रचार जैसी चीजें हों।

ऐसे कंटेंट व्यूअर्स के लिए तो नुकसानदेह है ही, बच्चों के लिए भी नुकसानदेह है। यह बल्कि नफरत फैला कर देंगे करने का भी दम रखती है। इसके अलावा सोरा से बनाई वीडियो से किसी के मान को भी हानि पहुंचाई जा सकती हैं।

मिसइंफॉर्मेशन और डिसइंफॉर्मेशन

Sora से ऐसी वीडियो बनाना भी आसान है जो की गलत या मिसलीडिंग हो। जिसे अनजाने में या कभी तो जान बूझ कर भी बनाया जा सकता है। जैसे Sora कुछ हिस्टोरिकल इवेंट की वीडियो में बदलाव कर सकता है, न्यूज स्टोरी को बदल सकता है, नेताओं की स्पीच को बदल सकता है, या किसी मशहूर इंसान की कॉपी भी कर सकता है।

ऐसी कोई भी वीडियो आसानी से मिसइनफॉर्मेशन और डिसइनफॉर्मेशन फैला सकती है। और ऐसा हुआ तो नफरत फैलाना और आसान हो जायेगा, फिर एक समय के बाद लोग किसी भी खबर पर यकीन करने से डरेंगे।

पक्षपात और पूर्वधारणा

किसी और की तरह भी Sora भी बायस होने और स्टीरियोटाइप से मुक्त नहीं है। जैसा कि यह एक पहले से मौजूद वीडियो के बड़े डेटाबेस से ही ट्रेन होता है, जिस से यह क्रिएटर या सोसायटी की पूर्वाधारणा बना लेता है।

हो सकता है, Sora कोई ऐसी वीडियो बना दे जिसमें कोई रैसिस्ट स्टीरियोटाइप हो, जैसे इंडियन कैरेक्टर बनाने शायद कॉल सेंटर में टीका लगाया एक काला इंसान बना दिया जाए। ऐसे सैंपल भेदभाव और असमानता को बढ़ावा देते है। Sora के अंदर, शायद इंसानों की डायवर्सिटी दिखाने को क्षमता ना हों, जो की लोगो के एक्सपीरिएंस, पहचान और हावभाव से बनते है।

सही और गलत के नीचे का फ़र्क

Sora से ऐसी वीडियो बनाई का सकती है, जो सच्चाई और यू ही बनाए गए चीजों के साथ इंसानों और मशीन के बीच की रेखा को धुंधली करतीं हो। हम ये ही भूल जायेंगे की असली वीडियो फील कैसी होती थी।

इसका टकराव अलग अलग संस्कृति, धर्म, और समूह के मानदंडों के साथ हो जायेगा, जिस से सिर्फ लड़ाई झगडे ही होंगे। जो शायद किसी भी अर्थव्यवस्था को गिराने के लिए आसान है।

आखिर में Sora जैसी नई तकनीक वाकई काबिलिए तारीफ है, जो की सिर्फ लिख कर एक पूरी वीडियो बना सकती है। पर फिर भी इसकी बनाई गई क्वॉलिटी इतनी ज्यादा अच्छी है, की असली और नकली वीडियो में फर्क कर पाना बेहद मुश्किल है। जिस से यह गलत हाथों में पड़ने पर भविष्य में बहुत सारी दिक्कतें ला सकती है।

यह नुकसानदेह, झूठी, किसी को बदनाम करने वाली और दंगे करवाने वाली वीडियो बना सकती है। इसीलिए यह बहुत ज़रूरी है की समय से Sora को कानून के दायरे में लाया जाए। लोगों को इससे होने वाले खतरों के प्रति आगाह किया जाए। क्योंकि Sora एक अच्छे हाथों में बेहद कमाल के काम कर सकती है, लेकिन बुरे हाथों में सब बर्बाद भी।


Smartphones में Peak Brightness का असल सच

Smartphones में Peak Brightness का असल सच

आखिरकार E-commerce के Dark Patterns पर कानून कसेगा नकेल

आखिरकार E-commerce के Dark Patterns पर कानून कसेगा नकेल

Share this Article
Leave a comment