कनाडा के थिंक टैंक सेंटर फॉर द स्टडी ऑफ डेमोक्रेटिक इंस्टीट्यूशंस (CSDI) ने एक रिपोर्ट पब्लिश की है। रिपोर्ट का नाम 'Harmful Hallucinations: Generative AI and Election' है। इसे क्रिस टेनोव, निष्ठा गुप्ता, नेथीना मैथ्यूज ने लिखा है। इसमें इलेक्शन और दूसरी डेमोक्रेटिक प्रोसेस पर जनरल AI के खतरे और अवसरों के बारे में भी बताया है।
साल 2024 में विश्व के 68 देशों में डेमोक्रिटेक इलेक्शन होने हैं। इसमें भारत में चुनाव हो चुके हैं। अमेरिका में साल के अंत तक नया राष्ट्रपति तय हो जाएगा।
इन चुनावों में जेनरेटिव AI का बहुत यूज किया जा रहा है। गलत जानकारी शेयर की जा रही है। इससे चुनावों को प्रभावित किया जा रहा है। इसलिए साल 2024 को 'डीफकेफ इलेक्शन' का नाम भी दिया गया है, क्योंकि बीते महीनों में डीपफेक का चुनाव पर काफी असर पड़ा है।
CSDI के असिस्टेंट डायरेक्टर क्रिस टेनोव ने मुताबिक, जेनरेटिव AI टेक्निक भ्रामक सामग्री (फेक न्यूज) के प्रोडक्शन की लागत को कम करती हैं। ऐसा करने में इससे लोकतंत्र के लिए मौजूदा खतरे और बढ़ जाते हैं। रिपोर्ट में जेनरेटिव AI से बने खतरों को 3 प्राइमरी एरिया में बांटा है।
ये जेनरेटिव AI की चुनावों की अखंडता को नुकसान पहुंचाने की क्षमता का सबसे खतरनाक पहलू है। हमने देखा है कि जेनरेटिव AI पूरी तरह से सच लगने वाला डीपफेक बनाने में सक्षम है। इससे वोटर्स को गुमराह जा सकता है।
इस साल की शुरुआत में न्यू हैम्पशायर में जो बाइडेन का एक डीपफेक वायरल हुआ था। रोबोकॉल के जरिए फैले डीपफेक में राष्ट्रपति ने लोगों से प्राइमरी में भाग लेने के बजाय आम चुनावों के लिए अपने वोट बचाने के लिए कहा था। रिपोर्ट के आधार पर मतदाताओं की संख्या को कम करने के लिए इस तरह की रणनीति अपनाई गई थी।
भारत में आम चुनावों से पहले बॉलीवुड अभिनेताओं के प्रधानमंत्री मोदी की आलोचना करने वाले कई वीडियो सामने आए थे। इनमें ये कलाकार मोदी का विरोध और मोदी विरोधियों का सपोर्ट करने का बोलते नजर आए थे। ये सभी वीडियो डीपफेक थे।
रिपोर्ट में कहा गया है कि जेनरेटिव AI से हैरेसमेंट को बढ़ावा मिला है। नेथीना मैथ्यूज के मुताबिक, ब्रिटेन के चुनावों से पहले एक फर्जी पोर्नोग्राफी वेबसाइट पर विभिन्न राजनीतिक दलों की महिलाओं की 400 से ज्यादा छेड़छाड़ की गई तस्वीरें दिखाई गईं।
मैथ्यूज के मुताबिक, भारत में ऐसी रिपोर्ट्स हैं कि AI स्पेशलिस्ट या AI कंटेंट जनरेशन कंपनियों को राजनेताओं की डीपफेक या सुपरइम्पोज़्ड इमेज बनाने के लिए कई रिक्वेस्ट मिली हैं। AI की ऐसे हालात से उसकी नैतिक बाउंड्री को लेकर सीरियस टेंशन पैदा की हैं। इस तरह का हैरेसमेंट भविष्य में इमोशनल और साइकोलॉजिकल असर कर सकते हैं।
जेनरेटिव AI का सबसे बड़ा पहलू मिसलीडिंग और गलत तथ्य वाली खबरों को फैलाने का है। इलेक्शन संबंधित जानकारी देने के लिए तैयार किए गए AI चैटबॉट गलत जानकारी देते पाए गए हैं। 2024 के यूरोपीय यूनियन के इलेक्शन में माइक्रोसॉफ्ट के को-पायलट ने एक तिहाई बार गलत चुनाव डेटा दिया।