यह शोधपत्र डीपफेक तकनीकों के प्रभाव का विश्लेषण करता है, जो जनरेटिव एआई में प्रगति के कारण अधिक सुलभ हो गई हैं। वॉइस क्लोनिंग, फेस-स्वैपिंग और सिंथेटिक मीडिया जेनरेशन टूल्स में प्रगति के कारण प्रवेश की वित्तीय और तकनीकी बाधाएँ कम होने के साथ-साथ, धोखाधड़ी, दुष्प्रचार और डिजिटल मीडिया के छल के लिए डीपफेक तकनीकों के इस्तेमाल के जोखिम बढ़ गए हैं। रनवे, रोप और इलेवनलैब्स जैसे किफ़ायती और उपयोग में आसान टूल्स का उपयोग करके, हम यह प्रदर्शित करते हैं कि सीमित संसाधनों के साथ कैसे वास्तविक डीपफेक बनाए जा सकते हैं, और व्यक्तियों और संगठनों, दोनों के लिए जोखिमों पर प्रकाश डालते हैं। हम डीपफेक शमन और पहचान की तकनीकी और नैतिक चुनौतियों का विश्लेषण करते हैं, और डिजिटल मीडिया में विश्वास बनाए रखने के लिए नियामक ढाँचों, जन जागरूकता और सहयोगात्मक प्रयासों की तात्कालिकता पर प्रकाश डालते हैं।
