टेक्नोलॉजी के ज़रिए सुविधा या साजिश? AI के दुरुपयोग पर सुप्रीम कोर्ट में सुनवाई, जानें क्या है पूरा मामला

Supreme Court Hearing On AI Misuse:आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के साथ ही इसके दुरुपयोग की घटनाएं भी सामने आ रही हैं, जैसे फोटो को बदलना, डीपफेक और फेक कन्टेंट का निर्माण। अगर आप भी AI टूल्स का इस्तेमाल ऐसे कामों के लिए करते हैं, तो सतर्क हो जाएं, क्योंकि सुप्रीम कोर्ट में एक जनहित याचिका (PIL) चल रही है, जो न्यायपालिका में जेनरेटिव AI (GenAI) के इस्तेमाल को रेगुलेट करने की मांग कर रही है। कोर्ट ने खुद AI के दुरुपयोग को स्वीकार किया है, जिसमें जजों की फोटो को बदलना शामिल हैं। यह मामला न केवल न्यायिक प्रक्रियाओं को प्रभावित कर रहा है, बल्कि आम लोगों के लिए भी एक चेतावनी है कि AI से गलत कंटेंट बनाने पर कानूनी कार्रवाई हो सकती है।

न्यायपालिका में GenAI के रिस्क पर फोकस

बता दें, यह PIL वकील कार्तिकेय रावल द्वारा दायर की गई है, जो केंद्र सरकार से मांग करती है कि भारतीय न्यायपालिका और अर्ध-न्यायिक संस्थाओं में GenAI के इस्तेमाल के लिए गाइडलाइंस या पॉलिसी बनाई जाए। GenAI नई डेटा या कंटेंट जेनरेट कर सकता है, लेकिन इसका दुरुपयोग कर न्यायिक प्रक्रियाओं में अस्पष्टता पैदा कर सकता है।

GenAI को एक बड़ा खतरा बताया गया है, क्योंकि यह पूर्वाग्रहों (बायस) को बढ़ावा दे सकता है, खासकर अगर ट्रेनिंग डेटा में भेदभाव वाली जानकारी हो। याचिका में GenAI के जरिए रियलिस्टिक इमेज, कंटेंट या कोड बनाने की क्षमता पर चिंता जताई गई है, जो विशेष रूप से हाशिए पर रहने वाले समुदायों के खिलाफ भेदभाव बढ़ा सकता है। यानी कुल मिलाकर, PIL एक व्यापक कानूनी या नीतिगत फ्रेमवर्क की मांग कर रही है, जो डेटा की गुणवत्ता, जवाबदेही और मालिकाना हक को सुनिश्चित करे।

AI दुरुपयोग पर सुप्रीम कोर्ट की सुनवाई

10 नवंबर 2025 को हुई सुनवाई में चीफ जस्टिस ऑफ इंडिया (CJI) बीआर गवई की अगुवाई वाली बेंच ने इस मुद्दे पर गंभीरता दिखाई।  CJI ने AI और डीपफेक टेक्नोलॉजी के दुरुपयोग को स्वीकार करते हुए कहा 'हां, हमने अपनी 'मॉर्फड' तस्वीरें भी देखी हैं।' उन्होंने याचिकाकर्ता के वकील से पूछा कि क्या वे केस को अब खारिज करना चाहते हैं या दो हफ्ते बाद देखना और मामले को दो सप्ताह के लिए स्थगित कर दिया।  कोर्ट ने न्यायपालिका के खिलाफ AI के दुरुपयोग को पहचाना, जो डीपफेक और फेक कंटेंट के रूप में सामने आ रहा है।

इस मामले से जुड़े व्यापक संदर्भ में, CJI-डेजिग्नेट जस्टिस सूर्या कांत ने हाल ही में इंडियन विमेंस प्रेस कोर (IWPC) के 31वें स्थापना दिवस पर AI के दुरुपयोग पर चिंता जताई। उन्होंने कहा कि AI टूल्स को महिलाओं, खासकर महिला पत्रकारों के खिलाफ हथियार बनाया जा रहा है, जहां फेक नैरेटिव्स, मॉर्फड इमेज और ट्रोलिंग से प्रतिष्ठा, विश्वसनीयता और सामाजिक बहिष्कार का खतरा है।