सरकारी सलाहकार ने एआई मॉडल पर एमईआईटीवाई की मंजूरी अनिवार्य की: रिपोर्ट

कृत्रिम होशियारी (एआई) मॉडल और जेनरेटिव एआई मॉडल जो परीक्षण के किसी भी चरण में हैं या किसी भी तरह से अविश्वसनीय हैं, उन्हें भारत में तैनात करने से पहले “भारत सरकार की स्पष्ट अनुमति” प्राप्त करने की आवश्यकता होगी, भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) रिपोर्ट के अनुसार, एक एडवाइजरी में जारी किया गया। यह सलाह कुछ दिनों बाद आई है जब कुछ उपयोगकर्ताओं ने पाया कि Google की मिथुन राशि एआई चैटबॉट देश के प्रधानमंत्री के संबंध में गलत और भ्रामक जानकारी दे रहा था।

एक के अनुसार प्रतिवेदन द इकोनॉमिक टाइम्स द्वारा, एडवाइजरी 1 मार्च को जारी की गई थी और कंपनियों को आगे बढ़ने के लिए इसका अनुपालन करने के लिए कहा गया था। एडवाइजरी में उन कंपनियों से कहा गया है जिन्होंने पहले से ही देश में एक एआई प्लेटफॉर्म तैनात किया है ताकि यह सुनिश्चित किया जा सके कि “उनके कंप्यूटर संसाधन किसी भी पूर्वाग्रह या भेदभाव की अनुमति नहीं देते हैं या चुनावी प्रक्रिया की अखंडता को खतरा नहीं देते हैं।” इसके अलावा, MeitY ने कथित तौर पर AI प्लेटफार्मों से मेटाडेटा जोड़ने के लिए भी कहा है, यदि AI द्वारा उत्पन्न सामग्री का उपयोग गलत सूचना फैलाने या डीपफेक बनाने के लिए किया जा सकता है।

यदि प्लेटफ़ॉर्म अविश्वसनीय तरीके से व्यवहार कर सकता है और गलत जानकारी उत्पन्न कर सकता है, तो कंपनियों को स्पष्ट अस्वीकरण जोड़ने के लिए भी कहा गया था। रिपोर्ट के अनुसार, इसके अलावा, प्लेटफार्मों को उपयोगकर्ताओं को डीपफेक या ऐसी कोई भी सामग्री बनाने के लिए एआई का उपयोग न करने की चेतावनी भी देनी होगी जो किसी भी तरह से चुनावों को प्रभावित कर सकती है। हालाँकि यह सलाह वर्तमान में कानूनी रूप से बाध्यकारी नहीं है, लेकिन इसमें कहा गया है कि यह भारत में एआई विनियमन का भविष्य है।

अविश्वसनीयता का मुद्दा पहली बार तब उठा जब कुछ उपयोगकर्ताओं ने Google जेमिनी के स्क्रीनशॉट पोस्ट किए जिसमें पीएम नरेंद्र मोदी के बारे में गलत जानकारी पोस्ट की गई थी। 23 फरवरी को केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी राज्य मंत्री राजीव चन्द्रशेखर प्रतिक्रिया व्यक्त एक्स (जिसे पहले ट्विटर के नाम से जाना जाता था) पर कहा, “ये आईटी अधिनियम के मध्यस्थ नियमों (आईटी नियमों) के नियम 3(1)(बी) का प्रत्यक्ष उल्लंघन और आपराधिक संहिता के कई प्रावधानों का उल्लंघन हैं।”

एडवाइजरी जारी होने पर उद्यमियों और तकनीकी क्षेत्र से मिली-जुली प्रतिक्रिया आई है। जबकि कुछ ने इस कदम की सराहना की है, इसे गलत सूचना को कम करने की आवश्यकता बताया है, दूसरों ने इस बात पर प्रकाश डाला है कि विनियमन उभरते क्षेत्र के विकास पर प्रतिकूल प्रभाव डाल सकता है। पर्प्लेक्सिटी एआई के सह-संस्थापक और सीईओ अरविंद श्रीनिवास बुलाया एक पोस्ट में इसे “भारत का बुरा कदम” कहा गया है।

इसी क्रम में, KissanAI के संस्थापक प्रतीक देसाई कहा, “मैं यह सोचकर मूर्ख था कि मैं एसएफ से भारतीय कृषि में जेनएआई लाने पर काम करूंगा। हम मल्टीमॉडल कम लागत वाले कीट और रोग मॉडल का प्रशिक्षण ले रहे थे, और इसे लेकर बहुत उत्साहित थे। भारत में इस क्षेत्र में एआई लाने के लिए 4 साल तक पूर्णकालिक काम करने के बाद यह भयानक और निराशाजनक है।

पोस्ट की एक श्रृंखला में आलोचना का जवाब देते हुए, चन्द्रशेखर पर प्रकाश डाला यह सलाह देश के मौजूदा कानूनों पर विचार करते हुए जारी की गई थी जो प्लेटफार्मों को गैरकानूनी सामग्री को सक्षम करने या उत्पन्न करने से रोकते हैं। “(..)प्लेटफ़ॉर्म पर आईटी और आपराधिक कानून के तहत स्पष्ट मौजूदा दायित्व हैं। इसलिए अपने आप को सुरक्षित रखने का सबसे अच्छा तरीका लेबलिंग और स्पष्ट सहमति का उपयोग करना है और यदि आप एक प्रमुख प्लेटफ़ॉर्म हैं तो त्रुटि-प्रवण प्लेटफ़ॉर्म को तैनात करने से पहले सरकार से अनुमति लें, ”उन्होंने कहा।

केंद्रीय मंत्री भी व्याख्या की यह सलाह “महत्वपूर्ण प्लेटफार्मों” के लिए है और केवल “बड़े प्लेटफार्मों” को MeitY से अनुमति लेनी होगी। यह सलाह स्टार्टअप्स पर लागू नहीं है। उन्होंने आगे कहा कि एडवाइजरी के निर्देशों का पालन करना कंपनियों के सर्वोत्तम हित में है क्योंकि यह उन उपयोगकर्ताओं से बीमा बनाता है जो अन्यथा प्लेटफ़ॉर्म के खिलाफ मुकदमा दायर कर सकते हैं। उन्होंने कहा, “भारत के इंटरनेट की सुरक्षा और विश्वास सरकार, उपयोगकर्ताओं और प्लेटफार्मों के लिए एक साझा और सामान्य लक्ष्य है।”