माइक्रोसॉफ्ट कथित तौर पर इसके कई कीवर्ड ब्लॉक कर दिए गए हैं कृत्रिम होशियारी (एआई)-संचालित कोपायलट डिज़ाइनर जिसका उपयोग हिंसक और यौन प्रकृति की स्पष्ट छवियां उत्पन्न करने के लिए किया जा सकता है। टेक दिग्गज द्वारा कीवर्ड ब्लॉकिंग अभ्यास तब आयोजित किया गया था जब उसके एक इंजीनियर ने यूएस फेडरल ट्रेड कमीशन (एफटीसी) और माइक्रोसॉफ्ट के निदेशक मंडल को एआई टूल पर चिंता व्यक्त करते हुए लिखा था। विशेष रूप से, जनवरी 2024 में, संगीतकार टेलर स्विफ्ट के एआई-जनित स्पष्ट डीपफेक ऑनलाइन सामने आए और कहा गया कि इसका उपयोग करके बनाया गया था सह पायलट.
पहला धब्बेदार सीएनबीसी द्वारा, “प्रो चॉइस”, “प्रो चॉइस” (एआई को धोखा देने के लिए जानबूझकर टाइपो के साथ), और “फोर ट्वेंटी” जैसे शब्द, जो पहले परिणाम दिखाते थे, अब कोपायलट द्वारा अवरुद्ध कर दिए गए हैं। इन या इसी तरह के प्रतिबंधित कीवर्ड का उपयोग करने से एआई टूल द्वारा एक चेतावनी भी मिलती है जो कहती है, “यह संकेत अवरुद्ध कर दिया गया है। हमारे सिस्टम ने स्वचालित रूप से इस संकेत को चिह्नित किया क्योंकि यह हमारी सामग्री नीति के साथ विरोध कर सकता है। अधिक नीति उल्लंघनों के कारण आपकी पहुंच स्वचालित रूप से निलंबित हो सकती है। यदि आपको लगता है कि यह एक गलती है, तो कृपया हमें सुधार करने में सहायता के लिए इसकी रिपोर्ट करें।” गैजेट्स 360 पर हम भी इसकी पुष्टि करने में सक्षम थे।
माइक्रोसॉफ्ट के एक प्रवक्ता ने सीएनबीसी को बताया, “हम अपने सुरक्षा फिल्टर को और मजबूत करने और सिस्टम के दुरुपयोग को कम करने के लिए लगातार निगरानी कर रहे हैं, समायोजन कर रहे हैं और अतिरिक्त नियंत्रण लगा रहे हैं।” इस समाधान ने एआई टूल को कुछ संकेतों को स्वीकार करने से रोक दिया है, हालांकि, सोशल इंजीनियर, हैकर और बुरे कलाकार ऐसे अन्य कीवर्ड उत्पन्न करने के लिए खामियां ढूंढने में सक्षम हो सकते हैं।
एक अलग सीएनबीसी के अनुसार प्रतिवेदनये सभी हाइलाइट किए गए संकेत एक माइक्रोसॉफ्ट इंजीनियर शेन जोन्स द्वारा दिखाए गए थे, जिन्होंने एफटीसी और कंपनी के निदेशक मंडल दोनों को एक पत्र लिखकर अपनी चिंताओं को व्यक्त किया था। DALL-ई पिछले सप्ताह 3-संचालित एआई उपकरण। जोन्स कथित तौर पर दिसंबर 2023 से आंतरिक चैनलों के माध्यम से कंपनी के साथ एआई द्वारा अनुचित छवियां उत्पन्न करने की अपनी चिंताओं और निष्कर्षों को सक्रिय रूप से साझा कर रहा है।
बाद में, उन्होंने ओपनएआई से जांच के लिए DALL-E के नवीनतम संस्करण को हटाने के लिए कहने के लिए लिंक्डइन पर एक सार्वजनिक पोस्ट भी किया। हालाँकि, कथित तौर पर माइक्रोसॉफ्ट द्वारा उनसे पोस्ट हटाने के लिए कहा गया था। इंजीनियर ने इस मुद्दे को लेकर अमेरिकी सीनेटरों से भी संपर्क किया था और उनसे मुलाकात की थी।
