मेटा घोषणा की कि वह अपने सभी प्लेटफार्मों पर कृत्रिम बुद्धिमत्ता (एआई)-जनित छवियों को लेबल करना शुरू कर देगा फेसबुकधागे, और Instagram. 6 फरवरी को की गई घोषणा, कंपनी के निरीक्षण बोर्ड द्वारा एआई-जनरेटेड सामग्री पर मेटा की नीति को बदलने और इससे होने वाले नुकसान को रोकने पर ध्यान केंद्रित करने की आवश्यकता पर प्रकाश डालने के ठीक एक दिन बाद आई, जिसमें अमेरिकी राष्ट्रपति जो बिडेन की शिकायत का जवाब दिया गया था। डिजिटल रूप से परिवर्तित वीडियो जो ऑनलाइन सामने आया। मेटा ने कहा कि हालांकि वह अपने स्वयं के एआई मॉडल द्वारा बनाई गई फोटोरिअलिस्टिक छवियों को लेबल करता है, अब यह अन्य कंपनियों के साथ अपने प्लेटफार्मों पर साझा की गई सभी एआई-जनरेटेड छवियों को लेबल करने के लिए काम करेगा।
एक न्यूज़रूम में डाक मंगलवार को, मेटा के वैश्विक मामलों के अध्यक्ष, निक क्लेग ने उपयोगकर्ताओं की सुरक्षा और दुष्प्रचार को रोकने के लिए एआई-जनित सामग्री को लेबल करने की आवश्यकता को रेखांकित किया, और साझा किया कि इसने समाधान विकसित करने के लिए उद्योग के खिलाड़ियों के साथ काम करना शुरू कर दिया है। उन्होंने कहा, “हम सामान्य तकनीकी मानकों पर संरेखित करने के लिए उद्योग भागीदारों के साथ काम कर रहे हैं जो एआई का उपयोग करके सामग्री का एक टुकड़ा बनाए जाने पर संकेत देते हैं।” सोशल मीडिया दिग्गज ने यह भी खुलासा किया कि वर्तमान में, यह Google, OpenAI, Microsoft, Adobe, मिडजॉर्नी और शटरस्टॉक की छवियों को लेबल कर सकता है। यह मेटा के स्वयं के एआई मॉडल द्वारा बनाई गई छवियों को “एआई के साथ कल्पना” के रूप में लेबल कर रहा है।
एआई-जनरेटेड छवियों को सही ढंग से पहचानने के लिए, डिटेक्शन टूल को ऐसी सभी छवियों में एक सामान्य पहचानकर्ता की आवश्यकता होती है। एआई के साथ काम करने वाली कई कंपनियों ने छवियों के मेटाडेटा में अदृश्य वॉटरमार्क जोड़ना और जानकारी एम्बेड करना शुरू कर दिया है ताकि यह स्पष्ट हो सके कि यह मनुष्यों द्वारा बनाया या कैप्चर नहीं किया गया था। मेटा ने कहा कि यह हाइलाइट की गई कंपनियों से एआई छवियों का पता लगाने में सक्षम है क्योंकि यह उद्योग-अनुमोदित तकनीकी मानकों का पालन करता है।
लेकिन इसके साथ कुछ मुद्दे भी हैं. सबसे पहले, प्रत्येक एआई छवि जनरेटर ऐसे उपकरणों का उपयोग नहीं करता है ताकि यह स्पष्ट हो सके कि छवियां वास्तविक नहीं हैं। दूसरा, मेटा ने देखा है कि अदृश्य वॉटरमार्क को हटाने के कई तरीके हैं। इसके लिए कंपनी ने खुलासा किया है कि वह वॉटरमार्किंग के लिए एक एकीकृत तकनीक बनाने के लिए उद्योग भागीदारों के साथ काम कर रही है जिसे आसानी से हटाया नहीं जा सकता है। पिछले साल, मेटा की एआई रिसर्च विंग, फंडामेंटल एआई रिसर्च (एफएआईआर), की घोषणा की यह स्टेबल सिग्नेचर नामक एक वॉटरमार्किंग तंत्र विकसित कर रहा था जो मार्कर को सीधे छवि निर्माण प्रक्रिया में एम्बेड करता है। Google के DeepMind ने SynthID नामक एक समान टूल भी जारी किया है।
लेकिन यह सिर्फ छवियों को कवर करता है। एआई-जनरेटेड ऑडियो और वीडियो भी आज आम हो गए हैं। इसे संबोधित करते हुए, मेटा ने स्वीकार किया कि ऑडियो और वीडियो के लिए एक समान पहचान तकनीक अभी तक नहीं बनाई गई है, हालांकि विकास पर काम चल रहा है। जब तक ऐसी सामग्री का स्वचालित रूप से पता लगाने और पहचानने का कोई तरीका सामने नहीं आता है, तब तक टेक दिग्गज ने अपने प्लेटफॉर्म पर उपयोगकर्ताओं के लिए एआई-जनरेटेड वीडियो या ऑडियो साझा करने पर खुलासा करने के लिए एक सुविधा जोड़ी है। एक बार खुलासा होने पर, प्लेटफ़ॉर्म इसमें एक लेबल जोड़ देगा।
क्लेग ने इस बात पर भी प्रकाश डाला कि यदि लोग ऐसी सामग्री का खुलासा नहीं करते हैं, और मेटा को पता चलता है कि इसे डिजिटल रूप से बदल दिया गया था या बनाया गया था, तो यह उपयोगकर्ता पर जुर्माना लगा सकता है। इसके अलावा, यदि साझा की गई सामग्री उच्च जोखिम वाली प्रकृति की है और महत्वपूर्ण मामलों पर जनता को धोखा दे सकती है, तो यह उपयोगकर्ताओं को संदर्भ प्राप्त करने में मदद करने के लिए और भी अधिक प्रमुख लेबल जोड़ सकता है।
