ओपनएआई इसका नया अनावरण किया कृत्रिम होशियारी (एआई) छवि पहचान और पहचान उपकरण मंगलवार को। एआई फर्म ने एआई-जनित सामग्री को प्रमाणित करने और इसके बारे में जागरूकता पैदा करने की आवश्यकता पर प्रकाश डालते हुए नए टूल की घोषणा की। कंपनी औपचारिक रूप से गठबंधन फॉर कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) समिति में भी शामिल हो गई है, जिसने AI-जनित सामग्री को लेबल करने के लिए एक खुला मानक बनाया है। विशेष रूप से, OpenAI रहा है का उपयोग करते हुए यह मानक फरवरी 2024 से अपनी Dall-E-जनरेटेड छवियों में है और छवियों के मेटाडेटा में AI से संबंधित जानकारी जोड़ना जारी रखता है।
में एक ब्लॉग भेजा, ओपनएआई ने एआई-जनित सामग्री की शुरुआत के साथ उभरी नई चुनौतियों पर प्रकाश डाला। कंपनी ने कहा, “जैसे-जैसे जेनरेट की गई दृश्य-श्रव्य सामग्री अधिक आम होती जा रही है, हमारा मानना है कि समग्र रूप से समाज के लिए नई तकनीक और मानकों को अपनाना अधिक महत्वपूर्ण हो जाएगा जो लोगों को ऑनलाइन मिलने वाली सामग्री को बनाने के लिए उपयोग किए जाने वाले टूल को समझने में मदद करते हैं।” इसके अलावा, चैटजीपीटी-निर्माता ने कहा कि वह एआई सामग्री प्रमाणीकरण में योगदान देने के लिए दो अलग-अलग उपाय कर रहा है।
अपने पहले चरण में, OpenAI औपचारिक रूप से C2PA समिति में शामिल हो गया और इसे डिजिटल सामग्री प्रमाणन के लिए व्यापक रूप से इस्तेमाल किया जाने वाला मानक कहा। कंपनी ने इस बात पर भी प्रकाश डाला कि मानक का पालन सॉफ्टवेयर कंपनियों, कैमरा निर्माताओं और ऑनलाइन प्लेटफार्मों की एक विस्तृत श्रृंखला द्वारा किया जाता है। सीधे शब्दों में कहें तो, C2PA छवियों और अन्य फ़ाइल प्रकारों के मेटाडेटा में जानकारी जोड़ने की वकालत करता है ताकि यह पता चल सके कि उन्हें कैसे बनाया गया था। जबकि कैमरे द्वारा ली गई छवि में कैमरे का नाम और विशिष्टताएं शामिल होंगी, एआई-जनरेटेड छवि में एआई मॉडल का नाम शामिल होगा।
इस प्रकार की प्रमाणीकरण विधि का उपयोग किया जाता है क्योंकि किसी छवि से मेटाडेटा को हटाना या बदलना मुश्किल होता है और यह छवि को साझा करने, क्रॉप करने या किसी भी तरह या रूप में बदलने पर भी बना रहता है।
अपने दूसरे चरण पर प्रकाश डालते हुए ओपनएआई ने कहा कि वह एक नए टूल पर काम कर रहा है जो एआई-जनरेटेड छवियों की पहचान कर सकता है। टूल का नाम लिए बिना कंपनी ने इसे “ओपनएआई का इमेज डिटेक्शन क्लासिफायरियर” कहा। उपकरण किसी छवि के बनने की संभावना का अनुमान लगाता है Dall-ई. पोस्ट के अनुसार, फ़िल्टर का उपयोग करने या छवि को क्रॉप करने के बावजूद, टूल वास्तविक छवियों की तुलना में Dall-E-जनरेटेड छवियों में से 98 प्रतिशत को सही ढंग से टैग करने में सक्षम था। हालाँकि, जब Dall-E की AI छवियों की तुलना अन्य AI मॉडल से की जाती है तो टूल को कठिनाई होती है। एआई फर्म ने कहा कि उन मामलों में उपकरण लगभग 5-10 प्रतिशत नमूने में गलतियाँ करता है।
हालाँकि, OpenAI ने अब सीमित सार्वजनिक परीक्षण के लिए टूल खोल दिया है और अनुसंधान प्रयोगशालाओं और अनुसंधान-उन्मुख पत्रकारिता गैर-लाभकारी संस्थाओं को AI फर्म के साथ पंजीकरण करने और टूल तक पहुंच प्राप्त करने के लिए आमंत्रित किया है।