चैटजीपीटी के पीछे एआई रिसर्च फर्म ओपनएआई ने एआई-जनित और मानव-जनित टेक्स्ट के बीच अंतर करने के लिए एक नया टूल जारी किया है।
भले ही 100% सटीकता के साथ एआई-लिखित पाठ का पता लगाना असंभव है, ओपनएआई का मानना है कि इसका नया टूल झूठे दावों को कम करने में मदद कर सकता है कि मानव ने एआई-जनित सामग्री लिखी है।
एक में घोषणाOpenAI का कहना है कि इसका नया AI टेक्स्ट क्लासिफायर स्वचालित गलत सूचना अभियान चलाने की क्षमता को सीमित कर सकता है, अकादमिक धोखाधड़ी के लिए AI टूल का उपयोग कर सकता है और चैटबॉट्स के साथ मनुष्यों को प्रतिरूपित कर सकता है।
जब अंग्रेजी पाठों के एक सेट पर परीक्षण किया गया, तो उपकरण सही ढंग से कह सकता था कि क्या पाठ एआई द्वारा 26% समय पर लिखा गया था। लेकिन यह भी गलत सोचा गया कि मानव-लिखित पाठ AI द्वारा 9% समय में लिखा गया था।
OpenAI का कहना है कि इसका टूल टेक्स्ट जितना लंबा है, उतना ही बेहतर काम करता है, यही वजह है कि टेस्ट चलाने के लिए कम से कम 1,000 कैरेक्टर की जरूरत होती है।
नए OpenAI टेक्स्ट क्लासिफायरियर की अन्य सीमाओं में निम्नलिखित शामिल हैं:
- एआई-जनित और मानव-लिखित पाठ दोनों को गलत तरीके से लेबल कर सकता है।
- एआई-जनित पाठ मामूली संपादन के साथ क्लासिफायर से बच सकता है।
- बच्चों द्वारा लिखे गए पाठ और अंग्रेजी में नहीं पाठ के साथ चीजें गलत हो सकती हैं क्योंकि इसे मुख्य रूप से वयस्कों द्वारा लिखित अंग्रेजी सामग्री पर प्रशिक्षित किया गया था।
इसे ध्यान में रखते हुए, आइए देखें कि यह कैसा प्रदर्शन करता है।
OpenAI के AI टेक्स्ट क्लासिफायर का उपयोग करना
एआई टेक्स्ट क्लासिफायरियर OpenAI से उपयोग करना आसान है।
लॉग इन करें, उस टेक्स्ट को पेस्ट करें जिसका आप परीक्षण करना चाहते हैं, और सबमिट बटन दबाएं।
टूल इस संभावना का मूल्यांकन करेगा कि एआई ने आपके द्वारा सबमिट किए गए पाठ को उत्पन्न किया है। परिणाम निम्नलिखित से लेकर हैं:
- बहुत अप्रिय
- संभावना नहीं
- अगर है तो अस्पष्ट है
- संभवत:
- संभावित
मैंने चैटजीपीटी को एसईओ के बारे में एक निबंध लिखने के लिए कहकर इसका परीक्षण किया, फिर एआई टेक्स्ट क्लासिफायरियर को पाठ शब्दशः सबमिट किया।
इसने ChatGPT- जनित निबंध को इस रूप में रेट किया संभवत: एआई द्वारा उत्पन्न, जो एक मजबूत लेकिन अनिश्चित संकेतक है।
यह परिणाम टूल की सीमाओं को दर्शाता है, क्योंकि यह उच्च स्तर की निश्चितता के साथ नहीं कह सकता था कि चैटजीपीटी-जनित टेक्स्ट एआई द्वारा लिखा गया था।
ग्रामरली द्वारा सुझाए गए मामूली संपादनों को लागू करके, मैंने से रेटिंग कम कर दी संभवत: को अस्पष्ट.
OpenAI यह बताने में सही है कि क्लासिफायर से बचना आसान है। हालाँकि, यह एकमात्र प्रमाण नहीं है कि AI ने कुछ लिखा है।
पृष्ठ के निचले भाग में अक्सर पूछे जाने वाले प्रश्न अनुभाग में, OpenAI कहता है:
“एआई टेक्स्ट क्लासिफायरियर के लिए हमारा इरादा मानव-लिखित और एआई-जनित सामग्री के बीच अंतर के बारे में बातचीत को बढ़ावा देना है। परिणाम मदद कर सकते हैं, लेकिन एआई के साथ एक दस्तावेज तैयार किया गया था या नहीं, यह तय करते समय एकमात्र सबूत नहीं होना चाहिए। मॉडल को विभिन्न स्रोतों से मानव-लिखित पाठ पर प्रशिक्षित किया जाता है, जो सभी प्रकार के मानव-लिखित पाठ का प्रतिनिधि नहीं हो सकता है।”
OpenAI जोड़ता है कि AI और मानव-लिखित पाठ के संयोजन वाली सामग्री का पता लगाने के लिए टूल का पूरी तरह से परीक्षण नहीं किया गया है।
अंततः, AI टेक्स्ट क्लासिफायर संभावित AI-जनित टेक्स्ट को फ़्लैग करने के लिए एक मूल्यवान संसाधन हो सकता है, लेकिन इसे निर्णय लेने के लिए एक निश्चित उपाय के रूप में उपयोग नहीं किया जाना चाहिए।
फीचर्ड इमेज: आईबी फोटोग्राफी / शटरस्टॉक
