रे कुर्ज़वील, एक प्रसिद्ध भविष्यवादी और गूगल में इंजीनियरिंग के निदेशक, ने एआई अनुसंधान में विराम के लिए बुलाए गए पत्र का खंडन प्रकाशित किया, प्रस्ताव अव्यावहारिक क्यों है और मानवता को चिकित्सा सफलताओं और नवाचारों से वंचित करता है जो मानवता को गहराई से लाभान्वित करते हैं।
एआई विकास को रोकने के लिए अंतर्राष्ट्रीय पत्र
दुनिया भर के वैज्ञानिकों और मशहूर हस्तियों द्वारा हस्ताक्षरित एक खुला पत्र (FutureOfLife.org पर प्रकाशित) ने एआई के विकास पर पूर्ण विराम लगाने का आह्वान किया जो ओपनएआई द्वारा बनाए गए नवीनतम संस्करण जीपीटी-4 से अधिक शक्तिशाली है।
एआई के और विकास को रोकने के अलावा, उन्होंने तीसरे पक्ष के स्वतंत्र विशेषज्ञों द्वारा देखे जाने वाले सुरक्षा प्रोटोकॉल के विकास का भी आह्वान किया।
कुछ बिंदु जो खुले पत्र के लेखक बनाते हैं:
- एआई एक गहरा जोखिम पैदा करता है
- एआई के विकास को तभी आगे बढ़ना चाहिए जब प्रौद्योगिकी के लाभकारी अनुप्रयोगों की गणना और औचित्य हो
- एआई को तभी आगे बढ़ना चाहिए जब “हम” (पत्र पर हस्ताक्षर करने वाले हजारों) आश्वस्त हों कि एआई जोखिम प्रबंधनीय हैं।
- एआई डेवलपर्स को नियामक निकायों से मिलकर एआई गवर्नेंस सिस्टम विकसित करने के लिए नीति निर्माताओं के साथ मिलकर काम करने के लिए कहा जाता है।
- एआई निर्मित सामग्री की पहचान करने और प्रौद्योगिकी के प्रसार को नियंत्रित करने में मदद करने के लिए वॉटरमार्किंग तकनीकों का विकास।
- एआई द्वारा बनाए गए नुकसान के लिए उत्तरदायित्व सौंपने की प्रणाली
- एआई प्रौद्योगिकी के कारण होने वाले व्यवधानों से निपटने के लिए संस्थानों का निर्माण
पत्र इस दृष्टिकोण से आता है कि एआई प्रौद्योगिकी केंद्रीकृत है और प्रौद्योगिकी के नियंत्रण में कुछ संगठनों द्वारा इसे रोका जा सकता है। लेकिन एआई विशेष रूप से सरकारों, अनुसंधान संस्थानों और निगमों के हाथों में नहीं है।
एआई इस समय एक खुला स्रोत और विकेन्द्रीकृत तकनीक है, जिसे वैश्विक स्तर पर सहयोग के हजारों व्यक्तियों द्वारा विकसित किया गया है।
रे कुर्ज़वील: भविष्यवादी, लेखक और Google में इंजीनियरिंग के निदेशक
रे कुर्ज़वील 1960 के दशक से कृत्रिम बुद्धिमत्ता पर केंद्रित सॉफ़्टवेयर और मशीनें डिज़ाइन कर रहे हैं, उन्होंने इस विषय पर कई लोकप्रिय पुस्तकें लिखी हैं और भविष्य के बारे में भविष्यवाणी करने के लिए प्रसिद्ध हैं जो सही होती हैं।
2009 में उन्होंने जीवन के बारे में की गई 147 भविष्यवाणियों में से केवल तीन भविष्यवाणियाँ, कुल 2%, गलत थीं।
1990 के दशक में उनकी भविष्यवाणियों में से कई भौतिक मीडिया, जैसे कि किताबें डिजिटाइज़ होने के कारण लोकप्रियता खो देंगी। 1990 के दशक में जब कंप्यूटर बड़े और भारी थे, उन्होंने भविष्यवाणी की थी कि 2009 तक कंप्यूटर पहनने के लिए काफी छोटा होगा, जो सच निकला (कैसे मेरी भविष्यवाणियां आगे बढ़ रही हैं – 2010 पीडीएफ).
रे कुर्ज़वील की हालिया भविष्यवाणियां उन सभी अच्छे पर ध्यान केंद्रित करती हैं जो एआई लाएगा, विशेष रूप से चिकित्सा और विज्ञान की सफलताओं पर।
कुर्ज़वील एआई की नैतिकता पर भी केंद्रित है।
2017 में वे प्रतिभागियों में से एक थे (ओपनएआई के सीईओ सैम ऑल्टमैन के साथ) जिन्होंने एक खुला पत्र तैयार किया, जिसे असिलोमर एआई सिद्धांत जिन्हें फ्यूचर ऑफ लाइफ वेबसाइट पर भी प्रकाशित किया गया था, आर्टिफिशियल इंटेलिजेंस प्रौद्योगिकियों के सुरक्षित और नैतिक विकास के लिए दिशानिर्देश।
सिद्धांतों के बीच उन्होंने बनाने में मदद की:
- “एआई अनुसंधान का लक्ष्य अप्रत्यक्ष बुद्धिमत्ता नहीं, बल्कि लाभकारी बुद्धिमत्ता का निर्माण करना होना चाहिए।
- इसके लाभकारी उपयोग को सुनिश्चित करने के लिए एआई में निवेश के साथ अनुसंधान के लिए धन की व्यवस्था की जानी चाहिए
- एआई शोधकर्ताओं और नीति-निर्माताओं के बीच रचनात्मक और स्वस्थ आदान-प्रदान होना चाहिए।
- उन्नत एआई पृथ्वी पर जीवन के इतिहास में एक गहन परिवर्तन का प्रतिनिधित्व कर सकता है, और इसके लिए योजना बनाई जानी चाहिए और उचित देखभाल और संसाधनों के साथ प्रबंधित किया जाना चाहिए।
- अधीक्षण को केवल एक राज्य या संगठन के बजाय व्यापक रूप से साझा नैतिक आदर्शों की सेवा में और सभी मानवता के लाभ के लिए विकसित किया जाना चाहिए।
कुर्ज़वील ने एआई के विकास में विराम लगाने के लिए खुले पत्र के जवाब में मानवता और प्राकृतिक दुनिया के लिए किए जा सकने वाले सभी लाभकारी अच्छे के दृष्टिकोण से जीवन भर नई तकनीक का इस्तेमाल किया।
उनकी प्रतिक्रिया तीन मुख्य बिंदुओं पर केंद्रित थी:
- विराम का आह्वान व्यावहारिक होने के लिए बहुत अस्पष्ट है
- सभी राष्ट्रों को ठहराव के लिए सहमत होना चाहिए या लक्ष्य शुरू से ही पराजित हो जाते हैं
- विकास में एक ठहराव बीमारियों के इलाज की पहचान करने जैसे लाभों की उपेक्षा करता है।
व्यावहारिक होने के लिए बहुत अस्पष्ट
पत्र के बारे में उनका पहला बिंदु यह है कि यह बहुत अस्पष्ट है क्योंकि यह AI पर एक विराम का कारण है जो GPT-4 से अधिक शक्तिशाली है, जो मानता है कि GPT-4 ही AI का एकमात्र प्रकार है।
कुर्ज़वील ने लिखा:
“एआई पर” ठहराव “के खुले पत्र के संबंध में” जीपीटी -4 से अधिक शक्तिशाली “शोध,” यह मानदंड व्यावहारिक होने के लिए बहुत अस्पष्ट है।
राष्ट्र विराम से बाहर निकलेंगे
उनका दूसरा बिंदु यह है कि पत्र में उल्लिखित मांगें तभी काम कर सकती हैं जब दुनिया भर के सभी शोधकर्ता स्वेच्छा से सहयोग करें।
कोई भी देश जो हस्ताक्षर करने से इंकार करता है, उसे लाभ होगा, जो शायद होगा।
वह लिखता है:
“और प्रस्ताव एक गंभीर समन्वय समस्या का सामना करता है: जो लोग विराम के लिए सहमत होते हैं वे निगमों या राष्ट्रों से असहमत हो सकते हैं।”
यह बिंदु यह स्पष्ट करता है कि पूर्ण विराम का लक्ष्य व्यवहार्य नहीं है, क्योंकि राष्ट्र एक लाभ नहीं छोड़ेंगे और साथ ही, एआई लोकतांत्रित और खुला स्रोत है, जो दुनिया भर के व्यक्तियों के हाथों में है।
एआई एआई को महत्वपूर्ण लाभ लाता है
एआई को समाज के लिए बहुत कम लाभ के रूप में खारिज करने वाले संपादकीय हैं, यह तर्क देते हुए कि श्रमिक उत्पादकता बढ़ाना उन जोखिमों को सही ठहराने के लिए पर्याप्त नहीं है जिनसे वे डरते हैं।
कुर्ज़वील का अंतिम बिंदु यह है कि एआई के विकास में विराम की मांग करने वाला खुला पत्र एआई द्वारा किए जा सकने वाले सभी अच्छे कामों को पूरी तरह से अनदेखा कर देता है।
वो समझाता है:
“चिकित्सा और स्वास्थ्य, शिक्षा, जीवाश्म ईंधन को बदलने के लिए नवीकरणीय ऊर्जा स्रोतों की खोज, और अन्य क्षेत्रों के स्कोर जैसे महत्वपूर्ण क्षेत्रों में एआई को आगे बढ़ाने के जबरदस्त लाभ हैं।
…अगर हम वास्तविक खतरों से बचते हुए स्वास्थ्य और उत्पादकता के लिए एआई के गहन लाभों को अनलॉक करना चाहते हैं तो अधिक सूक्ष्मता की आवश्यकता है।”
संकट, अज्ञात का भय और मानवता को लाभ
कुर्ज़वील अच्छे बिंदु बताते हैं कि एआई समाज को कैसे लाभ पहुंचा सकता है। उनका कहना है कि वास्तव में एआई को रोकने का कोई तरीका नहीं है।
एआई की उनकी व्याख्या एआई में निहित मानव जाति के गहन लाभों पर जोर देती है।
क्या ऐसा हो सकता है कि OpenAI का AI का एक चैटबॉट के रूप में कार्यान्वयन AI को तुच्छ बनाता है और मानवता के लिए लाभ की देखरेख करता है, साथ ही साथ उन लोगों को डराता है जो यह नहीं समझते हैं कि जनरेटिव AI कैसे काम करता है?
शटरस्टॉक/यूरी मोटोव द्वारा प्रदर्शित छवि