जब चैटबॉट आपके लिए यह कर सकता है तो आप अपना होमवर्क क्यों करते हैं? ChatGPT नामक एक नए आर्टिफिशियल इंटेलिजेंस टूल ने गणित की समस्याओं को हल करने, कॉलेज के निबंधों को मंथन करने और शोध पत्र लिखने की अपनी अलौकिक क्षमताओं से इंटरनेट को रोमांचित कर दिया है। डेवलपर OpenAI ने पिछले महीने पाठ-आधारित प्रणाली को जनता के लिए जारी करने के बाद, कुछ शिक्षक इस संभावना के बारे में अलार्म बजा रहे हैं कि इस तरह के AI सिस्टम को बेहतर और बदतर के लिए शिक्षा को बदलना होगा। पेंसिल्वेनिया विश्वविद्यालय के व्हार्टन स्कूल ऑफ बिजनेस के प्रोफेसर एथन मॉलिक ने ट्विटर पर कहा, "एआई ने मूल रूप से होमवर्क को बर्बाद कर दिया है।" टूल उनके कई छात्रों के बीच एक त्वरित हिट रहा है, उन्होंने मॉर्निंग एडिशन पर एक साक्षात्कार में एनपीआर को बताया, इसका सबसे तत्काल स्पष्ट उपयोग एआई-लिखित काम को चोरी करके धोखा देने का एक तरीका है। शैक्षणिक धोखाधड़ी एक तरफ, मोलिक इसके लाभों को एक सीखने वाले साथी के रूप में भी देखता है। एमबीए छात्रों के लिए पाठ्यक्रम, व्याख्यान, असाइनमेंट और ग्रेडिंग रूब्रिक तैयार करने में मदद के लिए उन्होंने इसे अपने शिक्षक के सहायक के रूप में इस्तेमाल किया है। "आप पूरे अकादमिक कागजात में पेस्ट कर सकते हैं और इसे सारांशित करने के लिए कह सकते हैं। आप इसे अपने कोड में त्रुटि खोजने और इसे ठीक करने और आपको यह बताने के लिए कह सकते हैं कि आपने इसे गलत क्यों किया," उन्होंने कहा। "यह क्षमता का गुणक है, कि मुझे लगता है कि हम अपने सिर के चारों ओर नहीं जा रहे हैं, यह बिल्कुल आश्चर्यजनक है," उन्होंने कहा। एक आश्वस्त - अभी तक अविश्वसनीय - बॉट लेकिन अलौकिक आभासी सहायक - किसी भी उभरती एआई तकनीक की तरह - इसकी सीमाएँ हैं। आखिरकार, चैटजीपीटी को इंसानों ने ही बनाया है। OpenAI ने वास्तविक मानव वार्तालापों के एक बड़े डेटासेट का उपयोग करके टूल को प्रशिक्षित किया है। "इस बारे में सोचने का सबसे अच्छा तरीका यह है कि आप एक सर्वज्ञ, कृपया उत्सुक इंटर्न के साथ चैट कर रहे हैं जो कभी-कभी आपसे झूठ बोलता है," मॉलिक ने कहा। यह विश्वास के साथ भी है। अपने आधिकारिक लहजे के बावजूद, ऐसे उदाहरण सामने आए हैं जिनमें चैटजीपीटी आपको नहीं बताएगा कि कब इसका जवाब नहीं है। स्विट्जरलैंड के ज्यूरिख में स्थित एक डेटा वैज्ञानिक टेरेसा कुबाका ने यही पाया, जब उन्होंने भाषा मॉडल के साथ प्रयोग किया। कुबका, जिन्होंने अपने पीएचडी के लिए भौतिकी का अध्ययन किया, ने उपकरण का परीक्षण एक बनावटी भौतिक घटना के बारे में पूछकर किया। "मैंने जानबूझकर इसे किसी ऐसी चीज के बारे में पूछा जो मुझे लगा कि मुझे पता है कि अस्तित्व में नहीं है ताकि वे न्याय कर सकें कि क्या वास्तव में यह भी मौजूद है कि क्या मौजूद है और क्या मौजूद नहीं है," उसने कहा। चैटजीपीटी ने एक उत्तर इतना विशिष्ट और प्रशंसनीय लग रहा था, उद्धरणों के साथ समर्थित, उसने कहा, कि उसे जांच करनी थी कि क्या नकली घटना, "एक साइक्लोइडल इनवर्टेड इलेक्ट्रोमैग्नन," वास्तव में वास्तविक थी। जब उसने करीब से देखा, तो कथित स्रोत सामग्री भी फर्जी थी, उसने कहा। उन्होंने कहा कि जाने-माने भौतिकी विशेषज्ञों के नाम सूचीबद्ध थे - उनके द्वारा कथित तौर पर लिखे गए प्रकाशनों के शीर्षक, हालांकि, मौजूद नहीं थे, उन्होंने कहा। "यह वह जगह है जहाँ यह खतरनाक हो जाता है," कुबका ने कहा। "जिस क्षण आप संदर्भों पर भरोसा नहीं कर सकते हैं, यह विज्ञान का हवाला देने में विश्वास को भी मिटा देता है," उसने कहा। वैज्ञानिक इन नकली पीढ़ियों को "मतिभ्रम" कहते हैं। एलन इंस्टीट्यूट फॉर एआई के संस्थापक सीईओ ओरेन एट्ज़ियोनी ने कहा, "अभी भी ऐसे कई मामले हैं जहां आप इसे एक प्रश्न पूछते हैं और यह आपको एक बहुत ही प्रभावशाली-सा जवाब देगा जो बिल्कुल गलत है।" हाल ही में। "और, निश्चित रूप से, यह एक समस्या है यदि आप इसके तथ्यों की सावधानीपूर्वक पुष्टि या पुष्टि नहीं करते हैं।" एआई भाषा उपकरणों की छानबीन करने का अवसर चैटबॉट के मुफ्त पूर्वावलोकन के साथ प्रयोग करने वाले उपयोगकर्ताओं को टूल का परीक्षण करने से पहले चेतावनी दी जाती है कि चैटजीपीटी "कभी-कभी गलत या भ्रामक जानकारी उत्पन्न कर सकता है," हानिकारक निर्देश या पक्षपाती सामग्री। ओपनएआई के सीईओ सैम अल्टमैन ने इस महीने की शुरुआत में कहा था कि मौजूदा पुनरावृत्ति में किसी भी "महत्वपूर्ण" के लिए टूल पर भरोसा करना एक गलती होगी। "यह प्रगति का पूर्वावलोकन है," उन्होंने ट्वीट किया। मेटा द्वारा पिछले महीने अनावरण किए गए एक अन्य एआई भाषा मॉडल की विफलताओं के कारण इसे बंद कर दिया गया। कंपनी ने गैलेक्टिका के लिए अपना डेमो वापस ले लिया, जो कि वैज्ञानिकों की मदद करने के लिए डिज़ाइन किया गया एक उपकरण है, इसके ठीक तीन दिन बाद जनता को इसका परीक्षण करने के लिए प्रोत्साहित किया गया, आलोचना के बाद कि यह पक्षपाती और निरर्थक पाठ उगलता है। इसी तरह, एट्ज़ियोनी का कहना है कि चैटजीपीटी अच्छे विज्ञान का उत्पादन नहीं करता है। हालांकि, इसकी सभी खामियों के लिए, वह चैटजीपीटी की सार्वजनिक शुरुआत को सकारात्मक रूप में देखता है। वह इसे सहकर्मी समीक्षा के क्षण के रूप में देखता है। बोर्ड के सदस्य और सलाहकार के रूप में एआई संस्थान में रहने वाले एट्ज़ियोनी ने कहा, "चैटजीपीटी अभी कुछ दिन पुराना है, मुझे कहना पसंद है।" यह "हमें यह समझने का मौका दे रहा है कि वह क्या कर सकता है और क्या नहीं और 'हम इसके बारे में क्या करने जा रहे हैं?' " विकल्प, जिसे वह "अस्पष्टता से सुरक्षा" के रूप में वर्णित करता है, वह गलत एआई को बेहतर बनाने में मदद नहीं करेगा, उन्होंने कहा। "क्या होगा अगर हम समस्याओं को छिपाते हैं? क्या यह उन्हें हल करने का नुस्खा होगा? आमतौर पर - सॉफ्टवेयर की दुनिया में नहीं - यह काम नहीं किया है।"
