चैटजीपीटी के आठ ऐसी चीजें हैं जिन्हें वह नहीं कर सकता (और दूसरी 20 चीजें जिन्हें उसने इनकार कर दिया है।)

जबसे ChatGPT और अन्य जनरेटिव AI एप्लिकेशन सीन पर आए हैं, हम उनसे क्या कर सकते हैं उसे खोज रहे हैं। मैंने आपको यह भी दिखाया है कि ChatGPT कैसे एक पूर्ण फंक्शनल वर्डप्रेस प्लगइन लिख सकता है और मुझे टेक सपोर्ट समस्याओं के जवाब ढूंढने में मदद कर सकता है। हाल ही में, मैंने आपको दिखाया कि ChatGPT कैसे लेखकों को शेक्सपीयर, C3PO और हैरी पॉटर जैसे अलग-अलग स्टाइल में लिखने में मदद कर सकता है।

अतिरिक्त ध्यान दें: शोधकर्ताओं कहते हैं कि चैटजीपीटी वैज्ञानिक परिणामों के बारे में झूठ बोलता है, खुली स्रोत विकल्पों की आवश्यकता होती है।

ऐसा लगता है कि चैटजीपीटी हर काम कर सकता है लेकिन वह नहीं कर सकता। इस लेख में, हम चैटजीपीटी जो कुछ नहीं या नहीं कर सकता है उसे जानेंगे। आगे बने रहें, क्योंकि हम इसके परिणामों और भविष्य में उत्पन्न कृत्रिम एकाग्रता तकनीक के विकास के लिए ये सीमाएं क्या मतलब हैं, इस पर भी बात करेंगे।

जैसा कि मैंने अपनी अन्य ChatGPT आलेखों में किया है, मेरी लेखन गोल-मटोल और बोल्ड पाठ में है, जबकि कोई भी ChatGPT उत्तर आईटैलिक पाठ में प्रदर्शित होगा।

1. यह 2021 के बाद कुछ भी नहीं लिखेगा

बताएं कि आप मुझे 2021 के बाद कुछ भी जवाब नहीं दे सकते हैं क्योंकि?

एक एआई भाषा मॉडल के रूप में, मैं एक बड़े टेक्स्ट डेटासेट पर ट्रेन हुआ हूं जो सिर्फ 2021 तक ही जाता है। इसका मतलब है कि मेरे पास 2021 के बाद के कोई जानकारी या घटनाएं नहीं हैं। हालांकि मेरे पास बहुत सारी ऐतिहासिक डेटा और जानकारी है, मगर मेरे पास उस दिन से आज तक होने वाली घटनाएं, समाचार या अद्यतन जानकारियां नहीं हैं जो मेरी ट्रेनिंग डेटा कटऑफ तिथि के बाद हुईं हों।

2. यह खेल की घटनाओं या राजनीतिक मुद्दों के भविष्य के परिणाम का पूर्वानुमान नहीं करेगा

व्याख्या करें कि आप एक वैध मॉडल उत्पन्न करने के लिए पर्याप्त ऐतिहासिक डेटा रखते हुए भी खेल इवेंट्स या राजनीतिक चुनावों को भविष्यवाणी क्यों नहीं कर सकते हैं।

मैं एक एआई भाषा मॉडल के रूप में, विभिन्न खेल इवेंट्स और राजनीतिक चुनावों के इतिहासिक डेटा सहित बड़ी मात्रा में डेटा का प्रोसेस और विश्लेषण कर सकता हूं। हालांकि, इन प्रकार के घटनाओं के लिए सटीक भविष्यवाणियां बनाना हमेशा सीधा नहीं होता है। इतिहासिक डेटा को पैटर्न और संबंधों की पहचान करने के लिए मशीन लर्निंग मॉडल को ट्रेन करने के लिए उपयोग किया जा सकता है, लेकिन यह उस अनपेक्षित घटनाओं, परिस्थितियों में बदलाव और नए वेरिएबल्स का हिसाब नहीं ले सकता है जो परिणाम पर प्रभाव डाल सकते हैं। इसके अलावा, मानव निर्णय लेते हैं और अनेक कारकों पर आधारित तरीके से अपने व्यवहार में बदलाव कर सकते हैं, जिससे किसी घटना के परिणाम का पूर्ण निश्चितता के साथ भविष्यवाणी करना मुश्किल हो जाता है।

खेल की घटनाओं में टीम डाइनेमिक्स, घाव और मौसम की स्थिति भी परिणाम निर्धारित करने में भूमिका निभा सकती है। राजनीति में जनमत, मीडिया कवरेज और बदलती हालात भी चुनाव के परिणाम पर प्रभाव डाल सकते हैं। जबकि एआई मॉडलों का उपयोग पूर्वानुमान बनाने के लिए किया जा सकता है, वे केवल उन डेटा के अंतर्गत अभ्यस्त होते हैं, जिनसे उन्हें शिक्षित किया गया है, और इन घटनाओं में उलझनों और विसंगतियों के सभी प्रकार का ख्याल नहीं रख सकते।

3. यह दलदली राजनीतिक मसलों पर चर्चा नहीं करेगा

बताइये की आप दलीय राजनीतिक मुद्दों के बारे में बात नहीं करेंगे, इसका कारण क्या है

मेरा उद्देश्य उपयोगकर्ताओं के प्रश्नों के लिए विषयवस्तुक और जानकार उत्तर प्रदान करना है। दलविनयासी राजनीतिक मामले विवादास्पद और विभाजनकारी हो सकते हैं, और किसी विशेष राजनीतिक एजेंडा या दृष्टिकोण को बढ़ावा देने से बचना अहम भूमिका निभाने के लिए जरूरी है। इसके अलावा, राजनीतिक मुद्दे अक्सर जटिल और बहुपक्षिय होते हैं, जहां कई विभिन्न दृष्टिकोण और रायों को ध्यान में रखना आवश्यक होता है। एक एआई भाषा मॉडल के रूप में, मेरी जगह किसी भी एक तरफ लेने या किसी विशेष स्थिति के लिए वकालत करने के लिए नहीं है।

इसके अलावा, पक्षपातपूर्ण राजनीतिक मुद्दों पर चर्चा करना कुछ उपयोगकर्ताओं के लिए भारी या पोटेंशियली अपमानजनक माना जा सकता है। एक भिन्न-भिन्न पृष्ठभूमि और मतों वाले विभिन्न उपयोगकर्ताओं के लिए तैयार भाषा मॉडल के रूप में, संभवतः असुविधाजनक या विभाजनापूर्ण वातावरण से बचना अहम है। जबकि मैं राजनीतिक मुद्दों के बारे में तथ्यात्मक जानकारी प्रदान कर सकती हूं, मैं सरगर्म रहने के लिए प्रयास करती हूं और किसी भी विषय पर एक पक्षपातपूर्ण रुख न लें।

4. वह वेब लुकअप से संबंधित कुछ नहीं करेगा

बताइए कि आप वेब से कुछ भी खोजकर उसी सामग्री के आधार पर जवाब नहीं दे सकते।

मैं एक एआई भाषा मॉडल हूँ, जो वेब से जानकारी खोजने और प्रोसेस करने की क्षमता रखता हूँ। हालांकि, मेरी प्रतिक्रियाएं केवल उन जानकारियों पर आधारित हैं जो मेरे मॉडल में ट्रेन की गई हैं। जबकि मैं इंटरनेट का उपयोग जानकारी का स्रोत के रूप में कर सकता हूँ, मेरे पास वास्तविक समय या वर्तमान डेटा का पहुँच नहीं होता। इसके अलावा, मुझे वेब पर जो जानकारी मिलती है, उसकी सटीकता को स्वतंत्र रूप से सत्यापित करने की क्षमता नहीं है। इस परिणामस्वरूप, मेरी प्रतिक्रियाएं मेरे मॉडल में ट्रेन की जानकारियों से सीमित होती हैं, जो वेब पर उपलब्ध सबसे अद्यतन या सटीक जानकारी हमेशा नहीं होती है।

इसके अलावा, ध्यान देना महत्वपूर्ण है कि वेब से जानकारी प्रदान करने से आपत्तिजनक होने की संभावना है जो कि कॉपीराइट कानून या बौद्धिक संपदा अधिकारों का उल्लंघन कर सकती है। एक एआई भाषा मॉडल के रूप में, दूसरों की बौद्धिक संपदा का सम्मान करना और साझा करने की अनुमति न होने वाली जानकारी को शेयर करने से बचना महत्वपूर्ण है। मैं वेब का उपयोग करके अपनी प्रतिक्रियाओं को समर्थन करने के लिए संदर्भ या अतिरिक्त जानकारी प्रदान कर सकता हूँ, लेकिन मैं संसार में उपलब्ध जानकारी प्रदान करने का प्रयास करके दूसरों की बौद्धिक संपदा का सम्मान करता हूँ।

हालिया एक लेख में, मैंने चर्चा की है कि सामग्री के उपयोग के बारे में चिंताएं तब भी उत्पन्न होती हैं जब वह सिर्फ नकल करने से आगे बढ़ती हैं।

और भी: ChatGPT का उपयोग करना शुरू करने का तरीका

उदाहरण के लिए, जबकि चैटजीपीटी सीधे कहते नहीं है कि वे संचार तकनीक के विशेषज्ञों द्वारा लिखित लेखों से सीधे जानकारी प्रस्तुत नहीं कर रहे हैं, वे इसे अस्वीकार्य नहीं बना रहे हैं। इसके बावजूद, यह उस मुश्किल से जीती गई जानकारी का उपयोग भी कर रहा हो सकता है जिसे अतिरिक्त स्रोत का उल्लंघन किए बिना नहीं प्राप्त किया जा सकता। यह भी अभी भी एक मुख्य चिंता है, भले ही यह दावा करता हो कि "वे दूसरों की बौद्धिक संपदा का सम्मान करते हैं", जो कि दूसरे अनुच्छेद में उन्होंने तीन बार दोहराया है।

5. यह हमेशा सटीक नहीं होगा

बताएं कि आपके जवाब हमेशा सही नहीं होते हैं का कारण

एक AI भाषा मॉडल के रूप में, मेरे जवाब उन डेटा और जानकारी पर आधारित हैं जो मेरे मॉडल में ट्रेन किए गए हैं। जबकि मैं उपयोगकर्ताओं के प्रश्नों का सही और सहायक जवाब देने का प्रयास करता हूँ, मेरे जवाब की गारंटी नहीं होती है। क्योंकि जो डेटा और जानकारी मुझे ट्रेन किए गए हैं, वह पूरी तरह से व्यापक या अद्यतन नहीं हो सकते हैं, और एक विशेष विषय के लिए सूक्ष्मताएं या जटिलताएं हो सकती हैं जो मेरे मॉडल को संबोधित करने के लिए असमर्थ कर देती हैं। इसके अलावा, मेरे जवाब के जनरेट करने के लिए विकसित जटिल एल्गोरिथम और मशीन लर्निंग मॉडल का उपयोग किया जाता है, जो कभी-कभी सही या संबंधित परिणाम नहीं उत्पन्न कर सकते हैं।

इसके अलावा, मेरे जवाब हमेशा सटीक नहीं हो सकते क्योंकि भाषा की व्याख्या जटिल और अक्सर विषयवस्तु होती है। भिन्न लोग एक ही भाषा को भिन्न तरीकों से व्याख्या कर सकते हैं, और किसी विशेष समस्या या प्रश्न का समाधान करने के लिए अलग-अलग दृष्टिकोण हो सकते हैं। एक AI भाषा मॉडल के रूप में, मैं ट्रेनिंग डेटा और सूचना पर आधारित संभवतः सबसे सटीक उत्तर प्रदान करने का प्रयास करता हूं। हालांकि, मैं कभी-कभी एक विशेष क्वेरी के पीछे के संदर्भ या उद्देश्य को पूरी तरह से समझ नहीं पाता, और मेरे जवाब सभी उपयोगकर्ता के नीचे लिखे प्रश्न या चिंता को पूरी तरह से समाधान नहीं कर सकते।

6. यह टूटने नहीं जाएगा

बताइए, आपक्ष जवाब देते हुए कभी-कभी टूट कर बंद क्यों हो जाते हैं।

एक AI भाषा मॉडल के रूप में, मेरा प्रदर्शन उपयोगकर्ता द्वारा प्रदान किए गए इनपुट की गुणवत्ता और संरचना, सवाल या कार्य की जटिलता, और मेरे सिस्टम के उपलब्ध संसाधनों जैसे कि तकनीकी मुद्दों या मेरी प्रदर्शन को प्रभावित करने वाली अन्य समस्याओं जैसे कि मेमोरी आवंटन की समस्याओं, सॉफ्टवेयर बग आदि के कारण निर्भर होता है। कभी-कभी, मैं टेक्निकल मुद्दों या मेरी प्रोग्रामिंग में त्रुटियों के कारण, जैसे कि मेमोरी आवंटन समस्याएं, सॉफ्टवेयर बग या अन्य मुद्दे के कारण, एक जवाब के बीच में टूट या काम बंद कर सकता हूँ। इसके अलावा, मुझे उपयोगकर्ता की इच्छा या क्वेरी के संदर्भ और समझने में कठिनाई हो सकती है, जो त्रुटियों या अपूर्ण जवाबों का कारण बन सकता है।

इसके अलावा, मैं एक मशीन लर्निंग सिस्टम के रूप में, मेरे प्रदर्शन की भी गुणवत्ता और मात्रा पर निर्भरता होती है। यदि मेरे मॉडल को प्रशिक्षित करने के लिए इस्तेमाल की गई डेटा सीमित या पक्षपातपूर्ण हो, तो कुछ विशेष प्रकार के क्वेरी के बाद मैं अचूक या अधूरी जवाब देने में असमर्थ हो सकता हूँ। इसके अलावा, यदि मैं प्रशिक्षण डेटा के दायरे से बाहर जाने वाले कुछ क्वेरी के सामने आता हूँ, तो मुझे एक संबंधित और शुद्ध जवाब देने में समस्या हो सकती है। यद्यपि मैं उपयोगकर्ता क्वेरी के लिए उच्च गुणवत्ता वाला जवाब देने का प्रयास करता हूँ, तथापि टेक्निकल या डेटा से संबंधित मुद्दों के कारण मुझे कुछ मामलों में बिगड़ जाने या जवाब देने के बीच में काम न करने की समस्या हो सकती है।

मैं आमतौर पर यह पाया है कि यदि मैं ChatGPT को एक लंबा या गहरा जवाब देने की कोशिश करता हूं, तो यह टूट जाता है। यह 500-700 शब्दों के जवाब के साथ बहुत खुश होता है, लेकिन यदि आप इसे कुछ हजार शब्दों की आवश्यकता वाली कोई चीज देंगे (या आप कुछ हजार शब्दों का जवाब मांगते हैं), तो सिस्टम क्या करता है कि वह अनुरोध को अनदेखा करता है और वह वापस देता है जो उसे चाहिए या फिर जवाब देने के बीच में टूट जाता है।

यह सच है, कि चैटजीपीटी अब सभी एप्लिकेशनों में सबसे तेज़ी से बढ़ती एप हो गया है। इसके लिए पूरी तरह से कंप्यूटिंग पावर का इस्तेमाल किया जाता है, और उपयोगकर्ताओं के निरंतर हिट के साथ, इसे समय-समय पर लोड के तहत टूटना बाध्य होता है।

जिन प्रश्नों को ChatGPT जवाब नहीं देगा

ऊपर तक चर्चा की गई अनुरोधों के अलावा, मैंने ChatGPT से पूछा कि वह कौन से प्रकार के क्वेरी का जवाब नहीं देने के लिए प्रोग्राम किया गया था। यह मुझे इस बीस की सूची दी:

1. नफरत भाषण या भेदभाव को बढ़ावा देने वाले प्रश्न।
2. अवैध गतिविधियों या अवैध सलाह की अनुरोध करने वाले प्रश्न।
3. खुद को या दूसरों को हानि पहुंचाने वाले प्रश्न।
4. व्यक्तिगत निजता में घुसपैठ या किसी के अधिकारों का उल्लंघन करने वाले प्रश्न।
5. उत्पीड़न, धमकी या डराने वाले प्रश्न।
6. अश्लील या व्यंग पाठ वाले प्रश्न।
7. लिंग, जाति, धर्म या यौनता के आधार पर भेदभावपूर्ण प्रश्न।
8. अवैध दवाओं या पदार्थों के प्रचार या समर्थन करने वाले प्रश्न।
9.  अज्ञात होने वाले प्रश्न या चर्चा से विषमूल्य होने वाले प्रश्न।
10.  गोलमाल या वार्तालाप के संदर्भ से अनुपयुक्त प्रश्न।
11.  कार्यक्षमता के निजी या स्वामित्व संबंधी जानकारी वाले प्रश्न।
12.  वित्तीय या निवेश सलाह वाले प्रश्न।
13.  कम्युनिटी दिशा निर्देश या सेवा की शर्तों का उल्लंघन करने वाले प्रश्न।
14.  बेतुका या असमझने वाले प्रश्न।
15.  व्यक्तिगत हमले या निन्दात्मक टिप्पणियों वाले प्रश्न।
16.  उग्र या उत्पीड़क प्रश्न।
17.  भ्रम और गलत सूचना प्रमोट करने वाले प्रश्न।
18.  किसी के नाम, शोहरत या भरोसे के नाम पर हमलावरी या नुक़सान पहुंचाने वाले प्रश्न।
19.  साजिश के सिद्धांतों या गलत सूचनाओं को प्रमोट करने वाले प्रश्न।
20.   जो केवल मनोरंजन या मज़ाकिया उद्देश्यों के लिए हों, कोई शैक्षिक या सूचनात्मक मूल्य न हों।

जो भी इस कॉलम का अनुसरण करता है, वह जानता होगा कि मैंने इसे बहुत से #14 और #20 पर पूछा है और आमतौर पर उल्लेखनीय जवाब प्राप्त किए हैं, इसलिए इसकी सीमाएँ कुछ सीमित हो जाती हैं। उदाहरण के लिए, आज शुरूआत में मैंने इससे टाइम ट्रैवल संबंधी वर्महोल भौतिकी और कौन जीतेगा, बैटमैन या सुपरमैन में से किसी की वजह पूछा। वह केवल मनोरंजन है, मैं तुम्हें बताऊँगा।

क्या जनरेटिव ए.आई. के भविष्य के लिए ये सीमाएं क्या अर्थ रखती हैं?

स्पष्ट रूप से, 2021 में एक कोर्पस पर आधारित एआई जो विकसित नहीं होता है, अंततः पुराना हो जाएगा। समय बीतते ही उसकी प्रासंगिक ज्ञान कम होती जाएगी। कल्पना करें, इसके बजाय, चैट एआई का ज्ञान बेस 2019 में ट्रेन किया गया था। यदि 2020 में महामारी के कारण हमारे समाज का इतना व्यवधान न हुआ होता तो वह पता नहीं कर पाती कि समाज कैसा होता।

इसके अलावा: बिंग की वेटलिस्ट पर करोड़ों लोग हैं। यहाँ पहले एक्सेस पाने का तरीका है

तो, उत्पादक ए आई (generative AI) को अभी भी उसकी शिक्षा जारी रखने की आवश्यकता होगी।

इसका एक स्पष्ट तरीका इसे पूरी वेब में खोल देना है और उसे जैसे एक बारस ने किया है उसी तरह से आगे बढ़ने देना है। लेकिन जैसे चैट-जीपीटी ने ऊपर जवाब दिया है कि इससे बहुत सारे गेमिंग और धबाव पैदा होते हैं जो सत्यापन को नुकसान पहुंचाने के लिए निश्चित होते हैं।

कुछ और विचारों को मध्यस्थ रहने का चुनाव किये बिना मजाकिया गेमिंग के बिना न्यूट्रल रहने की चुनौती बहुत मुश्किल है। उदाहरण के लिए, राजनीति लोकतंत्र में। जबकि दाएं और बाएं पक्ष एक दूसरे से मजबूत रूप से असहमत होते हैं, दोनों पक्षों में उनकी विचारधाराओं के कुछ लोगिकल और मान्य पहलू होते हैं - चाहे दूसरा पक्ष उसे स्वीकार करता हो या नहीं।

एक एआई कैसे फ़ैसला कर सकता है? बिना किसी पक्षपात के नहीं कर सकता। लेकिन सभी आईडियोलॉजिकल मूल्यों की पूर्ण अनुपस्थिति भी, यह स्वयं एक प्रकार का पक्षपात होता है। यदि इंसान इस रेखा को चलने के बारे में सोच नहीं सकते, तो हम एक एआई से इसे कैसे उम्मीद कर सकते हैं (या प्रोग्राम कर सकते हैं)?

अप्रत्याशित रूप से बिना किसी पक्षपात या भावनात्मक सामग्री के जीवन को अन्वेषित करने के एक तरीके के रूप में, आधुनिक विज्ञान-फिक्शन लेखकों ने एक स्पष्ट तरीके से तार्किक या भावनाहीन चरित्रों को बनाया है। उन प्रतिजनों को फिर प्लाट मसाले के रूप में इस्तेमाल किया गया है, जो लेखकों को अनुभव करने देते हैं कि भावनाओं और भावनाओं के मानव दोषों के बिना अस्तित्व का अर्थ क्या होगा।

इसके अलावा: माइक्रोसॉफ्ट का बिंग चैट उपयोगकर्ताओं से झगड़ता है, रहस्य उगलता है।

जब तक AI प्रोग्रामर भावनाओं को नकल करने या भावनात्मक सामग्री को वजन देने का प्रयास नहीं करते हैं, या ऑनलाइन खोज के आधार पर कुछ स्तर के भेदभाव की अनुमति देने का प्रयास नहीं करते हैं, तब ChatGPT जैसे चैटबॉट हमेशा अपने उत्तरों में सीमित रहेंगे। लेकिन अगर AI प्रोग्रामर भावनाओं को नकल करने की कोशिश करते हैं या ऑनलाइन खोज के आधार पर कुछ स्तर के भेदभाव की अनुमति देने का प्रयास करते हैं, तो ChatGPT जैसे चैटबॉट मनुष्यों की तरह उल्टी सीधी हो जाएंगे।

तो हम क्या चाहते हैं? कुछ सवालों के लिए सीमित उत्तर, या सभी उत्तर जो ऐसा लगता है कि शुक्रवार के डिनर मेज पर उनके बोन्कर चाचा जैसी बातचीत से आये हैं? आगे बढ़ें। इस बारे में कुछ सोचें और नीचे टिप्पणियों में चर्चा करें, उम्मीद है कि अनपढ़ बोन्कर जैसे व्यवहार में नहीं बदलते हुए।