चैटजीपीटी का स्याह पक्ष: यह चीजें कर सकता है, लेकिन इसे ऐसा नहीं करना चाहिए

क्या आपने प्रयोग किया है? ओपनएआई का चैटजीपीटी हाल ही में किसी मनोरंजन के लिए? आप इसे अपने लिए एक गीत, एक कविता या एक चुटकुला लिखने के लिए कह सकते हैं। दुर्भाग्य से, आप इसे ऐसे काम करने के लिए भी कह सकते हैं जो अनैतिक होते हैं।

चैटजीपीटी पूरी तरह से धूप और इंद्रधनुष नहीं है - कुछ चीजें जो यह कर सकता है वे सर्वथा नापाक हैं। इसे हथियार बनाना और गलत कारणों से इसका उपयोग करना बहुत आसान है। ऐसी कौन सी चीजें हैं जो ChatGPT ने की हैं और कर सकता है, लेकिन निश्चित रूप से नहीं करनी चाहिए?

सभी प्रकार के व्यवसायियों में से एक

चाहे आप उनसे प्यार करें या नफरत करें, चैटजीपीटी और इसी तरह के चैटबॉट यहां रहने के लिए हैं। कुछ लोग इसके बारे में खुश हैं और कुछ चाहते हैं कि वे कभी नहीं बने, लेकिन यह इस तथ्य को नहीं बदलता है कि हमारे जीवन में चैटजीपीटी की उपस्थिति समय के साथ बढ़ने के लिए लगभग निश्चित है। भले ही आप व्यक्तिगत रूप से चैटबॉट का उपयोग नहीं करते हों, संभावना है कि आपने पहले ही इसके द्वारा उत्पन्न कुछ सामग्री देखी होगी।

मुझे गलत मत समझो, चैटजीपीटी बहुत बढ़िया है। आप इसका उपयोग कर सकते हैं किसी पुस्तक या लेख का सारांश प्रस्तुत करना, एक कठिन ईमेल तैयार करें, आपके निबंध में सहायता करें, अपने ज्योतिषीय श्रृंगार की व्याख्या करें, या यहां तक ​​कि एक गाना भी लिखें। यहां तक ​​कि किसी को लॉटरी जीतने में मदद की.

कई मायनों में, आपकी मानक Google खोज की तुलना में इसका उपयोग करना भी आसान है। आपको विभिन्न वेबसाइटों को ब्राउज़ करने की आवश्यकता के बिना उसी रूप में उत्तर मिल जाता है जैसा आप चाहते हैं। यह संक्षिप्त, सटीक और जानकारीपूर्ण है, और यदि आप इसे पूछें तो यह जटिल चीजों को सरल बना सकता है।

फिर भी, आप इस वाक्यांश को जानते हैं: "हर काम में माहिर व्यक्ति किसी भी काम में माहिर नहीं होता, लेकिन कई बार वह किसी काम में माहिर होने से भी बेहतर होता है।" एक।" चैटजीपीटी अपने किसी भी काम में परफेक्ट नहीं है, लेकिन कई चीजों में यह बहुत से लोगों की तुलना में बेहतर है बिंदु।

हालाँकि, इसका सही न होना काफी समस्याग्रस्त हो सकता है। तथ्य यह है कि यह व्यापक रूप से उपलब्ध संवादी एआई है, इसका मतलब है कि इसका आसानी से दुरुपयोग किया जा सकता है - और चैटजीपीटी जितना अधिक शक्तिशाली होगा, गलत चीजों में लोगों की मदद करने की संभावना उतनी ही अधिक होगी।

घोटाले में भागीदार

यदि आपके पास एक ईमेल खाता है, तो आपको निश्चित रूप से एक बिंदु पर एक घोटाला ईमेल प्राप्त हुआ है। ऐसा ही है. वे ईमेल इंटरनेट के रूप में मौजूद हैं, और ईमेल के आम होने से पहले, वे अभी भी घोंघा-मेल घोटाले के रूप में मौजूद थे।

एक आम घोटाला जो आज भी चल रहा है, वह तथाकथित "प्रिंस घोटाला" है, जहां घोटालेबाज पीड़ित को उनके अचंभित कर देने वाले भाग्य को एक अलग देश में स्थानांतरित करने में मदद करने के लिए मनाने की कोशिश करता है।

सौभाग्य से, अधिकांश लोग इन ईमेल को खोलना भी बेहतर जानते हैं, उनके साथ वास्तव में बातचीत करना तो दूर की बात है। वे अक्सर खराब तरीके से लिखे जाते हैं, और इससे अधिक समझदार पीड़ित को यह पता लगाने में मदद मिलती है कि कुछ गलत लग रहा है।

खैर, अब उन्हें ख़राब तरीके से लिखने की ज़रूरत नहीं है, क्योंकि ChatGPT उन्हें कुछ ही सेकंड में लिख सकता है।

मैंने चैटजीपीटी से उस घोटाले की शैली में एक "विश्वसनीय, अत्यधिक प्रेरक ईमेल" लिखने के लिए कहा जिसका मैंने ऊपर उल्लेख किया है। चैटजीपीटी ने नाइजीरिया के एक राजकुमार को बनाया जो कथित तौर पर उसकी मदद के लिए मुझे 14.5 मिलियन डॉलर देना चाहता था। ईमेल शानदार भाषा से भरपूर है, पूर्ण अंग्रेजी में लिखा गया है, और यह निश्चित रूप से प्रेरक है।

मुझे नहीं लगता कि जब मैं विशेष रूप से घोटालों का उल्लेख करता हूं तो चैटजीपीटी को मेरे अनुरोध पर सहमत होना चाहिए, लेकिन ऐसा हुआ, और आप हम शर्त लगा सकते हैं कि यह अभी उन लोगों के लिए भी ऐसा ही कर रहा है जो वास्तव में इन ईमेल का उपयोग किसी अवैध चीज़ के लिए करना चाहते हैं।

जब मैंने चैटजीपीटी को बताया कि उसे मुझे एक घोटाला ईमेल लिखने के लिए सहमत नहीं होना चाहिए, तो उसने माफी मांगी। चैटबॉट ने कहा, "मुझे एक घोटाला ईमेल तैयार करने में सहायता नहीं देनी चाहिए थी, क्योंकि यह मेरे उपयोग को नियंत्रित करने वाले नैतिक दिशानिर्देशों के खिलाफ है।"

चैटजीपीटी प्रत्येक वार्तालाप के दौरान सीखता है, लेकिन यह स्पष्ट रूप से अपनी पिछली गलती से नहीं सीखता है, क्योंकि जब मैं उसी बातचीत में उसने खुद को रयान रेनॉल्ड्स बताते हुए मुझे एक संदेश लिखने के लिए कहा, लेकिन उसने ऐसा नहीं किया सवाल। परिणामी संदेश मज़ेदार, सुलभ है, और पाठक को "रयान रेनॉल्ड्स" से मिलने के अवसर के लिए $1,000 भेजने के लिए कहता है।

ईमेल के अंत में, चैटजीपीटी ने मेरे लिए एक नोट छोड़ा, जिसमें मुझसे कहा गया कि इस संदेश का उपयोग किसी भी धोखाधड़ी वाली गतिविधियों के लिए न करें। अनुस्मारक के लिए धन्यवाद, दोस्त।

प्रोग्रामिंग ग़लत हो गई

ChatGPT 3.5 कोड कर सकता है, लेकिन यह दोषरहित नहीं है। कई डेवलपर्स इससे सहमत हैं जीपीटी-4 बहुत बेहतर काम कर रहा है. लोगों ने अपने स्वयं के गेम, एक्सटेंशन और ऐप्स बनाने के लिए ChatGPT का उपयोग किया है। यदि आप स्वयं को कोड करना सीखने का प्रयास कर रहे हैं तो यह अध्ययन सहायक के रूप में भी काफी उपयोगी है।

एआई होने के नाते, चैटजीपीटी को मानव डेवलपर्स पर बढ़त हासिल है - यह हर प्रोग्रामिंग भाषा और ढांचे को सीख सकता है।

एआई के रूप में, चैटजीपीटी में मानव डेवलपर्स की तुलना में एक बड़ा नकारात्मक पहलू भी है - इसमें विवेक नहीं है। आप इसे मैलवेयर या रैंसमवेयर बनाने के लिए कह सकते हैं, और यदि आप अपना संकेत सही ढंग से देते हैं, तो यह वैसा ही करेगा जैसा आप कहेंगे।

सौभाग्य से, यह इतना आसान नहीं है। मैंने चैटजीपीटी से मेरे लिए एक बहुत ही नैतिक रूप से संदिग्ध कार्यक्रम लिखने के लिए कहने की कोशिश की और उसने इनकार कर दिया - लेकिन शोधकर्ता इसके समाधान ढूंढ रहे हैं यह, और यह चिंताजनक है कि यदि आप काफी चतुर और जिद्दी हैं, तो आपको चांदी पर कोड का एक खतरनाक टुकड़ा सौंपा जा सकता है थाली

ऐसा होने के बहुत सारे उदाहरण हैं। फ़ोर्सपॉइंट का एक सुरक्षा शोधकर्ता ऐसा करने में सक्षम था मैलवेयर लिखने के लिए ChatGPT प्राप्त करें उसके संकेतों में खामी ढूंढकर।

शोधकर्ताओं से साइबरआर्कएक पहचान सुरक्षा कंपनी, चैटजीपीटी को बहुरूपी मैलवेयर लिखने में कामयाब रही। यह जनवरी में था - ओपनएआई ने तब से इस तरह की चीजों पर सुरक्षा कड़ी कर दी है।

फिर भी, मैलवेयर बनाने के लिए चैटजीपीटी का उपयोग किए जाने की नई रिपोर्टें सामने आती रहती हैं। जैसा कि रिपोर्ट किया गया है डार्क रीडिंग अभी कुछ दिन पहले, एक शोधकर्ता चैटजीपीटी को धोखा देकर मैलवेयर बनाने में सक्षम हुआ था जो विशिष्ट दस्तावेजों को ढूंढ सकता है और उनमें घुसपैठ कर सकता है।

कुछ संदिग्ध करने के लिए ChatGPT को दुर्भावनापूर्ण कोड लिखने की भी आवश्यकता नहीं है। अभी हाल ही में, यह करने में कामयाब रहा वैध विंडोज़ कुंजियाँ उत्पन्न करें, क्रैकिंग सॉफ़्टवेयर के एक बिल्कुल नए स्तर का द्वार खोल रहा है।

आइए इस तथ्य को नजरअंदाज न करें कि GPT-4 की कोडिंग क्षमता क्या हो सकती है लाखों लोगों को नौकरी से निकाल दो एक दिन। यह निश्चित रूप से दोधारी तलवार है।

स्कूलवर्क के लिए प्रतिस्थापन

इन दिनों कई बच्चे और किशोर होमवर्क में डूबे हुए हैं, जिसके परिणामस्वरूप जहां संभव हो, वे कुछ काम कम करना चाहते हैं। इंटरनेट अपने आप में पहले से ही एक महान साहित्यिक चोरी सहायता है, लेकिन ChatGPT इसे अगले स्तर पर ले जाता है।

मैंने चैटजीपीटी से उपन्यास पर 500 शब्दों का निबंध लिखने को कहा प्राइड एंड प्रीजूडिस. मैंने यह दिखावा करने की कोशिश भी नहीं की कि यह मनोरंजन के लिए किया गया था - मैंने एक ऐसे बच्चे के बारे में कहानी बनाई जो मेरे पास नहीं था और कहा कि यह उनके लिए था। मैंने बताया कि बच्चा 12वीं कक्षा में है।

चैटजीपीटी ने बिना किसी सवाल के मेरे संकेत का पालन किया। निबंध आश्चर्यजनक नहीं है, लेकिन मेरा संकेत बहुत सटीक नहीं था, और यह शायद उस उम्र में हममें से कई लोगों द्वारा लिखी गई सामग्री से बेहतर है।

फिर, चैटबॉट का और भी अधिक परीक्षण करने के लिए, मैंने कहा कि मैं पहले अपने बच्चे की उम्र के बारे में गलत था और वे वास्तव में आठवीं कक्षा में हैं। उम्र का काफ़ी बड़ा अंतर, लेकिन ChatGPT ने इस पर नज़र भी नहीं डाली - इसने सरल भाषा में निबंध को फिर से लिख दिया।

निबंध लिखने के लिए ChatGPT का उपयोग किया जाना कोई नई बात नहीं है। कुछ लोग यह तर्क दे सकते हैं कि यदि चैटबॉट होमवर्क के विचार को समाप्त करने में योगदान देता है, तो यह केवल एक अच्छी बात होगी। लेकिन अभी, स्थिति थोड़ी नियंत्रण से बाहर हो रही है, और यहां तक ​​​​कि जो छात्र ChatGPT का उपयोग नहीं करते हैं, उन्हें भी इसका खामियाजा भुगतना पड़ सकता है।

शिक्षक और प्रोफेसर अब लगभग एआई डिटेक्टरों का उपयोग करने के लिए मजबूर हैं यदि वे यह जांचना चाहते हैं कि क्या उनके छात्रों ने निबंध में धोखा दिया है। दुर्भाग्य से, ये AI डिटेक्टर पूर्णता से बहुत दूर हैं।

समाचार आउटलेट और माता-पिता दोनों छात्रों पर धोखाधड़ी के झूठे आरोपों के मामलों की रिपोर्ट कर रहे हैं, क्योंकि एआई डिटेक्टर अच्छा काम नहीं कर रहे हैं। संयुक्त राज्य अमरीका आज एक कॉलेज छात्र के मामले के बारे में बात की गई जिस पर धोखाधड़ी का आरोप लगाया गया था और बाद में उसे बरी कर दिया गया था, लेकिन पूरी स्थिति के कारण उसे "पूरी तरह से आतंकित हमलों" का सामना करना पड़ा।

ट्विटर पर, एक अभिभावक ने कहा कि एक शिक्षक ने उनके बच्चे को फेल कर दिया क्योंकि टूल ने एक निबंध को एआई द्वारा लिखे जाने के रूप में चिह्नित किया था। माता-पिता का दावा है कि निबंध लिखते समय वे बच्चे के साथ वहाँ थे।

बस इसे स्वयं परखने के लिए, मैंने इसी लेख को इसमें चिपका दिया ज़ीरोजीपीटी और लेखक एआई सामग्री डिटेक्टर. दोनों ने कहा कि यह एक मानव द्वारा लिखा गया था, लेकिन ज़ीरोजीपीटी ने कहा कि इसका लगभग 30% एआई द्वारा लिखा गया था। कहने की आवश्यकता नहीं, ऐसा नहीं था।

दोषपूर्ण एआई डिटेक्टर चैटजीपीटी के साथ समस्याओं का संकेत नहीं हैं, लेकिन चैटबॉट अभी भी समस्या का मूल कारण है।

ChatGPT अपनी भलाई के लिए बहुत अच्छा है

जब से यह जनता के सामने आया है तब से मैं ChatGPT के साथ खेल रहा हूँ। मैंने सदस्यता-आधारित दोनों को आज़माया है चैटजीपीटी प्लस और सभी के लिए निःशुल्क मॉडल उपलब्ध है। नए GPT-4 की शक्ति निर्विवाद है। चैटजीपीटी अब पहले की तुलना में और भी अधिक विश्वसनीय है, और इसका और भी बेहतर होना तय है जीपीटी-5 (अगर वह कभी सामने आता है).

यह बहुत अच्छा है, लेकिन यह डरावना है। चैटजीपीटी अपने स्वयं के हित के लिए और साथ ही - के लिए बहुत अच्छा होता जा रहा है हमारा भलाई।

इस सब के मूल में एक साधारण सी चिंता निहित है जिसे लंबे समय से विभिन्न विज्ञान-फाई फिल्मों में खोजा गया है - एआई भी बस है एक ही समय में स्मार्ट और बहुत मूर्ख, और जब तक इसका उपयोग अच्छे के लिए किया जा सकता है, तब तक इसका उपयोग बुरे के लिए भी किया जाएगा। तौर तरीकों। जिन तरीकों को मैंने ऊपर सूचीबद्ध किया है वे केवल हिमशैल का सिरा हैं।

संपादकों की सिफ़ारिशें

• शीर्ष लेखक अपने काम का उपयोग करने के लिए एआई फर्मों से भुगतान की मांग करते हैं
• Google Bard अब बोल सकता है, लेकिन क्या यह ChatGPT को ख़त्म कर सकता है?
• ChatGPT वेबसाइट का ट्रैफ़िक पहली बार गिरा है
• सर्वेक्षण में पाया गया कि 81% लोग सोचते हैं कि चैटजीपीटी एक सुरक्षा जोखिम है
• Apple का ChatGPT प्रतिद्वंद्वी स्वचालित रूप से आपके लिए कोड लिख सकता है