ए समय की जांच एआई चैटबॉट उद्योग के संदिग्ध पक्ष को उजागर किया है, जिसमें बताया गया है कि कैसे कम से कम एक स्टार्टअप अपनी तकनीक को बेहतर बनाने के लिए संदिग्ध प्रथाओं का उपयोग कर रहा है।
बुधवार को प्रकाशित, टाइम की रिपोर्ट माइक्रोसॉफ्ट समर्थित ओपनएआई और पर केंद्रित है यह चैटजीपीटी चैटबॉट है, एक ऐसी तकनीक जिसने अत्यधिक प्राकृतिक संवादात्मक पाठ तैयार करने की अपनी उल्लेखनीय क्षमता के लिए हाल ही में बहुत ध्यान आकर्षित किया है।
अनुशंसित वीडियो
टाइम की जांच में पाया गया कि एआई तकनीक को प्रशिक्षित करने के लिए, ओपनएआई ने केन्या में एक टीम की सेवाओं का उपयोग उस पाठ पर ध्यान केंद्रित करने के लिए किया इसमें बाल यौन शोषण, पाशविकता, हत्या, आत्महत्या, यातना, खुद को नुकसान पहुंचाना आदि जैसे परेशान करने वाले विषय शामिल हैं कौटुम्बिक व्यभिचार। और घृणित सामग्री को लेबल करने के उनके प्रयासों के लिए, टीम के कई लोगों को प्रति घंटे $2 से भी कम प्राप्त हुआ।
संबंधित
- Google Bard अब बोल सकता है, लेकिन क्या यह ChatGPT को ख़त्म कर सकता है?
- चैटजीपीटी: नवीनतम समाचार, विवाद और युक्तियाँ जो आपको जानना आवश्यक हैं
- चैटजीपीटी की रिकॉर्ड वृद्धि को हाल ही में एक नए वायरल ऐप ने हटा दिया है
काम, जो नवंबर 2021 में शुरू हुआ, आवश्यक था क्योंकि चैटजीपीटी के पूर्ववर्ती, जीपीटी-3, प्रभावशाली होते हुए भी, उगलने की प्रवृत्ति रखते थे इसके प्रशिक्षण डेटासेट के रूप में आपत्तिजनक सामग्री को सभी कोनों से सैकड़ों अरबों शब्दों को हटाकर संकलित किया गया था वेब.
सैन फ्रांसिस्को फर्म सामा द्वारा संचालित केन्या स्थित टीम मदद के लिए आपत्तिजनक सामग्री को लेबल करेगी OpenAI के चैटबॉट को प्रशिक्षित करें, जिससे इसके डेटासेट में सुधार होगा और किसी भी आपत्तिजनक की संभावना कम हो जाएगी आउटपुट.
टाइम ने कहा कि सामा के जिन चार कर्मचारियों से बातचीत की गई, उन्होंने बताया कि वे अपने काम से मानसिक रूप से आहत थे। सामा ने परामर्श सत्र की पेशकश की, लेकिन कर्मचारियों ने कहा कि वे अप्रभावी थे और शायद ही कभी ऐसा हुआ हो नौकरी की माँगों के बावजूद, सामा के एक प्रवक्ता ने टाइम को बताया कि चिकित्सक किसी भी समय उपलब्ध थे समय।
एक कार्यकर्ता ने टाइम को बताया कि चौंकाने वाली सामग्री को पढ़ना कभी-कभी "यातना" जैसा महसूस होता है, उन्होंने कहा कि सप्ताह के अंत तक उन्हें "परेशान" महसूस होता है।
फरवरी 2022 में, सामा के लिए चीजें और भी खराब हो गईं, जब ओपनएआई ने चैटजीपीटी से असंबंधित एक अलग प्रोजेक्ट लॉन्च किया, जिसके लिए उसकी केन्या टीम को यौन और हिंसक प्रकृति की छवियां एकत्र करने की आवश्यकता थी। ओपनएआई ने टाइम को बताया कि उसके एआई टूल्स को सुरक्षित बनाने के लिए यह काम जरूरी था।
इस छवि-आधारित परियोजना के शुरू होने के कुछ ही हफ्तों के भीतर, कार्यों की चिंताजनक प्रकृति ने सामा को इसके साथ अपने सभी अनुबंध रद्द करने के लिए प्रेरित किया। ओपनएआई, हालांकि टाइम का सुझाव है कि यह उसी विषय पर प्रकाशित एक रिपोर्ट के पीआर नतीजों से भी प्रेरित हो सकता है जिसे उसने प्रकाशित किया था के बारे में फेसबुक लगभग एक ही समय में.
ओपन एआई ने टाइम को बताया कि जिस इमेजरी के बारे में उसने सामा से पूछा था, उसकी प्रकृति के बारे में "गलत संचार" हुआ था एकत्र करें, इस बात पर जोर देते हुए कि इसने सबसे चरम कल्पना के लिए नहीं कहा था, और जो कुछ भी था उसे नहीं देखा था भेजा गया।
लेकिन अनुबंध समाप्त होने से श्रमिकों की आजीविका पर असर पड़ा, केन्या में टीम के कुछ लोगों ने अपनी नौकरियां खो दीं, जबकि अन्य को कम वेतन वाली परियोजनाओं पर स्थानांतरित कर दिया गया।
समय की पड़ताल एआई-संचालित चैटबॉट्स में होने वाले काम पर एक असुविधाजनक लेकिन महत्वपूर्ण नज़र आती है जो हाल ही में तकनीकी उद्योग को इतना उत्साहित कर रहा है।
परिवर्तनकारी और संभावित रूप से लाभकारी होते हुए भी, प्रौद्योगिकी स्पष्ट रूप से मानवीय लागत पर आती है और कंपनियों के कामकाज के तरीके के बारे में कई नैतिक प्रश्न उठाती है। अपनी नई तकनीकों का विकास करना, और अधिक व्यापक रूप से इस बारे में कि कैसे अमीर देश कम वित्तीय लागत के लिए गरीब देशों को कम वांछनीय कार्य सौंपना जारी रखते हैं परिव्यय.
तकनीक के पीछे के स्टार्टअप आने वाले महीनों और वर्षों में अधिक केंद्रित जांच के दायरे में आएंगे, और इसलिए वे जल्द से जल्द अवसर पर अपनी प्रथाओं की समीक्षा और सुधार करेंगे।
डिजिटल ट्रेंड्स ने टाइम की रिपोर्ट पर टिप्पणी के लिए ओपनएआई से संपर्क किया है और जब हम जवाब देंगे तो हम इस लेख को अपडेट करेंगे।
संपादकों की सिफ़ारिशें
- सर्वश्रेष्ठ एआई वीडियो संपादन उपकरण
- चैटजीपीटी निर्माता ओपनएआई को उपभोक्ता संरक्षण कानूनों पर एफटीसी जांच का सामना करना पड़ रहा है
- एलोन मस्क की नई एआई कंपनी का लक्ष्य 'ब्रह्मांड को समझना' है
- ChatGPT वेबसाइट का ट्रैफ़िक पहली बार गिरा है
- वैज्ञानिकों का कहना है कि एआई की सफलता मधुमक्खियों के दिमाग से होकर आ सकती है
अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।
