गूगल बार्ड एक नैतिक गड़बड़ है, ऐसा गूगल के अपने कर्मचारियों का कहना है

गूगल ने लॉन्च किया चारणएक नई रिपोर्ट में दावा किया गया है कि इसका चैटजीपीटी प्रतिद्वंद्वी, आंतरिक चिंताओं के बावजूद कि यह एक "पैथोलॉजिकल झूठा" था और इसने "कठोर" परिणाम दिए। कार्यकर्ता का कहना है कि इन चिंताओं को स्पष्ट रूप से एक उन्मत्त प्रयास में नजरअंदाज कर दिया गया चैटजीपीटी से जुड़ें और इससे उत्पन्न होने वाले खतरे से बचें Google का खोज व्यवसाय.

खुलासे एक से होते हैं ब्लूमबर्ग की रिपोर्ट जिसने गहरा गोता लगाया गूगल बार्ड और परियोजना पर काम करने वाले कर्मचारियों द्वारा उठाए गए मुद्दे। यह इस बात का आंखें खोलने वाला विवरण है कि किस तरह से चैटबॉट स्पष्ट रूप से पटरी से उतर गया है और इन घटनाओं ने संबंधित कर्मचारियों के बीच किस तरह की आशंकाएं पैदा की हैं।

उदाहरण के लिए, ब्लूमबर्ग एक गुमनाम कर्मचारी का हवाला देता है जिसने बार्ड से विमान को उतारने के तरीके के बारे में निर्देश मांगे थे, फिर यह देखकर भयभीत हो गए कि बार्ड के विवरण से दुर्घटना हो सकती है। एक अलग कार्यकर्ता ने कहा कि बार्ड की स्कूबा डाइविंग युक्तियों के परिणामस्वरूप "संभवतः गंभीर चोट या मृत्यु हो सकती है।"

इन मुद्दों को स्पष्ट रूप से बार्ड के लॉन्च होने से कुछ समय पहले उठाया गया था, फिर भी Google ने गो-लाइव तिथि को आगे बढ़ाया, ऐसी उसकी इच्छा थी कि वह इसके साथ तालमेल बनाए रखे। ChatGPT द्वारा पथ प्रज्वलित. लेकिन इसने अपनी नैतिक प्रतिबद्धताओं की अनदेखी करते हुए ऐसा किया है, जिसके परिणामस्वरूप न केवल खतरनाक सलाह दी गई है, बल्कि गलत सूचना भी फैलने की संभावना है।

लॉन्च करने के लिए आगे बढ़ रहे हैं

2021 में, Google ने कृत्रिम बुद्धिमत्ता (AI) के नैतिक परिणामों का अध्ययन करने वाले अपने कर्मचारियों की टीम को दोगुना करने और संभावित नुकसान का निर्धारण करने में अधिक भारी निवेश करने का वादा किया। ब्लूमबर्ग रिपोर्ट का दावा है कि फिर भी वह टीम अब "अशक्त और हतोत्साहित" है। इससे भी बुरी बात यह है कि टीम के सदस्यों को "रास्ते में न आने या विकास में किसी भी जेनरेटिव एआई टूल को खत्म करने की कोशिश न करने" से कहा गया है, जिससे एआई नैतिकता के प्रति Google की प्रतिबद्धता पर सवाल खड़ा हो गया है।

बार्ड के लॉन्च होने से ठीक पहले इसे क्रियान्वित होते देखा गया था। फरवरी में, एक Google कर्मचारी ने एक आंतरिक समूह को संदेश भेजकर कहा, "बार्ड बेकार से भी बदतर है: कृपया लॉन्च न करें", कई अन्य कर्मचारियों ने सहमति व्यक्त की। अगले महीने, Google के AI गवर्नेंस प्रमुख जेन जेनाई ने बार्ड द्वारा कहे गए जोखिम मूल्यांकन को खारिज कर दिया नुकसान पहुंचा सकता है और लॉन्च के लिए तैयार नहीं था, की पहली सार्वजनिक रिलीज को आगे बढ़ा रहा था चैटबॉट.

ब्लूमबर्ग की रिपोर्ट एक ऐसी कंपनी की तस्वीर पेश करती है जो नैतिक चिंताओं के प्रति अविश्वास रखती है और उसे लगता है कि यह उसके अपने उत्पादों की लाभप्रदता के रास्ते में आ सकती है। उदाहरण के लिए, एक कर्मचारी ने मशीन लर्निंग में निष्पक्षता पर काम करने के लिए कहा, लेकिन उसे बार-बार हतोत्साहित किया गया, इस हद तक कि इससे उनके प्रदर्शन की समीक्षा प्रभावित हुई। प्रबंधकों ने शिकायत की कि नैतिक चिंताएँ उनके "वास्तविक कार्य" में बाधा डाल रही हैं, कर्मचारी ने कहा।

यह एक चिंताजनक रुख है, खासकर जब से हम पहले ही इसके बहुत सारे उदाहरण देख चुके हैं एआई चैटबॉट कदाचार जिसने आपत्तिजनक, भ्रामक या बिल्कुल गलत जानकारी उत्पन्न की है। यदि नैतिक चिंताओं के प्रति Google के शत्रुतापूर्ण दृष्टिकोण के बारे में ब्लूमबर्ग की रिपोर्ट सही है, तो AI के कारण होने वाली समस्याओं के मामले में यह सिर्फ शुरुआत हो सकती है।

संपादकों की सिफ़ारिशें

• शीर्ष लेखक अपने काम का उपयोग करने के लिए एआई फर्मों से भुगतान की मांग करते हैं
• जीपीटी-4: एआई चैटबॉट का उपयोग कैसे करें जो चैटजीपीटी को शर्मिंदा करता है
• Wix आपको शीघ्रता से संपूर्ण वेबसाइट बनाने में मदद करने के लिए ChatGPT का उपयोग करता है
• चैटजीपीटी निर्माता ओपनएआई को उपभोक्ता संरक्षण कानूनों पर एफटीसी जांच का सामना करना पड़ रहा है
• ChatGPT वेबसाइट का ट्रैफ़िक पहली बार गिरा है

अपनी जीवनशैली को उन्नत करेंडिजिटल ट्रेंड्स पाठकों को सभी नवीनतम समाचारों, मजेदार उत्पाद समीक्षाओं, व्यावहारिक संपादकीय और एक तरह की अनूठी झलक के साथ तकनीक की तेज़ गति वाली दुनिया पर नज़र रखने में मदद करता है।