א חקירת זמן חשפה את הצד העכור של תעשיית הצ'טבוטים של AI, והדגישה כיצד לפחות סטארט-אפ אחד השתמש בשיטות מפוקפקות כדי לשפר את הטכנולוגיה שלו.
הדוח של Time, שפורסם ביום רביעי, מתמקד ב-OpenAI ובגיבוי של מיקרוסופט הצ'אטבוט שלו ChatGPT, טכנולוגיה שזכתה לתשומת לב רבה לאחרונה בזכות יכולתה המדהימה לייצר טקסט שיחה טבעי ביותר.
סרטונים מומלצים
בדיקה של טיים גילתה שכדי לאמן את טכנולוגיית הבינה המלאכותית, OpenAI השתמשה בשירותיו של צוות בקניה כדי לחקור טקסט כללו נושאים מטרידים כמו התעללות מינית בילדים, חיות, רצח, התאבדות, עינויים, פגיעה עצמית ו גילוי עריות. ועל מאמציהם לתייג את התוכן המתועב, רבים בצוות קיבלו פחות מ-2 דולר לשעה.
קָשׁוּר
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
- צמיחת השיא של ChatGPT הודחה זה עתה על ידי אפליקציה ויראלית חדשה
העבודה, שהחלה בנובמבר 2021, הייתה הכרחית כיוון שלקודמו של ChatGPT, GPT-3, למרות שהייתה מרשימה, הייתה נטייה לפלוט הוציאו תוכן פוגעני כאשר מערך ההדרכה שלו הורכב על ידי גירוד של מאות מיליארדי מילים מכל פינות אינטרנט.
הצוות מבוסס קניה, המופעל על ידי חברת סן פרנסיסקו Sama, יסמן את התוכן הפוגעני כדי לעזור לאמן את הצ'אטבוט של OpenAI, ובכך לשפר את מערך הנתונים שלו ולהקטין את הסיכויים לכל מעורר התנגדות תְפוּקָה.
טיים אמר שכל ארבעת עובדי סאמה שראיינה תיארו שהם מצולקים נפשית מעבודתם. סמה הציע פגישות ייעוץ, אך העובדים אמרו שהם לא יעילים ולעיתים רחוקות התקיימו עקב הדרישות של התפקיד, אם כי דובר סאמה אמר ל-Time שהמטפלים היו נגישים בכל מקום זְמַן.
עובד אחד אמר ל"טיים" שקריאת החומר המזעזע הרגישה לפעמים כמו "עינוי", והוסיפה שהם הרגישו "מוטרדים" עד סוף השבוע.
בפברואר 2022, הדברים קיבלו תפנית אפלה עוד יותר עבור Sama כאשר OpenAI השיקה פרויקט נפרד שאינו קשור ל-ChatGPT שדרש מהצוות הקניה שלה לאסוף תמונות בעלות אופי מיני ואלים. OpenAI אמרה ל-Time שהעבודה נחוצה כדי להפוך את כלי ה-AI שלה לבטוחים יותר.
בתוך שבועות מתחילת הפרויקט המבוסס על תמונות זה, האופי המדאיג של המשימות הניע את סמה לבטל את כל החוזים שלה עם OpenAI, אף על פי ש"טיים" מציע שזה יכול היה להיגרם גם כתוצאה מנפילת יחסי הציבור מדו"ח על נושא דומה שפרסמה על אודות פייסבוק בערך באותו זמן.
Open AI אמרה ל-Time שהייתה "תקשורת שגויה" לגבי אופי התמונות שהיא ביקשה מסאמה לאסוף, מתעקש שהוא לא ביקש את התמונות הקיצוניות ביותר, ולא צפה באף אחת מהן נשלח.
אבל סיום החוזים השפיע על פרנסתם של העובדים, כאשר חלק מהצוות בקניה איבד את עבודתם, בעוד שאחרים הועברו לפרויקטים בשכר נמוך יותר.
חקירת הזמן מציע מבט לא נוח אך חשוב על סוג העבודה שעוברת על הצ'אטבוטים המופעלים על ידי בינה מלאכותית שלאחרונה כל כך מרגשים את תעשיית הטכנולוגיה.
אף על פי שהטכנולוגיה היא טרנספורמטיבית ובעלת פוטנציאל מועיל, ברור שהטכנולוגיה כרוכה במחיר אנושי ומעלה שלל שאלות אתיות לגבי איך חברות פועלות לפתח את הטכנולוגיות החדשות שלהן, ובאופן רחב יותר על האופן שבו מדינות עשירות ממשיכות להעביר משימות פחות נחשקות למדינות עניות יותר עבור תקציב נמוך יותר הוֹצָאָה.
הסטארט-אפים שמאחורי הטכנולוגיה יעברו בדיקה ממוקדת יותר בחודשים ובשנים הקרובים, ולכן טוב יעשו אם יבדקו וישפרו את השיטות שלהם בהזדמנות המוקדמת ביותר.
Digital Trends פנה אל OpenAI להערה על הדוח של Time ואנו נעדכן מאמר זה כשנשמע.
המלצות עורכים
- הכלים הטובים ביותר לעריכת וידאו בינה מלאכותית
- יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן
- חברת הבינה המלאכותית החדשה של אילון מאסק שואפת "להבין את היקום"
- תעבורת האתר ChatGPT ירדה לראשונה
- פריצות דרך של בינה מלאכותית יכולות להגיע דרך המוח של דבורים, אומרים מדענים
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
