איך פותרים בעיה כמו האינטרנט? זו שאלה שלמען האמת, לא הייתה הגיונית אפילו לפני רבע מאה. האינטרנט, עם יכולתו להפיץ מידע וערכים דמוקרטיים לכל פינה רחוקה של כדור הארץ, היה התשובה.
תוכן
- קול לחסרי קול
- הדגש את החיובי
- אין תיקונים קלים
לבקש תרופה לאינטרנט היה כמו לבקש תרופה לריפוי סרטן. כאן בשנת 2020, התמונה קצת יותר בוצית. כן, האינטרנט מבריק להפליא לכל מיני דברים. אבל זה גם מעורר בעיות, מה הפצת חדשות מזויפות ובכן, לבור הספיגה הדיגיטלי שהוא כל מדור תגובות ביוטיוב אי פעם. במילים אחרות, האינטרנט יכול להיות כל מיני רעילים. איך אנחנו מנקים את זה?
אין כאן תשובות פשוטות. האם צנזורה אלגוריתמית או מונעת על ידי אדם היא התשובה? האם עלינו לסגור את כל מדור התגובות בנושאים שנויים במחלוקת? האם פלטפורמה בבעלות פרטית באמת צריכה להרגיש מחויבת לספק לכולם קול? איך חסימת דעות שוליות לטובת הציבור תואמת את החלום של האינטרנט לתת קול לכולם?
קָשׁוּר
- A.I אנלוגי? זה נשמע מטורף, אבל זה יכול להיות העתיד
- קרא את 'הכתב הסינטטי' היפה להחריד של א.י. שחושב שזה אלוהים
- ארכיטקטורה אלגוריתמית: האם לתת ל-A.I. לעצב לנו מבנים?
חוקרים מאוניברסיטת קרנגי מלון יצרו כלי חדש ומסקרן שלדעתם עשוי לעזור. זהו אלגוריתם של בינה מלאכותית שפועל לא על ידי חסימת דיבור שלילי, אלא על ידי הדגשה או הגברה של "דיבור עזרה" כדי להקל על מציאתו. בתהליך הם מקווים שזה עשוי לסייע בשאיפה הסייברטופית להפוך טוב יותר את האינטרנט לקול להעצמת חסרי הקול.
סרטונים מומלצים
קול לחסרי קול
ה-A.I. שהוכן על ידי הצוות, מבית קרנגי מלון המכון לטכנולוגיות שפה, מסנן תגובות YouTube ומדגיש תגובות המגנות או מזדהות עם, במקרה זה, מיעוטים חסרי זכויות כמו קהילת הרוהינגה. בני הרוהינגה המוסלמיים היו נתונים לסדרה של רדיפות מתמשכות בעיקר על ידי ממשלת מיאנמר מאז אוקטובר 2016. משבר רצח העם אילץ יותר ממיליון בני רוהינגה לברוח למדינות שכנות. זו מצוקה נואשת הכרוכה ברדיפת דת וטיהור אתני - אבל לא בהכרח תדע זאת מרבות מההערות שהופיעו במדיה החברתית המקומית; מכריע את מספר התגובות בצד השני של הנושא.
"פיתחנו מסגרת לקידום מטרתם של מיעוט חסר זכויות - במקרה הזה הרוהינגים - כדי לזהות אוטומטית תוכן אינטרנט התומך בהם." אשיק חודבוקש, מדען פרויקט במחלקה למדעי המחשב בקרנגי מלון, סיפר ל-Digital Trends. "התמקדנו ביוטיוב, פלטפורמת מדיה חברתית פופולרית מאוד בדרום אסיה. הניתוחים שלנו גילו שמספר רב של הערות על בני הרוהינגה מבזה אותם. פיתחנו שיטה אוטומטית לאיתור הערות המעודדות את המטרה שלהן, שאחרת היו נבלעים על ידי מספר עצום של הערות קשות ושליליות".
"מנקודת מבט כללית של המסגרת, העבודה שלנו שונה מעבודת גילוי דברי שטנה מסורתית שבה המוקד העיקרי הוא על חסימת התוכן השלילי, [למרות שזה] תחום מחקר פעיל וחשוב ביותר", חודבוקש נמשך. "לעומת זאת, העבודה שלנו באיתור הערות תומכות - מה שאנו מכנים דיבור עזרה - מסמנת כיוון חדש של שיפור החוויה המקוונת באמצעות הגברת היתרונות החיוביים".
כדי לאמן את ה-A.I שלהם. מערכת הסינון, החוקרים אספו יותר מרבע מיליון תגובות ביוטיוב. באמצעות טכנולוגיית דוגמנות לשונית מתקדמת, הם יצרו אלגוריתם שיכול לסרוק את ההערות הללו כדי להדגיש במהירות הערות שהן צדדיות של קהילת הרוהינגה. ניתוח סמנטי אוטומטי של הערות משתמשים הוא, כפי שניתן לצפות, לא קל. בתת היבשת ההודית לבדה, יש 22 שפות עיקריות. לעתים קרובות יש גם שגיאות כתיב וגרסאות איות לא סטנדרטיות להתמודד איתן בכל הנוגע להערכת שפה.
הדגש את החיובי
אף על פי כן, ה-A.I. שפותח על ידי הצוות הצליחו להגביר מאוד את הנראות של הערות חיוביות. חשוב מכך, הוא הצליח לעשות זאת הרבה יותר מהר ממה שהיה אפשרי עבור מנחה אנושי, שלא יוכל לעבור ידנית כמויות גדולות של הערות בזמן אמת ולהצמיד במיוחד הערות. זה יכול להיות חשוב במיוחד בתרחישים שבהם לצד אחד עשוי להיות מיומנויות מוגבלות בשפה דומיננטית, גישה מוגבלת אליה האינטרנט, או נושאים בעדיפות גבוהה יותר (קרא: הימנעות מרדיפה) שעלולים לקבל עדיפות על פני השתתפות באינטרנט שיחות.
"מה אם אתה לא שם בדיון עולמי עליך, ולא יכול להגן על עצמך?"
"כולנו חווינו להיות חבר אחד שהתייצב עבור חבר אחר בהיעדרו", המשיך חודבוקש. "עכשיו שקול את זה בקנה מידה עולמי. מה אם אתה לא שם בדיון עולמי עליך, ולא יכול להגן על עצמך? איך יכול A.I. לעזור במצב הזה? אנו קוראים לזה בעיה של המאה ה-21: משברי מהגרים בעידן האינטרנט הקיים בכל מקום שבו קולות הפליטים מועטים. בהמשך, אנו חשים שסוגיות גיאופוליטיות, סיבות מונעות אקלים ומשאבים עשויים לעורר משברי מהגרים חדשים, והעבודה שלנו להגן על קהילות בסיכון בעולם המקוון היא חשובה ביותר".
אבל האם די בהדגשה של קולות מיעוטים מסוימים, או שמא זו רק גרסה אלגוריתמית של הקונספט הנמתח כל כמה שנים של השקת כלי חדשות שמספר רק חדשות טובות? אולי במובנים מסוימים, אבל זה גם הרבה מעבר להדגשת הערות סמליות מבלי להציע דרכים לטפל בבעיות רחבות יותר. עם זאת בחשבון, החוקרים כבר הרחיבו את הפרויקט כדי לבחון את הדרכים שבהן A.I. יכול לשמש כדי להגביר תוכן חיובי באחרים שונים, אך עם זאת, השפעה חברתית גבוהה תרחישים. דוגמה אחת היא דיונים מקוונים במהלך מתח פוליטי מוגבר בין יריבים גרעיניים. עבודה זו, שהצוות יציג בוועידה האירופית לבינה מלאכותית (ECAI 2020) ביוני, יכולה לשמש כדי לסייע באיתור והצגת תוכן מפיץ עוינות. טכנולוגיה דומה יכולה להיווצר עבור שפע של תרחישים אחרים - עם התאמה מתאימה לכל אחד.
אלו הם שיעורי הקבלה עבור #ECAI2020 תרומות:
- ניירות מלאים: 26.8%
– ניירות הדגשה: 45%תודה רבה על המאמץ שהשקעת בתהליך הביקורת!
— ECAI2020 (@ECAI2020) 15 בינואר 2020
"הנחת היסוד כיצד ניתן לעזור לקהילה תלויה בקהילה המדוברת", אמר חודבוקש. "אפילו משברי פליטים שונים ידרשו מושגים שונים של עזרה. למשל, משברים שבהם התפרצות מחלה מדבקת היא נושא מרכזי, מתן סיוע רפואי יכול להיות לעזר עצום. עבור קבוצה מוחלשת כלכלית, הדגשת סיפורי הצלחה של אנשים בקהילה יכולה להיות גורם מניע. לפיכך, כל קהילה תדרוש מסווגי דיבור שונים בניואנסים כדי למצוא תוכן חיובי באופן אוטומטי. העבודה שלנו מספקת מתווה לכך".
אין תיקונים קלים
ככל שהעבודה הזו מרתקת, אין תיקונים קלים בכל הנוגע לפתרון בעיית הדיבור המקוון. חלק מהאתגר הוא שהאינטרנט כפי שהוא קיים כיום מתגמל קולות רמים. אלגוריתם ה-PageRank של גוגל, למשל, מדרג דפי אינטרנט לפי חשיבותם הנתפסת על ידי ספירת מספר ואיכות הקישורים לדף. הנושאים הפופולריים בטוויטר מוכתבים על ידי מה שהמספר הגדול ביותר של אנשים מצייצים עליו. קטעי תגובות מדגישים לעתים קרובות את הדעות המעוררות את התגובות החזקות ביותר.
מספר הקולות הבלתי נתפס באינטרנט יכול להטביע קולות מתנגדים; לעתים קרובות שוללים קולות שלפחות בתיאוריה יש להם את אותה פלטפורמה כמו לכל אחד אחר.
שינוי זה ייקח הרבה יותר מאלגוריתם אחד מגניב לניקוי תגובות ביוטיוב. עם זאת, זו לא התחלה רעה.
המלצות עורכים
- מגע אחרון: כיצד מדענים נותנים לרובוטים חוש מישוש דמוי אנוש
- הנוסחה המצחיקה: מדוע הומור שנוצר על ידי מכונה הוא הגביע הקדוש של A.I.
- א.י. בדרך כלל לא שוכח כלום, אבל המערכת החדשה של פייסבוק כן. הנה למה
- חישת רגשות א.י. נמצא כאן, וזה יכול להיות בראיון העבודה הבא שלך
- דוגמנית העל בשפה: איך GPT-3 פותח בשקט את ה-A.I. מַהְפֵּכָה
