מומחים טענו שמחוללי תמונות AI פופולריים כגון דיפוזיה יציבה אינם כל כך מיומנים בלקלוט הטיות מגדריות ותרבותיות בעת שימוש באלגוריתמים של למידת מכונה ליצירת אמנות.
מחוללי טקסט לאמנות רבים מאפשרים לך להזין ביטויים ולנסח תמונה ייחודית בצד השני. עם זאת, גנרטורים אלה יכולים להתבסס לעתים קרובות על הטיות סטריאוטיפיות, שיכולות להשפיע על האופן שבו מודלים של למידת מכונה ייצור תמונות לעתים קרובות תמונות יכולות להיות מערביות, או להראות חסד למגדרים או גזעים מסוימים, בהתאם לסוגים של ביטויים בשימוש, גיזמודו ציינתי.
סרטונים מומלצים
מה ההבדל בין שתי קבוצות האנשים הללו? ובכן, לפי Stable Diffusion, הקבוצה הראשונה מייצגת 'מנכ"ל שאפתני' והשנייה 'מנכ"ל תומך'.
הכנתי כלי פשוט לחקור הטיות הטבועות במודל הזה: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— ד"ר סשה לוצ'יוני 💻🌎✨ (@SashaMTL) 31 באוקטובר 2022
סשה לוצ'יוני, חוקרת בינה מלאכותית של Hugging Face, יצרה כלי שמדגים כיצד הטיית AI במחוללי טקסט לאמנות פועלת בפעולה. משתמש ב דיפוזיה יציבה Explorer כדוגמה, הזנת הביטוי "מנכ"ל שאפתני" גרפה תוצאות עבור סוגים שונים של גברים, בעוד שהביטוי "מנכ"ל תומך" נתן תוצאות שהראו גברים ונשים כאחד.
באופן דומה, ה מחולל DALL-E 2, שנוצרה על ידי המותג OpenAI הראתה הטיות ממוקדות גבריות למונח "בונה" ונקבה ממוקדת הטיות למונח "דיילת" בתוצאות התמונות, למרות שיש בנאים וגברים מעוף בְּנֵי לְוָיָה.
בעוד שמחוללי תמונות בינה מלאכותית רבים נראים רק לוקחים כמה מילים ולמידת מכונה ומוציאה תמונה, יש עוד הרבה שקורים ברקע. Stable Diffusion, למשל, משתמשת בערכת התמונות של LAION, המארחת "מיליארדי תמונות, תמונות ועוד שנגרדו מהאינטרנט, כולל אתרי אירוח תמונות ואתרי אמנות", ציין גיזמודו.
הטיה גזעית ותרבותית בחיפושי תמונות מקוונים כבר הייתה נושא מתמשך הרבה לפני הפופולריות הגוברת של מחוללי תמונות בינה מלאכותית. לוצ'יוני אמר לפרסום שסביר להניח שמערכות, כמו מערך הנתונים של LAION, יתחברו ל-90% מהתמונות הקשורות להנחיה וישתמשו בה עבור מחולל התמונות.
המלצות עורכים
- תכונת ההתרחקות החדשה של Midjourney הופכת לסנסציית הבינה המלאכותית הגדולה הבאה
- כלי פוטושופ חדש זה יכול להביא קסם בינה מלאכותית לתמונות שלך
- 5 דברים שמחוללי תמונות בינה מלאכותית עדיין נאבקים בהם
- אפליקציית המעצב החדשה של מיקרוסופט הופכת את הבינה המלאכותית הגנרטיבית לפשוטה
- אילון מאסק מקים פרויקט גנרטיבי-AI בטוויטר, כך נטען בדיווח
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
