אם האנשים שנמצאים בחזית הטכנולוגיה של בינה מלאכותית מעירים על השפעות פוטנציאליות קטסטרופליות של מערכות בינה מלאכותית אינטליגנטיות ביותר, אז זה כנראה חכם לשבת ולעמוד הודעה.
רק לפני כמה חודשים אמר ג'פרי הינטון, אדם שנחשב לאחד ה"סנדקים" של הבינה המלאכותית בשל עבודתו החלוצית בתחום, כי קצב הפיתוח המהיר של הטכנולוגיה התכוון שזה "לא בלתי נתפס" שבינה מלאכותית סופר אינטליגנטית - הנחשבת כעולה על המוח האנושי - עלולה בסופו של דבר למחוק את האנושות.
סרטונים מומלצים
וסם אלטמן, מנכ"ל OpenAI, החברה שמאחוריה הצ'אטבוט הויראלי ChatGPT, הודה שהוא "קצת מפחד" מההשפעות הפוטנציאליות של מערכות בינה מלאכותית מתקדמות על החברה.
קָשׁוּר
- יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן
- תעבורת האתר ChatGPT ירדה לראשונה
- לימדתי את ChatGPT כדי ללמד אותי משחקי לוח, ועכשיו אני לעולם לא אחזור
אלטמן כל כך מודאג שביום רביעי הודיעה החברה שלו שהיא מקימה יחידה חדשה בשם יישור-על שמטרתו להבטיח ש-AI סופר-אינטליגנט לא יגרום בסופו של דבר לכאוס או משהו רחוק רע יותר.
"אינטליגנציה על תהיה הטכנולוגיה המשפיעה ביותר שהאנושות המציאה אי פעם, ויכולה לעזור לנו לפתור רבות מהבעיות החשובות בעולם."
אמר OpenAI בפוסט המציג את היוזמה החדשה. "אבל הכוח העצום של אינטליגנציה-על עלול להיות גם מסוכן מאוד, ועלול להוביל לביטול העצמה של האנושות או אפילו להכחדה אנושית."OpenAI אמרה שלמרות ש- AI סופר-אינטליגנטית עשויה להיראות כמו דרך רחוקה, היא מאמינה שהיא יכולה להיות מפותחת עד 2030. והוא מודה בקלות כי נכון לעכשיו, לא קיימת מערכת "להיגוי או שליטה ב-AI בעל פוטנציאל סופר אינטליגנטי, ולמנוע ממנו להתקלקל."
כדי להתמודד עם המצב, OpenAI רוצה לבנות "חוקר יישור אוטומטי ברמה אנושית בערך" שיבצע בדיקות בטיחות על AI סופר אינטליגנטי, והוסיף כי ניהול סיכונים אלו ידרוש גם מוסדות חדשים לממשל ולפתרון בעיית מודיעין העל יישור.
כדי ל-Superalignment להשפיע, OpenAI צריך להרכיב צוות קראק של חוקרי ומהנדסי למידת מכונה מובילים.
החברה נראית כנה מאוד לגבי המאמץ שלה, ומתארת אותו כ"מטרה שאפתנית להפליא" ובמקביל גם מודה כי זה "לא מובטח להצליח". אבל הוא מוסיף כי זה "אופטימי שמאמץ ממוקד ומרוכז יכול לפתור את זה בְּעָיָה."
כלי בינה מלאכותית חדשים כמו ChatGPT של OpenAI וה-Bard של גוגל, בין רבים אחרים, הם כל כך מהפכניים שמומחים בטוחים שאפילו ברמת קדם-על-מודיעין זו, מקום העבודה והחברה הרחבה יותר מתמודדים עם שינויים מהותיים בתקופה הקרובה טווח.
זו הסיבה שממשלות ברחבי העולם מתרוצצות לשחק תופסת, וממהרות להטיל תקנות על תעשיית הבינה המלאכותית המתפתחת במהירות במטרה להבטיח שהטכנולוגיה תיפרס בצורה בטוחה ואחראית דֶרֶך. עם זאת, אלא אם כן יוקם גוף יחיד, לכל מדינה יהיו דעות משלה לגבי אופן השימוש הטוב ביותר בטכנולוגיה, כלומר התקנות הללו עשויות להשתנות מאוד ולהוביל לתוצאות שונות באופן ניכר. והגישות השונות הללו הן שיהפכו את המטרה של Superalignment לקשה יותר להשגה.
המלצות עורכים
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- חברת הבינה המלאכותית החדשה של אילון מאסק שואפת "להבין את היקום"
- OpenAI חושפת את מיקומו של המאחז הבינלאומי הראשון שלה
- עורכי דין בניו יורק נקנסו על שימוש בתיקי ChatGPT מזויפים בקצרה משפטית
- דפדפן אינטרנט זה משלב את ChatGPT בצורה חדשה ומרתק
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
