תקראו לזה השערת Skynet, בינה כללית מלאכותית או הופעת הסינגולריות - במשך שנים, מומחי AI ו לא מומחים כאחד הרגיזו (ועבור קבוצה קטנה, חגגו) את הרעיון שבינה מלאכותית עשויה יום אחד להפוך לחכמה יותר מאשר בני אדם.
על פי התיאוריה, התקדמות בתחום הבינה המלאכותית - במיוחד מסוג למידת המכונה שמסוגלת לקבל חדש מידע ולשכתב את הקוד שלו בהתאם - בסופו של דבר ידביקו את כלי הרטוב של הביולוגי מוֹחַ. בפרשנות זו של אירועים, כל AI מתקדם מ סַכָּנָה-מנצח מכונות IBM ל שפת בינה מלאכותית מסיבית דגם GPT-3 לוקח את האנושות צעד אחד קרוב יותר לאיום קיומי. אנחנו ממש בונים את שלנו ממשיכים שיהיו בעלי חיים בקרוב.
סרטונים מומלצים
אלא שזה לעולם לא יקרה. לפחות, לפי מחברי הספר החדש מדוע מכונות לעולם לא ישלטו בעולם: בינה מלאכותית ללא פחד.
מחברים שותפים פרופסור לפילוסופיה באוניברסיטת באפלו בארי סמית' ו ג'ובסט לנדגרבה, מייסד חברת AI הגרמנית Cognotekt טוענים שהאינטליגנציה האנושית לא תעקוף על ידי "רודן אלמוות" בזמן הקרוב - או אי פעם. הם אמרו טרנדים דיגיטליים הסיבות שלהם למה.
מגמות דיגיטליות (DT): איך הנושא הזה הגיע לרדאר שלך?
ג'ובסט לנדגרבה (JL):
אני רופא וביוכימאי בהכשרתי. כשהתחלתי את הקריירה שלי, עשיתי ניסויים שיצרו הרבה נתונים. התחלתי ללמוד מתמטיקה כדי להיות מסוגל לפרש את הנתונים הללו, וראיתי כמה קשה ליצור מודל של מערכות ביולוגיות באמצעות מתמטיקה. תמיד הייתה חוסר ההתאמה הזה בין השיטות המתמטיות לנתונים הביולוגיים.באמצע שנות השלושים לחיי עזבתי את האקדמיה והפכתי ליועץ עסקי ויזם שעובד במערכות תוכנה של בינה מלאכותית. ניסיתי לבנות מערכות AI כדי לחקות את מה שבני אדם יכולים לעשות. הבנתי שאני נתקל באותה בעיה שהייתה לי שנים קודם לכן בביולוגיה.
לקוחות אמרו לי, 'למה אתה לא בונה צ'טבוטים?' אמרתי, 'כי הם לא יעבדו; אנחנו לא יכולים לדגמן את סוג המערכת הזה כראוי.' זה הוביל בסופו של דבר לכתיבת הספר הזה.
פרופסור בארי סמית' (BS): חשבתי שזו בעיה מאוד מעניינת. כבר היו לי מושגים על בעיות דומות עם AI, אבל מעולם לא חשבתי עליהן. בתחילה, כתבנו מאמר בשם 'הופכים את הבינה המלאכותית למשמעותית שוב.' (זה היה בעידן טראמפ.) זה היה על הסיבה לכך שרשתות עצביות נכשלות במודל שפה. ואז החלטנו להרחיב את המאמר לספר החוקר את הנושא הזה יותר לעומק.
DT: הספר שלך מביע ספקנות לגבי האופן שבו רשתות עצביות, שהן חיוניות ללמידה עמוקה מודרנית, מחקות את המוח האנושי. אלה קירובים, ולא מודלים מדויקים של אופן פעולת המוח הביולוגי. אבל האם אתה מקבל את הנחת היסוד כי ייתכן שאם היינו מבינים את המוח בצורה פרטנית מספיק פרטים, ניתן יהיה לשכפל אותו באופן מלאכותי - ושזה יוביל למודיעין או חוש?
JL: השם 'רשת עצבית' הוא כינוי שגוי מוחלט. לרשתות העצבים שיש לנו עכשיו, אפילו המתוחכמות שבהן, אין שום קשר לאופן שבו המוח פועל. הדעה שהמוח הוא קבוצה של צמתים מחוברים באופן שבו רשתות עצביות בנויות היא נאיבית לחלוטין.
אם אתה מסתכל על תא החיידק הפרימיטיבי ביותר, אנחנו עדיין לא מבינים אפילו איך הוא עובד. אנחנו מבינים כמה מההיבטים שלו, אבל אין לנו מודל של איך זה עובד - שלא לדבר על נוירון, שהוא הרבה יותר מסובך, או מיליארדי נוירונים מחוברים זה לזה. אני מאמין שזה מדעי בלתי אפשרי להבין איך המוח עובד. אנחנו יכולים להבין רק היבטים מסוימים ולהתמודד עם היבטים אלה. אין לנו, ולא נקבל, הבנה מלאה של אופן פעולת המוח.
אם הייתה לנו הבנה מושלמת של איך כל מולקולה של המוח פועלת, אז כנראה היינו יכולים לשכפל אותה. זה אומר להכניס הכל למשוואות מתמטיות. אז אתה יכול לשכפל את זה באמצעות מחשב. הבעיה היא רק שאנחנו לא מסוגלים לרשום וליצור את המשוואות האלה.
BS: רבים מהדברים המעניינים ביותר בעולם מתרחשים ברמות של פירוט שאיננו יכולים להתקרב אליהם. פשוט אין לנו את ציוד ההדמיה, וכנראה שלעולם לא יהיה לנו את ציוד ההדמיה, כדי ללכוד את רוב המתרחש ברמות העדינות של המוח.
זה אומר שאנחנו לא יודעים, למשל, מה אחראי לתודעה. יש, למעשה, סדרה של בעיות פילוסופיות מעניינות למדי, שלפי השיטה שבה אנו פועלים, תמיד יהיו בלתי ניתנות לפתרון - ולכן עלינו פשוט להתעלם מהן.
אחר הוא חופש הרצון. אנחנו מאוד בעד הרעיון שלבני אדם יש רצון; יכולות להיות לנו כוונות, מטרות וכו'. אבל אנחנו לא יודעים אם זה רצון חופשי או לא. זה נושא שקשור לפיזיקה של המוח. בכל הנוגע לראיות העומדות לרשותנו, למחשבים אין צוואה.
DT: כותרת המשנה של הספר היא 'בינה מלאכותית ללא פחד'. מהו הפחד הספציפי שאליו אתה מתייחס?
BS: זה עורר הספרות על הייחודיות, שאני יודע שאתה מכיר. ניק בוסטרום, דיוויד צ'למרס, אילון מאסק ודומיהם. כשדיברנו עם עמיתינו בעולם האמיתי, התברר לנו שאכן יש א פחד מסוים בקרב האוכלוסייה שבינה מלאכותית תשתלט בסופו של דבר וישנה את העולם לרעתו בני אנוש.
יש לנו די הרבה בספר על הטיעונים מסוג בוסטרום. הטענה המרכזית נגדם היא שאם למכונה אין רצון, אז גם לא יכול להיות לה רצון רע. בלי רצון רע, אין ממה לפחד. עכשיו, כמובן, אנחנו עדיין יכולים לפחד ממכונות, בדיוק כמו שאנחנו יכולים לפחד מאקדחים.
אבל זה בגלל שהמכונות מנוהלות על ידי אנשים עם מטרות רעות. אבל אז זה לא AI זה הרשע; זה האנשים שבונים ומתכנתים את ה-AI
DT: מדוע הרעיון הזה של ייחוד או אינטליגנציה כללית מלאכותית מעניין אנשים כל כך? בין אם הם מפחדים מזה או מוקסמים מזה, יש משהו ברעיון הזה שמהדהד עם אנשים ברמה רחבה.
JL: יש את הרעיון הזה, שהתחיל בתחילת המאה ה-19 ואחר כך הכריז ניטשה בסוף אותה מאה, שאלוהים מת. מכיוון שהאליטות של החברה שלנו אינן נוצרות יותר, הן היו זקוקות לתחליף. מקס סטירנר, שהיה, כמו קרל מרקס, תלמידו של הגל, כתב על כך ספר, ואמר, 'אני האל שלי'.
אם אתה אלוהים, אתה גם רוצה להיות בורא. אם אתה יכול ליצור אינטליגנציה על אז אתה כמו אלוהים. אני חושב שזה קשור לנטיות ההיפר-נרקיסיסטיות בתרבות שלנו. אנחנו לא מדברים על זה בספר, אבל זה מסביר לי למה הרעיון הזה כל כך מושך בזמנים שלנו שבהם אין יותר ישות טרנסצנדנטית לפנות אליה.
DT: מעניין. אז כדי לעקוב אחרי זה, זה הרעיון שיצירת בינה מלאכותית - או המטרה ליצור בינה מלאכותית - היא מעשה נרקיסיסטי. במקרה כזה, התפיסה שיצירות אלה יהפכו איכשהו חזקות יותר מאיתנו היא טוויסט מסויט בנושא. זה הילד שהורג את ההורה.
JL: קצת ככה, כן.
DT: מה עבורך תהיה התוצאה הסופית של הספר שלך אם כולם היו משוכנעים מהטיעונים שלך? מה זה אומר על עתיד פיתוח הבינה המלאכותית?
JL: זו שאלה טובה מאוד. אני יכול להגיד לך בדיוק מה אני חושב שיקרה - ויקרה. אני חושב שבאמצע הקדנציה אנשים יקבלו את הטיעונים שלנו, וזה יצור מתמטיקה יישומית יותר.
משהו שכל המתמטיקאים והפיזיקאים הגדולים מודעים לו לחלוטין הוא המגבלות של מה שהם יכולים להשיג מבחינה מתמטית. מכיוון שהם מודעים לכך, הם מתמקדים רק בבעיות מסוימות. אם אתה מודע היטב למגבלות, אז אתה עובר בעולם ומחפש את הבעיות הללו ופותר אותן. כך מצא איינשטיין את המשוואות לתנועה בראונית; איך הוא הגה את תיאוריות היחסות שלו; כיצד פלנק פתר את קרינת הגוף השחור ובכך יזם את תורת הקוונטים של החומר. היה להם אינסטינקט טוב אילו בעיות ניתנות לפתרון באמצעות מתמטיקה ואילו לא.
אם אנשים ילמדו את המסר של הספר שלנו, הם, אנחנו מאמינים, יוכלו להנדס מערכות טובות יותר, בגלל שהם יתרכז במה שבאמת אפשרי - ויפסיק לבזבז כסף ומאמץ על משהו שלא יכול להיות הושג.
BS: אני חושב שחלק מהמסר כבר עובר, לא בגלל מה שאנחנו אומרים אלא בגלל חוויות שיש לאנשים כשהם נותנים סכומי כסף גדולים לפרויקטים של AI, ואז פרויקטי AI נכשלים. אני מניח שאתה יודע על מרכז הבינה המלאכותית המשותפת. אני לא זוכר את הסכום המדויק, אבל אני חושב שזה היה משהו כמו 10 מיליארד דולר, שנתנו לקבלן מפורסם. בסופו של דבר לא יצא להם מזה כלום. הם ביטלו את החוזה.
(הערת העורך: JAIC, מחלקה משנה של הכוחות המזוינים של ארצות הברית, נועדה להאיץ את "המסירה והאימוץ של AI כדי להשיג השפעה על המשימה בקנה מידה." זה היה מקופל לארגון מאוחד גדול יותר, קצין הדיגיטל והבינה המלאכותית הראשי, עם שני משרדים נוספים ביוני השנה. JAIC חדלה להתקיים כישות משלה.)
DT: מהו לדעתך, במונחים ברמה גבוהה, הטיעון היחיד המשכנע ביותר שאתה מעלה בספר?
BS: כל מערכת AI היא מתמטית במהותה. מכיוון שאיננו יכולים לדגמן תודעה, רצון או אינטליגנציה מתמטית, לא ניתן לחקות אותם באמצעות מכונות. לכן, מכונות לא יהפכו לאינטליגנטיות, שלא לדבר על סופר אינטליגנטיות.
JL: מבנה המוח שלנו מאפשר רק מודלים מוגבלים של הטבע. בפיזיקה, אנו בוחרים תת-קבוצה של המציאות שמתאימה ליכולות המודלים המתמטיים שלנו. כך השיגו ניוטון, מקסוול, איינשטיין או שרדינגר את הדגמים המפורסמים והיפים שלהם. אבל אלה יכולים רק לתאר או לחזות קבוצה קטנה של מערכות. הדגמים הטובים ביותר שלנו הם אלה שבהם אנו משתמשים כדי להנדס טכנולוגיה. איננו מסוגלים ליצור מודל מתמטי שלם של הטבע החי.
ראיון זה נערך לצורך אורך ובהירות.
המלצות עורכים
- מחברים מובילים דורשים תשלום מחברות בינה מלאכותית על השימוש בעבודתם
- Bing Chat נלחם נגד איסורים על AI במקום העבודה
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- חברת הבינה המלאכותית החדשה של אילון מאסק שואפת "להבין את היקום"
- צמיחת השיא של ChatGPT הודחה זה עתה על ידי אפליקציה ויראלית חדשה
