השפעות שליליות של בינה מלאכותית

הפיתוח של מכונות המסוגלות לחקות את המחשבה האנושית, להתעלות עליה או אפילו להיות מודעים לעצמם היא הנחת יסוד שנחקרה היטב בתוך המדע הבדיוני. בנוף הטכנולוגי של היום, הופעתה של הבינה המלאכותית - AI - עשויה להפוך לאחת הגדולות של האנושות הישגים, אבל כפי שהזהיר הפיזיקאי הנודע סטיבן הוקינג, "זה עשוי להיות גם האחרון, אלא אם כן נלמד להימנע מה סיכונים".

טכנולוגיה מתוחכמת ממשיכה להטמיע את עצמה בחברה המודרנית, מעוזרים אישיים דיגיטליים ואלגוריתמי חיפוש חכם בגוגל, ועד מכוניות נסיוניות בנהיגה עצמית. בינה מלאכותית מוגדרת כמחשב או מכונה המסוגלים לבצע "הסקה והסקת הסקה לוגית" ו"לקבל החלטות" מבוסס על ניסיון עבר או מידע לא מספיק או סותר." רמות הטכנולוגיה הנוכחיות כבר מציבות דילמות אתיות מפחידות, כגון כמו האם יש לתכנן מל"טים צבאיים או מערכות רובוטיות אחרות להשתמש בכוח קטלני נגד מטרות ללא אדם ישיר מְעוֹרָבוּת. כיום, מכונות מתוכנתות יכולות להגיב במהירות ובדיוק גבוהים יותר מאשר מפעיל אנושי, אך עדיין מסוגלות לשגות גסות ללא הטיות אנושיות ואינטואיציה להנחות את קבלת ההחלטות. הנושאים הללו יגברו אם בינה מלאכותית מובנית במערכות כאלה, תוך הצגת מניעים עצמאיים שעלולים להיות בלתי צפויים לחלוטין או בסתירה ישירה עם כוונות אנושיות.

שילוב של בינה מלאכותית ישנה באופן דרסטי את תפיסת העבודה של המין האנושי. מאז העידן התעשייתי, טכנולוגיה מכל סוג הופכת בהכרח משרות רבות למיושנות תוך יצירת הזדמנויות חדשות בתחומים מתפתחים. בינה מלאכותית מציעה עתיד שבו מכונות עושות משימות במקומנו, ומאפשרות לאנשים להמשיך בחיי פנאי. הכלכלן ג'ון מיינרד קיינס הרחיק לכת - עוד ב-1930 - וחזה שבוע עבודה של 15 שעות עד 2030. ברמות האוכלוסייה הנוכחיות, כל ההיבטים של החברה ידרשו חזות מחדש דרסטית הן מבחינה תרבותית והן מבחינה כלכלית, אם האוטומציה תיצור שינוי כה דרמטי באופן שבו ימנו אנו מבלים.

איום משמעותי אחד של בינה מלאכותית הוא האם היא בוחרת להשתמש ביכולות משופרות כבר כדי ליצור מכונות בעלות כוח קוגניטיבי גדול עוד יותר. דורות מתקדמים של בינה מלאכותית יכולים לפעול גבוה מעל בני אדם כפי שאנו פועלים מעל בעלי חיים, ואפילו ייתכן בהחלט להתפתח מעבר ליכולת האנושית להבין זאת. בתוצאה זו - המכונה הסינגולריות על ידי ד"ר ורנור וינג' לסימפוזיון VISION-21 של מרכז המחקר לואיס של נאס"א בשנת 1993 - כללי החיים כפי שאנו מכירים אותם ישתנו לנצח, כי אין דרך לחזות אם בינה מלאכותית תחליט להתקיים במקביל או להיות עוינת כלפי המין האנושי.

הוקינג מדגיש שכל דיון רציני על בינה מלאכותית חייב לקחת בחשבון את האיומים הפוטנציאליים וכיצד לנהל אותם, וכן קורא למחקר מוסדי קריטי יותר, שכן הגדלת משאבי החברה מוקדשים למימוש פריצות דרך ביצירת מלאכותית אינטליגנציה. Vinge מניח שניתן לווסת בינה מלאכותית באופן הדוק על ידי כללים שלמעשה משפיעים על חוט קשיח. התנהגות לתוך רובוטים אוטונומיים, כפי שדמיינו על ידי סופר המדע הבדיוני אייזק אסימוב שלושת חוקיו של רובוטיקה. Vinge גם מזהיר שתחרות אנושית טבעית תוביל כנראה לפיתוח מודלים בלתי מוגבלים של AI, כך שאפילו אמצעי הגנה כאלה לא יספיקו כדי לשלוט בסינגולריות אם היא תתרחש.