בינה מלאכותית גנרטיבית זזה בחודשים האחרונים במהירות שלא תיאמן, עם השקת כלים ובוטים שונים כגון ChatGPT של OpenAI, גוגל בארד, ועוד. אולם ההתפתחות המהירה הזו גורמת לדאגה רצינית בקרב ותיקים ותיקים בתחום הבינה המלאכותית - כך עד כדי כך שלמעלה מ-1,000 מהם חתמו על מכתב פתוח הקורא למפתחי בינה מלאכותית להכות על בַּלָמִים.
המכתב פורסם באתר האינטרנט של ה מכון עתיד החיים, ארגון שהמשימה המוצהרת שלו היא "לכוון טכנולוגיה טרנספורמטיבית לטובת חיים ולהתרחק מסיכונים בקנה מידה גדול". בין ה החותמים הם כמה אקדמאים ומנהיגים בולטים בתחום הטכנולוגיה, כולל מייסד-שותף של אפל סטיב ווזניאק, מנכ"ל טוויטר אילון מאסק והפוליטיקאי אנדרו יאנג.
סרטונים מומלצים
המאמר קורא לכל החברות שעובדות על מודלים של AI שהם חזקים יותר מה לאחרונה שוחרר GPT-4 להפסיק לאלתר את העבודה למשך שישה חודשים לפחות. הקפאה זו צריכה להיות "פומבית וניתנת לאימות" ותאפשר זמן "לפתח וליישם במשותף מערך משותף פרוטוקולי בטיחות לתכנון ופיתוח בינה מלאכותית מתקדמים שנבדקים בקפדנות ומפוקחים על ידי גורמים חיצוניים בלתי תלויים מומחים."
קָשׁוּר
- יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן
- תכונת הגלישה ב-Bing של ChatGPT מושבתת עקב ליקוי בגישה לקיר התשלום
- יריבת ChatGPT של אפל עשויה לכתוב עבורך קוד אוטומטית
במכתב נאמר שזה הכרחי מכיוון ש"מערכות בינה מלאכותיות עם אינטליגנציה תחרותית-אנושית יכולות להוות סיכונים עמוקים לחברה ולאנושות". הָהֵן הסיכונים כוללים הפצת תעמולה, הרס מקומות עבודה, פוטנציאל החלפה והתיישנות של חיי אדם ו"אובדן שליטה של הציוויליזציה שלנו". המחברים מוסיפים כי אין להשאיר את ההחלטה אם להתקדם לעתיד הזה ל"טכנולוגיה שלא נבחרה מנהיגים."
AI "לתועלת ברורה של כולם"
המכתב מגיע מיד לאחר שהועלו טענות ש-GPT-5, הגרסה הבאה של הטכנולוגיה המניעה את ChatGPT, יכול להשיג בינה כללית מלאכותית. אם זה נכון, זה אומר שהוא יוכל להבין וללמוד כל דבר שאדם יכול להבין. זה יכול להפוך אותו לעוצמתי להפליא בדרכים שעדיין לא נחקרו במלואן.
יתרה מכך, במכתב נטען כי תכנון וניהול אחראיים סביב פיתוח מערכות בינה מלאכותיות אינם מתרחשים, "למרות שבחודשים האחרונים נרשמה AI מעבדות שננעלו במרוץ שיצא משליטה לפיתוח ולפרוס מוחות דיגיטליים חזקים יותר ואי פעם שאף אחד - אפילו לא היוצרים שלהם - יכול להבין, לחזות או באופן אמין לִשְׁלוֹט."
במקום זאת, המכתב קובע כי יש ליצור מערכות ממשל חדשות שיסדירו את פיתוח בינה מלאכותית, יעזרו לאנשים להבחין בינה לבין יצירת בינה מלאכותית תוכן שנוצר על ידי אדם, להטיל על מעבדות בינה מלאכותית כמו OpenAI אחריות לכל נזק שהן גורמות, לאפשר לחברה להתמודד עם הפרעות בינה מלאכותית (במיוחד לדמוקרטיה), ועוד.
המחברים מסתיימים בנימה חיובית, וטוענים כי "האנושות יכולה ליהנות מעתיד פורח עם AI... בו אנו קוטפים את הפירות, להנדס את המערכות הללו לטובת כולם, ולתת לחברה הזדמנות להסתגל". לחיצה על הפסקה במערכות AI חזק יותר מאשר GPT-4 יאפשר לזה לקרות, הם קובעים.
האם למכתב תהיה השפעתו המיועדת? קשה לומר זאת. ברור שיש תמריצים ל-OpenAI להמשיך לעבוד על מודלים מתקדמים, כספיים ומוניטין כאחד. אבל עם כל כך הרבה סיכונים פוטנציאליים - ועם מעט מאוד הבנה שלהם - מחברי המכתב מרגישים בבירור שהתמריצים האלה מסוכנים מכדי להמשיך.
המלצות עורכים
- Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
- תעבורת האתר ChatGPT ירדה לראשונה
- 81% חושבים ש-ChatGPT הוא סיכון אבטחה, כך עולה מהסקר
- לימדתי את ChatGPT כדי ללמד אותי משחקי לוח, ועכשיו אני לעולם לא אחזור
- עורכי דין בניו יורק נקנסו על שימוש בתיקי ChatGPT מזויפים בקצרה משפטית
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
