עורך דין מצטער על ציטוטים מזויפים של בית המשפט שנוצרו על ידי ChatGPT

דובר רבות בחודשים האחרונים על איך הגל החדש של צ'אטבוטים המונעים בינה מלאכותית, ChatGPT ביניהם, עלול להעלות תעשיות רבות, כולל מקצוע עריכת הדין.

עם זאת, אם לשפוט לפי מה שקרה לאחרונה בתיק בניו יורק, נראה כי יכול לחלוף זמן מה עד שעורכי דין בעלי הכשרה גבוהה ייסחפו הצידה על ידי הטכנולוגיה.

הפרק המוזר החל כאשר רוברטו מאטה תבע חברת תעופה קולומביאנית לאחר שטען כי הוא סבל מפציעה בטיסה לניו יורק.

חברת התעופה, אוויאנקה, ביקשה מהשופט לדחות את התיק, אז הצוות המשפטי של מאטה הרכיב ציטוט קצר חצי תריסר מקרים דומים שהתרחשו במאמץ לשכנע את השופט לתת את תיקו של הלקוח שלהם להמשיך, הניו יורק טיימס דיווח.

הבעיה הייתה שעורכי הדין של חברת התעופה והשופט לא הצליחו למצוא ראיות כלשהן למקרים שהוזכרו בתסקיר. למה? כי ChatGPT המציא את כולם.

יוצר התמצית, סטיבן א. שוורץ - עורך דין מנוסה מאוד במשרד לבידוב, לבידוב ואוברמן - הודה בתצהיר כי השתמש צ'אטבוט ChatGPT המהולל של OpenAI כדי לחפש מקרים דומים, אך אמר שהוא "גילה את עצמו לֹא מְהֵימָן."

שוורץ אמר לשופט שהוא לא השתמש ב-ChatGPT בעבר ו"לכן לא היה מודע לאפשרות שהתוכן שלו יכול להיות שקרי".

בעת יצירת הבריף, שוורץ אפילו ביקש מ-ChatGPT לאשר שהמקרים באמת קרו. הצ'טבוט המועיל תמיד השיב בחיוב ואמר שניתן למצוא מידע עליהם ב"מאגרי מידע משפטיים בעלי מוניטין".

עורך הדין שבמרכז הסערה אמר שהוא "מתחרט מאוד" על השימוש ב-ChatGPT כדי ליצור את התקציר והתעקש שהוא "לעולם לא יעשה זאת בעתיד ללא אימות מוחלט של האותנטיות שלו".

בהסתכלות על מה שהוא תיאר כהגשה משפטית מלאה ב"החלטות שיפוטיות מזויפות, עם ציטוטים מזויפים ופנימיות מזויפות ציטוטים", ומתאר את המצב כחסר תקדים, השופט קסטל הורה על שימוע לתחילת החודש הבא כדי לשקול עונשים אפשריים.

אמנם מרשימים באופן שבו הם מייצרים טקסט זורם באיכות גבוהה, ChatGPT וצ'אטבוטים אחרים אוהבים את זה ידועים גם כממציאים דברים ומציגים אותם כאילו הם אמיתיים - משהו שוורץ למד לו עֲלוּת. התופעה ידועה בשם "הזויה", והיא אחד האתגרים הגדולים ביותר העומדים בפני המפתחים האנושיים מאחורי הצ'אטבוטים כאשר הם מבקשים לגהץ את הקמט הבעייתי הזה.

בדוגמה אחרונה נוספת של כלי AI מחולל הזוי, an ראש עיריית אוסטרליה האשים את ChatGPT של יצירת שקרים לגביו, כולל שהוא נכלא על שוחד כשעבד בבנק לפני יותר מעשור.

ראש העיר, בריאן הוד, היה למעשה מלשיין בתיק ומעולם לא הואשם בפשע, אז הוא היה נסער למדי כאשר אנשים החלו ליידע אותו על שכתוב ההיסטוריה של הצ'אטבוט.

המלצות עורכים

• זו הסיבה שאנשים חושבים ש-GPT-4 עשוי להיות מטומטם יותר עם הזמן
• ChatGPT: החדשות האחרונות, המחלוקות והטיפים שאתה צריך לדעת
• מהי בקשת DAN עבור ChatGPT?
• Google Bard יכול עכשיו לדבר, אבל האם הוא יכול להטביע את ChatGPT?
• יצרנית ChatGPT OpenAI עומדת בפני חקירה של FTC על חוקי הגנת הצרכן

שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.