החוקרים מאוניברסיטת ברקלי ואוניברסיטת ג'ורג'טאון מודעים לכך היטב, וזו הסיבה שבשנה שעברה הם החליטו לחקור בדיוק עד כמה פגיע תוכנת זיהוי הקול שמפעילה כל כך הרבה ממכשירי המחשוב שלנו היא באמת. הם התמקדו Google Assistant, שחי בכל המערכת דְמוּי אָדָם ובתוך אפליקציית גוגל ב-iOS, ופיתחה דרך לבלבל פקודות קוליות מספיק כדי ש-Google Assistant יוכל להבין אותן, אבל הן לא היו מובנות לרוב בני האדם.
סרטונים מומלצים
חוקרים בדקו את הזיהוי של מספר פקודות מעורפלות, כמו "OK Google", ומדדו את יכולת התוכנה לפענח את המסר בהשוואה לזו של בני אדם. מה שהם מצאו, במיוחד במקרה של "OK Google", היה שפאנל המשתתפים היה מסוגל רק לזהות את הביטוי המקושקש 22 אחוז מהמקרים, אבל ה-Assistant הבין אותו 95 אחוז מהפעמים זְמַן. יתרה מכך, התוכנה הייתה טובה יותר בפענוח הגרסה המעורפלת מאשר ההגייה הרגילה של "OK Google", שהניבה שיעור זיהוי של 90 אחוז בלבד.
קָשׁוּר
- מומחים מזהירים שעוזרי AI פוגעים בהתפתחות החברתית של ילדים
- Amazon Echo עדיין המלך בין הרמקולים החכמים למרות הירידה בנתח השוק האמריקאי
- ניתן לפרוץ לרמקול Alexa שלך באמצעות רצועות שמע זדוניות. וגם לייזרים.
הדגמה של VoiceHack
במבט ראשון, רבות מהפקודות המעוותות הללו עשויות להיראות סטטיות עם קצב הדיבור המעורפל, רק מואץ. כבני אדם, כאשר אנו יודעים מהו הביטוי לפני שאנו שומעים אותו, זה נעשה קל יותר לאין שיעור לזהות אותו. אבל בלי המידע הזה, במקרים רבים, אנחנו נשארים מבולבלים.
המחקר מציין שחלק מהפקודות המבולבלות קלות לנו יותר להבין מאחרות. "התקשר 911", למשל, הניב שיעור זיהוי אנושי של 94 אחוז, בהשוואה ל-40 אחוז בלבד של גוגל עוזר, כנראה בגלל שזה ביטוי שהרוב הרחב של דוברי האנגלית האמריקאית הוכשר אליו לִשְׁמוֹעַ. אבל, השילוב הנכון של פקודת נישה השתנה בדיוק מספיק כדי שהעוזרים האישיים שלנו יהיו פתוחים אליו בזמן שאנחנו גרד בראשנו מהווה סיכון ברור, בהתחשב בבקרות הקוליות ברוב מכשירי הצרכן חסרות כל צורה של אימות.
מה אנחנו יכולים לעשות כדי להגן מפני פריצת קול?
אחד מאמצעי המניעה הבודדים נגד סוג זה של מניפולציות ממוקדות קול הוא שפקודות רבות מניחות את העוזרים לבקש אישור לאחר מכן. עם זאת, כפי שמציין The Atlantic ב הקטע שלהם על המחקר, זה רק מחסום כביש קטן שיש לפנות ב"כן" מעוות, ואם הכל קורה מהר מדי בשביל שהמשתמש יבין מה קורה, הוא לא יוכל לעצור את זה בזמן.
חלק מהפקודות המבולבלות קלות לנו יותר להבין מאחרות.
הצוות עקב אחר הגילוי שלו והציע דרכים לשירותים כמו Google Assistant, סירי של אפל ואמזון אלכסה יכול להתנער מהמתקפות הללו, ומסתבר שיש מגוון שיטות שחברות עשויות להיות נוטות ליישם. חלק מההגנות, כמו CAPTCHA אודיו, עשויות להיות מושלמות כאישור סופי כדי להבחין בין משתמשים אנושיים למכונות - אם כי החוקרים מציינים התברר שהאלגוריתמים שמפעילים CAPTCHA של שמע הם מיושנים יחסית ולא עמדו בקצב ההתקדמות שנעשתה בטכנולוגיית זיהוי דיבור. שלא לדבר על, CAPTCHA מרגיז להתמודד איתם.
פתרון מסובך יותר הוא התאמת ההכרה לקול הבעלים, ששירותים רבים כבר מעסיקים אותו בתפוסה מוגבלת. עם זאת, הדו"ח מודה שההצעה הזו דורשת הכשרה מצד המכשיר, ומהווה בעיה עבור גאדג'טים המיועדים לשימוש על ידי מספר אנשים, כמו Amazon Echo. הצוות קבע שאחת ההגנות המעשיות והיעילות ביותר תהיה מסנן שמדרדר מעט את האודיו איכות הפקודות, מה שהופך את רוב המשפטים המעורפלים לבלתי ניתנים לזיהוי למכשיר תוך מתן אפשרות לאדם לעבור דרך.
אמנם דיווחים על התקפות קוליות מסוג זה הם נדירים, אם לא קיימים, אבל זה תמיד מועיל להיות מודעים לאזורים שבהם נמצאות פגיעות כדי שניתן יהיה לרסן אותן לפני שבעיות באמת יתחילו לצוץ לְמַעלָה. הודות למחקר שנעשה כאן, נהיה קצת יותר מוכנים למקרה שגל של לחישות שטניות יתחילו לומר לסמארטפונים שלנו מה לעשות.
המלצות עורכים
- תשכחו מ-ChatGPT - Siri ו-Google Assistant עושות את 4 הדברים האלה טוב יותר
- סירי ו-Google Assistant אומרים שהן תומכות כעת ב-Black Lives Matter
- אלכסה יכולה כעת להראות יותר רגשות כאשר קבוצת הספורט שלך מפסידה
- מחקר חדש מגלה שרמקולים חכמים יכולים להיפגע על ידי לייזרים
- עדכון הפרטיות החדש של גוגל מאפשר למחוק את היסטוריית הפקודות הקוליות של Assistant
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
