Dessen sind sich die Forscher der UC Berkeley und der Georgetown University sehr bewusst, weshalb sie sich letztes Jahr dazu entschieden haben Untersuchen Sie genau, wie verletzlich Die Spracherkennungssoftware, die so viele unserer Computergeräte antreibt, ist es tatsächlich. Sie konzentrierten sich darauf Google Assistant, das systemweit weiterlebt Android und in der Google-App auf iOS und entwickelte eine Möglichkeit, Sprachbefehle gerade so weit zu verstümmeln, dass Google Assistant sie verstehen konnte, für die meisten Menschen jedoch unverständlich waren.
Empfohlene Videos
Die Forscher testeten die Erkennung mehrerer verschleierter Befehle wie „OK Google“ und maßen die Fähigkeit der Software, die Nachricht im Vergleich zu Menschen zu entschlüsseln. Insbesondere im Fall von „OK Google“ stellten sie fest, dass die Teilnehmergruppe nur in der Lage war In 22 Prozent der Fälle gelang es ihm, den verschlüsselten Satz zu erkennen, aber der Assistent verstand ihn in 95 Prozent der Fälle Zeit. Darüber hinaus konnte die Software die verschleierte Version besser entschlüsseln als die normale Aussprache von „OK Google“, was eine Erkennungsrate von nur 90 Prozent ergab.
Verwandt
- Experten warnen, dass KI-Assistenten die soziale Entwicklung von Kindern beeinträchtigen
- Amazon Echo bleibt trotz sinkender US-Marktanteile der König unter den Smart Speakern
- Ihr Alexa-Lautsprecher kann mit bösartigen Audiospuren gehackt werden. Und Laser.
Demo-VoiceHack
Auf den ersten Blick wirken viele dieser verzerrten Befehle möglicherweise nur statisch mit dem vagen Rhythmus der Sprache, nur beschleunigt. Wenn wir als Menschen wissen, was der Satz ist, bevor wir ihn hören, wird es unendlich einfacher, ihn zu identifizieren. Aber ohne diese Informationen sind wir in vielen Fällen ratlos.
Die Studie stellt fest, dass einige der durcheinandergebrachten Befehle für uns leichter zu verstehen sind als andere. „911 anrufen“ beispielsweise ergab eine menschliche Erkennungsrate von 94 Prozent, verglichen mit nur 40 Prozent bei Google Assistant, wahrscheinlich weil es sich um einen Ausdruck handelt, auf den die große Mehrheit der amerikanischen Englischsprecher vorkonditioniert ist hören. Aber die richtige Kombination eines Nischenbefehls hat sich gerade so weit verändert, dass unsere persönlichen Assistenten dafür empfänglich sind, während wir es sind Wenn wir uns am Kopf kratzen, stellt dies ein offensichtliches Risiko dar, wenn man bedenkt, dass die meisten Verbrauchergeräte über keinerlei Sprachsteuerung verfügen Authentifizierung.
Was können wir tun, um uns vor Voice-Hacking zu schützen?
Eine der wenigen vorbeugenden Maßnahmen gegen diese Art der sprachgesteuerten Manipulation besteht darin, dass viele Befehle den Assistenten dazu auffordern, im Nachhinein eine Bestätigung anzufordern. Allerdings weist The Atlantic darauf hin ihr Artikel über die Studie, das ist nur eine kleine Hürde, die mit einem verzerrten „Ja“ beseitigt werden muss, und wenn alles zu schnell geht, als dass der Benutzer erkennen könnte, was vor sich geht, kann er es nicht rechtzeitig stoppen.
Einige der durcheinandergebrachten Befehle sind für uns leichter zu verstehen als andere.
Das Team setzte seine Entdeckung fort und schlug Möglichkeiten für Dienste wie Google Assistant, Apples Siri und Amazons vor Alexa könnte diese Angriffe abwehren, und es stellt sich heraus, dass es eine Vielzahl von Methoden gibt, die Unternehmen möglicherweise gerne anwenden würden. Einige Abwehrmaßnahmen, wie ein Audio-CAPTCHA, könnten als endgültige Bestätigung eingesetzt werden, um menschliche Benutzer von Maschinen zu unterscheiden – obwohl die Forscher darauf hinweisen weisen darauf hin, dass die Algorithmen, die Audio-CAPTCHAs unterstützen, relativ veraltet sind und nicht mit den Fortschritten in der Spracherkennungstechnologie Schritt gehalten haben. Ganz zu schweigen davon, dass der Umgang mit CAPTCHAs nervig ist.
Eine kompliziertere Lösung besteht darin, die Erkennung auf die Stimme des Eigentümers zuzuschneiden, was viele Dienste bereits in begrenztem Umfang nutzen. Der Bericht räumt jedoch ein, dass der Vorschlag eine Schulung seitens des Geräts erfordert und ein Problem für Geräte darstellt, die von mehreren Personen genutzt werden sollen, wie etwa das Amazon Echo. Das Team hat festgestellt, dass eine der praktischsten und effektivsten Abwehrmaßnahmen ein Filter wäre, der den Ton leicht beeinträchtigt Qualität der Befehle, wodurch die meisten verschleierten Phrasen für das Gerät unkenntlich gemacht werden, während menschliche Phrasen durchgelassen werden durch.
Obwohl Berichte über sprachbasierte Angriffe dieser Art selten oder gar nicht vorkommen, sind sie immer hilfreich sich der Bereiche bewusst zu sein, in denen Schwachstellen liegen, damit diese eingedämmt werden können, bevor wirklich Probleme auftreten hoch. Dank der hier durchgeführten Recherchen sind wir etwas besser darauf vorbereitet, falls eine Welle satanisch klingender Flüstern beginnt, unseren Smartphones zu sagen, was sie tun sollen.
Empfehlungen der Redaktion
- Vergessen Sie ChatGPT – Siri und Google Assistant machen diese 4 Dinge besser
- Siri und Google Assistant sagen, dass sie jetzt Black Lives Matter unterstützen
- Alexa kann jetzt mehr Emotionen zeigen, wenn Ihre Sportmannschaft verliert
- Neue Forschungsergebnisse zeigen, dass intelligente Lautsprecher durch Laser beeinträchtigt werden können
- Mit dem neuen Datenschutzupdate von Google können Sie den Sprachbefehlsverlauf von Assistant löschen
Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.
