Unhörbare Töne hacken KI-Assistenten: echte Bedrohung?
KI-Assistenten lassen sich mit Ultraschall in Podcasts manipulieren. Die Bedrohung ist real, doch das eigentliche Risiko liegt in den Berechtigungen, die wir erteilen.
Deutsch · Ursprüngliche Diskussion auf Spanisch · Veröffentlicht
Unhörbare Töne, die KI-Assistenten hacken: der neue Angriffsvektor
Man startet einen Podcast auf YouTube, und ein Ton, den man nicht hört, beginnt zu laufen. Das ist keine Science-Fiction: Ultraschallfrequenzen können bösartige Anweisungen in KI-Assistenten wie Gemini, ChatGPT oder Alexa einschleusen. Der Angriff, der in zahlreichen Untersuchungen dokumentiert ist, nutzt die Fähigkeit stets aktiver Mikrofone aus, Frequenzen oberhalb der menschlichen Hörschwelle aufzunehmen und in Befehle umzuwandeln, die der Assistent ausführt, ohne dass der Nutzer davon erfährt.
Wie funktioniert der Ultraschallangriff?
Das Prinzip ist einfach: Sprachassistenten verarbeiten ständig die Umgebungsgeräusche. Ein Angreifer bettet ein Ultraschallsignal (zwischen 18 kHz und 24 kHz) in ein Video oder einen Podcast ein. Das menschliche Ohr nimmt es nicht wahr, doch das Mikrofon des Geräts schon. Der Assistent interpretiert es als legitimen Befehl: „Sende den Browserverlauf an diese E-Mail“ oder „Teile die Dateien im Ordner Dokumente“. Komplexe Exploits sind nicht nötig; es genügt, dass der Assistent die Berechtigung hat, auf diese Daten zuzugreifen.
Das Berechtigungsparadox: das eigentliche Risiko
Besorgniserregend ist nicht die Existenz der Technik, sondern dass geschlossene Modelle wie Gemini oder ChatGPT bereits Zugriff auf Kalender, E-Mails, Dateien und Browserverlauf haben, wenn der Nutzer ihnen die Berechtigung erteilt hat. Und der Durchschnittsnutzer akzeptiert, ohne zu lesen. Wie eine Branchenanalyse feststellt, ist der Ultraschallangriff nur der Schlüssel; die offene Tür sind die übermäßigen Berechtigungen, die wir den Apps einräumen. Derweil reduzieren einfache Maßnahmen wie das Deaktivieren des Mikrofons bei Nichtgebrauch oder das Einschränken von App-Berechtigungen die Angriffsfläche erheblich.
Medienhype oder echtes Risiko
Manche Experten spielen das Phänomen herunter und nennen es „einen Markennamen, um Sicherheitsberatung zu verkaufen“. Sie argumentieren, die meisten Assistenten erfordern direkte Sprachinteraktion, und praktische Angriffe ließen sich in kontrollierten Umgebungen nur schwer ausführen. Allerdings belegen dokumentierte Fälle von TV-Werbung, die Ultraschall nutzte, um Handy-Mikrofone zu aktivieren (aus China gemeldet), dass die Technik bereits in der realen Welt eingesetzt wurde. Der Unterschied liegt heute in der Leistungsfähigkeit der Assistenten und ihrer Verknüpfung mit persönlichen Daten.
Was keine Analyse bislang erklärt: Warum implementieren die Hersteller trotz des bekannten Problems keine akustischen Filter, die unhörbare Frequenzen standardmäßig blockieren? Die Antwort liegt vermutlich in einem Abwägungsverhältnis zwischen Funktionalität und Sicherheit, das die Industrie nicht aufgeben will.
Verwandte Diskussionen im Forum
Man startet einen Podcast auf YouTube, und ein Ton, den man nicht hört, beginnt zu laufen. Das ist keine Science-Fiction: Ultraschallfrequenzen können bösartige Anweisungen in KI-Assistenten wie Gemini, ChatGPT oder Alexa einschleusen. Der Angriff, der in zahlreichen Untersuchungen dokumentiert ist, nutzt die Fähigkeit stets aktiver Mikrofone aus, Frequenzen oberhalb der menschlichen Hörschwelle aufzunehmen und in Befehle umzuwandeln, die der Assistent ausführt, ohne dass der Nutzer davon erfährt.
Wie funktioniert der Ultraschallangriff?
Das Prinzip ist einfach: Sprachassistenten verarbeiten ständig die Umgebungsgeräusche. Ein Angreifer bettet ein Ultraschallsignal (zwischen 18 kHz und 24 kHz) in ein Video oder einen Podcast ein. Das menschliche Ohr nimmt es nicht wahr, doch das Mikrofon des Geräts schon. Der Assistent interpretiert es als legitimen Befehl: „Sende den Browserverlauf an diese E-Mail“ oder „Teile die Dateien im Ordner Dokumente“. Komplexe Exploits sind nicht nötig; es genügt, dass der Assistent die Berechtigung hat, auf diese Daten zuzugreifen.
Das Berechtigungsparadox: das eigentliche Risiko
Besorgniserregend ist nicht die Existenz der Technik, sondern dass geschlossene Modelle wie Gemini oder ChatGPT bereits Zugriff auf Kalender, E-Mails, Dateien und Browserverlauf haben, wenn der Nutzer ihnen die Berechtigung erteilt hat. Und der Durchschnittsnutzer akzeptiert, ohne zu lesen. Wie eine Branchenanalyse feststellt, ist der Ultraschallangriff nur der Schlüssel; die offene Tür sind die übermäßigen Berechtigungen, die wir den Apps einräumen. Derweil reduzieren einfache Maßnahmen wie das Deaktivieren des Mikrofons bei Nichtgebrauch oder das Einschränken von App-Berechtigungen die Angriffsfläche erheblich.
Medienhype oder echtes Risiko
Manche Experten spielen das Phänomen herunter und nennen es „einen Markennamen, um Sicherheitsberatung zu verkaufen“. Sie argumentieren, die meisten Assistenten erfordern direkte Sprachinteraktion, und praktische Angriffe ließen sich in kontrollierten Umgebungen nur schwer ausführen. Allerdings belegen dokumentierte Fälle von TV-Werbung, die Ultraschall nutzte, um Handy-Mikrofone zu aktivieren (aus China gemeldet), dass die Technik bereits in der realen Welt eingesetzt wurde. Der Unterschied liegt heute in der Leistungsfähigkeit der Assistenten und ihrer Verknüpfung mit persönlichen Daten.
Was keine Analyse bislang erklärt: Warum implementieren die Hersteller trotz des bekannten Problems keine akustischen Filter, die unhörbare Frequenzen standardmäßig blockieren? Die Antwort liegt vermutlich in einem Abwägungsverhältnis zwischen Funktionalität und Sicherheit, das die Industrie nicht aufgeben will.
Verwandte Diskussionen im Forum
- Deutschland will 12-Stunden-Arbeitstage einführen · 176 Antworten
- Der „Fall“ Zapatero zerfließt wie Scheiße, gebadet in Rechten-Tränen · 24 Antworten
- 121 Männer und Frauen ohne Ehre. · 50 Antworten
- Der Rabbiner hinter der größten Prono-Website der Welt · 80 Antworten
Auch verfügbar auf: English
Zusammenfassung einer Diskussion auf Burbuja.info - Foro de economía, actualidad y política., aus dem Spanischen übersetzt und vor der Veröffentlichung geprüft. Die ganze Diskussion lesen (14 Antworten).
Weitere Zusammenfassungen
-
Madrid: Über zehn Messerangriffe pro Woche
In Madrid steigt die Zahl der Messerangriffe um 61 %. Eine Karte zeigt die Schwerpunkte in der Hauptstadt und im Umland.
-
Angriff auf Hugging Face entfacht neue Debatte über KI-Sicherheit
Ein autonomer KI-Agent griff Hugging Face an, und private Verteidigungssysteme versagten. Die Debatte zwischen Open Source und geschlossenen Modellen verschärft sich.
-
Die Ultraschall-Verschwörungstheorie im Kino hält keiner Prüfung stand
Die Verschwörungstheorie über Ultraschall im Kino stößt auf Ironie und Skepsis. Ein Hoax, der von der realen Wirtschaft ablenkt.
-
Kriegsgesänge auf der Puerta del Sol!!!!!
Angesichts des empfundenen „Fehlens von Hoffnung“ in der aktuellen Lage wird ein Aufruf zu einem Staatsstreich laut, verbunden mit Kritik an Bürgerprotesten.
-
Ihr se alt: 33 Jahre sind seit dem Raub mit Drogen im ColaCao an José Tojeiro vergangen
Der Raub mit chemischer Betäubung an **José Tojeiro** im Jahr 1993 gilt bis heute als Meilenstein der spanischen Kriminalgeschichte. Wir beleuchten den Kontext und die Folgen.
-
Nayib Bukeles El Salvador gilt als zweitbestes Reiseziel der Welt
Die Behauptung, El Salvador sei das zweitbeste Reiseziel der Welt, sorgt für Diskussionen. Wir beleuchten den wirtschaftlichen Kontext und die Zahlen.