Duitse onderzoekers zijn erin geslaagd om spraakassistent Alexa te foppen met opdrachten die voor het menselijk oor onhoorbaar zijn. In handen van hackers zou de techniek een groot risico betekenen.
Spraakassistenten als Alexa van Amazon, Siri van Apple en Google Assistant reageren op gesproken commando's. Vraag je ze om de openingstijden van een specifiek restaurant op te zoeken, een routebeschrijving naar het park te geven of een specifiek persoon te bellen, dan doen ze dat direct.
Specifieke frequentie
Dat het systeem niet helemaal waterdicht is, was al bekend. Maar onderzoekers van het Horst-Görtz-Institut für IT-Sicherheit van de Ruhr-Universität Bochum hebben nu een nieuwe methode ontwikkeld om de spraakassistent te foppen. Ze zijn in staat om gesproken commando's zo te verbergen in een geluidsopname, dat ze onhoorbaar zijn voor mensen, maar wel direct worden opgepikt door het spraakherkenningssysteem Kaldi, waarop Alexa draait Alexa.
De onderzoekers maken gebruik van de manier waarop de mens hoort. 'Zolang ons oor bezig is met het verwerken van geluid op een specifieke frequentie, zijn we niet in staat om andere, zachte geluiden te horen', zegt onderzoekster Lea Schönherr. In die specifieke frequentie kan een boodschap worden verstopt, legt ze uit. Waar mensen dan enkel ruis horen, pikt Alexa wel die zachte geluiden op. Door beide te combineren, ontstaat er een enkel voor Alexa hoorbaar commando.
Generieke aanval
Voorheen was het onderzoekers ook al gelukt Alexa voor de gek te houden, maar alleen in een gecontroleerde labsituatie. Nu kunnen ze het echter ook via gewone luidsprekers in een huiskamer. Dat was extra lastig, omdat geluid via luidsprekers in elke kamer net even anders klinkt door de specifieke akoestiek.
Eerder kon een auditieve aanval enkel worden uitgevoerd wanneer die specifiek voor een bepaalde kamer was gemaakt, zegt Schönherr in een persbericht. 'Maar nu hebben we een generieke aanval uitgevoerd, waarbij vooraf geen informatie over de specifieke kamer vereist is. De onderzoekers publiceerden hun bevindingen onlangs online.
Ongewenste aankopen
Vooralsnog worden spraakherkenningssystemen niet gebruikt in bedrijfskritische processen. Maar als hackers willen, zouden ze via verborgen spraakcommando's een opdracht kunnen geven om specifieke producten te kopen bijvoorbeeld.
Volgens de onderzoekers is het nu aan de aanbieders van spraakassistenten om het veiligheidslek te dichten. Een mogelijkheid zou zijn om de assistenten te instrueren alleen opdrachten uit te voeren die ook door het menselijk gehoor opgevangen kunnen worden. Dan kan een eventuele hack in ieder geval niet ongemerkt plaatsvinden.
Foto's: Roberto Schirdewahn
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.