Spraakassistent en privacy: vertrouwenskwestie

Of het nu gaat om Amazon, Google of Apple: alle aanbieders van spraakassistenten hebben opnames van klanten laten beluisteren door (externe) medewerkers. Toen dat bekend werd, beloofden meteen ze beterschap en meer transparantie. De vraag is echter of je spraakassistenten kunt gebruiken zonder inbreuk op je privacy en of je aanbieders kunt vertrouwen.

Ze krijgen dagelijks honderdduizenden vragen over zich heen. En als ze een keer niet reageren zoals gewenst, horen ze ook het nodige gemopper en gevloek. Amazon Alexa, Google Assistent en Apple Siri hebben het maar zwaar. Gebruikers zijn nog niet helemaal tevreden met de werking van de spraakassistenten, maar de onthullingen over hoe met spraakdata van klanten wordt omgegaan zorgen al helemaal voor de nodige ophef.

Aanleiding waren berichten in de media over het door mensen beluisteren en beoordelen van spraakopdrachten. Nieuwsbureau Bloomberg sprak ­bijvoorbeeld met zeven Amazon-medewerkers die de hele dag niets anders deden dan Alexa-opnames uit woonkamers van gebruikers beluisteren. De Belgische zender VRT NWS kon ruim 1000 Nederlands­talige spraakopnames van Google Assistent beluisteren die het kreeg toegespeeld via een onderaannemer van Google. De journalisten konden de opnames aan de hand van soms erg persoonlijke dingen die werden gezegd herleiden tot concrete personen.

Apple maakt er graag reclame mee dat ze privacy van gebruikers heel belangrijk vindt. Een mede­werker van een opdrachtnemer van Apple liet de Britse krant The Guardian echter weten dat bij Apples Siri soortgelijke afluisterpraktijken speelden. Het Duitse Spiegel Online sprak met medewerkers die in zes à zeven uur tijd tussen de 1200 en 1600 opnames verwerkten.
Wat de medewerkers die aan het transcriberen van opnamen meewerken konden bevestigen, was dat spraakassistenten ook onbedoelde opnames registreren omdat ze denken een activatiewoord ­gehoord te hebben.

Vast staat in elk geval dat een groot en onbekend aantal spraakopnames door de belangrijkste aanbieders van spraakassistenten is doorgestuurd naar interne en externe medewerkers om ze te transcri­beren en beoordelen. Maar waarom eigenlijk?

Elk van die gesloten systemen maakt gebruik van machinaal leren. Volgens AI-experts vereist dat op zijn minst voor het controleren van de vorderingen een evaluatie door mensen. Spraakopdrachten zitten vol onduidelijkheden waar een machine niet altijd mee overweg kan, bijvoorbeeld dialecten, een accent of spreekfouten. Om fouten in de toekomst te verminderen en gebruikers tevredener te stellen, moeten de systemen dan ook voortdurend worden gecontroleerd en bijgestuurd door mensen.

Slimme speakers worden alleen ‘slimmer’ als ze achter de schermen worden bijgestuurd en gecontroleerd door mensen die de opnames beluisteren.

Wat de bedrijven werd verweten, ligt aan hun eigen marketing. Ze hebben bij gebruikers de indruk gewekt dat die met alwetende en slimme machines praten. In tv-reclames verstaan assistenten zoals Alexa altijd alles en hebben ze overal een passend antwoord op, zonder dat daar menselijke hulp aan te pas komt.

In de praktijk lijkt het soms meer op opdrachten typen op de commandline: alleen als je de juiste bewoordingen gebruikt, met de juiste volgorde (en uitspraak), krijg je de reactie die je wilt.

Als Amazon en andere spraakassistenten daar naar klanten toe duidelijk over waren geweest en je een keus hadden gegeven, was dat niet zo’n probleem geweest. Maar het tegendeel is waar. Waarschijnlijk zijn er maar heel weinig gebruikers van Alexa, Google Assistent en Siri die de ellenlange gebruiksvoorwaarden en privacystatements ooit doorgelezen hebben.

Zelfs als je dat al gedaan zou hebben, had je waarschijnlijk niet verwacht dat veel van de per ongeluk van je gemaakte spraakopnames door externe medewerkers op hun thuiswerkplek of aan de keuken­tafel zouden worden beluisterd, getranscribeerd en beoordeeld. In de voorwaarden staan meestal generieke uitspraken over kwaliteitsverbetering. Er is in elk geval één ding waar die voorwaarden niet voor zorgen: goed geïnformeerde gebruikers.

Bij het instellen van een apparaat met ingebouwde spraakassistent met de fabrikant je goed informeren over wat er met je gegevens (opnames) gebeurt.

Maar dat is wel wat de Europese privacywet­geving verlangt en wat ook voor Amerikaanse bedrijven geldt als ze hun producten hier aanbieden. De Algemene verordening gegevensbescherming (AVG) voorziet in hoge straffen en boetes als gebruikers niet voldoende geïnformeerd worden over de verwerking en het doorgeven van hun gegevens.

Zowel tegen Apple als Google zijn al rechtszaken aangespannen vanwege het meeluisteren. De aanbieders van spraakassistenten hebben gereageerd op alle ophef. Google is naar eigen zeggen tijdelijk gestopt met het beluisteren van spraakopnames. Gebruikers wordt (opnieuw) gevraagd om toestemming, waarbij wordt vermeld dat fragmenten door medewerkers beluisterd kunnen worden. Google zegt minder opnames te zullen maken en die beter te anonimiseren. En om spraakopdrachten makkelijker te kunnen verwijderen, komen er … spraakopdrachten. De gevoeligheid van het activatiewoord wordt ook aanpasbaar gemaakt. Volgens Google ging het bij het beluisteren van spraakopnames maar om circa 0,2 procent van alle fragmenten.

Ook Apple zegt gestopt te zijn met het laten beluisteren van Siri-opnames. Via een update van iOS moet je als gebruiker beter worden geïnformeerd en via opt-in wordt om toestemming gevraagd om sporadisch opnames te beluisteren. Volgens Apple zijn Siri-­opnamen niet aan de Apple-ID gekoppeld en dus niet tot specifieke personen te herleiden. Maar net als bij de concurrentie is dat natuurlijk onzin als er bijvoorbeeld namen worden genoemd in de opnames.

Gebruikers van Alexa moeten het beluisteren uitschakelen via opt-out. De bewoordingen zijn ­bovendien onduidelijk en bij het uitschakelen krijg je een waarschuwing dat de spraakherkenning dan mogelijk niet goed werkt. Daarna moet je nogmaals bevestigen. Het recht op opt-out wordt op die manier wel erg onaantrekkelijk gemaakt.

In principe blijven spraakopnames bij alle aanbieders onbeperkt bewaard. Bij Amazon en Google kun je afzonderlijke opnames beluisteren en wissen. Bij Apples Siri is dat niet mogelijk, daar is het alles of niets. Alle opnames verwijderen doe je door Siri (tijdelijk) uit te schakelen via de iOS-instellingen ­onder ‘Siri en zoeken’. Zowel ‘Luister naar ‘Hey Siri’’ als ‘Druk op de zijknop voor Siri’ moet je daartoe uitschakelen, dan zouden volgens Apple alle opnamen uit de cloud moeten verdwijnen. Je moet ook bij de toetsenbordinstellingen (‘Algemeen / Toetsenbord’) de dicteerfunctie uitzetten. Apple wijst erop dat ‘oude opnames die niet aan je identiteit zijn gekoppeld’ nog een tijd bewaard kunnen blijven.

Bij Amazon staat de optie om alles te verwijderen op de website bij ‘Je content en apparaten be­heren / Privacy en Alexa’ of in de Alexa-app. Je kunt afzonderlijke spraakopnames of een bepaalde periode wissen. Hier activeer je ook de nieuwe optie ‘Verwijderen met stem inschakelen’ om via stem­opdrachten je spraakopnames te laten wissen.

Bij Google kun je spraak- en andere gegevens automatisch laten verwijderen na een bepaalde tijd.

Bij Google Assistent kun je het makkelijkst met een browser inloggen op je Google-account en gaan naar ‘Gegevens en personalisatie / Mijn activiteit’. Je kunt daar ‘Kiezen voor automatische verwijdering’ van spraakopnames en andere web- en app-­activiteit na een bepaalde periode. Via de filteroptie kun je alleen Assistent-activiteit laten weergeven en losse items verwijderen of met de menuknop (drie puntjes) alle ‘Resultaten verwijderen’.

Of de gegevens bij alle aanbieders dan ook daadwerkelijk onherroepelijk verdwenen zijn, valt niet te controleren. Je moet ze op dat punt dus maar vertrouwen. Gezien de manier waarop dat vertrouwen al eerder is geschaad, zal dat voor veel gebruikers niet makkelijk zijn.

(Holger Bleich en Marco den Teuling, c’t magazine)