Medewerkers van een bedrijf dat door Apple wordt ingezet, luisteren mee met Nederlandstalige opnames van de stemassistent Siri, zonder dat het bedrijf dat expliciet duidelijk heeft gemaakt. Het werk is uitgevoerd door werknemers van het Ierse bedrijf GlobeTech, blijkt uit verklaringen van een klokkenluider en documenten die NU.nl in handen heeft.

Apple laat vrijdagochtend aan NU.nl weten dat het bedrijf voorlopig wereldwijd stopt met het laten beluisteren van Siri-fragmenten. Het bedrijf wil niet zeggen of dat per direct gebeurt. De maatregel volgt na een publicatie van The Guardian en nadat NU.nl vragen over de praktijken aan het bedrijf had voorgelegd.

In het kort:

  • Apple liet medewerkers Nederlandstalige Siri-opnames beluisteren en beoordelen.
  • Het bedrijf maakt niet expliciet duidelijk dat Siri-opnames door anderen beluisterd kunnen worden.
  • Apple maakt vrijdagochtend bekend wereldwijd voorlopig te stoppen met het project.
  • Eerder werd bekend dat Google hetzelfde deed met Nederlandse opnames. Dit bedrijf meldde donderdag deze praktijken voorlopig te staken.

De fragmenten die beluisterd worden, zijn meestal spraakopnames die worden gemaakt nadat een gebruiker "Hé Siri" heeft gezegd of de Siri-knop heeft ingedrukt om de assistent een commando te geven.

De medewerkers kregen in een klein deel van de gevallen echter ook onbedoelde opnames te horen. Deze fragmenten bevatten bijvoorbeeld delen van gesprekken.

Bedrijf is niet duidelijk over meeluisteren

Apple maakt Siri-gebruikers tot op de dag van vandaag niet expliciet duidelijk dat opnames door anderen beluisterd kunnen worden. Een Nederlandse oud-medewerker van GlobeTech die een paar jaar geleden voor het bedrijf Siri-fragmenten beluisterde en transcripten controleerde, zegt tegen NU.nl dit niet als "de netste manier van zakendoen" te beschouwen.

Apple belooft ook een software-update door te voeren, zodat gebruikers het kunnen laten weten als zij niet willen dat hun Siri-opnames bij analisten terechtkomen. Het is onduidelijk wanneer die optie beschikbaar zal zijn.

NU.nl kwam in contact met de klokkenluider nadat VRT NWS en de NOS in juli onthulden dat Nederlandse opnames van de Google-stemassistent door anderen beluisterd kunnen worden. "Eigenlijk dacht ik dat het algemene kennis was. Het verbaasde me dat in dat artikel stond dat onbekend is of Apple het ook doet."

Apple stopt wereldwijd met het laten beluisteren van Siri-fragmenten. (Foto: Pro Shots)

Duizenden fragmenten per dag

De klokkenluider beschrijft in gesprek met NU.nl hoe hij en tientallen GlobeTech-medewerkers dagelijks in totaal duizenden fragmenten te horen kregen om deze te analyseren. "Ik werkte met een groep van zo'n twintig Nederlanders, maar er zaten ook mensen die aan andere talen werkten. Het was een vrij internationale groep."

"We werkten in een grote ruimte met allemaal bureaus tegenover elkaar. De ramen waren afgeplakt met papier. Op de bureaus stonden MacBooks waarop ik geluidsfragmenten kon afspelen, terugspoelen, noem maar op. Die fragmenten duurden van enkele seconden tot veertig seconden. Er zaten niet veel echt langere bij."

"Daaronder stond een tekstvak waarin ik de uitgeschreven audio-opname kon verbeteren. Soms klopte de zin wel ongeveer, maar moesten er taaltechnisch één of twee dingen aan gebeuren. En soms klopte er weer helemaal niets van."

"Op die manier moest ik vierhonderd fragmenten per dag verwerken. Soms hoorde je delen van gesprekken waarbij je veel moest typen of dingen die moeilijk te verstaan waren, waardoor je veel moest terugluisteren. Maar in het algemeen was het goed te doen. Als je een beetje doorwerkte, had je de vierhonderd fragmenten op drie kwart van de dag klaar."

'Apple reageert hetzelfde als Google'

Apple laat in een reactie aan NU.nl weten dat "een klein deel" van de Siri-verzoeken wordt geanalyseerd om de virtuele assistent te verbeteren. "De verzoeken worden niet gekoppeld aan de Apple ID van de gebruiker."

Apple laat verder weten dat minder dan 1 procent van de dagelijkse Siri-uitlatingen door anderen wordt beluisterd en beoordeeld. Dat is volgens het bedrijf ook nodig om vast te kunnen stellen of de fragmenten onbedoeld zijn opgenomen.

"Hier gebeurt hetzelfde als wat we een paar weken geleden bij Google zagen", constateert David Korteweg van privacyorganisatie Bits of Freedom. "Ze zeggen allebei dat het om minder dan 1 procent van de opnames gaat. Ik weet niet hoeveel fragmenten er per dag worden verwerkt, maar dan zullen er miljoenen zijn. In dat geval gaat het al om tienduizenden opnames per dag."

Ook aan de analyse van onbedoelde opnames kleven risico's, zegt Korteweg. "De mensen die dit werk uitvoeren, komen bij per ongeluk opgenomen fragmenten wel in aanraking met potentieel gevoelige gesprekken. Ook in een fragment dat niet aan jouw Apple ID is gekoppeld, kan heel onthullende informatie zitten."

"Het is de optelsom die dit problematisch maakt", concludeert hij. "Apple is er niet transparant over: gebruikers weten niet dat het gebeurt. Blijkbaar wordt Siri ten onrechte nog vaak geactiveerd. Bovendien wordt het werk uitbesteed: het zijn geen directe medewerkers van Apple. Zij hebben een heel andere relatie met het bedrijf dan vaste werknemers."

Apple zegt dat de medewerkers moeten voldoen aan de "strenge vertrouwelijkheidseisen" van het bedrijf, maar het is onduidelijk hoe die gehandhaafd worden. Google maakte donderdag eveneens bekend dat het bedrijf voorlopig stopt met het transcriberen van audiofragmenten van de Google Assistent.

Analyse in meerdere talen

NU.nl heeft GlobeTech maandag per e-mail vragen gesteld over het werk dat het bedrijf voor Apple uitvoert, maar geen reactie ontvangen. Ook herhaaldelijke pogingen om voor publicatie iemand telefonisch te spreken te krijgen, draaiden op niets uit.

Op LinkedIn-profielen schrijven meerdere mensen als taalanalist bij GlobeTech te werken. In enkele gevallen wordt ook vermeld dat de taken bij het bedrijf namens Apple worden uitgevoerd, of wordt Siri genoemd.

Apple wil niet zeggen in welke talen Siri tot nu toe is geanalyseerd. Huidige openstaande GlobeTech-vacatures voor vergelijkbare posities als die van de klokkenluider wijzen erop dat het bedrijf naast Nederlandse analisten momenteel ook mensen met kennis van het Duits, Frans, Deens, Fins, Zweeds, Arabisch en Hebreeuws zoekt.

GlobeTech wilde vrijdagochtend geen commentaar geven op het nieuws dat Apple wereldwijd stopt met de analyse door medewerkers.