Alexa is geïnstalleerd op meer dan 100 miljoen apparaten over de hele wereld en verzamelt daarbij miljarden gebruikersvragen. Zoals alle digitale assistenten, vertrouwt Alexa op datamodellen om betere antwoorden te bieden, maar het lijkt erop dat Amazon de digitale assistent ook een helpende hand heeft gegeven in de vorm van menselijke beoordelingen. Een onderzoek door Bloomberg heeft aangetoond dat Amazon een wereldwijd team heeft dat Alexa-opnamen van over de hele wereld transcribeert en annuleert om "hiaten in Alexa's begrip van menselijke spraak te elimineren" en de assistent in staat te stellen betere antwoorden op uw vragen te geven.
Uit de publicatie bleek dat Amazon wereldwijd duizenden mensen in dienst heeft - zowel aannemers als fulltime werknemers - om Alexa-opnames te beoordelen, met teams verspreid over Boston, Costa Rica, India en Roemenië. Volgens een naamloze bron parseert elke recensent meer dan 1.000 audioclips gedurende een dienst van negen uur, annoteert ze en voert ze terug naar het systeem om de reacties van Alexa te verbeteren. Van Bloomberg:
Een werknemer in Boston zei dat hij verzamelde spraakgegevens voor specifieke uitingen zoals "Taylor Swift" verzamelde en annoteerde om aan te geven dat de zoeker de muzikale artiest bedoelde.
Af en toe pakken de luisteraars dingen op die Echo-eigenaars waarschijnlijk liever privé houden: een vrouw die bijvoorbeeld slecht onder de douche zingt, of een kind dat om hulp schreeuwt. De teams gebruiken interne chatrooms om bestanden te delen wanneer ze hulp nodig hebben bij het ontleden van een verward woord - of een grappige opname tegenkomen.
De publicatie heeft ook vastgesteld dat werknemers opnames tegenkomen die verontrustend zijn:
Soms horen ze opnames die ze verontrustend of mogelijk crimineel vinden. Twee van de werknemers zeiden dat ze hadden opgepikt wat volgens hen een seksuele aanval was. Wanneer zoiets gebeurt, kunnen ze de ervaring in de interne chatroom delen als een manier om stress te verlichten.
Amazon zegt dat er procedures zijn voor werknemers om te volgen wanneer ze iets verontrustends horen, maar twee in Roemenië gevestigde werknemers zeiden dat, nadat ze om begeleiding voor dergelijke gevallen hadden gevraagd, werd verteld dat het niet de taak van Amazon was om zich ermee te bemoeien.
De opnamen hebben geen volledige naam of adres van de gebruiker, maar wel de voornaam, een accountnummer en het serienummer van het apparaat. Amazon heeft eerder gezegd dat het afhankelijk is van natuurlijke taalverwerking om Alexa te trainen, maar het heeft aan Bloomberg toegegeven dat het een menselijk element gebruikt om een "klein voorbeeld van Alexa-stemopnames te annoteren:"
We nemen de beveiliging en privacy van de persoonlijke gegevens van onze klanten serieus. We annoteren alleen een extreem kleine steekproef van Alexa-spraakopnamen om de klantervaring te verbeteren. Deze informatie helpt ons bijvoorbeeld om onze systemen voor spraakherkenning en natuurlijk taalbegrip te trainen, zodat Alexa uw verzoeken beter kan begrijpen en ervoor kan zorgen dat de service voor iedereen goed werkt.
We hebben strikte technische en operationele waarborgen en hebben een nultolerantiebeleid voor misbruik van ons systeem. Medewerkers hebben geen directe toegang tot informatie die de persoon of account kan identificeren als onderdeel van deze workflow. Alle informatie wordt vertrouwelijk behandeld en we gebruiken multi-factor authenticatie om toegang, service-encryptie en audits van onze controleomgeving te beperken om deze te beschermen.
Het is niet alleen Amazon dat mensen helpt om zijn digitale assistent te ontwikkelen. Bloomberg ontdekte dat Apple ook een menselijk team heeft dat controleert of Siri's interpretatie van verzoeken overeenkomt met wat door gebruikers is gevraagd. Google heeft reviewers die Assistent trainen, maar de clips bevatten geen persoonlijk identificeerbare informatie en de audio zelf is vervormd om identificatie te voorkomen.
