Vorige week schreef Ava Kofman een interessant maar angstaanjagend stuk in The Intercept over Voice RT. Je hebt waarschijnlijk nog nooit van Voice RT gehoord, omdat het een van die dingen is die de Amerikaanse regering in het geheim doet; in dit geval was het technologie aan het ontwikkelen die iemand positief kan identificeren aan de hand van zijn stem. Zorg ervoor dat je het leest. Het is belangrijke informatie die iedereen moet weten.
Onze stem is de perfecte biometrische identificatie; het is stabiel en uniek.
Nu is het idee om iemand aan zijn stem te herkennen gemakkelijk te begrijpen. We doen het elke dag als we praten met de mensen om ons heen. De stem van een persoon is vrij uniek en er is niet veel verwerkingskracht nodig - noch de organische soort in onze hoofden of de siliciumsoort in onze gadgets - om te weten met wie je praat alleen al door ze te horen praten. Maar de NSA was in staat om dingen tot het uiterste te brengen. Ze kunnen overal naar luisteren. Als je een telefooncel gebruikt die midden in het niets staat, kunnen ze luisteren. Ze hebben misschien zelfs de autoriteit om het te doen, en dat betekent dat we misschien een groot probleem hebben op onze nachtkastjes of salontafels genaamd Google Home en Amazon Echo.
Albert Gidari, directeur privacy van het Stanford Center for Internet and Society, sprak met The Verge en zei dat deze producten "kwetsbaar zijn voor eisen van de overheid voor toegang en openbaarmaking; ik denk dat de overheid een technisch assistentiebevel zou kunnen krijgen om de scan te vergemakkelijken, en onder FISA, misschien om de tool ook te bouwen. " Ik weet zeker dat Gidari gelijk heeft, omdat de overheid onze telefoons, onze computers en zelfs onze televisies al kan dagvaarden om een onderzoek mogelijk te maken. Senatoren Wyden (D., Oregon) en Paul (R., Kentucky) denken dat FISA ook op deze manier kan worden misbruikt.
En het is geen kwestie van een overheidsinstantie die bespioneert wat we zeggen of doen wanneer we praten met Alexa of Google Home. Ze hebben die informatie niet nodig; alles wat ze willen is een opname van onze stemmen.
Zowel de Echo als Google Home slaan opnames op van de dingen die we zeggen als we met ze praten. Beide verzenden ook spraakgegevens naar een cloud-server voor verwerking. Gelukkig neemt elke alleen op nadat het hot word is gedetecteerd en alle gegevens die uw apparaat verlaten, worden gecodeerd en geanonimiseerd. Of ze de gegevens kunnen onderscheppen en decoderen, het via de rechtbank kunnen eisen of het rechtstreeks vanaf het apparaat kunnen halen, ze horen alleen mensen zoals jij en ik assistent of Alexa vertellen om het kanaal te wijzigen of een weersvoorspelling te geven - alledaagse informatie die je probeert niet geheim te houden. De politie in Bentonville Arkansas ontdekte precies dat toen een Amazon Echo werd gedagvaard in een moordzaak in 2016. Maar nogmaals, dat is niet wat de NSA verzamelde met Voice RT; ze wilden gewoon wat voorbeeldgegevens van een stem zodat ze het konden evenaren terwijl ze het spionageproces in realtime deden.
Het is niet wat je zegt. Het is het feit dat jij het zegt dat het interessant maakt voor de NSA.
Kofman doorzocht de documenten gelekt door Edward Snowden en ontdekte dat de NSA al jaren spraakherkenningsgegevens verzamelt. Deze technologie werd gebruikt om Saddam Hussein te identificeren en te matchen met eerdere opnamen die werden gemaakt. Stemafdrukken voor Osama Bin Laden en andere hooggeplaatste Al Qaida-leden zijn gemaakt, en één memo vertelt hoe Abu Musab al-Zarqawi de spreker was in online audiobestanden waarin de CIA zeer geïnteresseerd was. Deze geclassificeerde documenten tonen aan dat tussen In 2004 en 2012 heeft de NSA haar luidsprekerherkenningstechnologie verfijnd en gebruikt in de strijd tegen terrorisme en internationale arrestaties.
Als je denkt dat het beste spionagebureau van het land dat willekeurige opnames verzamelt van wat mensen zeggen om te helpen bij het bestrijden van terrorisme of drugshandel OK is, zouden niet veel mensen ruzie met je hebben. Google en Facebook (en waarschijnlijk elk ander internetbedrijf) scannen verzamelde gegevens op zaken als kinderpornografie of misbruik, schending van het auteursrecht en terroristische activiteiten omdat iemand vindt dat dit voor het grotere goed is. Ik zal geen ruzie maken. Maar Snowden onthulde ook dat de NSA van plan is dezelfde technologie in te zetten om te voorkomen dat klokkenluiders zoals hij hun wandaden blootleggen jaren voordat Executive Order 13587 werd ondertekend.
De NSA heeft plannen om de tactieken te gebruiken die Bin Laden helpen vangen om Amerikanen te surveilleren.
Dat gaat te ver, en het heeft mensen zoals de voormalige Witte Huis-adviseur van de directeur van National Intelligence Timothy Edgar bezorgd over onze privacy en de gevolgen van een aanmatigend overheidsinstantie als ze denken dat we iets hebben gezegd of gedaan dat ze niet leuk vinden. We hebben allemaal gevallen gehoord waarin een zeer dunne lijn werd bewandeld en overschreden en alles was niet helemaal legaal volgens de geest van de Grondwet. Wat onze stemmen betreft, denken experts in burgerlijke vrijheid dat Google en Amazon moeten veranderen hoe Home en de Echo werken, zodat er geen spraakgegevens worden bewaard.
Onze stemmen zijn stabiel; iets dat ik 10 jaar geleden zei, kan met een stemafdruk worden geïdentificeerd als iets dat vandaag van mij komt. Met spraakopnamen bij de hand, ook al zijn het bestanden die zoiets zeggen als "OK Google, dim de woonkamerverlichting tot 50%", het is gemakkelijk om ze tegen ons te gebruiken voor onderzoek of operatie. Ik stel me voor dat de NSA voldoende spraakgegevens heeft die een persoon kunnen identificeren die drankjes heeft geserveerd aan een gezochte terrorist in een hotel, of de agent bij de loket op een luchthaven. Ik kan me ook voorstellen dat deze onschuldigen werden ondervraagd en vervolgens een gag-bevel kregen, hoewel ze onschuldig waren aan alle misdaden en de NSA en de CIA en de FBI wisten dat ze onschuldig waren.
Geloof niet in het gesprek dat programma's zoals FISA uitsluitend zijn ontworpen en gebruikt om ons te beschermen. We hebben voldoende bewijs van het tegendeel.
Dit moet in het openbaar worden ontmaskerd en besproken. Technologie die kan worden gebruikt om journalisten op te sporen of hun bronnen bloot te leggen, is gevaarlijk als ze niet correct wordt gebruikt en mag niet worden verborgen achter een muur van overheidsclassificatie. Terwijl groepen zoals de EFF en Freedom of the Press Foundation proberen dit te laten gebeuren, is er druk op Google en Amazon om te stoppen met het opslaan en analyseren van spraakgegevens zoals ze dat nu doen. Dat zet nogal een domper op een systeem dat is ontworpen om alles te analyseren en slimmer te worden. Machine learning heeft overvloedige hoeveelheden gegevens nodig om steeds opnieuw te kunnen 'leren'. Google en Amazon moeten zich zorgen maken over het verzamelen en opslaan op een manier die het anoniem houdt in plaats van zich zorgen te maken over hoe hun leermachines kunnen leren zonder de gegevens die ze nodig hebben.
Een machine heeft gegevens nodig om te leren. Veel gegevens worden steeds weer herhaald.
De vinger wijzen naar Alexa en Assistant als de oorzaak van het probleem is niet goed voor iedereen die ze nuttig vindt. We moeten ons concentreren op roping in onze regering en een einde maken aan ongerechtvaardigde surveillance van Amerikanen. En dit is niet alleen iets uit de VS; Interpol en de Britse GCHQ hebben "nauw samengewerkt" met de NSA en kredietprogramma's zoals Voice RT als "een belangrijke rol spelen in onze relatie met NSA." Er wordt gezegd dat China hetzelfde type programma heeft en nu in staat is om automatisch tienduizenden of misschien honderdduizenden Chinese burgers te identificeren aan de hand van hun stemgeluid.
Ik vertrouw er niet op dat de NSA geheime technologie heeft die ons op elk moment kan identificeren en niet ongepast kan gebruiken. Ik ben het eens met deskundigen op het gebied van burgerlijke vrijheid dat dit een gevaarlijke weg is en openbaar moet worden gemaakt. Ik ben het niet eens met Google en Amazon onder druk te zetten om te stoppen met innoveren terwijl we wachten. We zien de toekomst voor onze ogen ontvouwen en totdat de "slimme" machines die Google en Amazon gebruiken om ons te laten zien dat ze moeten regeren, laten we de toekomst niet tegenhouden.
