In de afgelopen paar maanden zijn er verschillende voorbeelden van Google Home die reageren op vragen met antwoorden van twijfelachtige waarheden, opgedoken op internet. Hier is een voorbeeld.
En hier is wat er gebeurt als u Google Home vraagt "plant Obama een staatsgreep?" pic.twitter.com/MzmZqGOOal
- Rory Cellan-Jones (@ ruskin147) 5 maart 2017
Het probleem is dat Google, om te optimaliseren voor op spraak gebaseerde antwoorden, het beste zoekresultaat van een bepaalde zoekopdracht leest - zonder noodzakelijkerwijs te verifiëren of die bron waarheidsgetrouwe antwoorden geeft. Volgens The Outline wordt dit probleem alleen maar erger naarmate meer mensen investeren in op spraak gebaseerde AI-metgezellen die de gebruiker ontlasten voor het verkrijgen van kennis:
Het aantal browserloze apparaten met internetverbinding groeit snel en al spraakgestuurde assistenten zoals Amazon Echo en Google Home penetreren de markt. De traditionele lijst met zoekresultaten van Google vertaalt zich niet goed in spraak - stel je voor dat Google Home je een lijst van 10 websites voorleest als je gewoon wilt weten hoeveel calorieën er in een sinaasappel zitten.
Google kan relatief eenvoudig worden gespeeld en met voldoende manipulatie kan een bepaalde website naar de top van de zoekresultaten stijgen.
De problemen doen zich voor wanneer Google het idee dat zijn zoekmachine inherent betrouwbaar is, in evenwicht brengt - de meeste mensen zeggen dat ze geloven dat de informatie die ze vinden op websites die op de eerste pagina van Google worden weergegeven - met de machine learning-algoritmen die bepaalde informatie helpen stijgen het beste resultaat.
De mogelijkheid om aanbevolen fragmenten te lezen is ook het belangrijkste onderscheidende kenmerk tussen Google Home en concurrenten zoals Amazon Echo en Siri, zei Danny Sullivan van Search Engine Land. "Google ziet dat als een concurrentievoordeel en ze willen het niet uitschakelen", zei hij. Het probleem is dat zelfs wanneer ze verkeerd zijn, de aanbevolen fragmenten de hoogste goedkeuring van Google dragen. "Waar is het omslagpunt waar je genoeg krijgt van deze beschamende antwoorden dat je besluit het uit te schakelen?"
Dit is een heel moeilijk probleem om op te lossen. Google gebruikt zijn uitgebreide Kennisgrafiek om te bieden wat het het beste antwoord op elke vraag vindt, en zijn grootste kracht - gegevens, en het gebruiken om een antwoord te geven op praktisch elke vraag - is ook zijn grootste aansprakelijkheid. Dat komt omdat Google relatief eenvoudig kan worden gespeeld, en met voldoende manipulatie kan een bepaalde website stijgen naar de zoekresultaten. Google maakt momenteel geen onderscheid tussen zijn zoekmachine - de op tekst en video gebaseerde lijst met resultaten die miljoenen mensen dagelijks gebruiken - en die van zijn Assistent, die de antwoorden op Google Home biedt. Onderweg kan het worden gedwongen om de resultaten van meer veelgestelde vragen samen te stellen, of het risico lopen inhoud te verspreiden die er niet noodzakelijkerwijs achter staat.
Natuurlijk doet Google zelf niet alsof hij een van deze claims onderschrijft, noch controleert het de juistheid van de topresultaten die aan Home zijn geleverd. Het verklaart dat heel duidelijk in elke reactie door "volgens" voor elk antwoord te plaatsen. Maar de meeste gebruikers, voor goed of slecht, onderscheiden Google niet de zoekmachine van Google, de betrouwbare nieuwsbron, en dat zal het bedrijf in de problemen brengen als er meer van deze controversiële voorbeelden ontstaan.
Onze eigen Jerry Hildenbrand schreef in een eerdere column over de kwestie van de publiciteit van Google Home:
De juiste manier om dit volgens Google aan te pakken, is door het aanbevolen fragment als ongepast te melden. Het probleem is dat het niet ongepast is op een website die het niet hardop voorleest. Ik denk niet dat de zoektocht is verbeterd door een interessant resultaat bovenaan te verwijderen, zolang een enge vrouwelijke robotachtige stem het niet hardop voorleest aan de kinderen. En Google Home is ontworpen om in de open lucht te zijn voor iedereen die zijn ding doet. Het is niet langer privé zodra het uit de luidspreker komt.
Dat raakt de kern van het probleem: mensen zijn beter in staat om het echte van het nep te onderscheiden wanneer ze een lijst met alternatieve resultaten te zien krijgen. Wanneer Google slechts één definitief resultaat biedt, zullen mensen het eerder als waarheid beschouwen.
Ondertussen staat Google Home op het punt in het VK te worden gelanceerd en is het een van de grootste hardwaresuccessen van Google in de afgelopen jaren gebleken.
