Google lanceerde recent AI Overviews, een nieuwe functie waarbij zoekresultaten al meteen worden samengevat in een kort overzicht. Het gaat hierbij dus om een speciaal venster dat een antwoord heeft op je vraag, zonder dat je moet verder klikken. Maar enkele van deze antwoorden zijn gevaarlijk, waardoor Google nu moet ingrijpen.
Dat artificiële intelligentie (AI) nog niet volledige op punt staat, heeft Google de afgelopen dagen aan den lijve mogen ontdekken. De nieuwe functie AI Overviews leverde namelijk enkele gevaarlijke antwoorden op, waardoor Google nu manueel antwoorden moet verwijderen en aanpassen.
AI Overviews
Vorige week werd AI Overviews gelanceerd in de Verenigde Staten. Het gaat om een nieuwe functie in de zoekmachine die gebruikmaakt van artificiële intelligentie om meteen een kort en duidelijk antwoord te formuleren op de vraag die je aan Google stelt. Hierdoor moet je niet langer zoeken naar een van de vele links die Google aanreikt, maar krijg je je antwoord meteen te zien.
De functie werd al enkele maanden getest in de Verenigde Staten en nu “stond ze op punt” en kon ze dus gelanceerd worden. Al blijken er toch nog enkele opmerkelijke fouten in het systeem te sluipen.
Glas en lijm eten
De afgelopen week verschenen er verschillende posts op sociale media van mensen die vreemde antwoorden kregen van AI Overviews. Zo kreeg iemand het advies om “niet-giftige” lijm te gebruiken om kaas op pizza vast te lijmen en dat geologen zeggen dat mensen één steen per dag kunnen eten. Daarnaast zei de functie dat dokters aanbevelen om twee tot drie sigaretten per dag te roken tijdens je zwangerschap. Een ander opvallend antwoord kwam er op de vraag of je brandstof kan gebruiken om spaghetti sneller te laten koken. Het antwoord was “nee”. Maar AI Overviews gaf wel een recept mee voor een pikante pastasaus, met brandstof als een van de ingrediënten.
Al snel werd duidelijk dat de AI-bot van Google deze antwoorden vond bij de comments op Reddit of artikels van satirische websites als The Onion. In een reactie aan BBC laat Google weten dat het gaat om “geïsoleerde voorbeelden” en dat de functie over het algemeen goed werkt. “De voorbeelden die we gezien hebben, gingen vooral over ongewone vragen. Deze zijn niet representatief voor de ervaring van de meeste mensen. De meerderheid van AI Overviews heeft hoog kwalitatieve informatie, met links die dieper graven op het web.”
De “gevaarlijke” antwoorden werden ook snel weer aangepast. Iets waarvoor Google ironisch genoeg dienst moet doen op werknemers die de antwoorden manueel aanpassen.