In het kort

• AI-samenvattingen halen vaak belangrijke waarschuwingen weg en verbergen gevaarlijke omstandigheden in hotels.
• Reizigers moeten voor hun veiligheid de voorkeur geven aan éénsterrenrecensies boven geautomatiseerde samenvattingen.
• Foutieve informatie van AI-chatbots leidt tot concrete fysieke risico’s voor toeristen die zich op onbekend terrein begeven.

Reizigers krijgen de waarschuwing om niet blind te vertrouwen op chatbots bij het plannen van hun vakantie. Dat geldt ook voor systemen die speciaal zijn ontwikkeld om echte klantbeoordelingen samen te vatten. Een rapport van The Guardian toont aan dat de AI-samenvattingstool van Tripadvisor soms ernstige waarschuwingen van gasten weglaat, waardoor problematische bestemmingen een te positief imago krijgen.

Waarschuwingen verdwijnen in AI-samenvattingen

Onderzoek door de consumentenorganisatie Which? bracht alarmerende verschillen aan het licht. In één geval bestempelde de AI een hotel op Kaapverdië als “vlekkeloos”, waarbij volledig werd verzwegen dat het hotel verwikkeld was in een rechtszaak over wijdverspreide voedselvergiftiging.

Ook werd een Turks resort, waar meldingen van seksuele intimidatie de ronde deden, door de AI geprezen om zijn “vriendelijke service”, terwijl de ernstige beschuldigingen werden gebagatelliseerd als louter “uitglijders” die slechts door een kleine minderheid waren meegemaakt.

Onafhankelijke beoordelingssites

Rory Boland, redacteur van Which? Travel, benadrukte dat Tripadvisor ervoor moet zorgen dat zijn geautomatiseerde tools kloppen. Hij raadt toeristen aan om, totdat deze problemen zijn opgelost, de AI-samenvattingen te negeren en in plaats daarvan éénsterrenbeoordelingen en onafhankelijke beoordelingssites goed te bekijken om hun veiligheid te garanderen.

Te beleefd om te waarschuwen

Het fenomeen past binnen een breder probleem met artificiële intelligentie: de neiging om informatie te “zuiveren”. Duncan Brumby, professor aan het University College London, legt uit dat artificiële intelligentie harde kritiek vaak afzwakt omdat de trainingsdata voornamelijk bestaan uit neutrale of onopvallende inhoud, waardoor de machine overdreven beleefd overkomt.

Dat slijmerige karakter, in combinatie met veiligheidsfilters die de AI ervan kunnen weerhouden om duistere of gewelddadige onderwerpen te bespreken, kan ertoe leiden dat kritische waarschuwingen worden weggefilterd.

Reactie van Tripadvisor

Tripadvisor stelt dat het automatisch AI-samenvattingen verwijdert bij accommodaties die verband houden met ernstige misdrijven, zoals het toedienen van drugs of dodelijke incidenten. Het bedrijf zegt dat de functie bedoeld is om gebruikers een algemeen overzicht te geven. Toch blijven er volgens critici tekortkomingen in het systeem bestaan.

Hallucinaties

Het gevaar reikt verder dan vertekende beoordelingen. Nu bijna 25 procent van de toeristen AI gebruikt voor het plannen van hun reis, zijn hallucinaties een fysiek risico geworden. Zo werden twee wandelaars in Peru op een dwaalspoor gebracht door een door AI gegenereerde “heilige kloof” die niet bestond, waardoor een professionele gids moest ingrijpen. Uiteindelijk kunnen gefilterde AI-samenvattingen voor wie op zoek is naar eerlijke menselijke perspectieven een gevaarlijke vervanging zijn voor originele beoordelingen.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief