In het kort

• Ashley MacIsaac klaagt Google aan voor 1,5 miljoen dollar (ongeveer 1,4 miljoen euro) nadat hun AI hem onterecht als zedendelinquent bestempelde, wat leidde tot de afgelasting van een concert.
• Door een fout in het AI-ontwerp van Google zouden er lasterlijke uitspraken over MacIsaacs strafblad zijn gegenereerd, zonder controle of contact met hem.
• Dit incident toont hoe riskant het is om blind te vertrouwen op AI-gegenereerde informatie

De Canadese violist Ashley MacIsaac klaagt Google aan voor 1,5 miljoen dollar (ongeveer 1,4 miljoen euro) omdat de AI-functie van de techgigant hem onterecht als zedendelinquent bestempelde. Die foutieve info zorgde ervoor dat een van zijn concerten werd afgelast.

Onjuiste beschuldigingen door AI gegenereerd

De lasterlijke uitspraken verschenen in een door AI gegenereerde samenvatting van MacIsaacs leven en carrière. Daarin werd beweerd dat hij was veroordeeld voor meerdere misdrijven, waaronder aanranding, het online lokken van kinderen en fysiek geweld. In het AI-overzicht stond ook onterecht dat MacIsaac permanent geregistreerd stond als zedendelinquent. In zijn rechtszaak stelt MacIsaac dat Google, als maker en beheerder van de AI-functie, verantwoordelijk is voor alle schade door het gebrekkige ontwerp. Hij vindt dat Google had moeten weten dat zulke AI-samenvattingen fouten kunnen bevatten, dat meldt de Canadian Press.

Concert geannuleerd door AI-fout

Bovendien zegt MacIsaac dat Google nooit contact met hem heeft opgenomen of zich heeft verontschuldigd voor de fout. Hij ontdekte de valse beschuldigingen toen een concert bij de Sipekne’katik First Nation werd afgelast. Bezoekers hadden hun zorgen geuit over zijn optreden, op basis van informatie die ze op Google hadden gevonden. De Sipekne’katik First Nation heeft later excuses aangeboden en gezegd dat hun beslissing was gebaseerd op foutieve informatie die door een AI-zoekopdracht was gegenereerd. Ze betuigden ook spijt voor de schade aan MacIsaacs reputatie en inkomen.

MacIsaac vertelde aan de Canadian Press dat de valse beschuldigingen hem een “tastbare angst” gaven om op te treden. Hij was bang voor zijn veiligheid op het podium door het onterechte label dat hij kreeg, en zei dat hij niet weet hoe lang deze situatie hem nog zal blijven achtervolgen.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief