In het kort
- Google heeft zijn excuses aangeboden voor het gebruik van een racistische term in een nieuwsbericht over de BAFTA-awards.
- De beledigende term werd per ongeluk gebruikt door een fout in de veiligheidsmechanismen van Google voor pushmeldingen.
- Ondanks dat de term is verwijderd, laat dit incident zien dat er nog steeds verbeteringen nodig zijn in het filteren van online content.
Een recent nieuwsbericht van Google over de Bafta-awards van dit jaar zorgde voor ophef omdat er een racistische opmerking in zat. Het bericht, dat bedoeld was om mensen naar meer verslaggeving over het evenement te leiden, bevatte per ongeluk de beledigende term.
Google biedt excuses aan voor fout
Google heeft inmiddels oprecht zijn excuses aangeboden voor de fout en gezegd dat ze de beledigende melding hebben verwijderd en actief bezig zijn om soortgelijke incidenten in de toekomst te voorkomen. Hoewel sommige gebruikers van sociale media het gebruik van de beledigende term toeschreven aan de implementatie van generatieve AI door Google, heeft het bedrijf duidelijk gemaakt dat dit niet het geval was. Het probleem was te wijten aan een fout in de veiligheidsmechanismen van Google voor pushmeldingen.
Het bedrijf legde uit dat zijn inhoudssysteem de beledigende term in tal van online artikelen had herkend en deze vervolgens had gebruikt om de nieuwswaarschuwing die naar gebruikers werd gestuurd te categoriseren.
Beperkt bereik van aanstootgevende melding
Hoewel Google News een van de populairste nieuwsapps in de VS is, beweert Google dat de aanstootgevende melding slechts een beperkt aantal gebruikers zou hebben bereikt voordat deze snel werd verwijderd.
Zowel de organisatoren van de Bafta-uitreiking als de BBC, die het evenement uitzond, hebben ook hun excuses aangeboden.