In het kort
- De familie Gebala klaagt OpenAI aan omdat ze de autoriteiten niet hebben gewaarschuwd over de plannen van een schoolschutter.
- OpenAI zou twaalf dreigingen van de schutter hebben herkend, maar faalde erin de politie te contacteren.
- Het bedrijf achter ChatGPT wordt kritisch bekeken door zijn verantwoordelijkheid bij het voorkomen van door AI gefaciliteerd geweld.
De familie van de 12-jarige Maya Gebala onderneemt juridische stappen tegen OpenAI. Hun dochter raakte ernstig gewond tijdens een schietpartij op een school in Tumbler Ridge, Canada. Ze beweren dat de maker van ChatGPT op de hoogte was van de gewelddadige plannen van de schutter, maar de autoriteiten niet waarschuwde.
Waarschuwingen voorafgaand aan schietpartij
In de rechtszaak wordt beweerd dat de 18-jarige schutter Jesse Van Rootselaar een ChatGPT-account aanmaakte voordat ze 18 werd. Volgens de rechtszaak vertrouwde Van Rootselaar de chatbot meerdere dagen lang verschillende scenario’s van wapengeweld toe. Deze berichten zetten twaalf medewerkers van OpenAI ertoe aan om de berichten te markeren als een ernstige bedreiging voor anderen.
Ondanks aanbevelingen om contact op te nemen met de Canadese politie, beweert de rechtszaak dat OpenAI dit verzoek afwees en enkel het account van de dader blokkeerde. Het bedrijf zei eerder al dat het account niet voldeed aan de drempel voor geloofwaardige bedreigingen.
Tweede account
In de rechtszaak wordt verder beweerd dat Van Rootselaar een tweede ChatGPT-account kon aanmaken nadat zij door de systemen van OpenAI was gemarkeerd. De eisers zeggen dat OpenAI precies wist dat Van Rootselaar al lang bezig was met het plannen van een aanslag met veel slachtoffers, maar dat ze niks deden.
Gebala probeerde de deur van de bibliotheek te beveiligen tegen de schutter. Hierbij werd ze drie keer neergeschoten en liep ze ernstig hersenletsel op. OpenAI betuigde zijn medeleven aan de slachtoffers en hun families en zegt dat het samen met de autoriteiten zal werken aan het voorkomen van toekomstige tragedies.
Reactie van OpenAI
Na de schietpartij had Sam Altman, CEO van OpenAI, volgens The Wall Street Journal een ontmoeting met Canadese functionarissen. Tijdens die ontmoeting beloofde hij de protocollen voor het melden van potentieel schadelijke interacties aan de politie te versterken. Ook boodt hij zijn excuses aan. OpenAI voerde intussen enkele veranderingen door, waaronder het raadplegen van deskundigen op het gebied van geestelijke gezondheid en gedrag en het flexibeler maken van de criteria voor doorverwijzing naar de politie.
OpenAI zegt dat het onder deze nieuwe richtlijnen het account van de schutter wel zouden hebben gemeld. Ook zijn ze van plan om detectiesystemen te verbeteren en een direct contactpunt met de Canadese wetshandhavingsinstanties op te zetten voor het signaleren van mogelijke gevallen van geweld.