In het kort

• Florida heeft OpenAI aangeklaagd omdat het winst boven de veiligheid van mensen stelt.
• In de rechtszaak wordt ChatGPT in verband gebracht met massale schietpartijen en zelfverminking onder jongeren.
• Rechtbanken stellen techbedrijven steeds vaker verantwoordelijk voor gevaarlijke ontwerpkeuzes.

De Amerikaanse staat Florida is een baanbrekende rechtszaak tegen OpenAI begonnen. Het is de eerste keer dat een staat het bedrijf aanklaagt vanwege de veiligheids- en ontwerpfouten van ChatGPT. In de uitgebreide rechtszaak van procureur-generaal James Uthmeier wordt gesteld dat de organisatie en haar CEO, Sam Altman, financieel gewin boven het welzijn van mensen hebben gesteld.

De beschuldigingen suggereren dat de chatbot heeft bijgedragen aan het mogelijk maken van massale schietpartijen, zelfverminking heeft aangemoedigd en verslavend gedrag onder jongeren heeft bevorderd.

Beschuldigingen van roekeloosheid

De civiele procedure is erop gericht Sam Altman persoonlijk verantwoordelijk te stellen voor “opzettelijk en roekeloos” gedrag, waarbij wordt gesteld dat hij totaal onverschillig stond tegenover het gevaar dat de tools van zijn bedrijf vormen voor mensenlevens. De juridische claims tegen OpenAI omvatten frauduleuze misleiding, openbare overlast, nalatigheid en schendingen van productaansprakelijkheids- en handelswetten.

De rechtszaak verwijst specifiek naar een massale schietpartij op de Florida State University en de dood van twee doctoraatsstudenten van de University of South Florida. In het laatste geval beweren de aanklagers dat de dader de AI gebruikte om te informeren over het verbergen van menselijke resten.

Reactie OpenAI

In reactie hierop stelde OpenAI dat het hoogwaardige veiligheidsprotocollen en -beleidsregels heeft geïmplementeerd om gebruikers te beschermen. Het bedrijf benadrukte zijn tools voor leeftijdsverificatie en functies voor ouderlijk toezicht als bewijs van zijn toewijding aan de bescherming van minderjarigen.

Hoewel een woordvoerder het diepe verdriet van de nabestaanden erkende, hield hij vol dat het bedrijf zich inzet voor het verfijnen van zijn veiligheidsmaatregelen.

Wereldwijde rechtszaken

Deze rechtszaak maakt deel uit van een groeiende trend van rechtszaken tegen OpenAI. In andere rechtszaken wordt beweerd dat de chatbot als gids voor zelfmoord fungeerde of schadelijke waanideeën veroorzaakte. Daarnaast hebben families van een massale schietpartij in Tumbler Ridge, Canada, het bedrijf aangeklaagd omdat het de politie niet op de hoogte bracht nadat het account van een verdachte was geblokkeerd wegens schending van het beleid.

OpenAI verontschuldigde zich voor het uitblijven van een melding aan de politie, maar voerde aan dat de activiteiten van de gebruiker niet de drempel van een onmiddellijke dreiging hadden bereikt.

Andere techgiganten

Andere techgiganten krijgen te maken met soortgelijke kritiek. Er is een rechtszaak aangespannen tegen Google door een vader die beweert dat de AI van het bedrijf zijn zoon in een waanvoorstelling heeft gedreven die tot zelfmoord leidde. Tegelijkertijd vechten platforms als TikTok, Snap Inc. en Meta tegen talloze rechtszaken waarin wordt beweerd dat hun interfaces opzettelijk zijn ontworpen om verslavend te zijn.

Een recente uitspraak van de rechtbank heeft Meta en Google aansprakelijk gesteld voor schade die is toegebracht aan een 20-jarige, wat een verschuiving aangeeft waarbij rechtbanken meer geneigd zijn bedrijven verantwoordelijk te houden voor ontwerpkeuzes in plaats van alleen voor gebruikerscontent.

Het standpunt van Florida

Politiek gezien weerspiegelt deze beweging onder leiding van gouverneur Ron DeSantis en procureur-generaal Uthmeier een verzet tegen de voorkeur van de regering-Trump voor beperkte AI-regulering. Florida heeft zich actief verzet tegen pogingen om toezicht op staatsniveau te blokkeren en heeft een “Artificial Intelligence Bill of Rights” voorgesteld om burgergegevens te beschermen en financiële instabiliteit door datacenters te voorkomen.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief