In het nieuws: Geoffrey Hinton, een 75-jarige Brit die de prestigieuze Turingprijs won, treedt af bij Google na meer dan 10 jaar bij het bedrijf te hebben gewerkt.

• De onderzoeker heeft gewacht tot hij aftrad om zijn zorgen te uiten over de snelle ontwikkeling van AI en de daarmee verbonden risico’s.
• Hinton is een pionier op het gebied van AI. Hij werkt al sinds het begin van de jaren 70 aan machine learning. Zijn werk heeft bijgedragen aan de ontwikkeling van AI-systemen zoals ChatGPT.
• Overtuigd van de zinvolheid van AI gedurende zijn hele academische carrière, geeft hij vandaag de dag toe “dat een deel van hem spijt heeft van het werk van zijn leven”.

De details: Hintons zorgen over AI.

• De wedloop naar AI maakt hem bezorgd, zo legt hij uit aan de New York Times. Kort gezegd zou de race om de meest geavanceerde AI te ontwikkelen gevaarlijk kunnen zijn en zouden bedrijven de veiligheidsmarges niet kunnen respecteren, zoals het geval was vóór de lancering van ChatGPT eind vorig jaar.
• Een snelle ontwikkeling die hem angst aanjaagt: “Kijk naar wat het vijf jaar geleden was en wat het nu is. Neem het verschil en breng het naar voren. Dat is angstaanjagend.”
• Het zou ook onmogelijk zijn om te weten welk land of welke groep in het geheim aan de ontwikkeling van krachtige AI werkt. Deze race zou dus regeringen over de hele wereld dwingen tot regulering van de ontwikkeling, maar hij vreest dat regulering onmogelijk te implementeren zal zijn.
• “Ik denk niet dat experts de ontwikkeling zouden moeten versnellen voordat ze begrijpen of ze deze kunnen beheersen”, aldus Hinton.

De boodschap: Hinton is beducht voor een grote golf van desinformatie, met valse beelden, valse teksten en valse video’s. Gebruikers zouden niet meer in staat zijn om het ware van het valse te onderscheiden. Hij vreest ook dat AI meer banen zal elimineren dan we ons nu kunnen voorstellen. Hij is ook bang voor de lancering van autonome killerrobots in de toekomst.

Geciteerd: “Het is moeilijk te zien hoe we kunnen voorkomen dat slechte actoren het voor kwaadaardige doeleinden gebruiken”, waarschuwt hij.

“Risico voor de mensheid”

Nog meer: De lancering van ChatGPT van OpenAI en Bard van Google was een keerpunt voor de onderzoeker.

• Deze taalmodellen gebruiken veel meer data dan vorige modellen. Kortom, hij vindt ze nu “slimmer dan mensen” – iets wat hij een paar maanden geleden nog niet dacht te zien gebeuren binnen “30 of 50 jaar”.
• Maar deze intelligentie weerhoudt bots er niet van om fouten te maken. Ze kunnen “onverwacht gedrag” aanleren via de geanalyseerde gegevens. Dit is problematisch omdat bedrijven de bots hun eigen computercode laten uitvoeren. Dit onverwachte gedrag kan dan snel enorme implicaties hebben. Hinton spreekt zelfs van een “risico voor de mensheid”.

De context: Hinton staat niet alleen in zijn bezorgdheid. Eerder dit jaar ondertekenden meer dan 1.000 publieke figuren, waaronder Elon Musk en Steve Wozniak, een brief waarin werd opgeroepen tot een pauze in de ontwikkeling van AI-modellen.

(evb/as)