In het kort
- De mensheid staat voor een existentiële dreiging door de escalerende nucleaire risico’s en de snelle ontwikkeling van artificiële intelligentie.
- De kans op een nucleaire oorlog is waarschijnlijk toegenomen, wat ons voortbestaan op de lange termijn bedreigt.
- Bewustzijn van deze gevaren, in combinatie met collectieve actie, biedt hoop op het verminderen van deze enorme uitdagingen.
David Gross, een theoretisch natuurkundige en Nobelprijswinnaar, gaf een ontnuchterende waarschuwing over de toekomst van de mensheid. Hij gelooft dat de combinatie van escalerende nucleaire dreigingen en de snelle vooruitgang van artificiële intelligentie een existentieel risico vormt voor onze soort. Dat meldt Live Science.
Gross wees erop dat zelfs na de Koude Oorlog de jaarlijkse kans op een nucleaire oorlog werd geschat op 1 procent. Volgens hem is dit risico waarschijnlijk gestegen naar 2 procent, wat betekent dat er elk jaar een kans van 1 op 50 is op nucleaire vernietiging. Deze berekening, vergelijkbaar met die voor het bepalen van de radioactieve halfwaardetijd, suggereert een verwachte levensduur van ongeveer 35 jaar onder deze omstandigheden.
Existentiële risico’s in kernwapens en AI
Hij stelde dat het geopolitieke landschap de afgelopen drie decennia is verslechterd, waarbij hij de spanningen tussen landen als India en Pakistan, Iran, Rusland en Oekraïne als bewijs aanhaalde. Het uitblijven van nieuwe nucleaire verdragen in het afgelopen decennium vergroot het gevaar nog verder. Met negen landen die over kernwapens beschikken, neemt de complexiteit van het beheersen van deze dreigingen exponentieel toe.
Zelfs als de nucleaire supermachten erin slagen om duurzame vrede te bereiken, waarschuwde Gross dat artificiële intelligentie een andere enorme uitdaging vormt. Hij gelooft dat de snelheid en besluitvormingscapaciteiten van AI het steeds moeilijker zullen maken om te voorkomen dat het de controle over wapensystemen overneemt.
Hoop door bewustwording
Gross wees ook op de potentiële gevaren van AI‑‘hallucinaties’, waarbij de technologie onnauwkeurige resultaten kan genereren. Hij putte echter hoop uit de geschiedenis en haalde voorbeelden aan zoals de wereldwijde reactie op klimaatverandering als bewijs dat wijdverbreid bewustzijn en wetenschappelijke waarschuwingen tot positieve actie kunnen leiden. Hij sprak zijn overtuiging uit dat de mensheid de kracht heeft om deze bedreigingen te verminderen: “Wij hebben ze gemaakt; wij kunnen ze stoppen.”