In het kort

• AI-systemen gaan achteruit als ze worden getraind op door machines gegenereerde data.
• Zeldzame menselijke inzichten voorkomen intellectuele stagnatie.
• Originele cognitie houdt machines in leven.

Een recent onderzoek door wetenschappers van Cambridge en Oxford wijst op een verontrustend fenomeen dat bekendstaat als model collapse. Dit gebeurt wanneer artificiële intelligentiesystemen worden getraind met data die door andere AI’s zijn geproduceerd.

In tegenstelling tot typische hallucinaties, geïsoleerde fouten die kunnen worden verholpen, betekent model collapse een fundamentele loskoppeling van de werkelijke realiteit. Omdat deze systemen zich voeden met hun eigen output, worden ze vloeiend maar raken ze volledig losgekoppeld van de waarheid.

Uitholling van datadiversiteit

Het onderzoek wijst uit dat de meest unieke en zeldzame elementen van data, ook wel de ‘staarten van de verdeling’ genoemd, als eerste verdwijnen tijdens dit proces. Daardoor worden volgende iteraties van AI alleen getraind op de meest gangbare en voorspelbare informatie.

Deze cyclus suggereert dat authentieke menselijke output niet louter een culturele voorkeur is, maar een technische vereiste. Zonder een constante instroom van originele menselijke data gaan AI-systemen onvermijdelijk achteruit.

Paradox van het voortbestaan van machines

Deze ontdekking verschuift het centrale debat over technologie en intellect. In plaats van ons zorgen te maken of mensen kunnen concurreren met superieure machines, moeten we ons afvragen of AI daadwerkelijk kan overleven zonder menselijk denken.

De ‘staarten’ van data zijn niet alleen afwijkingen; ze zijn de bakermat van innovatie. Figuren als Einstein of Newton waren uitschieters wier onconventionele ideeën uiteindelijk de nieuwe norm werden. Door deze afwijkingen te wissen, vernietigt het instorten van modellen juist de motor die intellectuele evolutie en het creëren van nieuwe kennis aandrijft.

Waarde van het onherhaalbare

Dit laat zien hoe belangrijk het onherhaalbare is, de unieke cognitieve afdruk van een individu die zich niet laat middelen. Hoewel dit eerder werd gezien als iets wat AI niet kan nabootsen, is nu duidelijk dat deze individualiteit een essentiële bron vormt die het systeem aan het uitputten is.

Elke keer dat een gegenereerd antwoord een menselijke gedachte vervangt, krimpt de diversiteit van beschikbare informatie. Dit verval is in het begin subtiel maar bouwt zich in de loop van de tijd op, wat uiteindelijk leidt tot een verarmde versie van de werkelijkheid.

Menselijke intelligentie als essentiële brandstof

Uiteindelijk fungeert menselijke cognitie als de essentiële wrijving die voorkomt dat artificiële systemen wegzakken in een leegte van middelmatigheid.

Hoewel het gangbare verhaal suggereert dat AI menselijk denken overbodig zou kunnen maken, is de realiteit het tegenovergestelde: menselijke intelligentie is de primaire bron die het systeem van brandstof voorziet, en het is een bron die berekeningen alleen nooit kunnen repliceren.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief