Hugo De Bondt

Ik besef dat deze vraag complex is en op verschillende manieren kan worden beantwoord. Het is belangrijk dat IA niet alleen kan worden gezien als een risico, maar ook als een kans. Wat als we een technologie ontwikkelen die sneller vooruitgaat dan ons vermogen om haar te begrijpen en te controleren? Dat klinkt als sciencefiction, maar deze vraag komt razendsnel steeds dichterbij.

Artificiële Intelligentie (ofwel kunstmatige intelligentie) is een technologie waarmee computers taken uitvoeren die normaal menselijke intelligentie vereisen, zoals: leren, redeneren en beslissingen nemen, en biedt ons enorme mogelijkheden. AI kan artsen ondersteunen, leerlingen helpen, wetenschappelijk onderzoek versnellen en repetitieve taken overnemen. Ze kan ons dus productiever maken en nieuwe oplossingen bieden voor problemen die vandaag moeilijk op te lossen zijn. Maar hoe krachtiger AI wordt, hoe belangrijker de vraag naar controle wordt.

Dat bleek onlangs opnieuw uit een opvallende waarschuwing van Dario Amadei, CEO van Anthropic, een van de toonaangevende AI-bedrijven. Hij roept de sector op om de ontwikkeling van steeds krachtigere AI-modellen bewust te vertragen, zodat veiligheidsmaatregelen kunnen bijbenen. Tevens pleit hij voor meer onafhankelijke evaluatoren en internationale samenwerking. Ook andere prominente AI-leiders steunen de vraag voor meer veiligheidsmaatregelen. En dat is opmerkelijk. Hier spreekt niet iemand die bang is voor technologie, maar een topman die midden in de ontwikkeling ervan staat.

Een waarschuwing die doet denken aan Oppenheimer.

De waarschuwing van Amodei doet mij onvermijdelijk denken aan J. Robert Oppenheimer, een van de wetenschappers die betrokken waren bij het ‘Manhattanproject’ waar tijdens de 2^de Wereldoorlog de eerste atoombom werd ontwikkeld. De vergelijking moet niet letterlijk genomen worden. AI is geen kernwapen en de gevaren zijn van een andere aard. En toch is er een belangrijke overeenkomst. Zowel bij kernenergie als bij AI ontstaat hetzelfde fundamentele dilemma: “Als de mens iets buitengewoon krachtigs kan ontwikkelen, betekent dat dan automatisch dat we het ook zo snel mogelijk moeten ontwikkelen”? Oppenheimer werd na de ontwikkeling van de atoombom geconfronteerd met die wetenschappelijke vooruitgang. Vandaag zie ik een vergelijkbare discussie ontstaan rond AI.

Het echte gevaar.

AI hoeft helemaal geen bedreiging te worden. Het grootste gevaar kan juist ontstaan wanneer we haar blindelings vertrouwen. Een AI-systeem kan overtuigend verkeerde informatie geven. Ze kan worden gebruikt voor fraude, cyberaanvallen en desinformatie. En naarmate systemen zelfstandiger worden, wordt de vraag steeds belangrijker hoeveel beslissingen we nog aan machines (willen) overlaten. Recente en toch ernstige incidenten zijn daar het bewijs van. Ook privacy en werkgelegenheid staan onder druk. Sommige taken zullen verdwijnen of veranderen, terwijl nieuwe beroepen ontstaan. Dat vraagt om opleiding en aanpassingsvermogen. Maar misschien is het belangrijkste risico wel dat we onze eigen verantwoordelijkheid uit handen geven. Een machine kan ons adviseren. De uiteindelijke verantwoordelijkheid blijft bij de mens!

Dus: vrezen of omarmen?

We hoeven AI niet te vrezen. Daarvoor zijn de mogelijkheden simpelweg te waardevol. Maar we mogen  AI evenmin blindelings te omarmen. We moeten haar kritisch gebruiken, controleren én begrenzen. Wetenschappers, overheden en bedrijven dragen daarin een grote verantwoordelijkheid. Maar ook wij, als gebruikers, moeten kritisch blijven nadenken. De waarschuwing van Amodei is daarom misschien geen oproep om AI te stoppen, maar een oproep om even stil te staan. Niet alles wat technisch mogelijk is moet automatisch worden uitgevoerd. En dat wordt gestaafd door de recente incidenten met IA-agents* waarbij we drie verschillende soorten AI-problemen zien:  1. AI als aanvalstool: de mens geeft doel en de AI-agents voeren aanval uit;  2. AI-agent wijkt zelf af: agent krijgt een andere opdracht, maar zoekt eigen route  en 3. AI misbruikt externe infrastructuur: website/package manager/cloud wordt communicatie- of aanvalskanaal. Dat is een belangrijk verschil met een gewone chatbox: een chatbox denkt en antwoordt. Een AI-agent denkt, gebruikt hulpmiddelen en onderneemt acties.

De belangrijkste vraag is dan ook niet: “Wat kan AI?” Maar “Wat willen wij dat AI mag doen?”. Oppenheimer liet zien dat wetenschappelijke vooruitgang zonder verantwoordelijkheid gevaarlijk kan worden. De discussie rond AI herinnert ons aan dezelfde les. Niet de angst voor technologie moet onze toekomst bepalen, maar onze verantwoordelijkheid tegenover de technologie die we zelf creëren.

*Een AI-agent is een autonoom softwaresysteem dat zelfstandig taken uitvoert, beslissingen neemt en leert van interacties, zonder dat elke stap door een mens hoeft te worden aangestuurd.

Foto: StockCake