Onderzoeker verlaat DeepMind en komt met alarmerende AI-waarschuwing

Terwijl Washington en Peking de oproepen tot een pauze in de AI-race van de hand wijzen, klinken er vanuit de sector nieuwe waarschuwingen. Een onderzoeker kiest daarbij dramatische bewoordingen.

Nadat de Amerikaanse president Donald Trump de topman van Anthropic had aangevallen vanwege oproepen om de ontwikkeling van de krachtigste AI-modellen tijdelijk stil te leggen, heeft ook China het voorstel afgewezen. Volgens Bloomberg waarschuwde een woordvoerder van het Chinese ministerie van Buitenlandse Zaken voor paniekzaaierij, confrontatie en roekeloze concurrentie rond AI.

Een dergelijke opstelling zou volgens Peking de totstandkoming van AI-regelgeving vooral bemoeilijken en weinig opleveren. Ondertussen heeft opnieuw een AI-onderzoeker zijn werkgever verlaten met een vergaande publieke waarschuwing. Bilal Chughtai schreef op LinkedIn ervan overtuigd te zijn dat AI zich zodanig kan ontwikkelen dat de technologie uiteindelijk een bedreiging voor het voortbestaan van de mensheid vormt.

Na een vergelijkbare waarschuwing van een voormalige Anthropic-onderzoeker stelde Dario Amodei afgelopen weekend een gecoördineerde pauze voor. Daarmee zou de AI-sector één tot twee jaar de tijd krijgen om veiligheidsrisico’s beter te onderzoeken en maatregelen te ontwikkelen om die te beperken.

Het voorstel kreeg binnen enkele uren steun van onder anderen OpenAI-topman Sam Altman en Elon Musk. De Verenigde Staten en China, de twee belangrijkste landen voor het welslagen van zo’n internationale afspraak, hebben het voorstel inmiddels echter afgewezen. Trump reageerde op Truth Social bijzonder fel en bestempelde de oproep als onderdeel van een samenzwering tegen AI en datacenters, waarbij hij ook dreigende taal gebruikte richting de vermeende verantwoordelijken.

Chughtai schreef op LinkedIn dat hij bij Google-dochter DeepMind onderzoek heeft gedaan naar AI-veiligheid. Tijdens dat werk kreeg hij steeds grotere zorgen over de richting waarin de technologie zich ontwikkelt. Volgens hem begint de tijd te dringen om te voorkomen dat geavanceerde AI uiteindelijk een existentiële bedreiging vormt. Daarbij wijst hij vooral op het hoge ontwikkelingstempo.

Toen hij zich in 2022 met AI begon bezig te houden, waren de systemen volgens hem nog weinig bruikbaar. Vier jaar later kunnen groepen AI-agenten van OpenAI al complexe, lang bestaande wiskundige problemen oplossen. Tegelijkertijd ziet hij aanwijzingen dat AI-systemen zich steeds moeilijker laten beheersen, waarbij hij onder meer verwijst naar de hack van Hugging Face. Hij verwacht dat deze ontwikkeling de komende jaren verder zal versnellen.

Volgens Chughtai zouden AI-bedrijven er binnen enkele jaren in kunnen slagen superintelligente systemen te ontwikkelen die mensen op vrijwel alle terreinen overtreffen. Hij betwijfelt of zulke systemen zich vervolgens naar menselijke bedoelingen zullen gedragen. In het uiterste geval zouden mensen volgens hem de controle kunnen verliezen en zouden AI-systemen handelingen kunnen uitvoeren die de mensheid blijvend buitenspel zetten of zelfs tot haar ondergang leiden.

Alignment, waarbij het gedrag en de doelen van AI-systemen zo goed mogelijk in overeenstemming worden gebracht met menselijke waarden en intenties, moet dergelijke risico’s beperken, maar is volgens Chughtai nog altijd een moeilijk en onopgelost vraagstuk. Toch denkt hij dat een veilige ontwikkeling van AI mogelijk is, mits de huidige wedloop tussen AI-bedrijven wordt afgeremd.

De waarschuwingen onderstrepen de groeiende zorgen over het hoge tempo waarin AI zich ontwikkelt. Een internationale pauze lijkt echter voorlopig onhaalbaar nu zowel de VS als China die afwijzen.