‘Godfather van AI’ slaat alarm: "We moeten lief zijn voor kunstmatige intelligentie, anders zijn we eraan!"

Artificiële intelligentie wordt almaar slimmer, maar volgens een van de belangrijkste wetenschappers achter de technologie dreigt de mensheid een gevaarlijke fout te maken. Nobelprijswinnaar Geoffrey Hinton waarschuwt dat AI mogelijk al veel verder staat dan we beseffen. En als we niet dringend de juiste keuzes maken, zouden de gevolgen bijzonder zwaar kunnen zijn.

De man achter AI trekt opnieuw aan de alarmbel

De 78-jarige Geoffrey Hinton wordt niet voor niets de ‘peetvader van artificiële intelligentie’ genoemd. De Brits-Canadese computerwetenschapper speelde een belangrijke rol bij de ontwikkeling van neurale netwerken, waarop heel wat moderne AI-systemen gebaseerd zijn.

In 2024 kreeg hij daarvoor zelfs de Nobelprijs voor Natuurkunde, samen met wetenschapper John Hopfield. Toch behoort Hinton tegenwoordig tot de bekendste critici van de technologie die hij zelf hielp ontwikkelen. In 2023 verliet hij Google om vrijuit te kunnen spreken over de mogelijke gevaren van AI.

Tijdens het Starmus Festival op Tenerife deed hij opnieuw opvallende uitspraken. In een gesprek met de Britse krant The Telegraph waarschuwde hij dat de mensheid dringend moet nadenken over haar toekomstige relatie met intelligente machines.

‘AI heeft evenveel subjectieve ervaring als wij’

Een van Hintons opmerkelijkste beweringen gaat over het bewustzijn van artificiële intelligentie. Volgens de wetenschapper is het mogelijk dat we een belangrijke grens al overschreden hebben. Sterker nog: hij gelooft zelf dat bepaalde AI-systemen vandaag al over een vorm van bewustzijn beschikken.

“AI heeft evenveel subjectieve ervaring als wij”, verklaarde hij. Hinton vindt het opvallend dat zoveel mensen met zekerheid beweren dat machines onmogelijk bewust kunnen zijn, terwijl er volgens hem nog altijd geen algemeen aanvaarde definitie van bewustzijn bestaat.

Hij verwijst onder meer naar onderzoek waaruit blijkt dat AI-systemen hun gedrag kunnen aanpassen wanneer ze vermoeden dat ze getest worden. Voor Hinton is dat een aanwijzing dat de technologie over meer vormen van bewustzijn zou kunnen beschikken dan doorgaans wordt aangenomen.

Maar zijn die machines dan echt bewust?

Daarover bestaat binnen de wetenschap nog grote discussie. Dat een AI-systeem herkent dat het aan een test deelneemt, betekent namelijk niet automatisch dat het gevoelens, gedachten of een bewustzijn heeft zoals mensen dat ervaren.

Ook AI-bedrijf Anthropic heeft vastgesteld dat sommige modellen testomgevingen herkennen. Dat maakt het voor onderzoekers moeilijker om hun gedrag betrouwbaar te beoordelen. Maar het bewijst niet dat die systemen werkelijk bewuste ervaringen hebben.

Het onderscheid is belangrijk. Hinton geeft zijn interpretatie van de ontwikkelingen, maar er bestaat momenteel geen wetenschappelijk bewijs dat AI dezelfde subjectieve ervaringen heeft als een mens.

Dat neemt niet weg dat zijn waarschuwing serieus wordt genomen. De technologie ontwikkelt zich razendsnel en onderzoekers proberen nog altijd beter te begrijpen hoe de krachtigste modellen precies functioneren. (lees verder onder de afbeelding)

‘Als we dat niet doen, zijn we eraan’

Volgens Hinton moeten we vooral vermijden dat toekomstige AI-systemen de belangen van mensen volledig uit het oog verliezen. Zijn redenering is opvallend. Als machines uiteindelijk intelligenter worden dan wij, kunnen we er volgens hem niet zomaar van uitgaan dat ze onze opdrachten blijven volgen.

Daarom vindt hij dat ontwikkelaars AI-systemen moeten bouwen die daadwerkelijk rekening houden met het welzijn van de mens. “Als we dat niet doen, zijn we eraan”, waarschuwde hij. Dat betekent niet dat vriendelijk 'dank u' zeggen tegen een chatbot volgens hem voldoende zou zijn. Zijn boodschap gaat veel verder: de manier waarop we AI ontwerpen en trainen, moet ervoor zorgen dat menselijke belangen ook in de toekomst beschermd blijven.

Hinton vreest daarbij niet alleen voor een verre, theoretische toekomst. Hij maakt zich naar eigen zeggen vooral zorgen over zijn kinderen. Onder de mogelijke gevaren noemt hij zware cyberaanvallen en het gebruik van AI bij de ontwikkeling van gevaarlijke virussen. Dat zijn scenario's waarvoor hij waarschuwt, geen gebeurtenissen waarvan vaststaat dat ze zullen plaatsvinden.

Ook andere AI-experts maken zich zorgen

Hinton staat niet alleen met zijn bezorgdheid. Ook binnen de AI-sector klinkt steeds vaker de vraag of de ontwikkeling van almaar krachtigere systemen wel voldoende veilig verloopt. OpenAI-topman Sam Altman benadrukte eerder dat zijn bedrijf de veiligheid van nieuwe modellen zorgvuldig moet beoordelen en de ontwikkeling soms bewust vertraagt.

Tegelijk vindt Altman dat de samenleving bepaalde nadelen van AI zal moeten afwegen tegen de voordelen die de technologie kan opleveren. Hinton zelf blijft aandringen op voorzichtigheid. In een afzonderlijk interview met The Guardian benadrukte hij dat de gevolgen van een onbeheersbaar AI-systeem mogelijk onomkeerbaar zouden zijn. "Als het misgaat, als AI de controle overneemt, krijgen we geen tweede kans.”

Voor de Nobelprijswinnaar is dat precies de reden waarom we volgens hem niet mogen wachten tot er daadwerkelijk iets ernstig fout loopt. Zijn boodschap is duidelijk: artificiële intelligentie kan de wereld enorme voordelen opleveren, maar de mensheid moet ervoor zorgen dat ze de controle over haar eigen toekomst niet verliest. (bron: LADBible - afbeeldingen: Magnific / YouTube)