‘Godfather of AI’ onthult de enige strategische manier waarop de samenleving kan voorkomen dat AI de mensheid uitwist

Dr. Geoffrey Hinton heeft al eerder gewaarschuwd voor de gevaren van kunstmatige intelligentie en de manier waarop die de mensheid zou kunnen beïnvloeden. Volgens Hinton is het belangrijk om AI ‘onderdanig’ te houden om te voorkomen dat er dingen misgaan, en het is niet moeilijk om je voor te stellen hoeveel manieren er zijn waarop het fout kan aflopen.

Hinton kreeg de bijnaam ‘Godfather of AI’ vanwege zijn baanbrekende werk aan kunstmatige neurale netwerken, die worden gezien als de sleutel tot machine learning. Daardoor heeft hij een direct belang in de sector. Zoals elke goede sciencefictionfilm al heeft gewaarschuwd: zonder duidelijke sturing is er weinig dat kan voorkomen dat nieuwe vormen van technologie uiteindelijk ernstige schade en problemen voor de mensheid veroorzaken.

Verdeelde meningen over AI-assistenten

Als het gaat om kunstmatige intelligentie bestaan er nog altijd veel zorgen over hoe dit instrument in de komende jaren zal worden ingezet. Op dit moment draait een belangrijk debat rond de vraag of AI-assistenten of chatbots te veel een linkse of rechtse politieke bias vertonen en daarmee de meningen van mensen zouden kunnen beïnvloeden. En met de enorme sprong in AI-capaciteiten in de afgelopen jaren klinkt steeds vaker de roep om systemen of controlemechanismen die toekomstige schade voor de mensheid kunnen helpen voorkomen.

‘Moederlijke instincten”

Het meest opvallend is misschien wel dat Hinton heeft betoogd dat AI ‘moederlijke instincten’ ingebouwd zou moeten krijgen om te voorkomen dat het ons in de toekomst schade toebrengt, vooral naarmate het krachtiger en slimmer wordt dan de mens. Hij zei: “AI-systemen ontwikkelen kunstmatige neurale netwerken. Het andere subdoel is om meer controle te krijgen. Er is goede reden om aan te nemen dat elke vorm van agentische AI zal proberen in leven te blijven.”

Hoewel dat misschien wat vergezocht klinkt, verdedigt Hinton zijn redenering en licht hij toe waarom hij denkt dat een moederlijk instinct nuttig kan zijn voor toekomstige AI. Tijdens de Ai4-industrieconferentie in Las Vegas zei hij dat moeders instincten en sociale druk ervaren om voor hun baby te zorgen — en dat iets soortgelijks misschien ook in nieuwe technologie moet worden ingebouwd.

“We hebben AI-moeders nodig”

Hij verklaarde: “Het juiste model is het enige model dat we hebben van iets dat intelligenter is en toch gecontroleerd wordt door iets dat minder intelligent is: een moeder die wordt gecontroleerd door haar baby. We hebben AI-moeders nodig in plaats van AI-assistenten. Een assistent kun je ontslaan. Je kunt je moeder gelukkig niet ontslaan.” Toch gaf hij toe dat nog niet duidelijk is hoe dit gerealiseerd kan worden, of hoe succesvol het in de praktijk zou zijn.

(Bron: Unilad – Intropic: Freepik en YouTube)