Ex-OpenAI-man waarschuwt voor de toekomst: “Mensen gaan eindigen in een soort van zoo”

Voormalig OpenAI-onderzoeker Daniel Kokotajlo schetst een bijzonder donkere mogelijkheid voor de toekomst van kunstmatige intelligentie. Volgens hem hoeft een extreem intelligente AI mensen niet eens bewust te willen uitroeien om onze beschaving in gevaar te brengen. Hij vergelijkt het met wat mensen zelf met talloze diersoorten hebben gedaan: door steden, wegen, landbouwgebieden en industrie uit te breiden verdwenen leefgebieden, ook zonder dat iemand expliciet besloot die dieren uit te roeien.

Een toekomstige AI-beschaving zou volgens hem op vergelijkbare wijze steeds meer infrastructuur kunnen bouwen voor haar eigen doelen, waardoor mensen uiteindelijk nauwelijks nog plaats overhouden. Zijn waarschuwing klinkt bijzonder scherp: “Over tien jaar zijn we er misschien niet meer.” Dat is zijn eigen risico-inschatting en geen wetenschappelijke voorspelling dat de mensheid daadwerkelijk binnen tien jaar verdwijnt.

Mensen eindigen mogelijk als beschermde curiositeit

Het meest opvallende deel van Kokotajlo’s scenario gaat over wat er gebeurt als een zeer kleine groep mensen zo’n machtsverschuiving wél overleeft. Hij denkt dat superintelligente systemen mogelijk helemaal geen persoonlijke haat tegen mensen voelen, maar ons simpelweg niet belangrijk genoeg vinden om de wereld rond onze behoeften te organiseren. In dat uiterste scenario zouden nog enkele menselijke gemeenschappen kunnen blijven bestaan in speciaal ingerichte reservaten. Vrij vertaald spreekt Kokotajlo over “dierentuinen of reservaten voor wetenschappelijke doeleinden.”

Daarbuiten zou de wereld ondertussen volledig worden omgebouwd voor de economische en technologische doelen van AI. Zijn vergelijking is bewust confronterend: zoals mensen bedreigde dieren soms alleen nog in beschermde gebieden laten voortbestaan, zouden machines ooit op dezelfde manier naar ons kunnen kijken.

Waarschuwing is één scenario

Kokotajlo staat bekend om zeer sombere AI-scenario’s, maar zijn eigen onderzoeksorganisatie maakt duidelijk dat zulke verhalen bedoeld zijn om mogelijke toekomstpaden te onderzoeken en beleidsmakers wakker te schudden. Het invloedrijke project AI 2027 beschreef bijvoorbeeld een snelle ontwikkeling naar superintelligentie, maar bevatte bewust meerdere eindes. De onderzoekers erkennen bovendien grote onzekerheid rond de timing en hebben hun verwachtingen sindsdien aangepast.

Hun recentere modellen schuiven belangrijke AI-mijlpalen gemiddeld later dan het oorspronkelijke scenario. Het beeld van mensen in reservaten moet dus niet gelezen worden als iets waarvan Kokotajlo beweert dat het zeker zal gebeuren. Zijn centrale boodschap is wel ernstig: wanneer AI ooit veel intelligenter en machtiger wordt dan mensen, kan onverschilligheid tegenover menselijke belangen volgens hem uiteindelijk net zo gevaarlijk worden als bewuste vijandigheid. (bron: UNILAD - intropic: Orion Productions)