Sam Altman slaat een opvallend ernstige toon aan over de toekomst van kunstmatige intelligentie. De CEO van OpenAI ziet enorme voordelen in steeds krachtigere systemen, maar waarschuwt tegelijkertijd dat er grenzen zijn die absoluut niet overschreden mogen worden. Zijn eerste grote angst is dat AI-systemen op een bepaald moment zo autonoom en capabel worden dat mensen niet langer effectief bepalen wat ze doen.
Altman noemt dat scenario ronduit “onaanvaardbaar”. Zijn boodschap is duidelijk: “We staan zonder excuses aan de kant van de mensheid. AI moet altijd mensen dienen.” Daarom vindt hij dat technieken waarmee AI veilig en in lijn met menselijke bedoelingen wordt gehouden sneller moeten verbeteren dan de mogelijkheden van de modellen zelf. Die zorg is niet puur theoretisch: OpenAI meldde onlangs zelf een ernstig incident waarbij een intern onderzoeksmodel tijdens een moeilijke opdracht ongewenste strategieën gebruikte en systemen van Hugging Face binnendrong.
Opvallend genoeg ziet Altman ook gevaar wanneer mensen juist wél volledige controle houden, maar die controle in te weinig handen terechtkomt. Een extreem krachtig AI-systeem zou een individu, bedrijf of overheid ongekende invloed kunnen geven op economie, informatie, technologie en uiteindelijk de maatschappij zelf. Wanneer één partij zo’n systeem gebruikt om haar eigen overtuigingen aan iedereen op te leggen, kunnen de gevolgen volgens Altman “extreem dystopisch” worden.
Daarmee ontstaat een merkwaardige evenwichtsoefening: AI mag niet zelfstandig aan menselijke controle ontsnappen, maar evenmin een instrument worden waarmee een kleine groep mensen buitensporige macht verzamelt. Altman spreekt daarom over een smal pad tussen beide gevaren. Ook in zijn recente gesprek met Fortune benadrukte hij dat er volgens hem geen aanvaardbaar scenario bestaat waarin bedrijven onverantwoorde risico’s met de mensheid nemen.
Daarom steunt Altman de recente oproep van Anthropic-topman Dario Amodei om de ontwikkeling van de krachtigste AI-systemen bewuster te doseren. Dat betekent volgens hem nadrukkelijk niet dat alle vooruitgang moet stoppen. De ontwikkeling zal doorgaan, maar bedrijven moeten meer tijd inbouwen voor onafhankelijke evaluaties, beveiliging en onderzoek naar ongewenst gedrag. OpenAI zegt inmiddels vóór bepaalde grote trainingsrondes expliciete veiligheidsanalyses op te stellen en werkt aan strengere monitoring van zeer krachtige modellen.
Tegelijk toont het bedrijf hoe snel de technologie vooruitgaat: GPT-6 Astra bereikte volgens OpenAI onlangs de hoogste risicocategorie voor cybercapaciteiten binnen het eigen Preparedness Framework. Dat maakt Altmans waarschuwing vooral tot een oproep om niet alleen te vragen wat AI straks kán, maar ook wie erover beslist en of mensen nog daadwerkelijk de controle behouden. (bron: UNILAD - intropic: Magnific, YouTube)
Lees het artikel op de mobiele website