OpenAI-baas waarschuwt wereldleiders voor dreiging die 'verraderlijker' is dan AI zelf

OpenAI-CEO Sam Altman heeft wereldleiders gewaarschuwd voor de gevaren rond AI die de komende jaren steeds groter kunnen worden. Tijdens de G7-top zei Altman dat het concentreren van macht “in de handen van enkelen” een dreiging kan vormen die nog “verraderlijker” is dan de technische risico’s van AI zelf.

Volgens Sky News waarschuwde hij dat de echte risico’s van AI niet mogen worden gebruikt als excuus om macht bij een kleine groep bedrijven, landen of instellingen te leggen.

AI-bazen spreken wereldleiders toe

Altman was op de G7-top niet de enige techleider die zijn zorgen uitte. Ook Anthropic-medeoprichter Dario Amodei en Google DeepMind-topman Demis Hassabis spraken met wereldleiders over de toekomst van kunstmatige intelligentie. Onder de aanwezige politieke leiders waren onder meer Donald Trump, Emmanuel Macron en Keir Starmer.

Hoewel veel mensen bij AI vooral denken aan jobverlies of de milieu-impact van datacenters, richtten de AI-topmannen zich vooral op een andere dreiging: de snelheid waarmee AI zich ontwikkelt tot een mogelijk nationaal veiligheidsprobleem.

Risico’s voor cyberveiligheid, bioterrorisme en oorlogvoering

Volgens Sky News waarschuwden Altman, Amodei en Hassabis voor de risico’s die AI kan vormen op het vlak van cyberveiligheid, bioterrorisme en oorlogvoering. Ze stelden dat het mogelijk nog maar enkele jaren duurt voordat AI-systemen bepaalde menselijke capaciteiten overtreffen. Maar over hoe de wereld daarmee moet omgaan, verschillen de AI-leiders van mening.

Regeringen moeten verantwoordelijkheid nemen

Waar ze het wel over eens lijken te zijn, is dat overheden een grotere rol moeten spelen. Volgens Hassabis moeten regeringen en bedrijven samen bepalen hoe toekomstige AI-modellen worden bestuurd. “We moeten dit samen definiëren,” benadrukte hij.

Altman sloot zich daarbij aan en riep regeringen op om hun verantwoordelijkheid niet uit handen te geven aan AI-labs zoals dat van hem. Met andere woorden: OpenAI, Anthropic en Google DeepMind willen niet dat private bedrijven alleen bepalen hoe krachtige AI-systemen worden ontwikkeld, ingezet en begrensd.

Wie moet AI controleren?

Toch is er verdeeldheid over hoe die controle er precies moet uitzien. Amodei pleitte volgens recente berichtgeving voor nauwere samenwerking tussen democratische landen om AI veilig te houden en tegenstanders zoals China te isoleren. Reuters meldde dat G7-leiders spraken over nauwere samenwerking rond de risico’s en kansen van geavanceerde AI, onder meer via een “trusted partners”-regeling rond toegang tot krachtige Amerikaanse AI-modellen.

Altman lijkt daarentegen een universelere benadering te verkiezen. Volgens hem moet de wereld ervoor waken dat AI niet alleen ten goede komt aan een kleine groep landen of bedrijven. “We moeten de kant van menselijke vrijheid kiezen,” zei hij. “We willen dat iedereen op aarde van deze technologie kan profiteren en zelf kan uitzoeken hoe die gebruikt moet worden.” (lees verder onder de afbeelding)

“Een verraderlijkere dreiging”

Voor Altman ligt het grootste gevaar dus niet alleen in de technologie zelf, maar ook in hoe de macht eromheen wordt verdeeld. “Er is een dreiging die verraderlijker is dan de technische risico’s van deze technologie,” waarschuwde hij. “Het is de dreiging dat de zeer reële risico’s die AI met zich meebrengt de rechtvaardiging worden om macht te concentreren in de handen van enkelen.”

Oproep tot internationale standaarden

Hassabis stelde volgens de berichtgeving een iets andere aanpak voor. Hij pleitte voor een technisch orgaan voor standaarden, gesteund door de belangrijkste AI-labs.

Ook OpenAI leek op de G7-top te hinten op een internationaal forum waarin democratische landen kunnen samenwerken aan regels en standaarden voor AI. Volgens Semafor zei OpenAI’s Chris Lehane na afloop dat er onder landen en bedrijven steun groeide voor zo’n ruimte of forum om gezamenlijke standaarden te ontwikkelen.

De kern van de waarschuwing

De boodschap aan wereldleiders was duidelijk: AI ontwikkelt zich te snel om de controle volledig aan bedrijven over te laten. Maar volgens Altman mag de oplossing ook niet zijn dat een kleine elite alle macht naar zich toe trekt.

De uitdaging wordt dus niet alleen om AI veilig te maken, maar ook om te voorkomen dat de toekomst van de technologie wordt beslist door een handvol machtige spelers.

(Bron: UNILAD Tech - Afbeeldingen: YouTube, Freepik)