Verontrustende waarheid achter influencer die wordt bestempeld als ‘de knapste vrouw ter wereld’

Generatieve AI is de afgelopen maanden tot een angstaanjagend niveau verbeterd. Eerdere problemen, zoals onnatuurlijke handen en vingers die niet klopten, lijken inmiddels grotendeels te zijn verholpen. Video’s zoals die van konijnen en een beer op een trampoline — die bewust de korrelige kwaliteit van CCTV-beelden nabootsen om AI-fouten te maskeren — hebben veel mensen ervan overtuigd dat ze echt waren, terwijl ze volledig verzonnen bleken.

Nia Noir: de 'knapste influencer ter wereld'

Alsof dat nog niet genoeg was, zorgde Grok AI op X voor grote verontwaardiging nadat gebruikers vroegen om vrouwen digitaal uit te kleden. Een TikTok-account dat ook miljoenen mensen heeft misleid, is dat van ‘model’ Nia Noir. Het account heeft op het moment van schrijven zo’n 2,7 miljoen volgers en één video met een absurde 198,7 miljoen views.

Het probleem? Nia Noir is door AI gegenereerd. Verschillende accounts hebben erop gewezen dat de dansjes in haar video’s exact overeenkomen met die van echte creators, en soms zelfs haar outfits. Als je ook naar de achtergronden in haar video’s kijkt, zijn die vaak volledig statisch — zelfs in clips waarin ze zogenaamd buiten is — en bij nadere inspectie lijken ze niet helemaal bij haar te passen. (lees verder onder de afbeelding)

Duidelijke signalen dat er AI in het spel is

Konstantin Levinzon, medeoprichter van Planet VPN, een gratis VPN-aanbieder, deelde enkele duidelijke signalen die erop kunnen wijzen dat iets door AI is gemaakt. “AI heeft vaak moeite met ledematen en gewrichten; een ander waarschuwingssignaal bij AI-gegenereerde beelden en video’s is de huid van een persoon,” zei hij. “Bij echte foto’s zijn meestal microdetails zichtbaar, zelfs met zware make-up of bewerking. Het beeld ziet er bovendien eerder geboetseerd dan gefotografeerd uit: gezichtsymmetrie is niet perfect — vooral rond de ogen — en de ogen hebben een glazige, kunstmatige glans.” (lees verder onder de afbeelding)

Problemen met achtergronden

Tot slot wees hij ook op problemen met achtergronden: “In AI-gegenereerde beelden is er vaak een mismatch tussen achtergrond en onderwerp. In Nia’s beelden ziet de achtergrond eruit als een vlakke textuur met weinig detail, terwijl de persoon juist extreem gepolijst is.” Generatieve AI-technologie maakt gebruik van enorme databanken, waaruit informatie wordt verzameld voordat er een beeld wordt gegenereerd. Het is niet duidelijk of Nia is gebaseerd op één specifiek persoon of het resultaat is van een digitale ‘Frankenstein’-combinatie van beelden van verschillende vrouwen, noch wie het account daadwerkelijk beheert. Maar ondanks de duidelijke aanwijzingen dat het om AI gaat, was het voor letterlijk miljoenen socialmediagebruikers overtuigend genoeg om als echt te worden gezien.

@nianoir.xo

♬ sonido original - STIVEN_7.7.2

(Bron: UNILAD - Afbeeldingen: TikTok)