TikTok ha bannato 20 account dopo che la BBC ha denunciato l’utilizzo di influencer nere generate dall’intelligenza artificiale per indirizzare l’utenza verso siti che promuovono contenuti sessualmente espliciti.

Ascolta il podcast

TikTok

TikTok ha bannato 20 account dopo che la BBC ha denunciato l’utilizzo di influencer nere generate dall’intelligenza artificiale per indirizzare l’utenza verso siti che promuovono contenuti sessualmente espliciti.

Questi account fanno parte di una tendenza crescente su Instagram e TikTok, criticata per essere razzista, sfruttatrice e fuorviante a causa degli stereotipi razziali e del linguaggio utilizzato.

AI Blackface

La BBC e i ricercatori e le ricercatrici della rivista indipendente Riddance, specializzata in intelligenza artificiale, hanno individuato decine di account sulle due piattaforme che presentavano personaggi digitali o avatar di donne nere fortemente sessualizzate.

Le immagini e i video erano generati dall’intelligenza artificiale ma non erano etichettati come tali, in apparente violazione delle linee guida delle piattaforme.

Quasi tutti gli account erano su Instagram e circa un terzo aveva anche una versione su TikTok.

Meta, la società madre di Instagram, ha dichiarato alla BBC di aver avviato un’indagine, ma non ha specificato se siano stati presi provvedimenti.

Gli avatar sono spesso raffigurati con costumi da bagno succinti o altri abiti succinti e con forme del corpo esagerate.

Alcuni profili presentano tonalità di pelle eccezionalmente scure, manipolate digitalmente, che conferiscono loro un aspetto artificiale.

I nomi degli account includono termini come “nero”, “noir”, “scuro” ed “ebano”.

Diversi profili contengono commenti su uomini bianchi nei loro post, come “ama gli uomini bianchi” e “perché ho bisogno di un ragazzo bianco nella mia vita”.

Molti di questi profili si seguono o si piacciono a vicenda.

La collaborazione

La BBC, in collaborazione con gli analisti Jeremy Carrasco e Angel Nulani di Riddance, ha identificato 60 di questi profili, principalmente su Instagram, che contenevano link, o catene di link, a contenuti sessualmente espliciti a pagamento su siti di terze parti.

I siti etichettavano le immagini come generate dall’intelligenza artificiale, ma gli account Instagram non lo facevano.

La ricerca ha inoltre identificato molti altri account sia su Instagram che su TikTok con avatar simili, generati dall’intelligenza artificiale, che non rimandavano a contenuti a pagamento.

“Ero furiosa”

Uno degli account chiusi da TikTok, sebbene ancora attivo su Instagram al momento della pubblicazione, ha suscitato ulteriore indignazione rubando video a persone reali.

Si presenta come l’account di un personaggio sorprendentemente realistico generato dall’intelligenza artificiale e aveva accumulato tre milioni di follower in poche settimane dalla sua creazione a dicembre.

Tuttavia, ha modificato e pubblicato video di una vera content creator, Riya Ulan, una modella malese.

Il volto dell’avatar, che ha una carnagione eccezionalmente scura e creata artificialmente, è sovrapposto al corpo di Riya, e i movimenti, gli abiti e lo sfondo di Riya sono replicati.

“Ero furiosa”, ha dichiarato Riya alla BBC.

“Certo, i miei video sono tutti online… Ma questo non significa che si possano prendere, rubare e pubblicare come propri”.

Un commento recita: “SPERO CHE TU NON SIA UN’IA [tre emoji che piangono] SEI COSÌ MERAVIGLIOSA [due emoji a forma di cuore rosso]”.

Una risposta: “LoL certo che no Grazie [tre emoji con la faccia]”.

Alcuni account, incluso quello che ha rubato i contenuti di Riya, respingono l’ipotesi di essere generati dall’IA.

Uno dei video manipolati ha raggiunto oltre 35 milioni di visualizzazioni su TikTok e 173 milioni su Instagram, circa 47 volte le visualizzazioni del post originale di Riya.

Sebbene i tre video che corrispondono chiaramente ai contenuti di Riya non siano a sfondo sessuale, altri video sull’account dell’IA che utilizza lo stesso personaggio creato digitalmente lo mostrano con abiti succinti o mentre compie azioni provocanti.

Una serie di link dall’account porta a contenuti per adulti a pagamento.

“Non so se mi preoccupa di più il fatto che abbiano preso il mio video per promuovere i loro contenuti espliciti o che la gente ci creda davvero”, dice.

Sta diventando sempre più difficile per l’utenza distinguere se un contenuto è reale e “la gente continua a cascare in questi modelli di IA”.

Molti utenti sembrano considerare gli avatar come reali, nonostante le loro caratteristiche irrealistiche.

In post o storie di Instagram, alcuni account negano di utilizzare l’IA, incluso quello che ha rubato i contenuti di Riya.

Riya afferma di aver segnalato l’account a entrambe le piattaforme più volte, ma all’epoca i contenuti non erano stati rimossi.

TikTok lo ha bannato dopo che la BBC ha contattato l’azienda per un commento.

“Rappresentazioni irrealistiche”

“Credo che questi account siano razzisti perché la loro esistenza porta avanti una lunga storia di sfruttamento delle persone di colore”, afferma Nulani, una delle ricercatrici.

“Il loro uso di caricature, terminologia razzista e rappresentazioni irrealistiche di donne nere dimostra che non sono preoccupati per la nostra sicurezza o il nostro benessere, ma per la nostra capacità di essere sfruttate come parte della macchina pornografica online”, aggiunge.

Carrasco, che critica le tendenze e le tecniche dell’IA sui suoi account social, afferma che “la novità è la quantità di rappresentazioni spudorate e razziste di persone di colore”.

“Il feticismo potrebbe essere esistito in passato, ma l’IA gli dà un nuovo significato”.

Rende più facile “rimuovere le sfumature nelle immagini e nei video in modo da creare tonalità di pelle scure che non sono naturali e per creare effetti che prima avrebbero richiesto animazione o pittura della pelle”.

Inoltre non ci sono conseguenze sociali per un avatar.

“Non c’è vergogna… è qualcosa che l’IA sfrutta in modo unico”.

“Cancellazione”

La content creator Houda Fonone afferma di temere che le rappresentazioni online delle esperienze di vita reale vengano sostituite da immagini artificiali.

Houda Fonone, modella e content creator marocchina che si batte per una rappresentazione più autentica delle donne nere, afferma che questa tendenza riguarda la “cancellazione”.

“Capelli setosi, corpi estremamente magri e una pelle incredibilmente perfetta… è come se la bellezza nera potesse essere accettata solo se ‘raffinata’”.

Afferma che questo rischia di rafforzare gli stereotipi, mentre “le nostre storie e le nostre esperienze di vita reale vengono sostituite da un’immagine artificiale”.

La BBC ha inviato a Meta e TikTok degli esempi degli account che aveva identificato, chiedendo un loro commento.

Due giorni dopo, un portavoce di TikTok ha dichiarato alla BBC che l’azienda aveva “rimosso contenuti e bannato account che violavano le nostre regole”.

Nel giro di pochi giorni, 20 account erano stati etichettati come “bannati” sull’app.

“TikTok vieta i contenuti generati dall’IA che ritraggono individui senza il loro consenso e non tolleriamo in alcun modo i contenuti che promuovono servizi sessuali al di fuori della piattaforma”, ha affermato il portavoce.

L’azienda dichiara di vietare e rimuovere i contenuti generati dall’IA che sono dannosi o fuorvianti e richiede agli e alle utenti di etichettare i contenuti realistici generati dall’IA.

Ha inoltre affermato di aver applicato l’etichettatura corretta a diversi video.

Meta ha dichiarato di star indagando sui contenuti che le sono stati segnalati.

Afferma di voler informare gli utenti quando visualizzano post creati con l’IA e di aver implementato delle politiche per l’etichettatura dei contenuti generati dall’IA.

Nove account Instagram monitorati dalla BBC sembrano non esistere più.

Nessuna delle due piattaforme ha fornito dettagli sulla propria risposta alle prime segnalazioni di Riya.

Ti potrebbe interessare anche:

• Israele e Palestina: La guerra delle parole
• Trump: l’Iran non avrà mai armi nucleari
• Iran, la guerra entra nella terza settimana

E se credi in un giornalismo indipendente, serio e che racconta il mondo recandosi sul posto, puoi darci una mano cliccando su Sostienici