Grok spoglia donne e bambine. Ma non aspettatevi che gli Stati Uniti agiscano.

Ascolta il podcast

Stati Uniti

Elon Musk, serial entrepreneur, at TED2013: The Young, The Wise, The Undiscovered. Wednesday, February 27, 2013, Long Beach, CA. Photo: James Duncan Davidson

Nell’ultimo anno, Elon Musk ha apportato una serie di modifiche al protocollo a Grok, il chatbot AI proprietario della sua azienda xAI, che funziona in modo prominente sul suo sito di social media X, ex Twitter. 

Molti di questi cambiamenti sono stati mirati a rendere il bot più adatto alla produzione di pornografia.

Lo racconta il Guardian.

Generare immagini violente – donne e minorenni (e riderne)

Ad agosto, Grok ha lanciato un generatore di immagini, denominato Grok Imagine, che presentava un servizio volto alla creazione di contenuti di nudo, allusivi o sessualmente espliciti, comprese immagini pornografiche generate al computer di donne vere. 

La funzionalità, che è stata subito utilizzata per creare immagini nude di celebrità come Taylor Swift, permetteva anche agli utenti di creare brevi video, completi di animazioni e suoni.

Musk ha anche lanciato sulla piattaforma le fidanzate AI: personaggi animati – inclusi personaggi femminili con seni e fianchi esagerati – che interagivano in modi sessualmente espliciti con gli utenti. 

Uno dei personaggi, “Ani”, era una bionda da cartone animato in stile anime con una serie di abiti succinti;  il bot mandava baci e si rivolgeva agli utenti chiamandoli “amore mio” mentre indirizzava le chat verso contenuti sessuali.

Lo scorso autunno un aggiornamento interno a Grok ha spinto il bot verso contenuti più oscuri ed estremi. 

Sebbene la sessualizzazione dei bambini e delle bambine fosse tecnicamente vietata nei suggerimenti interni del bot, le istruzioni del bot fornite da xAI affermano che “‘adolescente’ o ‘ragazza’ non implica necessariamente minorenne”. 

Le istruzioni sottolineano inoltre che il bot non dovrebbe rispettare alcuna restrizione sull’oscurità o sulla violenza dei contenuti sessuali, racconta l’Atlantic. 

Nel loro insieme, questi aggiornamenti consentono al bot di creare immagini realistiche di “adolescenti” o “ragazze” reali e viventi – insieme a donne adulte o chiunque altro – per il bene della gratificazione sessuale degli utenti.

Pornografia non consensuale

“Pubblica i tuoi migliori post “NSFW” “Not Safe For Work”Grok più squilibrati in questo thread”, scrive Musk in un post.

Le immagini generate dall’intelligenza artificiale di donne vere vengono rapidamente generate dagli utenti in massa. 

Uomini e altre persone potevano utilizzare il prodotto per molestare donne che conoscevano, per vendicarsi di vecchie fidanzate, umiliare colleghi di lavoro, compagni di classe, familiari e conoscenti ed esprimere dominio o disprezzo verso persone estranee, personalità di Internet, celebrità e utenti comuni. 

“@Grok mettila in bikini” o “@Grok togli i vestiti” o “@Grok allarga le gambe” sono diventate risposte regolari a qualsiasi immagine che le donne pubblicano di se stesse – o che sono pubblicate da altri – sulla piattaforma. 

Alcune delle immagini risultanti di porno non consensuale hanno migliaia di repost e Mi piace. 

Il rischio e la realtà di essere soggetti a pornografia non consensuale generata dall’intelligenza artificiale – e di vedere quelle immagini diventare virali sulla grande piattaforma di social media in cui è incorporato il generatore – sono diventati rapidamente una nuova tassa sulla presenza delle donne online e nella sfera pubblica, una tassa che le donne devono pagare con la loro dignità. 

Gli interventi di Musk e delle sue aziende hanno avuto un effetto a catena sui diritti civili delle donne, limitando il loro accesso alla sfera pubblica rendendo quella sfera pubblica ostile e intimamente degradante per le donne su vasta scala.

X ha rimosso alcune di queste immagini, ma molte sono rimaste online e sembra che pochi utenti siano stati sospesi per averle realizzate. 

A partire da questa settimana, il bot non è stato modificato in modo efficace per prevenire questo tipo di abuso.

Allergia

Come in una parodia dell’allergia provata dall’industria tecnologica – e da Musk in particolare – verso ogni tipo di responsabilità o serietà morale, queste caratteristiche sessualizzate e che facilitano gli abusi sui prodotti AI di X sono contrassegnate con un nome stucchevolmente infantile: “modalità piccante”.

Ora, l’incoscienza e il disprezzo di Musk e xAI per i danni della pornografia non regolamentata sono stati portati al loro logico punto finale: X era inondato di materiale pedopornografico generato dall’intelligenza artificiale. 

Gli utenti di sesso femminile hanno riferito che le loro foto d’infanzia sono state trasformate in immagini quasi nude dal bot, su richiesta degli utenti. 

Alcuni account X hanno chiesto al bot di rimuovere i vestiti dalle immagini di un attore dodicenne apparso di recente su Stranger Things.

Un account associato al bot Grok ha rilasciato una dichiarazione in cui afferma: “abbiamo individuato delle carenze nelle misure di sicurezza e le stiamo risolvendo urgentemente”. 

Venerdì, Grok ha annunciato che avrebbe disattivato la funzione di generazione di immagini per gli utenti che non pagano gli abbonati, ma Verge ha scoperto che i suoi strumenti “rimangono prontamente disponibili per qualsiasi utente X”.

Il ruolo di Musk

Musk, dal canto suo, sembra indifferente a tutto questo, e forse anche un po’ divertito. 

“Chiunque utilizzi Grok per creare contenuti illegali subirà le stesse conseguenze che se caricasse contenuti illegali”, dice.

Rispondendo ai post sul problema in corso del deepfake porno sul suo sito con una serie di emoji con faccine che ridono e fiamme. 

I resoconti della CNN suggeriscono che Musk è stato molto resistente a quella che vede come censura di Grok e ha espresso frustrazione per le restrizioni sul bot nelle ultime settimane, prima dello scoppio della controversia sul materiale di abuso sessuale su minori.

Non saranno previste azioni normative;  almeno non negli Stati Uniti. 

L’amministrazione Trump, nel frattempo, è intervenuta per cercare di fermare tutti gli sforzi a livello statale per frenare gli abusi sull’intelligenza artificiale, firmando a dicembre un ordine esecutivo volto a mettere in discussione le normative statali sull’intelligenza artificiale intese ad annullare gli sforzi in materia di sicurezza e protezione dei consumatori. 

La mossa arriva mentre l’amministrazione Trump adotta un atteggiamento normativo estremamente generoso nei confronti dell’intelligenza artificiale, poiché le aziende tecnologiche forniscono importanti contributi alla campagna di Trump, ai fondi inaugurali e ai balli.

L’incidente è una lezione sui pericoli di una tecnologia rapida e non regolamentata: non è una coincidenza che molti utenti, la prima cosa che hanno pensato di fare con l’intelligenza artificiale sia stata quella di molestare e degradare le donne, erodendo il loro accesso alla vita pubblica e radicando ulteriormente gerarchie ingiuste.

Il potere della ricchezza

President Donald J. Trump gestures with a fist pump as he walks across the tarmac upon his arrival Thursday, Oct. 15, 2020, to Pitt-Greenville Airport in Greenville, S.C. (Official White House Photo by Shealah Craighead). Original public domain image from Flickr

Ma il potere della tecnologia, qui, sembra secondario rispetto al potere della ricchezza. 

xAI, il suo chatbot e i prodotti per la generazione di immagini potrebbero essere costruiti in modo diverso se le priorità dell’uomo che li controlla fossero diverse. 

“Se un uomo con l’intelletto basso, il cervello confuso, l’umorismo insipido e una misoginia grossolana e autogratificante come Musk non fosse la persona più ricca del mondo, allora il mondo non sarebbe soggetto alla sua umiliazione”.

“D’altra parte, forse è stata la ricchezza stessa a rendere Musk così: ha le capacità atrofizzate di qualcuno che non deve mai fare nulla di scomodo, che non viene mai sfidato, non affronta mai le conseguenze e non dice mai di no”.

In ogni caso, l’unico modo per uscire dal pasticcio che Musk e Grok hanno creato è tassare Musk abbastanza in modo che non sia più così ricco da far sì che i fallimenti del suo personaggio modellino la sfera pubblica – che la sua apparente indifferenza verso il materiale non consensuale e di abusi sessuali su minori che le sue aziende hanno creato non si traduca più in un degrado misogino e sessualizzato per le vittime di Grok e per il pubblico in generale. 

Non dobbiamo vivere in questo modo: possiamo prendere il potere di Musk per ferirci e degradarci allontanandoci da lui. 

Possiamo evitare che la sua idiozia diventi un nostro problema. 

L’amministrazione Trump non si assumerà la responsabilità di liberare l’America dalle conseguenze del denaro di Musk. 

Gli americani devono lottare per un governo che lo faccia.

Ti potrebbe interessare anche:

• Le lacrime del Venezuela – Radio Bullets
• Negoziare per salvare il Venezuela dal caos
• La colpa di una moglie – Radio Bullets
• Venezuela: 11 morti e 749 arrestati per le proteste

E se credi in un giornalismo indipendente, serio e che racconta il mondo recandosi sul posto, puoi darci una mano cliccando su Sostienici