Il "caso Ipnocrazia"

Il saggio sulla comunicazione di Trump scritto da un intellettuale di Hong Kong era un falso, ok. E adesso?

Scrivere una newsletter settimanale significa prendersi un sacco di appunti per cose che poi non si scrivono perché la realtà le scavalca. Per questa settimana mi ero segnata di scrivere una cosa a partire da un fake (l’ennesima predizione dei Simpson, questa volta della morte di Donald Trump) per dire che anche se il colesterolo di Trump facesse il suo lavoro, quello che Trump rappresenta non andrebbe via, perché è ormai un impianto molto più solido rispetto al pupazzo che è stato usato per giustificarne la costruzione. La gente che l’ha votato non sparisce e non cambia idea, i miliardari non spariscono, non sparisce Elon Musk, non sparisce JD Vance.

Pochi giorni fa, però, è uscita la conferma di quello che

Stefano Cazzaro

suggeriva nei miei commenti subito dopo che avevo parlato di avere comprato (sulla scorta di recensioni molto positive) Ipnocrazia di Jianwei Xun, e cioè che Xun fosse un personaggio inesistente. Viene fuori che, sorpresa sorpresa, lo era: Xun è stato inventato da Andrea Colamedici, co-fondatore di Tlon e divulgatore, che ha generato il libro con l’intelligenza artificiale. E quindi, di fake in fake, eccoci qua.

Il come e il cosa e il perché li spiega l’autore stesso a L’Espresso questa settimana, e sono leggibili qui. Siccome conosco personalmente Andrea, ed è una persona con cui ho fatto diverse cose nel corso degli anni, mi permetto di sollevare pubblicamente dei dubbi sul piano deontologico. Sono dubbi semplici, da persona che in questi giorni è alle prese con la scrittura di un saggio che non mi è mai passato per l’anticamera del cervello di delegare alle intelligenze artificiali, e per questo è un tantino affaticata, oltre che tormentata dalla sindrome dell’impostore¹. E non è per tigna o soltanto per onestà intellettuale², ma perché il processo della scrittura mi obbliga a ragionare sulle mie stesse idee, e spesso mi spinge in direzioni che non avevo previsto. È un effetto che ha a che vedere anche con l’atto fisico di spingere dei tasti e vedere le parole comporsi sullo schermo, sbagliare, cancellare, tornare indietro, rileggere, trovare che una frase non gira, riscriverla finché non funziona. E c’è un piacere intellettuale anche in quella fatica: sento il mio cervello che lavora, le sinapsi che sparano impulsi, collegano i concetti, cercano la parola giusta, o quella sbagliata che però è giusta nel contesto.

Il primo dubbio è semplice: io ho comprato il libro pensando che si trattasse di un saggio di uno studioso umano, vero, con una storia personale, una nazionalità, delle idee politiche, un vissuto. Non l’ho ancora letto, perché come dicevo tempo fa, sono assediata dalle letture: non ho tempo, non ho spazio. Ho speso dei soldi, quindi, perché a questo libro e all’umano che l’ha scritto intendevo dare tempo e spazio; l’ho raccomandato (o comunque segnalato) a scatola chiusa, sulla fiducia, perché il tema mi sembrava interessante. Viene fuori che questo libro non è un libro, non c’è un umano che l’ha scritto, ma è piuttosto un rigurgito di altre idee, a partire da un saggio di Nadia Urbinati, generato da un algoritmo sulla base di un prompt, probabilmente in meno del tempo che io impiego a chiudere un capitolo del saggio a cui sto lavorando.

Sono stata fregata, insomma. Poco male (non sono la sola) ma la fregatura è stata possibile perché a monte c’erano delle persone della cui reputazione mi fidavo: quella fiducia è stata deliberatamente messa in discussione da una scelta che l’ha sfruttata senza preoccuparsi delle conseguenze. Uno può raccontarsi e raccontare quello che vuole sul valore di un’operazione e su cosa voleva dire con quell’operazione: per me, Ipnocrazia è l’equivalente saggistico del dropshipping. Mi hanno venduto un cardigan fatto a mano di lana Merino da una boutique in chiusura per concorrenza sleale, e mi hanno mandato una felpa in acrilico con dei quadratini stampati sopra fatta da quelli che rappresentano la concorrenza sleale. Scherzo riuscito, non c’è che dire: e per onestà intellettuale bisogna dire che nessuno di noi che ci siamo cascati ne esce benissimo. Non solo abbiamo comprato una patacca, ma l’abbiamo pure rivenduta. Ora siamo tutti sospetti: chiunque di noi potrebbe fare la stessa cosa, risparmiando tempo ed energie, sulla scorta della reputazione personale.

È giustificato? Ha senso, oltre la sensazione? Io ancora non lo so, e non riesco a capirlo.

Di certo (e parlo solo per me) non avevo bisogno di questo trucchetto per interrogarmi sul tema delle AI: non molto tempo fa ho seguito (come parte della mia formazione professionale) il secondo di due seminari sulle intelligenze artificiali generative in due anni, e continuo ad avere gli stessi problemi che avevo due anni fa. Problemi di copyright, come prima cosa (questi algoritmi prelevano materiale di cui non detengono la proprietà intellettuale, e ci fanno prodotti che vengono usati a scopo commerciale), di bias (sono programmati da team composti per lo più da uomini, e l’abolizione dei programmi di diversity nelle aziende americane li renderà ancora più paurosamente monocolore e monogenere), di appiattimento della qualità dei prodotti e dei contenuti generati, di facoltà cognitive che si perdono proprio rinunciando a fare fatica, a mettere i ditini sulla tastiera e lasciare che il pensiero fluisca. Ma soprattutto trovo sconfortante che la copertina di un settimanale di grande diffusione sia assegnata a un inganno ben costruito, piuttosto che a una riflessione seria sull’impatto di questo tipo di automazione del lavoro intellettuale.

Sarò novecentesca, ma credo che dalla crisi in cui siamo immersi si esca solo rivalutando le persone, l’umano e l’organico, e non rincorrendo l’attenzione del grande pubblico attraverso un tema che è sicuramente interessante, ma che va maneggiato con cautela, e nel rispetto dell’etica. Non sarebbe il primo falso a trarre in inganno le persone, per carità: le finte teste di Modigliani rimangono nella memoria collettiva come scherzone epocale che ha svelato i limiti della critica dell’arte, e sto ancora ridendo per la storia che mi ha raccontato Titti Dell’Erba nel podcast che ho realizzato l’anno scorso sulle donne del vino. Non sono offesa per esserci cascata, né perché un algoritmo scrive in pochi secondi quanto (anche se non quello che) io scrivo in una settimana: sono preoccupata perché mi sembra che dietro questa operazione ci sia una scarsa consapevolezza delle conseguenze di lungo periodo. “Non ho mai voluto costruire un falso” ha zero rilevanza, quando costruisci un falso, lo pubblicizzi, lo vendi, costruisci tutta una storia di contorno, ci fai dei soldi, capitalizzi quel falso per attirare l’attenzione. L’hai fatto. E non mi è chiaro, al momento, chi ci abbia davvero guadagnato.

Un libro fichissimo

Controbilancio l’amarognolo dello scherzone algoritmico con una cosa bella scritta da un umano meraviglioso, vale a dire Daniele Cassandro, redattore di Internazionale e amico di vecchissima data. Ho comprato Dischi volanti in una libreria di San Donà di Piave, a valle della presentazione di Cose mai successe, ma l’ho aperto solo quando mi sono ritrovata una sera col Kindle scarico. Sono una grandissima fan della rubrica “Dischi da salvare” che Daniele tiene proprio su Internazionale, e che mi ammalia per il modo sofisticato, poetico ed evocativo con cui racconta la musica. Questo libro raccoglie una parte dei suoi articoli, ed è una gioia per lo spirito. Consigliatissimo, è diventato la mia lettura serale irrinunciabile.

Le date

Domenica 13 sono a Perugia per il Festival internazionale del giornalismo. Ci vediamo alle 15.50 nella Sala Raffaello dell’Hotel Brufani , per il panel Crimine e pregiudizio: come raccontiamo la violenza quando a colpire è una donna, insieme ad Amalia De Simone.

Le altre date confermate sono queste:

Il 17 aprile sono a parlare di Brutta (il libro) alla sala civica di Albinea (RE) per la manifestazione Primavera di donne.

Il 16 maggio, invece, sono con Giulia Paganelli (aka evastaizitta) alla Casa delle Donne di Amelia (TR), per un incontro sul tema del corpo.

C’è una replica di Brutta in più oltre a quella già segnalata a Gozzano l’11 aprile, il 16 aprile a Lucca, mettiti un promemoria, ci sarò anche io.

A martedì prossimo, sempre fra umani.

Giulia

ADDENDUM (per chi la legge online)

Per completezza, inserisco qui la risposta di Tlon (nello specifico, di Andrea Colamedici) a questa newsletter, in modo che chiunque possa farsi un’idea personale.
Ci aggiorniamo.

1. Sindrome dell’impostore che non ha molto senso di esistere, quando il capo della Difesa americano discute i piani di guerra via messaggino con tanto di emoji, ma vabbe’.

2. Qualche notte fa ho sognato che facevo crimini fiscali con Tajani: evidentemente alla mia ansia basta molto meno, per attivarsi.