Qualche giorno fa mi imbatto in un canale YouTube che sforna una decina di video al giorno, quasi tutti riguardanti la storia americana. La durata varia dai 5 minuti alla mezz’ora. La prima cosa che mi viene in mente, dopo aver visto lo stile grafico delle miniature dei singoli video, è che si tratti di contenuti prodotti da un’intelligenza artificiale generativa. Per averne conferma, clicco sul link delle informazioni del canale, ma non trovo niente: l’unico dato a disposizione è la Georgia – quella negli USA – come paese di provenienza. Su chi sia l’autore e sui motivi che lo spingono a produrre questi video non si riesce a sapere nulla.
Il canale si chiama Unreal History e nel momento in cui sto scrivendo sta pubblicando un nuovo video ogni tre ore.
Un video di fact-checking
Sbollita la rabbia e svanito lo sconforto che mi erano presi – perché per un mio video che vorrei pubblicare sono dieci giorni che ci sto lavorando di notte – trovo, attraverso una ricerca su Bluesky, un post di Kevin M. Levin, storico e insegnante di Boston, esperto di guerra civile americana che sul suo blog – o meglio sul suo profilo Subastack* – ha scritto del canale “Unreal History” e ha analizzato uno dei 1.200 e passa video pubblicati: “The Forgotten Monument: The Unfulfilled Promise of Black Civil War Heroes”.
L’argomento del video analizzato è la memoria della guerra civile americana e, in particolare, un monumento, mai realizzato, che avrebbe dovuto ricordare il consistente contributo dato dalle truppe di soldati neri alla vittoria degli unionisti sui confederati. Il video vuole ricostruire le vicende del veterano nero nel tentativo divedere realizzato questo monumento a Washington D.C..
Il professor Levin ha pubblicato un video di una mezz’ora in cui, prima di tutto, ricostruisce la genesi di “Unreal History”: si tratta, come avevo intuito, di un canale dai contenuti interamente creati da un’intelligenza artificiale generativa. La pagina web che ospita le informazioni a riguardo credo sia a sua volta generata da una AI.
Questa la descrizione fornita – traduzione mia:
“Unreal History” è una piattaforma interattiva unica progettata per reimmaginare e visualizzare eventi storici in contesti contemporanei, mescolando il passato con la tecnologia moderna e le norme sociali (sic). Questo viaggio immaginario è reso possibile da una dettagliata creazione narrativa e da immagini visive, trasportando gli utenti in linee temporali storiche alternative in cui gli eventi hanno preso una piega diversa.
Al di là di ogni considerazione sull’utilità o l’importanza di uno strumento simile, nessuna di queste informazioni compare sul canale YouTube di “Unreal History”, così come non esiste nessun link alla pagina dell’intelligenza artificiale usata. Il rischio che chi fruisce di questi video non abbia la voglia o la capacità di cercare sulla Rete più informazioni credo sia molto alto. E questa non è una buona cosa, almeno secondo me.
Venendo al video analizzato, Kevin M. Levin mette in evidenza un errore marchiano già nei primi trenta secondi: per l’AI, il nome del protagonista, il veterano che si battè per la costruzione del monumento, sarebbe William Carney Williams. Solo che non esiste una persona che si chiama così.
Questo nome, a chi studia la storia della guerra civile americana, ricorda quello di William Carney, soldato nero famoso per aver salvato la bandiera del suo reggimento nella seconda battaglia di Fort Wagner nel 1863 quando, anche se le forze dell’Unione furono sconfitte, Carney per quel gesto fu insignito della Medaglia d’onore, la più alta onorificenza miltare negli Stati Uniti. Sicuramente un personaggio importante, ma che non si è mai battuto per erigere il momumento in questione.
Il nome del veterano nero che invece, a fine guerra, si adoperò per la costruzione del monumento è George Washington Williams, soldato dell’Unione, poi avvocato, giornalista, ministro della chiesa battista, storico e autore del primo libro sul contingente nero attivo nella guerra di secessione.
In somma: sembra che l’AI abbia operato una sorta di crasi tra i due nomi in questione, inventandosene un terzo che però non è mai esisitito. Essendo il nome del protagonista della vicenda, non è proprio un errore marginale.
Abbagli visivi e scelta delle fonti
Non vado oltre nell’esporre le altre imprecisioni storiche che il video contiene, per chi vuole scoprirle tutte rimando all’utilissimo fact-checking del video del professor Levin. Le due cose che voglio sottolineare riguardano la parte visiva e il senso generale della narrazione.
Per quanto riguarda la prima: l’AI, a corredo della narrazione e della voce off che la porta avanti, mostra una serie di immagini totamente inventate che, la maggior parte delle volte, sono inaccurate o molto fantasiose, per rimanere gentili. Alcune volte poi saltano fuori quelle che si chiamano allucinazioni, veri e propri svarioni dell’intelligenza artificiale che produce risultati inaccurati, anacronistici o semplicemente assurdi. Anche se esiste una soddisfacente collezione di fotografie autentiche della guerra di secessione, nel caso di questo video, l’AI non ne ha tenuto conto e ha inventato da zero immagini e situazioni che in diversi casi sono fuorvianti o puramente ridicole come nei due frame riportati qui sotto.
L’altra considerazione è sulla narrazione: secondo Levin la narrazione generale non è sballata, il racconto è tutto sommato ragionevole, sono presenti citazioni che sono corrette e ben poste.
Per chi si interessa e studia la guerra civile americana, però, si evince con facilità che tipo di domande (prompt) e parole chiave sono state poste all’intelligenza artificiale che, nel suo successivo scandagliare siti e fonti, ha scelto quelli ritenuti più popolari. Per Levin e per chi studia questa materia, è facile riconoscere nel racconto di questo video le tesi di “Race and Reunion”, un libro dello storico americano David W. Blight che descrive come la rimozione della parte afro-americana e l’attenuazione e la minimizzazione del tema centrale della schiavitù siano stati volutamente usati per poter arrivare a una riconciliazione (reunion) tra Nord e Sud, ridipingendo in questo modo la guerra civile come un conflitto tra due schieramenti di soldati bianchi in lotta solo per la gloria e il valore militare. In “Race and Reunion” Blight ricorda come, per esempio, teorie negazioniste come quella della “Lost Cause” abbiano avuto per decenni una diffusione e un’influenza enorme, penetrando nella cultura, nei racconti e nei manuali di storia degli Stati Uniti del Sud.
Kevin M. Levin ci dice che il libro di David Blight è un’opera validissima, è il libro da cui partire per studiare l’argomento – ho scoperto che si è meritatamente aggiudicato il Frederick Douglass Book Prize per il miglior libro sulla schiavitù – ma è un’opera uscita nel 2001, quasi venticinque anni fa. Nel frattempo la letteratura sull’argomento si è arricchita di numerosi altri contributi. Altri studiosi e studiose hanno ampliato, rivisto e aggiornato analisi e ipotesi sia sulla riconciliazione, sia sulla cancellazione della memoria dei soldati neri.
Di questa ricchezza della letteratura e della ricerca storica però l’intelligenza artificiale non ha tenuto conto, limitandosi a proporre la narrazione più diffusa sull’argomento. Questo non è avvenuto certo per colpa sua, ma perché chi ha posto le domande non ha ritenuto opportuno cercare e includere queste nuove fonti.
Questo post, voglio dirlo chiaramente, non è un atto d’accusa né tanto meno una demonizzazione delle intelligenze artificiali generative usate a fine di divulgazione storica.
Questi strumenti possono essere molto utili, bisogna tuttavia vedere come vengono usati e per quali scopi. Quelli del canale in questione, a pensare male e vista la freqenza di pubblicazione, mi sembrano molto orientati a fare numeri, sia come visualizzazioni sia come abbonati. L’accuratezza e la trasparenza delle fonti mi sembrano lasciate in secondo piano. Faccio un esempio concreto: se la fonte principale usata per il racconto della guerra civile è il succitato libro di David Blight, non sarebbe stato utile e onesto inserirlo dentro i titoli di coda del video o lasciarne traccia nella descrizione?
Prima ancora di questo, come già detto, il non scrivere nel proprio canale che si tratta di video interamente generati da AI mina fortemente l’autenticità della fonte e la sua attendibilità. E la responsabiltà di questa scelta è totalmente umana.
È un discorso ripreso anche da Levin nella parte finale del suo video che cito, traducendolo al volo:
Questo è un chiaro promemoria del fatto che abbiamo davvero bisogno di dedicare un po’ di tempo, tutti noi, a pensare a quali fonti affidarci e perché. E penso che valga soprattutto per i nostri studenti.
[…] Se sei un insegnante, fai il possibile per aiutare i tuoi studenti a navigare su Internet. E ancora, come consumatori di storia, come consumatori di informazioni, stiamo attenti (let’s be vigilant – in originale). Perché qui stiamo parlando di che cosa significhi essere cittadini: viviamo in una democrazia e le democrazie prospererano solo quando riusciamo a raggiungere una sorta di accordo su cosa è affidabile e quali sono sono le informazioni degne di fiducia.
Un sano scetticismo anche di fronte alla magia dell’animazione
Munirsi di un sano scetticismo e di pensiero critico – per usare ancora le parole di Levin – ci aiuta nelle esplorazioni online nel verificare quello che, tra le millemila fonti digitali a nostra disposizione, leggiamo, ascoltiamo o vediamo,.
E, a proposito di vedere, voglio chiudere questo post citando brevemente un altro canale YouTube scoperto in un altro post del professor Levin, ancora sulla guerra civile americana, ancora sull’intelligenza artificiale generativa: si chiama History in Motion. A differenza di “Unreal History”, questo canale dichiara l’uso dell’intelligenza artificiale per rendere animate alcune fotografie scattate in tempi in cui non esistevano le immagini in movimento.
L’effetto finale è impressionante: in “Veterans Brought to Life | American Civil War” si osservano, seppur per pochi secondi, veterani unionisti della guerra civile americana mentre si stringono la mano, oppure tre prigionieri confederati parlare tra loro mentre aspettano di essere trasferiti in un campo di prigionia. O, ancora, un gruppo di soldati neri allineati in attesa di una foto o di partire per il fronte. Lo scopo, in questo caso, è puramente emotivo, non c’è nessun tipo di ricostruzione storica da raccontare, le immagini non sono inventate ma sono tratte da quelle originali. Grazie a una magia resa possibile da algoritmi complessi e reti neurali, acquistano una nuova dimensione capace di restituire momenti storici reali in un modo fluido colorizzato, vivo.
Anche in questo caso, come direbbe Kevin M. Levin, “esiste una linea sottile tra i miglioramenti che ci aiutano a esplorare fotografie come queste in modo più approfondito e creativo e i modi che trasformano la storia in pura finzione.”
Sta sempre al nostro sano scetticismo e alla nostra capacità critica saper trovare la strada giusta per muoverci nel “brave new world” dell’intelligenza artificiale. Non abbiamo altra scelta: le AI generative non faranno che migliorare nella verosimiglianza e nelle loro capacità, a noi il compito di saperne fare un buon uso.
* su questa cosa che molti blog chiudono o vengono sospesi perché chi li scrive lancia una propria newsletter e si trasferisce su Substack è un po’ di tempo che vorrei scriverci qualcosa. Siccome seguo molte persone che prima scrivevano su un blog e adesso lo fanno lì, se trovo il tempo di chiedergli il motivo, ci faccio un post.
(Immagine di inizio post: frame da “Veterans Brought to Life | American Civil War” | YouTube – dall’originale “Gettysburg, Pa. Three Confederate prisoners” | via Library of Congress)