Reinrassig

Con l’intelligenza artificiale io ci lavoro pressocché quotidianamente. Quando per riassumermi un brief da duecento pagine, quando per raccogliere dati di mercato, quando anche per verificare la preesistenza di un concept o di un naming. Per mestiere, di base, ma anche per piccole ricerche - chessò - sulle proiezioni al cinema, come tutti. E di cantonate, questa intelligenza, ne prende a iosa, checché ne dicano i cervelloni che sostengono che ci annienterà tutti. Azzardo una stima personale: ogni decina di generazioni, una - un filo - la canna. Fa parte del gioco, si può usare, ma va anche contro-verificata.
Mi sono tuttavia genuinamente stupito quando ieri, trattenendomi in chiacchiere con i colleghi, questi mi hanno chiesto se non esistessero scuole integralmente italiane a Berlino (equivalenti - per citarne una - alla Deutsche Schule di Milano) allorché io, ignaro, mi sono rivolto a Google e alla sua - ormai integrata - intelligenza artificiale.
“Esistono scuole italiane a Berlino?” ho digitato rapidamente. La risposta è stata stupefacente. Traduco:
“Sì, sebbene a Berlino non esista una scuola di pura razza italiana, c'è un'ottima rete di scuole statali bilingue, oltre a numerose scuole di lingue.”
Reinrassig: “rein” - pura, “rassig” - razziale. Nonostante mi si fosse immediatamente accapponata la pelle, ho pensato si trattasse di una formula accettata, della quale non ero al corrente. Gli occhi sgranati dei colleghi madrelingua hanno invece confermato il mio sbigottimento iniziale: si tratta di un termine di natura nazista, afferente al lessico della biopolitica hitleriana. Come ci sia finito in un’innocua ricerca su Google? Il fatto curioso è che Gemini (l’”IA Mode” del motore di ricerca), è tenuto ad accompagnare le risposte con la fonte diretta; nel mio caso, l’Ambasciata Italiana a Berlino. Per scrupolo sono andato subito a controllare - possiamo mai stupirci ancora di qualsiasi cosa? - ma no, nel sito della legazione non si fa cenno alla purezza della razza.
Ho dato allora seguito allo scambio con Gemini, chiedendogli se quello fosse proprio il termine che intendeva usare. Dunque Google si è profuso in un paragrafo di scuse, che ci fa chiaramente piacere, ma la domanda resta: come minchia ci è finito, lì, quel reinrassig nazista?
Potevo non chiederlo a Gemini stessa? Ecco cosa mi ha risposto:

“L'errore dell'intelligenza artificiale è derivato da un pessimo incrocio statistico e letterale che ha tradotto concetti italiani con il termine tedesco reinrassig, ignorandone il tabù storico legato al nazismo. Il modello ha trattato le parole come vettori numerici privi di significato storico, unendo questa allucinazione lessicale alle informazioni dell'Ambasciata.”

Andiamo bene! Google dunque ignora il tabù e tratta le parole come vettori numerici privi di significato storico. Voleva essere un modo per tranquillizzarmi? Cito da un altro paragrafo della sua giustificazione:

“In tedesco, quando si parla di animali (cani, cavalli) o di oggetti (un'auto sportiva senza contaminazioni commerciali), il termine "reinrassig" significa semplicemente "di razza pura", "purosangue" o "pedigree". Se compri un pastore tedesco con pedigree in Germania, l'annuncio dirà reinrassig.”

E c’è ancora chi si domanda come l’AfD sia potuta diventare il partito più popolare di Germania, oppure come Giorgia Meloni possa essere premier, Trump il presidente degli Stati Uniti d’America. Semplicissimo: a livello globale, oltre 5 miliardi di persone utilizzano stabilmente Google per informarsi (il che equivale a circa l'84,3% di tutti gli utenti internet del mondo): un modello che, per sua stessa ammissione, “ignora il tabù e tratta le parole come vettori numerici privi di significato storico”.
Eccolo il pericolo quintessenzialmente nazista: osservare un problema dal punto di vista prettamente pratico, offrendo una risposta prettamente pragmatica. È bastato molto meno di questa mia ingenua ricerca su Google (e della sua risposta sul pedigree dei cani), per giustificare l’annientamento sistematico di sei milioni di ebrei. Senza voler essere caustici.


parole: 623