Il bugiardo, 2018

In un articolo precedente avevo proposto una riflessione sui conturbanti ritratti fotografici generati dall’Intelligenza Artificiale e su un particolare software chiamato StyleGAN, il cui principio è quello di allenare due macchine a lavorare in modo competitivo, ad esempio: uno cerca di simulare un volto fotografico in base a determinate istruzioni - algoritmi- che gli sono state fornite, l’altro cerca di capire se è il volto è “veramente” fotografico o è solo simulato. Alle due macchine sono fornite le istruzioni per imparare dagli errori, così che la simulazione diventa sempre migliore. Nell’articolo mi ero soffermato sull’impatto emotivo, straniante e per certi versi sconvolgente, che la visioni di questi ritratti puo provocare. E in generale sul tema dell’automa e della tecnica e sui luoghi comuni con cui viene affrontato. Per tutte queste questioni e anche per quelle che affronto qui sotto (tranne gli errori e le scemenze, che sono opera mia), non posso che rimandare a un testo fondamentale del filosofo Carlo Sini.

In rete si trova già un’ampia letteratura sul tema dei ritratti fotografici simulati e sulle possibile applicazioni e, naturalmente, sui possibili usi scorretti o pericolosi di questa tecnologia, legati alle truffe, all’adescamento online, al deepfake, ai falsi profili social, ai falsi CV e referenze e così via. Tutte queste possibilità di uso scorretto si basano in generale sul pregiudizio di veridicità che attribuiamo alla fotografia, a causa della sua origine analogica: registrazione di un riflesso della luce su un referente che “era lì”. È un dibattito (già affrontato nell’altro articolo), che risale all’avvento del digitale il quale ha mutato in parte i termini della  questione - col digitale può non esserci il referente - ma non del tutto perché più potenti si rivelano la consuetudine e l’uso effettivo medio-vernacolare della fotografia. Da qui la credulità e i rischi di truffa. Due libri utili sul tema sono L’immagine condivisa di André Gunthert e Un’autentica bugia di Michele Smargiassi.

Interessanti sono anche gli utilizzi non fraudolenti (tutto sommato si può fare un uso fraudolento di qualsiasi cosa, è noto) perché coinvolgono ciò che diamo per scontato sia “esclusivamente umano” e invece può essere simulato. Un po’ come diamo per scontato che ci sia un referente, e invece… Allo stesso modo diamo per scontato che solo l’umano impari, o legga. Invece pare di no, anche la macchina può farlo. Quindi il confine di ciò che è umano va spostato? Pensiamoci un attimo: stiamo dicendo che una macchina, il computer, può imitare un’altra macchina, la fotocamera. Vista così non è cosi sconvolgente, no? Se lo è, quindi, è per un altro motivo.

Se ci spostiamo alle applicazioni dell’AI nel campo della scrittura di testi infatti le cose sembrano diverse. Dalla lettura di questo sito ad esempio si apprendono cose interessanti. La macchina sa rispondere e scrivere testi che difficilmente possono (o potranno in futuro) essere sgamati come “non umani”. Con tutti i problemi e le opportunità - entrambi colossali - che questo potrà produrre. Tuttavia credo che occorra, prima di correre ai ripari o approvare con entusiasmo, cercare di capire cosa sta accadendo. E per farlo occorre notare in primo luogo che l’uso che facciamo di termini come apprendimento, lettura, memoria ecc. attribuiti alla macchina è in realtà alquanto metaforico.

Anche nella produzione di testi “automatici”, come nella produzione di foto di volti, abbiamo infatti enormi database di testi che la macchina scorre - ma non legge: non li capisce mica infatti! - con l’istruzione di memorizzare - ma non è una memoria come la nostra che è sinestesica e contestuale: è più simile a segni fatti sul muro per numerare i giorni o le lune, infatti quella è l’origine della matematica, della scrittura alfabetica e della memoria digitale stessa! - con l’istruzione di “memorizzare” ad esempio quale parola segue a un’altra in vari tipi di testi, così da imparare - ma non è apprendimento come il nostro, che presuppone comprensione dei significati: è un conteggio statistico che si basa di nuovo sui numeri, anche se va detto che la presenza di un agone dialettico cioè di una forma di “relazione” lascia pensare che si sia imboccata la strada giusta… - a costruirne di nuovi che un’altra macchina non riesca a sgamare come falsi in base agli stessi criteri con cui lavora la prima (Ricorda i testi automatici scritti dai dadaisti o dai surrealisti vero? Non è proprio un caso, forse, se pensiamo che la macchina sia l’inconscio dell’uomo o che abbia un proprio inconscio, come suggeriva anni fa Franco Vaccari…).

Quindi vuol dire che la comprensione effettiva dei significati non può essere imitata e quindi che è immateriale? Tipo: l’anima?

Niente affatto, perché i significati non sono altro che la prima tecnologia, da cui dipendono le altre, computer compresi. Ma che vanno intesi e anche l’umano che li pro-duce - in modo diverso.

Stiamo insegnando a macchine numeriche - che sono nostre protesi, cioè isolano ed estraggono singole facoltà del corpo “interpretandole” e potenziandole, come fanno il sasso con la mano o il bastone con il braccio - a interpretare numericamente fenomeni complessi come la costruzione di un discorso. Perché è vero che in certi tipi di discorso, statisticamente, a una parola ne segue un’altra più di quanto accada in altri tipi di discorso. Quindi è vero che spesso parliamo come macchine. Di piu: è vero che i discorsi sono macchine! Il linguaggio è infatti la prima protesi tecnica inventata, la prima “macchina” diremmo, se fossimo nell’800: ogni discorso quindi è già una macchina prodotta da una macchina (il linguaggio). Non è cosi bizzarro quindi, come detto sopra a proposito delle foto, che una terza macchina - l’AI - la imiti. Tuttavia la costruzione di un discorso “reale” - ciò che chiamiamo comprensione, che non è un fenomeno immateriale ma un abito di risposta, solo estremamente complesso - presuppone una quantità tale di parametri che la simulazione numerica al momento non può imitare. Faccio un elenco molto elementare: la presenza di una bocca e quindi di un corpo “abitato” - cioè che sa di esserlo, “si sa” - che ha esigenze, bisogni e desideri e nasce e cresce in un contesto di altri corpi da cui apprende a sopravvivere e a parlare immerso in contesti di pratiche comuni sviluppate in tradizioni di interpretazioni di fenomeni naturali che lo contengono e di cui fa parte ma che nel contempo ha imparato a piegare in modi complessi trasformandoli nei contesti di significati suddetti cioè in protesi semantiche e fisiche che continuamente retroagiscono su di lui presentandosi come “reali” e su cui quindi egli opera sviluppando nuove interpretazioni in un circolo infinito…

Ciò che è interessante nell’AI, a parte i suoi meravigliosi usi futuri e a parte i suoi terribili usi futuri, è che come ogni protesi umana, ogni tecnica, ogni strumento, ogni “uso in figura di” cioè ogni segno, retroagisce e modifica il costruttore e lo fa diventare ciò che è - non c’è prima l’umano e poi gli strumenti, sono uno reciprocamente il prodotto dell’altro. E infatti, come ogni tecnica, funziona da specchio della sua stessa natura, cioè delle pratiche produttive di senso di cui l’umano è fatto, consentendoci di vederle per un istante. Solo per un istante, perché tra un attimo questo prodotto retroagirà su di noi e diventerà ciò che per noi è “la normale realtà esterna”, che non potremo più vedere in questo stato nascente, non ci sconvolgerà nemmeno un po’ e useremo in infinite pratiche a venire, meravigliose e terribili.