L’intelligenza artificiale (Rubbettino) il nuovo libro di Domenico Marino (unsic.it)

Oggi non si scrive più molta fantascienza. Decenni fa, nata negli Stati Uniti come letteratura popolare, commerciale e di massa, veniva venduta in libretti economici, che un pendolare potesse leggere in treno o in metropolitana, e comprare spesso. In Italia, erano gli Urania, chi se li ricorda ?, edizioni andanti che si vendevano nelle edicole, e, appena più su, gli Oscar Mondadori. 

Questa letteratura era considerata di serie B, ma aveva due punti forti: si rivolgeva al grande pubblico, non ai pochi più colti e raffinati, facendo anche un poco di educazione scientifica, insegnando alla buona cosa fossero la teoria della relatività o le galassie, e quindi vendeva tantissimo; e poi, andava a toccare un punto importante, che scrittori più blasonati avevano trascurato: il rapporto tra tecnologia e società, come la tecnica e la scienza possono cambiarci, diventando da semplici strumenti al nostro servizio invece delle potenze che ci cambiano la vita, che lo vogliamo o no. 

Gli scrittori di fantascienza sono passati dalla serie B alla serie A anche grazie al cinema: proprio le nuove tecnologie hanno permesso di sfruttare sul grande schermo il potenziale spettacolare della letteratura di fantascienza, un po’ costretto su carta, stupendo e commuovendo milioni di persone. Ma poi anche la pagina scritta è stata rivalutata: non più vista solo come storielle educative per adolescenti secchioni che studiano un po’ di astronomia a scuola. Citeremo due autori tra tutti: Isaac Asimov e Philip K. Dick, che oggi sono considerati grandissimi scrittori, niente affatto dei poveri artigiani, per quello che hanno immaginato sull’intelligenza artificiale, e che solo adesso, negli anni 20 del Ventunesimo secolo, ci appare profetico. Asimov, tra le altre cose, ci ha descritto mondi dominati dai robot: dove, a prima vista, lo spazio della scelta umana, dell’anima, della morale, si trova ristretto dalla fredda tecnica, dall’algoritmo, diremmo oggi; eppure, alla fine, quando i robot diventano più potenti, ma anche più responsabili, si trovano di fronte alle stesse sfide dei loro creatori umani da cui si sono resi indipendenti: anche i robot cadono nel dubbio, si chiedono cosa sia giusto e cosa sbagliato, e magari non sanno che fare. 

E nella storia di fantascienza forse più famosa di tutte, quella del film Blade Runner, che è tratto da un racconto di Philip K. Dick, troviamo dei robot somiglianti agli uomini, che non hanno diritti, non si prevede che soffrano o che prendano decisioni su loro stessi, sono solo macchine, eppure soffrono, hanno paura, sono cattivi oppure buoni secondo le circostanze. 

Inoltre, Dick ci propone storie e situazioni in cui mente e realtà mescolano i loro confini; è oggi il tema della realtà virtuale, delle esperienze a distanza che avvengono in un mondo telematico, ma che ci appassionano come fossero reali, per esempio un videogioco che ci ha impegnato mente e nervi può non aver nulla da invidiare per emozioni a una gara sportiva dove abbiamo gareggiato con tutto il corpo. A un certo punto, cosa sia reale e cosa virtuale si confondono, o forse il virtuale finisce per importarci anche più del reale. 

Oggi, di fantascienza non se ne scrive più molta: c’è chi dice per delusione, perché purtroppo il piatto forte, i viaggi interstellari con le astronavi, non sono arrivati, e c’è chi dice invece perché al futuro ormai ci siamo già arrivati, e quindi non c’è molto da inventare, se mai c’è da descrivere e raccontare. E forse anche perché, rispetto agli anni 50 e 60 in America, che erano anni ottimisti, di speranze, oggi siamo tutti più cinici e più tristi, e non ci aspettiamo più così tanto dal futuro, niente omini verdi, niente mostri spaziali, che noia.

L’intelligenza artificiale (Rubettino, 2020) è scritto da un’economista, Domenico Marino, docente di politica economica all’Università Mediterranea (e, en passant, consigliere del Centro Studi dell’Unsic), e non ci troverete astronavi, ma tanti altri spunti di riflessione sul presente e sul futuro sì. Tra speranza e paura, come sempre quando pensiamo al futuro, Marino ci guida tra le incognite della società tecnologica, che è già qui, alla porta. Parliamo delle angosce: non pensiamo più molto all’invasione dei marziani, ma il futuro che vediamo ci porta angosce ben più concrete e urgenti, la prima delle quali è la sostituzione con le macchine del lavoro umano, con la conseguente distruzione di posti di lavoro. 

E’ bellissimo che lavori faticosi e pericolosi siano delegati alle macchine, ma la sostituzione tecnologica colpirà anche settori come quello bancario: milioni di persone vedono a rischio la loro tranquillità, quel tranquillo benessere in camicia e cravatta. Inoltre, sempre di più le decisioni che prima erano di competenza di un essere umano, saranno dei sistemi informatici: se concederci un mutuo, per esempio. 

Questo ci mette al riparo dall’arbitrio, dalla prepotenza e dalla corruzione, ma ci inquieta: come si parla con una macchina, come si può convincere che siamo persone, nella nostra unicità, degne di ascolto, magari anche di una benevola eccezione, di una piccola scommessa sulle nostre capacità ? Su questo potevamo sperare, quando andavamo sorridenti e con indosso il vestito migliore a parlare con la nostra banca, e adesso, di fronte al computer, la nostra storia, la nostra faccia, il nostro nome non conta più, e questo ci è, comprensibilmente, insopportabile.  

Marino ci segnala in particolare l’effetto potenzialmente perverso del digital divide, cioè la differenza di capacità informatiche tra ricchi e poveri, e istruiti e non istruiti, insomma il nuovo analfabetismo, rispetto ai sistemi di sicurezza sociale. Proprio i più poveri e sprovveduti, non essendo in grado di gestire anche semplici richieste telematiche, potrebbero trovarsi esclusi dai loro diritti. Senza contare che le procedure telematiche non ammettono quei comportamenti goffi e inadeguati che magari un funzionario dotato di un minimo di umana sensibilità sa risolvere con un sorriso, togliendo d’impiccio l’anziano un po’ confuso, lo straniero che non capisce, il timido e lo spaventato, tutti destinati ad essere vittime del “no” implacabile di una macchina. 

Un “no” che costringe inoltre l’utente a dover dimostrare l’errore, cioè a partire da una posizione di presunto colpevole. I processi produttivi, man mano che diventano sempre più informatizzati, mettono l’uno accanto all’altro macchine dotate di intelligenza artificiale e persone: non è scontato che facciano amicizia, e lo stress, la frustrazione, la delusione, il bisogno di fare un’eccezione in determinate circostanze, tutte caratteristiche umane, non possono essere (per ora, almeno) comprese dalle macchine. Inoltre, i sistemi di intelligenza artificiale seguono procedure che non sono decise da Dio, e neppure da una Scienza perfetta: sono state invece determinate per il vantaggio e la convenienza dei loro proprietari, e quindi sono i loro algoritmi sono truccati all’origine. 

Si crea un gigantesco divario di potere non tra macchina e uomo, ma tra l’uomo davanti la macchina, che ne subisce la logica inesorabile, e l’uomo dietro la macchina, che l’ha programmata per fare ciò che gli conviene. Alla fine, le intelligenze artificiali con cui abbiamo a che fare oggi sono intelligenze deboli, che non possono decidere molto, e sarà bene quindi non cadere nella trappola di prendersela con le macchine, dimenticandosi della logica e degli interessi, molto umani, che le hanno messe in funzione. Diverso sarebbe il caso di un’intelligenza artificiale “forte”, che prende davvero decisioni: ma sistemi del genere dovranno apprendere dall’esperienza, ricevere delle norme etiche di fronte alle scelte, e insomma ragionare sempre meno come macchine, e sempre più con una dimensione soggettiva che le farà assomigliare a delle menti, sempre più raffinate, ma anche meno perfette e precise, e, un giorno, dubbiose. 

Se la capacità di pensare si trasferisce anche in un corpo fisico, i nostri corpi potrebbero in futuro ricevere progressivi miglioramenti, per renderci più forti e capaci, fino a diventare in tutto o in parte artificiali: anche per questa via, quella della fisicità artificiale, opposta ma convergente con quella dell’intelligenza artificiale, il confine tra uomo e macchina si assottiglia: se i computer possono ragionare quasi come umani, i nostri corpi possono col tempo diventare sempre più meccanici, e forse renderci più stupidi, se la nostra della nostra intelligenza è il superamento dei nostri limiti fisici, e un corpo troppo potente potrebbe sottovalutare l’intelligenza, invece di un intelligente e dolente replicante alla Blade Runner, potremmo trovarci  invece un Terminator, che come ricorderete al cinema aveva il fisico possente e l’espressione stolida e feroce di Arnold Schwarzenegger.

Lo sviluppo dell’intelligenza artificiale, nei suoi elementi sicuramente positivi, di superamento della fatica, efficienza produttiva, miglioramento della medicina e del piacere della vita, e nei suoi rischi per la democrazia e l’eguaglianza, richiede quindi scelte che non sono tecniche, ma etiche. Alla fine, per gli uomini e per le loro macchine, non sono gli algoritmi, ma le scelte morali a contare di più.

Altre Rassegne