INTELLIGENZA ARTIFICIALE: IL “FATTORE UMANO”

Costantino Esposito, Professore Ordinario di Storia della Filosofia all’Università degli Studi di Bari; Daniele Magazzeni, Associate Professor in Artificial Intelligence King’s College London; Mark O’Connell, Giornalista e scrittore, autore di Essere una macchina. Introduce Davide Perillo, Direttore di Tracce.

 

DAVIDE PERILLO:

Buonasera a tutti e benvenuti a questo Meeting e a questo incontro. Incontro che avremmo voluto iniziare con un breve video, però purtroppo problemi di diritti e di Siae che non dipendono da noi, ce lo impediscono. Allora invece del video iniziamo con un breve esperimento: è una cosa un po’ folle, ma avete tutti il vostro smartphone, giusto? Prendetelo e provate a digitare su Google “Roberto Bolle balla robot video”, provate a farlo, è un esperimento che stiamo facendo, forse anche un po’ suicida, perché iniziare un incontro chiedendo alla gente di metter subito la testa nel cellulare potrebbe essere una cosa con effetti dirompenti sul proseguimento, però magari qualche signora in sala o qualcuno che ci sta seguendo da casa ha capito di che si tratta. Vi sto chiedendo di dare un’occhiata a un piccolo spezzone di una trasmissione che Roberto Bolle, grande ballerino italiano, ha fatto qualche mese fa per la televisione italiana, la Rai. In questo spezzone potete vedere Bolle che balla con un robot. Date un’occhiata e capirete subito il motivo per cui avremmo voluto farvelo vedere qui e invece vi chiediamo di farlo con questa modalità strana: perché vedete, c’è qualcosa di assolutamente affascinante in quelle movenze, ma anche qualcosa di inquietante. Qualcosa che colpisce, che ci tocca, forse addirittura che disturba. Così come l’esperimento, è interessante perché è affascinante e insieme inquietante l’idea che tutti insieme qui, nello stesso momento, ma ognuno per conto suo, usando la tecnologia, stiamo guardando la stessa cosa, però ognuno per conto suo. È molto affascinante se ci pensate, ma anche inquietante per certi versi. Se vi staccate, chiedo soprattutto alle signore, dal video di Bolle che stiamo guardando, e non vi attaccate a Facebook, che è il rischio che stiamo correndo in questo momento, e torniamo alla ragione del nostro incontro, capite anche perché questo strano abbinamento di fascino e inquietudine è un po’ la cosa che ci accompagna oggi, è un po’ la ragione che sta all’origine di questo incontro, perché è qualcosa che caratterizza sempre il nostro rapporto con la tecnologia, soprattutto con la tecnologia che ha un impatto così importante sulle nostre vite. Oggi parliamo di intelligenza artificiale e del fattore umano. L’intelligenza artificiale, ma direi anche la sua combinazione con altri settori della scienza – pensiamo alle neuroscienze o la biotecnologia -, è ormai così pervasiva nelle nostre vite, ed è così legata a tante altre possibilità che le scienze e le tecnologie ci offrono, che per certi versi sta già rendendo reali cose che fino a qualche tempo fa erano impossibili, addirittura fuori dalla portata della nostra immaginazione. Gli algoritmi o le macchine non solo ormai fanno delle cose al nostro posto, cosa a cui siamo abituati da un paio di secoli – i robot esistono da un po’ – ma adesso addirittura possono ballare al nostro posto; non solo fanno delle cose, ma decidono delle cose. Addirittura qualcuno sostiene che pensino delle cose al nostro posto; deleghiamo alle macchine, agli algoritmi, all’intelligenza artificiale scelte, decisioni, dalle cose più banali, come l’uso del navigatore sul nostro telefono, a cose molto più importanti. Non solo la timeline dei social, che viene decisa come sapete da un algoritmo, quello che vediamo su Facebook, ma i colloqui di selezione sul lavoro; tante volte le grandi aziende sono fatte adoperando questi strumenti come scrematura iniziale. Oppure le tariffe dell’assicurazione; è molto probabile che quello che pagate dipenda da un algoritmo. Ma anche cose più serie come le sentenze legali negli Stati Uniti. Per esempio, in tanti Stati vengono già adoperati dei software per calcolare le probabilità di recidiva e quindi suggerire al giudice la pena da comminare a un imputato. È una pervasività grande che pone grandi questioni, grandi problemi, grandi domande, fino alle sue estremità, perché c’è chi sta iniziando, o meglio, teorizza qualcosa che sta diventando apparentemente sempre più possibile, a portata di mano, e cioè che questa estensione della capacità umana, questa progressiva riduzione dei limiti che abbiamo di spazio e di tempo, tendenzialmente infinita, può arrivare a oltrepassare barriere che abbiamo da sempre. C’è chi teorizza che per esempio l’uomo non solo potrà adoperare tecnologie che ci supereranno, ma che addirittura dovrà integrarsi in qualche modo con la macchina, per potenziare la propria umanità. Queste cose che possono sembrare folli, e in parte lo sono, perché pensare che la nostra conoscenza si possa in qualche modo estrarre dalla nostra mente e uploadare, caricare su un altro supporto, perché viene concepita come un insieme di dati, di connessioni, è una cosa che sembra folle, e ha sicuramente una sua vena di follia. Ma son cose su cui si sta lavorando, son cose su cui le grandi aziende stanno investendo milioni di dollari. E soprattutto sono cose che oltre a essere reali sotto questo profilo, come sentiremo, soprattutto hanno dentro un qualcosa di assolutamente reale: nascono da un desiderio che ci appartiene da sempre, che è quello di superare i nostri limiti, di poter fare in modo che la condizione umana, che la fragilità di cui siamo fatti possa essere superata, vinta, che possiamo fare sempre più cose, essere sempre più performanti. Questo desiderio l’uomo ce l’ha da sempre, la grande differenza è che adesso sembra sempre più a portata di mano rispetto a prima. C’è chi teorizza che potremmo arrivare a vivere svariate centinaia di anni. Quindi il problema che c’è al fondo di queste questioni che trattiamo oggi è un problema che ci riguarda molto da vicino, perché è il desiderio, il bisogno che siamo, la nostra fragilità. Per questo l’incontro è sul fattore umano nell’intelligenza artificiale, e per questo abbiamo invitato gli ospiti che vi presento, a cominciare da Daniele Magazzeni, alla mia sinistra, che insegna l’intelligenza artificiale e studia questo tema al King’s College di Londra. Adesso non sto a leggere tutte le cariche che ha, ma insomma è professore associato al King’s College, ed è la sua materia. Mentre è stato lo spunto di partenza per uno strano viaggio, il motivo conduttore che ci ha portato a invitare qui Mark O’Connell, che abbiamo qui, che è irlandese, viene da Dublino, e che ha fatto questo strano viaggio che ha dato vita a questo libro Essere una macchina, che è un viaggio nelle posizioni più estreme legate a questi temi, nel transumanesimo, appunto tra realtà, teorie, personaggi che sostengono, teorizzano, lavorano a questo superamento dell’uomo attraverso la tecnologia. E sarà interessante capire dove l’ha portato questo viaggio. Il terzo ospite, credo che lo conosciate da tempo, perché è un pezzo di Meeting: Costantino Esposito, ordinario di Storia della filosofia a Bari e con cui cercheremo di esplorare le domande che stanno sotto i temi di cui stiamo parlando. Però vorrei iniziare partendo proprio dal Professor Magazzeni, al quale diamo, affibbiamo una domanda da un miliardo di dollari, perché la richiesta è: Daniele, di cosa parliamo quando parliamo di intelligenza artificiale? Cerchiamo di ricostruire un po’ il contesto, e capirete che in un quarto d’ora o venti minuti non è una cosa semplicissima, ma ci prendiamo il gusto di vedere come va. Prego.

DANIELE MAGAZZENI:

Grazie, buonasera a tutti. Ringrazio il Meeting per l’invito, ringrazio voi per essere presenti. Vorrei fare una premessa prima di rispondere alla domanda di Davide, e cioè che io oggi qui sono stato invitato a parlare come esperto di intelligenza artificiale, e in effetti io, con i miei studenti e con il resto del mio team, tutti i giorni lavoro per sviluppare nuove tecniche di intelligenza artificiale, di AI, quindi è il mio lavoro, è una mia grande passione – ci campo tra l’altro – e certamente credo di essere un esperto. Eppure, e questa è la premessa che volevo fare, più vado avanti nella mia ricerca sull’intelligenza artificiale, più cresce in me lo stupore per l’intelligenza umana, per tutto ciò di cui la persona umana è dotata. E infatti di tutto quello che la persona umana è capace di fare, l’intelligenza artificiale cerca di essere una pallida analogia, molto affascinante e anche molto efficace in tanti ambiti, ma è pur sempre un’analogia, ed è questo che guida un po’ anche la mia ricerca, e per questo il titolo dell’incontro mi ha affascinato e ho accettato di buon grado di partecipare. Allora, io ho l’ingrato compito di dirvi in quindici minuti cos’è l’AI, che è un tema di cui si parla tanto – credo sia importante cercare di offrire uno sguardo realistico di cos’è. Per necessità di sintesi, data anche la natura divulgativa di quest’incontro, farò tante semplificazioni e dirò solo alcune delle tante cose che uno potrebbe dire sull’intelligenza artificiale. Però credo che quello che dirò servirà a dare a tutti un’idea di che cosa parliamo quando parliamo di AI. Parto con una citazione secondo cui l’intelligenza artificiale e quello che sta accadendo con l’AI è paragonabile a quello che è accaduto con la diffusione dell’elettricità, perché da un lato, come è accaduto con l’elettricità, anche oggi attraverso l’AI sta crescendo enormemente la capacità dell’uomo di interagire con la realtà – si pensi alla facilità che abbiamo di accedere alle informazioni o alla facilità che abbiamo di comunicare. Allo stesso tempo, e lo accennava anche Davide, così come è accaduto con l’elettricità, anche l’intelligenza artificiale è qualcosa che usiamo continuamente e spesso in modo inconsapevole, senza quasi accorgercene. Sono sicuro che se nomino l’AI o la tecnologia, tutti pensate a uno o più di questi prodotti (slide). Questi prodotti hanno due cose in comune: la prima è che permettono di accedere alle informazioni, ma questo accesso alle informazioni è mediato dall’intelligenza artificiale, per cui come diceva Davide i risultati di una ricerca su internet, o quello che vi viene offerto nei social media, è mediato dall’intelligenza artificiale, ed è importante esserne consapevoli. La seconda cosa che tutti questi prodotti hanno in comune, è che sono gratis. Solo che se il prodotto è gratis vuol dire che il prodotto sei tu, siamo noi, attraverso tutti i dati che offriamo e che queste companies, queste società, usano per fare business, ad esempio ottimizzando la pubblicità e così via. Lo cito perché possiamo essere più coscienti di cosa implica la nostra interazione con la tecnologia. L’intelligenza artificiale lavora principalmente in due modi – qui sarò minimamente tecnico, perdonatemi. Il primo modo è basato sui modelli. Pensate al gioco degli scacchi; qui il modello è dato dalla scacchiera e dai modi in cui potete muovere le pedine, e quello che l’intelligenza artificiale fa è considerare l’insieme di possibili modi in cui questo modello può evolvere, e cercare la strategia migliore. Ora, se ci pensate, noi facciamo questo continuamente, si chiama pianificazione; quello che l’AI cerca di fare, è compiere da un lato tante operazioni in pochissimo tempo, dall’altro, siccome è impossibile considerare tutte le possibilità, capire quali sono le più promettenti e scegliere di analizzare maggiormente quelle. Un esempio più quotidiano degli scacchi è Google Maps, che penso usiamo quasi quotidianamente. Qui il modello è dato dalla rete stradale, e gli algoritmi di AI cercano il modo più efficiente, secondo diverse metriche, di raggiungere una data destinazione. Ci sono questi algoritmi di AI dietro queste applicazioni. Questo stesso approccio è usato anche nella robotica; questo è un video molto famoso della Boston Dynamics. Io da scienziato dico che questi video sono piuttosto straordinari, perché descrivono un progresso che è stato fatto nella robotica, in cui si hanno robot che performano operazioni con una certa dinamica, molto complessa, anche svolgendo operazioni tipicamente umane. C’è un però: un aspetto che è importante chiarire e che dal video potrebbe non notarsi, è che tutti questi robot stanno eseguendo compiti che sono dettati dagli uomini. Quindi l’autonomia di questi robot è solo nello svolgere singole operazioni, come prendere un pacco, camminare, ma gli obbiettivi, lo scopo, è dato dall’uomo. Questo è importante, perché altrimenti uno, guardando questo video, ha in mente scenari alla “Terminator”, o ha la paura che i robot prendano il sopravvento sugli umani. No, la capacità di prendere iniziative e darsi dei compiti non è dell’AI, ma in questo caso è dato dal fattore umano, per l’appunto. Ci tengo anche a porre un po’ di realismo su quello che uno potrebbe percepire da certi video che trovate in rete; chiaramente tanto progresso è stato fatto nella guida automatica – self-driving cars, qui gli investimenti e i progressi scientifici sono enormi. Certo, c’è un problema di fattore umano se volete, perché anche se la tecnologia è pronta o sarà pronta a breve, c’è un aspetto legato alla fiducia che le persone dovranno avere prima di potersi sedere leggendo il giornale su una self-driving car, che a mio avviso chiederà più tempo del solo progresso tecnologico – a parte le implicazioni legali, culturali, eccetera. L’altro grande approccio che usa l’intelligenza artificiale, che è anche quello più famoso in questo periodo, negli ultimi anni, è quello basato sulle neural networks, sulle reti neurali, in cui l’obbiettivo è come pallida analogia cercare di simulare quello che gli uomini fanno usando le reti neurali del cervello, so che c’è anche un’area dedicata in questo Meeting. L’idea, e qui semplifico ma vi do gli elementi essenziali, è che ci sono enormi basi di dati, ad esempio di immagini. Prendiamo l’esempio del riconoscimento di immagini. Ci sono enormi insiemi di immagini già etichettate, milioni di esempi di veicoli, milioni di foto di gatti e di cani. Quello che si fa è allenare questo codice, che è la rete neurale, in modo che guardando tutti questi esempi – un milione di veicoli, un milione di gatti, un milione di cani – quando gli si presenta un’immagine nuova, la rete neurale sarà capace di individuare se si tratta di un veicolo, di un cane, di un gatto. In estrema sintesi, le reti neurali dell’intelligenza artificiale funzionano così. Quindi c’è bisogno di fare allenamento di questi codici, usando un’enorme quantità di dati, e in effetti il progresso si deve al fatto che ora la potenza computazionale è cresciuta tantissimo rispetto a vent’anni fa e in rete ci sono tantissimi dati, anche quelli che noi gli diamo, moltissimi di più di vent’anni fa. Ci sono applicazioni delle reti neurali in svariati campi, a cominciare in ambito medico per esempio – ci sono diversi approcci che usano le reti neurali per la diagnosi di immagini di tipo medico – fino al riconoscimento facciale che ritroviamo sui social o in ambito di sicurezza, fino a Google Translator. Non so se vi siete mai chiesti come funziona Google Translator, ma anche lì ci sono una miriade di esempi di dialoghi che vengono già tradotti e la rete neurale impara da questi esempi ed è capace di tradurre nuove frasi. Guardate, qui a sinistra vedete l’immagine di un cavallo vero, a destra l’immagine di una zebra finta. Quello che è stato fatto è riprodurre il movimento, perché a destra ho un fake video. Lo dico perché tutti si preoccupano delle fake news, ma qui il prossimo passo è quello dei fake artifacts, cioè video artefatti creati dall’intelligenza artificiale. È stato fatto anche sull’uomo. Uso questa immagine, che chi è un po’ nell’ambito dell’intelligenza artificiale riconoscerà che si tratta di una pietra miliare della ricerca fatta. Questa è la scena di un algoritmo di AI, chiamato AlphaGo che batte il campione mondiale di Go.

Go è un gioco molto complesso, molto più complesso degli scacchi, per cui tutti, nella comunità scientifica, avevano previsto che sarebbero state necessarie diverse decadi prima che un computer fosse in grado di giocare bene a questo gioco; invece tre anni fa, AlphaGo ha battuto il campione mondiale di Go e questa è stata una notizia che ha avuto una grandissima risonanza mediatica nella comunità scientifica e non, perché rappresenta davvero un punto molto significativo.

Io, però, ogni volta che sono chiamato a parlare in convegni di questo tipo, mostro anche questa slide, che mostra cosa c’è dietro l’algoritmo e cosa c’è dietro Lee Sedol, che è il campione coreano del Go.

Allora, dietro all’algoritmo ci sono migliaia di processori, centinaia di scienziati che hanno lavorato a questi algoritmi e anni di allenamento di questo codice, mentre dietro a Lee Sedol c’è un cervello e una tazza di caffè. Inoltre – questo è importante evidenziarlo – AlphaGo, l’algoritmo, sa solo giocare a Go, non sa fare altro; tra l’altro, se anche aggiungiamo solo una riga alla scacchiera, AlphaGo non sa nemmeno come cominciare, mentre Lee Sedol sarà un uomo che sa giocare a Go, sa guidare una macchina, sa cucinare, sa voler bene ai figli, sa parlare più lingue. Insomma, dei due cervelli quello che a me affascina di più rimane quello umano tra i due.

Questo è un esperimento che è stato fatto recentemente: è stato chiesto ad una rete neurale, che doveva riconoscere diversi animali, di prevedere e di classificare quell’immagine e il risultato è stato prevedere con il 57% di confidence, di confidenza, che era un panda, quindi qui la rete neurale ci ha preso. Quello che è stato fatto poi è inserire un pixel, modificare l’immagine di un pixel, quindi un niente, se volete, e la stessa rete neurale, di fronte alla nuova immagine modificata solo di un pixel, ha detto con il 99% che si trattava di un gibbone che, per la cronaca, è questo [mostra immagine di scimmie].

Lo dico perché è importante, anche per un sano rispetto verso quello che la scienza fa e non fa: questo è un limite importante dell’intelligenza artificiale. In particolare non è chiaro perché gli algoritmi di intelligenza artificiale si comportano in un certo modo, in questo caso non abbiamo la spiegazione del perché si trattava di un panda nel primo caso e di un gibbone nel secondo caso. Si dice in termini tecnici che l’A.l. è una black box, cioè non ti dà le ragioni e questo è importante. Perché se io chiedo ad una persona che mi sta suggerendo qualcosa «perché mi sta suggerendo questo?», tu mi puoi dare le ragioni. Questo l’A.l. non lo fa.

Ecco perché un’area di ricerca dentro l’intelligenza artificiale che si sta sviluppando molto e di cui anche io mi occupo con il mio team, è quella dell’ explainable A.l., cioè cercare di sviluppare tecniche che possano spiegare il perché delle decisioni suggerite dall’intelligenza artificiale. In mancanza di questo c’è un limite forte dell’A.l.

Sarebbe interessante chiedervi quanti conoscono queste persone, in realtà queste tre persone non esistono: sono volti creati dalle intelligenze artificiali. Tra l’altro, per continuare l’esercizio suggerito da Davide, se visitate questo sito web (https://thispersondoesnotexist.com) ogni volta che andate vi verrà prodotta diciamo la faccia di una persona che non esiste.

Lo dico per fare un affondo qui: tanti nella comunità scientifica hanno decritto questo risultato come un punto di creatività dell’intelligenza artificiale, cioè il fatto che l’A.I. possa esser capace di creare e di pensare. Da un certo punto di vista posso anche essere d’accordo, ma voglio anche essere un po’ provocatorio su un aspetto: c’è un punto irriducibile dell’uomo che l’A.I. non ha, che è quello dell’intuizione, perché l’A.I. può lavorare o perché è programmata per fare una cosa o perché impara da tanti esempi. L’intuizione non nasce solo da questo, certo l’intuizione umana, quando ti viene un’idea per esempio, dipende da tutto quello che hai visto, che hai vissuto, ma non è solo quello. L’intuizione è più il riconoscimento se volete, quasi come una sorpresa, di un nesso tra quello che hai tra le mani e una cosa che ti viene in mente. Ecco, questo l’ A.I. non ce l’ha, ed è importante mantenere questo rispetto e umiltà verso il cervello umano o la persona umana, rispetto invece quello che A.I. fa.

Mi avvio a concludere con le ultime due slide.

La prima è Facebook e il whisky. Ho un caro amico che ricopre un ruolo apicale in una delle società che vi ho fatto vedere nella prima slide di A.I., ci troviamo a volte a Londra a cena e una delle ultime volte il discorso è caduto sul fatto che la tecnologia sia di per sé neutra. Lui sosteneva che la tecnologia A.I. è neutra, io non sono d’accordo, penso che non lo sia. E lui diceva, siccome a tavola c’era quella bottiglia di whisky e i cellulari, lui ha detto: «Vedi, per esempio Facebook è come quel whisky, di per sé è neutro, sta a te decidere se usarlo bene o se usarlo male». Ecco, io non sono d’accordo su questa affermazione, perché tra Facebook e il whisky ci sono almeno tre differenze, almeno tre.

La prima è che, se quello è un buon whisky, se ne vuoi comprare una bottiglia devi pagare 120 sterline e invece usare Facebook è gratis. La seconda è che, se io bevo una bottiglia di whisky stramazzo a terra, invece tu puoi usare Facebook venti ore e apparentemente non ne vedi il danno. Terzo è che, se io bevo un bicchiere di whisky, quello affianco a me si accorge che ho bevuto, invece nessuno ti chiederà conto di tutto il tempo che hai speso su Facebook.

Già solo per queste tre differenze, a mio avviso la persona umana è molto vulnerabile di fronte alla scelta di usare bene o male i social networks, per esempio; è come se l’uomo fosse un po’ debole e non fosse pronto. E questo lo dico perché è un po’ una pretesa, diciamo, dire: «L’importante è come usi le cose». No, perché è come (e qui uso una citazione) se allo sviluppo così rapido della scienza, non stia corrispondendo uno sviluppo così altrettanto rapido della coscienza. E infatti mi pare evidente che è difficile avere un rapporto ordinato con i social, per esempio, tant’è che la curiosità oppure il mostrare quello che uno fa spesso diventano morbosi, oppure la difficoltà che abbiamo a non mettere il cellulare sul tavolo a cena, invece di stare alla conversazione.

Con questo non voglio criminalizzare l’A.I., anche perché, ripeto, ci campo. Volevo solo dire che c’è un ambito in cui bisogna fare attenzione a che tipo di relazione abbiamo con i social. E qui vengo all’ultima slide: Daniele è il comandante. Io volo spesso per lavoro e mi sono trovato qualche tempo fa nella cabina di pilotaggio dell’aereo e ho fatto finalmente una domanda al comandante, che avevo da tempo. Non so se sapete, ma durante un volo aereo il pilota ha il controllo dell’aereo solo per il 3% del volo, cioè quasi nulla, ma questo 3% include l’atterraggio, quindi, pochi minuti prima di atterrare il pilota disattiva il pilota automatico e prende il controllo manuale dell’aereo. Ho fatto al comandante questa domanda: «Come mai vi assumete la responsabilità e il rischio di far atterrare l’aereo manualmente?”. Perché – sia chiaro – l’autopilota saprebbe benissimo come far atterrare un aeroplano, però i piloti decidono di assumersi il rischio dell’atterraggio manuale. «Perché vi assumete questo rischio?». E il comandante mi ha dato una risposta che mi ha molto convinto e mi ha detto: «Perché abbiamo bisogno di mantenerci allenati, perché altrimenti il giorno in cui, per qualunque ragione, l’autopilota non funzionasse, noi ci saremmo dimenticati come si fa a far atterrare un aeroplano».

Ecco, mi ha colpito questa risposta e continua ad accompagnarmi, anche nella mia ricerca, ma più in generale nella vita, perché credo che dovremmo seguire il consiglio del comandante in tanti aspetti della nostra vita.

Dovremmo mantenere allenate tante cose che stiamo dimenticando: pensiamo, ad esempio, al rapporto che abbiamo con il ricordare le cose a memoria: quante cose ci ricordiamo ormai a memoria? Oppure la capacità che abbiamo di fare i calcoli, oppure, non lo so, l’orientamento: come faremmo senza il navigatore? Credo che queste cose dovremmo mantenerle allenate, fino al punto che dovremmo tenere allenato il gusto dei rapporti umani, dei legami, dell’amicizia reale che è fatta di gesti, parole, affezione e anche di mangiate fatte insieme.

Paradossalmente, di fronte a una crescita così rapida dell’intelligenza artificiale, può sembrare un paradosso, ma una delle cose che sento più urgenti è mantenere vivo il gusto dei rapporti umani, dell’amicizia reale e su questo credo che abbiamo la grande responsabilità di mantenerci allenati, che, infondo, è un’affascinante e grande responsabilità educativa, che ci chiama in causa tutti. Ho concluso, vi ringrazio per l’attenzione.

DAVIDE PERILLO:

Mark O’Connell, invece, ha fatto un viaggio nel mondo di chi pensa che quel 3% sia superfluo, sia superabile, sia a portata di mano, sia giusto e doveroso superarlo, perché l’umanità possa approdare a frontiere mai viste prima. Come dicevo prima, il suo libro è stato un viaggio nel transumanesimo, cioè nell’umanità che ci aspetterebbe secondo i profeti di questo uso estremo della tecnologia.

Niente whisky, niente caffè, ma quello che ci racconterà lui.

Perché lo abbiamo invitato? Perché, come dicevo prima, queste posizioni, proprio nella loro estremità, fanno vedere bene, ancora con più nettezza, qual è la grande questione che c’è sotto, che già emergeva dall’intervento di Daniele. Allora chiederei a Mark di raccontarci il suo viaggio nel mondo del transumanesimo.

MARK O’CONNELL:

Grazie, grazie tante. Il mio libro To Be a Machine tratta dei transumanisti che pensano che noi possiamo e dobbiamo usare la tecnologia per superare i limiti della condizione umana:

che dovremmo migliorare le nostre menti e i nostri corpi usando impianti, che dovremmo caricare la nostra coscienza individuale sulle macchine, fondendoci con l’intelligenza artificiale per diventare esseri immortali di intelligenza e potere quasi infiniti.

Prima di parlare del movimento stesso e della sua visione del futuro dell’umanità, voglio dirvi come sono arrivato a questo argomento, perché sono stato attratto da esso. Non mi considero uno scrittore di scienze. Ho un dottorato in letteratura inglese e il mio background è quello di critico letterario. Sono sempre stato particolarmente interessato all’arte e alla mitologia che cerca di arrivare alla radice della unicità dell’essere umano, in particolare l’atavico sentimento dell’ansia per la nostra mortalità.

E sono sempre stato ossessionato dalla storia biblica della caduta, che per me è un racconto poetico incredibilmente ricco e profondo della nostra estraneità rispetto a noi stessi, della nostra incapacità di accettare noi stessi come animali, quali che siamo.

Il centro psicologico della storia, per me, è il concetto che noi non dovremmo essere così come siamo, che dovevamo essere dispensati dalla sofferenza, dalla morte, dalla fragilità umana; che abbiamo portato noi questa condizione come punizione. In pratica quello che mi ha sempre affascinato è l’idea della nostra stessa natura, dei nostri limiti umani come cose che si possono trascendere. Questa incapacità di riconciliare noi stessi rispetto ai fatti irriducibili della nostra umanità, è sempre stato un aspetto importantissimo che definisce la condizione umana.

Quando è nato mio figlio, quasi sei anni fa, ho pensato tantissimo a queste cose. L’esperienza di vedere mia moglie partorire e di essere in parte responsabile per l’esistenza e il benessere continuativo di questo essere umano così piccolo e fragile, mi ha portato quasi a essere ossessionato dal tema della mortalità e della fragilità.

È proprio a questo punto che ho cominciato a leggere tantissimo su questo movimento, il transumanesimo, che offre una via d’uscita rispetto alla mortalità e alla fragilità, un modo per trascendere la nostra condizione attraverso la tecnologia. All’inizio mi ha affascinato tantissimo, perché mi sembrava che venisse proprio dallo stesso malessere esistenziale di base della condizione umana, che sottende proprio alla storia giudeo-cristiana della caduta e che stava proprio anche alla base della mia preoccupazione crescente rispetto a questo argomento.

Questo viaggio mi ha portato in posti piuttosto strani, anche a fare degli incontri con idee che sono anche sconcertanti, aliene. Il libro stesso ha avuto una genesi in un nucleo irriducibile di identificazione, di solidarietà.

Non mi piaceva dove i transumanisti volevano portarci, però ho capito esattamente da dove venivano, quindi ho viaggiato per un paio di anni in Europa, in America, ho partecipato ai loro incontri, ho conosciuto persone, a volte confrontandomi anche con idee inquietanti e studi sulle tecnologie che fanno credere che queste cose siano possibili. E, come potete immaginare, ho conosciuto moltissime persone eccentriche e strane in questo viaggio, però questo movimento e queste idee si sono radicate molto bene nella silicon valley, che è quasi un nodo fondamentale della nostra cultura.

Alcuni esempi di alto profilo riguardano per esempio i fondatori di Google del 2014, che hanno creato un laboratorio di ricerca biotecnologica chiamata Calico Laboratories, che cerca di trovare esplicitamente soluzioni a livello di genetica a quelli che considerano essere i problemi dell’invecchiamento umano.

Peter Thiel, un capitalista miliardario che è stato cofondatore di PayPal, ha investito tantissimi soldi in un progetto che vuole raggiungere l’immortalità attraverso la tecnologia. Molte delle persone e dei progetti che ho affrontato nel mio libro sono state fondate da una o altre ramificazioni di Thiel.

Elon Musk, che era un ex collega di Thiel, ha parlato pubblicamente della sua convinzione secondo cui l’ascesa dell’intelligenza artificiale ci permetterà veramente di considerarci obsoleti come specie e che l’intelligenza artificiale si evolverà al di sopra di noi, come noi ci siamo evoluti al di sopra dei primati di ordine inferiore, quindi è proprio un modo per mettere l’evoluzione nelle nostre mani, sviluppare il potere dell’interfaccia uomo-macchina e fondere del tutto la nostra mente con l’intelligenza artificiale.

Musk in un’intervista ha parlato di una nuova azienda, Neuralink, che vuole proprio raggiungere questo obiettivo. E l’ultimo obiettivo che si vuole raggiungere è creare una cognizione superumana. Non ha parlato di prezzi, di soldi, di costi, ma sicuramente ne parlava per chi se lo potrà permettere.

Questi sono dei temi molto interessanti. I transumanisti tendono a parlare di tecnologie future come di qualcosa che segnerà una trasformazione esistenziale della specie nel suo insieme.

Però possiamo anche pensare che in realtà questo gioverà solo a un gruppo ristretto di persone. E quale mondo sarà questo tipo di mondo? Un mondo in cui solo poche persone, i super ricchi, potranno trascendere l’umanità e lasciare tutto il resto di noi sprofondare in uno stato di impoverimento biologico.

C’è stato un momento in cui mi è sembrato che, per quanto si stesse parlando del futuro, il transumanesimo stesse presentando in realtà delle cose che succedono già, che sono già in questo mondo.

Uno dei miei primi incontri con il transumanesimo, come reporter, è avvenuto in una visita nella periferia di Phoenix – Arizona, in un posto che si chiama Alcor Life Extension Foundation, che è una delle strutture di crionica più grandi al mondo.

La crionica, che è una specie di scienza, cioè una pseudoscienza per essere più precisi, si propone di preservare i corpi umani recentemente deceduti con l’intenzione specifica di scongelarli in un certo momento nel futuro, magari fra cinquant’ anni o fra cinquecento anni, quando il progresso tecnologico si sarà sviluppato sufficientemente per poter riportare in vita questi corpi preservati.

Quando ho fatto la visita, mi hanno accompagnato in un tour. Sono stato portato in un ambiente chirurgico sterile, dove a queste persone recentemente decedute, a cui si riferiscono come “pazienti” e mai come cadaveri, sostituiscono i fluidi corporei con dei liquidi antigelo.

La preparazione di questa sospensione crionica comporta anche la decapitazione, perché è più economico preservare solo la testa e non tutto il corpo. Si parla di “cefalo”, per dare una specie di rispetto linguistico e tutta questa operazione, ma si parla di teste mozzate in fin dei conti.

Queste teste poi occupano meno spazio, ovviamente, e la maggior parte dei transumanisti non sono interessati a ritornare in vita attaccati di nuovo ai loro corpi malati e raggrinziti. Quindi quello che si vuole fare, è fare una scansione della mente, del cervello e caricarla su una piattaforma, su un sistema robotico: è questo che si cerca di pensare nell’ambito del transumanesimo.

Molti di noi si consolano pensando – come diceva il poeta Philip Larkin – che “ciò che resterà di noi è l’amore”.

Il transumanesimo ci offre qualcosa di diverso, qualcosa di meno astratto: quello che sopravviverà di noi, secondo questa visione, sono i dati, quello che rimarrà di noi è il codice. Ci presenta una visione del futuro che nella nostra mente si trasformerà in 0 e 1, in un codice binario, che si trasformerà poi in una carne, in un sangue dei nostri corpi, che saranno caricati su una piattaforma, su delle macchine.

Il concetto di mind uploading è un punto centrale all’interno del transumanesimo, è proprio la chiave rispetto al futuro immortale postumano.

Uno dei sostenitori più importanti delle idee transumaniste è Ray Kurtzweil, direttore e manager di ingegneria a Google. Nel 2005 ha pubblicato un libro che si chiama La singolarità è vicina, in cui presenta un futuro vicino, parla del 2045, in cui l’intelligenza artificiale diventerà così evoluta e così potente che saremo in grado di caricare le nostre menti in un super computer di intelligenza artificiale e con la tecnologia trovare una liberazione finale dalla biologia.

Kurtzweil ci presenta un futuro in cui la tecnologia continua a diventare sempre più piccola e più potente, fino al punto in cui l’evoluzione in accelerazione diventa l’agente primario della nostra stessa evoluzione come specie, quindi non porteremo più i computer con noi, ci dice, ma li porteremo all’interno dei nostri corpi, all’interno dei nostri cervelli, del nostro sangue, cambiando quindi la natura della esperienza umana.

La visione di Kurtzweil del futuro penso che interessi soprattutto le persone che si vedono già in un certo senso come delle macchine, persone che sono d’accordo sul fatto che il pioniere dell’intelligenza artificiale, Marvin Minsky, dice che “il cervello umano semplicemente è una macchina di carne”. Perché non dovremmo voler migliorarci nelle nostre funzionalità e raggiungere quello che Elon Musk chiama “la cognizione superumana”?

Se vediamo le macchine come un apparato costruito per svolgere un compito particolare, allora il nostro compito come macchine sicuramente è quello di pensare di calcolare al livello più alto possibile e in questa visione molto strumentalista della vita umana, il nostro compito più o meno è di aumentare il nostro potere computazionale e di assicurarci che come macchine possiamo durare il più possibile nel modo più efficiente possibile. E cito Kurtzweil nel suo libro:

“La versione 1.0 dei nostri organismi biologici è altrettanto fragile e soggetta a una miriade di modalità di guasto, per non parlare dei complicati rituali di manutenzione di cui hanno bisogno. L’intelligenza umana qualche volta è in grado di alzarsi ad altezze vertiginose con la sua creatività ed espressività, ma in gran parte il pensiero umano è derivato, di piccolo cabotaggio, circoscritto. La singolarità ci permetterà di superare queste limitazioni dei nostri corpi e dei cervelli biologici. Acquisiremo potere sul nostro stesso destino, la nostra mortalità sarà nelle nostre mani, saremo in grado di vivere quanto vorremmo, una cosa un po’ diversa dal dire che vivremo per sempre. Capiremo a fondo il pensiero umano e ne estenderemo ed espanderemo enormemente il dominio. Alla fine di questo secolo la parte non biologica della nostra intelligenza sarà miliardi di miliardi di volte più potente della intelligenza umana privata di ausili”.

Kurtzweil ha pensato che questa idea potrebbe cancellare la nostra umanità e che in realtà questa potrebbe essere la massima affermazione di quella qualità che ha sempre definito noi stessi come specie umana, cioè la brama costante di trascendere i nostri limiti fisici e mentali.

Questa idea di caricarci nelle macchine ha circolato da tanto tempo nella fantascienza, però le persone nella Silicon Valley ci credono veramente e ci stanno provando sul serio.

A una conferenza di transumanesimo nella Bay Area, all’inizio della mia attività di reportage per il libro, mi hanno presentato un collega, Randal Koene, che è un neuroscienziato computazionale che si è sempre occupato di capire come caricare la mente umana in una macchina, come rendere questo possibile. Una delle persone più interessanti che abbia mai conosciuto. È impegnato in un progetto che sembra una follia ma lui è un comunicatore eccezionale, anche un uomo molto carismatico.

E quando ero con lui, ho continuato a vivere questi momenti in cui lo stavo ascoltando con tanta attenzione, cercavo di capire le cose tecniche che mi spiegava e mi sentivo che stavo proprio capendo qualcosa e poi all’improvviso mi tiravo indietro, perché pensavo che Randall mi stesse parlando di qualcosa di totalmente insensato, di fuori di testa, e che se avesse raggiunto quello per cui stava lavorando, avrebbe raggiunto la più grande trasformazione dell’umanità e veramente questo poteva significare la fine dell’umanità.

Randall da parte sua era molto bravo a relativizzare questo tipo di pensieri, non sembrava preoccupato di questioni apocalittiche, e nella nostra conversazione ero io quello che gli ricordava sempre queste cose, quindi era un po’ diciamo poco importante per lui tutto questo aspetto.

Lui voleva trovare una soluzione scientifica ad un problema definito chiaramente, il problema in questo caso era l’incarnazione della mente umana che era contenuta in un corpo umano.

Randall si descriveva come un architetto, il che significa che non era coinvolto nel fare ricerca originale ma che semplicemente raccoglieva diversi pezzi di ricerche nel campo delle neuroscienze, della tecnologia, per poter raggiungere il brain uploading.

Ovviamente sto semplificando in maniera drastica qui, però il principio di base è l’idea che tutta l’infrastruttura della consapevolezza, cioè la scarica di neuroni individuali, la mappa di connessione tra i neuroni, tutta la figura dinamica della mente viva possa essere rappresentata come informazione, che praticamente si possa ridurre tutto ai dati e i dati si possano rendere come un codice computazionale e il codice come un software in teoria possa essere estratto dall’hardware su cui gira in questo momento, cioè il cervello ed essere adattato perché giri su un’altra forma di hardware come un super computer ad intelligenza artificiale, un robot di forma umana.

Ci sono forti dubbi ovviamente, c’è scetticismo riguardo al fatto che questo possa essere veramente possibile. La maggior parte degli neuro scienziati, dei ricercatori lo vede come una prospettiva molto remota, però c’è qualcuno che pensa anche che si possa realizzare.

Ma al di là della possibilità, c’è anche una questione filosofica, perché ci chiediamo: la mente si potrà veramente caricare su una macchina e in quel caso saremo veramente noi, cioè una specie di mente gemella identica?

Ne ho parlato a lungo con Randall ed era incuriosito quanto me, però alla fin fine lui si concentrava molto di più sulla questione di come si poteva raggiungere piuttosto che sulle implicazioni filosofiche di una eventuale realizzazione.

Una delle idee fondamentali, di una considerazione su queste tecnologie future proposte, riguarda l’obsolescenza. I transumanisti, quando parlano del corpo umano, cioè l’hardware di carne su cui gira il software delle nostre menti, tendono a parlarne come di una tecnologia antiquata. Noi siamo delle macchine e siamo irrimediabilmente antiquate, che invecchiano, siamo state progettate semplicemente per vivere nella savana africana 2000 anni fa e non siamo abbastanza aggiornate per poter vivere la vita contemporanea. La carne in altre parole ha un formato morto. Questo concetto di corpo umano come una tecnologia obsoleta sembra all’inizio piuttosto strano, quasi alieno, è un qualcosa di inquietante, un modo inquietante di pensare alla vita umana o per lo meno questo è quello che ho sentito io quando ho cominciato a pensarci e a volte lo è ancora, però se ci pensiamo nei termini dei tipi di ansia che sentiamo rispetto al rapporto con le tecnologie, la nostra fragilità umana comincia ad avere senso.

Una delle grandi ombre del timore delle incertezze che riguardano i nostri tempi riguarda proprio l’ondata incombente dell’automazione che sta avvenendo verso di noi. È difficile esagerare quando si parla della portata di sconvolgimenti sociali ed economici che l’intelligenza artificiale porterà.

Tantissimi lavori, interi settori dell’economia dell’occupazione potrebbero diventare obsoleti e sempre più aree di competenze e di esperienza umana potrebbero essere sostituite dalle macchine.

Sempre più viviamo in un mondo governato da sistemi che facciamo fatica a capire.

E ai livelli più alti le borse fluttuano ed esposti ai capricci sconosciuti degli algoritmi a livelli più bassi abbiamo i magazzini di Amazon, dove ci sono le padelle e le pentole messe a fianco ai libri, le televisioni messe a fianco dei giocattoli per i bambini: è un sistema che non ha nessun senso per gli addetti agli scaffali che devono seguire le istruzioni date da dispositivi portatili, ma questo sistema ha perfettamente senso per l’algoritmo che stabilisce la disposizione degli oggetti negli scaffali. Sempre più i sistemi che usiamo per navigare nel mondo hanno senso solo con l’aiuto delle macchine.

Quant’è possibile che avvenga tutta questa fusione uomo macchina, o che si finisca a vivere in un mondo dove Elon Musk ci fornirà tutti gli strumenti per raggiungere quella che lui chiama la cognizione superumana? Con quello che ho detto questa sera è ovviamente chiaro che io sono un po’ scettico a riguardo del transumanesimo e ai suoi presupposti, non sono uno scienziato, non sono un futurista, praticamente non sono una persona che ha presunzione di essere un esperto in quest’area, ho semplicemente passato un paio di anni a contatto con persone che sono molto coinvolte in questa visione del futuro, ma per quel che conta trovo difficile immaginare che la singolarità, questa specie di grande fusione di intelligenza umana, di intelligenza della macchina immaginata da Ray Kurtzweil, possa essere vicina, però non ho mai pensato che il mio libro possa parlare del futuro con la “f” maiuscola

Quello che mi interessa riguardo al futuro, come idea, come fantasia, come incubo, è quello che ci possa dire riguardo al presente

Il transumanesimo presenta una visione di cambiamento imminente radicale della condizione umana.

Nel caso della singolarità, questa visione quasi apocalittica in maniera esplicita, l’estasi dei nerd come si dice a volte, si rifà ad una visione della fine dell’umanità come la conosciamo, è l’inizio di qualcosa di strano, qualcosa di nuovo, e per chi ci crede, di totalmente favoloso, però le visioni apocalittiche ci dicono sempre di più riguardo al tempo in cui sono state scritte che rispetto al futuro

Il libro dell’Apocalisse, per fare l’esempio più famoso, ci dice tantissimo di più del tempo di sconvolgimento, di violenza di persecuzione religiosa in cui è stato scritto, rispetto a quello che ci poteva dire del futuro e penso che la singolarità, l’idea di una fusione tra intelligenza umana e intelligenza delle macchine ci dica molto di più del mondo in cui viviamo oggigiorno, di quanto ci possa dire su qualsiasi futuro possibile. Uno dei transumanisti che ho incontrato quando stavo scrivendo il libro, mi ha colpito con una domanda che ha fatto. Era sera, stavamo bevendo una birra assieme, parlavamo del futuro e lui aveva il suo iPhone in mano, l’ha sollevato verso di me e mi ha detto: «E se stessimo già vivendo nella singolarità?» È una domanda a cui ho pensato tantissimo, perché magari la singolarità non è né più né meno di un mito riguardo al presente, cioè una storia complessa che illumina come stanno già le cose e come lo sono sempre state, perché parlare della fusione degli umani con la tecnologia, è parlare praticamente soltanto degli esseri umani, perché non si può neanche cominciare a definire cos’è un essere umano senza parlare della tecnologia. Siamo diventati esseri umani quando abbiamo incominciato a usare strumenti, magari la singolarità è cominciata quando il primo ominide neolitico ha picchiato un sasso contro un altro e ha acceso un fuoco, magari la nostra esistenza come cyborg è affermata ogni volta che il nostro telefono vibra nella nostra tasca con una notifica, ogni volta che ci spostiamo per le strade di Londra con il sistema GPS nelle nostre mani, che segnala la nostra posizione a un satellite in orbita attorno alla terra. Magari è semplicemente un’allegoria incredibile di qualcosa che è già successo, che è sempre successo. Magari la singolarità, in altre parole, è già qui.

 DAVIDE PERILLO:

Capite perché dicevo all’inizio affascinante e inquietante insieme. Ma il problema è proprio quello che diceva Mark adesso, cioè che cosa questa corsa verso il futuro, che cosa ci dice del presente, questa dinamica per cui si tende ad allontanare il limite nostro e ad espandere sempre di più la nostra umanità fino al paradossale risultato di cambiarla, di trasformarla, di farla diventare altro? Ci interroga oggi su che cosa, che cos’è allora l’umano, questo fattore umano che cos’è? La nostra conoscenza che cosa è veramente, la nostra libertà che cosa è veramente, che cosa c’è di umano? È questa la domanda che poniamo a Costantino Esposito. Prego.

COSTANTINO ESPOSITO:

Io credo che l’intelligenza artificiale sia una sfida che valga la pena di correre. Evitando due reazioni abbastanza standard: la prima è quella secondo cui l’intelligenza artificiale sarebbe un destino glorioso della nostra ragione. In fondo si realizzerebbe il sogno di ogni razionalismo. Quello cioè non soltanto di ricevere i dati della conoscenza, di riconoscerli, ma di crearli. A dire il vero, il pensiero umano è sempre un po’ artificiale. Non esiste un’intelligenza puramente naturale, perché la nostra intelligenza è un rapporto, entra nelle cose, le modifica, se ne fa duttilmente modificare, plasmare, è un rapporto. E quindi in qualche maniera è artificiale. Artificiale non in senso robotico, ma nel senso dell’interazione. E quando il grande Tommaso d’Aquino, che non era un transumanista, diceva che qualsiasi cosa venga ricevuta dal nostro animo, dalla nostra mente, è ricevuta secondo il modo, la modalità, la forma di colui che la riceve, quindi anche nel ricevere il mondo noi, naturalmente parlando, siamo sempre un po’ costruttivisti, ci mettiamo sempre del nostro, siamo sempre creativi. Qui si tratta, però, di un’altra cosa, di questo enfatico entusiasmo circa il fatto che la AI sarebbe appunto l’irreversibile destino glorioso della ragione, e cioè che la ragione possa in qualche modo ex nihilo, dal nulla, creare il proprio oggetto, cioè non partire più da qualcosa che è dato, ma al contrario creare il dato sulla base della semplice informazione che noi ne abbiamo. E in che cosa consiste questa informazione? Qual era la grande ambizione di ogni razionalismo? Guardate che stiamo parlando di cose che i filosofi hanno da tanto tempo scoperto, pensate a come Hobbes parla della ragione come calcolo o della possibilità che Leibniz aveva preventivato di una lingua universale fatta di segni. Cioè l’idea che l’essere dato del mondo sia risolvibile nella sola possibilità di pensarlo logicamente e che l’essere delle cose consista nella loro pensabilità senza contraddizione rispetto ad altri possibili. Insomma che nel pensiero umano si potesse trovare, si possa trovare la chiave per spiegare il dato, l’essere. Questo, però, crea un problema e ne ha parlato Daniele quando acutamente mi sembra dicesse: “C’è qualche cosa che sfugge al calcolatore ed è l’intuizione” o quando Marc filosoficamente diceva: “Il problema di questo uploading della mente in macchina, è che allora, diventando macchina, chi diventa cosa? Qual è il soggetto del cambiamento? Una nuova identità? Un avatar? Una finzione? Un simulacro? Che fine fa l’identità naturale che diventa puramente macchina?”. Ecco, lo direi così il problema: questo processo di calcolabilità del mondo, che sarebbe l’intelligenza artificiale, identifica l’io che pensa come una funzione gestionale delle informazioni. Io non sto dicendo che l’io non si capace di gestire delle funzioni cognitive, dico soltanto che in questo caso la funzione cognitiva è tale che non ha più bisogno di ammettere o di postulare l’esistenza di un io che pensi, di un io intelligente. È come se appunto una capacità pensante dell’io faccia fuori il soggetto del pensiero. Questo porta alla seconda reazione standard che è un po’ simmetrica rispetto alla prima. La prima appunto era un entusiasmo incondizionato e qualcuno dei transumanisti di cui ci parlava Mark sono un buon esempio, ancora un po’ da film di fantascienza, però come esperimento mentale è molto interessante. La seconda posizione sarebbe invece quella di considerare la AI come un incubo, una pretesa che fa paura, non soltanto per le inevitabili gabbie in cui già siamo dentro, cioè il fatto che siamo noi il prodotto, siamo noi a pagare dando le nostre informazioni e quindi incrementando la mole dei dati che possono poi essere utilizzati, che sono utilizzati per modificare, orientare, per impiantare nella nostra testa certi bisogni; ma ancora di più il fatto che noi diventiamo in qualche maniera inutili. È talmente grande la potenza di ciò che il nostro pensiero ha prodotto, che il prodotto del nostro pensiero rende superfluo il pensante. O meglio, come dicevo prima, il pensante viene ridotto semplicemente a una procedura, a una capacità di computazione, senza più un’identità personale. Leggendo il libro di Marc è interessante, per esempio, come questi autori riprendano un errore filosofico, quando dicevano che la nostra intelligenza potrebbe e, secondo loro, dovrebbe essere impiantata su un supporto diverso dalla nostra carne, dal nostro corpo e dal nostro cervello, perché così potrebbe funzionare, girare come programma, come software su un hardware molto più adeguato che non la nostra “carcassa”, il nostro corpo, la nostra carne. Questo mi faceva venire in mente che secondo alcuni autori, ciò che individua il nostro io, è il nostro corpo, è il fatto che la nostra intelligenza sia sempre “embodied”, sia sempre “incarnata”. È questo che costituisce la irriducibilità di ciascuno di noi; ma nel momento in cui la nostra intelligenza non solo può, ma deve fare a meno del corpo, è un incubo dunque. Ecco, a me sembra che né l’entusiasmo né la paura siano degli approcci adeguati al problema di cui stiamo parlando, perché in fondo non ci permettono di cogliere il problema. Tutti quanti noi siamo per altro un po’ entusiasti di questa possibilità – anche perché ne siamo in qualche modo già i fruitori e anche le vittime, anche se spesso non ce ne accorgiamo – e tutti quanti noi un po’ avvertiamo l’inquietudine dell’incubo. La via per superare questa alternativa, quella che mi sembra la più praticata dalla letteratura filosofica contemporanea, sia quella di pensare un’etica dell’intelligenza artificiale: visto che c’è questa possibilità straordinaria di sviluppo delle nostre conoscenze calcolanti, della potenza del calcolo della nostra mente, allora diamo una regola morale, pensiamo a quale possa essere una buona morale per le macchine. Perché anche le macchine devono necessariamente sottostare a questi limiti. A me sembra che queste preoccupazioni, che sono assolutamente legittime, non debbano farci perdere di vista che la prima domanda è una domanda di tipo cognitivo, di tipo conoscitivo, perché paradossalmente proprio il problema dell’intelligenza artificiale – lo diceva già Daniele – ci obbliga a capire cosa sia un’intelligenza tout court, un’intelligenza naturale. Una collega, che insegna Intelligenza artificiale in un’Università italiana, mi diceva che uno dei problemi più avvertiti con i suoi studenti, nell’iniziare il corso, era proprio quello di non dare per scontata una nozione di intelligenza, cioè che il problema dell’intelligenza artificiale, paradossalmente, non è l’artificiale, ma è l’intelligenza. E, cioè, che cosa sia criticamente l’intelligenza è qualcosa che viene prima della sua applicazione artificiale e, quindi, paradossalmente i successi o gli incubi dell’intelligenza artificiale ci costringono a riaprire il problema, a non darlo più per scontato, a capire cosa accade quando noi utilizziamo l’intelligenza. E, quindi, la questione, detta in maniera molto elementare, sarebbe questa: noi dobbiamo assumere l’artificiale, cioè la capacità di calcolare come il criterio definitivo del conoscere umano, perché si dice “visto che il progresso va da quella parte questo sta a dire che lì c’è il compimento dell’intelligere, dell’intelligenza umana”; o, viceversa, lo dobbiamo cercare nella struttura elementare della nostra intelligenza, cioè nel nostro modo di stare al mondo come esseri intelligenti, che chiedono il significato delle cose, che domandano il perché delle cose e che non si fermano, che possono conoscere veramente delle cose, non perché sanno molte cose, perché noi possiamo sapere molte cose ma conoscere molto poco, perché conosciamo ciò che sappiamo quando ne intuiamo il significato, cioè se capiamo che nesso hanno con il nostro io. Così mi piace riferirmi a un collega molto più importante di me, Cartesio, che nel Seicento, cominciando a scrivere le sue Meditazioni di filosofia prima, fece il grande esperimento mentale: e se tutto fosse un sogno? e se tutto fosse un inganno? se anche il nostro corpo fosse, in realtà, niente? Ma qual era la strategia di Cartesio? Era quella di portare all’estremo il dubbio per verificare se c’è qualcosa che rimaneva rispetto al dubbio. Una strategia per poterci riappropriare del dato della nostra conoscenza. E se anche le estreme capacità performanti dell’intelligenza artificiale, e finanche le teorie dei transumanisti fossero interpretate come un esperimento mentale? Non come un progetto di realtà, ma come un esperimento mentale che ci costringa a capire la cosa più semplice, vale a dire chi è che pensa.

DAVIDE PERILLO:

Sono molto grato ai nostri ospiti perché la sfida non era semplice, però credo che andiamo via da qui con qualche idea più precisa. Soprattutto una cosa, come diceva Costantino, di fronte a questi temi noi possiamo o, un po’ spaventati, alzare dei muri, pensare che si tratti di fantascienza o di cose da cui fuggire, o immaginare che siano qualcosa che riguarda il futuro, oppure accogliere la possibilità che portano dentro queste questioni, lasciarci interrogare, cercare di capire e, se l’atteggiamento è questo, allora queste grandi questioni che abbiamo soltanto accennato stasera e che saranno sviluppate da ognuno di noi, e che verranno sviluppate in altri momenti del Meeting, queste grandi questioni sono un aiuto ora a capire di più chi sono io, qual è questo fattore irriducibile che rimane al netto di questa corsa, di questo dilatarsi di una conoscenza che non riesce a spiegare tutto di me, di una capacità di calcolo, di una potenza di calcolo e di fattibilità che non riesce a spiegare tutto di me, non dà ragione dell’intuito di cui parlava Daniele prima, non riesce a spiegare il contraccolpo che ha avuto Marc davanti al figlio appena nato, da cui è nato tutto il percorso che ha svolto. Questi temi che stiamo affrontando possono essere un aiuto enorme a scoprire di più, a fare i conti con questo fattore irriducibile che è il nostro io, la nostra umanità, che è rapporto, non è qualcosa che può girare e avvitarsi su se stesso. Se andiamo via da qui con questa idea, capiamo anche bene che possibilità è questo Meeting: la scoperta di questo rapporto che ci fa essere io, me stesso. Perché non vivo nell’iperuranio, non vivo in un mondo che può prescindere dalla mia presenza, come io non posso prescindere dal fatto che la realtà mi è data. Questi giorni saranno l’occasione per approfondire questo tema: da dove nasce la mia umanità? L’augurio è di vivere questa settimana avendo a cuore noi stessi, di partecipare agli incontri, alle mostre, avendo a cuore questa domanda su di sé, perché possa essere un’occasione per crescere.

Trascrizione non rivista dai relatori