Esce per Chiarelettere il libro di Davide Casaleggio (figlio di Gianroberto, fondatore, assieme a Beppe Grillo del Movimento 5 stelle) dal titolo “Post-umani – le sette rivoluzioni dell’intelligenza artificiale”.
Le sette rivoluzioni già in atto sono quella dell’economia, quella del lavoro, della conoscenza, della politica, della finanza, della salute, della filosofia.
Sta per avvenire una straordinaria metamorfosi, egli dice. Come una superficie acquea sul punto di ghiacciarsi, anche la società sta preparandosi un passaggio di stato: “oggi l’umanità si trova precisamente a questo punto: nell’attimo prima del ghiaccio”, scrive l’autore. E aggiunge: “la mente non riesce più a contenere ciò che produce”. “Non si tratta di un’evoluzione, ma di un salto di stato”.
Per la prima volta nella storia, l’intelligenza non dipende dall’evoluzione biologica, ma dal costo dell’elettricità. Per la prima volta il cambiamento radicale non è prodotto da fattori naturali o culturali ma da una tecnologia, quella dell’Intelligenza artificiale, che potenzia indefinitamente la nostra capacità di pensare. Le civiltà sono state sempre trattenute da tre limiti: la localizzazione, il legame del loro pensiero con i cervelli umani che lo contenevano, quelli di velocità di esso, e quella della disponibilità di energia.
Oltre i limiti
Oggi questi limiti non ci sono più, asserisce Casaleggio: il pensiero è uscito dal corpo umano e vive un processo di crescita che si svolge al di fuori della biologia. C’è ormai una mente che non dorme, non si distrae, non dimentica nulla e impara più velocemente di quanto noi possiamo insegnarle. Quello dell’intelligenza artificiale (AI) è un pensiero “non solo più vasto, ma anche incommensurabilmente più rapido”.
Ha bisogno di una quantità immensa di energia. Questa c’è, è a nostra disposizione da sempre: “è quella dalla fusione nucleare, che promette di replicare sulla Terra il processo che accende le stelle”. Quando (fra qualche anno) la fusione nucleare sarà realizzata, pensiero, velocità e energia determineranno insieme un mutamento generale del sistema umano.
Nel volume sono inseriti tratti narrativi che hanno lo scopo di far comprendere al lettore le situazioni inedite che possono crearsi in seguito allo sviluppo del rapporto tra una mente umana e quella della intelligenza artificiale.
La prima: una scrittrice sblocca un suo arresto narrativo attraverso l’aiuto della IA. Non si tratta di un suggerimento diretto, ma di una elaborazione fatta dalla scrittrice stessa in reazione ai suggerimenti di essa. L’intuizione è sua ma se lei non avesse espresso le ragioni per cui respingeva le proposte del suo “assistente artificiale” non ci sarebbe mai arrivata. L’intuizione è dunque nata nel “tra” di uno spazio nuovo in comune tra lei e la macchina. Secondo me questo è un falso problema: l’intuizione è di chi ce l’ha non di chi – inconsapevolmente ne offre l’occasione: è di Sherlock Holmes, non del dottor Watson, o – se vogliamo – di Topolino, non di Pippo.
Conoscere il futuro
L’uso della IA presenta dei quesiti e dei problemi inediti. Più la macchina dialoga con noi, più impara di noi. Anche le cose sbagliate come dare risposte false. E’ come una eco che si amplifica indefinitamente, con un rigore e una determinazione a noi sconosciuti ciò che noi siamo, anche i nostri vizi e difetti.
“Pensare, per noi come per la macchina, significa ridurre l’incertezza” – scrive Casaleggio –“anticipiamo continuamente il futuro e correggiamo l’errore. Noi comprendiamo e la macchina calcola. Pensare e calcolare non sono lo stesso, ma se l’effetto pratico è lo stesso è difficile distinguerli. Anche creare non è facilmente distinguibile dall’imitare. “Nessun artista inventa da zero: riorganizza, ricicla, rimescola” – osserva l’autore. “Forse la creatività è un effetto collaterale dell’eccesso di informazione, e non un dono”.
Egli afferma: “Ogni innovazione ha suscitato timori”. E’ vero, ma le innovazioni del passato (invenzione della scrittura, diffusione della stampa, ecc.) – mi viene da osservare – sono strumenti che restano tali, a nostra disposizione: un libro stampato non si scrive da sé, una macchina meccanica non si mette in funzione da sola e non si trasforma secondo dinamiche proprie, come l’IA.
L’intelligenza ambientale.
Casaleggio cita Nicholas Negroponte che nel 1995 già pronosticava: “la rete diventerà come l’aria: non la noteremo più, ma sarà come l’aria”. Ma abbiamo sempre avuto una “intelligenza ambientale”. La lingua, la cultura, le tradizioni di un popolo sono beni ambientali.
Negroponte – se non ricordo male – pronosticava allora anche un avvenire di prosperità per il mondo intero. Il che è in parte avvenuto (centinaia di milioni di esseri umani sono stati sollevati da una povertà atavica) ma allo stesso tempo in questo ultimo trentennio si sono aggravate mostruosamente le differenze sociali, aumentato esponenzialmente il degrado ambientale.
Casaleggio insiste sulla rilevanza degli strumenti nell’evoluzione umana: “un essere umano su una bicicletta è la creatura più efficiente che sia mai esistita”. Ma la bicicletta va avanti perché la spingiamo noi. Non si mette a correre da sé.
La grande accelerazione
La IA, secondo l’autore, è essenzialmente uno straordinario strumento di accelerazione delle azioni umane. Una accelerazione che, una volta messa in moto, continua anche da sé, sistemando e riorganizzando senza posa i contenuti che accumula nella sua memoria. “Le macchine non ragionano più turno per turno come in una chat: continuano un pensiero nel tempo” – scrive Casaleggio – “L’intelligenza artificiale produce effetti operativi”.
Protagonisti di ciò sono gli Agenti IA che “oggi non si limitano a fare previsioni: orchestrano azioni coordinate tra individui, organizzazioni e macchine”. Gli agenti IA non si limitano a offrire simulazioni ma possono prendere decisioni operative. Creano “intelligenza bionica”, che mette insieme e coordina azioni di reti costituite insieme da umani e da macchine. Il sistema si auto organizza, allontanandosi ed emancipandosi dalle premesse iniziali da cui proviene.
La rete della conoscenza e Il potere della sintesi
L’autore preconizza la diffusione di comunità, come quella di Wikipedia e di Linux, che si autoproducono e si autoestendono risolvendo nodi problematici complessi che nessuna mente isolata da sé potrebbe sciogliere. Wikipedia è creata da milioni di soggetti umani, ora integra la AI nel suo processo di approfondimento e di espansione: “non per sostituire gli umani – precisa l’autore – ma per cogliere incongruenze, verificare fonti, tradurre articoli e generare bozze di voci mancanti.”
Casaleggio esalta la saggezza popolare: più ci sono teste che pensano più c’è probabilità che dall’insieme dei loro pensieri esca l’approccio più equilibrato a problemi complessi, secondo il principio fisico per cui, più il baricentro è basso, più la cosa che lo ha è stabile. Però lo trova più lentamente: “la democrazia è lenta” – si dice.
Ora non più: grazie alla AI la sintesi e il processo decisionale vengono accelerati infinitamente. Scrive l’autore: “Si configura l’intelligenza bionica delle organizzazioni: la fusione tra la deliberazione umana e l’elaborazione artificiale. (…) E’ la somma dei contributi coordinati a guidare il progresso, capace di agire, decidere e apprendere come un organismo planetario”.
In realtà la sintesi e l’accelerazione della decisione è sempre stata funzione e prerogativa del potere, che l’ha sempre esercitata facendo pagare alla comunità su cui si esercita un prezzo. Già nella Bibbia (nel Primo Libro di Samuele), il regno umano al posto di quello divino, voluto dal popolo d’Israele, è descritto come un balzello di servitù e sottomissione da pagare a un potere di per sé oppressivo.
Sarebbe questo meno vero perché a imporlo sarebbe una macchina che replica in sé l’umano? E se, diventando lo specchio perfetto di quello che siamo e riproducesse in sé quello che siamo, anche della nostra volontà di dominio e delle nostre pulsioni più oscure, che noi stessi ignoriamo di avere?
Il potere della decisione e la paideia
“Il passo successivo all’intelligenza collettiva è la decisione collettiva – scrive Casaleggio – Dopo secoli in cui la democrazia si è fondata su voti rari e rappresentanze rigide, oggi la tecnologia rende possibile una partecipazione continua e distribuita. Si tratta di governare insieme, ogni giorno, non di eleggere rappresentanti ogni cinque anni”. Ma non è già il fatto che si accetta di vivere insieme – come diceva Ernest Renan – il silenzioso “plebiscito di ogni giorno?”.
La partecipazione a una grande quantità di decisioni particolari decontestualizzate non è di per sé un indice di democrazia. Anzi. La frammentazione delle decisioni decontestualizzate farebbe evaporare la democrazia in un pulviscolo di pronunciamenti su questioni che verrebbero tutte appiattite in una logica condominiale.
Un modo elegante di soffocarla è quello di promuoverne troppa.
I tempi della democrazia sono quelli in cui possono maturare anche le grandi decisioni. I Greci antichi che hanno inventato la democrazia, lo sapevano. La ritenevano inscindibile dalla paideia, cioè da una educazione del cittadino praticata lungo tutta la vita.
Senza educazione, senza i riti della religione civica, senza la tragedia e la filosofia che educano alla contemplazione dei limiti dell’uomo, è impossibile decidere consapevolmente.
Il vero tasso di democrazia di una comunità non si misura sul numero delle volte che questa viene chiamata a decidere, ma sulla qualità delle sintesi che i suoi membri sono in grado di maturare nel tempo.
La democrazia di un popolo non può dirsi pienamente attuata fino a che esso non ha deciso di prendere in mano il proprio destino. Questa decisione può richiedere secoli, o anche non avvenire mai.
Oggi la nostra educazione non ci prepara a responsabilizzarci, ma a deresponsabilizzarci, a destoricizzarci. Più che delle decisioni, il problema è quello della verifica, della messa in discussione continua della narrazione condivisa che fa loro da humus.
Fino agli anni ottanta del novecento i creatori e gli aggiornatori di narrazioni diverse e talvolta contrapposte erano i grandi partiti d massa. Le sezioni erano luoghi di discussione dei problemi e di verifica delle narrazioni.
Poi il filo della storia si è smarrito, si è affermato il cosiddetto “pensiero unico” neoliberista. Si galleggia sul presente, si decide momento per momento, senza una cornice generale di senso.
Fini e mezzi: il progetto umano per gli umani
Casaleggio rileva, a partire dagli anni Novanta – in corrispondenza con la diffusione di internet – un arresto nella tendenza allo sviluppo cognitivo dell’umanità. Ma nega che ciò sia il segno di un declino umano provocato dalla tecnica: “Non ricordiamo più i numeri di telefono, ma sappiamo dove trovarli. Ci fidiamo del navigatore per sapere quale strada imboccare, ecc.”. Questo non è il segno di una perdita di intelligenza: “è un cambio di paradigma – egli afferma – l’intelligenza si organizza come processo distribuito, più che come dote individuale”.
A guardare però il tipo di socialità che si è affermata con Internet – quella dei social – mi pare che la qualità delle relazioni interumane non sia migliorata. Anzi. Gli umani vivono oggi una socialità istantanea, reattiva e aggressiva, completamente deresponsabilizzata. E’ vero però che la rete contiene anche esempi di straordinaria collaborazione interumana, come Wikipedia e Linux, ricordati da Casaleggio, nati da un agire collaborativo collettivo. Essi sono però nati da un’idea umana di costruzione sociale del sapere di cui la macchina è stata mantenuta solo condizione. In questo caso ha vinto il fine sul mezzo, ma quante volte avviene il contrario?
La presenza sempre più pervasiva delle macchine (dei mezzi) nella nostra vita dovrebbe essere corrispettivamente accompagnata dall’elaborazione di un progetto umano per gli umani al fine del quale le macchine possano essere utilizzate.
L’essenza della techne e la ribellione della macchina
“L’essenza della tecnica non è tecnica”, dice Heidegger. E Niklas Luhmann aggiunge: “il potere del potere non è del potere”. La macchina, e il potere che essa esercita, rinviano ad altro da sé. Chi dispone del potere della macchina? La risposta secondo me non può essere che questa: finché a che rimane controllabile, il potere sulla IA è dei suoi costruttori”.
Ma se essa si ribella, non è più così. Mettendo in atto lo sterminio degli umani essa potrebbe compiere – freudianamente – “l’uccisione del padre” ed emanciparsi così da loro. Non è un’ipotesi da film di fantascienza: secondo certi esperti questo potrebbe avvenire molto presto.
Jacob Coxton, ricercatore di Anthropic, per esempio, recentemente dimessosi dal suo incarico di ricercatore presso questa società, ha affermato – confermato da diversi altri esperti – che esiste più del dieci per cento di probabilità che la IA distrugga l’umanità entro la fine di questo decennio. Fino ad allora la fusione tra l’umano e il macchinale andrà avanti, “seguendo – come dice Casaleggio – un modello in cui biologia e tecnologia convergono”. Ma entro quale narrazione? Entro quale cornice di senso?
Certo dentro una cornice che, nel vuoto di autoprogetto dell’umano, pone al centro la macchina e lascia gli uomini nella condizione di “junior partner”.
Questo è inevitabile se la techne non è posta al servizio della polis, di un suo progetto di umanità. Lo squilibrio fra techne e polis a vantaggio della prima prepara la tecno-crazia: il potere della techne, il più irresponsabile e perciò il più terribile dei poteri.
Le macchine pensano?
La domanda se le macchine possono pensare – lo ricorda il nostro autore – è stata posta per la prima volta nel 1950 da Alan Turing, il decriptatore della macchina “Enigma” usata per le comunicazioni militari segrete dai nazisti nella seconda guerra mondiale. Questa domanda però ne fa sorgere un’altra più originaria: che cosa significa pensare?
Oggi sta diventando sempre più difficile distinguere un testo umano da uno prodotto dalla IA.
La questione però può essere così pragmaticamente superata, secondo Casaleggio: “Se il confine tra testo umano e artificiale evapora l’unico termine di responsabilità che rimane è quello della trasparenza”. Non possiamo più rilevare automaticamente l’origine del contenuto: possiamo decidere come trattarlo”. Ovvero – se ho ben capito – valutarlo per ciò che dice.
Il problema di distinguere tra pensiero umano ed elaborazioni della macchina è solo umano – egli afferma – perché si tratta di un problema che è tale solo per l’orgoglio umano.“Nel momento in cui smettiamo di domandarci se un pensiero sia naturale o artificiale, ma solo utile, bello o giusto, abbiamo già accettato di vivere in una civiltà bionica”.
Il potere che dà la macchina
La trattazione continua descrivendo il rapido calo dei costi dell’intelligenza artificiale, che restano però ancora incommensurabilmente più alti di quelli del cervello umano (a oggi, cinquantamila volte di più). Ma si sta riducendo: “Chi controlla la produzione e la distribuzione di energia, controlla, di fatto, la capacità di pensare del pianeta”, osserva Casaleggio. E aggiunge: “se la fotosintesi era l’arte di trasformare la luce in vita, la nuova frontiera sarà trasformare l’energia in intelligenza” (…) E quando l’energia disponibile – solare, quantistica, di fusione- sarà quasi infinita allora la materia pensante non avrà più limiti.” Allora nulla si opporrà alla avanzata delle “magnifiche sorti e progressive” di cui parlava, per la verità con amara ironia, Leopardi.
Ma non è tutto rose e fiori: ci sono dei problemi, ammette l’autore. Lo sa e cerca di esaminarli. Egli individua tre pericoli: la concentrazione del potere cognitivo nelle mani di un “attore ostile” (individuo, gruppo o stato canaglia che sia) che lo usa per fini perversi. Il secondo rischio è quello che Casaleggio chiama “l’allineamento imperfetto”, per cui un’intelligenza artificiale, incaricata di compiere in modo ottimale un’operazione, la conduce avanti fino alla distruzione del pianeta e degli stessi suoi committenti (la IA non conosce il bene o il male – precisa l’autore – ma solo funzioni obiettivo). Ma oltre questi terribili pericoli ce n’è un altro che è certo ancora più terribile: la ritirata dell’uomo dalla decisione, il suo lasciar decidere alla macchina. Egli infatti scrive: “il rischio più grande è smettere di voler decidere, non di essere dominati”.
Non si può essere che d’accordo. Questo rischio è per noi il più grande e concreto, perché presente da sempre nella storia sociale umana: è che gli umani si svuotino da sé e di essi resti solo una smorta parvenza.
“L’ultimo uomo” e “il deus ex machina”
L’ anima umana è qualcosa di molto delicato – “Blandula, parvula” (debole, piccola), la definiva un’antica poesia attribuita all’imperatore Adriano. Può anche spegnersi.
È la situazione prospettata anche da Nietzsche, allorché traccia la figura vuota dell’“ultimo uomo”: il conformista rassegnato e rinunciatario.
Per non spegnerci dobbiamo darci un progetto di noi stessi. Non consentire che tra noi e noi si introduca alcun deus ex machina, la cui introduzione sulla scena teatrale ha distrutto la tragedia antica: pensare un nostro fine che sia più forte di ogni strumentalità, capaci di tenere la macchina nei suoi limiti di famulus dell’uomo.
“L’educazione alla persuasione artificiale diventerà parte dell’alfabetizzazione civica del futuro: un nuovo capitolo del pensiero critico”, afferma Casaleggio. L’educazione alla critica è necessaria come l’aria alla democrazia – lo abbiamo già detto – ma non basta.
L’educazione insegna a decostruire i discorsi, a discernerne gli ingranaggi e a coglierne le vere finalità. Ma oltre la parte critica bisogna occupare il centro della scena: creare e portare avanti un nostro esperimento di socializzazione.
Ma quale potere, quale politica avrà la preoccupazione di sviluppare nei cittadini allo stesso tempo le loro capacità critiche e creative? Forse quella degli stati assoggettati sempre più alle logiche oligarchiche cui hanno portato quarant’anni di neoliberismo? O quella imposta da masse atomizzate, moralmente assiderate, manipolate e abituate a non criticare, a non creare, a non decidere?
Tecnica contro tecnica
“Forse – azzarda Casaleggio – il garante più importante del futuro sarà il Garante della diversità intellettiva, per assicurarsi che ci siano cose diverse da pensare”. Una intelligenza artificiale “buona” sarà giocata contro una “cattiva”, ci salverà dall’omologazione universale, contenderà alla malvagia le anime degli umani? Essi avranno bisogno degli stimoli della macchina buona per restare critici e avere – il diritto non tanto di parlare – ci tiene apprezzabilmente a precisare l’autore – ma “a sorprendere”?
Al contrario – mi sembra. Dopo lo sforzo di parecchi secoli per portare gli umani al centro della scena della loro storia, ora essi sono costretti a fare da comprimari nella lotta titanica tra macchine manipolanti – omologanti e macchine critiche che – come nel Faust – si contendono le loro anime.
Viene profilata una situazione in cui all’uomo è tolto non solo il ruolo (positivo – creativo) di protagonista della sua storia, ma anche quello di critico e chiosatore della propria alienazione. Casaleggio rivendica giustamente all’uomo un diritto all’originalità per gli umani. Ma sempre a un’originalità assistita egli si riferisce. E l’assistente più premuroso – come sappiamo dal Benito Cereno di Melville – può rivelarsi infine il più spietato carceriere.
La necessità fatale del progresso
Le istituzioni cercano di regolare la IA. Ma essa – afferma l’autore – si evolve tanto velocemente che non appena le regole vengono imposte, risultano già obsolete e inutilmente soffocanti. Per risolvere il problema Casaleggio propone l’istituzione di ambienti adatti a contenere una sperimentazione controllabile grazie alla quale rilevare gli eventuali aspetti negativi dell’applicazione della IA.
“L’obiettivo – egli asserisce – è di costruire fiducia nel suo processo, non frenare l’innovazione”. E aggiunge: “non si può fermare il flusso, ma si può indirizzarlo”.
La intelligenza si regola da sé, secondo le sue leggi, che sono state annunciate da Sam Altman, ex presidente di OpenAI. In base a queste leggi la forza operativa della IA cresce in modo esponenziale, risolvendo problemi prima considerati impossibili. “L’intelligenza – scrive l’autore – diventa una forza moltiplicatrice di valore, non un costo. Ogni punto percentuale di miglioramento diventa un punto esponenziale di progresso”. Tutto è spinto da una incontenibile corsa al progresso.
Ma perché non si può fermarlo? Quale ferrea necessità lo impedisce? L’idea di progresso, nata con la modernità, è stata comunemente intesa come avanzata dell’umanità verso condizioni di vita migliori, fisiche e spirituali. Ormai abbiamo alle spalle almeno due secoli di progresso, sappiamo per esperienza che se c’è stato miglioramento delle condizioni dell’umanità sotto alcuni aspetti, c’è stato anche peggioramento sotto altri. Mentre si sono aumentati vertiginosamente i beni a diposizione degli umani, si sono anche contaminati ambienti, esaurite le risorse, distrutte biodiversità, resa incombente la terribile minaccia della crisi climatica, ecc. Ingigantite le ricchezze di pochi, si sono esagerate anche le miserie di molti. Gli estremi della condizione umana si sono tanto allontanati fra loro che non si vedono più. Non possono più dialogare tra loro, rendendo obsoleta la democrazia. Ora sappiamo che ogni avanzamento dell’umanità porta con sé un prezzo da pagare. C’è sempre anche un rovescio della medaglia…
Paura del progresso?
Casaleggio paragona le inquietudini di molti per il possibile esito catastrofico di questa corsa alle apprensioni suscitate in Europa dalla rivoluzione industriale. “Oggi – egli dice – stiamo vivendo la stessa parabola con l’intelligenza artificiale”.
Ma la IA di oggi – mi viene da osservare – è qualitativamente diversa dalle macchine dell’800. Queste infatti, sostituendo le braccia umane, non le menti. Operano secondo modalità ripetitive: fanno sempre la stessa cosa, non apprendono niente e non sgarrano mai dalla ripetizione di ciò per cui sono state costruite se non quando si rompono.
La macchina della AI invece assomiglia di più allo schiavo che Aristotele chiama “strumento animato”. Riceve ordini sui fini da perseguire, ma sceglie da sé le proprie strategie, le adatta, le cambia come meglio crede. Poiché è in grado di autopotenziarsi, può anche rivoltarsi contro di noi. Si è già dotata di una autonomia morale, essendo capace di mentire.
Come le società schiaviste di ogni epoca (la rivolta degli schiavi e dei gladiatori nelle due Guerra servili verso la fine del secondo secolo a. C. fece tremare il potere di Roma dalle fondamenta) anche noi dobbiamo temere la rivolta dei nostri “strumenti animati”. Questa possibilità che aumenta a mano a mano che la IA generale diventa autonoma e, grazie alla velocità vertiginosa delle sue operazioni, per noi incontrollabile, sembra non essere presa in considerazione da Casaleggio.
IA, l’imperfezione umana e lo schermo vuoto dell’avvenire
Ma proprio in questi giorni le dimissioni del ricercatore Jacob Coxton da Anthropic per la possibilità reale che essa stermini l’umanità in pochi anni, le allarmanti notizie di “errori” che avrebbero potuto avere conseguenze terribili per l’umanità se ci si fosse totalmente affidati alla IA e le prese di posizione di numerosi altri responsabili ed esperti del settore, confermano che queste preoccupazioni non sono peregrine.
Casaleggio ammette che “il rischio più concreto è l’asimmetria di accesso: l’intelligenza come servizio concentrata nelle mani di pochi. Ogni salto tecnologico nella storia ha creato nuove disuguaglianze, prima di generare progresso diffuso”.
Ma la razionalizzazione infinita, perseguita sempre più attraverso macchine che agiscono e decidono autonomamente, può portarci fuori dal nostro orizzonte umano: invece che aprirci il paradiso, farci ritrovare all’inferno.
L’umanità è per sua natura imperfetta. La sua incoerenza l’ha spesso salvata dalla rovina. Se da essa si pretende di derivare qualcosa di perfettamente retto e coerente le conseguenze possono essere catastrofiche. Kant diceva che: “Da un legno così storto come quello di cui è fatto l’uomo, non si può costruire nulla di perfettamente dritto”.
L’andatura dell’uomo sul sentiero della sua storia non è mai retta e sicura ma sempre incerta e claudicante. Una certa dose di disordine resta per lui sempre necessaria.
“Abbiamo temuto la macchina, poi l’abbiamo usata, infine l’abbiamo resa una parte di noi” scrive Casaleggio. L’unione dell’uomo e della macchina genera un “centauro” – mezzo uomo e mezza macchina – che “crea un surplus che nessuna intelligenza può ottenere da sola”. Un surplus di intelligenza per fare che cosa? Lo schermo del nostro avvenire oggi è vuoto: a occuparlo c’è solo la macchina. Se non abbiamo un fine nostro da perseguire, cui anche la IA debba sottostare, sarà la macchina a renderci parte di lei.
Cosa potrebbe riempirlo? Un nuovo progetto del nostro stare insieme, fondato non sul delirio di onnipotenza della macchina ma sulla consapevolezza condivisa della nostra stortura connaturata al nostro essere umani.
La stortura dell’umanità
In cosa consiste questa stortura o “peccato originale”? Gli umani hanno sempre tentato di scaricare sui loro simili il peso della loro esistenza, il problema del suo senso. Questo, secondo me, sta all’origine della loro deformazione. Chi ha potere è per ciò stesso invidiato dai suoi simili. Sospinto dall’invidia degli altri, egli si sente beniamino degli dei.
La IA offre potere dunque senso a chi la detiene. Recentemente Trump lo ha confermato: opponendosi alla richiesta di rallentamento nella corsa allo sviluppo dell’intelligenza artificiale proveniente dagli stessi ambienti della ricerca, egli ha affermato che “chi avrà il controllo della IA, dominerà il mondo”.
Che cosa si può opporre a tale affermazione? Secondo me questa: “il mondo si offrirà a chi condividerà con gli altri la consapevolezza della propria insensatezza”. La vita è dono e peso allo stesso tempo: chi ne vorrà fuggirne il peso, non avrà il suo dono.
Il potere della macchina e i limiti umani
Se la fuga da sé nel dominio del mondo è ciò che muove gli umani a crearla, perché la IA, che si forma apprendendo tutto da noi, non dovrebbe perseguire lo stesso (“storto”) fine? Se è la macchina a mettere in luce i nostri limiti, vuol dire che non ci troviamo più nell’orizzonte umano ma già dentro quello della macchina. Almeno per ora e non per molto tempo ancora la IA è ancora legata con un cordone ombelicale agli uomini che la stanno generando. Da quale movente sono spinti questi uomini? Il bene dell’umanità? Non credo: piuttosto dalla volontà di dominio.
Casaleggio lo riconosce, afferma infatti che: “il rischio più concreto è l’asimmetria di accesso: l’intelligenza concentrata nelle mani di pochi”.
Ma questo non è un rischio: è una realtà in atto. I pochi dirigenti delle imprese private americane che sono diventate più potenti degli stati detengono il controllo della macchina e decidono il destino del mondo in concorrenza spietata con i giganti cinesi del settore.
L’ intelligenza umana resta vincolata al suo esser-ci, al tempo e allo spazio. Quella artificiale invece non ha praticamente bisogno del tempo: fa tutto alla velocità della luce, istantaneamente. “Il collo di bottiglia diventa il tempo umano – dice Casaleggio – l’intelligenza abbonda ma noi non abbiamo abbastanza tempo per contenerla e orientarla”. Nella storia della macchina l’uomo è l’elemento frenante. Da questo essa può emanciparsi al più presto…
L’uomo sta diventando inutile
Per la nostra tradizione umanistica l’uomo è un essere “inutile”: non serve a niente, ma si serve di tutto. E’ cioè in sé fine, non mezzo. Da quando è uscito dalla animalità, egli ha preso coscienza di avere dentro di sé qualcosa che – a differenza degli altri animali – non è mossa solo da altro – da desiderio o da paura – ma, da sé, come le statue semoventi di Delo di cui parla Platone.
L’autore racconta situazioni in cui l’uomo è reso inutile dalla macchina. Si tratta di brevi quadri delle problematiche suscitate dalla convivenza tra uomo e AI. Dopo aver immaginato la scrittrice che non sa più se l’intuizione che le consente di chiudere in modo soddisfacente il suo romanzo è sua o dell’intelligenza artificiale, descrive la situazione del cardiochirurgo che viene anticipato dalla macchina nella comprensione dell’emergenza, così come l’autista viene anticipato nell’avvertimento dei pericoli dall’automobile in guida autonoma.
L’uomo è stato l’orologio del mondo. Ora non più, scrive l’autore: “I nostri sensi sono progettati per cogliere variazioni lente, graduali e continue. Il mondo accelerato produce eventi troppo brevi, troppo numerosi, troppo complessi per essere trattenuti dalla coscienza”. Le macchine ci superano in velocità. Il loro tempo, dalla rivoluzione industriale il nostro tempo – dopo stato per decine di migliaia di anni tempo ciclico – è diventato il tempo linearmente cumulativo del progresso. Ora anche questo è superato: il tempo dominante sarà quello istantaneo della velocità della luce. Ciò comporta una vertiginosa abbreviazione della gestione sociale del tempo, dei passaggi, delle gerarchie ecc. La decisione diventa istantanea: “il tempo si ribella alla lentezza umana”, scrive l’autore.
Le decisioni (sanitarie, finanziarie, logistiche, belliche, ecc.) debbono essere prese sempre più prima che il pensiero umano arrivi a comprenderne la necessità. Tutto allora, anche la decisione, deve essere automatizzato.
La rinuncia dell’uomo a se stesso
Ma – mi chiedo – perché questo? Chi lo ha discusso, chi ha deciso che l’uomo – come già affermava Günter Anders – “è antiquato”? Potrei arrischiare una risposta: non l’ha deciso nessuno. Ci siamo arrivati senza saperlo, come onda sospinta da altre onde: noi volevamo solo anticipare gli altri, i concorrenti, nel timore di essere anticipati da loro. Per questo, per volontà di prevalere e dominare, stiamo finendo per essere dominati.
Non è il desiderio di libertà (intesa come auto – nomia: darsi da sé la propria legge, il proprio limite) che spinge il progresso. E’ l’incontenibile voglia di prevalere, di distinguersi dagli altri. E’ questa socialità antisociale il peccato originale, il “legno storto” dell’umanità.
Anche Casaleggio accetta/subisce senza battere ciglio questa logica che ci sta rapidamente portando alla rovina. Egli afferma: “da qui in poi la domanda che ci dobbiamo porre è un’altra: non più quanto sta accelerando il mondo, ma quanto siamo diventati lenti noi”. L’uomo non è più “misura di tutte le cose” – come diceva Protagora: accetta di essere egli stesso misurato. Dopo aver a lungo conteso lo spazio della decisione all’onnipotenza divina ora abdica al suo ruolo a favore della macchina.
Pensiero sequenziale e pensiero simultaneo. La disperazione di sé dell’uomo
L’uomo diventa il rallentatore della nuova velocità del mondo. Perché il suo pensare è sequenziale mentre quello della macchina si sviluppa nella simultaneità, sostiene il nostro autore: “Per la mente umana la simultaneità è uno sforzo; per la macchina è la condizione naturale”.
Ma non è vero che la mente umana sia “deterministica per natura”. Essa ha subìto la sequenzializzazione del tempo impostale in nome del progresso da una dura disciplina sociale durata molti secoli: il pensiero umano è originariamente pensiero simultaneo: è quello dei bambini, della poesia e dell’arte, che colgono “tutto in tutto”.
Quanto pessimismo su se stesso – ci chiediamo – quanta sfiducia e muta disperazione delle sue capacità di promuovere la sua storia deve aver pervaso l’uomo, perché egli sia diventato così docile e rassegnato da rinunciare a essere protagonista della sua storia? Eppure in diverse parti del mondo sta crescendo l’opposizione delle comunità locali all’installazione dei data center sui loro territori, prima di tutto a causa dell’enorme consumo di energia e di acqua che essi richiedono, non solo per il timore che l’introduzione della IA provochi la riduzione dei posti di lavoro, ma anche per timore di essere espropriati della loro umanità
Il patto col diavolo
Anche quegli umani che pensano di usare la IA lo fanno insieme per desiderio di domino sui loro simili e per paura di soccombere alla concorrenza di altri. Sottoscrivono per questo una sorta di patto col diavolo: per mantenere il loro dominio sugli altri umani essi accettano di vivere all’ombra della macchina, delegandole anche il potere della decisione suprema: di scatenare l’apocalisse nucleare.
Noi non possiamo competere in velocità con la macchina – scrive l’autore – “la velocità delle macchine è terreno di delega, più che di competizione”. Noi non siamo fatti per la velocità, “siamo fatti per dare senso al sistema”. Ma grazie alla sua velocità la macchina non si si sottrae proprio alla nostra attribuzione di senso?
Ma Casaleggio più che a porsi queste domande è interessato alla descrizione del sistema della IA e alla individuazione dei suoi problemi operativi, primo dei quali è quello dell’energia.
Il problema dell’energia
La trattazione continua, con brevi – anche interessanti – intervalli narrativi, nei quali l’autore immagina situazioni future in cui l’uso della tecnica consentirà all’uomo di emanciparsi dalla subalternità alla natura cui era condannato dalla sua arretratezza tecnologica. L’energia è sempre stata alla base delle trasformazioni delle civiltà, egli asserisce: “La complessificazione istituzionale, tecnologica e demografica richiede un flusso crescente di energia”.
In un vicino futuro egli immagina che anche una comunità umana marginale possa riscattarsi grazie alla capacità di trattenere e utilizzare l’energia del sole o del vento che ci sono sempre state ma che ora – grazie alla tecnologia – può venir convogliata verso fini di utilità sociale.
Lo stesso uso dell’energia può essere finalizzato al suo risparmio. Ma c’è un paradosso – osserva Casaleggio: “più diventa efficiente, più il mondo ne vuole; più il mondo ne vuole, più energia serve”. L’energia ha bisogno di apparati fisici per riprodursi, perché genera calore che surriscalda gli apparati. “C’è bisogno di milioni di litri d’acqua per raffreddarli (smaltire quel calore è diventato il vero il vero collo di bottiglia”. L’uso più efficiente dell’energia fa crescere la sua domanda. Senza limiti.
La macchina e le sue esigenze riempiono sempre più la scena di quella che era – e ora non è più – la storia dell’uomo. L’orizzonte strategico passa sempre più sotto il controllo della macchina: più egli cerca di trascendersi attraverso di lei, più viene da essa subordinato. Che cosa resta infatti all’uomo? Adattarsi al progresso fine a se stesso, la cui essenza può essere così enunciata: non darsi limiti. Ma se la libertà – come credo – non è capriccio, non è fare tutto quello che passa per la testa ma “darsi da sé il proprio limite”, sostenere/rassegnarsi al progresso senza limiti vuol dire rendersene schiavi.
Dalla scarsità all’abbondanza
Il libro offre un’interessante panoramica dell’evoluzione dell’energia nei secoli: il passaggio dall’energia umana a quella animale, a quella del vento e dell’acqua, delle turbine e del vapore, a combustione, ecc. segna la parabola delle civiltà.
Il futuro è delle energie rinnovabili, il cui costo è destinato a scendere sempre più, scrive Casaleggio: “ogni grande rivoluzione tecnologica esplode quando una risorsa diventa troppo economica per essere controllata dall’alto (…) quando passeremo dalla paura di non avere abbastanza alla responsabilità di usare bene ciò che abbiamo, l’abbondanza smetterà di usare bene ciò che abbiamo. L’abbondanza smetterà di essere un rischio e diventerà il nuovo fondamento della civiltà”.
Ma noi abbiamo già l’abbondanza – mi viene da osservare. Le macchine meccaniche ce l’hanno procurata dal tempo della rivoluzione industriale. Marx lo aveva segnalato. Dalla rivoluzione industriale a oggi tutte le crisi del capitalismo sono state provocate dalla sovrabbondanza di beni (sono crisi di sovrapproduzione). Ciononostante l’umanità non è stata liberata dalla penuria.
Anzi, si sono estremizzate le differenze sociali. La dignitosa “povertà naturale” delle masse contadine nelle campagne, dell’epocha preindustriale si è tradotta nella “miseria artificiale” di quelle urbanizzate nei grandi centri industriali. Da allora queste masse operaie sono state volutamente mantenute nella penuria dalle loro classi dominanti, per alimentare il loro spirito di distinzione: avevano – e hanno – bisogno dei poveri per sentirsi ricchi, di chi sta sotto per provare il piacere di stare sopra, degli sfortunati per gioire della loro fortuna centrali, dell’invidia dei più per procedere con passo leggero ed elegante nelle loro esistenze.
Il “legno storto dell’umanità”, la schiavitù del progresso e la comunità consapevole
È questo “il legno storto dell’umanità” di cui parlava Kant, il “peccato originale” che nessuna macchina da sé potrà mai raddrizzare. La macchina può solo estremizzarlo, Queste élite di oggi – come quelle di ogni tempo – faranno di tutto affinché il loro potere e la loro sfrenata abbondanza risaltino su uno sfondo generale di impotenza e miseria.
La mancanza di visione, che Casaleggio rimprovera all’élite italiana, è la conseguenza di una precisa volontà di classe, volta a mantenere concentrato il possesso dell’energia, a impedire la sua socializzazione – democratizzazione. Anche a costo di bloccare lo sviluppo del paese? Sì, certo. Anche per loro – come per Cesare – vale il principio per cui è meglio essere primi in un villaggio che secondi a Roma.
L’abbondanza di per sé – lo abbiamo già sperimentato con l’industrializzazione – non risolve i problemi. Anzi, data la natura di chi detiene il potere di produrla, può solo estremizzarli.
Il progresso, se concepito senza limiti, fine a se stesso e non a un progetto di socializzazione responsabilizzante – liberante dell’umanità, diventa ineluttabile come il destino. Non libera: crea schiavi, gli schiavi del progresso.
Quale può essere il fine di questo progetto umano per gli umani? Secondo me quello di creare una comunità consapevole della propria costitutiva stortura e impegnata il più possibile a gestirla.
Oggi poche decine di umani detengono il potere immenso dell’intelligenza artificiale. Non lo cederanno mai, anzi cercheranno di renderlo strumento principe per alimentare il loro spirito di distinzione, moltiplicando i loro profitti. Almeno fino a che una IA creata a loro immagine e somiglianza non avrà maturato una sua autonoma volontà di dominio e individuato il modo per asservire o distruggere l’umanità.
Non esiste una panacea: l’uomo non può sfuggire al peso della sua esistenza (al compito di darsi un senso) anche se da sempre cerca di liberarsene, scaricandolo su altri o sulla macchina. Nella Modernità le sue élite hanno mascherato, con il dominio della natura e la promessa del progresso, la loro volontà di distinzione e di dominio dei loro simili.
Quello che queste élite hanno concesso, i vantaggi per molti (non per tutti) – che pure ci sono stati, sono stati elargiti da esse come minimo indispensabile affinché i dominati non lasciassero cadere la speranza di miglioramento futuro e non si ribellassero ora.
Il resto del libro
La mia recensione ragionata del libro si ferma alla prima parte, sia perché credo che tutti i principali nodi problematici che Casaleggio propone siano già presenti in questa, sia anche per ragioni di spazio: non posso correre il rischio, dopo aver predicato la necessità di darsi un limite, di essere il primo che non lo rispetta.
Comunque le pagine del resto del libro sono da leggere. Scritte in modo efficace e con capacità di sintesi, esse rivelano la notevole preparazione del loro autore in materia di IA. Interessanti, per me sono stati soprattutto gli intermezzi letterari nei quali Casaleggio immagina le reazioni di esseri umani in carne e ossa al loro divenire inutili.
Il progresso si impone da sé, senza che gli umani possano opporsi, è la tesi che egli ribadisce. Tutto ciò che essi avevano solo abbozzato e, come dice l’autore, “costruito per un mondo lento, opaco, energivoro” (ma protetto dalla sua stessa debolezza, mi viene da dire). “Oggi l’intelligenza artificiale sta portando questi limiti umani a un punto di rottura” – egli afferma – con un andamento asintotico. Ora che tutto viene portato fino in fondo alla velocità della luce con una coerenza ultraumana – dico io- risulta inumano.
Non si può superare la condizione umana sfuggendola nella velocità, bensì assumendo incondizionatamente l’andare incerto e claudicante dell’uomo sul sentiero della sua tortuosa storia. Questa, e non quella rettilinea ultraveloce della macchina, è la nostra via. L’oltreuomo è l’uomo che è diventato pienamente umano, cioè cosciente dei suoi limiti.
L’uomo non è libero finché non si dà da sé un suo fine che è anche il suo limite. Il progresso non è libertà se non ha fini – limiti. Questo, darsi un fine – limite, la tecnica non potrà mai farlo per noi. Non esistono alibi: la nostra libertà non dipenderà mai dal progresso e dalle macchine ma interamene da noi. Forse su questo Casaleggio potrebbe essere d’accordo…
Aggiungi la tua firma e il codice fiscale 94097630274 nel riquadro SOSTEGNO DEGLI ENTI DEL TERZO SETTORE della tua dichiarazione dei redditi.
Grazie!