Per guardare dentro la fase storica che stiamo vivendo, Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri è un testo fondamentale. Sono oltre seicento pagine molto ricche, che per certi versi aprono a ulteriori approfondimenti, come recensioni autorevoli hanno già sottolineato. Si tratta di un saggio da prendere in considerazione, dato che ha il dono di mobilitare uno sguardo verso il futuro presente. Ha quella caratteristica che Carl Gustav Jung direbbe intuitiva, sebbene rimanendo sul terreno junghiano potremmo anche aggiungere che l’intuizione non mina però la percezione. Uscendo dalla citazione, si può affermare che il testo analizza puntualmente quello che sta accadendo in un determinato ambito sempre più significativo e, insieme, quello che potrà accadere. Il testo, poi, attiva collegamenti con saggi che hanno affrontato temi simili: The Game di Baricco, saggio letterario e sociologico; oppure quello più divulgativo di Francesca Rossi, Il confine del futuro, che, con precisione tecnica e scientifica, pone il tema se ci possiamo fidare dell’Intelligenza artificiale.

Shoshana Zuboff insegna a Harvard, è una sociologa, con una formazione da psicologa sociale che da giovane ha incrociato, in termini critici e polemici, uno degli psicologi più importanti del ’900, Burrhus Frederic Skinner, il punto di riferimento sommo del comportamentismo. Ebbene, Zuboff collega l’utopia di Skinner, quella rappresentata da Walden Two, con la situazione odierna in cui una nuova forma di capitalismo e di business sta caratterizzando una nuova tipologia di capitalisti, quelli appunto della sorveglianza.

Andiamo a vedere da vicino il senso di questa definizione. Tutto sgorga dalla nuova società che sta nascendo dentro la connettività globale della Rete e il controllo che le macchine, i computer, possono mettere in campo e mettono in campo grazie alla Rete. Qui l’Intelligenza artificiale è utilizzata con tutti i dispositivi che le permettono di dispiegarsi per costruire ed elaborare una banca dati immensa, in grado di recepire e prevedere i comportamenti umani, di ogni singolo umano connesso e sorvegliato (controllato e renderizzato), apprendendo da essi. Ogni individuo è sorvegliato, perché plusvalore di questo nuovo capitalismo: ciò che costituisce il lavoro gratuito dato al capitalista, non sono altro che i dati e i comportamenti personali, utilizzati per costruire una strategia di marketing individualizzato e poi per guidare il comportamento stesso del singolo, tramite suggerimenti e ambienti proposti. I clienti non sono gli utenti di Google, Facebook, ecc. bensì sono coloro che vogliono vendere agli utenti.

Ovviamente questo modello di sorveglianza globale non è solo in capo ai grandi gruppi del capitale digitale e dell’IA, ma può essere anche sotto il controllo di attori pubblici. Ad esempio questo è il caso della Cina, che così sta costruendo una macchina di sorveglianza, controllo e pedagogia simile a quella dei gruppi capitalisti occidentali. Il Panopticon di Bentham fa capolino, evidentemente. Come anche i dispositivi di controllo del potere secondo Michel Foucault.

Le persone diventano quindi inconsapevoli api operaie disponibili, senza coercizione apparente, a essere scrutate e orientate, a diventare consumatrici sotto spinte e rinforzi che sembrano servizi efficienti o ambienti naturali, mentre sono ambienti e gabbie artificiali controllate dagli algoritmi dell’IA delle piattaforme digitali e dai motori di ricerca dei capitalisti della sorveglianza. La libertà di decidere e di scegliere, la privacy, il diritto di essere persone singole e uniche, inviolabili, sono così facoltà minacciate in maniera inesorabile, perché il destino è quello di essere uomini di una caverna che è una gabbia di esperimenti del mercato, una gabbia di rinforzi per farci guidare verso una vita sotto controllo. Il tutto essendo “liberi” ed esercitando la propria “volontà”, i propri desideri e così facendo dando informazioni per estrarre valore da questi desideri condotti a essere azioni previste.

Il laboratorio del comportamentista si è esteso così al mondo intero! Si tratta di un Walden Two realizzato non da ingegneri sociali, come evoluzione dell’utopia positivista, bensì da capitalisti che hanno un modello preciso di business. Non solo Skinner, quindi: si tratta di un progetto di altri teorici, viventi, dell’IA. Si tratta dei manager e dei padroni di giganti quali Google e Facebook, si tratta di scienziati del Mit, come Alex Pentland, di un ecosistema in cui c’è una nuova aristocrazia e un nuovo clero, che omaggiano l’utopia degli hippie ingegneri informatici (Do you remenber Baricco?), ma in realtà creano le premesse per una società altamente gerarchizzata, con forti asimmetrie informative e di conoscenze, con una nuova forma di distribuzione degli apprendimenti, di educazione e di cultura digitale in cui la stessa psiche muta pericolosamente dentro la connettività ubiqua che perennemente sorveglia.

Fanno capolino incubi quali quello di Matrix, se si pensa al tema della Singolarità (il momento in cui l’IA supererebbe l’intelligenza umana e il controllo umano) che Francesca Rossi pone nel suo libro. Ma a parte queste fughe distopiche, è indubbio che il tema distopico sia posto con forza dalla Zuboff, come quello che minaccia anche l’equilibrio democratico, la stessa capacità di sviluppo di una società. Assume qui la Zuboff l’idea di Robinson e Acemoglu (Perché le nazioni falliscono) per definire il perché le società crollano o spiccano il volo: ci deve essere una inclusione, aggiunge il recensore, liberalsocialista, pena il declino. Ma appunto il capitalismo della sorveglianza crea asimmetrie, esclusioni, gerarchie, pone le basi per una cristallizzazione di potere pericolosa.

Il saggio della Zuboff si divide in diverse parti: subito per chiarire le sue tesi espone la definizione del capitalismo della sorveglianza, prima dell’introduzione che riassume i risultati della ricerca. Si tratta di otto punti analitici di questa nuova forma di capitalismo che come le precedenti – con un movimento che definirei materialistico – definisce poi i rapporti sociali e politici, come anche il campo di lotta sociale e ideologico (La Zuboff, come sociologa, apprezza il Marx analitico del capitalismo, molto meno il Marx utopista, in qualche maniera affine e precursore dei sogni utopistici qui criticati):

1. Un nuovo ordine economico che sfrutta l’esperienza umana come materia prima per pratiche commerciali segrete di estrazione, previsione e vendita;
2. Una logica economica parassitaria nella quale la produzione di beni e servizi è subordinata a una nuova architettura globale per il cambiamento dei comportamenti;
3. Una mutazione pirata del capitalismo caratterizzata da concentrazione di ricchezza, conoscenza e potere senza precedenti nella storia dell’umanità;
4. Lo scenario alla base dell’economia della sorveglianza;
5. Un’importante minaccia per la natura umana nel Ventunesimo secolo, proprio come il capitalismo industriale lo era per la natura nei secoli Diciannovesimo e Ventesimo;
6. L’origine di un nuovo potere strumentalizzante che impone il proprio dominio sulla società e sfida la democrazia dei mercati;
7. Un movimento che cerca di imporre un nuovo ordine collettivo basato sulla sicurezza assoluta;
8. Un’espropriazione dei diritti umani fondamentali che proviene dall’alto: la sovversione della sovranità del popolo.

Poi il saggio si articola nell’analisi delle basi del capitalismo della sorveglianza, nella ricostruzione della sua avanzata e nelle sue ricadute di potere sociale strutturante.

L’esperienza umana diventa la materia prima da sfruttare da parte di questa forma capitalistica: questo è il cuore del discorso. Un nuovo capitalismo che, favorito dall’ideologia e dalle politiche neoliberiste – la vittoria ideologica di intellettuali quali Hayek e Friedman –, dalle necessità di controllo del governo USA contro la minaccia del terrorismo dopo l’11 settembre 2001, dalla Rete e dall’estrema novità fuori controllo delle tecnologie, dalla necessità di tenuta economica del business di Google ecc., ha operato una vera e propria corsa a una nuova accumulazione originaria di rapina dell’esperienza umana.

Il fatto che si tratti di una cosa “senza precedenti” rafforza la minaccia di questa accumulazione originaria. È evidente il riferimento marxiano al concetto di accumulazione originaria (come dimenticare quel capitolo, il XXIV, straordinario del Capitale!?). Un’accumulazione originaria silenziosa, operata molto spesso senza che coloro che ne sono oggetto se ne accorgano. È appunto senza precedenti. Altre volte, invece, avvertita come intrusione e rottura della riservatezza – come testimoniano i casi di rivolta nel saggio documentati contro il progetto di Google Earth –, con una risposta di reindirizzo e aggiramento prontamente messa in atto. In ogni caso, tuttavia, il pericolo sta nell’assuefazione della società di fronte a questo processo o, come spesso accade, nella debolezza delle istituzioni quasi sempre subalterne a questo processo (o fautrici, anche qui il rimando marxiano fa scuola!).

Il capitalismo della sorveglianza, in concreto Google, Facebook, Amazon ecc., cercano di appropriarsi di tutti i dati dell’esperienza umana dei loro utenti sia online che offline (con le ricerche in rete, con i post e i like sui social, con servizi di domotica, Internet of Things, Google Earth, con giochi come Pokemon Go ecc.), non solo e non tanto per migliorare i servizi o le ricerche di dati richieste dagli utenti, ma per avere un surplus comportamentale in termini di profilo dell’utente in maniera tale da lavorare su prodotti predittivi (marketing targetizzato, personalizzato), per alimentare un mercato dei comportamenti futuri (profili da vendere all’industria assicurativa, della biomedicina, della pubblicità, della telefonia e del marketing, della sorveglianza statale per l’ordine pubblico, per le politiche pubbliche del controllo sociale, per ogni forma di produzione a cominciare dalla manifattura industriale tradizionale, ecc.), costruendo così economie di scopo, alimentando economie non solo interne alla Rete ma anche esterne, ed economie di azione, ossia modificando i comportamenti, mediante meccanismi di personalizzazione, accompagnamento e vero e proprio condizionamento (tuning, herding, condizionamento mediante nudge e architettura della scelta), il tutto facendo aumentare il valore finanziario delle corporation di questo capitalismo che a loro volta, nella dinamica di finanziarizzazione dell’economia, diventano collettori di investimenti colossali. Questo capitalismo, con questa vera e propria nuova accumulazione originaria, opera a più livelli: al primo livello ci riporta allo stato apparente di uno scambio eguale (lavoro e salario, si sarebbe detto una volta), che in realtà non è tale per diverse ragioni.

La prima ragione: in realtà non si tratta di un vero e proprio contratto. Per la Zuboff è un non contratto, un patto faustiano in cui chi ritiene di avere uno scambio equo in termini di servizi, se non addirittura uno scambio del tutto favorevole – si pensi alla possibilità di navigare in Rete, recuperando informazioni, o di conoscere e raggiungere nuove persone nei social media – in realtà diventa un lavoratore/elaboratore di esperienza da vendere, diventa un produttore di dati da vendere, e poi una persona da catturare in un ambiente in cui è sottoposta a esperimenti e a condizionamenti, dei più diversi, fino anche a conseguenze di natura psicologica e cognitiva, come le nuove generazioni di nativi digitali stanno testimoniando. Quindi emerge il tema faustiano della perdita dell’anima. Oltre che quello marxiano di un nuovo raffinato exploitment.

La seconda ragione: mentre il sogno digitale dei primi hacker e pionieri della Rete (da tener presente appunto il saggio di Baricco sul punto) doveva realizzare un mondo di relazione e di libertà, sulla scorta del modello del gioco, ancora un aspetto individuato da Baricco, in realtà il capitalismo della sorveglianza sta creando un potere strumentalizzante che mette proprio a repentaglio la libertà di decidere e che intende automatizzarci, guidarci fino a comportamenti certi e prevedibili. Un potere totalizzante che sarebbe in quanto a controllo e condizionamento simile al totalitarismo, sebbene diverso perché opererebbe senza terrore e senza violenza fisica.

L’azione di questo potere strumentalizzante in realtà disegna una vita sia online che offline, in cui quindi è centrale chi detiene i mezzi non di produzione, ma di condizionamento del comportamento, in una dinamica di profonda asimmetria e di redistribuzione delle competenze. Mentre i capitalisti della sorveglianza con il loro apparato tecnologico e scientifico sanno tutto di noi, noi non sappiamo nulla di loro, non siamo in grado di dominare, comprendere tecnicamente la loro azione. Gli scienziati dei dati e degli algoritmi, l’IA impegnata nel controllo e condizionamento sono totalmente fuori portata. Chi è dentro alla connettività sempre più onnipresente o ubiqua, dentro a questo Grande Altro (novello Grande Fratello), appunto come un’ape nell’alveare, lavora, si dovrebbe dire vive e agisce, dentro un ambiente controllato e alimentato dalla nostra vita in termini di dati. E questi dati sono anche quelli che alimentano i meccanismi di apprendimento delle macchine al servizio dei capitalisti della sorveglianza, che diventano sempre più potenti e invisibilmente coercitive.

La Zuboff nell’introduzione rievoca la metafora marxiana del capitalismo vampiro: il sangue qui non è il lavoro, bensì la vita stessa. Seguendo la lezione di Hannah Arendt, Zuboff utilizza la metafora dell’imperialismo economico (si veda Le origini del totalitarismo)come genesi della mossa totalitaristica nuova del Potere strumentalizzante e la preoccupazione della filosofa ebrea (si ricordi Vita Activa) riguardo la sacralità da preservare, la vita attiva, l’azione, come capacità, al di là del lavoro e del ruolo sociale, di dare inizio a qualcosa di nuovo, di essere appunto spontaneità, libertà e azione. Tutto ciò è messo invece a repentaglio quando le preferenze, i desideri, i bisogni, le relazioni sociali sono renderizzate e pre-viste e pro-vocate. Il diritto alla libertà di decidere, al futuro, il diritto all’essere inviolabile, al santuario, sono così a rischio di estinzione e così l’umanità per come l’abbiamo conosciuta.

Questo nuovo ordine economico vincente sta costruendo un nuovo ordine sociale e giocoforza avrà anche una ricaduta politica. Ma soprattutto una pedagogica. E qui sta il confronto serrato che la Zuboff rianima con l’utopia del comportamentismo radicale di Skinner, che sopra abbiamo richiamato. Utopia che oggi con un segno diverso, ma sempre ostile alla libertà a giudizio della Zuboff, è di fatto attivata da figure come i vari Mark Zuckerberg (Facebook), oppure Larry Page e Sergey Brin, Hal Varian (Google), oppure teorizzata in modo nuovo e applicata con metodologie d’avanguardia nell’analisi dei dati dei social da scienziati come Alex Pentland del MIT.

Zuboff mediante uno schema confronta questo nuovo Potere strumentalizzante con il Totalitarismo novecentesco (p. 414):

Il lavoro della Zuboff è più di tipo sociologico che psicologico, pur essendoci un sostrato di psicologia sociale. La sua ricerca nasce in un ambito di sociologia del lavoro: fin dagli anni ottanta Zuboff studia l’impatto delle nuove tecnologie e delle macchine computazionali negli ambiti di lavoro. Ha spostato questi studi in un ambito sociale. Ha utilizzato una serie di interviste e quindi un’azione di ricerca qualitativa con una serie di scienziati e tecnici che si occupano di questa nuova fase storica della Rete e dell’IA, studiando a fondo le azioni di Google, Facebook, Microsoft e altre aziende (cfr. p. 34). Un’era storica, in cui con la pervasività e la performità della Rete e del sistema dell’IA in essa connessa è sorta una vera e propria “Terza natura”, se mi è lecito cinguettare con la seconda natura di hegeliana memoria.

Dal punto di vista dell’analisi politica, Zuboff valuta positivamente soprattutto le resistenze della UE con il GDPR (p. 497), attendendone gli sviluppi, e stigmatizza invece il quadro normativo statunitense. Peraltro molti aspetti della sua ricerca derivano anche dalla ripresa di saggi e posizioni sviluppate nell’ambito giuridico sulle problematiche relative alla privacy e alla protezione dei dati. Nella sostanza, dopo la parentesi determinata dal caso Snowden, e il caso Cambridge Analitica, il capitalismo della sorveglianza, anche in stretta connessione con gli interessi di controllo del Governo, ha ripreso nell’appropriazione del surplus comportamentale. Mentre, sempre in ambito politico, quello che è oggi il principale competitore egemonico degli USA, la Cina, sta utilizzando gli strumenti del Potere strumentalizzante, ossia la Rete, la connettività, le macchine per estrarre dati e controllare e condurre i cittadini cinesi.

Si comprende come il capitalismo della sorveglianza abbia una dimensione economica, sociale, politica, psicologica, una pervasività strutturante. Il punto è capire come si utilizzano le potenzialità delle macchine e della Rete: infatti Zuboff non sembra sviluppare una critica heidegerriana alla tecnica, appare ancorata a una visione strumentale delle macchine.

Questa strumentalità aprirebbe lo spazio per una ulteriore riflessione: l’enorme potenzialità delle macchine e la capacità di renderizzare le relazioni e i servizi, oltre che i prodotti, non potrebbe forse essere utilizzato consapevolmente?
L’utopia in senso negativo, secondo la Zuboff, di un’amministrazione che supera la politica – utopia in effetti che non riesce a comprendere la dinamica del potere – non potrebbe invece essere utilizzata consapevolmente, democraticamente e collettivamente, (certo con il riproporsi del problema principale-agente) a servizio della società?
Non si potrebbe utilizzare l’enorme potenzialità di un’intelligenza artificiale che apprende dalle esperienze e dalle interazioni per facilitare il coordinamento e le relazioni sociali, l’incontro tra domanda e offerta, il miglioramento dei servizi pubblici? Ossia, i supercomputer non potrebbe essere utilizzati per organizzare al meglio la società, con criteri di giustizia sociale ed equità?
È proprio da scartare perché troppo pericolosa, questa utopia? Ma come si può in realtà contrastare questo meccanismo unificante e di controllo, se non dall’interno? Oppure è preferibile un’azione forte della politica come regolazione esterna?
È sufficiente, oltre alla critica di fondo all’impostazione dei gruppi che fanno capitalismo della sorveglianza e degli scienziati teorici sociali che alimentano il piano del controllo, anche criticare le potenzialità in termini di regolazione dell’amministrazione delle forme di condizionamento indicate da autori come Cass Sunstein (Semplice. L’arte del governo nel terzo millennio)?

Sono domande da porre, credo, per sviluppare appieno le riflessioni e lo scenario che ci propone Zuboff. Probabilmente, non è sufficiente solo una dichiarazione di opposizione al capitalismo della sorveglianza. Certamente appare necessario avanzare una istanza critica e di liberazione dall’utilizzo mortificante di questo nuovo potere asimmetrico, che ridisegna la distribuzione degli apprendimenti e quindi del potere cognitivo.

Un altro aspetto, meno generale, ma più puntuale, è quello dello sviluppo forse non pieno e non sufficientemente articolato dell’analisi dei mercati dei comportamenti futuri e della loro natura che la sociologa di Harvard ha poco approfondito. Vi sono accenni importanti sulla questione del mercato assicurativo, ma non si va oltre. Correttamente Maurizio Franzini in una recensione in Etica ed Economia pone il tema di una maggiore articolazione dell’analisi di questi mercati. Insomma, da un lato si potrebbe affermare che al saggio della Zuboff servirebbe una maggiore articolazione analitica, dall’altro, però, che esso potrebbe dare il via a una nuova ricerca sviluppata in più ambiti, come analisi degli impatti delle forme di controllo del capitalismo della sorveglianza.

Per concludere, è indubbiamente avvincente considerare come molte ricerche su un ambito di tale rilevanza siano state utilizzate nel testo della Zuboff e come il testo delinei una storia in cui utopie e obiettivi, pensatori e figure storiche siano contrapposte ad altre figure, in una sorta di gigantomachia filosofica e sociale. Gigantomachia che in realtà restituisce una lotta sociale, tra nuovi dominatori-sfruttatori e inermi dominati e sfruttati. Infatti, come abbiamo già considerato, se da un lato vengono richiamati Skinner e i contemporanei chierici delle fisica sociale (Paradiso, Pentland ecc.), dall’altro si fa riferimento alle analisi critiche di Arendt, Sartre, Polanyi ed esponenti della Scuola di Francoforte. In piccolo vi è anche una sfida intellettuale tra Harvard e il MIt! Di Polanyi, poi, si richiama la “dichiarazione” di un nuovo “doppio movimento”, come quello che limitò e condizionò il capitalismo industriale della fine dell’Ottocento e inizio Novecento. Serve una presa di coscienza, un atto d’amore per la libertà, una dichiarazione politica che afferma che vi è un’alternativa. E questo perché il capitalismo della sorveglianza non è il portato della tecnologia, ma di una nuova forma di capitalismo.

Ora fin qui Zuboff, ma verrebbe da porre alcuni temi. In primo luogo, l’analisi della sociologa di Zuboff è interessante perché mette in evidenza come con l’epoca delle macchine e dell’IA, espressione di supercomputer in prospettiva sempre più potenti – si pensi allo sviluppo dei computer quantistici – con una nuova forma di intellettuali – magari più rispondenti alle antiche utopie socialiste e positiviste, che non alle esigenze di grandi corporation – l’idea di un’azione di ingegneria sociale, controllata anche mediante meccanismi democratici e di consapevolezza, di matrice democratica e socialista che possa dare un indirizzo alla società più efficiente di quanto fatto nel passato, non è sepolta, bensì è di nuovo pensabile. È il senso degli interrogativi che si ponevano sopra.

Ciò evidentemente, in secondo luogo, non può rimuovere alcuni elementi, uno estremamente interessante e vitale che pone la Zuboff: ossia l’elemento dialettico, contraddittorio, problematico della realtà sociale nella sua configurazione e organizzazione. Le asimmetrie e le gerarchie, le violenze, non possono che produrre reazioni, domande di giustizia, istanze di rivolta e riforma. Non si può certo espungere la politicità del reale, la competizione per il potere, la creazione continua di linee di frattura e “nemici” pubblici. Non solo: in terzo luogo, è decisiva una dialettica che si pone come reazione, anche non mediabile, radicalmente negativa, adornianamente. Sembra essere questa la dichiarazione al diritto alla libertà di volere e al santuario che Zuboff propone.

L’altro elemento non è dialettico, ma relativo alla questione della Tecnica, invece sottovalutato, ossia quello del confronto tra la Tecnica, la sua vocazione cumulativa che genera una mossa che potrebbe essere, indipendentemente dalla volontà umana, uno scacco matto alla signoria umana e appunto l’idea antropocentrica.

Questa dimensione minacciosa della Tecnica che va a configurare un nuovo eone non sembra fino in fondo sviscerata dalla Zuboff, sebbene la delinei come il Grande Altro del Potere strumentalizzante, ma non tanto in rapporto al potere del Machine learning quanto appunto dei nuovi capitalisti. Insomma, un saggio da leggere, perché leggendolo emerge con evidenza e urgenza che de te fabula narratur e che per un futuro umano, come suggerisce programmaticamente il titolo in inglese, vale la pena lottare.

Immagine di apertura di Markus Spiske su Unsplash

Iscriviti alla newsletter di ytali.

Sostienici

DONA IL TUO 5 PER MILLE A YTALI
Aggiungi la tua firma e il codice fiscale 94097630274 nel riquadro SOSTEGNO DEGLI ENTI DEL TERZO SETTORE della tua dichiarazione dei redditi.
Grazie!