L’esercizio da parte di una ristretta élite d’imporre un regime di “sorveglianza” nei confronti di una comunità non appare così originale nel secolare tratto della storia percorsa dai popoli di cultura occidentale. Sin dalla Controriforma in là – ciò che Michel Foucault lo definirà nel secondo 900 con il neologismo di “biopolitica” e quasi contemporaneamente George Orwell lo caratterizzerà attraverso il travaglio fisico e interiore di Winston Smith, il personaggio centrale del suo distopico 1984 – a tutt’oggi la filosofia politica ne ha fatto ampia occasione di studio.
Riflessioni, ancora presenti nella nostra contemporaneità, le quali non portano a escludere che un certo potere dispotico e manipolatorio debba essere considerato un esclusivo retaggio del passato. Metaforicamente, oggi si tende a relegarlo nel sottosuolo del vivere civile, come uno scorrimento carsico, non apparente visibile, al di sopra del quale, nel cosiddetto “mondo reale” della democrazia occidentale si irradiano i valori democratici e liberali.
Sennonché, Shoshana Zuboff con il suo Capitalismo della Sorveglianza, ci mette in guardia dalla inossidabile natura del potere coercitivo. Potere di tale natura, che con la sua vitale capacità di autoperpetuarsi non perde mai l’occasione di emergere dal basso per promuovere le sue mire dispotiche. Nel caso specifico – qui descritto dalla sociologa americana – il capitalismo, il quale nell’arco di questi ultimi due secoli si è inverato come l’essenza del moderno potere, in conformità con il suo istinto predatorio, ri-inventa sé stesso dismettendo i panni ormai frusti della “biopolitica” per indossare quelli più “alla moda” della “bioeconomia”.
Surveillance Capitalism
Jan 3, 2020 SHOSHANA ZUBOFF
Over the past two decades, an entirely new economic model has taken hold, seemingly right under our noses. Whereas the Internet and digital technologies once promised to liberate humanity through disintermediation and shared connections, now they have been turned into tools for behavioral manipulation and exploitation.
CAMBRIDGE – Così come entriamo in un nuovo decennio, nello stesso tempo ci proiettiamo anche in una nuova era dell’economia politica. Nel corso dei secoli, il capitalismo si è evoluto attraverso una serie di fasi, dal capitalismo industriale, poi a quello gestionale, infine a quello finanziario. Ora, stiamo entrando nell’era del “Capitalismo della Sorveglianza“.
Sotto il Capitalismo della Sorveglianza, le esperienze vissute dalle persone sono unilateralmente rivendicate da società private e tradotte in flussi di dati proprietari. Alcuni di questi dati vengono utilizzati per migliorare prodotti e i servizi. Ciò che rimane [da questa elaborazione] è considerato come una sorta di “eccedenza comportamentale” ed è apprezzato per i suoi ricchi segnali premonitori. Questi dati predittivi vengono inviati alle nuove strutture dotate di intelligenze artificiali dove vengono calcolati in prodotti di previsione altamente redditizi che anticipano le vostre scelte attuali e future.
I prodotti di previsione vengono quindi scambiati in quelli che io chiamo “mercati comportamentali a termine “, in cui i cosiddetti Capitalisti della Sorveglianza vendono “certezza” ai loro clienti commerciali. La “percentuale di clic” su Google è stata il primo prodotto di previsione di successo a livello globale e i suoi mercati pubblicitari sono stati i primi a negoziare “futures umani”. I Capitalisti della Sorveglianza sono già da tempo diventati immensamente ricchi mediante queste operazioni commerciali e sempre più aziende, in quasi tutti i settori economici, hanno mostrato la smania di scommettere sul nostro comportamento futuro.
Le dinamiche competitive di questi nuovi mercati rivelano gli imperativi economici del Capitalismo della Sorveglianza. Innanzitutto, l’intelligenza artificiale, la quale richiede molti dati: economie di scala. In secondo luogo, le migliori previsioni richiedono anche una varietà di dati: economie di scopo. Ciò ha spinto all’estensione della cattura di quella eccedenza comportamentale, oltre i “like” e i clic, presente nel cosiddetto mondo “fuori rete”: la vostra andatura e il vostro ritmo da jogging; la vostra conversazione durante la colazione; la vostra ricerca per un parcheggio; il vostro viso, la voce, la personalità e le vostre emozioni. In una terza fase di intensità competitiva, i Capitalisti della Sorveglianza hanno scoperto che i dati più predittivi derivano intervenendo nell’azione umana con il fine di persuadere, sintonizzare, aggregare e modificare il comportamento nella direzione di [conseguire] risultati garantiti. Questo passaggio dalla conoscenza al potere trasforma la tecnologia da un mezzo di produzione a un mezzo globale di modifica comportamentale al fine di raggiungere “le economie dell’azione“.
Chiamo questo potere inteso a modellare il comportamento umano a distanza e su larga scala all’indirizzo di fini altrui: “potere strumentale“. Così lo definisco perché funziona interamente attraverso la strumentazione digitale. Il potere strumentale non vi minaccia di terrore o di omicidio. Nessun soldato sembrerà trascinarvi nel gulag o in un campo di detenzione. Questa nuova specie di potere funziona in remoto, ingegnerizzando segnali subliminali, le dinamiche di confronto sociale, i premi e le punizioni e la varietà d’imposizioni per modellare un comportamento che si [deve] allineare ai suoi interessi commerciali.
Le economie di azione sono state un punto focale di sperimentazione. Gli “esperimenti di contagio su vasta scala” di Facebook hanno scoperto come progettare segnali subliminali e dinamiche di confronto sociale sulle pagine di Facebook per cambiare il comportamento degli utenti e le loro emozioni nel mondo reale, bypassando fermamente la loro consapevolezza. L’incremento della percezione del reale nel gioco Pokémon Go sviluppato da Google condusse la sperimentazione a un nuovo livello. Chi partecipava maniacalmente a Pokémon Go qualche anno fa non stava solo giocando con uno smartphone. In effetti, i premi e le punizioni derivanti dal gioco venivano usati per invogliare la gente verso ristoranti, bar, fast-food e negozi che avevano pagato in precedenza per un garantito elevato numero di accessi (foot traffic).
Proprio come il capitalismo industriale, il quale ha intensificato continuamente i mezzi di produzione, il Capitalismo della Sorveglianza sta intensificando i mezzi di modifica comportamentale. Il Capitalismo di Sorveglianza smantella il primo sogno digitale, che immaginava Internet come una forza liberatrice e democratizzante. Non si dovrebbero più nutrire illusioni sul fatto che le reti siano intrinsecamente morali o che la “connessione” sia intrinsecamente sociale, inclusiva e democratica.
Al contrario, la connessione digitale ora è semplicemente un mezzo per il fine commerciale di qualcun altro.
Il Capitalismo della Sorveglianza è parassitario fino in fondo, non fa che riprendere la rappresentazione del capitalismo di Karl Marx come un vampiro che si nutre di lavoro, solo che ora quel “lavoro” è stato sostituito dall’esperienza umana privata. Il Capitalismo di Sorveglianza è stato abbracciato da Facebook, Microsoft, Amazon e molti altri, ma fu prima perfezionato da Google (ora Alphabet), nello stesso modo in cui il capitalismo manageriale venne perfezionato dalla General Motors un secolo fa.
Come pioniere, Google ha rapidamente colonizzato gli spazi non mappati di un Internet non regolamentato, prosperando come una specie invasiva in un ambiente privo di predatori naturali. Ha sviluppato il suo modello di business a rotta di collo, superando di gran lunga la capacità di seguirlo da parte delle istituzioni pubbliche o degli utenti. Ma ha anche beneficiato di eventi storici. Dopo gli attacchi dell’11 settembre 2001, l’apparato di sicurezza nazionale degli Stati Uniti era incline a coltivare, imitare, proteggere e appropriarsi delle capacità emergenti del Capitalismo di Sorveglianza, piuttosto che regolamentarlo.
I capitalisti della sorveglianza hanno rapidamente capito che potevano fare tutto ciò che volevano, quindi non fecero altro che metterlo in pratica. Mentre prestava servizio in maniera puramente formale al potere emancipante della tecnologia, la vera azione – l’inesorabile estrazione segreta dell’esperienza privata come materia prima gratuita per la produzione e le vendite – è stata nascosta dietro le quinte. Incoraggiati da enormi e crescenti flussi di entrate e da un teatro selvaggio e incontestato di operazioni, erano anche protetti dall’inerzia intrinseca dei processi automatizzati.
Le persone semplicemente non si sono rese conto di ciò che stava accadendo e in che modo funzionasse davvero la nuova logica economica.
Dopo aver iniziato con le principali società Internet, i meccanismi e gli imperativi economici del Capitalismo della Sorveglianza sono diventati in generale il modello predefinito per le imprese basate su Internet. Inoltre, gli attuali prodotti predittivi si estendono ben oltre le mirate pubblicità online, includendo molti altri settori, tra cui assicurazioni, vendita al dettaglio, finanza, sanità, istruzione e una gamma sempre più ampia di beni e servizi.
Questi beni e servizi non sono fatti per un reciproca costruttiva interazione tra produttore e consumatore. Piuttosto che essere gli oggetti di un tradizionale scambio di valore, essi sono delle “esche” che attirano gli utenti in accordi estrattivi, dove le loro esperienze personali possono essere raccolte e confezionate per servire fini altrui.
Il truismo dell’era digitale sostiene che “Se ciò è gratuito, ebbene tu sei il prodotto“. Ma non è giusto: voi siete la materia prima in un processo di estrazione molto più ampio.
Ciò implica un patto faustiano. Abbiamo tutti accettato che Internet sia ormai essenziale per la partecipazione sociale ed economica. Tuttavia, per trarne vantaggio, dobbiamo sottoporci allo sfruttamento capitalista della sorveglianza. Poiché siamo così dipendenti dal mondo digitale, ci siamo abituati a quella realtà ove si è rintracciati, analizzati, estratti e manipolati. Nel “giustificarsi” (Non ho nulla da nascondere) o semplicemente nel sottometterci alla perdita di privacy e alla nostra capacita di controllo e di consapevolezza, non ci rendiamo conto che ci viene imposta una scelta fondamentalmente illegittima.
Come si è arrivato a questo? Una delle caratteristiche più importanti del Capitalismo della Sorveglianza è che il tutto non ha precedenti. Per definizione, gli sviluppi senza precedenti sono inizialmente irriconoscibili. Quando incontriamo qualcosa di nuovo, proviamo a capirlo mettendolo nel contesto di categorie familiari. Ad esempio, allorché apparvero le prime automobili, molti si affidarono al termine “carrozza senza cavalli” per dare un senso alla nuova tecnologia.
Quando interpretiamo uno sviluppo senza precedenti nel presente come una semplice estensione del passato, rischiamo di normalizzare l’anormale. Questo può essere un errore pericoloso. Quando gli indigeni delle isole caraibiche precolombiane incontrarono per la prima volta soldati spagnoli corazzati che marciavano sulle loro rive, presunsero di essere visitati dagli dei e seminarono i semi della loro stessa distruzione accogliendo i nuovi arrivati con squisita ospitalità.
Poiché è senza precedenti, il Capitalismo della Sorveglianza supera l’ambito dei nostri concetti economici esistenti. Ad esempio, ci aggrappiamo a parole come “monopolio” e “privacy” quando ci opponiamo a pratiche capitaliste di sorveglianza. Ma mentre questi termini certamente trovano applicazione, non catturano l’essenza delle nuove operazioni. Il Capitalismo della Sorveglianza non riguarda solo il governo delle imprese o il potere del mercato; esso concerne una logica di accumulazione completamente nuova, con i suoi originali meccanismi, metodi, esigenze e mercati.
Le conseguenze vanno oltre il territorio convenzionale dell’impresa privata e minano la democrazia dall’alto e dal basso. Dall’alto, il Capitalismo della Sorveglianza opera attraverso asimmetrie senza precedenti di conoscenza e di potere, aumentando piuttosto che diminuire la disuguaglianza sociale. Dal basso, gli imperativi del capitalismo di sorveglianza mirano all’autonomia umana, alla sovranità individuale e alla capacità di controllo delle nostre pulsioni: capacità senza le quali la democrazia è inimmaginabile.
Sebbene il Capitalismo della Sorveglianza sia una forza completamente nuova nella storia economica, abbiamo già visto abbastanza per sapere che si basa sul flagrante disprezzo per le norme e i diritti sociali che sono essenziali per una società democratica che funzioni correttamente. Proprio come la civiltà industriale fioriva a spese della natura, il Capitalismo della Sorveglianza prospera a spese della natura umana. Ora stiamo affrontando il lascito del capitalismo industriale nella lotta globale contro i catastrofici cambiamenti climatici. Dando libero sfogo al Capitalismo della Sorveglianza, quale eredità ci sarà lasciata?
Shoshana Zuboff is Professor Emerita of Business Administration at Harvard Business School and the author of The Age of Surveillance Capitalism.
