Proponiamo una serie di riflessioni, o se volete un percorso a tappe, sul tema relativo al ruolo degli algoritmi nel capitalismo digitale del XXI secolo. I diversi “episodi” saranno incentrati su diversi temi che riguarderanno sia questioni più tecniche e formali, sia questioni inerenti alla sfera politica ed economica, sino ad alcuni ragionamenti in ambito filosofico.
Quanta informazione e conoscenza abbiamo mediamente su questi algoritmi? Quali ripercussioni potranno verificarsi sia sui nostri stili di vita, ma anche sul nostro pensiero e sul ruolo dell’uomo nella società?
Cercheremo di esporre questi temi in modo divulgativo e non pedante, sperando di suscitare l’interesse del lettore per approfondire.
I lettori che si considerano profani non hanno nulla da temere. Ogni “episodio” somiglierà ad una breve avventura, lineare e leggera, che avrà principalmente lo scopo di dare qualche spunto iniziale, ma soprattutto di stimolare l’interesse per l’approfondimento.
Gli eventuali lettori più esperti troveranno alcuni passaggi ovviamente approssimativi, come normale per una esposizione molto divulgativa. Ma cercheremo anche nell’approssimazione di non essere mai banali e sempre corretti e onesti nell’esposizione. Inoltre, vista la ampiezza del discorso, anche lettori esperti potrebbero trovare spunti interessanti su questioni apparentemente slegate tra loro.
Eccovi l’episodio introduttivo.
Giorgio Laguzzi
Akademischer Rat presso Albert-Ludwigs-Universitaet Freiburg
Algoritmocrazia # 0
Uno spettro si aggira per la società, lo spettro degli algoritmi.
Immaginate un mondo iper-tecnologico ove vi siano sensori disposti nel nostro corpo che permettano di rilevare in base a micro-variazioni e reazioni biochimiche il nostro “stato d’animo”, le nostre preferenze, eventuali malattie insorgenti, e fossero in grado così di programmare al meglio le nostre giornate in modo da prevenire stati di depressione, problemi al sistema cardiocircolatorio, l’insorgenza di carcinomi, e quant’altro.
O ancora immaginate un sistema che abbia saputo implementare algoritmi che, monitorando le nostre preferenze, le nostre attitudini, le nostre reazioni nell’arco di tutta la nostra vita, siano in grado di eseguire scelte inerenti a varie situazioni, in ambito sia economico sia politico, in modo da poter, ad esempio, prendere una decisione in maniera più razionale ed elaborata rispetto a quella che potremmo prendere sulla base di emozioni e apparenze scaturite in maniera fuorviante magari qualche ora prima.
Oppure immaginate un programma in grado di generare risposte a delle vostre domande e di simulare i comportamenti umani al punto da impedirvi di distinguere in una conversazione orale, o in una chat, se dall’altra parte vi sia un reale essere umano oppure un computer/bot.
Forse ancora qualche decennio fa avremmo potuto pensare che questi esempi provenissero da un romanzo di fantascienza, mentre oggi essi appaiono non così lontani, e in alcuni casi addirittura già in essere, come approfondiremo nei prossimi episodi.
Ma cosa sono davvero questi fantomatici algoritmi di cui si sente spesso parlare, i quali sembrano ormai essere parte fondamentale in molte discipline tra cui la finanza, l’economia, la comunicazione e il marketing, le scienze sociali, ma anche le scienze mediche, oltre che ovviamente le scienze forti, come la matematica e la fisica?
La definizione più pura potrebbe sembrare tanto banale, quanto generica e poco risolutiva: un algoritmo è de facto un sistema di procedure per ottenere una risoluzione ad una determinata questio in un numero finito di passaggi, seguendo una determinata serie finita di regole base.
Tra le varie definizioni rigorose e formali, quella forse più nota risale al concetto di macchina di Turing, il cui nome richiama il matematico inglese noto al grande pubblico per aver escogitato un sistema di decodifica della macchina Enigma utilizzata durante la seconda guerra mondiale dal regime nazista. Semplificando, una macchina di Turing può essere considerata il progenitore di quello che poi sono diventati i programmi e gli algoritmi informatici.
Ad esempio, un programma nel quale immettendo due numeri in input risponda in output la loro somma, oppure risponda in output quale dei due sia maggiore dell’altro, sono esempi banali di algoritmi in aritmetica. Ad un livello più sofisticato troviamo algoritmi in grado di giocare a tris (ricordate Joshua in War games, del 1983), oppure a dama, programmi in grado di rispondere ad una mossa con un’altra mossa, i quali cercano di ottimizzare tra tutte le possibili mosse al fine di sviluppare una strategia vincente (il famoso Deep Blue, ad esempio, nel gioco degli scacchi, il quale già nel 1996 sconfisse Garry Kasparov, oppure più recentemente AlphaGo che ha battuto il campione di Go, Lee Sedol nel 2016).
Via via sempre più nel dettaglio potremmo arrivare ad algoritmi in financial modelling in grado di prevedere andamenti e sviluppare strategie sui mercati finanziari, oppure algoritmi in grado di elaborare ricette mediche o diagnosi in base alle analisi su di un paziente, come Watson, il sistema di Intelligenza Artificiale che nel 2011 vinse il quiz a premi Jeopardy!, poi migliorato appunto per servire a questioni più serie, quali la diagnosi in campo medico. Più in generale, grande interesse suscitano già da anni tali cosiddetti algoritmi legati alla Intelligenza Artificiale (IA) quali deep learning, reasoning, natural language process.
Ma cosa sappiamo veramente di questi algoritmi? E soprattutto, l’intuizione che abbiamo su di essi è sufficientemente sviluppata?
Consideriamo i seguenti due possibili algoritmi: 1) un primo algoritmo in grado di creare musica in maniera così eccelsa da superare in qualità maestri come Bach, Beethoven, Stravinskij; 2) un secondo algoritmo in grado di decidere, data una certa teoria matematica T e una determinata asserzione A, se tale asserzione A sia dimostrabile o meno in tale teoria T. Quale di questi algoritmi esiste? Entrambi?
Molti potrebbero essere scettici sul secondo, ma potrebbero pensare che comunque per quanto complesso, un tale programma-algoritmo possa essere trovato, mentre probabilmente quasi tutti scommetterebbero sulla impossibilità del primo. Forse saranno sorpresi dallo scoprire che, al contrario, il primo algoritmo già esiste (EMI ideato e progettato dal professor David Cope, poi evolutosi in Annie, versione che si basa sull’apprendimento automatico), mentre il secondo tipo di algoritmo non solo non esiste, ma limitazioni della matematica stessa rendono altamente difficile trovarlo, per non dire impossibile, quantomeno allo stato attuale della nostra comprensione dei cosiddetti sistemi formali (teorema di incompletezza di Kurt Gödel).
Insomma, a volte gli algoritmi appaiono forse molto più umani di quanto si possa immaginare inizialmente.
Ma se esistessero algoritmi talmente sofisticati da imparare a conoscere i comportamenti delle persone meglio dei loro stessi familiari, e forse meglio anche di noi stessi, allora forse non potrebbero essi prendere il nostro posto anche nelle decisioni, ad esempio anche in ambito politico? Cosa ne sarebbe però di quello che oggi noi chiamiamo “scelta democratica”?
E ancora se questi algoritmi fossero capaci di gestire big data ad un tale livello da arrivare a comprendere i nostri desideri e le nostre preferenze, in modo addirittura da prevedere quale siano le nostre decisioni, cosa ne sarebbe della libertà di scelta e del connesso ruolo fondamentale dell’individuo sul quale si fonda il nostro caro pensiero liberale?
E se esistesse un algoritmo così sofisticato il quale, sempre attraverso una iper-accurata conoscenza del consumatore, potesse offrire prodotti di acquisto al prezzo più incline a quelle che sono le aspettative del consumatore stesso?
Che fine farebbe la nostra idea di sistema di mercato per l’ottimizzazione del prezzo come regolatore del sistema domanda/offerta?
E su un versante un pelo diverso, ma sempre inerente allo sviluppo digitale e all’automazione: se esistesse uno sviluppo tecnologico così elevato al punto tale da rendere possibile produrre una quantità di beni e servizi in maniera più che abbondante in proporzione alla popolazione mondiale, in modo da superare il problema della scarsità? Insomma, se arrivassimo ad un vero e proprio sistema economico dell’abbondanza non diventerebbe superfluo il concetto stesso di prezzo/valore economico di un bene o di un servizio? Non diventerebbe dunque il capitalismo stesso un sistema superato e vinto dallo sviluppo della tecnica?
Su queste domande ci interrogheremo e cercheremo nei prossimi episodi di gettare un po’ più di luce per comprendere meglio e stimolare la riflessione su cosa siano questi algoritmi, a cosa possano essere utili, quali siano i loro limiti, quali pericoli si possano annidare intorno alla IA, e quale invece grande potenziale possa scaturirne da un suo utilizzo appropriato e consapevole.
Ovviamente pur mantenendo il più possibile uno stile leggero e non eccessivamente pesante e tecnico, staremo ben attenti dal non scadere in ridicoli atteggiamenti paranoico-complottistici. Ma il non scadere in tale ambito fantascientifico non ci esimerà dal porre l’attenzione appunto alle conseguenze più discutibili di quanto stiamo assistendo, soprattutto per tentare di portare una moderata consapevolezza sull’argomento. Perché forse la democrazia e il liberalismo non saranno abbattuti esternamente dall’evanescente “populismo”, ma rischieranno di essere lentamente e inconsapevolmente dissolti internamente dal sorgere di un nuovo sistema. Se questi sarà una forma di “neofaudalesimo digitale” oppure di “sviluppo progressista inclusivo” dipenderà anche (e forse soprattutto) dal gradi di consapevolezza che noi cittadini medi sapremo sviluppare proprio su questi argomenti. E comprendere il ruolo che le nuove forme di capitalismo e socialismo avranno in questo passaggio e in questa nuova fase.
Alcune references
Shai Ben-David, Pavel Hrubes, Shay Moran, Amir Shpilka, and Amir Yehudayoff, Learnability can be undecidable.
Nick Bostrom, Superintelligenza: tendenze, pericoli, strategie.
A. Doria, The limits of mathematical modelling in social sciences.
Noha Harari, Homo Deus.
K.P. Hart, Machine learning and the Continuum Hypothesis.
Quintarelli, Capitalismo immateriale.
Penrose, La mente nuova dell’imperatore.
Penrose, Shadows of the Mind.
Severino, La società della Tecnica e il tramonto del capitalismo.
Zuboff, Surveillance Capitalism.
