Nel 1948, appena usciti dall’orrore della seconda guerra mondiale, George Orwell scriveva del futuro. Che titolo dare al suo romanzo? Orwell decise di giocare in modo geniale sulla data. Siccome non pensava a un futuro improbabile e lontanissimo, ma a qualcosa di molto vicino, possibile e probabile, gli bastò invertire le ultime due cifre: così il 1948 diventò “1984”, il romanzo distopico – uscito l’anno seguente – più letto, o comunque più conosciuto e citato, a proposito e a sproposito.
Se la distopia non nasce con Orwell, ma molto prima, come faccia nascosta ma sempre presente di ogni radiosa utopia, 1984 e il suo assoluto protagonista, il Grande Fratello, mettono a fuoco il problema e la paura che da allora ci accompagnano fino a oggi e allo sviluppo esponenziale dell’Intelligenza Artificiale.
Ecco, quindi, i due nuovi ingredienti, protagonisti assoluti del XX come del XXI secolo. Da una parte il potere (politico, economico, finanziario), dall’altro la tecnica (il progresso scientifico e tecnologico). Se potere e tecnica si alleano, e se questa alleanza si attua fuori dai confini dei diritti individuali e collettivi, fuori o contro la vita stessa degli uomini e delle donne, la prospettiva di un mondo totalitario diventa un approdo inevitabile.
Dobbiamo considerare, parlando di Intelligenza Artificiale (I.A.), di quanto si siano evoluti e rafforzati – dal 1948 e anche dal 1984 – i due protagonisti della deriva distopica: il potere e la tecnica.
Il potere, grazie alla vittoria del pensiero unico e del paradigma neoliberista, è diventato ubiquo e planetario. C’è però stato un passaggio di testimone: il potere economico-finanziario non si è solo reso autonomo dalla sfera politica, ma è diventato egemone e ha sopravanzato il potere tradizionale degli Stati nazionali, che continuiamo a chiamare sovrani. Gli Stati sovrani sono sempre più Stati vassalli, subalterni al potere delle grandi multinazionali e dei mercati finanziari. Per capire l’enorme salto di qualità del potere economico e finanziario basta confrontare il potere novecentesco delle “Sette Sorelle” del petrolio, con il potere straripante nella vita di ognuno di noi delle Big Five, oppure al ruolo dominante delle Big Farm nella gestione della crisi pandemica.
Associato, anzi legato a doppio filo a questo potere, c’è lo straordinario sviluppo della tecnica. Una tecnica che certamente (pensiamo agli sviluppi nella medicina e nella chirurgia in particolare) ha prodotto risultati straordinari utili al genere umano, ma che oggi è finanziata e diretta dal potere economico finanziario e soprattutto impegnata (le Big Five) nell’area dell’immagazzinamento e del trattamento dei dati (i nostri dati, le nostre parole, le nostre vite).
Bruno Vigilio Turra cita con chiarezza, una linea di sviluppo inquietante: dall’internet delle cose all’internet dei contenuti, fino all’ultima frontiera dell’internet dei corpi.
Gli ottimisti sostengono, un po’ superficialmente, che l’I.A. è un prodotto dell’intelligenza umana e che sarà sempre l’uomo a “comandare” sulla macchina.
Altri sostengono che, non conoscendo a tutt’oggi che una piccola parte del nostro cervello, il cervello della macchina non potrà mai eguagliarlo o superarlo. Infine, c’è chi ammette l’estrema potenza dell’Intelligenza Artificiale e vede come fondamentale il controllo umano sugli algoritmi della macchina.
In realtà l’I.A., così come emerge dai prototipi circolanti (e in continua evoluzione), non punta a imitare l’intelligenza umana ma si basa su 2 decisivi fattori: – l’enorme velocità di calcolo della macchina (avremo computer milioni di volte più veloci di quelli attuali); – l’enorme quantità di dati a disposizione (non solo le banche dati ma tutto quanto diciamo e comunichiamo attraverso qualsiasi medium).
A questi si aggiunge un elemento altrettanto decisivo: la proprietà e il controllo sulla macchina sono oggi in mano a pochissimi potentati economicofinanziari; i nomi sono noti, ogni anno diventano più potenti e prepotenti. Torniamo quindi all’inizio, al connubio fra potere e tecnica, un legame strettissimo su cui il singolo individuo, trasformato da cittadino in puro consumatore, ma anche il pubblico, il potere politico nel suo complesso, non hanno alcun potere di orientamento e di controllo.
Quest’impotenza, questa minorità dell’umano sulla tecnica apre allora le porte agli scenari più inquietanti: disoccupazione dilagante, democrazia della sorveglianza, un nuovo totalitarismo? Ancora non lo sappiamo (o forse non lo vediamo), ma l’umanità non sembra ancora pronta a raccogliere la sfida. Per vincerla occorrerà molta fantasia, o fra non molto ci ritroveremo tutti davanti uno schermo nero. Black mirror.

Francesco Monini

direttore responsabile di madrugada e del quotidiano online Periscopio