Responsabilità, progettazione e crescita collettiva per trasformarsi digitalmente

PER UNA DIGITAL TRANSFORMATION A MISURA D’UOMO SERVE CULTURA DELLA RESPONSABILITA’

[Questo articolo è stato pubblicato il 27 febbraio 2018 nella rivista digitale Ingenium Magazine di Engineering. Il testo inglese è disponibile qui.]

“L’intera questione si riduce dunque a questo:
può la mente umana dominare ciò che ha creato?”
 (Paul Valéry)

La velocità esponenziale con cui avanza la trasformazione digitale, e il suo essere presente in ogni attività umana, ha fatto crescere il dibattito sulla coesistenza tra uomo e tecnologia e sui possibili limiti allo sviluppo di quest’ultima, un confronto che lentamente sta uscendo dai circoli chiusi degli addetti ai lavori.

Un caso concreto è offerto dal rinnovato impulso allo sviluppo dell’Intelligenza Artificiale.

A parte uno stretto manipolo di scienziati e tecnologi – molto autorevoli nel loro campo – che ipotizzano un futuro a tinte fosche poiché contempla la possibilità che le macchine prendano il controllo delle decisioni e, conseguentemente, delle azioni umane – sta aumentando la consapevolezza che oggi il principale rischio non risiede nel controllo della macchina sull’uomo – ipotesi sempre affascinante per chi ama la fantascienza – ma piuttosto nel controllo dell’uomo sull’uomo stesso mediante la tecnologia. La manipolazione è il vero rischio che corriamo nell’immediato futuro.

In vari campi (finanza, commercio, informazione) stanno aumentando le attività in cui algoritmi prendono decisioni al posto degli uomini, e questi algoritmi talvolta operano su set di dati e modelli di apprendimento che riflettono stereotipi e schemi di sviluppo di una parte dominante della popolazione (come nel caso degli algorithmic bias, ovvero quando i pregiudizi umani vengono introdotti nell’operatività degli algoritmi che così riproducono comportamenti discriminatori, cui ho già accennato in precedenti articoli). L’evoluzione di questo rischio di manipolazione risiede nella possibilità che anche le stesse informazioni di base vengano manipolate, come ha argutamente evidenziato Marco Caressa in un suo recente articolo.

Non solo manipolazione, ma anche lenta omologazione alle macchine

Quando navighiamo nel web siamo talvolta costretti a dimostrare che non siamo dei bot. In molte nostre azioni rispondiamo meccanicamente alle istruzioni forniteci da una macchina: indossando braccialetti e sensori di controllo siamo sempre più un tutt’uno con applicazioni software che ci istruiscono su come comportarci; gli stessi spazi vitali e di lavoro si stanno adattando alle esigenze dei robot. Questo è un problema dell’oggi, su cui si deve porre attenzione e che ci chiama a prendere decisioni sul governo di questo fenomeno. Ma nel futuro dovremo sempre più convivere con l’Intelligenza Artificiale che diventerà lo spazio esteso in cui ci muoveremo: ci avviciniamo passo-passo ad un uomo provvisto di estensioni artificiali fino a che le macchine ci conosceranno e ci condizioneranno, anche nelle emozioni.

Stiamo affrontando, in modo spesso inconsapevole, una rivoluzione. Per molti secoli gli esseri umani sono stati al centro del mondo, della storia. Oggi non è più così: è la tecnica ad essere al centro dell’universo, della nostra storia. Parafrasando le parole di Umberto Galimberti: “la tecnica non è più un mezzo per raggiungere un fine, ma il fine stesso. E per raggiungere questo fine, la tecnica richiede efficienza e di conseguenza rimuove ciò che è ridondante, ciò che è insolito, … in altre parole rimuove l’umanità.”

Sorge un problema di identità

Questo lo possiamo vedere anche da un altro punto di vista, tramite un esempio concreto. Se un algoritmo, nell’interagire con un altro algoritmo, ci procura benefici liberandoci anche da coinvolgimenti emotivi, potrà essere naturale volerlo adottare. In questo modo saremo più liberi, ma da cosa e per che cosa? L’uomo è faber, è abituato a fare, e proprio questo fare indica il suo valore. Cosa accadrà quando perderà questo valore, perché a fare saranno le macchine?

Nasce anche un nuovo problema di responsabilità

Secondo ciò che vuole la tecnica è importante cosa si fa, non come lo si fa. Chi è responsabile dei risultati della tecnica? Di fronte ad una difficoltà operativa, molti di noi si sono sentiti rispondere, almeno una volta nella vita: “È colpa del computer”. Ora iniziamo a ricevere questa nuova risposta: “È colpa dell’algoritmo”. E ancora: di chi è la responsabilità degli effetti inaspettati di ciò che non si è potuto predire? Oggi stiamo entrando nell’era degli effetti non predicibili!

Dobbiamo iniziare a comprendere il nuovo ruolo dell’uomo nell’era della Trasformazione Digitale e contemporaneamente cercare soluzioni a nuovi problemi etici posti dalla tecnologia, ben sapendo che questo non è per niente facile né immediato.

Qualcuno propone una soluzione che ponga limiti ad alcuni sviluppi con leggi e regolamenti. Ma questo ha senso? Se deleghiamo la risposta a Kevin Kelly, nel testo “Quello che vuole la tecnologia” (di cui più avanti utilizzerò alcuni virgolettati), ci dice che la tecnologia è divenuta una forza autonoma rispetto alla volontà umana. E che ha un futuro ineluttabile “se si riavvolgesse il nastro del tempo”, molte delle tecnologie che abbiamo conosciuto emergerebbero nuovamente. La tecnica non è mai slegata dalla storia della natura ma, anzi, ne diventa il naturale sviluppo: essa è la prosecuzione della natura con altri mezzi. In questo senso, il rapporto che lega uomo e tecnologia non è dato dal mero utilizzo strumentale, ma è una vera e propria co-evoluzione convergente che tende ad un progresso incessante ed inevitabile.

Kelly non si esime dal rispondere alla domanda: “Cosa vuole la tecnologia?” Vuole ciò che vogliamo noi e soprattutto l’aumento delle possibilità umane e quindi delle nostre opportunità: di fatto vuole espandere sé stessa, come ogni altro sistema vivente. Espandendo la vita e la mente, la tecnologia estende all’intero pianeta i vantaggi del progresso, permettendo così di continuare a giocare a quel gioco iniziato quattro miliardi di anni fa e che coinvolge materia, mente e natura.

Quale diventa quindi il ruolo dell’uomo quando è la tecnica ad essere al centro della storia?

“L’evoluzione delle nuove tecnologie è inevitabile, non la possiamo fermare. Ma il carattere di ciascuna di esse dipende da noi”. Ci sono quindi degli spazi di libertà all’interno del progresso: l’uomo rimane responsabile del fatto che la tecnologia, evolvendo autonomamente, proceda verso il bene invece che verso il male. Ad esempio, se saremo sempre più connessi, la qualità di questa connessione non è scontata, potrebbe rispettare o non rispettare la privacy, potrebbe servire ad aumentare la democrazia o il totalitarismo. La soluzione è renderci conto che il progresso della tecnologia è ineluttabile e al contempo diventare consapevoli di quello che la tecnologia vuole. In questo modo possiamo preparare meglio noi stessi e i nostri figli al futuro che verrà. Lo scopo è direzionare le tendenze tecnologiche perché si esprimano al meglio e noi possiamo trarne il massimo vantaggio. La responsabilità del futuro resta quindi nelle mani dell’uomo.

Dobbiamo utilizzare al meglio lo spazio di libertà che abbiamo

Qui è opportuno collegarsi al pensiero di Luciano Floridi, quando ci rammenta che in questa nuova era abbiamo molti ingredienti per lo sviluppo a nostra disposizione: “L’era digitale è l’età della progettazione, non della creazione”. 

Internet, nata da un’iniziativa di ricerca, si è sviluppata come la conosciamo oggi grazie a diversi business crescendo senza regole e ora, ogni giorno, dobbiamo affrontare i problemi che ne sono derivati. Stiamo ancora sperimentando le conseguenze di quella scelta. Se avessimo veramente imparato la lezione, capiremmo che oggi dobbiamo affrontare la Trasformazione Digitale su base progettuale. Così come l’uomo, anche i sistemi digitali devono poter camminare su due gambe che si muovono assieme. Dobbiamo affiancare la gamba politico/sociale alla gamba del business che sta già sviluppando l’Intelligenza Artificiale come fatto a suo tempo con Internet. Questo non vuol dire porre dei limiti allo sviluppo della tecnologia, che sarebbero peraltro inutili, ma affiancare allo sviluppo un governo etico di questa trasformazione.

Mi piace concludere con alcune citazioni da Kelly che ci fa vedere il ruolo dell’uomo nella co-evoluzione uomo-tecnologia in colui che gioca ad un gioco infinito.

Nella mia carriera professionale ho sempre cercato di sostituire la abusata metafora della guerra (la battaglia, l’esercito, il nemico…) con quella del gioco, che ritengo più ricca e significativa. Con un passo in avanti, si può contrapporre al tradizionale gioco finito – che ha regole precise, uno o più avversari e che termina quando si vince – il gioco infinito – che si gioca proprio per continuare a tenerlo vivo. In questo modo non termina mai, perché continua a giocare con le stesse regole del gioco e non ha vincitori.

“I giochi finiti hanno più successo perché producono azione – basti pensare alle guerre o allo sport – mentre i giochi infiniti possono essere anche noiosi. Possiamo immaginare centinaia di storie molto più eccitanti su due tizi che combattono che non su due tizi che sono in pace tra loro. Il problema di tutte le centinaia di storie eccitanti sui due tizi che combattono è che finiscono tutte allo stesso modo, ovvero con la morte di uno dei due (o di entrambi), a meno che a un certo punto cambino idea e si mettano a collaborare. Invece la storia incentrata sulla pace, anche se noiosa, non ha fine: può portare a migliaia di storie inaspettate, magari i due tizi diventano soci e mettono in piedi una nuova città o scoprono un nuovo elemento o scrivono un’opera fantastica. Creano qualcosa che diventerà la base per storie future: stanno, insomma, giocando un gioco infinito.”

“L’obiettivo è continuare a giocare: esplorare ogni modo possibile per farlo, includere tutti i giochi, tutti i possibili giocatori, ampliare la nozione di gioco, usare tutto, impadronirsi di niente, seminare in tutto l’universo giochi improbabili e, se possibile, andare oltre tutto ciò che è venuto prima.”

“Strada facendo generiamo più scelta, più opportunità, più connessioni, più diversità, più unità, più pensiero, più bellezza e più problemi: che si sommano a maggiori benefici, in un gioco infinito che vale la pena di giocare. Questo è quello che vuole la tecnologia.”

Per iniziare a giocare è necessario aumentare la consapevolezza diffusa tramite un’informazione libera ed aperta, con opere di formazione e divulgazione, mediante un pensiero di innovazione che guardi veramente al futuro e non al passato e con l’intraprendere azioni concrete.  Serve un grande sforzo di creatività per trovare nuovi strumenti che consentano di sviluppare un’intelligenza collettiva, concetto oggi molto vicino all’operare stesso della tecnologia. Se saranno degli uomini consapevoli, liberi e responsabili ad insegnare alle macchine ad imparare ecco che potremo vedere una crescita collettiva all’interno di una piena co-evoluzione uomo-macchina.

La tecnologia ci offre un enorme potenziale utile a costruire il nostro futuro ammesso che lo utilizziamo bene. Dobbiamo costruire una cultura della responsabilità verso la tecnologia così che gli uomini del futuro non siano “tutto muscoli e poco cervello”.