La cultura umanistica àncora della trasformazione digitale

IN UN MONDO PROGRESSIVAMENTE DOMINATO DAGLI ALGORITMI COME PRESERVARE LA CENTRALITA’ DELLE PERSONE?

[Questo articolo è stato pubblicato il 27 Luglio 2017 nella rivista digitale Ingenium Magazine di Engineering. Il testo inglese è disponibile qui.]

                     "La bellezza salverà il mondo”
                                (Fëdor Dostoevskij)

In un precedente articolo ho introdotto il tema dell’etica digitale come presupposto per la gestione delle crescenti interazioni tra persone, attività e oggetti. Ho inoltre affermato che la fiducia è il presupposto del progresso e che nel mondo digitale, dove non si potranno mai ottenere tutta la sicurezza e la privacy che si desiderano, sarà necessario individuare il livello di fiducia che ciascuno reputerà accettabile.

Si dovranno fare scelte che potranno essere corroborate solo da un adeguato livello di trasparenza per ottenere il quale sarà necessario  individuare i modi per instaurare un effettivo controllo aperto e pubblico.

Scegliere vuol dire anche scendere a compromessi e, in situazione critiche, non è facile, o possibile, prevedere quale saranno la decisioni. Cosa accadrà se queste saranno prese da algoritmi sulla base di regole pre-definite e che continuano ad apprendere secondo tracciati che sono definiti da comportamenti umani, troppo spesso stereotipati? Da un lato, le scelte potrebbero apparire oggettivamente plausibili e non soggette a emozioni o perdite di controllo. Dall’altro ci si potrebbe trovare di fronte a un dilemma per il quale non sarà facile individuare la soluzione.

Un caso emblematico di compromesso nelle decisioni

Il progetto Moral Machine del MIT ben esemplifica questo concetto. Qui, la domanda cui si vuole rispondere è: può un’auto a guida autonoma comportarsi secondo parametri sociali o morali? Più precisamente: può un algoritmo prendere decisioni sulla vita o la morte dei passeggeri di un’auto a guida autonoma o dei passanti quando, ad esempio, i freni si rompono? L’auto deve procedere diritta andando ad infrangersi contro una barriera, procurando serie conseguenze ai suoi occupanti o anche la morte, o sterzare bruscamente e investire i passanti che camminano sull’altro lato della strada? E quale sarà la decisione quando si dovrà scegliere se investire un anziano, piuttosto che un bambino o un disabile, o più semplicemente, scegliere tra un uomo o una donna?

Si tratta di un dilemma etico che, come dicono gli autori del progetto, è divenuto un dilemma sociale.

Moral Machine è una piattaforma che intende costruire, in modalità collaborativa (crowd-sourcing) un ampio insieme di decisioni umane su come le “macchine” (e con questo termine possiamo comprendere non solo le automobili, ma gli automatismi in genere) debbano agire se poste di fronte a un dilemma morale.

Cosa si vuole privilegiare: la sicurezza dei passeggeri o la decisione per cui si opta per la salvezza dei passanti, confidando per i primi nelle dotazioni di sicurezza del veicolo? Con il rischio peraltro che, se si venisse a conoscenza di questo comportamento dell’algoritmo di bordo, queste auto non si venderebbero e quindi potrebbero venir meno le ragioni per la loro produzione?

Alla fine  dell’anno scorso, gli autori del progetto hanno dichiarato di aver raccolto più di cinque milioni di risposte da parte di oltre un milione di persone di provenienze e culture diverse. E’ evidente che l’obiettivo del progetto non è trovare la risposta, che non esiste e non ci sarà mai, ma di aprire il dibattito.

Una possibile via d’uscita

Come ne usciamo? In un articolo di sette anni fa mi domandavo quali sarebbero potuti essere i modi e le opportunità di dirigere l’immaginazione economica e l’innovazione tecnologica verso traguardi inaspettati, attraverso nuovi modi di produrre e vivere basati sulla conoscenza. Allora non avevo risposte e concludevo che era necessario prepararsi generando una riserva di potenziale da utilizzare quando se ne sarebbe presentata l’occasione. E’ giunta l’ora di abbozzare una prima risposta.

Gli uomini, e non gli algoritmi, hanno l’anima

In un mondo che sarà progressivamente dominato dagli algoritmi che “ragionano” sui dati, dobbiamo necessariamente non perdere di vista la centralità dell’uomo e sempre più investire nelle persone.

Stiamo muovendo i primi passi all’interno di un territorio che richiede sempre più che l’ingegno tecnico sia bilanciato da una visione creativa ed empatica del mondo. E questa capacità proviene essenzialmente dallo studio e continuo nutrimento della cultura umanistica, che deve crescere di pari passo con quella tecnologica. Anche quando applichiamo questo approccio al mondo  apparentemente “freddo” dell’ Information Technology, poniamo le basi perché un bravo sviluppatore possa accrescere le proprie competenze e progredire nell’aumentare il valore della propria preparazione nel divenire un capace architetto o progettista di sistemi, un creatore di contenuti o un data scientist. In questo, un ruolo cruciale risiede nella preparazione scolastica a tutti i livelli e nella conoscenza delle proprie radici culturali. Ciò è a maggior ragione vero quando a queste capacità è necessario aggiungere valori etici e di trasparenza che possano guidare i comportamenti. In questo campo noi europei siamo avvantaggiati rispetto al mondo anglosassone e dobbiamo difendere queste nostre prerogative.

La natura umana, a confronto con le altre specie naturali e biologiche, può essere sommariamente descritta come un’entità formata da strati che si sovrappongono (una schematizzazione dall’approccio sicuramente familiare agli informatici). Procedendo dal basso verso l’alto: lo strato materiale, quello biologico, quello logico, quello spirituale e infine, per i credenti, la fede. Più l’uomo progredisce verso il livello superiore, più diventa fragile perché “più si conosce, più si diventa fragili”. Il percorso per conquistare la piena consapevolezza di sé e delle persone che ci circondano è il prezzo che un uomo deve pagare per divenire capace di affrontare la dinamicità e complessità della vita quotidiana. E’ questa l’anima che differenzia l’uomo dalle altre specie e, guardando al futuro, anche dalle  soluzioni di “intelligenza artificiale” che lui stesso saprà sviluppare, anche quando potrà sembrare che queste abbiano una “vita autonoma”.

Ciò che nutre l’anima è la cultura umanistica che, in un contesto “aperto”, si declina anche come fiducia negli altri, etica, gratuità, empatia e amore.

La bellezza salverà il mondo

Amare vuol dire comprendere l’altrui identità, conoscere se stessi e gli altri, accogliere, offrire, dare valore. Se continueremo a procedere spediti all’interno di questo nuovo territorio digitale, passo dopo passo in questa direzione, potremo non solo accelerare il progresso, ma anche governarlo con regole etiche e trasparenti per accorgerci della bellezza che questo crea.

La bellezza salverà il mondo, faceva dire Fedor Dostoevskij al principe Myskin. La bellezza è anche nel software, negli algoritmi, nei risultati di quanto questi producono. La bellezza è soprattutto in cosa non si vede, oltre quanto si vede. La bellezza di ciò che si vive ogni giorno. E tutto questo lo creano gli uomini.