COSA C’E’ DI NUOVO NELL’EPOCA DELLA TRASFORMAZIONE DIGITALE
[Questa è la trascrizione della mia presentazione del 10 Novembre 2017 a the SFSCon ‘17. La versione in lingua inglese è qui.]
IL MIO CAMMINO NELL’OPEN SOURCE
Ho percorso il sentiero dell’open source per diversi anni. Inizialmente ho scelto il software libero per passare poi all’open source, considerando sempre la libertà del software come il valore più importante. Sono stato direttore del centro di competenza open source di Engineering, dove nel 2004 ho fondato l’iniziativa SpagoWorld (probabilmente conoscete SpagoBI, uno dei suoi principali risultati). Sono stato direttore nel board di OW2 per dieci anni, associate member di Eclipse, corporate sponsor di Open Source Initiative.
Questo viaggio durato 15 anni mi ha consentito di comprendere come agisce la comunità open source, di aprirmi ad un’ampia rete di contatti e di esperienze, di operare all’interno di un contesto vario ed internazionale.
LEZIONI APPRESE
Lungo questo percorso ho appreso diverse lezioni.
Prima lezione: il software libero e open source ha a che fare con persone ed aziende. Mentre le persone adottano principi e valori come l’etica, la fiducia, la libertà, le aziende sono guidate dal business secondo un “istinto animale”. Due approcci diversi che connotano due modi diversi di adottare ed integrare il software open source.
Seconda lezione: sebbene l’open source sia un elemento cruciale, chi lo adotta si preoccupa soprattutto dell’usabilità, della possibilità di integrazione e dell’innovazione. Non abbiamo bisogno di un’ampia scelta di progetti open source che facciano esattamente la stessa cosa, o che la facciano solo un po’ meglio, ma di una reale innovazione che è il vero motore per l’adozione del software open source.
Terza lezione: la complessità entra in gioco quando parliamo di open source: integrazione, licenze e compatibilità, governance, vita della comunità. E al giorno d’oggi la gestione della complessità ha molto a che fare con l’abilità di comprendere ed agire.
Quarta lezione, la più importante per me: l’open source è un percorso, non una destinazione. Produce benefici collettivi che hanno più valore di quelli personali. Reinventa relazioni e dinamiche economiche, offre accesso ad un’ampia rete di contatti. E’ un percorso disseminato da valori e principi etici. Non saltate alla fine del percorso, ma seguitelo tutto. Questo vuol dire essere agenti di cambiamento.
TRASFORMAZIONE DIGITALE
Diamo ora uno sguardo al futuro e concentriamoci sul ruolo che l’open source potrà avere. La nuova sfida è affrontare l’era della trasformazione digitale e questo richiede un cambiamento radicale.
Siamo appena sbarcati su una nuova isola digitale, lasciandoci alle spalle la terraferma analogica. Siamo solo sulla spiaggia: molto resta da esplorare, da creare.
VELOCITA’
Molti dicono: non si può fermare la digitalizzazione, è solo questione di velocità. In realtà, il tema non è la velocità della trasformazione, ma la sua direzione. Dove stiamo andando?
OPPORTUNITA’ E PROBLEMI
Al giorno d’oggi abbiamo svariate opportunità per accelerare la ricerca e acquisire nuovi risultati: costi più bassi, disponibilità di maggiori risorse computazionali, più dati, algoritmi migliori, più interazioni con oggetti, più persone connesse on-line. Ogni giorno riceviamo notizie di nuove possibilità.
Qui vedete un elenco a voi ben noto, che comprende sia reali miglioramenti, sia cose di scarsa importanza: la possibilità di molti oggetti di interagire con la voce e gli assistenti virtuali, automobili autonome, robot che svolgono svariati compiti, compreso quello di direttore d’orchestra, algoritmi (bots) che interagiscono tra loro con un nuovo linguaggio e software di machine learning capace di apprendere l’uso di algoritmi da zero o di progettarne di nuovi. E’ una ricerca continua a sperimentare e creare qualcosa di nuovo con l’effetto collaterale di complicare problemi irrisolti come quelli relativi agli standard, alla sicurezza ed alla privacy.
Ma questo è solo un approccio tattico; non stiamo affrontando la vera sfida!
COSA STIAMO FACENDO CON L’INTELLIGENZA ARTIFICIALE?
Diamo uno sguardo all’intelligenza artificiale. E’ un dato di fatto che noi umani abbiamo realizzato “spazi” progettati per i robot ed ora siamo condizionati ad agire sulla base dei comportamenti che loro ci suggeriscono o per i quali sono stati progettati.
Vediamo un paio di esempi. Il codice QR è l’evoluzione del precedente codice lineare detto barcode: mentre il secondo può essere integrato con informazioni intellegibili dagli esseri umani, il primo può essere letto solo dalle macchine. Ancora, pensate a quando volete creare un nuovo account su un sito web o volete effettuare un pagamento on-line: dovete dimostrare di non essere robot …
Stiamo affrontando una rivoluzione. Per molti secoli gli umani sono stati al centro del mondo, della storia. Ma non più: oggi è la tecnica ad essere al centro dell’universo, della nostra storia. Qui la tecnica non è “un mezzo per un fine” ma “il fine stesso”. E per raggiungere questo fine, la tecnica richiede efficienza e di conseguenza rimuove ciò che è ridondante, ciò che è insolito, … in altre parole rimuove l’umanità. Secondo la tecnica “cosa fai è importante”, non ”come lo fai”.
Dobbiamo trovare una soluzione a nuovi problemi etici. Ad esempio: chi è responsabile dei risultati della tecnica? Molti di voi si sono sentiti rispondere così, almeno una volta nella vita: “è colpa del computer”. Ora iniziamo a ricevere questa nuova risposta: “è colpa dell’algoritmo”. E ancora: di chi è la responsabilità degli effetti inaspettati di ciò che non si è potuto predire? E sapete bene che stiamo entrando nell’era degli effetti non predicibili.
RISCHI EMERGENTI
E’ trascorso diverso tempo da quando ho visto Her, un film molto simpatico dove l’attore principale si innamora di un sistema operativo (sì, è un sistema operativo sessuato). Molte delle scene sono di fiction, ma vi si trovano diverse previsioni. Potete vedere alcuni risultati tecnologici raggiungibili in un futuro prossimo e anche qualcuno già attuale. Oggi i ricercatori stanno realmente operando nel campo dell’intelligenza artificiale emozionale. D’altro canto, Blade Runner è pura fiction Hollywoodiana.
Il rischio che corriamo domani non è il controllo delle macchine sugli uomini. Ma il rischio di oggi è il controllo degli umani sugli umani (si chiama manipolazione, qualcosa che sperimentiamo ogni giorno attraverso la pubblicità sul web, i pregiudizi degli algoritmi e molto altro).
ALGORITMI
Qualche approfondimento circa i pregiudizi insiti negli algoritmi. In generale, gli algoritmi replicano i pregiudizi delle persone, ma non possono essere considerati prevenuti. Includono il male tradizionale e moderno insito nella discriminazione sociale. Di questo abbiamo diversi esempi: discriminazioni nei confronti delle donne o delle minoranze etniche nell’utilizzo di dati di richiesta di intervista di lavoro che non hanno alcun riferimento diretto al genere o all’etnia, o algoritmi utilizzati per predire il tasso di criminalità o nelle richieste di finanziamento personale.
In genere gli algoritmi sono “scatole nere”, sono chiusi. Non sappiamo come operano. L’intelligenza artificiale e il deep learning, questa emergente tecnica analitica, stanno creando sistemi computerizzati che non comprendiamo appieno. Una risposta responsabile è quella di progettarli in ottica di correttezza, diversità, trasparenza e neutralità. Abbiamo bisogno di trasparenza e controllo pubblico. C’è molto da imparare dalla lezione dell’open source.
LA TRAGEDIA DEGLI ALGORITMI COMUNI
Nel consentire agli algoritmi di prendere decisioni che riguardano la nostra vita possiamo trovarci a dover fronteggiare un dilemma. L’autonomia concessa all’intelligenza artificiale può condurci in situazioni dove questa deve prendere decisioni indipendenti che riguardano la vita degli uomini. Ad esempio, le automobili autonome, quando si rompono i freni, possono continuare a procedere e investire i pedoni che hanno di fronte (salvando i passeggeri all’interno dell’auto) o, di contro, andare a sbattere contro una barriera con conseguenze anche letali per i passeggeri (ma salvando i pedoni). E’ una decisione morale che deve prendere un algoritmo.
Moral Machine è una piattaforma creata per costruire una visione collaborativa, in modalità crowd-sourcing, dell’opinione umana su come le machine devono comportarsi quando si trovano di fronte a dilemma morali. Non abbiamo la risposta ma, alla fine dell’anno scorso, sono state raccolte più di 5 milioni di risposte provenienti da oltre 1 milione di persone. La discussione è aperta e ci vorrà tempo per giungere a questa risposta di così vasta portata.
FIDUCIA
Che lezione possiamo apprendere da questi due esempi? La parola “chiave” della trasformazione digitale è fiducia. Non c’è progresso senza fiducia. I dati e i risultati aumentano il loro valore se vengono condivisi e la condivisione si basa sulla fiducia. Le relazioni economiche solide si basano sulla fiducia, le reti si basano sulla fiducia. Non c’è condivisione senza fiducia.
La prima domanda a cui dovremo rispondere nel futuro non sarà se abbiamo fiducia in qualcuno o qualcosa, ma: qual è la soglia di fiducia che riteniamo accettabile?
COMPROMESSO
E quando non c’è scelta? Vediamo l’esempio Moral Machine. Un dilemma etico trasformato in un dilemma sociale. Qui la domanda è: qual è il compromesso?
IL RUOLO DELL’OPEN SOURCE
L’etica digitale sta diventando un argomento emergente. Possiamo definirla come un sistema di valori e principi morali per condurre le interazioni digitali tra persone, business e oggetti. Qui apparei pieno il ruolo dell’open source. Possiamo utilizzare due termini particolarmente significativi del Greco antico.
Il primo è ethos. L’etica fa riferimento a come viviamo, a come agiamo. Porta alla reputazione: un valore cruciale nell’open source.
Il secondo è pathos: il cuore è più importante della mente! Ethos e pathos abbracciati nella trasparenza. Ancora molto da fare e diffondere da parte delle comunità open source.
VISIONE
Sto avvicinandomi alla conclusione e voglio lasciarvi con qualche spunto di riflessione.
Primo suggerimento: offrite una visione alle persone. La gente chiede una visione, ne ha bisogno. Date loro una visione. Qui vedo una grande potenzialità per le comunità open source, gli attivisti i nuovi hackers nel diffondere i principi ed i valori dell’open source nell’era della trasformazione digitale.
STUDI UMANISTICI E PROGETTAZIONE
Secondo suggerimento. Stiamo entrando in una nuova era dove l’ingegno tecnico deve essere bilanciato da intuizioni creative. Questa capacità deriva dallo studio delle scienze umanistiche assieme a quello delle tecnologie. Dobbiamo – e dobbiamo incoraggiare le persone a – avere fiducia negli altri, essere liberi, empatici, pensare in modo approfondito e progettare meglio. Gli uomini progettano i modelli che vengono seguiti dagli algoritmi e preparano i training set di dati di riferimento. Gli uomini, e non gli algoritmi, hanno capacità etica.
In questa nuova era abbiamo molti ingredienti a disposizione. L’eta digitale è l’età della progettazione, non della creazione.
Non ripetiamo l’errore fatto con la nascita di internet (a quel tempo l’open source ha giocato un ruolo chiave.) Di fatto internet è stata sviluppata dai vari business crescendo senza regole e ora, ogni giorno, dobbiamo affrontare i problemi che ne sono derivati. Stiamo ancora sperimentando le conseguenze di quella scelta. Abbiamo veramente imparato la lezione? E’ giunto il tempo di affrontare la trasformazione digitale su base progettuale. I sistemi digitali devono poter camminare su due gambe. Dobbiamo affiancare la gamba sociale/politica (intendo etica) alla gamba del business che sta già sviluppando l’intelligenza artificiale come fatto a suo tempo con internet.
L’ETA’ DELLA RESPONSABILITA’
La tecnologia ci offre un enorme potenziale utile a costruire il nostro futuro ammesso che lo utilizziamo bene. Dobbiamo costruire una cultura della responsabilità verso la tecnologia così che gli uomini del futuro non siano “tutto muscoli e poco cervello”. L’insieme dei valori e dei principi offerti dall’open source possono davvero avere qui un ruolo cruciale. Spero veramente che questo possa accedere nel prossimo futuro.
RINGRAZIAMENTI
Grazie a tutti!