Etica e progettazione delle tecnologie, un approccio umanistico alla scienza

In questi anni algoritmi e Intelligenza Artificiale sono argomenti che si stanno diffondendo a macchia d’olio e attirano sempre di più l’attenzione, in particolare per le loro implicazioni nella vita di tutti i giorni. Oggi, il ruolo ancor più invasivo delle tecnologie mette al centro anche temi etici che riguardano tutti: dall’etica ai limiti dei progettisti delle piattaforme tecnologiche per arrivare al ruolo dei cittadini e dei consumatori, in uno scenario che sta cambiando anche diversi settori del mondo del lavoro.

Si va dalla rivoluzione della mobilità con la guida autonoma, all’evoluzione degli algoritmi, per arrivare alla Smart factory e ai Big data analytics. E in una prospettiva che sta cambiando così velocemente, il mondo politico è un attore fondamentale per la gestione di questi mutamenti. Del ruolo di chi progetta le nuove tecnologie ne abbiamo parlato con Viola Schiaffonati, Professore Associato di Logica e Filosofia della Scienza al Politecnico di Milano.

Siamo in un periodo cruciale nello sviluppo tecnologico, in cui algoritmi e Intelligenza Artificiale sono sempre più presenti nella vita di tutti i giorni. La responsabilità nella creazione di nuove tecnologie diventa quindi fondamentale. Qual è il ruolo dei progettisti?

Di questi tempi si parla molto delle responsabilità riguardanti lo sviluppo delle nuove piattaforme, ma il tema viene trattato principalmente da un punto di vista passivo. Significa che, quando accade qualcosa di negativo, pensiamo a una possibile conseguenza della guida autonoma delle macchine oppure a effetti collaterali in strumenti dove la spina dorsale è un algoritmo, c’è la tendenza a cercare responsabilità retroattive che in diversi casi guardano all’utilizzo di uno strumento.

Interessante è invece un approccio che guardi alla responsabilità attiva, perché già dalle fasi iniziali bisogna pensare a sistemi che non presentino conseguenze negative e che, eventualmente, possano portare effetti benefici. Quindi non bisogna solo cercare di prevenire gli effetti negativi, ma anche ricercare gli effetti positivi.

Come si fa?

Occorre rendersi conto che stiamo parlando di problemi molto complessi che non hanno una soluzione unica, corretta e data una volta per tutte, ma ci sono elementi che possono aiutare e penso, per esempio all’interdisciplinarità. Oltre all’unione di competenze diverse, il secondo elemento è che questa collaborazione deve essere attivata fin dall’inizio, quando le scelte progettuali sono ancora aperte, per orientare lo sviluppo futuro della tecnologia.

Progettisti, tecnici, designer, filosofi, sociologi, esperti di etica e di diritto, policy makers devono lavorare insieme da subito. Inoltre, è fondamentale anche la formazione dei futuri tecnologi, che non devono diventare degli esperti di etica, ma che devono affinare la loro sensibilità per la complessità di questi temi e anche la loro capacità di lavorare in maniera interdisciplinare con esperti di etica.

Esiste qualcosa di concreto per lavorare con un approccio di questo tipo?

L’Unione europea ha già fatto diversi passi in questa direzione, con la creazione di due framework inseriti nell’ambito del progetto Horizon 2020. Si tratta della Responsible Research Innovation (RRI) e del Value Sensitive Design (VSD).

La RRI implica che i vari attori della società lavorino insieme nei processi di ricerca e innovazione, in modo da allineare i risultati con valori, bisogni e aspettative. Un approccio che migliora l’engagement nella ricerca e rende i risultati scientifici di più facile accesso. Il VSD, invece, è un approccio che considera i principi e i valori degli esseri umani quando si sta progettando una piattaforma tecnologica.

Come si applicano questi strumenti?

Per quanto riguarda chi crea le nuove piattaforme, è necessario pensare a una sorta di capovolgimento della prospettiva. Cercare di valutare le conseguenze che una piattaforma tecnologica può avere significa orientare la progettazione e quindi stimolare conseguenze positive.

È impossibile fare questo senza che la ricerca abbia un approccio interdisciplinare. L’Europa in questo senso stimola la condivisione, in particolare con la RRI, che vuole coinvolti tutti gli attori. L’ingegnere deve lavorare insieme con l’utente e con i policy maker. La politica, infatti, deve avere un ruolo attivo, perché il ruolo di indirizzo è fondamentale e non può prescindere da una preparazione di un certo tipo. A livello europeo c’è molta attenzione a questi temi, nell’ottica di uno sviluppo integrato della piattaforme di domani.