I dilemmi dell’innovazione responsabile Parte seconda

Come si è visto nell’articolo precedente (Introduzione a un’innovazione responsabile), occorre porre attenzione al fatto che la tecnologia non è mai neutrale, ma presuppone sempre l’accettazione di un particolare insieme di valori, ereditati da chi la tecnologia l’ha progettata e realizzata.

In tale ottica, il lavoro di concezione e progetto – nel caso di un processo di innovazione “responsabile” – porta spesso a dover affrontare intricati grovigli di percorsi possibili e di fondamentali decisioni da prendere. Se gli aspetti tecnici sono in parte facilmente risolvibili con l’ausilio della tecnologia e della ricerca scientifica, altri ambiti – le scelte che influenzano la responsabilità morale del progettista – nascondono talvolta le maggiori insidie e pericoli per l’utenza finale.

In particolare, non è raro il caso in cui il progettista si trova di fronte a un “dilemma” (termine proposto spesso come espediente della retorica), cioè un problema che offre un’alternativa fra due o più soluzioni, nessuna delle quali si rivela, in pratica, accettabile.

Un esempio pratico può essere rappresentato dal “Dilemma del Tram” (o del carrello ferroviario). Questo consiste in una serie di scenari ipotetici sviluppati dalla filosofa britannica Philippa Foot nel 1967. Ogni scenario presenta un ambiente estremo che mette alla prova l’abilità etica/morale del soggetto. Nel 1985, la filosofa americana Judith Jarvis Thomson scrutò e approfondì le idee di Foot nel The Yale Law Journal.

Il problema del carrello è un esperimento mentale generalmente impiegato in etica. La forma generale del problema è questa: c’è un vagone che corre incustodito e senza conducente lungo i binari della ferrovia. Più avanti sulle rotaie, ci sono cinque persone legate e impossibilitate a muoversi e il carrello è diretto verso di loro. Prima dei cinque, c’è uno scambio ferroviario e voi siete vicini alla leva. Azionando la leva, il carrello devierà su un altro binario in cui si trova una sola persona legata.

Avete quindi in pratica due opzioni: non fare nulla, e il carrello ucciderà le cinque persone sulla rotaia principale; tirare la leva, deviando il carrello sul binario laterale dove ucciderà una persona.

Occorre anzitutto notare che questa non rappresenta una domanda etica del tutto ipotetica, poiché i moderni veicoli a guida autonoma si troveranno a dover affrontare gli stessi quesiti quando un incidente non potrà essere evitato. Il Dilemma del Carrello si riveste – d’altro canto – di una dimensione preziosa quando si tratta di valutare la responsabilità morale in un mondo ad alta tecnologia. Chi o cosa decide quando un incidente è inevitabile?

È moralmente ammissibile tirare la leva o si ha addirittura un obbligo morale di farlo? La maggior parte degli intervistati pensa, dopo alcune riflessioni e calcoli, che è moralmente ammissibile – e molti di loro hanno addirittura pensato che si abbia un obbligo morale – di salvare cinque persone, sebbene un’altra persona perda la vita di conseguenza. Eppure tirando la leva, siete voi stessi a decidere per la vita e la morte dell’uomo sul binario laterale, il quale sarebbe vissuto senza la vostra presenza, gravandovi di una responsabilità morale e di un rimorso non indifferente. D’altro canto, anche facendovi prendere dal panico e non tirando la leva, il rimorso di non aver fatto nulla potrebbe insediarsi permanentemente in voi.

Del resto, si era anticipato che un dilemma spesso rappresenta un problema senza soluzioni pratiche completamente accettabili. Tuttavia, non interessa valutare le implicazioni etiche e filosofiche del dilemma, quanto invece porre l’attenzione – attraverso questo esperimento mentale – su come l’approccio verso il pensiero di un’innovazione responsabile richieda sempre un punto di vista e una valutazione su scelte di natura morale.

Tornando all’esempio delle automobili a guida autonoma, queste si troveranno inevitabilmente ad affrontare situazioni in cui è necessario scegliere tra incidenti alternativi. Ma cosa sceglieranno se un veicolo, proveniente dalla direzione opposta, sta per provocare un incidente e ci sono solo due opzioni: entrare in collisione con quel veicolo o cambiare direzione all’improvviso e investire un pedone? Il veicolo automatico dovrà scegliere e lo farà in base alle istruzioni fornite dai progettisti.

Il progetto di un’innovazione responsabile porta necessariamente con sé un grande numero di dilemmi da affrontare. Un approccio semplicistico al problema, purtroppo finora sempre utilizzato in industrie non responsabili, è quello di scartare uno dei due requisiti ritenendolo non obbligatorio. In questo modo il dilemma svanisce, diventa solo un problema apparente, con tutte le conseguenze negative verso l’utilizzatore finale dell’innovazione. Il produttore di quella tecnologia si è pertanto assunto la responsabilità (che farà così ricadere su tutti gli utilizzatori) di non aver adempiuto quello specifico obbligo morale (es: sostenibilità ambientale, sicurezza, privacy, salute, ecc.).

Chi può/deve prendere la decisione di fermarsi, quando il processo di progettazione non soddisfa il bene della collettività ma solo i criteri economici dell’industria di produzione? Alcuni semplici esempi consentono di visualizzare meglio il problema delle responsabilità morali non assunte:

• Telecamere di sorveglianza: sicurezza o privacy?
• Centrali nucleari: energia sicura o sicurezza delle persone?
• Droni militari in missioni di guerra: siamo meno responsabili delle nostre azioni per il solo fatto di non essere a bordo del velivolo che sgancia la bomba?
• Motori a carburanti fossili: prosperità o sostenibilità ambientale?

Nell’odierna società competitiva e in costante rapida trasformazione, le strategie aziendali si concentrano unicamente sul soddisfacimento delle esigenze dei consumatori e della domanda di mercato, per dare risposte a soci, Consigli di Amministrazione, azionisti. Tuttavia, è fondamentale imparare a integrare l’innovazione responsabile come un altro – altrettanto importante – obiettivo strategico per affrontare le sfide del nuovo mondo.  Ciò potrà essere possibile solo imparando a mettere in discussione sia i bisogni che le soluzioni, misurare l’impatto diretto delle innovazioni e cercare di valutare i loro potenziali riflessi indiretti.

Allora – e solo allora – si potrà essere in grado di realizzare veramente un’innovazione responsabile, che avrà un impatto diretto sul mercato, modificando il tessuto della nostra società attraverso una maggiore attenzione alle responsabilità morali, verso cui ciascun individuo dovrebbe sentirsi impegnato.