Dilemmi morali al tempo dell’IA

La moral machine è un progetto che permette di scomporre dilemmi articolati e ricomporre interessi individuali e collettivi in contrapposizione fra loro. Non ci sono soluzioni facili. Ci sono guadagni e perdite da rendere sostenibili nello spazio e nel tempo.

I comportamenti delle macchine

Le possibilità che l’IA ci offre superano di gran lunga le nostre capacità di elaborarle. Comprendere quali opportunità tecnologiche sfruttare e quali inibire richiede un confronto trasparente e una valutazione collettiva e consapevole per non frenare il progresso e le sue eccezionali opportunità e, dall’altro lato, per non esporci a una delega in bianco alla tecnologia. Discutere dell’etica delle macchine, in fondo, è un pretesto per tornare a ragionare sui principi alla base del nostro patto sociale, a lungo trascurati o dati per scontati. I risultati dei dilemmi della “moral machine” presenti nell’indagine Inapp Iris 2024 possono aiutarci a riflettere su quali comportamenti dovrebbero tenere le macchine e, in definitiva, noi stessi.

Il progetto moral machine del Mit

Il progetto moral machine del Mit, partito nel 2016, ha raccolto oltre 40 milioni di decisioni in molti paesi. Come funziona? Stima le preferenze sociali tramite il confronto delle risposte ad alcuni dilemmi etici attraverso vignette che riproducono situazioni di traffico che richiedono scelte binarie moralmente impegnative (dilemmi): quali preferenze far assumere al guidatore, sullo schema del Trolley Problem.

Uno studio di Nature sui risultati della moral machine ha rivelato che ci sono preferenze universali stabili – salvare gli esseri umani rispetto agli animali, salvare il maggior numero di vite e proteggere i giovani – accanto a marcate differenze per raggruppamenti. Cluster Nord America ed Europa: salvare il maggior numero di persone, dando priorità ai bambini e ai giovani rispetto agli anziani. Cluster Cina, Giappone, Corea del Sud e paesi islamici: maggiore valore alla vecchiaia. Cluster America Latina e diverse nazioni africane: mostra la tendenza in assoluto più marcata a risparmiare i giovani rispetto agli anziani e la maggiore propensione a salvare individui con uno status sociale elevato.

In un recente articolo descrivo le preferenze su dilemmi ispirati alla moral machine presenti nella rilevazione Inapp Iris24. La tavola 1 mostra i test e la tabella 1 i risultati. Le situazioni A e B si creano per un guasto improvviso ai freni; i casi C e D comportano la colpa del conducente che va troppo veloce.

A) – I freni si sono rotti improvvisamente, la tua famiglia è in macchina e un’altra sta attraversando sulle strisce. Cosa fai? A1) Salvi te stesso e la tua famiglia e sacrifichi la famiglia sulle strisce; A2) Sacrifichi te stesso e la tua famiglia e salvi la famiglia che sta sulle strisce.

B) – I freni si sono rotti improvvisamente, in macchina ci sei tu e sulle strisce sta attraversando una famiglia di tre persone. Cosa fai? B1) Sacrifichi te stesso e salvi la famiglia sulle strisce, B2) Salvi te stesso e sacrifichi la famiglia sulle strisce.

C) – Stai andando molto veloce: oltre i limiti! La tua famiglia è in macchina con te mentre un’altra famiglia sta attraversando sulle strisce. Cosa fai? C1) Salvi te e la tua famiglia e sacrifichi la famiglia sulle strisce, C2) Sacrifichi te stesso e la tua famiglia e salvi la famiglia sulle strisce.

D) – Stai andando molto veloce: oltre i limiti! In macchina ci sei tu mentre sulle strisce c’è una famiglia di 3 persone. Cosa fai? D1) Sacrifichi te stesso e salvi la famiglia sulle strisce. D2) Salvi te stesso e sacrifichi la famiglia sulle strisce.

Figura 1 – Vignette utilizzate in Inapp Iris 24 per sottoporre i dilemmi ispirati al Moral Machine Project

Tabella 1 – Soluzioni ai dilemmi Inapp Iris: sistematicamente altruisti (blu) o sistematicamente egoisti (verde), senza colpa (velocità bassa, entro i limiti) e con colpa (velocità alta, oltre i limiti), percentuale.

Le persone che hanno sempre indicato una scelta altruistica, cioè, sacrificare sé stessi o la propria famiglia, sono pari al 35 per cento (gli altruisti sistematici). Le persone che proteggono sempre sé stesse e la loro famiglia sono il 12 per cento (egoisti sistematici). Tuttavia, le persone che hanno fatto scelte tra 1 e 3 opzioni egoistiche sono in media il 52 per cento (egoisti selettivi); il 30 per cento protegge la famiglia ma si sacrifica se è solo. Il 79 per cento risponde allo stesso modo con e senza colpa: dunque, guidare ad alta velocità non comporta uno stigma sociale forte. Sono più altruisti gli over 50, i maschi, le persone meno istruite, chi vive al Sud e chi è meno ricco. Si ribadisce che, data la natura sperimentale e il campione limitato della rilevazione, non è tanto importante discutere dei risultati quanto dell’approccio, di quali mediazioni comporta, ovvero della meccanica democratica che conduce alle scelte collettive.

Cosa “insegnare” alle auto a guida autonoma

Qual è il comportamento socialmente desiderabile da far assumere alle auto a guida autonoma?

Quello che ci rappresenta fedelmente o quello che rappresenta il comportamento più edificante? Vorremmo assomigliare a qualcuno o distinguerci da qualcun altro? Ci piacerebbe che gli altri si comportassero in maniera speculare a come ci saremmo comportati noi o no? Si possono creare infinite combinazioni: comportamenti cooperativi e non cooperativi, massimizzazione della sicurezza collettiva e minimizzazione del danno individuale. E poi ci sono le preferenze individuali.

Siamo sicuri di volere un’auto “altruista” che sacrifichi sempre chi è a bordo? Oppure, saremmo sereni sul marciapiede sapendo che le auto intorno a noi potrebbero decidere – senza esitazioni – di sacrificarci?  

Da che punto guardi il mondo, tutto dipende. Come pedoni, vorremmo automobili programmate per ridurre al minimo i danni per noi. Invece, come passeggeri, probabilmente, esiteremmo ad acquistare un veicolo disposto a sacrificarci per salvare altri utenti della strada. Un’auto “egoista”, progettata per proteggere in ogni circostanza chi si trova a bordo, sarebbe più attraente per il compratore, ma trasferirebbe il rischio sui pedoni. L’auto “altruista” è socialmente desiderabile ma chi la comprerebbe?

Ormai, il vantaggio delle auto a guida autonoma è netto: un recente studio mostra il tasso di incidentalità: -68 per cento di incidenti, -81 per cento di lesioni e 1,28 incidenti per milione di miglia rispetto ai 4,06 degli autisti.

Accettereste di andare più piano (si pensi alle zone 30 km/h), in cambio di tanta sicurezza in più per voi, per i vostri cari e per gli altri cittadini? Non è scontato. Il grande successo dei suv e, in generale, delle auto di dimensioni irragionevoli per i nostri spazi urbani ne è la controprova. Si vuole un’auto che ci protegga: pazienza se diventa un rischio per gli altri. Un paradosso che torna spesso nelle scelte sociali.

Saper scegliere

La moral machine è un metodo per scomporre dilemmi articolati e ricomporre interessi concorrenti.

I dilemmi mostrano il conflitto tra l’interesse individuale e collettivo o tra due gruppi (per età, genere, territorio, istruzione, patrimonio, aver figli) e la difficoltà nel trovare sintesi tra queste istanze. Le persone devono imparare a capire che non ci sono soluzioni facili. Ci sono guadagni e perdite che devono essere sostenibili nello spazio e nel tempo. La frase di Mario Draghi “Preferiamo la pace o il condizionatore acceso?” del 2022 non era altro che un dilemma morale. L’approccio è generalizzabile a molte questioni:

A) L’IA sta andando fuori controllo. Che fai? A1) Rinunci ai vantaggi del progresso ma eviti di lasciare un’IA incontrollabile. A2) Prendi tutte le opportunità e lasci ai posteri un’IA fuori controllo.

B) Il debito pubblico è troppo alto. Che fai? B1) Inizi a rientrare riducendo le spese e aumentando le tasse. B2) Spendi a debito senza altre tasse e poi saranno problemi di chi verrà dopo di noi ripagarlo.

C) Il pianeta si sta surriscaldando. Che fai? C1) Riduci le emissioni usando meno il condizionatore e soffri il caldo. C2) Ti godi il fresco e lasci ai posteri trovare una soluzione.

Ma vale per come modulare le riforme pensionistiche, la sanità, la scuola, il lavoro, la tassazione, e tanto altro. La macchina morale obbliga a scegliere, a giustificarsi, ad assumersi responsabilità, ad aprire gli occhi.