The Moral Machine. Umani ancora alla guida? Ma cosa accadrebbe se un’automobile “autonoma” si trovasse di fronte questa immagine: una bambina, un cane e una sedia.
“saremo fortunati se in futuro le macchine intelligenti ci terranno come animali da compagnia” Marvin Minsky
Diamo per assodato che sappia anche riconoscerli; mettiamo anche che sia in grado di rispondere a domande quali: dove ti siederesti? Chi è più probabile che morda chi? In questa foto chi potrebbe diventare un avvocato? E mettiamo anche che sia in grado, accedendo alla conoscenza collettiva umana, di capire che un cane è più probabile che morda una bambina che il contrario o di sapere che mai un cane è diventato un avvocato.
Ma come risponderebbe alla domanda “Se dovessi salvare durante un’emergenza solo uno dei tre (cane, sedia o bambina) chi salveresti?” Se andasse a guardare i dati dei salvataggi durante i disastri, il sistema di intelligenza artificiale imparerebbe che di norma in un’emergenza vengono salvati persone e animali e ridurrebbe a due la scelta. Ma quale sarebbe a questo punto il criterio successivo che userebbe, potendo salvare solo il cane o la bambina? Quanto tempo impiegherebbe per prendere una decisione? E chi determinerebbe che si tratta della scelta sbagliata e ci sarebbe ne caso un qualche modo per allenare l’intelligenza artificiale a prendere una decisione diversa? Hendler e Mulvehill autori di Social Machines
Al MIT hanno lanciato una piattaforma aperta che indaga proprio quest’ultimo aspetto in relazione alle macchine a guida autonoma. L’hanno chiamata “la macchina morale” (The Moral Machine).
Agisce proponendo agli umani una serie di scelte etiche opzionali in caso di pericolo o emergenza, sulle quali chiede volontariamente di pronunciarsi. Le risposte a questi dubbi etici andranno costruite collettivamente e rapidamente nei prossimi mesi e anni. Chiaramente, stiamo andando verso un’intelligenza artificiale che è chiamata a interagire in modi tradizionalmente riservati alla socialità umana.
Provateci anche voi!
Il presente articolo è un estratto del saggio di Cosimo Accoto
“il mondo dato: cinque brevi lezioni di filosofia digitale”
Spazio, tempo, esperienza, soggettività, apprendimento, legge, sovranità, realtà: in un mondo in cui sembra che tutto sia destinato a diventare programmabile e in un’epoca che pare segnata dal dominio del codice software, dei sensori, dei dati, degli algoritmi, dell’intelligenza artificiale e delle piattaforme, anche i grandi temi della filosofia sono oggetto di ripensamento. Grande merito del libro è da un lato presentare per la prima volta al lettore italiano le frontiere più avanzate, a livello internazionale, del pensiero e della filosofia digitale, dall’altro riuscire a farlo non solo in maniera semplice e sintetica ma soprattutto con un approccio nuovo, che di questi concetti indaga impatti tecnologici e ricadute strategiche per lo sviluppo di business -digitali, algoritmici e artificiali – sempre più innovativi [Egea]
Cosimo è visiting scientist presso il Sociotechnical Systems Research Center del MIT di Boston, affiliato al MIT IDSS Institute for Data, Systems and Society. https://cosimoaccoto.com/
