Le auto a guida autonoma avranno una coscienza?

E’ il 2035. Stai armeggiando con il tuo iPhone 37 e siedi nell’abitacolo di una vettura a guida autonoma. All’improvviso un gruppo di persone attraversa la strada ed occupa la traiettoria che l’automobile si trova a percorrere. In quale modo reagirà il software di controllo? Di questo interrogativo prova ad occuparsi il Wall Street Journal, secondo cui le driverless car dovranno avere una propria coscienza ed un’etica alla quale affidarsi in situazioni di pericolo, che possano guidarle nelle situazioni in cui una persona agirebbe d’istinto. Ad esempio: travolgere il gruppo descritto in precedenza oppure virare intenzionalmente verso un lato della strada, anche qualora sia presente un muro (con gravi conseguenze per noi che ci troviamo dentro l’abitacolo)?

Il WSJ prende spunto da una ricerca condotta da psicologi che lavorano per il MIT, la University of Oregon e della Toulouse School of Economics. Gli autori della ricerca hanno spiegato che “è difficilissimo ottenere un algoritmo che porti quelle auto a gestire dilemmi morali di questo tipo”. Su Il Post leggiamo che

Le auto che si guidano da sole dovranno raggiungere tre obiettivi: essere coerenti, evitare la pubblica indignazione e non scoraggiare i loro possibili futuri acquirenti. La coerenza impone di fare decisioni simili in simili condizioni, il problema della pubblica indignazione riguarda le conseguenze che un incidente con la morte di molti pedoni avrebbe per chi ha progettato e venduto l’auto, il problema dei futuri acquirenti ha a che fare con il fatto che non tutti vorrebbero che l’auto che hanno comprato scegliesse di sacrificare loro al posto di altri

I ricercatori sostengono che le vetture a guida autonoma dovranno conoscere i fondamentali dell’utilitarismo, ovvero di quel ragionamento che porta un umano a sacrificare una vita anziché molte. Il problema è che quella vita potrebbe essere della persona all’interno dell’auto. “Chi comprerebbe un’auto programmata per sacrificare il suo proprietario?”, si chiede Il Post. Potrebbero non farlo quelle persone intervistate nell’ambito dello studio: il 75% di loro ritiene moralmente giusto evitare i pedoni, ma solo il 65% considera giunto che le driverless car debbano essere programmate per farlo.

Allo stesso tempo è complicato stabilire chi dovrà decidere il livello di moralità: i governi, le aziende costruttrici oppure gli stessi automobilisti? “Se chi vende un’auto offre diverse versioni di moralità dell’algoritmo e un acquirente ne sceglie consapevolmente uno – leggiamo ancora su Il Post –, la colpa per un eventuale incidente sarebbe di chi ha venduto o di chi ha comprato?”. Il tema dimostra quante e quanto significative siano le questioni da risolvere prima che le auto a guida autonoma possano davvero arrivare sul mercato.