Il primo morto nell'ambito del self-driving

[deltax]

WALTERmwp, permettimi di avere qualche dubbio in merito...ho letto le prime due pagine prima di rispondere, mi sembra che la confusione tra le due cose permanga, a partire dal titolo del 3d. Seppure assumiamo che l'argomento si sia sganciato, almeno il titolo si deve riferire ai fatti descritti in OP, quindi la denominazione "self-driving" non è propriamente corretta. Inoltre nei vari post delle prime pagine ho letto la ricorrenza di questo termine o di "guida autonoma". Di fatto, la macchina non si stava guidando da sola. E' solo una forma un po' più evoluta di cruise control...
Poi bhò, spero per la qualità del forum che tu abbia ragione e che si sottointendeva, nei post che ho letto, sganciarsi dal singolo eveneto e parlare effettivamente solo di guida autonoma.

[boiler]

- tu sei seduto alla guida, questo è quello che vedi dalla tua auto
- a sinistra ci sono dei massi e un pezzo di muro
- c'è una BMW grigia che ci sta venendo incontro
- a destra c'è un posteggio dove la gente si ferma ad ammirare il panorama, a far pisciare il cane et simila. Ora è vuoto, ma immaginati che sia pieno. Spero che questo non strapazzi troppo la tua miserabile capacità di astrazione.
- a questo punto non è proprio impossibile che un cane corra in strada. O un bambino. O quello che ti risulta piú consono.

Se sei tu alla guida non me ne frega niente di quello che fai e del perché lo fai.
Se è la tua auto a guidare autonomamente, quelli che per noi sono pochi ms, per lei è abbastanza tempo per prendere una decisione in base a criteri che sono stati definiti da chi l'ha programmata. Sono questi criteri (il termine "metrica" ha forse strapazzato un po' il tuo cervello) di cui stavo parlando.

E non ho scritto da nessuna parte che l'auto autonoma non s'ha da fare. Sono completamente favorevole alla ricerca in questo campo. Senza che per questo consideri tutto facile e semplice.

Boiler

[richiurci]

boiler, il programma riconoscerà cane e bambino, le loro traiettorie e l'assenza di separazione tra strada e parcheggio.

Quindi rallenterà in tempo.


Nel caso qualcuno ci vada di mezzo semplicemente le assicurazioni copriranno anche questi casi, se tali strumenti verranno omologati.

Non mi risulta di clausole che escludano i risarcimenti se stai guidando col cruise control, che faccio presente è comunque un sistema che rende l'accelerazione indipendente dalla nostra volontà e quindi i tempi di arresto maggiori.
Io infatti lo uso solo con strada quasi sgombra, si tende ad allontanare il piede dalla pedaliera e i tempi di reazione si allungano molto.

[boiler]

boiler, il programma riconoscerà cane e bambino, le loro traiettorie e l'assenza di separazione tra strada e parcheggio.

Quindi rallenterà in tempo.

Se ha tempo
Ho parlato di cane o bambino proprio perché non sono ostacoli fermi e prevedibili.

Non parlavo neanche di una questione assicurativa, ma proprio etica. La situazione che ho descritto è sì costruita ad hoc, ma non è impossibile che succeda. Dato che non hai spazio a sinistra, o investi l'ostacolo o investi qualcuno sul posteggio. La domanda è chi?

Io non conosco la risposta, ma mi pare che sia una domanda importante.
E non l'ho inventata io, se si fa un minimo di ricerca in internet, è un tema importante.

Si potrebbe dire che usiamo la funzione random e lasciamo decidere a lei chi muore.
Ma ti posso garantire che non tutti saranno d'accordo. Soprattutto non dopo il primo incidente del genere e le case costruittrici dovranno vedersela con richieste di rimborso.

Boiler

[WALTERmwp]

(...) e le case costruittrici dovranno vedersela con richieste di rimborso.

praterie sconfinate con campi coltivati per produzione di materia giurisprudenziale, non se ne verrebbe fuori.

Saluti

[Brianz]

WALTERmwp, non è che una macchina possa essere etica (usiamo questa parola ed escludiamo la parola morale che sembra produrre orticaria a troppi).
L'Etica è un fatto umano, non esiste neppure nella natura, perché è la prassi della libera volontà che ha come controparte la responsabilità. Una macchina, per quello che intendiamo noi per macchine, non potrà mai avere una etica, se non per quanto hanno avuto i creatori dei suoi programmi. E quindi neppure libera volontà e, di conseguenza, responsabilità.
Se sei in dubbio, applica il principio ad un caso pratico: una macchina ferisce un operaio durante un uso adeguato. La viene condannata la macchina o il costruttore?

Quello che sto cercando di evidenziare è il fatto che , a mio parere, troppi sono affascinati (nel senso originario della parola) da ogni chimera di quel progresso tecnologico che riteniamo essere l'indice primario della civiltà, tanto da ritenerlo superiore e quindi esente dall'Etica.
Vale ampiamente ancora il si-fa-perchè-si può-fare , senza cercare almeno una visione di insieme.

E c'è anche una tendenza, propria del nostro periodo alla deresponsabilizzazione: l'oggetto lo compro io, lo uso io, ma non mi interessa come è fatto, come è stato realizzato e la responsabilità di quello che succede non è certamente mia, ma di chi lo ha costruito. Fatto analogo al demandare ad assicurazioni o legulei la trasformazione di un accident in denaro, sorta di guidrigildo moderno con cui si monetizza ogni cosa, comprese la vita e la morte.

[cronos80]

Mi sono letto tutti gli interventi e nessuno ha fatto un'osservazione molto importante: il sistema ha tutti i dati per decidere?
Uno dei miei hobby è la fotografia e mi capita spesso di dover mettere mano alle impostazioni automatiche perché c'è troppa luce o ce n'è troppo poca o c'è troppa differenza di luminosità tra sfondo e soggetto o sono contro sole...potrei continuare per un'altra paginetta, senza nemmeno toccare l'argomento obiettivi.
Allo stato attuale sensori che riescano a percepire tutta la gamma dinamica che percepisce l'occhio umano non ne esistono. A chi non è capitato di fare una foto in controluce con i soggetti troppo scuri?

Un'altra osservazione che farei è che parliamo di computer che sono più veloci degli esseri umani, io non ne sarei tanto sicuro: un computer non ha la stessa capacità di filtrare, analizzare e sintetizzare la mole di informazioni e stimoli che offre il mondo che ci circonda. I computer lavorano su modelli che per definizioni sono approssimazioni, l'essere umano lavora su dati grezzi.
L'istinto che tanto bistrattiamo perché non razionale fa sì che riusciamo a camminare, correre, non cadere quando inciampiamo.

[WALTERmwp]

Mi sono letto tutti gli interventi e nessuno ha fatto un'osservazione molto importante: il sistema ha tutti i dati per decidere? (...)

(...) Se un sistema di self-driving dovesse essere omologato sarebbe, quantomeno, affidabile (...)

... ovvero lo si ritiene (a torto o a ragione) in grado di gestire il mezzo, quindi si parte dal presupposto che avrebbe tutte le informazioni utili e necessarie ad operare una scelta.
Condizione irraggiungibile ?
Non so, ma a quella si tende con la ricerca.
Poi, certamente, condivido l'osservazione sull'estrema difficoltà (non scrivo di impossibilità) insita nella determinazione del contesto.

Saluti

[dadduni]

Secondo me il discorso "morale" è pittosto facile da risolvere semplicemente perché in casi di estremo pericolo neanche un essere umano è morale. Magari in quella situazione della fotografia un uomo avrebbe un po' sterzato e un po'frenato sbandando uccidendo molte persone invece un Processore avrebbe mantenuto il controllo del veicolo uccidendone 1 (o il bambino o il cane o il conducente).

Non ho capito perché si parla di richieste di risarcimento. Se l'automobile viaggia entro i limiti compie una manovra in tempo e non infrange nessuna legge non ha colpe: magari i genitori del bambino devono risarcire i danni alla macchina perché i cani vanno al guinzaglio e un bambino non deve correre sul ciglio di una strada la colpa mi pare dei genitori al 100%.

Sono forse troppo freddo?
Davide

[richiurci]

non sei freddo, sei razionale.

Rispondo anche a boiler e ad altri: che c'entra la morale? Veramente credete che nei momenti di panico noi riusciamo a ragionare "moralmente"?

E che morale sarebbe? Magari decidere di uccidere una donna invece che due bambini, senza sapere che è in attesa di due gemelli, a casa ha altri due figli e genitori anziani e marito invalido da accudire (minchia che sfigata).

E' morale un sistema che riduce i rischi, tutto qui, e che comunque potrebbe avere in memoria molte più informazioni per scegliere "moralmente" di quelle che riusciremmo a elaborare noi in pochi istanti.

Comunque ripeto, si tratta di normativa. Se questi sistemi verranno accettati pagheranno le assicurazioni, che ricordo pagano proprio nei casi in cui abbiamo torto, cioè abbiamo sbagliato qualcosa.

Se un bimbo mi attraversa la strada improvvisamente (magari saltando da dietro un camion) e lo ammazzo, e si dimostra che è stato dovuto solo alla sua imprevedibilità e all'insufficiente controllo dei genitori, il rischio che l'assicurazione non paghi c'è pure se guida un umano