Il primo morto nell'ambito del self-driving

[WALTERmwp]

Ho provato a dare interpretazioni senza fare esempi come questo

(...) Magari decidere di uccidere una donna invece che (...)

sopra ripreso, o altri ancora; li ritengo fuorvianti per la prospettiva della specifica questione, malgrado siano, in generale, veramente importanti e interessanti.
Questa discussione mi ha portato a ricordare il romanzo fantascientifico di Asimov: "L'uomo bicentenario".

Saluti

[boiler]

Rispondo anche a boiler e ad altri: che c'entra la morale? Veramente credete che nei momenti di panico noi riusciamo a ragionare "moralmente"?

Capisco che è un thread lungo, con molti messaggi e magari ci si stufa di leggere tutto, ma... messaggio 12:

Un umano d'istinto frena, anche se lo spazio non basta per fermarsi, quello che succede succede... e nessuno farà dei rimproveri perché in una situazione del genere non c'è tempo di fare un'analisi e reagire in modo ponderato.

Risponde alla tua domanda?

E' morale un sistema che riduce i rischi, tutto qui, e che comunque potrebbe avere in memoria molte più informazioni per scegliere "moralmente" di quelle che riusciremmo a elaborare noi in pochi istanti.

È esattamente quello che sto cercando di dire, forse la permanenza in Svezia mi sta rovinando la capacità di esprimermi in italiano?

La questione (chiamala poi morale, etica, algoritmo di decisione, intelligenza artificiale, Siri, Cortana, programma, firmware... o come preferisci) è la seguente: una macchina non ha istinti, non ha reazioni spontanee e non ha fantasia.

Quindi se deve prendere una decisione (continuare dritto o cercare di scansare a destra) lo fa in base ad un programma.

E il programma ha un certo numero di inputs: tipo di ostacolo, numero di ostacoli, probabilità di stenderli, eccetera.
In base a questi input calcola un punteggio-danno e sceglie la traiettoria con il punteggio minore.

Ripeto per l'ennesima volta la domanda: diamo lo stesso punteggio ad un bambino, ad un adulto, ad un anziano e ad un cane? O facciamo delle distinzioni?
E in un gruppo, prendiamo la somma dei danni o il danno piú alto (funzione somma o max)?

Non è una domanda di ingegneria.
È un'altra branca, che ho chiamato "morale" facendovi venire i bruciori di culo.
Chiamatela come cazzo vi pare, io ho finito con questo thread.

Boiler

[Brianz]

Considerate che tra un uomo, un animale e una macchina ci sono evidenti differenze.

Nell'uomo, l'etica ha come controparte la responsabilità, cosa che né la macchina né l'animale possono avere.
L'Etica si esprime nel Diritto, la cui controparte sono i doveri. Cosa che né macchina né animale possono avere.

Se escludete questo, allora uomo, macchina, animale non hanno più differenza, perché l'Etica non esisterebbe. In tal caso si toglie ogni vincolo a quanto realizzabile. Non è una bella prospettiva, penso.

Quello che intendo, e che mi pare qualcuno condivida, è che l'aumento della tecnologia senza un corrispondente aumento dell'Etica non può condurre a un futuro positivo.
Il crescere della sola tecnologia non è il crescere della civiltà, ma solo dell'aspetto di dominio reso possibile dalle macchine.

Quindi, ben lungi dal voler bloccare lo sviluppo tecnologico, ritengo che sia indispensabile contemporaneamente sviluppare quanto è proprio dell' umano, rendendosi coscienti delle scelte e delle responsabilità collegate.

[Brianz]

Non penso che i progressi nel campo dell’intelligenza artificiale saranno necessariamente benigni. Una volta che le macchine saranno in grado di migliorare se stesse da sole, non possiamo predire se i loro obiettivi saranno gli stessi dei nostri.
A causa del grande potenziale positivo dell’intelligenza artificiale, è importante che venga analizzato il modo in cui possiamo trarne benefici, evitandone al tempo stesso le potenziali insidie. I nostri sistemi di intelligenza artificiale dovranno fare quello che noi vogliamo che facciano, non il contrario. Per questo è importante e opportuna un’analisi su come renderli un elemento positivo per l’umanità
E di sicuro non siamo diventati meno avidi o meno stupidi.

Non lo dico io, ma Stephen Hawking.
L'intervista è disponibile come filmato nel web.

[PaoloLiutaio]

Secondo me la dice lunga il fatto che sui Captcha (o quelle robe li) per verificare che tu sia un essere umano ti chiedono di "selezionare tutte le immagini con segnali stradali ( auto)", perché un bot non è in grado di farlo...

[SandroCalligaro]

Questo thread mi ha fatto venire in mente una domanda che mi faccio ogni tanto:
dormirei la notte, se fosse uno sviluppatore di algoritmi per una cosa così complessa e pericolosa come la guida autonoma?

Un conto è sbagliare quando sei in auto e ti trovi in una situazione imprevista, avendo pochi centesimi di secondo per provare a fare la cosa migliore o la meno peggiore. Si sa che più di tanto non è possibile fare.
Un altro è sbagliare per una disattenzione, per un errore di ragionamento, per non aver voluto fare una verifica in più, in ogni caso a freddo, in un laboratorio o in una sala riunioni, durante lo sviluppo o la messa in produzione.
Dal punto di vista della propria coscienza, non credo sia la stessa cosa. Certo, tutti noi ogni tanto coscientemente aumentiamo la probabilità di incidenti, ad esempio andando oltre i limiti di velocità, ma causiamo un incidente, non un'intera fattispecie di incidenti.

Molto probabilmente la guida autonoma forse causerebbe meno incidenti di quanti ne causino i guidatori umani, per cui forse anche un algoritmo non proprio perfezionato andrebbe già bene. Però, chi si caricherà della responsabilità di una parte consistente di tutti gli incidenti?

In altri campi ci sono soluzioni che, nonostante siano state proposte dalla ricerca da tempo, e nonostante siano molto più semplici della guida autonoma, non vengono applicate perché considerate non abbastanza affidabili.
Errori negli algoritmi di controllo possono andare dal semplice bug software all'errore di modellazione del sistema, ma in questo caso la complessità è molto alta, credo sia molto difficile se non impossibile persino calcolare una probabilità di errore o di "guasto", tanto meno le conseguenze.

Ho l'impressione (ma è solo un'impressione) che la recente smania di sperimentare su strada e portare in produzione la guida autonoma sia dettata un po' troppo dalla voglia/necessità da parte dei costruttori di "esserci". O forse per ora c'è più fumo che arrosto.
Più che essere scettico, sono curioso!

[richiurci]

Ma qui vi ponete troppe domande... e mi sembra siano dovute solo al fatto che tutti sappiamo guidare.

A parte ABS, EBD, Cruise control e altri automatismi che avete accettato...ma cavoli in un 3d di elettronica vi ponete certi dubbi...

MORALE? La morale in questo campo è nelle REGOLE, e nel software la morale/regole ce le metteranno i programmatori.

Ma immagino lo sappiate che in TUTTI i campi di assistenza "alla guida" i computer agiscono MEGLIO degli umani, specie se ci sono decisioni complesse da prendere? Dalla guida di aeroplani con la nebbia (atterraggio/decollo automatizzati) a quella di astronavi e vettori spaziali.

Poi, come per la Tesla, se questi sistemi vi preoccupano tanto, o se si dimostreranno parzialmente inaffidabili, basterà precisare che sono solo un ausilio, e magari imporre in qualche modo (es mani sul volante) la presenza del pilota.

[SandroCalligaro]

La morale in questo campo è nelle REGOLE, e nel software la morale/regole ce le metteranno i programmatori.

Appunto. Non è un compito facile, quello di estrapolare ed implementare le regole di controllo per un'operazione complessa come la guida!
Va molto al di là di quello che finora è stato realizzato. Chi lo realizza si prende una bella responsabilità, tutto qui.

[PaoloLiutaio]

Personalmente mi sarebbe tornato utile un sistema che si accorge se stai andando fuori strada e agise di conseguenza, ad esempio mentre sei distratto per liberare il posto del passeggero, completamente senza guardare la strada. 1500€ risparmiati.

Altra esperienza; un computer può avere un tempo di reazione praticamente pari a 0, ma se in una buia mattina d'inverno un cervo vola da un muretto direttamente sopra il cofano della macchina, è difficile che lo si riesca ad evitare. A meno che il veicolo non sia provvisto di termocamera ed oltre all' algoritmo dell' imprevedibilità umana abbia anche quello dell' imprevedibilità dei cervi.

[richiurci]

paolo quel sistema esiste già, non ricordo se anche sulla Tesla...

Riguardo il cervo vabbe'...se si pretende di evitare pure armageddon senza l'aiuto di Bruce Willis ...

Comunque voglio precisare una cosa che ho già accennato: io non credo che questi sistemi aumenteranno i rischi, tutt'altro. Ma ciò non toglie che a me sembrano un "eccesso di progresso" (avevo aperto un 3d tempo fa).
Nel senso: che ne faccio del tempo liberato dalla guida? Chatto su whatsapp come durante tutto il resto del giorno?