Il primo morto nell'ambito del self-driving

[Sjuanez]

Un pilota collaudatore di Tesla pare sia morto durante un giro di prova. Pare stesse guardando Harry Potter durante la guida automatica dell'auto. Che è poi quello che un giorno faremo tutti.

https://www.theguardian.com/technology/ ... rry-potter

La questione, che sicuramente non include solo i veicoli elettrici, mette di nuovo sul piatto l'affidabilità di questi sistemi e ci fa domandare: siamo disposti a sperimentarli sulla nostra pelle per recuperare quel tempo e quelle energie "sprecate" ogni giorno al volante? La risposta non è semplice. Affatto.

In più, resta l'amaro in bocca nel constatare che anche oggi, nel 2016, l'innovazione richiede ancora un prezzo in vite umane.

[balduzz]

Ho sempre pensato che guardare Harry Potter facesse male...

[paofanello]

Non é solo un problema se NOI siamo disposti ad affidarci. Ma soprattutto se le case produttrici si fidano di loro stesse.
Se una delle loro auto a guida autonoma investe qualcuno la pubblicità negativa é incalcolabile.
Idem per incidenti come questo.
Guarda caso il cruise control, sebbene si cerca di perfezionarlo al massimo, viene sempre affiancato a sistemi di sicurezza che lo rendono abbastanza superfluo (bisogna tenere le mani sul volante, occhi aperti e sulla strada... Tanto vale che guido io )

[fairyvilje]

Un pilota collaudatore di Tesla pare sia morto durante un giro di prova. Pare stesse guardando Harry Potter durante la guida automatica dell'auto. Che è poi quello che un giorno faremo tutti.

Di prova. È questa la chiave di lettura. La persona doveva supervisionare il sistema per verificarne il funzionamento, non guardare Harry Potter pensando che il grande cervello elettronico avrebbe fatto tutto il resto. Un medico che durante una nuova operazione sperimentale fa un errore generalmente lo si accetta. Il paziente sapeva dei rischi ai quali era esposto. Quando il responsabile invece è una macchina allora non va più bene per la società.
Non so perché esista questo doppio sistema di confronto sinceramente.

Questa morte era sicuramente evitabile, e la colpa non me la sento proprio di farla cadere sull'innovazione.

:) ciao!

[klinz]

La cosa che più mi fa incazzare è che nonostante l'evidenza i vari forum sono pieni di deficienti che difendono l'auto "che guida da sola". In particolare (e non ho mai capito il perché) la figura di Elon Musk è ormai "santificata" dall'opinione pubblica: zero critiche sul suo operato, tutto perfetto, nessun problema, non ne sbaglia mai una (sic!) un genio (doppio, anzi triplo sic!!). Certe testate "giornalistiche" quando parlano di lui hanno più stima e rispetto del Papa e quindi anche quando devono raccontare di quesi eventi lo fanno senza obiettività alcuna (come per tutto il resto d'altronde), per non parlare dei relativi commenti: http://www.tomshw.it/news/tesla-primo-i ... tivo-78384
La verità è che la gente è stupida, conformista priva di ogni indipendenza intellettuale. Un miliardario la spara dicendo che "in futuro per evitare incidenti TUTTE le auto dovranno essere a guida autonoma" e la gente lo segue come mosche attratte dalla m***a. E naturalmente se succede un incidente la colpa non può mai essere dell'auto (soprattutto se l'ha progettata un genio, quadruplo sic!), degli infiniti sbagli ingegneristici, delle scelte molto opinabili sul tipo di sensori e sul loro posizionamento. Mi spiace per chi non sa guidare nonostante qualcuno gli abbia dato la patente (ossia nel 99% dei casi) ma le auto a guida autonoma ammesso che saranno mai possibili da realizzare sono molto al di là dal divenire e comunque il giorno che succederà (sempre semmai succederà, cosa che non credo) inizierò a prendere il treno. L'idea che sia un computer a fare tutto non mi piace affatto, neppure tutti gli esseri umani sanno fare bene un'attività tanto complessa come guidare, figuriamoci un computer. E comunque non sarà certo una tesla (o un'auto elettrica) a dettare legge sul futuro delle auto, visto che il suo successo è subordinato al progresso nel campo delle batterie. Allo stato attuale siamo in altissimo mare anche in questo fronte e ci vorranno ancora decenni di ricerche e non è detto che il problema si risolva. Fino ad allora il motore termico regnerà sovrano.

[EcoTan]

Quotidianamente rinunzio a qualche precedenza per scansare possibili seccature o peggio. Chissà cosa dicono in proposito le "specifiche" della guida autonoma.

[MarcoD]

In linea teorica di principio un essere umano è sprecato a guidare un veicolo.
Poi per una autovettura ci sono così tante condizioni di traffico/circolazionbe/guida che al momento forse non è possibile/affidabile prevederle tutte.
Facciamo un caso di un veicolo più semplice: la metropolitana.
A Milano hanno iniziato negli anni 70 fa con vetture guidate da umani, e continuano.
A Torino, metropolitana progettata negli anni 2000, le autovetture sono completamente automatiche prive di guidatore, alle stazioni le porte di accesso ai binari si aprono solo dopo che il treno è arrivato. Faceva impressione, ma se uno pensa di paragonarle a un ascensore orizzontale sono sicure.
Diventerà così anche per gli autoveicoli ??

[Brianz]

A mio parere evidenzierei qualche punto:

- metropolitana vs. self driving. Sono due cose del tutto differenti. Il metrò corre su binari o comunque in un percorso assolutamente determinato e protetto; comandarlo in modo automatico e relativamente sicuro è un esercizio di automazione industriale non particolarmente difficile.
Un auto, su una strada è coinvolta in un numero di variabili tale da impedire ad un automatismo, anche elevatamente cibernetico, di farvi fronte. Occorre una ulteriore evoluzione, più verso una ia.
E si sta discutendo in questi tempi se abbia un senso "umano" sviluppare questo.

- non mi sembra che siano considerati alcuni aspetti, che sono quelli della decisione "morale".
Un automatismo anche sofisticato, a livello attuale, può eseguire un enorme insieme di calcoli e derivarne azioni in funzioni di quanto stabilito dai suoi programmatori. Ma nessuna di queste azioni può avere un senso "morale".
Ne è un esempio una "decisione del diavolo": davanti ad una situazione di pericolo (es. pedoni), si sacrificano questi o la car? Spero comprendiate che non è cosa da poco.

- si può pensare che la metropolitana non sia soggetta a questo, ma invece lo è, come qualsiasi automatismo che ha a che fare con l'uomo. Stazione, treno automatico; tizio sui binari. Il conduttore umano tenterebbe una frenata. L' automatismo? Dovrebbe essere considerato il caso e inseriti gli opportuni sensori. E' così?

- e, mi sembra che si sorvoli sul fatto che l'attuale self driving non tende ad essere un gadget addizionale di aiuto alla guida, ma mira col tempo a sostituire completamente il pilota. Quanto manca a questo dipende da molti fattori non solo tecnici.
Però, come per tutte le cose della tecnologia, occorre una sperimentazione. Non potendo farla su animali...

Sicuramente il progresso è rapido. Anche solo 10 anni fa era chiara la possibilità di realizzare una macchina che battesse un uomo a scacchi, ma si riteneva ancora molto, molto lontana la macchina che vincesse a go.
Ora c'è (e chi sa cosa è il go si rende conto di cosa sia questa macchina (o meglio, il suo programma)).
Per cui si può pensare a breve ad uno passo tale da poter affrontare anche il self driving in modo ragionevolmente sicuro anche in situazioni complesse.

Ma siccome siamo noi stessi a non avere una chiara idea di come risolvere le decisioni del diavolo (né, peraltro, considerare TUTTE le possibili alternative, sorprese, problemi) come si può pensare che ne sia capace una macchina che dipende dai nostri algoritmi? Ia? e poi?
Prima di andare a sbattere, pensate alle bombe atomiche, a Chernobil, a Fukushima. Dove non vengono fatte valutazioni morali, ma solo tecniche/utilitaristiche/economiche la scienza e la tecnologia producono mostri.

[WALTERmwp]

Ho sempre pensato che guardare Harry Potter facesse male...

beh, qualche danno potrà avermelo arrecato il maghetto della Rowling, però, a dirla tutta, quando vidi "HP e la camera dei segreti" non ero a bordo di un veicolo che bighellonava per i fatti suoi ...

A mio parere (...)

sai, si fa in fretta ad allargare i discorsi e allora ci stanno anche considerazioni di carattere filosofico/morale però, la distanza per arrivare a disporre di un mezzo davvero totalmente autonomo nella guida a me pare tale da rendere altre questioni al momento poco rilevanti.

L'episodio dell'incidente, confermato mi pare in quei termini, si commenta da sè, il problema non è il sistema guida-robot.

(...) è che nonostante l'evidenza i vari forum sono pieni di deficienti che difendono l'auto "che guida da sola" (...)

una sponsorizzazzione acritica arreca un danno da sè al prodotto stesso, se poi qualcuno dovesse essere ansioso di adottare il dispositivo, penso che l'entusiasmo si spegnerebbe in un breve al preventivo della polizza.

Saluti

[boiler]

In realtà un certo problema etico/morale c'è.
Immaginati la scena: viaggi su una strada a 50 km/h, sull'altra corsia ti viene incontro un auto. A sinistra c'è un muro, a destra un marciapiede. Una famiglia sta facendo la sua passeggiata domenicale quando il cane salta in strada, il bambino lo rincorre.

Un umano d'istinto frena, anche se lo spazio non basta per fermarsi, quello che succede succede... e nessuno farà dei rimproveri perché in una situazione del genere non c'è tempo di fare un'analisi e reagire in modo ponderato.

Il computer della guida autonoma, nei 20 ms che tu impieghi a passare con il piede dall'acceleratore al freno, ha fatto una modellizzazione 3D della situazione, ha identificato la marca di cibo che il cane ha mangiato, ha regolato l'aria condizionata e ha preso un'appuntamento in officina perché è ora di cambiare l'olio, sincronizzandolo con il tuo account di outlook.

Quindi la reazione che la macchina avrà, non è d'istinto. È una decisione.

Si tratta ora di definire le metriche in base alle quali considero piú o meno sensato:
a) schiantarmi sul muro
b) causare un incidente frontale con l'altra auto
c) procedere investendo cane e bambino
d) scansare sul marciapiede investendo mamma e papà

Boiler