Malheureusement, les ingénieurs d’Uber auraient été trop optimistes dans leurs réglages et le système de faux positifs s’est retrouvé à ignorer de véritables dangers. C’est ce qu’il s’est passé lors de l’accident qui a eu lieu un peu plus tôt dans l’année. La voiture a vu la piétonne poussant son vélo sur une voie rapide, mais n’a pas choisi d’ajuster sa trajectoire ou de freiner : elle a considéré ce qu’elle a vu comme un élément qui ne présentait pas de danger immédiat.
La raison évoquée par nos confrères pour cette configuration malheureuse est tragique : Uber est une entreprise de transports de passager et elle fait tout pour que la conduite autonome de ses véhicules soit confortable. Cela signifie que les paramètres de le conduite autonome sont ajustés avant toute chose pour que le transport soit agréable.
[ source : Numerama, le 8 mai 2018 ]
Donc si je résume, un robot à choisi de « tuer » un humain ?
Tuer n’est probablement pas le bon terme, parce que le logiciel ne doit pas être au courant des conséquences d’un choc entre une voiture de plusieurs centaines de kilos et une personne — choc potentiellement mortel à partir d’une vitesse de 60 kilomètres/heure. Et puis si ça se trouve le logiciel ne s’est pas rendu compte que ce faux-positif était dans une trajectoire de collision. Mais tout de même.
Quant à la raison de « confort » évoquée pour justifier cette (absence de) réaction me paraît hallucinante !
Terminator a commencé ? On a basculé dans une autre dimension ? Quasi pas de réactions sur les réseaux, en tout cas vu de ma lorgnette[1]… Ça fait frissonner s’il va falloir maintenant, quand on est usager fragile de la route (piéton, cycliste, …), se préoccuper des robots qui circulent et nous ignorent.
« Code Is Law » — Laurence Lessig
J’aime pas trop cette démonstration !
Note
[1] Une réaction, tout de même, de Jean Ruaud, mais ça fait peu parmi mes cercles.
1 De Philippe -
Je suis tout aussi inquiet. Notamment de ce que va faire le robot devant le dilemme du tramway ?
Maintenant imaginons que le robot-voiture soit tout de même correctement programmé pour minimiser les pertes humaines. Il roule avec son unique passager, quand soudain traversent des enfants devant lui. Il sait qu’il n’a pas le temps de freiner, mais que s’il sort de la route il les évitera pour malheureusement s’encastrer dans un mur, tuant ainsi certainement son propriétaire.
Pas sûr qu’il y ait beaucoup de monde pour acheter cette bagnole :D
2 De Franck -
Oui, le client sera-t-il encore roi ? Avec une option très chère ?
Y’a plein de questions à ce sujet, je trouve ça passionnant, tout en restant conscient des (nouveaux) risques auxquels ça nous confronte !