Faux positif

Malheureusement, les ingénieurs d’Uber auraient été trop optimistes dans leurs réglages et le système de faux positifs s’est retrouvé à ignorer de véritables dangers. C’est ce qu’il s’est passé lors de l’accident qui a eu lieu un peu plus tôt dans l’année. La voiture a vu la piétonne poussant son vélo sur une voie rapide, mais n’a pas choisi d’ajuster sa trajectoire ou de freiner : elle a considéré ce qu’elle a vu comme un élément qui ne présentait pas de danger immédiat.

La raison évoquée par nos confrères pour cette configuration malheureuse est tragique : Uber est une entreprise de transports de passager et elle fait tout pour que la conduite autonome de ses véhicules soit confortable. Cela signifie que les paramètres de le conduite autonome sont ajustés avant toute chose pour que le transport soit agréable.

[ source : Numerama, le 8 mai 2018 ]

Donc si je résume, un robot à choisi de « tuer » un humain ?

Tuer n’est probablement pas le bon terme, parce que le logiciel ne doit pas être au courant des conséquences d’un choc entre une voiture de plusieurs centaines de kilos et une personne — choc potentiellement mortel à partir d’une vitesse de 60 kilomètres/heure. Et puis si ça se trouve le logiciel ne s’est pas rendu compte que ce faux-positif était dans une trajectoire de collision. Mais tout de même.

Quant à la raison de « confort » évoquée pour justifier cette (absence de) réaction me paraît hallucinante !

Terminator a commencé ? On a basculé dans une autre dimension ? Quasi pas de réactions sur les réseaux, en tout cas vu de ma lorgnette[1]… Ça fait frissonner s’il va falloir maintenant, quand on est usager fragile de la route (piéton, cycliste, …), se préoccuper des robots qui circulent et nous ignorent.

« Code Is Law » — Laurence Lessig

J’aime pas trop cette démonstration !

Note

[1] Une réaction, tout de même, de Jean Ruaud, mais ça fait peu parmi mes cercles.

Ajouter un commentaire

Les commentaires peuvent être formatés en utilisant une syntaxe wiki simplifiée.

Ajouter un rétrolien

URL de rétrolien : https://open-time.net/trackback/13796

Haut de page