Embrouiller une voiture autonome, c'est simple comme un panneau contrefait

Le par  |  48 commentaire(s) Source : Car and Driver
panneau voiture autonome

Les véhicules autonomes auront des caméras pour récupérer une partie des informations de leur environnement immédiat, dont la lecture des panneaux routiers. Mais cette capacité peut être mise en défaut en ajoutant de légers artefacts.

La lecture des panneaux routiers est l'une des sources d'information déclenchant les réactions appropriées de conduite d'un véhicule autonome, parmi d'autres sources de données.

Et alors que les constructeurs automobiles tentent de ne pas se laisser prendre en défaut sur la question du piratage des futurs véhicules connectés / autonomes, des chercheurs de l'Université de Washington ont démontré qu'il pouvait être très facile de perturber leur fonctionnement en modifiant légèrement les panneaux de signalisation.

panneau voiture autonome

De simples autocollants placés judicieusement sur le panneau peuvent anesthésier la capacité de reconnaissance d'objet des caméras embarquées et lui faire prendre par exemple un panneau pour un autre.

Le placement d'autocollants "love / hate" sur un panneau Stop a ainsi trompé l'algorithme de computer vision qui l'a constamment pris pour un panneau de limitation de vitesse, à différentes distances. Il serait donc en principe très facile de tromper l'intelligence artificielle d'un véhicule avec de simples stickers imprimés chez soi et provoquer un chaos.

Sauf que la lecture de panneaux n'est que l'un des éléments pris en compte par l'intelligence artificielle des véhicules autonomes qui se réfèrent aussi à des bases de données, à l'image de ce que réalise le constructeur Tesla en récupérant en cloud les données de navigations des centaines de milliers de véhicules Tesla en circulation et en éliminant les données aberrantes et en comparant la pertinence de l'information obtenue par rapport au contexte.

Tenter de tromper les capteurs par de faux signaux est une méthode d'attaque connue mais l'intérêt de la technique décrite présentement est qu'elle modifie relativement subtilement les panneaux de signalisation pour induire discrètement une erreur d'appréciation là où les techniques précédentes impliquaient de créer des changements radicaux visibles uniquement d'un certain angle et que le conducteur humain lui-même pourrait aisément repérer comme inadéquats.

Complément d'information

Vos commentaires Page 1 / 5

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #1975895
Avec un panneau comme ça la Tesla brule le stop ?
Le #1975901
Les données GPS (ou autre système de navigation) n'ont qu'à mentionner la signalisation (ce qui est peut-être déjà le cas)pour éviter ce genre d'artefacts...

L'humain ne se laissera pas piéger...

Ca créera p't'êt'des emplois de nettoyeurs de panneaux...
Le #1975904
"Ca créera p't'êt'des emplois de nettoyeurs de panneaux"

Même pas.

Au mieux, des panneaux auto-nettoyants.
Le #1975905
Sinon autant placer un capteur sur ces panneaux de signalisation pour que la voiture puisse s'y retrouvé même en cas de trempette par exemple (projeter à la voiture que c'est un stop), ça sécuriserait la récolte d'information pour que l'IA se trompe moins
Le #1975919
Utiliser les données GPS seules n'est pas suffisant puisque la situation peut évoluer (travaux, événements, manifestations, changement de signalisation).
Un capteur n'est pas infaillible non plus, nul doute qu'il pourra être parasité, voir déplacé/volé ou tomber en panne...
Le #1975920
MaGts495 a écrit :

Sinon autant placer un capteur sur ces panneaux de signalisation pour que la voiture puisse s'y retrouvé même en cas de trempette par exemple (projeter à la voiture que c'est un stop), ça sécuriserait la récolte d'information pour que l'IA se trompe moins


Même dans ce cas, on pourra toujours tromper/brouiller un signal... Et sans parler du coût d'installation de tous ces bidules

D'un autre sens, il y'aura toujours des failles... C'est pour ça que j'y crois pas du tout, j'ai toujours trouvé débile qu'on puisse penser remplacer l'humain dans des tâches aussi risquées...
Le #1975921
x4L3Xx a écrit :

MaGts495 a écrit :

Sinon autant placer un capteur sur ces panneaux de signalisation pour que la voiture puisse s'y retrouvé même en cas de trempette par exemple (projeter à la voiture que c'est un stop), ça sécuriserait la récolte d'information pour que l'IA se trompe moins


Même dans ce cas, on pourra toujours tromper/brouiller un signal... Et sans parler du coût d'installation de tous ces bidules

D'un autre sens, il y'aura toujours des failles... C'est pour ça que j'y crois pas du tout, j'ai toujours trouvé débile qu'on puisse penser remplacer l'humain dans des tâches aussi risquées...


Le problème à terme sera l'humain, avec que des voiture autonome les panneaux n'auront même plus d’intérêt. D'un autre côté modifier les panneaux de signalisation routière est déjà un délit.

Et plus ça ira plus ça sera compliqué de tromper les voitures autonomes.
Le #1975923
smartmeister a écrit :

"Ca créera p't'êt'des emplois de nettoyeurs de panneaux"

Même pas.

Au mieux, des panneaux auto-nettoyants.


Ou a LED avec des caractères que seul l'IA peut les reconnaître
Le #1975927
Pas vraiment besoin de contrefaire le panneau, en fait les aides à la conduite se plantent encore régulièrement. y'a pas longtemps le HUD du RX450h qu'on m'a filé pendant l'entretien de ma voiture m'a gentiment indiqué que je pouvais rouler à 110km/h sur… le quai de versailles à Nantes (pour ceux qui connaissent, c'est limité à 30 à l'heure, et même à 30, y'a un virage qu'il vaut mieux prendre à 15/20 à l'heure max parcequ'il y a une terrasse de bar qui a une forte tendance à déborder sur la route passée une certaine heure).
Le #1975930
C'est en trouvant toutes ces failles que va s'améliorer la conduite autonome. Elle prévient déjà des accidents, et lorsqu'elle sera au point. elle dépassera de très loin les compétences des humains.
Dans une génération, on se demandera de quelle race stupide et téméraire étaient leurs pères et grand-pères de conduire eux-même les véhicules!
Suivre les commentaires
Poster un commentaire
Anonyme
:) ;) :D ^^ 8) :| :lol: :p :-/ :o :w00t: :roll: :( :cry: :facepalm:
:andy: :annoyed: :bandit: :alien: :ninja: :agent: :doh: :@ :sick: :kiss: :love: :sleep: :whistle: =]