En 2016, un premier accident mortel en Californie a conduit le NTSB (National Transportation Safety Board) à enquêter sur le rôle joué par le système d'aide à la conduite Autopilot du véhicule Tesla impliqué.
En revanche, l'Autorité tique sur le manque de mesures pour forcer le conducteur à maintenir les mains sur le volant et à rester attentif au trafic environnant ainsi que sur le fait qu'il était possible d'activer le mode Autopilot sur des voies qui n'étaient pas faites pour lui.
Le rapport relève que le système de détection de la présence des mains sur le volant constitue un dispositif insuffisant pour s'assurer de l'attention du conducteur dans le cadre d'un système semi-autonome qui nécessite le maintien de la vigilance du conducteur.
Dans le cas de l'accident en question survenu en 2016 en Californie, le conducteur de la Tesla aurait eu le temps de voir le poids lourd s'engager et de freiner en conséquence s'il avait été attentif au trafic environnant, mais le rapport note également que le conducteur du camion n'a pas non plus laissé de marge de sécurité suffisante lors de sa manoeuvre d'engagement sur la voie.
Dans ce contexte, les torts sont partagés mais il apparaît tout de même que le système Autopilot était alors utilisé sur une voie pour laquelle il n'était pas conçu et l'absence de restrictions fortes sur le fonctionnement de l'Autopilot hors du cadre prévu constitue vraisemblablement l'une des causes annexes du crash.
Depuis, le système Autopilot a été renforcé de nouvelles procédures et de capteurs supplémentaires, avec notamment un radar à l'avant en plus des caméras qui aurait peut-être permis d'éviter l'accident.
