Les allégations de sécurité de Tesla FSD sous le feu des critiques des initiés et des experts

L'histoire réelle ici n'est pas que le système Full Self-Driving (FSD) de Tesla soit "presque là" - c'est l'écart croissant entre les calendriers ambitieux d'Elon Musk et la réalité à laquelle sont confrontés les ingénieurs et les étiqueteurs de données. Alors que Musk affirme que FSD atteindra bientôt "l'autonomie complète", d'anciens employés décrivent un système truffé de défaillances de base, de mesures de sécurité manipulées et une culture qui donne la priorité à l'effet d'annonce plutôt qu'aux vérités difficiles. Ce n'est pas juste une question de bogues logiciels - c'est une histoire édifiante sur la façon dont l'ambition visionnaire peut entrer en collision avec la réalité de l'ingénierie.

Témoignages d'initiés : le coût humain des difficultés de croissance de FSD

Derrière la scène, le développement de FSD par Tesla est une étude de contradictions. Neuf anciens étiqueteurs de données et un ingénieur ont déclaré à Reuters que le système a des difficultés avec des tâches fondamentales : ne pas s'arrêter pour les autobus scolaires, heurter des animaux et presque heurter des piétons dans les passages pour piétons. Un étiqueteur a décrit avoir vu des clips de véhicules FSD roulant à grande vitesse dans des zones de construction, tandis qu'un autre a raconté des collisions avec des cerfs et des chiens. Les images les plus alarmantes sont réservées à l'équipe de "traumatisme" de Tesla, qui gère les incidents près de manqués impliquant des piétons - incidents qui obligent les conducteurs humains à prendre le contrôle à la dernière seconde. [Source : Reuters]

« Nous avons tous vu cela échouer », a déclaré un étiqueteur. « Je ne monterais pas dans un Tesla Robotaxi même si vous me payiez. »

Ces employés ont souligné un défaut critique : les "corrections spécifiques à l'emplacement" de FSD. En entraînant le système sur des scénarios étroits, Tesla crée une illusion de compétence. « C'est comme enseigner à un conducteur à naviguer parfaitement dans un intersection mais le laisser perdu partout ailleurs », a déclaré un ancien ingénieur. Cette approche, soutiennent-ils, construit une fausse confiance dans un système qui est fondamentalement mal préparé à la complexité du monde réel.

Démystifier le mythe de la "sécurité 10 fois supérieure" : manipulation de données ou erreur honnête ?

Le directeur financier de Tesla, Vaibhav Taneja, affirme que FSD est "10 fois plus sûr que les conducteurs humains". Mais les mathématiques ne correspondent pas. La société compare ses véhicules - âge moyen de 4 ans - à la moyenne de la flotte américaine de 12 ans, une disparité qui gonfle les mesures de sécurité. « Toute nouvelle voiture est plus sûre qu'une voiture de 12 ans », a déclaré Phil Koopman de Carnegie Mellon. « Ce n'est pas de la science - c'est du marketing. » [Source : Reuters]

Tesla sélectionne également les données de crash. Ses rapports excluent les incidents activés par Autopilot, tandis que les bases de données fédérales incluent tous les accidents nécessitant un camion de remorquage. Pendant ce temps, Waymo utilise des comparaisons peer-reviewed, publiant des mesures de sécurité ainsi que ses défauts. « L'opacité de Tesla est un drapeau rouge », a déclaré un chercheur en sécurité. « Ils se cachent derrière des allégations vagues tandis que Waymo construit la confiance grâce à la transparence. »

Tesla contre Waymo : deux voies vers l'autonomie

Alors que Tesla mise sur des caméras uniquement visuelles et des mises à jour en OTA, l'approche de Waymo, riche en capteurs, donne la priorité à la redondance. Ce contraste reflète des divisions philosophiques plus profondes. Le problème de "l'explosion combinatoire" de Tesla - où les scénarios du monde réel submergent son système uniquement visuel - n'est pas juste théorique. D'anciens employés disent que FSD échoue dans des cas de bord prédictibles : motocyclettes, bretelles de sortie et zones de construction non marquées. À mon avis, cela reflète un système entraîné sur des données étroites plutôt que de véritables généralisations.

La cadence méthodique de Waymo - opérant dans 11 villes avec des tests rigoureux - contraste fortement avec le déploiement tout ou rien de Tesla. « La vision de Musk est séduisante, mais l'autonomie n'est pas une course », a déclaré un analyste industriel. « Les raccourcis de Tesla pourraient miner la confiance du public dans l'ensemble du domaine. »

Perspective AI Loop : quand les visionnaires dépassent la réalité

FSD de Tesla est confronté à un paradoxe : ses défauts sont à la fois techniques et culturels. Les ingénieurs sont sous pression pour livrer les délais de Musk, tandis que les étiqueteurs de données documentent des défaillances systémiques. Le lancement de Robotaxi au Texas - une "mode ombre" à l'échelle réduite sans conduite réelle - met en évidence ce décalage. Les régulateurs se demandent maintenant si l'effet d'annonce de Tesla dépasse ses capacités.

Voici ce qui compte : la conduite autonome nécessite de l'humilité. Le pari de Tesla sur la vision uniquement pourrait payer, mais son approche actuelle risque de répéter les erreurs des précédents hivers de l'IA - promettre trop et sous-livrer. Comme l'a dit un ancien employé, « Elon a raison sur l'avenir. Mais le FSD d'aujourd'hui n'est pas prêt pour cela. »

---

— Romaric Anderson, Curateur Tech chez AI Loop