Évolution de l'autopilot et de la conduite autonome (MàJ 10/2020 avec FSD Beta)

[Remy]

Le 26/09/2024 à 09:48, afreeman1901 a dit :

Mais l'article de base de AMCI, plutôt positif, pointe le vrai point faible du FSD et de l'approche IA, à savoir le manque de répétabilité et la difficulté de comprendre pourquoi quand ca ne marche pas.

C'est effectivement le gros point faible de l'IA (sous forme de réseau neuronal) qui est souvent passé sous silence mais qui trace une vraie limite entre une utilisation sous supervision humaine et une autonomie complète.

[paya34]

Vous croyez que dans un avenir proche, le FSD deviendra la norme (FSD ou autre conduite autonome avec les autres marques) ?

[MrFurieux]

Le 26/09/2024 à 09:48, afreeman1901 a dit :

Perso j'y vois quand même une sacré réussite. Mais l'article de base de AMCI, plutôt positif, pointe le vrai point faible du FSD et de l'approche IA, à savoir le manque de répétabilité et la difficulté de comprendre pourquoi quand ca ne marche pas. Je ne vois pas trop comment Tesla va se sortir de cette difficulté qui est au coeur du système. On bascule dans un autre monde avec ces technologies et la notion de confiance interroge : mais ca devient de la philo

C'est pas une question philosophique, c'est très concret, et c'est pas limité à l'IA - par nature les conditions de conduite ne sont jamais 100% identiques (trafic, météo, etc), donc la notion de répétabilité est assez floue de toute façon. Un humain aussi peut faire le même parcours 1000x et se planter la 1001e, et pareil pour tout système électronique ou même mécanique.

Le gros problème du passage du FSD "supervisé" au vrai FSD, tel qu'il est développé et diffusé par Tesla, c'est que le système doit passer par une phase de dangerosité croissante avant que la courbe s'inverse: un système qui fait n'importe quoi tous les 100 km sera constamment surveillé par le conducteur, et comme le FSD respecte la réglementation davantage que les humains, on peut comprendre que l'ensemble est plus sûr que l'humain seul. Mais si on arrive à un stade où le FSD essaie de te tuer seulement tous les 100 000 km (ex de leur test où le FSD traverse la ligne médiane), le conducteur risque de ne pas être assez vigilant au moment critique.

Autrement dit il y a une phase - qui peut être assez longue - où plus le système s'améliore, plus il devient dangereux.

C'est cet obstacle qui me parait difficile à franchir avec la méthode Tesla actuelle dans le cadre d'une réglementation sécuritaire standard.

Je parierais davantage sur des opérations géographiquement limitées pour leur robotaxi.

 

[afreeman1901]

Le 26/09/2024 à 13:34, MrFurieux a dit :

C'est pas une question philosophique, c'est très concret, et c'est pas limité à l'IA - par nature les conditions de conduite ne sont jamais 100% identiques (trafic, météo, etc), donc la notion de répétabilité est assez floue de toute façon. Un humain aussi peut faire le même parcours 1000x et se planter la 1001e, et pareil pour tout système électronique ou même mécanique.

Le gros problème du passage du FSD "supervisé" au vrai FSD, tel qu'il est développé et diffusé par Tesla, c'est que le système doit passer par une phase de dangerosité croissante avant que la courbe s'inverse: un système qui fait n'importe quoi tous les 100 km sera constamment surveillé par le conducteur, et comme le FSD respecte la réglementation davantage que les humains, on peut comprendre que l'ensemble est plus sûr que l'humain seul. Mais si on arrive à un stade où le FSD essaie de te tuer seulement tous les 100 000 km (ex de leur test où le FSD traverse la ligne médiane), le conducteur risque de ne pas être assez vigilant au moment critique.

Autrement dit il y a une phase - qui peut être assez longue - où plus le système s'améliore, plus il devient dangereux.

C'est cet obstacle qui me parait difficile à franchir avec la méthode Tesla actuelle dans le cadre d'une réglementation sécuritaire standard.

Je parierais davantage sur des opérations géographiquement limitées pour leur robotaxi.

 

Je dis que c'est philosophique car c'est un rapport à l'acceptation du risque et de l'erreur, comme tu l'expliques bien. Et ca dépasse le problème du FSD, chatgpt a le même soucis. A aujourd'hui on accepte les erreurs humaines, un peu celle des animaux (en tout cas s'il ne sont pas trop sauvage) pas celle des machines. On juge et on trouve des circonstance attenante à un chauffeur de bus (soleil dans les yeux, fatigue..) mais on ne l'acceptera pas pour le FSD (alors que vision héhé). 

Dans un premier temps je suis d'accord avec toi, on va surement avoir des zones limités, mais dans 10ans? va t'on changer notre rapport à l'accident et à la machine? 

[MrFurieux]

Le 26/09/2024 à 14:01, afreeman1901 a dit :

Je dis que c'est philosophique car c'est un rapport à l'acceptation du risque et de l'erreur, comme tu l'expliques bien. Et ca dépasse le problème du FSD, chatgpt a le même soucis. A aujourd'hui on accepte les erreurs humaines, un peu celle des animaux (en tout cas s'il ne sont pas trop sauvage) pas celle des machines. On juge et on trouve des circonstance attenante à un chauffeur de bus (soleil dans les yeux, fatigue..) mais on ne l'acceptera pas pour le FSD (alors que vision héhé). 

Dans un premier temps je suis d'accord avec toi, on va surement avoir des zones limités, mais dans 10ans? va t'on changer notre rapport à l'accident et à la machine? 

Pour prendre un exemple plus précis de question concrète sur la conduite autonome, la 1ere étape à passer avant de prendre la route c'est l'assurance. C'est pas tellement une question philosophique (ou plutôt sociétale) de l'acceptation du risque, c'est plus basiquement de savoir qui va payer en cas d'erreur de conduite (non respect du code de la route par ex).

Je ne vois pas quelle serait la justification pour exonérer le conducteur de toute responsabilité sous prétexte que ce soit une machine. C'est ça qui serait un double standard, pas le contraire. Qui accepterait de perdre des points sur ton permis parce que ton système certifié de niveau 3 à 5 (payé très cher) s'est planté ...? Jusqu'à présent Tesla veut le beurre et l'argent du beurre avec la hype du FSD mais sans aucune responsabilité, ça ne pourra pas durer éternellement.

Après, si on a envie de disserter sur des questions philosophiques je propose "à quoi bon" ? S'il s'agit de réduire la mortalité prématurée, il y a des moyens bien moins coûteux de le faire, par ex en légiférant sur l'industrie de la malbouffe ou le marketing de l'alcool visant les jeunes. Mais c'est un autre débat...

[afreeman1901]

Le 27/09/2024 à 00:19, MrFurieux a dit :

Pour prendre un exemple plus précis de question concrète sur la conduite autonome, la 1ere étape à passer avant de prendre la route c'est l'assurance. C'est pas tellement une question philosophique (ou plutôt sociétale) de l'acceptation du risque, c'est plus basiquement de savoir qui va payer en cas d'erreur de conduite (non respect du code de la route par ex).

Je ne vois pas quelle serait la justification pour exonérer le conducteur de toute responsabilité sous prétexte que ce soit une machine. C'est ça qui serait un double standard, pas le contraire. Qui accepterait de perdre des points sur ton permis parce que ton système certifié de niveau 3 à 5 (payé très cher) s'est planté ...? Jusqu'à présent Tesla veut le beurre et l'argent du beurre avec la hype du FSD mais sans aucune responsabilité, ça ne pourra pas durer éternellement.

Après, si on a envie de disserter sur des questions philosophiques je propose "à quoi bon" ? S'il s'agit de réduire la mortalité prématurée, il y a des moyens bien moins coûteux de le faire, par ex en légiférant sur l'industrie de la malbouffe ou le marketing de l'alcool visant les jeunes. Mais c'est un autre débat...

L assurance est une face de la problématique, mais heureusement tout n est pas argent dans ce monde. Tu parles de malbouffe et alcool, mais ce sont des maux acceptés. Alors que la drogue ne l est pas. Et tout cela est fluctuant. Tuer quelqu'un en étant alcoolisé était puni mais l alcool était un facteur excusant. Depuis une 30aine d années c'est un facteur aggravant. Preuve que la notion est plus sociologique que purement matérielle. 

Pour la robotique et donc le fsd on rentre dans un monde inconnu. Un accident ne sera ni la faute à pas de chance, ni une erreur humaine. Cela sera le résultat d un choix d un programme. Donc un choix non éclairé et pire pas forcément expliqué. Il faudra définir tout ça. Il y a pas mal de littérature sur le sujet. Mais clairement on est pas prêt. 

[MrFurieux]

Le 27/09/2024 à 09:03, afreeman1901 a dit :

L assurance est une face de la problématique, mais heureusement tout n est pas argent dans ce monde. Tu parles de malbouffe et alcool, mais ce sont des maux acceptés. Alors que la drogue ne l est pas. Et tout cela est fluctuant. Tuer quelqu'un en étant alcoolisé était puni mais l alcool était un facteur excusant. Depuis une 30aine d années c'est un facteur aggravant. Preuve que la notion est plus sociologique que purement matérielle. 

La malbouffe et l'alcool sont reconnus comme des problèmes de santé publique. Il y a des interdiction de publicité dans pas mal de pays, et des interdictions aux mineurs (21 ans aux USA) plus ou moins respectées - c'est une zone grise exploitée par des lobbies économiques, je sais pas si on peut dire que c'est "accepté", toléré plutôt. Les (autres) drogues c'est encore moins clair, par ex la morphine et ses dérivées sont interdits ou autorisés suivant le contexte, idem pour le Fentanyl et la kétamine popularisée récemment par le PDG de Tesla. Mais bref, l'assurance est un problème financier pour les constructeurs qui mettent le doigt dans la conduite autonome, là c'est clair.

 

 

Le 27/09/2024 à 09:03, afreeman1901 a dit :

Pour la robotique et donc le fsd on rentre dans un monde inconnu. Un accident ne sera ni la faute à pas de chance, ni une erreur humaine. Cela sera le résultat d un choix d un programme. Donc un choix non éclairé et pire pas forcément expliqué. Il faudra définir tout ça. Il y a pas mal de littérature sur le sujet. Mais clairement on est pas prêt. 

Pas d'accord sur l'inconnu, ça ressemble énormément à des cas d'enquêtes dans l'aviation civile où il s'agit de savoir si les automatismes de l'avion ont participé à l'accident ou pas, et donc si le constructeur est impliqué ou pas (cf Boeing). D'ailleurs on a déjà des genres de boîtes noires et des analyses techniques post-accident chez Tesla pour savoir si le FSD/AP est en cause. Ce qui n'est probablement pas prêt, c'est le compte en banque de Tesla en cas de gros litige.

Modifié 27 septembre par MrFurieux

[afreeman1901]

Le 27/09/2024 à 13:55, MrFurieux a dit :

Pas d'accord sur l'inconnu, ça ressemble énormément à des cas d'enquêtes dans l'aviation civile où il s'agit de savoir si les automatismes de l'avion ont participé à l'accident ou pas, et donc si le constructeur est impliqué ou pas (cf Boeing). D'ailleurs on a déjà des genres de boîtes noires et des analyses techniques post-accident chez Tesla pour savoir si le FSD/AP est en cause. Ce qui n'est probablement pas prêt, c'est le compte en banque de Tesla en cas de gros litige.

C'est la ou on diverge je pense. Pour moi on change de monde totalement. Ce n'est plus du tout la même échelle, ni les même impacts. On parle de robot qui se balade tranquillement dans une foule. Le mode de l'avion est comparable avec le régulateur aujourd'hui, peut ou prou : Autoroute, un gars derrière le volant, peu de risque d'accident.

avec les robots taxis, on bascule vraiment dans la science fiction, au cœur des villes. Les accidents de la route aujourd'hui c'est 350 morts par mois et 20 000 blessé rien qu'en France. Même si soyons fou les robot taxis améliore le score par 10. 35 mort par mois et 2000 blessés, à cause d'un robot? c'est une dinguerie en vrai, surtout si t'es pas capable de valider ou de comprendre. C'est là ou je dis qu'il va falloir un changement de paradigme et d'acceptation du phénomène. Et cela ira peut être pas à la même vitesse partout. On voit que les japonais sont plus en avance sur la question robotique en général, les américains beaucoup moins sensible à la sécurité routière.

Et j'ai pas de réponse. Je m'interroge juste sur cet avenir qui arrive. Et comme évoqué plus haut, je pense que tesla fera comme Waymo au début. Zone petite et facile, supervision humaine un maximun. bref pas de révolution

Modifié 27 septembre par afreeman1901

[Samsaggace]

Le 27/09/2024 à 17:12, afreeman1901 a dit :

Les accidents de la route aujourd'hui c'est 350 morts par mois et 20 000 blessé rien qu'en France.

En fait c'est 264 morts par mois (3167 pour l'année 2023)

https://www.securite-routiere.gouv.fr/actualites-page-1-189/bilan-definitif-de-laccidentalite-routiere-en-2023-baisse-de-la-mortalite#:~:text=En 2023%2C 3 117 personnes,ans et plus que 5 %.

[afreeman1901]

Le 27/09/2024 à 17:33, Samsaggace a dit :

En fait c'est 264 morts par mois (3167 pour l'année 2023)

https://www.securite-routiere.gouv.fr/actualites-page-1-189/bilan-definitif-de-laccidentalite-routiere-en-2023-baisse-de-la-mortalite#:~:text=En 2023%2C 3 117 personnes,ans et plus que 5 %.

ah oui, j'ai divisé par 10 pas par 12. My bad  la honte

 

mais bon, ca change pas l'idée

[Samsaggace]

Le 27/09/2024 à 17:35, afreeman1901 a dit :

mais bon, ca change pas l'idée

Pas du tout. Je suis d'accord que la finalité des moyens automatisés doit être la baisse des accidents mortels, mais il faut se résoudre à un risque mortel résiduel malheureusement.

Si c'est bien le cas, les compagnies d'assurance devraient y voir des gains sensibles et partant favoriser les remboursements des accidents résiduels sans ergoter sur les responsabilités.

[remjes]

Le 27/09/2024 à 17:44, Samsaggace a dit :

Pas du tout. Je suis d'accord que la finalité des moyens automatisés doit être la baisse des accidents mortels, mais il faut se résoudre à un risque mortel résiduel malheureusement.

Si c'est bien le cas, les compagnies d'assurance devraient y voir des gains sensibles et partant favoriser les remboursements des accidents résiduels sans ergoter sur les responsabilités.

Si c'est toi qui fait parti du risque mortel résiduel, je ne pense pas que tu le dirais comme ça. Tu parles de stat, nous on parle d'individus.

 

[Alain78]

Quelqu'un a-t-il remarqué qu'il est possible de ne plus appuyer sur le volant,  sous réserve de maintenir une main à côté du volant ?

[Ghyl]

Quelqu'un a-t-il remarqué qu'il est possible de ne plus appuyer sur le volant,  sous réserve de maintenir une main à côté du volant ?

Non. « À côté » c’est à dire?

[Paul Ioniq44]

Le 27/09/2024 à 22:44, Alain78 a dit :

Quelqu'un a-t-il remarqué qu'il est possible de ne plus appuyer sur le volant,  sous réserve de maintenir une main à côté du volant ?

Ça fait quelques mois qu'on n'est pas obligé d'appuyer aussi fort pour qu'il détecte la présence mais a ma connaissance la supervision par caméra uniquement n'est pas encore activé en France. Pourtant ce serait nettement plus sur.

[dockyz]

Le 27/09/2024 à 22:44, Alain78 a dit :

Quelqu'un a-t-il remarqué qu'il est possible de ne plus appuyer sur le volant,  sous réserve de maintenir une main à côté du volant ?

Je fais ça depuis toujours et je n’ai jamais eu de problème. 
le poids de ma main gauche sur le volant, le coude sur le bord de la fenêtre, suffit à maintenir le FSD actif, et même à engager des changements de voies sur l’autoroute. 
ca marche aussi bien sur ma M3LR 2019 que la 2024. 

[Alain78]

L'élément nouveau est que je n'ai plus besoin de toucher le volant, si la caméra detecte que j'ai la main à côté du volant

Modifié 29 septembre par Alain78

[Laurent_Laurent]

Le 29/09/2024 à 15:07, Alain78 a dit :

L'élément nouveau est que je n'ai plus besoin de toucher le volant, si la caméra detecte que j'ai la main à côté du volant

Plutôt étonnant, car quand on regarde ce que voit la caméra interne, elle ne voit pas le volant (en tout cas, pas sur la mienne)

[MrFurieux]

Le 27/09/2024 à 22:44, Alain78 a dit :

Quelqu'un a-t-il remarqué qu'il est possible de ne plus appuyer sur le volant,  sous réserve de maintenir une main à côté du volant ?

AP, EAP ou FSD ?

En AP en tout cas il faut une action sur le volant, même si un peu moins forte qu'avant

 

Le 29/09/2024 à 15:15, Laurent_Laurent a dit :

Plutôt étonnant, car quand on regarde ce que voit la caméra interne, elle ne voit pas le volant (en tout cas, pas sur la mienne)

Effectivement

[MrFurieux]

Le 27/09/2024 à 17:12, afreeman1901 a dit :

C'est la ou on diverge je pense. Pour moi on change de monde totalement. Ce n'est plus du tout la même échelle, ni les même impacts. On parle de robot qui se balade tranquillement dans une foule. Le mode de l'avion est comparable avec le régulateur aujourd'hui, peut ou prou : Autoroute, un gars derrière le volant, peu de risque d'accident.

avec les robots taxis, on bascule vraiment dans la science fiction, au cœur des villes. Les accidents de la route aujourd'hui c'est 350 morts par mois et 20 000 blessé rien qu'en France. Même si soyons fou les robot taxis améliore le score par 10. 35 mort par mois et 2000 blessés, à cause d'un robot? c'est une dinguerie en vrai, surtout si t'es pas capable de valider ou de comprendre. C'est là ou je dis qu'il va falloir un changement de paradigme et d'acceptation du phénomène. Et cela ira peut être pas à la même vitesse partout. On voit que les japonais sont plus en avance sur la question robotique en général, les américains beaucoup moins sensible à la sécurité routière.

Et j'ai pas de réponse. Je m'interroge juste sur cet avenir qui arrive. Et comme évoqué plus haut, je pense que tesla fera comme Waymo au début. Zone petite et facile, supervision humaine un maximun. bref pas de révolution

Au départ tu dis qu'on diverge mais à la fin tu dis la même chose que moi: tu supposes que ça va commencer petit. Si ça commence petit, comme tu dis toi-même c'est pas une révolution, et on est très loin de la hype de 2019 où Tesla allait "appyer sur un bouton" et bim d'un  coup des millions de robotaxi sur les routes. Même pas besoin d'imagination, on peut suivre les débuts lents et douloureux de Waymo depuis des années. Ce que je veux dire, c'est que sur une période de plusieurs années la révolution a le temps d'arriver d'ailleurs et le robotaxi rester une technologie secondaire, qui sait. Faut pas oublier que même si la techno était au point maintenant, il faudrait des dizaines d'années pour renouveler entièrement le parc. Comme je disais dans un message précédent il y a des problèmes de mortalité bien plus graves et bien plus faciles (techniquement) à traiter, le reste des gains c'est du confort.

 

Le 27/09/2024 à 17:44, Samsaggace a dit :

Pas du tout. Je suis d'accord que la finalité des moyens automatisés doit être la baisse des accidents mortels, mais il faut se résoudre à un risque mortel résiduel malheureusement.

Si c'est bien le cas, les compagnies d'assurance devraient y voir des gains sensibles et partant favoriser les remboursements des accidents résiduels sans ergoter sur les responsabilités.

Le 27/09/2024 à 20:57, remjes a dit :

Si c'est toi qui fait parti du risque mortel résiduel, je ne pense pas que tu le dirais comme ça. Tu parles de stat, nous on parle d'individus.

Comme il se met à la place des compagnies d'assurance, il a raison de parler stats, c'est comme ça qu'elles opèrent, l'empathie c'est pas leur métier. Ceci dit @Samsaggace oublie un étage: si les conducteurs (ou leurs familles en cas de décès) peuvent se retourner contre le constructeur, le constructeur doit lui aussi s'assurer davantage et ça peut faire mal à son portefeuille.

 

[Samsaggace]

Le 27/09/2024 à 20:57, remjes a dit :

Si c'est toi qui fait parti du risque mortel résiduel, je ne pense pas que tu le dirais comme ça.

Un débat analogue à longtemps animé les discussions autour du port de la ceinture de sécurité.

Il y avait de farouches opposants qui disaient que la ceinture pouvait être une cause de mortalité en cas d’incendie ou d’immersion en empêchant de sortir assez rapidement d’un véhicule accidenté.

C’était et cela reste sans doute un cas rare mais il n’y a plus beaucoup de conducteurs ou de passagers qui ne bouclent pas leur ceinture.
Je pense donc que les automatismes (ou mécanismes) réduisant sensiblement les accidents mortels vont dans le bon sens et qu’il faut aussi tout faire pour limiter tous les risques résiduels 

[afreeman1901]

Le 29/09/2024 à 18:14, MrFurieux a dit :

Au départ tu dis qu'on diverge mais à la fin tu dis la même chose que moi:

Ce n'est pas parce qu on arrive au même conclusion qu on partage le raisonnement. 

 

[Miron]

Le 29/09/2024 à 17:48, MrFurieux a dit :

AP, EAP ou FSD ?

En AP en tout cas il faut une action sur le volant, même si un peu moins forte qu'avant

 

Effectivement

De mémoire sur la mienne on voit une bonne partie du volant

[Laurent_Laurent]

Le 30/09/2024 à 16:21, Miron a dit :

De mémoire sur la mienne on voit une bonne partie du volant

Tu lances l'application, tu actives sentinelle et tu regardes le caméra interne, tu seras tout de suite fixé.

[MrFurieux]

Le 30/09/2024 à 07:47, afreeman1901 a dit :

Ce n'est pas parce qu on arrive au même conclusion qu on partage le raisonnement. 

A vrai dire mon raisonnement est assez simpliste, je pars du postulat que les véhicules actuels ne seront jamais des robotaxis et j'en déduis que l'arrivée des robotaxis qui vont être annoncés prochainement ne peut être que progressive, le temps de fabriquer, tester, obtenir les homologations et autorisations d'opérer, etc.

Et toi quel est ton raisonnement ...?