Perte de confiance sans doute définitive

[Gwladys]

Pas d'accord, c'est le conducteur qui fait les choix d'activer ou non l'AP, le NOA, le regul de vitesse... donc c'est en connaissance de cause et en pleine responsabilité.

C'est le même débat avec l'alcool, les survitesse, le tel au volant ....

La seule responsable est la personne derrière le volant!

Modifié août 7, 2020 par Gwladys

[Damned]

il y a une heure, Gwladys a dit :

Pas d'accord, c'est le conducteur qui fait les choix d'activer ou non l'AP, le NOA, le regul de vitesse... donc c'est en connaissance de cause et en pleine responsabilité.

C'est le même débat avec l'alcool, les survitesse, le tel au volant ....

La seule responsable est la personne derrière le volant!

Tout le monde est d'accord avec le fait que le conducteur est responsable de sa conduite. En quoi est-il responsable de fonctionnalités qui ne fonctionnent pas comme indiquées ??!! L'antipatinage est desactivable sur toute les voitures', l'ABS aussi parfois, le conducteur serait responsable en les activant d'un mauvais fonctionnement !!?? Et quel rapport avec l'alcool, les excès de vitesse ou le téléphone, que des comportements interdits, répréhensibles et inconscients !!! Il n'y a aucun débat sur les fous au volant.

 Ce qui devrait être interdit c'est d'implémenter des aides, des fonctionnalités (summon) qui ne sont pas au point et de faire de tous les conducteurs des bêta testeurs

[mat81278]

J'ai fait également l'expérience d'un freinage fantôme sur une départementale avec un gros SUV Porsche qui me collait au cul.

Une dame qui a eu la peur de sa vie, car on est pas passé loin du crash avec mes deux gamines à l'arrière du véhicule.

Pour moi le régulateur c'est terminé !

Honnêtement, c'est inadmissible, qu'on se le dise le régulateur à ce jour ne fonctionne pas et est dangereux.

Pour moi sans Maj, je déconseille fortement son utilisation.

La voiture est un bijoux, je dois le reconnaitre, mais vraiment ce bug est inadmissible.

[STSUKX]

il y a 9 minutes, mat81278 a dit :

J'ai fait également l'expérience d'un freinage fantôme sur une départementale avec un gros SUV Porsche qui me collait au cul.

Une dame qui a eu la peur de sa vie, car on est pas passé loin du crash avec mes deux gamines à l'arrière du véhicule.

Pour moi le régulateur c'est terminé !

Honnêtement, c'est inadmissible, qu'on se le dise le régulateur à ce jour ne fonctionne pas et est dangereux.

Pour moi sans Maj, je déconseille fortement son utilisation.

La voiture est un bijoux, je dois le reconnaitre, mais vraiment ce bug est inadmissible.

Tu en attends beaucoup trop du système.

 

J’ai moi même des freinages fantômes quasi tous les jours. Lisière de forêt avec ombre par exemple et l’AP prend ça pour un obstacle.

 

Moralité, toujours le pied droit sur l’accélérateur pour renvoyer du jus et empêcher la voiture de freiner. Il en va de même avec le contrôle de trajectoire du volant, ne jamais lâcher le volant surtout a fortiori lorsqu’il y a d’autres véhicules à proximité.

 

Les gens utilisent ce système sans comprendre qu’il est là pour les assister et pas pour les remplacer.

[Armaggion]

Le souci c'est que la fonctionnalité fonctionne... 99.9% du temps. Et si un robot peut tolérer ça en rattrapant par un automatisme le 0.1% qui défaille par une action immédiate instantanée, le cerveau humain, lui, ne fonctionne pas ainsi. Son intelligence est construite pour repérer des régularités, interpréter des récurrences et en tirer des conclusions.
 

En d'autres termes, le système, tel qu'il est conçu, endort notre vigilance. C'est trop fiable ! Parce que réagir instantanément à un événement avec une probabilité d'occurrence aussi peu gérable, on n'est pas conçu pour ça. Si ça arrivait toutes les 5 ou 7 minutes, oui, mais comme c'est une fois de temps en temps, parfois rien pendant des jours, il n'y a aucune récurrence prévisible et on n'est pas conçu pour gérer ça. Ou plus exactement, si on remet les choses dans l'ordre, c'est lui qui n'est pas conçu pour nous. Nos fonctionnements ne sont pas compatibles et le seront de moins en moins parce que, paradoxalement, plus ça sera fiable, moins ça sera prévisible. En ce sens, le régulateur non adaptatif nous convient mieux. Il est totalement prévisible, y compris en arrivant à 130km/h à une barrière de péage.

Exprimé autrement, on a beau être entièrement d'accord avec le principe que le conducteur est responsable à tout instant, la conception du système, quoi qu'on en dise, induit une déresponsabilisation, légère et discrète si on fait l'effort de ne pas se fier, majeure si on s'abandonne à cette facilité sans avoir conscience du risque.

C'est le principe du film d'horreur qui balance un gros bruit soudain et une image brutale. Aucun besoin d'un réalisateur talentueux là-dedans, ça marche à tous les coups ! Et alors même qu'on sait pertinemment qu'on regarde un film, qu'il va se passer un truc et qu'on ne prend aucun risque réel. Il n'empêche que les popcorns ont fait un bond. Idem ici. On se fait surprendre. Avec le pied sur l'accélérateur, on pourra tenter de compenser, mais on ne pourra pas empêcher a minima que ça soit ressenti.

En conséquence, on a quatre options :
A- S'en passer totalement, et demeurer en responsabilité constante pour ne pas risquer qu'un assistant trop fiable endorme notre vigilance,
B- S'en passer et exiger un mode non adaptatif en supplément de l'existant pour les moments où on n'a pas envie de devoir être aux aguets,
C- L'activer en environnement maitrisé (pas de voiture proche derrière) et tâcher de repérer les facteurs augmentant la probabilité d'occurrence d'un événement indésirable afin de se tenir prêt à minimiser les conséquences (je parie que le film en me fera pas sursauter),
D- L'activer en permanence en ayant confiance dans notre bonne étoile et celle des autres ;

Réponse A, B, C ou D, à vos tablettes !

Plus sérieusement, je crois qu'on est assez d'accord pour éliminer D, et que rares sont ceux qui vont adopter le comportement extrême correspondant à A. Reste B et C qui ont le bonheur de ne pas être mutuellement exclusives... et au final on est donc quasiment tous d'accord à quelques nuances près.

Modifié août 8, 2020 par Armaggion

[Zzzzz]

Faute de B, j'ai choisi A pour le moment.

[Gwladys]

Je suis peut être un danger public, selon vos avis, mais pour moi c'est C. 

De plus, avec l'IA, si vous n'apprenez pas à votre système, il ne pourra pas évoluer. Je le vois sur mon trajet de test avec certaines versions qui mettent à 0 les apprentissages, la voiture fait n'importe quoi en AP, MAIS, après quelques passages, la situation s'améliore grandement.

 

Le film fonctionne avec l effet de surprise, pas dans notre cas, car nous SAVONS que les fonctions automatiques ne sont pas fiables à 100%.

[N3W0NE]

@Armaggion

je ne comprends pas bien. 
il n’est pas trop fiable justement, si seulement je pouvais avoir un régulateur non adaptatif je serais moins dangereux.

 

je fais 50 000km par an, le régulateur non adaptatif + ma conduite n’a jamais causé de tel évènements dangereux. 
 

la j’en arrive à avoir ce coup là au moins une fois par trajet. C’est grave. 
 

maintenant je passe mes voyages le pieds sur l’accélérateur « au cas où »

pas au cas où j’ai un freinage d’urgence à faire, mais au cas où j’ai une accélération d’urgence à faire...

 

cela dit, je comprends que c’est une bêta, et j’espère beaucoup du travail de réécriture de l AP qui devrait sortir dans 1-2 mois.

Modifié août 8, 2020 par N3W0NE

[Patrick-S]

Pour moi, d’accord avec @Gwladys c’est C, mais j’aimerais l’option « non adaptatif ».
Ceci dit cette voiture est tellement agréable à conduire, que ça ne me dérange pas énormément de me passer du régulateur

[Demonhill]

C'est le propre de la conduite de rester vigilant 100% du temps pour repérer et traiter un événement imprévisible

Pour moi impossible de me passer de régulateur, le maintien de la vitesse me prend trop de concentration.

[njul]

Tu en attends beaucoup trop du système.

Heu non ... Attendre d'un système de sécurité ne lui fasse pas un accident n'est pas trop demander à mon avis.

Je connais une personne qui a une Polo à 13.000 euros (après prime de conversion) et le régulateur de vitesse ne lui a jamais fait ça. Il faut arrêter de trouver des excuses à Tesla de ce qui devient standard dans les voitures très très ordinaires.

[ddrunner]

A cet instant, c'est plutot C pour moi, meme si je penche pour B si ca s'améliore pas vite.

[Sylap]

Vous êtes en train de me convaincre d'attendre...

Vous vous rendez compte que personne ne trouve ça normal mais que seulement de solution sont envisagées :

- ceux qui ne l'utilisent plus.

- ceux qui l'utilisent en gardant une attention sur le fonctionnement... et donc pas total sur le restant de la conduite !

Pour moi le prix d'une tesla s'explique par 2 choses (d'un point de vue commercial) :

- l'utilisation facile d'une voiture électrique ce qu'elle fait très bien par les suc et la qualité de la batterie. 

- la technologie. Qui visiblement n'est pas du tout à la hauteur. Régulateur pas fini, autopark non plus, phares auto, essuie-glaces, infotraffic qui ne marche plus (non ?)... heureusement qu'il y'a les coussins péteurs et une multitude de jeux...

[Patrick-S]

il y a 20 minutes, Sylap a dit :

... heureusement qu'il y'a les coussins péteurs et une multitude de jeux...

😎 heureusement sinon @les3gujanais aurait changé de voiture depuis longtemps ! 😂

[StepB13]

il y a une heure, njul a dit :

Attendre d'un système de sécurité ne lui fasse pas un accident n'est pas trop demander à mon avis

Le risque zéro n'existera jamais. Une voiture avec des fonctions de conduite autonome ne saura faire que ce pour quoi elle est programmée. Il y aura toujours des imprévus qu'elle ne saura pas gérer correctement. Un rayon de soleil avec un certain angle sur une caméra, un sommet de montée qui l'empêche de voir la route (ça elle aime pas, surtout si la route plonge derrière), des animaux, piétons ou 2 roues qui déboulent... On n'attend pas un risque zéro d'un système de sécurité mais un risque diminué. Les statistiques aux USA sont très tranchées, avec tous les systèmes Tesla activés, il y a une dizaine de fois moins d'accidents pour 100000km parcourus qu'avec un conducteur humain. Ces résultats sont juste excellent. Même s'il arrive certainement quelques accidents qu'on peut juger comme du à un défaut de l'autopilot, et largement relayés dans la presse à dessein, combien d'accident ont été évités entre temps ? Un nombre certainement important. Le bilan global est très positif, il ne faut pas juste prendre un exemple unitaire, mais la globalité. En prenant un exemple unitaire, on peut démontrer tout et son contraire. Certains dépassent 100 ans en fumant 1 paquet par jour depuis leurs 15 ans, cela ne démontre pas que le tabac est sans danger, pourtant certains utilisent ces rares exemples comme démonstration (en oubliant les dizaines de milliers de morts prématurément annuels).
Le conducteur humain a l'avantage de pouvoir improviser sur des situations nouvelles, mais pourra aussi avoir des réflexes qui le mettront encore plus en danger que le danger initial. Il aura aussi des envies d'enfreindre le code de la route (vitesse, priorités, lignes continues, etc) et de conduire fatigué, bourré ou drogué. Les systèmes de sécurités, même s'ils ne sont pas programmés pour tout ni parfaitement, réagiront de la meilleure manière possible selon leur programmation. Même imparfaite, elle n'aura pas les mêmes envies que l'humain.
On a vu il y a quelques semaines un autopilote éviter un sanglier qui déboule sur la route, en passant par la file en sens inverse. Réflexe impeccable de l'autopilot, qui a évité l'accident. Qu'aurait fait l'humain ? Soit il aurait percuté le sanglier, soit il serait sorti de la route d'un côté ou de l'autre, avec tonneaux à la clef. Certains ont réagit en disant "et s'il y avait eu une voiture en sens inverse ?", pour dénigrer l'autopilot. Et bien s'il y avait eu une voiture en sens inverse, qui que ce soit aux commandes, il n'y aurait eu aucun moyen d'éviter l'accident. Dans cette situation, il y a ces possibilités : se bouffer le sanglier, sortir de la route par la droite (et tonneaux probables), tourner vers la gauche et se bouffer la voiture en sens inverse, et/ou sortir de la route par la gauche (et tonneaux aussi). L'humain aurait certainement tourné vers la file en sens inverse et aurait percuté l'autre voiture, ou forcé l'autre automobiliste de faire la même manœuvre et se bouffer le sanglier. Personne ne sait ce qu'aurait fait l'autopilot, j’imagine qu'il aurait enclenché le freinage d'urgence et prendre le sanglier, ce qui parait le moins dangereux.

[les3gujanais]

il y a 26 minutes, Patrick-S a dit :

😎 heureusement sinon @les3gujanais aurait changé de voiture depuis longtemps ! 😂

Ouais...

Un jour un ami, qui lui roule en Mercedes, m'a demandé si je m'amusais bien avec les coussins péteurs de ma Tesla. La honte est encore sur moi...

[Sandwich]

Il y a 10 heures, mat81278 a dit :

J'ai fait également l'expérience d'un freinage fantôme sur une départementale avec un gros SUV Porsche qui me collait au cul.

Une dame qui a eu la peur de sa vie, car on est pas passé loin du crash avec mes deux gamines à l'arrière du véhicule.

Pour moi le régulateur c'est terminé !

Honnêtement, c'est inadmissible, qu'on se le dise le régulateur à ce jour ne fonctionne pas et est dangereux.

Pour moi sans Maj, je déconseille fortement son utilisation.

La voiture est un bijoux, je dois le reconnaitre, mais vraiment ce bug est inadmissible.

Dans l’absolu j’imagine que le « gros SUV Porsche » est équipé du freinage d’urgence également et ne vous serrait pas rentré dedans même si le conducteur n’était pas vigilant. 
 

En AP je conduis avec la pédale d’accélérateur très légèrement enfoncée dès qu’on me colle un peu trop (ça nécessite de regarder dans ses retros et de ne pas conduire passivement...) ou que je double un camion. Plus aucun soucis avec cette technique. 
 

 

[Meaban]

Ce qui choque tout le monde c’est la brutalité de la réaction de la voiture.

La il y a impérativement une modification à faire, et vite. Si on a un premier coup de frein bref cela laisserait le temps de mettre le pied sur l’accélérateur pour éviter de faire peur à tout le monde. Visiblement c’est même traumatisant pour certains et je peux le comprendre, quand en plus on se fait allumer par le conducteur qui était juste derrière (et par sa femme en plus...)

Si on se dit à chaque fois qu’on prend la voiture « quand va-t-elle me faire le prochain freinage fantôme? », difficile de partir zen. Je trouve inadmissible de servir de cobaye.

[STSUKX]

Il y a 2 heures, njul a dit :

 

 

Heu non ... Attendre d'un système de sécurité ne lui fasse pas un accident n'est pas trop demander à mon avis.

Je connais une personne qui a une Polo à 13.000 euros (après prime de conversion) et le régulateur de vitesse ne lui a jamais fait ça. Il faut arrêter de trouver des excuses à Tesla de ce qui devient standard dans les voitures très très ordinaires.

 

En désaccord total, quand on en arrive à l’accident, c’est que le pied n’était pas sur les pédales ce qui veut dire que le conducteur s’est lui même mis en danger.

 

Pour le régulateur j’ai également une e golf qui ne le fait pas non plus à l’approche d’un virage, ce qui veut dire qu’il faut le désactiver à l’entrée du virage pour ralentir manuellement puis le réenclencher à la sortie. Avec le régulateur Tesla dans la majorité des cas, pas besoin de le faire.

 

Chaque système à ses avantages et inconvénients mais dans tous les cas requiert la vigilance permanente du conducteur, beaucoup semble l’oublier ou ne pas en tenir compte.

Modifié août 8, 2020 par STSUKX

[STSUKX]

Il y a 8 heures, Armaggion a dit :

Le souci c'est que la fonctionnalité fonctionne... 99.9% du temps. Et si un robot peut tolérer ça en rattrapant par un automatisme le 0.1% qui défaille par une action immédiate instantanée, le cerveau humain, lui, ne fonctionne pas ainsi. Son intelligence est construite pour repérer des régularités, interpréter des récurrences et en tirer des conclusions.
 

En d'autres termes, le système, tel qu'il est conçu, endort notre vigilance. C'est trop fiable ! Parce que réagir instantanément à un événement avec une probabilité d'occurrence aussi peu gérable, on n'est pas conçu pour ça. Si ça arrivait toutes les 5 ou 7 minutes, oui, mais comme c'est une fois de temps en temps, parfois rien pendant des jours, il n'y a aucune récurrence prévisible et on n'est pas conçu pour gérer ça. Ou plus exactement, si on remet les choses dans l'ordre, c'est lui qui n'est pas conçu pour nous. Nos fonctionnements ne sont pas compatibles et le seront de moins en moins parce que, paradoxalement, plus ça sera fiable, moins ça sera prévisible. En ce sens, le régulateur non adaptatif nous convient mieux. Il est totalement prévisible, y compris en arrivant à 130km/h à une barrière de péage.

Exprimé autrement, on a beau être entièrement d'accord avec le principe que le conducteur est responsable à tout instant, la conception du système, quoi qu'on en dise, induit une déresponsabilisation, légère et discrète si on fait l'effort de ne pas se fier, majeure si on s'abandonne à cette facilité sans avoir conscience du risque.

C'est le principe du film d'horreur qui balance un gros bruit soudain et une image brutale. Aucun besoin d'un réalisateur talentueux là-dedans, ça marche à tous les coups ! Et alors même qu'on sait pertinemment qu'on regarde un film, qu'il va se passer un truc et qu'on ne prend aucun risque réel. Il n'empêche que les popcorns ont fait un bond. Idem ici. On se fait surprendre. Avec le pied sur l'accélérateur, on pourra tenter de compenser, mais on ne pourra pas empêcher a minima que ça soit ressenti.

En conséquence, on a quatre options :
A- S'en passer totalement, et demeurer en responsabilité constante pour ne pas risquer qu'un assistant trop fiable endorme notre vigilance,
B- S'en passer et exiger un mode non adaptatif en supplément de l'existant pour les moments où on n'a pas envie de devoir être aux aguets,
C- L'activer en environnement maitrisé (pas de voiture proche derrière) et tâcher de repérer les facteurs augmentant la probabilité d'occurrence d'un événement indésirable afin de se tenir prêt à minimiser les conséquences (je parie que le film en me fera pas sursauter),
D- L'activer en permanence en ayant confiance dans notre bonne étoile et celle des autres ;

Réponse A, B, C ou D, à vos tablettes !

Plus sérieusement, je crois qu'on est assez d'accord pour éliminer D, et que rares sont ceux qui vont adopter le comportement extrême correspondant à A. Reste B et C qui ont le bonheur de ne pas être mutuellement exclusives... et au final on est donc quasiment tous d'accord à quelques nuances près.

Le D implique de laisser le système faire ce qui va à l’encontre totale de ce à quoi il est destiné, en somme c’est l’option irresponsable.

 

Perso je choisis le E. Il s’agit d’un D avec mon pied droit sur l’accélérateur pour compenser ses éventuels manquements.

[Fab-]

Il y a 3 heures, Gwladys a dit :

Je suis peut être un danger public, selon vos avis, mais pour moi c'est C. 

De plus, avec l'IA, si vous n'apprenez pas à votre système, il ne pourra pas évoluer. Je le vois sur mon trajet de test avec certaines versions qui mettent à 0 les apprentissages, la voiture fait n'importe quoi en AP, MAIS, après quelques passages, la situation s'améliore grandement.

Y a 2 points ici :

Le premier, c'est qu'il y a plus de chances que l'AP apprenne quand il est désactivé : Lorsqu'il est activé, il ne fait que répéter ce qu'il a appris, pas de raison de lui faire apprendre ce qu'il a déjà appris. À la rigueur, il pourrait être intéressant d'analyser les fois ou l'humain reprend la main pour comprendre la raison (mauvais pilotage ?) et donc lui faire apprendre ce passage. Quand un humain conduit, c'est là où ça devient intéressant pour l'AP puisque c'est à ce moment qu'on lui indique comment se comporter. C'est donc lors de ces phases qu'il apprendra le plus.

Le deuxième point, c'est l'amélioration sur un trajet donné : Il est impossible de constater une amélioration sans mise à jour de la voiture : Une IA fonctionne soit en apprentissage soit en restitution et les deux modes sont exclusifs. De plus, l'apprentissage requiert une telle puissance de traitement de données que ça se passe dans les data centers de Tesla, qui nous renvoie ensuite les réseaux de neurones entrainées via les mises à jour. La seule possibilité de constater une amélioration, c'est après une mise à jour, sachant qu'il est également possible de constater des regressions. Moi, par exemple, l'AP voulait prendre une sortie sur une nationale, j'étais obligé de reprendre la main à chaque fois sur ce passage. Ça c'était calmé il y a quelques temps puis c'est revenu depuis deux versions. On ne peut pas savoir la raison, il peut y en avoir des milliers, on ne peut juste que constater.

 

[Gwladys]

Pas tout à fait d'accord, j'ai bossé sur des système IA avec apprentissage et certaines règles peuvent s'alobored seule, selon le type d'IA bien sûr!

Je viens encore de tester ce que j'ai dit et j'ai remarqué que la voiture ralentit de manière plus efficace, en fonction du virage a venir, maintenant que juste après la maj.... 

[Busquet2]

Ça fait des mois qu’elle ralentit avant les virages, c’est pas pour autant qu’elle ne mord pas la ligne si le virage est serré. Et y en a eu des maj !

Sur mes trajets habituels car je pense que c’est que là dessus qu’on peut en déduire qq chose, il n’y a aucune amélioration depuis pas mal de temps. L’exemple type depuis le début c’est une ligne qui se transforme en 2, à 90% elle prendra la ligne de gauche. N’est-ce pas@les3gujanais ?

[retord]

il y a 20 minutes, Busquet2 a dit :

L’exemple type depuis le début c’est une ligne qui se transforme en 2, à 90% elle prendra la ligne de gauche.

Au moment ou elle part à gauche, mets ton clignotant à droite et elle gardera sa droite.😇

[Busquet2]

Je vais essayer. Merci pour l’info