Jeu de c..s

[Delépine]

C’est pour cela que, bien qu’on en parle depuis 50 ans, on n’est toujours pas prêt de voir nos villes, routes et autoroutes sillonnées par les voitures autonomes: la fragilité du réseau de capteurs aura du mal à gérer les conséquences d’accrochages, givre, brouillard, trombes d’eau, projections de boue, vieillissement, secousses, vibrations, même en utilisant du matériel à coût aéronautique ou militaire…

Il y aurait moins de morts si on le faisait, mais ils mourraient pour d'autres causes que la responsabilité individuelle identifiable. Ce point suffit à rendre pour longtemps la chose infaisable.
Un conducteur qui n'a pas su gérer le givre, brouillard, trombes d'eau, projections de boue, vieillissement, secousses, vibrations, se fera taper sur les doigts quelles que soient ses excuses, ce qui est juridiquement simple, et tout le monde continuera à conduire alors qu'on sait qu'il est impossible de savoir humainement gérer tous ces impondérables. En revanche qu'un logiciel ne sache pas le faire non plus est intolérable quand même il en malgère moins... Bizarre !

Pour affirmer que la voiture autonome tuera moins que la voiture conduite, je me fie aux dires de manu qui si je l'ai compris nous affirme professionnellement que l'automatisme est faillible à 10^-n et l'humain à 10^-p, avec p nettement plus petit que n.


(Cela dit je ne m'intéresserai éventuellement à la voiture autonome que si mon permis m'est retiré un jour pour cause de sénilité ; mes parents devenus nonagénaires n'avaient point été frappés par ce procédé. Mais il faudra alors que me reste suffisamment d'argent pour m'équiper d'une pareille automobile ; il semble que l'électrification doive déjà suffire à rendre à l'automobile son statut d'avant-guerre d'apanage des notables. Je parle de voitures électriques capables de faire plusieurs centaines de kilomètres avec du chargement, pas des trucs comme l'ami ou similaire.)

[Gilles131]

Un conducteur qui n'a pas su gérer le givre, brouillard, trombes d'eau, projections de boue, vieillissement, secousses, vibrations, se fera taper sur les doigts quelles que soient ses excuses, ce qui est juridiquement simple, et tout le monde continuera à conduire alors qu'on sait qu'il est impossible de savoir humainement gérer tous ces impondérables. En revanche qu'un logiciel ne sache pas le faire non plus est intolérable quand même il en malgère moins... Bizarre !

La différence est que le conducteur n'a aucun besoin des donnée recueillies et envoyées par tous ces capteurs, contrairement au logiciel. Il n'a guère besoin que de sa vue.
Une 2CV roule très bien à l'humain pur. Une Tesla autonome roule moins bien aux capteurs: son constructeur l'interdit sur la route.

Pour affirmer que la voiture autonome tuera moins que la voiture conduite, je me fie aux dires de manu qui si je l'ai compris nous affirme professionnellement que l'automatisme est faillible à 10^-n et l'humain à 10^-p, avec p nettement plus petit que n.

Plus exactement: l'automatisme surveillé par l'humain, et déconnecté au besoin.

[Delépine]

A vérifier si Tesla n'est pas en butte à des obstacles juridiques (voir mon commentaire) plus gênants que la fiabilité du véhicule autonome : on pardonne au conducteur humain, on ne tolère pas les fautes de l'automatisme.

A vérifier si l'automatisme seul serait plus faillible que l'humain seul.

[Jeanj]

Ouh là! Si c’était toujours vrai, ça se saurait… Ceci n’est qu’un postulat.

Entendons nous bien sur la définition de l'automate et de son environnement.

Le PA ne se limite pas à son logiciel: les différents capteurs et sondes qui l’alimentent en font partie, comme tous les circuits de transfert de l’information, pneumatique, électrique, mécanique, électronique, hydraulique, ainsi que les actuateurs, vérins, servocommandes, retours d’efforts, etc… Tout cela est susceptible de pannes.

Précisément, tout ceci constitue l'environnement capteurs-actionneurs, et peut-être surveillé par l'automate à un niveau d'exigence prédéfini.

Une situation totalement identique n’implique pas nécessairement la fourniture de données identiques au logiciel.
C’est pour cela que, bien qu’on en parle depuis 50 ans, on n’est toujours pas prêt de voir nos villes, routes et autoroutes sillonnées par les voitures autonomes: la fragilité du réseau de capteurs aura du mal à gérer les conséquences d’accrochages, givre, brouillard, trombes d’eau, projections de boue, vieillissement, secousses, vibrations, même en utilisant du matériel à coût aéronautique ou militaire…

Quand je vois que l’asservissement du réglage en hauteur des phares de ma voiture est tributaire d’une simple biellette en plastique qui se déconnecte régulièrement…

Dans ce cas, le niveau de surveillance est inexistant, puisque le niveau d'exigence de la fonction est plutôt modéré, et que dans l'immense majorité des cas cela fonctionne.

A quel niveau de fiabilité estimerais tu la fonction "asservissement en temps réel de l 'angle des phares à l'assiette de la voiture" s'il fallait l'assurer par un humain ?

Ce qui me gêne dans ton approche, c'est que tu utilises des exemples unitaires de défaillance, sans comparer au taux de défaillance et de mauvaise décision que peut prendre un humain.
Pourtant, l'humain bien que se suffisant de la vue pour prendre des décisions critiques, est un système qui serait jugé inacceptable dans toutes les applications critiques : son fonctionnement est très instable, il est très sensible aux facteurs environnementaux qui peuvent anéantir tous les individus d'un coup (hypoxie, par exemple...) et, comme la biellette de ton phare, rien ne permet de vérifier à tout moment qu'il est en bon état.

Sans tourner en rond chacun campé sur ses positions, je suis convaincu que les défis de, notamment la conduite autonome, sont bien ailleurs que dans la solidité d'un réseau de capteurs. En effet, en éliminant l'humain du processus de décision, les informations peuvent être collectées d'une manière bien plus primitive et fiable pour chaque grandeur.

La problématique d'une conduite autonome semble d'ailleurs un peu biaisée : serait-on prêts à accepter une réduction de 90% des risques liés à la route ? En d'autres termes, accepterait-t-on les 10% résiduels comme une fatalité ?
Les barrières éthiques sont bien plus hautes que les barrières technologiques, à ce jour.

[Manu]

l'automatisme est faillible à 10^-n et l'humain à 10^-p, avec p nettement plus petit que n.

p=2 et n=5 si on prend en compte les défaillances à partir de majeures, sinon c'est 7 pour celle qui ont un impact sur la sécurité. Et encore le 2 c'est avec la redondance d'un équipage de 2 personnes. Quand une intervention humaine est prévue dans une procédure, la fiabilité de la procédure est calculée avec un taux de défaillance de l'équipage de 1 et l'automatisme doit être capable à minima d'identifier l'erreur humaine pour compenser.

Plus exactement: l'automatisme surveillé par l'humain, et déconnecté au besoin.

Non on parle bien du taux de défaillance avant toute intervention humaine.

Une Tesla autonome roule moins bien aux capteurs: son constructeur l'interdit sur la route.

Parce que c'est hors du domaine pour lequel elle est conçue. Comme n'importe qui / quoi, quand on sort du champ de compétences ça foire.

J'ai pas changé d'avis : on en est à la préhistoire de l'intelligence artificielle. A terme elle remplacera l'Humain.


Manu

[Manu]

Pour affirmer que la voiture autonome tuera moins que la voiture conduite, je me fie aux dires de manu

Fin 2021 le taux d'accident des Tesla sous autopilot était de 1 accident tous les 6,93 millions de km. Sans autopilot c'était 1 tous les 2,56 millions de km. Je sais pas si on a des stats pour d'autres constructeurs.

Manu

[Manu]

A vérifier si Tesla n'est pas en butte à des obstacles juridiques (voir mon commentaire) plus gênants que la fiabilité du véhicule autonome : on pardonne au conducteur humain, on ne tolère pas les fautes de l'automatisme.

En Europe au moins oui. Le cas certainement le plus débile c'est la limitation de l'angle de braquage des roues autorisée sous pilote automatique. Si le virage se ressert et que les roues doivent être braquées au delà de la imite réglementaire, l'autopilot se déconnecte... en plein virage... Quelle magnifique idée de nos chez décideurs... Et non c'est pas un problème d'automatisme mais bien de connerie humaine.

A vérifier si l'automatisme seul serait plus faillible que l'humain seul.

Factuellement oui, et de loin. Et un automatisme n'est pas soumis au stress ni à la fatigue qui réduisent ses capacités.

Manu

[EchoVictor]

Il a dit faillible, pas fiable.

Eric

[Gilles131]

Le cas certainement le plus débile c'est la limitation de l'angle de braquage des roues autorisée sous pilote automatique. Si le virage se ressert et que les roues doivent être braquées au delà de la imite réglementaire, l'autopilot se déconnecte... en plein virage... Quelle magnifique idée de nos chez décideurs... Et non c'est pas un problème d'automatisme mais bien de connerie humaine.

Exactement comme ce que l’on voit de temps à autre sur les automatismes des avions. L’automanette du 777 en est un bel exemple, conduisant à trois procédures de remise de gaz différentes selon les conditions (et le standard du logiciel, régulièrement remanié pour pallier certaines défaillances, en amenant ainsi à chaque fois de nouvelles… il n’y a pas qu’en Europe…)
Hé oui, le problème des automatismes est qu’ils ne fonctionnent malheureusement pas dans le monde virtuel imaginé par leur concepteur mais bien dans le réel, et qu’ils sont bel et bien conçus par des humains, avec toutes leurs faiblesses.

[gma]

Les automatismes ont les limites de leurs concepteurs humains... Pour l'instant.
Reste qu'ils sont plus performants que l'humain, sur beaucoup de critères, y compris en matière d'IA.
Et le potentiel est énorme, actuellement tiré par les technologies de vision et les applications réseau.

Depuis très longtemps les véhicules autonomes monovoie sont commercialisés, au japon par exemple. Depuis quasiment 6 ans, l'offre commerciale pour de l'autonome multi voies existe, il y a maitrise du dépassement, du freinage d'urgence et même de la conduite en files multi voies (l'objet de la publicité volvo il y a quelques années).

Et ça fonctionne dans le brouillard, la nuit, aussi dans l'ultraviolet et l'infrarouge.

Est-ce plus faillible que l'homme ?... Non, mais pas aussi fiable que le surhomme il va de soi.

Maintenant, entre un chauffeur ivre et un véhicule autonome imparfait, devinez ma préférence.

[Matthias]

Maintenant, entre un chauffeur ivre et un véhicule autonome imparfait, devinez ma préférence.

Tu préfères savoir quand tu vas mourir ou savoir comment tu vas mourir ?

[Leon Robin]

Maintenant, entre un chauffeur ivre et un véhicule autonome imparfait, devinez ma préférence.

Tu préfères savoir quand tu vas mourir ou savoir comment tu vas mourir ?

Le vrai problème des automatismes en réseau (gestion de circulation entre autres) est éthique. Il faut envisager certaines situations "cornéliennes" où un accident devient inévitable ... sauf si on en crée délibérément un autre qui limitera le nombre de victimes. Plusieurs options s'offrent :

1. le problème n'existera jamais, car l'automatisme permettra de prévenir ce genre de situation,
2. où est le problème, puisque l'automatisme aura permis de réduire le nombre de victimes (en en faisant délibérément d'autres qui, autrement, n'auraient pas été impliquées),
3. ce n'est pas le problème car, statistiquement, ce sera mieux,
4. on va y réfléchir plus profondément avant de s'engager dans une voie dont on n'est pas capables de savoir où elle nous mène.

A chacun de choisir UNE case. Entre les certitudes et le doute, le choix n'est pas facile et, tant d'un point de vue ethique que strictement humain, on peut légitimement s'interroger sur l'éventualité de laisser à une (pseudo) "intelligence artificielle"  le soin de résoudre des dilemmes ethiques qui sont la nature même de l'humain.

Je vous conseille fortement la lecture de "Le lendemain de la machine" (Tomorrow sometimes comes) de Francis G. Rayer

[gma]

Maintenant, entre un chauffeur ivre et un véhicule autonome imparfait, devinez ma préférence.

Tu préfères savoir quand tu vas mourir ou savoir comment tu vas mourir ?

En réalité, il n'y a pas de choix cornélien à faire, l'automatisme est une volonté de la société, chaque être tendant naturellement vers la situation de moindre énergie.
Le réflexe de freiner par à coups sur route mouillée est devenu ABS, le double pédalage-débrayage devenu boîte automatique, vous ne sortez plus de cartes, ne tournez plus de manivelle pour démarrer ou baisser une vitre.
Même le plus réticent d'entres vous aux automatismes ne reviendrait pas en arrière, quitte à rattraper à la main les jeux de ses garnitures de freins, de ses soupapes tous les mois.

Et donc demain, naturellement, vous monterez dans votre solution de mobilité collective (lol) pour dormir, lire, bavarder en sirotant un jus de pomme (avec modération)... Pendant que ça roule vers la destination choisie sur l'écran.

[Leon Robin]

............ en sirotant un jus de pomme (avec modération)...

....  "pour votre santé évitez les aliments trop gras, trop salés ou trop sucrés"

............Pendant que ça roule vers la destination choisie sur l'écran ...

.... "pour les petits déplacements, préférez la marche ou les transports en commun" ... "privilégiez le co-voiturage"

'font ch..r tous ces donneurs de leçons

[Delépine]

On trouve quelque part sur la toile un questionnaire où sont proposés de nombreux cas présumés éthiques de choix de victimes à faire par une IA de voiture autonome lorsqu'il est impossible d'éviter des morts. C'est pour faire voir la difficulté de ces choix.
Oui, mais là où c'est très "drôle", c'est qu'on vous demande beaucoup de choix dans le genre : l'IA doit-elle envoyer dans un mur la voiture où se trouvent une jeune femme sportive chef d'entreprise et son enfant, pour éviter de percuter trois vieux clochards alcooliques qui traversent hors des clous.
Voilà selon mon éducation chrétienne qui laisse des traces, une éthique toute nouvelle. Si en revanche on décrète qu'un humain égale un humain, le test est assez facile à faire, à l'exception de pas plus d'un ou deux cas.
Dans l'un des cas, on a le même nombre de morts qu'on fasse le choix A ou B, mais cependant A casse la voiture tandis que B la préserve. J'ai logiquement choisi B !