Page 10 sur 15

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 16:39
de Max8992
Gilles131 a écrit:...
Max, on les teste depuis que l'on fait des logiciels... du moins on le croit.

Mais l'expérience montre qu'il y a toujours un cas bien caché dans un coin que personne n'a jamais envisagé, qui restera en sommeil pendant des millions d'heures de vol avant d'apparaitre un jour brutalement avec les conséquences que l'on sait: un automatisme qui jette l'avion en vrac hors du domaine de vol, et compte sur les pilotes pour récupérer le bazar.
Le plus souvent, si les circonstances ne sont pas toutes du mauvais côté, ça passe. Mais pas toujours.

Et c'est d'autant plus probable que le logiciel est complexe et touffu, et d'autant moins rattrapable que les pilotes sont exclus de la boucle: la fuite en avant est d'autant plus terrifiante.



Ben je crois que non, on ne teste pas les logiciels … de façon exhaustive! Pour avoir vendu des outils de production de code (dits de cinquième génération) je sais qu'il est possible de tester CHAQUE branche de l'arborescence d'un programme aussi touffus soit-il et TOUTES les combinaisons possibles de TOUTES les branches (finalement ça n'est pas très compliqué) mais on ne le fait pas pour des raisons purement économiques : ça prend du temps (humain plus machine) et parfois BEAUCOUP de temps.
On peut vraiment éviter de "jeter l'avion en vrac hors du domaine de vol" si la règle absolue est de l'y maintenir QUELQUESOIENT les circonstances. Reste à définir correctement ce qu'est (ou sont) cette (ces) règle(s) absolue(s) (voir Asimov Image) et c'est là qu'AMHA la relation entre BE et utilisateurs (lire pilotes) mériterait sans doute être améliorée.

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 16:55
de Manu
Gilles131 a écrit:Mais l'expérience montre qu'il y a toujours un cas bien caché dans un coin que personne n'a jamais envisagé, qui restera en sommeil pendant des millions d'heures de vol avant d'apparaitre un jour brutalement avec les conséquences que l'on sait: un automatisme qui jette l'avion en vrac hors du domaine de vol, et compte sur les pilotes pour récupérer le bazar.
Le plus souvent, si les circonstances ne sont pas toutes du mauvais côté, ça passe. Mais pas toujours.

A mettre en corrélation avec le nombre de fois où cet automatisme aura rattrapé la bourde d'un Homme sur ces millions d'heures de vol. Petit rappel : la fiabilité d'un équipage de 2 personnes est de 1.10-2. Une erreur majeur toutes les 100 heures de vol (ce qui ramène la fiabilité de l'Homme en tant qu'individu à 1.10-1 : une erreur toutes les 10 heures de vol).

C'est pas un chiffre sorti du chapeau, c'est issu de l'analyse des vols effectuée par les exploitants. C'est tellement faible que lors de la conception d'un système, si une intervention humaine est prévue, on lui attribue au taux de défaillance de 1.

xtreme a écrit:Est-ce que les données du pilotage d'un avion, c'est du big data ??
- quelques sondes, Pitot, incidence, ...
- quelques positions de manettes, volets, gaz, ...
- quelques indications, altitude, route, ...
On va dire 50 données par patient avion ?

Plus toutes les données 'internes" à l'avion, notamment les milliers de données issues de tous les contacteurs, relais, capteurs internes (chacun d'entre eux a plusieurs circuits indépendants pour pouvoir détecter une défaillance éventuelle, même le plus petit interrupteur dans le cockpit est surveillé), et de chaque variable des calculateurs, et il y en a des dizaines de milliers, le tout avec un échantillonnage qui peut aller jusqu'au 1/4 de seconde.

On est très loin de 50 données par avions.


zoiseau a écrit:On se calme l'abeille ! Bourdonnes, si tu veux, mais rentre ton dard, on ne fait que discuter !

Sa remarque est pourtant hautement pertinente, les contraintes liées à l'Humain, hors celles liées au pilotage pur, sont aussi un paramètre de poids dans l'équation

Manu

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 16:59
de Manu
Max8992 a écrit:Ben je crois que non, on ne teste pas les logiciels … de façon exhaustive!

Plus d'un an de tests à temps complet avec une équipe dédiée de 10 personnes pour le cœur électrique du prochain 777. J'ai pas tous les détails du programme de test, mais on est loin du produit grand public mis sur le marché à la va vite en laissant les clients se démerder avec les bugs...

Manu

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 17:11
de popele3
Il n'y a pas qu'Asimov dans la vie, il y avait aussi Steve Jobs qui dans sa grande vision futuriste a déclaré:
"It's not a bug, it's a feature !"

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 17:24
de Max8992
Manu a écrit:
Max8992 a écrit:Ben je crois que non, on ne teste pas les logiciels … de façon exhaustive!

Plus d'un an de tests à temps complet avec une équipe dédiée de 10 personnes pour le cœur électrique du prochain 777. J'ai pas tous les détails du programme de test, mais on est loin du produit grand public mis sur le marché à la va vite en laissant les clients se démerder avec les bugs...

Manu


j'ai un peu participé à une révision (mineure) de l'automate de pilotage de la tombée des barres dans un cœur nucléaire, le taux de couverture des tests était de 99.6% ! Ce qui n'est pas 100% !! et les tests qui n'ont pas été réalisés alors (1987) ne l'avaient pas été parce que pas spécifiés (j'en parle aussi dans le message que tu cites et pour moi c'est sans doute LE problème).

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 17:43
de Gilles131
Manu a écrit:A mettre en corrélation avec le nombre de fois où cet automatisme aura rattrapé la bourde d'un Homme sur ces millions d'heures de vol. Petit rappel : la fiabilité d'un équipage de 2 personnes est de 1.10-2. Une erreur majeur toutes les 100 heures de vol (ce qui ramène la fiabilité de l'Homme en tant qu'individu à 1.10-1 : une erreur toutes les 10 heures de vol).

Je suis donc mort des centaines de fois en équipage, plus des centaines de fois en pilote seul à bord: CQFD.
Et il n'y avait pas d'automatismes à chaque fois pour me sauver la vie! Image

En revanche, des reprises à la main d'automatismes emplafonnant le niveau sélecté, ou le LOC, ou ne descendant pas sur le glide ou le VNAV, ou passant sous la vitesse sélectée, des calculateurs déclenchant des rotations spontanées à V1, ou tellement violentes qu'il ait fallu les contrer férocement manche avant, des FMS qui perdent brutalement tout ce que tu as laborieusement rentré et te laissant foncer en aveugle dans le brouillard à plus de 8 NM/min sans plus aucune info, etc, etc, j'en ai vécu des dizaines et des dizaines, aux commandes ou en tant que contrôleur, en vol ou au simu...
Surveiller les automatismes est d'ailleurs devenu aujourd'hui le premier point d'attention de l'équipage. Et assimiler l'interminable liste de leurs pièges et peaux de banane (identifiés à ce jour...) le premier souci d'une QT.

Visiblement, les avions vus par le papier dans les bureaux et en vol, c'est pas les mêmes... mais ça, je le sais fort bien depuis que mon changement de métier m'a montré la réalité de ce que je ne connaissais auparavant que par des piles de listing. Image


Manu a écrit:
Max8992 a écrit:Ben je crois que non, on ne teste pas les logiciels … de façon exhaustive!

Plus d'un an de tests à temps complet avec une équipe dédiée de 10 personnes pour le cœur électrique du prochain 777. J'ai pas tous les détails du programme de test, mais on est loin du produit grand public mis sur le marché à la va vite en laissant les clients se démerder avec les bugs...

Tests humains, donc faillibles, comme l'expérience le confirme.

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 18:07
de Gabinger
On vie dangereusement! Moi j'ai surtout connu l'absence d'automatismes (sur mon modeste appareil je rentre le train à la manivelle en ce moment)... Et pour moi il y a deux mondes: les avions légers (dont font partie les ULM) et là nous avons intérêt a rester simple et l'aviation commerciale / militaire ...
Pour eux, les automatismes sont devenus quasi obligatoires, j'ai volé dans un Cesna citation 2 entre Mandelieu et Montpellier avec un Cbdb en solo (moi je ne suis pas qualifié pour piloter ça) et tous le vol a part déco et atéro c'est passé en PA, le PA suivant la route programmée et modifiée en temps réel.
Le pilote (ancien pilote de Jaguar) étant très fier de me faire une démonstration de ces automatismes, et moi, il faut le dire, assez impressionné de tant de facilitée.

Je suis persuadé que tous ces automatismes vont encore évoluer et seront sécurisés de plus en plus, car on les programmes pour être efficaces en cas d'incident, de sortie de domaine de vol etc (Rio - Paris...)

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 18:54
de Gilles131
Gabinger a écrit:Le pilote (ancien pilote de Jaguar) étant très fier de me faire une démonstration de ces automatismes, et moi, il faut le dire, assez impressionné de tant de facilitée.

Il était fier, à juste titre, de pouvoir te montrer cette sensation d'évidence et de fac!lité que l'on ne trouve que chez les grands virtuoses, que ce soit de l'archet, du clavier, du triple axel, du scalpel, du manche, du pinceau ou de la plume.
Il n'aurait probablement accepté pour rien au monde que tu le voies quelques temps auparavant au simu, tout rouge, incertain, suant et soufflant pour essayer laborieusement d'apprendre à maîtriser tout ça Image

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 19:00
de Max8992
Gilles131 a écrit:
Gabinger a écrit:Le pilote (ancien pilote de Jaguar) étant très fier de me faire une démonstration de ces automatismes, et moi, il faut le dire, assez impressionné de tant de facilitée.

Il était fier, à juste titre, de pouvoir te montrer cette sensation d'évidence et de fac!lité que l'on ne trouve que chez les grands virtuoses, que ce soit de l'archet, du clavier, du triple axel, du scalpel, du manche, du pinceau ou de la plume.
Il n'aurait probablement accepté pour rien au monde que tu le voies quelques temps auparavant au simu, tout rouge, incertain, suant et soufflant pour essayer laborieusement d'apprendre à maîtriser tout ça Image



Si c'est si compliqué à apprendre, c'est que les specs de l'IHM (interface homme machine) et/ou du programme d'apprentissage ont été mal faites (prévenez moi si je fais une fixation schizophrène Image)
Faudrait mettre les caïds du BE dans un simu et les secouer un peu pour voir comment ils s'en sortent Image

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 19:19
de Splitcat
Manu a écrit:
Gilles131 a écrit:Mais l'expérience montre qu'il y a toujours un cas bien caché dans un coin que personne n'a jamais envisagé, qui restera en sommeil pendant des millions d'heures de vol avant d'apparaitre un jour brutalement avec les conséquences que l'on sait: un automatisme qui jette l'avion en vrac hors du domaine de vol, et compte sur les pilotes pour récupérer le bazar.
Le plus souvent, si les circonstances ne sont pas toutes du mauvais côté, ça passe. Mais pas toujours.

A mettre en corrélation avec le nombre de fois où cet automatisme aura rattrapé la bourde d'un Homme sur ces millions d'heures de vol. Petit rappel : la fiabilité d'un équipage de 2 personnes est de 1.10-2. Une erreur majeur toutes les 100 heures de vol (ce qui ramène la fiabilité de l'Homme en tant qu'individu à 1.10-1 : une erreur toutes les 10 heures de vol).

C'est pas un chiffre sorti du chapeau, c'est issu de l'analyse des vols effectuée par les exploitants. C'est tellement faible que lors de la conception d'un système, si une intervention humaine est prévue, on lui attribue au taux de défaillance de 1.


Euh non.
Enfin, il faut obligatoirement préciser. Il faut prendre en compte la gravité de l'erreur.
Une erreur catastrophique n'intervient pas toutes les dix heures de vol pour un pilote seul, sinon tous les pilotes d'aviation générale seraient statistiquement morts grand maximum au bout de quelques dizaines d'heures de solo.
Une erreur ça peut-être quelque chose de sans gravité, prendre une mauvaise fréquence radio par exemple.
Manu a écrit:Plus toutes les données 'internes" à l'avion, notamment les milliers de données issues de tous les contacteurs, relais, capteurs internes (chacun d'entre eux a plusieurs circuits indépendants pour pouvoir détecter une défaillance éventuelle, même le plus petit interrupteur dans le cockpit est surveillé), et de chaque variable des calculateurs, et il y en a des dizaines de milliers, le tout avec un échantillonnage qui peut aller jusqu'au 1/4 de seconde.

On est très loin de 50 données par avions.

Effectivement, chez Airbus on peut monter à plusieurs dizaines voire centaines de milliers de paramètres uniques.

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 19:27
de Gilles131
Max8992 a écrit:Faudrait mettre les caïds du BE dans un simu et les secouer un peu pour voir comment ils s'en sortent Image

Il arrive aussi que par basse vengeance on invite les caïds du simu dans un avion, pour les laisser se mettre bien minables et mettre spontanément un bémol à leur grand caquet Image
J'ai des noms! Image

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Mercredi 9 Janvier 2019 19:30
de mikehoteldelta
L'IA peut-elle être vraiment fiable......c'est fabriqué par qui, les calculateurs?
Rapport édifiant du BEA.
On ne peut qu'être admiratif de la réaction du pilote...et du travail d'enquête.
https://www.bea.aero/uploads/tx_elydbra ... 110525.pdf

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Jeudi 10 Janvier 2019 14:38
de Luc Lion
Moi je suis admiratif de l'élégance avec laquelle le dernier paragraphe du synopsis renseigne, sans vraiment le dire, que la firme Rockwell-Collins a fait de l'obstruction à l'enquête.
Image

@mikehoteldelta, depuis que l'électronique existe, il y a des pannes de composants électroniques.
Ce qui fait la sévérité d'une telle panne, ce n'est pas le degré de simplicité/complexité du système où est logé le composant (contrôleur analogique, système de contrôle à micro-logiciel, calculateur, système expert utilisant l'intelligence artificielle, ...) mais bien l'autorité qu'il a sur un système critique de l'avion.

Je trouve très révélateur que la première action correctrice de Dassault a été de placer un bouton poussoir permettant de forcer le basculement du THS sur la commande manuelle de trim de secours.

Luc

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Jeudi 10 Janvier 2019 18:46
de PhM
Gilles131 a écrit:.../...En revanche, des reprises à la main d'automatismes emplafonnant le niveau sélecté, ou le LOC, ou ne descendant pas sur le glide ou le VNAV, ou passant sous la vitesse sélectée, des calculateurs déclenchant des rotations spontanées à V1, ou tellement violentes qu'il ait fallu les contrer férocement manche avant, des FMS qui perdent brutalement tout ce que tu as laborieusement rentré et te laissant foncer en aveugle dans le brouillard à plus de 8 NM/min sans plus aucune info, etc, etc, j'en ai vécu des dizaines et des dizaines, aux commandes ou en tant que contrôleur, en vol ou au simu...
Surveiller les automatismes est d'ailleurs devenu aujourd'hui le premier point d'attention de l'équipage. Et assimiler l'interminable liste de leurs pièges et peaux de banane (identifiés à ce jour...) le premier souci d'une QT.../...

Pour abonder dans le sens de Gilles, je livre une anecdocte glanée sur la fréquence de Nice alors que je descendais sur Cannes en IFR :
Contrôle : AFxxx, vous êtes dans dans le mauvais sens dans l'hippodrome !
Pilote AF : Heu..."il" est entré à l'envers !
(bon, OK, il appartenait au pilote à faire ce qu'il fallait, mais quand même...)

Re: L’intelligence artificielle dans le cockpit ?

MessagePosté: Jeudi 10 Janvier 2019 19:40
de Max8992
de l'eau à mon moulin :
"Par ailleurs, la surveillance basée sur le courant consommé ne s’est également pas déclenchée. Les examens réalisés sur le HSECU ont démontré que cette surveillance ne se déclenche pas lorsque l’alimentation interne (tension de -15 V) n’est pas correcte (dans le cas présent pour des tensions aux alentours de +0,7 V). Il n’a pas été envisagé, au moment de la conception, qu’une alimentation -15V puisse délivrer de telles valeurs de tension."

+1 pour le PF et la gestion de la situation.