L’éthique autonome

Par Samuel Greco, dit Le Belge. Récemment, la voiture autonome est sorti du cadre du petit monde automobile pour faire, tristement, la une des médias traditionnels. Je veux bien sûr parler du premier accident mortel dans un véhicule placé sous le contrôle d’un système de conduite autonome (ou, à tout le moins, utilisé comme tel par son « conducteur »).

Soudain, les mêmes qui, hier, se voyaient déjà entièrement pris en charge par leur véhicule, veulent baliser, ralentir, voire stopper, le développement de cette technologie.   Et de fustiger Tesla, l’accusant de traiter ses clients comme des « cobayes »… Curieux revirement !

Et cependant, nous nous accordons tous sur une proche généralisation de la voiture autonome. Constructeurs, assureurs, législateurs… Tous n’y voient qu’un gain de confort et de sécurité. Bon gré, mal gré, notre propre autonomie (auto-mobile) sera bientôt prise en charge par… une forme d’intelligence artificielle. Tout un paradoxe !

Et toujours revient la question de la responsabilité a posteriori. Il s’agit dès lors d’une problématique davantage financière que morale. Cet accident tristement historique soulève en moi une question d’ordre éthique.

Dernièrement, j’ai (re-)visionné l’interview de ce pilote de ligne par Mister Fréour. Spontanément, ne fait-on pas d’ores et déjà pleine confiance à une machine pour prendre les commandes d’une enclume de plus de 200 tonnes à vide croisant à des milliers de mètres d’altitude… ? Par ailleurs, nous plaçons notre vie entre les mains de parfaits inconnus que sont les conducteurs de taxis (et autres VLC), de bus, de train,… N’est-ce pas au moins aussi risqué que de la confier à une machine ? Rien n’est moins sûr.

Cependant, pour en revenir au pilote automatique, je pense sans trop m’avancer que la comparaison avec la voiture autonome fait long feu. Pilotes (et copilotes) apprennent, au cours de leur formation et de leur expérience, à travailler de concert avec Georges (avez-vous bien regardé le reportage ?!). Ils connaissent ses capacités, ses limites, ses failles et pannes potentielles.

Lorsque le commandant de bord et son second sont dans le cockpit, ils ne partent pas en retard au boulot, ils ne rentrent pas chez eux après une longue journée de travail, ils ne se rendent pas au supermarché, ne récupèrent pas les gosses à l’école… Ils travaillent.

Contrairement à notre (futur proche) voiture autonome, moyen de déplacement, de loisir, d’évasion, de détente,… Georges est, lui, constamment surveillé, sondé, encadré par des professionnels dont c’est le métier. Et c’est précisément la nuance essentielle !

Pour en revenir à la question éthique, sans pour autant aborder le délirant (mais passionnant) sujet de l’intelligence artificielle et d’accuser Skynet et autre Matrice de vouloir anéantir ou moissonner l’humanité, je m’interroge sur les conséquences qu’impliquent de laisser la machine me conduire et décider pour moi…

Le meilleur exemple à mes yeux est l’ambition assumée de Volvo : « Zéro mort ou blessé grave dans une Volvo » à partir de 2020… Au-delà du coup marketing, cette volonté de protéger à tout prix conducteur et passagers, passant sous la lunette de ce que j’appelle l’autonomie assistée, présente des implications pour le moins inquiétantes…

En effet, qu’on le veuille ou non, confier les commandes de notre véhicule à un descendant de Georges, signifie accepter de sauvegarder à tout prix les occupants au détriment des autres usagers. Un précipice ou un cycliste ?

Un enfant courant derrière un ballon ou le 38 tonnes arrivant en face ?

Et nous ? Ferions-nous le même choix ? Avec femme/mari et enfants, peut-être… Et seul dans la voiture ? Pourrons-nous assumer a posteriori ce « non-choix » ? Deviendrons-nous demain à ce point déresponsabilisés, insensibles, que nous n’y accorderons plus d’importance ?

Volvo (et autres marques) choisira d’assurer la vie de ses utilisateurs, avant tout. C’est un fait. La machine protégera d’abord ses passagers, l’entreprise ses clients, l’assureur ses assurés… Sans état d’âme. Au détriment du libre arbitre. L’actualité nous prouve que chaque liberté amputée donne lieu à une dramatique déresponsabilisation. Elle nous rappelle aussi qu’un véhicule peut devenir une arme dans les mains d’esprits malades. Et dans les mains d’un programme (peu protégé) conçu par des entreprises qui n’hésitent pas à rogner les coûts, dissimuler, mentir,… pour protéger leurs intérêts… ?

Enfin, pour nous, bagnolards invétérés que nous sommes, l’étape suivante ne me semble guère plus réjouissante. Aujourd’hui, la liberté auto-mobile est chassée peu à peu des centres urbains. Demain, se pourrait-il que l’humain soit privé de sa propre capacité à conduire, sacrifiée sur l’autel de la sécurité et de la fluidité du trafic routier… ?

Alors, Bagnolards, Bagnolardes, restons vigilants, restons unis et, ensemble, traçons joyeusement la route tant qu’il est encore temps !

seats-interiors-autonomous-supplier-3

L’avis des Petits Observateurs !

19 commentaires au sujet de « L’éthique autonome »

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

  1. 2rak

    on oublie de dire que toute action serait précédé d’un message windows, par exemple « est vous sûr de vouloir freiner ? ».
    (si je me rappelle bien, ceci était dans la réponse des ingénieurs de GM à Bill Gates)
    ah oui, un autre truc amusant: si je me souviens bien, l’agent de police prime sur la signalisation. donc, la voiture aura en mémoire l’uniforme suivant le pays où elle est vendue ?
    (à part cela, tres beau texte, Simon)

    Répondre
  2. Maxime

    Je pensais qu’il y aurait plus de critiques de ce point de vue 😉

    Car au fond, c’est avant tout la reprise du dilemme du tramway. C’est à dire, l’application pour la voiture autonome d’un choix cornélien. Choisir de sacrifier une vie pour en sauver plusieurs ou ne rien faire. Ce dilemme a été popularisé cette année par quelques chercheurs du MIT qui ont émis une critique sur la voiture autonome et son éthique;

    Sauf que c’est prendre le problème à l’envers.

    La voiture autonome ne va pas être conçue pour protéger coûte que coûte ses occupants, quitte à tuer des gens en face. Elle ne va pas faire un choix, éthique, moral.

    Les chercheurs du MIT avaient émis une hypothèse, si une voiture autonome fait face à un groupe de personnes sur la route et se trouve confrontée à un choix, que va t-elle faire ? Eviter le groupe, percuter un mur et tuer son occupant ou ne pas éviter le groupe et sauver son occupant.

    Dans les faits, voici comment va réagir la voiture 100% autonome. Elle va détecter le groupe avant l’humain et…ralentir.

    La force de la voiture autonome sera la communication et l’anticipation du danger, pour l’éviter.

    Voir, communiquer avec les autres voitures mais aussi les cyclistes et piétons.

    L’auteur reprend le cas Volvo et justement, il fallait l’approfondir.

    Le constructeur suédois a développé plusieurs systèmes. Un spray réfléchissant pour les cyclistes, un casque pour cyclistes permettant de communiquer et d’informer le véhicule d’une présence à proximité. Des radars détectant cyclistes, piétons et animaux…

    la voiture 100% autonome aura une vision à 360° et dans un rayon plus grand que ce que l’oeil humain peut percevoir.

    De plus, elle communiquera avec les autres véhicules. La voiture Y détecte un groupe de personnes sur la voie de gauche, elle enverra l’information à la voiture X arrivant en face. Voiture X qui anticipera la présence d’un « obstacle » sur sa voie, ralentira et préviendra les autres véhicules derrière elle.

    Le problème de la voiture autonome, ce n’est pas son éthique, sa morale car elle en aura tout simplement pas. Mais la sécurisation des informations et la capacité à traiter l’information convenablement.

    Répondre
    1. Samuel (POA Belgique)

      Tout le problème, au jour d’aujourd’hui, est votre emploi du futur en lieu et place du conditionnel… 🙂

      Sinon, je suis assez d’accord avec vous sur ce que devrait être, idéalement, la voiture autonome de demain !

    2. Designland

      Le problème sera aussi le prix : pour satisfaire la longue liste de course évoquée ci-dessus, il va falloir de bons revenus pour se la payer !

  3. Philippe

    Bonjour a tous. J’aimerais ajouter un commentaire. La comparaison avec le pilote de ligne n’est pas bonne car lui est professionnelle et travaille dans un cadre et une reglementation. Je comparerais la voiture autonome au petit avion prive avec auto pilot, tel un sr20 (je vous laisse regarder le cockpit qui cherche a se rapprocher de celui des voitures). Dans ce cas le pilote est prive donc « amateur » et n’a pas toutes les contraintes de temps de repos, de minima, d’objectif. Et la cest beaucoup moins bon que dans l’aviation commerciale. Tres peu sont formes sur les limites du systeme et en general ils ne l’utilisent que tres peu, a part en croisiere comme les auto sur les autoroutes. D’ailleurs les systemes sont moins performants et n’ont pas autant de redondances que sur liners. Et je pense que sur les voitures aujourdhui cest ce manque de reglementation, d’equipements minimum qui doit fonctionner, de formation sur le systeme et ses limites qui manquent.
    J’ai pilote un sr20 et mon bureau est un citation 2 et jenpeux vous dire que les sytemes et la maintenance ne sont pas les memes.
    J’ai peur que les voitures n’adopteront jamais la philosophie de l’aviation commerciale et donc les accidents arriveront.
    A voir ce qui se fera sur les bus et les camions conduits par des pro et qui pourront etre formes et suivre une formation continue. J’ai hate de pouvoir essayer un auto pilot sur classe E ou tesla pour voir les limites du systeme.

    Répondre
  4. Piat Georges

    Je pense que nous vivons une période de transition et les transitions sont bien souvent douloureuses. Par exemple, en aéronautique, les pilotes d’autrefois étaient réticents quant au pilote automatique.
    Plus récemment encore, les « glass cockpit » (les instruments conventionnels disparaissent au profit
    d’ écrans) ont fait débat mais sont adoptés maintenant sur beaucoup d’avions. Le monde automobile est touché également par ces changements profonds.
    Mais c’est bien de se poser des questions, cela permet d’avancer.

    Répondre
  5. tibo

    Un article passionnant mais pas toujours très limpide, si je peux me permettre. Deux, trois petites choses de mon point de vue,
    La voiture autonome est une certitude et le futur du transport. Allez contre me semble une bataille perdue.
    Si pour sauver des vies, la mienne, celle de ceux que j’aime mais celle des autres aussi, je dois sacrifier mon libre arbitre alors ainsi soit il, j’applaudis de mes deux mains devenues libres.
    Le cycliste, le précipice ou la voiture comme arme ne seront plus possible l’ordinateur l’empêchant.
    Je crois, qu’à l’image des passionnés du vol (avions parapentes…) les passionnés du volant se retrouveront sur circuits et là ils pourront montrer tout leur talent en courses, drifts ou autres techniques automobiles.

    Répondre
    1. Samuel (POA Belgique)

      tibo, je suis d’accord avec toi. Le propos n’est pas toujours très clair. J’ai tenté de faire passer une émotion qui se trouve être complexe et très ancrée dans le ressenti.
      J’espère que cela n’en limite pas la compréhension ou le plaisir éventuel que l’on peut prendre à sa lecture.

      J’admire ta confiance en la technologie. Je la partage en grande partie. Et je n’entends certainement pas aller contre… En revanche, j’espère que les usagers resteront prudents. Bien que j’en doute…

      Mais, dans un monde idéal où les entreprises ne cachent rien, expérimentent tout dix mille fois, où aucune erreur n’est commise, je me vois très bien, moi aussi, effectuer mes 40.000kms annuels « sans les mains » et surtout « cerveau off ». Le tout est de faire confiance… Ça, pour moi, c’est une autre paire de manche ! 😉

  6. Thomas C

    Merci,

    et oui merci de soulever ces points si critiques.
    En effet un pilote de ligne et son pilote automatique fonctionne de concert. Le point non mis en avant est par contre la 3D et le nombres d’usagers.
    Je m’explique combien d’avions volent en même temps et dans quel espace?(c’est très vaste du coup la densité de circulation n’est pas surchargée)
    Et la 3D oui si se bon vieux Georges et oui certaines fois il est vieux déraille qu’arrive t il? Le pilote a le temps de reprendre la main car il a les milliers de mètre pour réagir donc pas que quelques dixième de secondes.

    Sur ce amis bagnolards profitons encore de cette espace de (moins en moins) liberté et roulons.

    Répondre
  7. Stéphane. nc

    Samuel me rappelle ce bon vieux Rabelais :
    « Science sans conscience n’est que ruine de l’âme »

    Ne nous faisons pas trop de noeuds au cerveau.
    Les arguments employés à nous inquiéter (à juste titre) peuvent symétriquement nous rassurer : grâce aux caméras la voiture évite le gamin qui traverse sans prévenir. Mieux que le conducteur qui lit ses SMS, picole, prend des médicaments, roule trop vite, a mal dormi, conduit tout simplement très mal, voit mal, est trop vieux pour avoir de bons réflexes (nos pays vieillissent beaucoup)…….etc et rayez la mention inutile.

    Et le hacking des autos autonomes suscitera de nouveaux scénari de films d’action 😉

    Répondre
    1. Samuel (POA Belgique)

      Loin de moi l’idée d’être « rétrograde » ou de prétendre une seconde que la technologie n’apporte pas davantage de sécurité que l’être humain…

      Mon propos se situe davantage sur le plan du CHOIX face à l’inévitable (qui le restera, ça c’est une certitude !)
      Laisser la vie des AUTRES entre les mains d’une machine chargée avant tout de me protéger… machine créée, mise au point par des hommes/femmes… faillibles, employés par des entreprises dont le but premier est d’engranger des bénéfices.

      C’est une réflexion personnelle avant tout. Pas un article objectif 🙂

  8. Bertrand

    Sam,

    Ton texte me laisse bouche bée là !
    C’est même pas seulement qu’il soit vraiment bien écrit, mais surtout que tu fais apparaître une facette qui m’était, personnellement, tout à fait inconnue !

    Le propre des grands textes, en somme.

    Merci Sam !

    Répondre
  9. Christophe BONNIN

    « Curieux revirement ».

    Ou peut être simplement temporairement salutaire (ou pas) !

    Pour moi, c’est cette marche en avant forcée de toute l’industrie automobile autour d’une promesse par définition chimérique que je trouve fascinante.

    De voir tout un ensemble foncer dans un mûr avec une confiance si convaincu (confiance sincère… ou plus simplement motivée par d’autres intérêts) . L’effet Titanic (et pourtant, il a coulé quand même).

    La nature de l’homme est ainsi faite. Placez un bouton rouge associé a un panneau « ne pas toucher »… Il y aura toujours un individu sur la planète pour le tester. Si nous ne faisons pas la voiture autonome… d’autre le feront.

    Rien n’arrêtera l’homme dans ses rêves les plus incroyables… Même celui de l’éternité y passera.

    Répondre
  10. pablo

    l’automobile est de mon point de vue l’objet à la fois individuel et collectif le plus emblématique.
    Véritable expression de l’insertion et l’interaction sociale.
    Nous sommes tous, quelque soit notre intérêt pour l’objet (la bagnole), acteurs/usagés d’un bien commun (la route).
    Même si je suis le premier à saluer les innovations de nos constructeurs, je préférerais largement que nos infrastructures évoluent dans le même sens.
    Pour l’heure je ne trouve pas très rassurant d’imaginer ces électrons libres dans le trafic.

    Répondre
    1. Designland

      La voiture autonome concrétise dans son domaine cette chimérique et irrésistible (semble-t-il) course à la déresponsabilisation… de ce point de vue, elle est très inquiétante. Pour ma part, je préfère définitivement me sentir responsable de ce que je fais, où je vais, comment je le fais, etc…