Villers

accueil

billet

philosophie

sciences

culture

lectures

liens

#barre

BILLET


72. Morale des machines

fin mai 2020
La sophistication croissante des machines qui peuplent notre monde pousse à s'interroger sur l'influence de ces techniques sur le comportement des humains, en particulier sur la morale qui peut être associée à l'usage de ces techniques, ou même sur la morale qui habite ces techniques lorsqu'elles ont une certaine autonomie d'action.

Un sujet agissant amené à faire des choix décide en obéissant (plus ou moins) à des règles ou à des principes, innés ou inculqués par l'éducation, instinctifs ou réfléchis. Cet ensemble de règles (explicites et conscientes ou implicites et subconscientes) constituent une morale (au sens philosophique).

Pour la  recherche en éthologie il n'est pas nécessaire d'être un humain pour être un sujet moral. S'il a des fonctions cognitives suffisamment développées et une latitude d'action, tout être vivant (en particulier bon nombre d'animaux) peut être examiné en termes de morale, mais je laisserai ici de côté cette question de la morale des animaux (*)

Quoiqu'il en soit, les individus humains (animaux fortement marqués par leur vie en société) agissent donc en référence à une morale. Par extension, un groupe humain, dans son action collective, manifeste lui aussi une morale plus ou moins dérivée de celles des humains qui le constituent, mais qui peut aussi en être très différente. Les interactions entre membres du groupe, la structuration du groupe, les circonstances, un rôle clé dans l'alchimie de cette morale collective.

La constitution d'un pays, les commandements ou les préceptes d'une religion, les statuts d'une association ou les chartes adoptées par une entreprise expriment en partie (et en théorie) de telles morales collectives.

La philosophie s'est beaucoup nourrie de ces questions, en particulier lorsque les différentes morales auxquelles un individu est soumis ont des divergences. L'individu se trouve devoir arbitrer dans le conflit  de morales discordantes (solidarité familiale ou amicale, religion, patriotisme, droits humains, déontologie professionnelle, esprit d'entreprise, etc...). Ces injonctions multiples ont encore été enrichies et complexifiées avec l'émergence de la question écologique, dont les valeurs véhiculent une morale soucieuse de la bonne santé de la nature. Rien là que de très classique et assez largement débattu, mais une autre question a pris une grande ampleur et fait débat. C'est celle de la morale et des machines.

Nous vivons en effet dans un monde peuplé de machines parfois puissantes et automatisées, et depuis quelques décennies de machines (au moins un peu) pensantes(**). On perçoit déjà bien comment des outils relativement simples (simple bâton, objets contondants, armes tranchantes) peuvent changer les comportements. C'est encore plus le cas lorsque ces outils sont motorisés. Et aujourd'hui, les machines élaborées et notamment les robots agissent, sont dotés de systèmes de pilotage ou d'automatismes programmant l'ajustement dans leur action ou leur mise à l'arrêt. Les ordinateurs diffusent et traitent de l'information, la communiquent aux usagers, et par là induisent des changements dans l'agir des humains. Les machines peuvent donc (et doivent) être questionnées du point de vue de la morale, et tout autant les binômes constitués par les machines et les humains qui les utilisent.

Il est évident que la morale qui émerge d'un humain lorsqu'il est doté d'une arme moderne peut être très différente de la morale d'un citoyen "normal". Les débats sur la possession d'armes à feu, sur la légalité internationale de certains systèmes d'armement tentent d'apporter des solutions à ce problème. Mais aussi, de façon moins directe, il est bien connu que la voiture transforme l'humain qui la conduit, parfois jusqu'à en faire un tueur potentiel. Voilà des exemples évidents d'influence de la machine sur la morale. La morale du binôme homme-voiture n'est pas celle de l'homme seul, et cette différence est un sujet d'étude important et nécessaire.

Si l'arme, outil de mort est en elle-même un problème moral, la voiture n'est outil de violence que de façon secondaire à son but premier. De façon générale, il n'est donc pas innocent, il est même problématique, que des humains soient dotés d'outils capables de démultiplier leur puissance, qu'il s'agisse de leur puissance d'action, de transformation et de destruction de l'environnement humain et naturel, mais aussi d'une puissance d'observation de connaissance et de contrôle sur les choses, ou d'une puissance de communication. Quels usages ces humains font-ils de ces pouvoirs augmentés ? Quels changements dans les comportements sont induits par cet outillage ?
Au delà des débats récurrents sur le commerce des armes, ou sur la mise en circulation et le bon usage des véhicules motorisés, on débat aussi beaucoup sur les médicaments, sur les systèmes de surveillance, sur les biotechnologies, sur la circulation des informations. En revanche, il y a peu de débats sur les marteaux-piqueurs, les bulldozers, les tronçonneuses, les télécommunications hertziennes, etc...

Si on se pose souvent la question de la morale qui émerge des groupes humains et des sociétés en général, et si l'impact des outils "mécaniques" sur la morale est couramment interrogé, en fait-on autant à propos de la morale qui émerge des systèmes informatiques programmés ? Ces réflexions existent, mais sortent peu des cénacles de spécialistes. Ou plus précisément, ce qui en est connu (par les débats journalistiques, par la science-fiction, reste la plupart du temps à un niveau bien embryonnaire ou mal vulgarisé. Le plus souvent, après avoir émis des alarmes sur un mode assez primaire, les promoteurs de ces systèmes se bornent à rassurer le grand public en invoquant la neutralité des algorithmes, entendant par là que les automates n'étant pas réellement vivants, ils sont par principe neutres en matière de morale, et qu'ils ne font émerger que la morale de ceux qui les utilisent. L'arme à feu, le véhicule à moteur, l'intelligence artificielle ne sont pas responsables, seul celui qui les commande est en cause.

Mais cette affirmation un peu trop commode vise en réalité à évacuer un débat plus que nécessaire. De tels arguments ressemblent à ceux des responsables de la grande distribution, à qui on reproche de favoriser l'obésité en plaçant stratégiquement les friandises malsaines près des caisses des supermarchés. Pas de jugement sur ce qu'ils cherchent à vendre, ni sur le dispositif commercial, du moment que les affaires tournent. Le consommateur est seul responsable de son choix, et surtout pas le magasin qui met au moment le plus opportun l'objet répréhensible sous son nez ou sous celui de son enfant).

Précisément, du fait de leur fonctionnement complexe et peu transparent, tous ces systèmes informatiques auxquels nous sommes aujourd'hui si souvent confrontés devraient être interrogés du point de vue moral, à fortiori lorsqu'ils se parent du nom d'intelligence artificielle. Il est piquant d'observer que c'est parfois pour satisfaire à des demandes de morale qu'on a recours à des intelligences artificielles.

Par exemple, pour ne pas être accusé de propager des contenus répréhensibles, Facebook a développé des automatismes capables en analysant les images de repérer la nudité et de la censurer, non sans certaines difficultés à en apprécier le caractère réellement acceptable ou répréhensible (***). Les réseaux doivent-ils censurer ? probablement, car quand ils sont trop permissifs, on s'en plaint aussi et on pointe leur responsabilité. Mais peuvent-ils confier cette censure (ou si on préfère cette modération, cette régulation) à des machines ? Que ces réseaux (qui tiennent de fait du service public) soient publics ou privés, la société exige d'eux une certaine déontologie, mais au stade où ils sont parvenus de leur développement, il devient difficilement pensable de trouver une solution "humaine" à cette modération. Vaut-il mieux alors tenter de doter les intelligences artificielles d'une "morale" sans pruderie mal placée ?

Autre exemple, comme beaucoup d'opératuers du net, les diffuseurs de vidéos comme Youtube font des suggestions à leurs usagers, espérant par là prolonger le temps d'usage et donc accroître les profits. Cette influence n'est pas marginale puisque 70% des contenus visionnés (7 milliards d'heures par jour) le sont sur la suggestion de l'algorithme. La plateforme Youtube, dotée d'un système d'intelligence artificielle, analyse le comportement de l'usager et parvient assez rapidement à détecter les points faibles par lesquels il va pouvoir être séduit et poussé à visionner d'autres contenus après la première requête. Cet algorithme est-il neutre du seul fait de son automatisme, et en quoi consisterait cette "neutralité ? ou bien participe-t-il à l'émergence d'une morale sous-jacente ?

Quelques développeurs "repentis" des GAFA se sont posé ces questions et ont ainsi conçu un robot capable d'analyser ce que promeuvent de fait de tels algorithmes, c'est-à-dire où vous mène une forte obéissance à leurs suggestions, et ils montrent sans surprise qu'en frappant souvent l'internaute "sous la ceinture", qu'en privilégiant sa réaction viscérale à court terme ou l'effet de surprise, le robot Youtube se révèle souvent un promoteur de contenus accrocheurs et pour le moins mal contrôlés, de polémiques qui tournent au pugilat, de rumeurs parfois baroques et même de francs mensonges. En bref, les suggestions de contenus contribuent massivement à développer la bêtise collective. L'origine de cette "morale" dévoyée réside dans la logique commerciale de ces acteurs de l'internet (****) qui choisissent de cibler les points faibles de l'internaute et s'abstiennent de toute véritable politique éditoriale.

Les IA des GAFA, programmées pour multiplier les clics ou prolonger le temps passé devant l'écran sont un chemin royal pour propager de la bêtise: attendrissement facile devant les chats, rêveries stéréotypées et ultra-kitsch, recettes de santé plus ou moins douteuses, rumeurs à scandales fondées ou non, célébrités éphémères, théories du complot, etc... Le "populisme" dont nos élites en col blanc dénoncent si volontiers la montée inexorable (et dont l'origine tient aussi pour beaucoup aux inégalités de condition sociale), semble ici largement favorisé dans sa propagation par l'efficience des techniques de pointe et par l'esprit commerçant si prisés ces mêmes élites.

Un opposition se crée entre ce bouche à oreille redoutablement efficace et les tenants d'une vérité mieux construite : science collégiale, fact-checkers, médias de référence, experts reconnus, responsables démocratiques (*****). En haut lieu, on se réfugie dans son élitisme de "sachant", on allume des contrefeux élaborés par des "communicants", et on dénonce en bloc le "populisme" sans faire le détail entre les sources de l'info dévoyée, le véhicule de sa propagation et les causes socio-culturelles qui lui offrent un terreau si fertile. Au final, on arrive à des élections qui mettent des trolls au pouvoir, qui une fois arrivés refusent les réalités et tentent de rallier l'opinion à coup de tweets dignes d'une cour d'école. Y a-t-il des études établissant un lien lisible entre la dérive politique du monde actuel et les carences  de fonctionnement des réseaux sociaux ?

Pour certains observateurs du monde de la tech, il faudrait parvenir à ce que le système IA de Youtube (et celui d'autres gros diffuseurs et relayeurs de contenus dont le pouvoir d'influence est énorme) soi(en)t programmé(s) pour favoriser une information fiable et "bien" orientée, par exemple vers la lutte contre la catastrophe planétaire en cours. Actuellement selon eux, ce seraient en grande partie ces systèmes qui rendent les humains collectivement idiots, et on pourrait (donc il faudrait) les calibrer pour les rendre plus lucides et réactifs. Je ne sais pas à quel point la solution à certains de nos maux se trouve là, mais le raisonnement n'a pas l'air si mal fondé. Mais comment dans le contexte de valorisation marchande ou actionariale et de concurrence entre acteurs privés convaincre les responsables d'agir à ce niveau ?

Une chose me frappe cependant quand il s'agit de tels sujets, c'est la jeunesse des intervenants. Ils perçoivent bien ce qui est en jeu et sont animés par la volonté de bien faire, mais ils sont jeunes et majoritairement technophiles. Ce n'est probablement pas d'eux qu'ils faudra attendre des suggestions plus sages, plus sobres, ou plus centrées sur les réalités concrètes (modération dans le recours aux techniques internet, recherche d'une résilience par la rusticité, ...). Récemment, Naomi Klein a dénoncé comment les entreprises de la tech, surfant sur la crise sanitaire et ses conséquences et avec l'aval de dirigeants politiques qui aiment afficher leur progressisme, démarchent pour renforcer leur emprise sur la société et sur nos modes de vie. Le casse-tête des applis pour pister la contagion, les discours sur l'enseignement connecté, sans parler du boom du commerce en ligne, montrent bien ce qui est à l'oeuvre. Il apparaît clairement que pendant le confinement, l'économie numérique n'oublie pas de placer ses pions pour accroitre son monopole sur de nombreux aspects de nos vies et y glaner de juteux retours sur investissement.

Les sociétés démocratiques sont-elles en mesure de reprendre du pouvoir et de freiner cette logique jusqu'à présent inexorable?



(*) On a fait des procès aux animaux, avant de les réduire au statut d'objet mécaniques dénués d'âme. L'éthologie des animaux "supérieurs" nous conduit maintenant à revoir cette conception.(retour)
(**) Si l'exemple des robots ou des ordinateurs et de l'intelligence artificielle vient immédiatement à l'esprit, on peut aussi commencer déjà à se poser ces questions pour des machines rudimentaires telles par exemple que des pièges pour la chasse ou la guerre.(retour)
(***) Des photos de poitrines féminines illustrant un sujet sur le cancer du sein ou cclles d'une vénus préhistorique ont ainsi été supprimées. Il en a été de même, sur la base de recherches automatiques de mots, pour certains contenus à caractère politique sans qu'ils soient en rien répréhensibles.(retour)
(****) Youtube tire ses profits du temps de visionnage des vidéos qu'il relaie. A contrario, Wikipédia qui est gérée d'une façon très différente et ne tire pas de profits de l'addiction de l'usager à des contenus démontre (sans être exempte de reproches) la capacité des techniques de l'information à démultiplier des contenus de qualité. (retour)
(*****) Il faut aussi dire que ces médias, ces experts, ces scientifiques ces responsables, sont susceptibles d'être atteints par la mauvaise polémique, par l'erreur, le mensonge ou le populisme, ce qui complique énormément le tri à faire dans ce foisonnement contradictoire. (retour)

Antoine Li               http://www.think-thimble.fr
vignette_billet
























Derniers ajouts


billet n°72

pages Culture
un premier article sur la modernité artistique

pages Sciences
une tentative pour estimer les probabilités de  contact avec des extraterrestres

une lecture marquante:
Éthique de la Terre (John Baird Callicott)

dans les pages Philo:
Rêve
une petite note sur les fesses de l'Homme
Mode

dans les pages Sciences:
Mieux comprendre l'économie

Histoire de la biosphère

Et si la Terre avait l'âge des pyramides d'Egypte?

Mots actuels

Progrès technique
Force, puissance
Pensée  Complexité 
Le bien, le mal, la morale 
Pensée, volonté collectives
Vérité, doute, certitude 
Drogue, addiction  
Ennui     Populisme  


vers liste alphabétique 




auteur

haut de la page
retour à l'accueil
billets anciens
ancien site