[Monde numérique] Et si on reprenait nos esprits ?

Pour tenter de séparer le bon grain de l’ivraie, Sesame a donné la parole d’une part à Gaëtan Séverac, jeune industriel créateur de robots œuvrant pour une agriculture plus vertueuse, d’autre part au collectif des producteurs de Comté qui ont dit « non » au robot de traite. Ce dossier s’appuie également sur l’analyse de Hugues Bersini, directeur du laboratoire d’intelligence artificielle de l’université libre de Bruxelles. Auteur d’une foultitude d’articles et ouvrages dédiés aux technologies de l’information et aux systèmes complexes, mais également de nouvelles pour le grand public (« Le Tamagotchi de Mme Yen », éd. Le Pommier, 2012), il met aussi son expertise au service de la décision publique, en Belgique et en France. Il a ainsi contribué auprès d’Axelle Lemaire, sous la présidence de François Hollande, à la stratégie France IA, amplement reprise dans le rapport « Donner un sens à l’intelligence artificielle » remis au gouvernement par Cédric Villani, en mars 2018.

Prenant pour exemples de nombreuses situations de notre quotidien, le chercheur nous aide à décoder le monde numérique en construction et prévient : il y a là sans conteste une opportunité pour répondre aux enjeux auxquels notre monde, si complexe, doit répondre, à condition que nous reprenions la main. Car nous nous sommes laissé dépasser par des monstres financiers comme les Gafa qui sont en train de faire main basse sur la gouvernance des biens publics.

***

Dans les années cinquante, où il y a tant à reconstruire et à imaginer, le mathématicien britannique Alan Turing – qui perça le secret d’Enigma, la machine de cryptage de l’information des nazis réputée inviolable  –, travaille sur l’un des tout premiers ordinateurs et invente le concept de machine universelle, capable de tout faire, de tout remplacer. Même l’homme. Mais pour ce faire, encore faut-il comprendre le cerveau humain, cet organe fabuleux grâce auquel les hommes sont capables de réaliser des tâches intelligentes telles que conduire, parler, résoudre des problèmes mathématiques, jouer aux échecs ou au go, à la manière des Coréens. Patience, patience… 

Quelque trente ans plus tard, le jeune Bersini, tout juste diplômé en génie nucléaire et en informatique, constate le chemin parcouru et avoue avoir été fasciné par « le pouvoir ubiquitaire de cette technologie » dont il sent « qu’elle va se substituer de plus en plus aux performances cognitives de l’homme. Le projet de l’intelligence artificielle (IA) de remplacer l’homme par la machine se précise et la révolution qui va avec ». Simplement, parce que désormais  tout ou presque est virtualisable, peut être écrit sous forme de 1 et de 0, que ce soient les images, les films, l’argent ou la prise de décision…

Tout de go !

En 2018, plus un jour ne passe sans entendre parler de data, de robots, de drones, d’intelligence artificielle… La révolution a-t-elle eu lieu ? Pas tout fait. Pour H. Bersini, ce buzz, ce bruit assourdissant est largement produit par les Gafa (Google, Amazon, Facebook, Apple), « ces monstres financiers qui se vendent comme des sociétés d’intelligence artificielle » mais aussi  parce qu’il y a eu « une succession de petits exploits, où les logiciels ont fait mieux que l’humain ». Souvent citée en exemple : la performance du programme AlphaGo qui, en 2015, a battu Fan Hui², champion européen de go – le dernier jeu de société où les hommes faisaient mieux que les machines. L’homme avait pourtant résisté longtemps et vaillamment. Cet échec résonne un peu comme le symbole d’un dernier rempart qui s’écroule, ouvrant la voie à tous les possibles et toutes les dérives. Et le chercheur de confirmer : « Cette situation où la machine est devenue meilleure que l’homme est en train d’arriver, petit à petit, dans les transports, la reconnaissance d’images… »

Deep-learning

Que s’est-il passé qui puisse expliquer un tel bond en avant ? Une nouvelle IA a-t-elle été créée ? « Pas vraiment, nuance H. Bersini, mais elle marche mieux grâce à une bifurcation clé, celle de l’apprentissage, que l’on nomme aujourd’hui le deep-learning. » Nous y voilà ! Encore un de ces mots qui tournent en boucle comme un mantra dans les médias. Explications. 

Dans les années cinquante déjà, des logiciels étaient capables d’apprendre à jouer, notamment aux dames, selon un principe simple : les machines exécutaient une multitude de parties au hasard et retenaient, au fil de leurs essais et de leurs erreurs,  les coups les plus prometteurs, ceux qui avaient le plus de chances de mener à la victoire. S’il est facile d’imaginer une telle stratégie pour des jeux comme le morpion, où il est plutôt aisé d’explorer toutes les parties possibles, dans le cas du go le nombre de coups possibles est de 10¹⁷⁰, bien plus que le nombre d’atomes présents dans tout l’univers ! Eh bien, malgré cela, le logiciel est désormais capable d’apprendre de lui-même, au hasard, et de parvenir au rang de meilleur joueur du go au monde. Comment expliquer ces prouesses ?

De la puissance et des données

Deux raisons principales à cela. 1) lLes machines sont beaucoup plus puissantes et, si une ne suffit pas, des millions de processeurs stockés dans des clusters peuvent être mobilisés en parallèle pour effectuer les traitements. 2) Cette puissance de calcul est désormais couplée à une masse faramineuse de donnéess. Concrètement ?

Prenez la traduction. Exit l’ancien monde, où cette opération demandait de décortiquer une phrase, puis d’essayer d’en comprendre le sens, comme l’a théorisé Noam Chomsky, le fondateur de la linguistique générative. Désormais, en puisant au cœur des millions de textes traduits dans toutes les langues depuis l’aube de la traduction  et stockés sur Google, un logiciel très puissant reproduit simplement les traductions déjà réalisées. C’est d’ailleurs pour cela que les données sont tellement vitales pour les Gafa : ils ont besoin d’exemples. 

De la même façon,  rien de plus facile  pour une machine que de reconnaître un chat ou un chien, tant de photos de ces animaux ont été postées ces dernières années sur les réseaux sociaux. « Cela nous semble si simple de reconnaître une image ! », continue H. Bersini. Pourtant, jusque-là, « les machines étaient très mauvaises dans cet exercice. » Elles avaient besoin d’un coup de main, que l’homme les aiguille sur la bonne voie, notamment en leur fournissant des caractéristiques importantes des images, comme des contours ou des formes. « C’est cela qui est impressionnant avec le deep-learning,insiste le chercheur.  Il y a peu encore, l’extraction des caractéristiques étaient la panacée humaine. Maintenant, la machine se passe de l’homme. » Une avancée, on s’en doute, qui vient bousculer nombre de métiers. Pour reconnaître les tumeurs et leur gravité, les cancérologues utilisent déjà ces superordinateurs, bien plus fiables tant ils disposent d’images de référence. « On peut donc remplacer les humains par des logiciels plus performants », conclut notre homme. 

Ne pas fantasmer

Outre le fait qu’on peut se demander ce que l’on fabrique à confier son sort à une machine, la question qui taraude légitimement la société est de savoir s’il y aura encore longtemps du boulot pour les humains. Après les ouvriers éjectés des usines automatisées, au tour des experts d’être chassés des labos ? « On remplacera peut-être plus facilement les experts que les ouvriers par des machines, ironise le chercheur, puisque c’est la partie traitement de l’information qu’elles accomplissent mieux que nous. Cela dit, en général, il faut leur mâcher la besogne. Gaëtan (lire «Robots aux champs : bonne pioche ? »?) dit quelque chose de très juste : les machines marchent très bien quand on leur a donné des repères, un cadre. » Comprenez : ce n’est pas parce que l’opération précise de diagnostic d’un cancer est réalisée par une machine que c’est elle qui gère l’ensemble des opérations préalables et des suivantes : voir le patient, prélever le tissu, annoncer des nouvelles plus ou moins bonnes. « On a tendance à fantasmercette tâche d’interprétation de la radio, cruciale mais minime. Mais tout le reste est tellement important chez un médecin. » 

Tout n’est pas automatisable

Quelque peu rassurant, car cela veut dire que tout n’est pas automatisable… encore. Ainsi, l’interdiction du robot de traite dans la filière Comté (lire « De la modernité à traire encore ses vaches » ?) montre les limites de la robotisation et du big data. « Le degré d’automatisation dans un secteur professionnel dépend justement de la possibilité ou non d’objectiver une pratique humaine ancestrale, commente H. Bersini. Les habiletés sensorimotrices (largement reléguées dans les strates de nos inconscients individuels et collectifs), les habiletés communicatrices, les soft skills³, l’empathie, le toucher, la combinaison des six  sens résistent encore à l’invasion des machines. Et c’est très bien ainsi. » 

Et d’enfoncer le clou, en prenant l’exemple de la RoboCup⁴, cette coupe du monde de foot de robots qui existe depuis dix ans. « Les Japonais disent qu’en 2024 la meilleure équipe de football sera composée de robots. Allez voir, c’est à mourir de rire ! » Ou d’évoquer le métier souvent disqualifié d’éboueur : sauter d’un camion, ramasser les poubelles, les jeter dans la benne… « Un robot ne lui arrive pas à la cheville ! Tout cela est hypercompliqué à réaliser pour une machine, car on a là un concentré d’habileté et d’agilité. » Reste que, à terme (mais lequel ?), avec la création probable de systèmes de tri dans des domiciles intelligents, le métier d’éboueur sera réinventé, s’il n’est pas supprimé. 

Réinventer le travail 

Réinventer, un mot clé dans la bouche de l’informaticien qui reste convaincu qu’il y aura toujours du travail dans notre société mais, « c’est une obligation », à condition de former « les individus à utiliser au mieux ce que les machines peuvent faire et ce qu’elles ne font pas. Car il faut aussi les démystifier ». Ainsi, si la conduite d’un tracteur ou d’une moissonneuse-batteuse peut faire l’objet d’une automatisation complète, ce n’est pas pour autant que les agriculteurs sont tous voués à disparaître des campagnes. Ils passeront certainement moins de temps sur leurs tracteurs mais devront aussi « déployer de l’imagination pour optimiser le comportement de ces engins, penser une nouvelle agriculture et de nouveaux produits, une diversification des cultures. Il y a là des opportunités extraordinaires ! La société aura encore besoin d’eux et les paiera pour tout ce qu’ils font. » 

On s’est laissé dépasser !

En réalité, ce n’est pas tant la question du travail qui turlupine notre expert que celle des algorithmes (lire encadré « Algorithme ! Aïe ? »). Omniprésents dans notre vie, ils œuvrent t au quotidien sous le couvert des Gafa, Waze et autre Netflix… Le problème ? Suivant à la trace nos navigations sur le net, nos centres d’intérêt et nos goûts n’ont plus de secrets… Facile dès lors de nous  recommander, à longueur de journée, to telle info, tel livre, tel film, telle vidéo… Le jeu ? Nous amener à cliquer sur des annonces publicitaires et à consommer dans notre bulle Internet.
Et puis, « quand vous tapez un mot clé, c’est Google qui décide de l’ordre de l’information. Parfois, il associe spontanément un mot à votre requête, comme « juif » accolé à « Hollande » au moment des élections. Accusé d’antisémitisme, le géant du web avait répondu : complétion automatique, statistique, association faite par les internautes… Pourquoi, s’insurge H. Bersini, ne pas nous opposer,  demander plus de diversité et exiger un algorithme qui empêche ce type d’association ? »

Pour le chercheur, la solution passe déjà  par une transparence des algorithmes, afin que nous puissions comprendre comment ils fonctionnent. « Prenez l’algorithme de Parcoursup⁵, explique-t-il. Il a rendu plus facile l’affectation des étudiants dans les universités mais, sous ce vernis d’efficacité, se cache un caractère idéologique. Pour caricaturer, on met les meilleurs à Berkeley et Berkeley peut prendre les meilleurs. Il faut le dire ! » La neutralité n’existe pas dans l’univers des algorithmes. 

Réinventer la démocratie

Bien entendu, personne ne croit en la volonté des colosses du numérique  de rendre leurs algorithmes transparents… Mieux vaut donc travailler à la création collective d’alternatives, explique H. Bersini bas: « Sur des sujets majeurs comme la mobilité, la transition énergétique, l’enseignement… nous devons reprendre la main collectivement, car les Gafa sont en train de réinventer la prise en charge des biens publics. Aucune université ne peut plus rivaliser avec Google. » Et de donner l’exemple, qui semble si anodin, du GPS Waze (racheté par Google) : « En Belgique, il fait passer des véhicules par des villages, ce qui provoque de nouvelles nuisances, et l’État commence à verbaliser les conducteurs qui empruntent ces itinéraires. À vous rendre schizophrènue ! C’est l’État qui devrait écrire l’algorithme de transport, car tle transport, l’espace partagé, la fluidité des villes sont autant cde biens publics. » 

Plus précisément, H. Bersini plaide pour une réinvention de la démocratie, qui permettrait, au sein de groupes pluridisciplinaires composés d’experts, de citoyens, de juristes, de politiques, de décider collectivement des projets sur l’enseignement, la mobilité, la transition énergétique. « Ces groupes diraient là où ils veulent aller. Ce sont donc eux qui “écriraient” l’algorithme. Les informaticiens n’auraient plus qu’à coder ». Bref, dun projet de société, soutenu par le politique, où les citoyens sont acteurs de la révolution numérique en cours. Et le chercheur de conclure : « Quoi de plus participatif qu’une démocratie pour laquelle ce sont les citoyens qui écrivent, sous forme algorithmique, la manière dont ils souhaitent être gouvernés ? » 

Big data is watching you. Nichées dans les avions pour anticiper toute défaillance, dans les essuie-glaces pour mieux donner la météo à l’instant T, dans les moissonneuses-batteuses pour évaluer en direct le rendement au service de la spéculation boursière, dans les robots de traite pour la sélection… La valorisation des données n’a quasiment plus de limites. La recherche nourrit à son égard de nombreux et nouveaux espoirs. Le 18 septembre 2018⁶, pour les vingt ans du département Environnement et Agronomie de l’Inra, les scientifiques ont exprimé comment, face aux défis qui les attendent, notamment l’étude de situations très locales pour aller vers une « agronomie globale », les ressources des technologies numériques seront au cœur de leur travail. Un chercheur, ça carbure aux datas, lance l’un d’entre eux, et, sur certaines échelles, « on ne les a pas ». D’autres ont souligné l’importance de prendre le virage de « l’agriculture numérique » compatible avec la diversification des systèmes agricoles et vertueuse pour réduire les impacts des traitements. Reste cette question, posée par un agriculteur invité à la journée : « Lorsque John Deere fait ma mise à jour, je sais très bien qu’il collecte mes données. Où vont-elles ? À qui appartiendront-elles ? » Bonne question… Peu à peu, les données se sont muées en un big data⁷ stocké au cœur des serveurs des Gafa et autre Palantir⁸. Palantir, ce nom ne vous dit rien ? Moins connue que les Google, Apple, Facebook et Amazon, cette société américaine n’en est pas pour autant moins redoutable. Réputée pour avoir développé des outils très sophistiqués pour l’espionnage et la prévention du terrorisme, de nombreuses  industries européennes lui confient leurs données. « Ni plus, ni moins, tous leurs savoirs ! », peste H. Bersini. Sans oublier la question des données personnelles, marquées par de nombreux scandales de piratage et détournements, pour mémoire Cambridge Analytica⁹ accusée d’avoir utilisé des données de quatre-vingt-dix millions d’utilisateurs de Facebook, recueillies sans leur consentement. Depuis cette année, nous devrions être mieux protégés… Avec le nouveau règlement européen RGPDD¹⁰, dès que vous ouvrez un nouveau site, un avertissement s’affiche : « En poursuivant votre navigation, vous acceptez l’utilisation de cookies afin de réaliser des statistiques, de proposer des publicités adaptées… » Peine perdue : 90 % d’entre nous, trop absorbés à surfer, donnent leur accord dans la seconde… sans savoir à quoi. « Donc, ça ne change rien », tranche H. Bersini. 

Algorithme ! Aïe ? Si 83 % des Français ont déjà entendu parler des algorithmes¹¹, 52 % ne voient pas précisément de quoi il s’agit. Petit cours rapide de rattrapage. Les spécialistes le disent : « Ce n’est pas compliqué ! » Les algorithmes sont en général une série d’instructions que l’on exécute en séquences, comme suivre une recette de cuisine, s’habiller le matin (on met ses chaussettes avant ses chaussures), jouer aux échecs, etc. Il s’agit donc d’un système informatique qui résout un problème, afin de ne pas réinventer une solution à chaque fois. En général, « ça se fait avec un papier et un crayon », explique H. Bersini. Il suffit d’imaginer ce que l’on veut faire, de le tester, de suivre un cheminement. Reste à l’informaticien à le traduire en en Java, en C ou en Python. Bête comme chou, non ?

Lire aussi l’entretien avec Gaëtan Séverac.

1. Dérivé du tchèque robota (travail forcé) qui désignait des “ouvriers artificiels”, dans une pièce de théâtre de science-fiction créée en 1920 par l’écrivain Karel Čapek.
2. https://www.nouvelobs.com/rue89/rue89-extension-du-domaine-du-jeu/20160128.RUE2235/un-pro-du-go-battu-par-un-algorithme-pourquoi-ca-change-tout.html
3. Les « compétences non techniques » sont une combinaison de compétences interpersonnelles, de compétences sociales, de communication, de traits de caractère, d’attitudes… Bref, de qualités souhaitables pour certains emplois ne dépendant pas des connaissances acquises, techniques…
4. https://www.robocup.org/
5. « Derrière l’algorithme de Parcoursup, un choix idéologique », L’Obs, 18 juillet 2018 https://www.nouvelobs.com/education/20180713.OBS9643/derriere-l-algorithme-de-parcoursup-un-choix-ideologique.html
6. Lire l’article « Environnement et agronomie : avoir 20 ans, et après ? »
   https://revue-sesame-inra.fr/environnement-et-agronomie-avoir-20-ans-et-apres/
7. https://www.lebigdata.fr/chiffres-big-data
8. https://www.medias-presse.info/le-probleme-palantir-la-france-livre-t-elle-ses-secrets-aux-etats-unis/99128/
9. https://www.lemonde.fr/pixels/article/2018/05/02/apres-le-scandale-facebook-cambridge-analytica-met-la-cle-sous-la-porte_5293538_4408996.html
10. The EUGeneral Data Protection Regulation (GDPR) ou Règlement Général sur la Protection des Données (RGPD). https://www.economie.gouv.fr/entreprises/reglement-general-sur-protection-des-donnees-rgpd
11. https://www.20minutes.fr/high-tech/2002671-20170125-savez-vraiment-algorithme

Related Posts

Protection des milieux : a-t-on perdu le contrôle ? →

« L’expertise ne marche pas main dans la main avec la décision » →

Expertise : « Il y a là un mélange des genres » →

Pesticides : au péril de l’expertise →