L’intelligence artificielle pour le meilleur et pour le pire

samedi 4 mars 2017.
 

Après la mécanisation des tâches manuelles, des tâches intellectuelles répétitives ou calculatoires, l’intelligence officielle s’attelle à la mécanisation des tâches intellectuelles de haut niveau et plus généralement à la modélisation des comportements humains

A) L’intelligence artificielle pour le meilleur et pour le pire (Hervé Debonrivage)

Introduction : quelques éléments sur l’intelligence artificielle

L’intelligence artificielle n’est pas très récente :elle s’est surtout développée depuis les années 1980.

À l’aide de logiciels plus ou moins complexes, elle se propose de modéliser le raisonnement humain voire même le comportement humain non seulement pris isolément mais aussi en interactions au sein d’un groupe. (Intelligence artificielle distribuée à mutti agents).

Elle repose d’abord sur la notion de système expert constitué schématiquement d’une base de faits, d’une base de connaissances et d’un moteur d’inférences

Ces systèmes se sont développés dans des disciplines ou domaines séparés. Par exemple : : médecine, mécanique auto, exploration pétrolière, archéologie, système de sécurité des centrales nucléaires, mathématiques boursières, etc. Ces systèmes sont élaborés par le travail d’équipe de spécialistes de disciplines différentes : informaticien, psychologue, expert de la discipline concernée (médecine par exemple), cognititien (ingénieur de la connaissance), éventuellement roboticien, etc.

Un domaine d’application qui pourrait se révéler particulièrement important est l’enseignement intelligent assisté par ordinateur (EIAO) dont on peut avoir exposé en cliquant ici

Indiquons au passage, contrairement à une idée reçue, que l’utilisation pour la première fois de l’ordinateur pour démontrer un théorème en mathématiques –le théorème des quatre couleurs en 1976 par Kenneth Appel et Wolfgang Haken– n’impliquait pas pour autant une démarche de l’intelligence artificielle du fait que l’élaboration du raisonnement nécessaire a duré plus d’un siècle. Vous pouvez cliquer icipour avoir plus de détails

De même la victoire du super ordinateur Deeper Blue en 1997 contre le meilleur joueur d’échecs du monde Kasparov, ordinateurqui était déjà capable de calculer à l’époque 100 à 300 millions de coups/secondes, relève essentiellement de la puissance de calcul pour explorer un très grand nombre de combinaisons possibles.

L’une des difficultés de la modélisation du raisonnement humain est son caractère polymorphe comme le montre l’ouvrage Christian Georges : Polymorphisme du raisonnement humain (PUF, 1997) même en se cantonnant à un raisonnement de type référentiel.

La correspondance de Curry-Howardconstitue une découverte fondamentale reliant le raisonnement (mathématique) aux algorithmes de l’informatique. Elle établit une correspondance entre démonstration ou preuve et programme informatique écrit dans un langage de bas niveau. (Lambda calcul) Cette correspondance permet de tester la fiabilité de certains algorithmes stratégiques utilisés par exemple dans le pilotage automatique de métro, d’avions, etc. Une présentation tout à fait abordable de cette découverte par le logicien Jean-Louis Krivine est accessible ici

On situe ordinairement l’origine de l’intelligence artificielle avec les travaux de Warren McCulloch (1898-1969), et Walter Pitts (1923-1969), neurologues, qui inventent en 1943 le premier modèle mathématique du neurone biologique, le neurone formel et même dans les années1930 où Gödel, Church, Herbrand, Türing étudient la possibilité d’automatiser le calcul et le raisonnement. Source :histoire de l’intelligence artificielle

L’intelligence artificielle ressurgit dans l’espace public grâce au cinéma.

Deux événements cinématographique réactualisent l’intelligence artificielle et ses dangers éventuels. :

– La diffusion de Real Humans  : 100 % humain (Äkta människor, littéralement « Véritables humains ») série télévisée de science-fiction suédoise créée par Lars Lundström réalisée par Harald Hamrell (en) et Levan Akin en 2012 en Suède et en 2013 puis en 2014 sur la chaîne Arte en France (la deuxième série a été diffusée très récemment en mai et juin 2014), bien que la thématique abordée ne soit pas nouvelle (elle s’inspire du film de science-fiction américain réalisé par Steven Spielberg et sorti en 2001. IA. –. Intelligence artificielle –Artificial Intelligence, A.I. ou simplement A.I. – ). Néanmoins la série est beaucoup plus riche puisque l’aborde un grand nombre de problèmes sociétaux émaillés de considérations philosophiques.

La parution en salle du film Transcendence,au Royaume-Uni (il sort en juin en France) a contribué aussi à cette médiatisation.

L’astrophysicien Stephen Hawking intervient sur l’intelligence artificielle dans le champ médiatique

D’où la publication fort médiatisée de trois physiciens de renom sur l’intelligence artificielle pour inviter les citoyens à ne pas considérer celle-ci comme un simple produit de science fiction mais comme une production techno scientifique dont les enjeux pour l’avenir de l’humanité sont considérables. Voici un article, concernant cette déclaration, parue dans le magazine L’informaticien.

Stephen Hawking : l’intelligence artificielle est-elle un loup pour l’Homme ? par Margaux Duquesne, le 07 mai 2014

Source : Revue l’informaticien numéro 125

Pour le meilleur et pour le pire... L’intelligence artificielle créée par l’Homme est-elle un danger pour l’Homme ? Comment l’encadrer et veiller à ce qu’elle ne soit pas néfaste pour l’humanité, sur le long terme ?

Les scientifiques alertent sur ces réflexions fondamentales. C’est un son de cloche qu’il est de moins en moins rare d’entendre du côté des scientifiques. Le célèbre mathématicien anglais Stephen Hawking, a signé une tribune dans le journal The Independant jeudi dernier (10/06/2014), cosignée avec un groupe de chercheurs de haut vol : Frank Wilczek (Prix Nobel de Physique), Stuart Russell (informaticien) et Max Tegmark (physicien). Hawking est un physicien et cosmologiste qui a notamment démontré que la théorie de la relativité générale d’Einstein impliquait un début (le Big Bang) et une fin (les trous noirs). Un astéroïde a même été nommé en son honneur.

Dans cet article, il s’alarme contre les potentiels dangers de l’intelligence artificielle, à venir. Tout est parti de la critique du blockbuster américain Transcendence, actuellement en salle au Royaume-Uni (il sortira en juin en France), avec à l’affiche Johnny Depp et Morgan Freeman. Le film raconte l’histoire de travaux scientifiques cherchant à instaurer une conscience humaine dans une « machine ».

« Il est temps d’arrêter de réduire l’intelligence artificielle à la simple science fiction », commence ainsi le mathématicien britannique, expliquant ensuite que cette forme d’intelligence pourrait devenir un danger notable pour l’humanité. Les voitures électriques sans conducteurs, l’ordinateur qui a gagné l’émission Jeopardy, les assistants numériques personnels comme Siri, Google Now ou Cortana, ne seraient que les symptômes d’une « course à l’armement informatique alimentée par des investissements sans précédent [Google a racheté DeepMind en début d’année pour 400 millions de dollars] et en s’appuyant sur un fondement théorique de plus en plus mature.

Ces réalisations seront probablement pâles par rapport à ce que les années à venir vont dévoiler », continue le professeur.

Tour de contrôle

Pour Stephen Hawking, la fin des guerres, de la famine, de la pauvreté devraient s’imposer comme des évidences, grâce notamment à l’intelligence humaine « magnifiée par les outils que fournit l’intelligence artificielle. » Mais les risques sont tout aussi, voire plus, étendus que les bénéfices de ce progrès technologique. D’un autre côté, par exemple, les armées vont commencer à créer des armes autonomes gérées par des intelligences artificielles, ce que l’ONU et Human Rights Watch ont déjà condamné.  Stephen Hawking pose la question primordiale : peut-on contrôler une intelligence artificielle ? Si à court terme, oui, en est-il de même à long terme ?

Pour le scientifique, les recherches sur les dangers potentiels ne sont pas assez poussées : « la réussite dans la création de l’intelligence artificielle serait le plus grand événement dans l’histoire humaine (...) Malheureusement, ce pourrait aussi être le dernier, sauf si nous apprenons comment éviter les risques », conclut en substance Hawking.

Repenser nos droits

Quelques jours plus tard, dans Le Monde, la tribune du physicien était reprise par Laurent Alexandre, auteur du livre La Mort de la mort (éd. JC Lattès), que nous avions rencontré en avril dernier, pour le mensuel L’Informaticien. Il souligne que selon Ray Kurzweil, directeur du développement et ingénieur en chef de Google, d’ici 2045, l’intelligence artificielle sera « un milliard de fois plus puissante que la réunion de tous les cerveaux humains. » Aussi, Google vient de créer un comité d’éthique consacré à l’intelligence artificielle pour tenter de la limiter, de la maîtriser. Laurent Alexandre conclut : « A l’ère des prothèses cérébrales, le risque de neuro-manipulation, de neuro-hacking et donc de neuro-dictature est immense. Nous devons encadrer le pouvoir des neuro-révolutionnaires : la maîtrise de notre cerveau va devenir le premier des droits de l’homme. »

Fin du texte de l’article

Les citoyens face à l’intelligence artificielle.

Ces propos ne doivent pas être considérés comme du folklore mais être pris au sérieux. Pour s’en convaincre, il suffit de revoir le documentaire de la chaîne Arte du 23/10/2012 : Un monde sans humains ? auquel on peut accéderen cliquant ici

Il montre avec clarté quelle est l’évolution rapide de l’impact des nouvelles technologies non seulement dans notre vie quotidienne mais sur notre manière de se situer par rapport au monde. Ce n’est pas un documentaire à l’eau de rose : il a le mérite de mettre en lumière le productivisme effréné du néolibéralisme et sa dangerosité.

Il révèle l’existence d’un mouvement relativement important aux États-Unis, peu connu en France, le Transhumanisme qui s’appuie sur l’idée centrale NBIC : la convergence entre l’informatique, les nano-technologies, la biologie et les sciences cognitives

Pour cette mouvance, il ne s’agit pas simplement que les nanotechnologies soient des outils pour pallier à des handicaps ou déficiences mais soient des instruments pour augmenter le plus possible les capacités physiques et mentales de tout être humain. On peut se référer à un article du webzine Contrepoint : De l’homme augmenté au transhumanisme

La consultation du dossier spécial de la revue La Recherche sur l’intelligence artificielle (février mars 2014) montre que les robots d’apparence humaine que l’on voit évoluer dans la série télévisée suédoise sont mis au point dans les boratoire depuis 2006. On obtient un résumé de ce numéro en cliquant iciMais pour en revenir aux éventuels dangers de l’intelligence artificielle, celui-ci est déjà tout à fait présent puisque la crise financière qui se développe depuis quelques années est dûe en partie, à l’utilisation de l’intelligence artificielle dans le trading haute fréquence (HFT) On peut se reporter au document : l’intelligence artificielle au service de la spéculation Et on a pu constater en l’occurrence, combien a été peu contrôlable son action…

On peut néanmoins faire preuve d’un certain optimisme en considérant que la modélisation du comportement humain en intelligence artificielle peut améliorer les capacités de coopération des humains comme le mentionne l’un de mes articles paru sur ce site : "Le Front de gauche doit améliorer sa puissance organisationnelle (2ème partie). L’apport des systèmes multi-agents" En effet, les capacités de travail coopératif des robots actuels dépassent de très loin celles des humains et notamment celles des responsables du Front de gauche qui ont beaucoup à apprendre en ce domaine de la modélisation du travail collaboratif par les informaticiens et cognititiens. Observons que ces robots sont capables d’apprentissage, par interaction avec l’environnement et d’autres robots, capables d’auto organisation sans être guidé par une unité centrale dictant ses ordres. D’autre part ces recherches récentes ont montré la supériorité de la stratégie coopérative sur la stratégie compétitive en terme d’efficacité d’action

Hervé Debonrivage

B) Les robots remplaceront-ils les humains au travail  ?

Entretiens croisés réalisés par Anna Musso, L’Humanité

Table ronde avec Bruno Bonnell, PDG de Robopolis, société spécialisée 
dans la robotique personnelle, Richard Castelli, commissaire artistique 
de l’exposition « Art robotique » à la Cité des sciences et de l’industrie à Paris et Brigitte Munier, enseignante-chercheuse 
à l’école Télécom ParisTech, département sciences économiques 
et sociales

Le contexte L’exposition sur l’art robotique, qui se déroule 
à la Cité des sciences et de l’industrie à Paris, et la série Real Humans, sur Arte, rencontrent un grand succès. Une occasion de plus de s’interroger sur le sens et la place des machines au travail. les enjeux Les robots suscitent tant la fascination que l’inquiétude. Demain seraient-ils capables de nous libérer des tâches répétitives pour nous permettre d’accomplir 
le rêve d’une «  société des loisirs  » ou, au contraire, favoriseraient-ils licenciements et disparitions de métiers  ?

Actuellement, l’exposition à la Cité des sciences et de l’industrie à Paris qui est consacrée aux ­robots connaît un grand succès. De façon générale, la question des robots suscite à la fois ­engouement et crainte chez le grand public. Comment analysez-vous ces sentiments ambivalents  ?

Richard Castelli Je précise que l’exposition (1), comme son nom l’indique, traite de l’art ­robotique, c’est-à-dire un art rendu possible par les robots. Il n’est pas très original de remarquer que l’homme a toujours cherché à imiter Dieu et que la création d’une entité indépendante est ce qui est le plus proche de l’idée de création divine, le robot en est l’expression la plus récente bien que déjà talonné par les réseaux comme une entité en soi. Cette aspiration serait d’ailleurs un ­paradoxe si l’on considérait que l’humain ayant déjà créé Dieu, il n’aurait plus besoin de l’imiter. La crainte, elle, vient principalement de leur potentiel à suppléer les humains, voire l’humanité.

Bruno Bonnell Le mot «  robot  » a été inventé par l’auteur tchèque Karel Capek de la pièce Rossum’s Universal Robots (R.U.R), jouée en 1920, et qui mettait en scène des hommes décérébrés prenant la place des ouvriers dans les usines. Il vient de la racine slave «  robota  » qui signifie travail de force. De là sont nés deux mythes  : le robot est un humanoïde et le robot va prendre la place de l’homme. En parallèle, les romans et les films de science-fiction ont présenté des robots, comme les Transformers par exemple, aux pouvoirs surhumains. La fascination/répulsion des robots vient du respect qu’ils inspirent pour exécuter des tâches pénibles et nous simplifier la vie mais qui se mêle à la crainte de les voir prendre le contrôle de nos vies. J’ai identifié trois peurs fondamentales du robot  : la crainte instinctive du métal contre la chair, la crainte sociétale, presque désespérée du robot qui va voler le travail de l’homme, et, enfin, la crainte identitaire de voir le robot nous dépasser en capacités intellectuelles ou autres. Il faut juste toujours se ­rappeler qu’ils sont avant tout machines savantes et que l’imagination des auteurs est sans limite. Le train, en son temps, était également craint…

Brigitte Munier Les robots suscitent l’enthousiasme des Occidentaux, mais aussi leur angoisse  : au lieu de les concevoir comme de simples outils ou, à la manière japonaise, tels d’amicaux auxiliaires, ils craignent des compétiteurs menaçant leur avenir. La raison de cette ambivalence précède l’existence des robots et même leur nom  : elle est culturelle et se cache dans le vieux mythe du Golem remis à l’honneur en Occident par Frankenstein de Mary Shelley en 1818 (2). Un savant fait un Golem, créature intelligente à son image, mais ne supporte pas son autonomie, provoque sa révolte et veut la détruire. Ce récit fascine toujours notre science-fiction, Blade Runner de Ridley Scott (1982) ou Her de Spike Jonze (2013) en témoignent. Le Golem, qui reçut en effet son nom moderne de robot (serf en tchèque) de Karel Capek dans sa pièce R.U.R, en 1920, apparaît, depuis, sous les traits d’une machine humanoïde. Replacer ce récit dans notre histoire éclaire l’ambivalence observée. Si le mythe fut réactivé en 1818, on ne peut assimiler le Golem à un robot pourvu d’une intelligence artificielle  !

À l’aube de notre modernité, Mary Shelley questionnait la nature humaine et non la machine  : le face-à-face entre Frankenstein et sa créature autonome interroge la possibilité d’un homme sans âme. Si l’on ne croit plus en l’âme immortelle enseignée par la tradition philosophique substantialiste, comment penser et fonder l’exception humaine  ? Vers les années 1950, la question devint brûlante avec l’apparition de la cybernétique qui récuse l’âme et même l’intériorité pour définir l’homme tel un système d’informations en rétroaction avec d’autres systèmes plus ou moins complexes, comme les animaux et les machines. La fascination pour le mythe vient donc de son effet miroir  : comme Frankenstein, nous nous mirons dans la créature en nous demandant ce qui fait l’humanité d’un être humain. Ainsi s’explique l’ambivalence du public occidental pour les robots réels qu’il assimile aux Golem-robots inlassablement repris dans la fiction  : une ­réflexion angoissante portant sur la nature ­humaine interfère avec l’admiration pour les progrès de la robotique. Que les Japonais, animistes, n’aient cure d’une âme transcendante, ignorent notre mythe et apprécient sans réserves leurs robots confirment ­l’interprétation proposée.

Aujourd’hui ou demain, des robots seront-ils ­capables de remplacer les hommes au travail  ? Deviendront-ils les esclaves de la société postindustrielle  ? Quelles tâches pourraient-ils accomplir  ?

Richard Castelli Les machines robots ou non remplacent déjà beaucoup d’humains, mais on a oublié que c’étaient eux qui effectuaient ces travaux auparavant. Je pense que tout ce qui pourra encore être automatisé le sera.

Bruno Bonnell Il n’y a aucune tâche que les robots ne sauront pas, un jour, exécuter, de la plus fastidieuse à la plus méticuleuse, de la plus répétitive à la plus sophistiquée. Qui aurait pensé qu’un jour les enfants de dix ans pouvaient avoir le monde dans leurs poches au bout d’un portable... Les véhicules seront autonomes, plus besoin de chauffeurs, les opérations chirurgicales seront robotisées, les mines seront exploitées par des robots… Mais utiliser le mot esclave revient à considérer qu’ils sont autre chose que des machines. Leurs capacités de déduction et de connexion sont certes développées, leur force mécanique est puissante, leur précision micrométrique mais les robots restent des machines au service de l’homme. Certains métiers vont disparaître, mais d’autres apparaître. Le maréchal-ferrant et le cocher ont dû se reconvertir. À son essor, l’industrie de l’automobile a créé beaucoup plus d’emplois qu’elle n’en a supprimés. Il est important d’anticiper cette « robolution » et de former les gens à des métiers d’avenir pour l’accompagner, sans drame social.

Brigitte Munier Karel Capek, dans R.U.R., imagine que les robots, devenus esclaves des hommes, les remplacent dans tous leurs travaux (guerre incluse) avant de se rebeller contre l’humanité aveulie par le loisir et de l’anéantir. L’image d’un robot esclave n’est pas neuve  ! Mais, comme Asimov, on peut aussi imaginer un robot allié ou compagnon, voire amant. Machine intelligente (capable d’apprentissage), utilisée déjà dans le contexte des loisirs, de l’éducation, de la médecine, de la police, de l’armée, de la conquête spatiale, etc., le robot est voué à exécuter toutes les tâches pour lesquelles on voudra, ou pourra, le programmer. Les progrès présents et promis inquiètent ­certaines personnes qui redoutent d’être ­supplantées par des machines.

Justement, est-ce souhaitable  ? Les robots libéreraient-ils les hommes des tâches répétitives pour leur permettre d’exercer des travaux plus intéressants, voire d’accomplir le rêve d’une «  société des loisirs  »  ? Ou bien, au contraire, l’usage des robots risque-t-il de mener à des licenciements, des disparitions de métiers ou à des déqualifications  ?

Brigitte Munier Il appartient à l’homme de ne point se laisser intimider ou séduire par la puissance des robots au point de perdre le sens de la spécificité des compétences purement humaines  : l’illogisme apparent propre à l’émotivité, à la sensibilité et à l’imagination symbolique rend ces facultés inimitables par des machines, même programmées pour simuler l’empathie. Ainsi l’inaltérable patience de robots-instituteurs en Corée du Nord et au Japon convient-elle aux enfants autistes, mais nul ne sait comment évolueront les autres enfants qui n’apprennent pas à composer avec les humeurs d’un professeur humain… Cet exemple du philosophe Jean-Michel Besnier indique une voie pour méditer sur la nature des tâches que l’homme de chair ne saurait confier sans dommages à ses créatures de fer.

Bruno Bonnell Le vieil adage «  on n’arrête pas le progrès  » n’a jamais été aussi vivace. D’autres pays s’équipent en robotique pour atteindre des taux de productivité supérieurs aux nôtres. Ils deviennent dangereux pour notre économie. Les ignorer en restant nostalgique est inconscient. Loin d’une société oisive, il faut continuer à innover et aider les populations qui risquent de voir leur travail disparaître en les formant à d’autres talents. La robotique va avoir l’effet dans l’industrie que l’informatique a eu dans le service. Il sera nécessaire de faire un effort de pédagogie pour faire adopter ces nouvelles technologies qui se banaliseront. C’est l’enjeu de la robolution  : changer d’ère industrielle et par là même changer notre perception d’un travail forcé pour un travail choisi.

Richard Castelli Dès le XIXe siècle, l’usage d’abord des machines puis des robots a déjà conduit à de nombreux licenciements et la disparition de nombreux métiers bien que ce processus ait été ralenti par la possibilité d’une main-d’œuvre encore plus économique hors des anciens pays industrialisés.

Les projets « d’usines du futur » semblent conçus à partir de et avec la robotique  : après l’entreprise délocalisée… se dirige-t-on vers l’entreprise déshumanisée  ?

Richard Castelli C’est déjà le cas avec la finance où ce sont des robots-logiciels qui prennent les décisions car ils sont les seuls à pouvoir réagir à la nanoseconde avec l’inconvénient qu’ils puissent surréagir avec les résultats que l’on sait… Pour une entreprise de production de biens, «  l’usine  », ce sera toujours la raison économique qui déterminera le pourcentage et le degré ­d’automatisation. Paul Andreu, l’architecte de l’aéroport de Roissy (du terminal 1 au terminal 2E-K) ainsi que de l’Opéra de Pékin entre autres, s’était demandé s’il devait installer des portes automatiques dans un aéroport qu’il était en train de concevoir comme le requérait tout aéroport digne de ce nom car, après un rapide calcul à partir des conditions locales, le coût d’achat et surtout de maintenance d’une porte automatique revenait plus cher que le salaire d’un portier qui pouvait nourrir une famille avec… ce que la porte était bien incapable de faire  ! C’est pourquoi, il décida de remplacer les habituelles portes automatiques par des portiers en superbe livrée, ce qui donna un caractère très luxueux à cet aéroport. L’histoire ne dit pas si, après quelques années, l’aéroport ne s’est pas débarrassé des portiers et a laissé le voyageur se débrouiller tout seul  ! Pour d’autres types d’entreprises, les décisions continueront à nécessiter la présence d’humains, mais avec probablement pas beaucoup plus de compétences que celles d’un robot.

Bruno Bonnell On cherche toujours à opposer l’humain et la machine. La menace de l’ultracompétitivité qui conduirait à une usine sans homme est légitime si, et seulement si, on reste dans le même référentiel. Il faut plutôt se poser la question en d’autres termes  : est-ce que l’entreprise va se transformer  ? Est-ce que les systèmes de valorisation du travail doivent être repensés  ? Tout comme la révolution industrielle a vu naître le capitalisme, je suis persuadé que la robolution va profondément modifier notre système économique. C’est en tout cas ce que pensait Capek dans son livre fondateur. Son utopie était celle d’un monde sans argent… il avait certainement tort mais, comme tous les artistes, il signifiait qu’on ne regarde pas le monde nouveau avec des vieilles jumelles. En ce qui me concerne, je vous cite la dernière phrase de mon livre (3)  : «  La robolution ne nous donnera plus d’excuses pour ne pas avoir de temps pour l’autre.  »

(1) « Art robotique », exposition temporaire 
à la Cité des sciences et de l’industrie, 30, avenue Corentin-Cariou, 75019 Paris. infocontact(at)universcience.fr. Jusqu’au 4 janvier 2015. 
(2) Robots  : le mythe du Golem et la peur 
des machines, de Brigitte Munier, 
Éditions de la différence. 
(3) Viva la robolution, Éditions JC Lattès.


Signatures: 0
Répondre à cet article

Forum

Date Nom Message