L’IA militarisée se glisse en douce dans C2 Montréal!

Conférences futurologiques, ateliers numériques, expériences virtuelles… L’intelligence artificielle (IA) est omniprésente dans l’édition 2019 de l’événement C2 Montréal, à tel point qu’on peut légitimement se dire que sans IA, l’humanité n’a plus d’avenir. D’ailleurs, une conférencière américaine – Martine Rothblatt, la fondatrice de la pharmaceutique United Therapeutics et de la start-up Sirius Radio – est même allée jusqu’à affirmer que le seul moyen d’éviter la catastrophe environnementale provoquée par les changements climatiques passait nécessairement par l’IA…

Parfait. Tout cela se peut fort bien, bien malin qui pourrait soutenir le contraire. Mais voilà, à force de nous faire rebattre les oreilles que l’IA est notre Sauveur, on court le risque de perdre notre sens critique, de considérer, ne serait-ce qu’une minute, la possibilité que l’IA puisse oeuvrer non pas pour le Bien, mais pour le Mal. Oui, on risque de perdre vue le côté obscur de l’IA. D’ailleurs, Mme Rothblatt n’a-t-elle pas carrément lancé «C’est bien simple, il n’y a pas de marché pour une IA malfaisante», sous les applaudissements nourris de la salle?

Or, la face cachée de l’IA est bel et bien une réalité, et elle vient même d’adresser un sourire sardonique aux participants vigilants, lors de la conférence de Justin Sanchez, directeur, division des technologies biologiques, du Darpa. Un sourire à faire froid dans le dos…

Justin Sanchez est un type incroyablement sympathique, avec son sourire radieux et ses cheveux longs qui volent au vent. Son intelligence pétille à chacune de ses phrases, mais surtout, elle sait se mettre à notre portée pour nous expliquer les projets complexes sur lesquels il planche, que ce soit le moyen neurologique pour les amputés de commander par la pensée le membre artificiel qui leur a été greffé, ou encore le moyen pour les traumatisés de se remettre psychologiquement de l’effroyable accident qui leur est arrivé. «Mon rêve de jeunesse lorsque j’ai décidé de devenir un chercheur scientifique? Voir, un beau jour, un paralysé se lever tout seul de son fauteuil-roulant et avancer tout seul, par la seule force de sa pensée», raconte-t-il, des étoiles encore dans les yeux.

Ce rêve, M. Sanchez pourrait bien le réaliser dans peu de temps. Il pourrait même le dépasser amplement, et permettre aux êtres humains de réaliser des prouesses physiques et psychiques qui dépassent l’entendement. D’ailleurs, ceux qui connaissent bien le milieu de la recherche en neurologie éprouvent une admiration sans borne pour lui, à tel point qu’ils sont convaincus qu’il marquera davantage l’Histoire que – tenez-vous bien! – Mark Zuckerberg et autres Larry Page.

Est-ce que j’exagère? Pas du tout. C’est que Justin Sanchez occupe aujourd’hui un poste stratégique pour tout ce qui concerne les avancées scientifiques en matière de symbiose entre le cerveau humain et l’IA. Oui, un poste on ne peut plus stratégique…

Quand je vous l’ai présenté, j’ai juste dit qu’il travaillait pour le Darpa. Qu’est-ce que le Darpa, au juste? C’est l’Agence pour les projets de recherche avancée de Défense, c’est-à-dire la branche de l’armée américaine chargée de mettre au point les nouvelles technologies lui assurant un temps d’avance sur toutes les autres armées du monde. Par exemple, c’est la Darpa qui est à l’orgine d’inventions exceptionnelles comme:

– l’Arpanet (1969), l’ancêtre d’Internet;

– le GPS (1973);

– les drones (années 1960), dont les premiers exemplaires ont été utilisés lors de la guerre du Vietnam.

M. Sanchez est à la tête de la division des technologies biologiques, et à ce titre il est au coeur de l’invention de la «3e vague» de l’IA. La «1ère vague» concernait les logiciels capables d’effectuer certaines taches humaines après avoir été programmés pour ça (ex.: effectuer des opérations comptables, assembler une automobile,…). La «2e vague», c’est celle – encore actuelle – de l’apprentissage profond, qui permet aux robots intelligents d’apprendre par eux-mêmes à accomplir n’importe quelle tache humaine (ex.: apprendre à jouer au jeu de go et arriver à battre n’importe quel être humain à ce jeu,…). Et la troisième? Elle correspond à la fusion entre l’IA et l’humain. Ni plus ni moins. Et croyez-moi, ce n’est pas là de la science-fiction…

– Le Darpa a débloqué en septembre dernier «plus de 2 G$ US» pour financer «tous les projets scientifiques américains susceptibles de changer radicalement la donne» à ce sujet. L’opération intitulée «AI Next» enregistre d’ores et déjà des avancées foudroyantes, tenues jalousement secrètes, même si, en creusant patiemment, on finit par trouver des indices:

– Une équipe de chercheurs pilotée par Timothy Hanson, professeur de physiologie à l’Université de Californie à San Francisco, a concocté une «machine à coudre» des puces électroniques dans le cerveau. Il s’agit d’une aiguille minuscule comme un cheveu qui peut se rendre à n’importe quel endroit du cerveau pour y implanter une série de puces électroniques, sans faire le moindre dégât. Cette découverte a vu le jour en mars dernier.

– L’expérience a été menée sur des rats. Avec succès.

– Elle a été financée à hauteur de 2,1 M$ US par le Darpa.

– Il faut savoir qu’en 2013 une autre étude a été menée sur des rats auxquels on avait greffé au cerveau des puces électroniques. Ces dernières enregistraient les flux cérébraux des animaux lorsque les expérimentateurs le souhaitaient; autrement dit, leurs «pensées», même si elles étaient indéchiffrables pour nous, les êtres humains.

Deux groupes ont été formés. Dans le premier, les rats ont appris une tâche simple pour faire couler quelques gouttes d’eau d’un robinet. Dans le second, les rats ont appris une tâche complexe pour obtenir le même résultat; cet apprentissage leur a pris huit semaines pour être parfaitement maîtrisé.

Puis, on a greffé aux rats du premier groupe les puces électroniques des rats du second groupe. Et on a mis ces rats face à la tache complexe, à laquelle ils n’avaient jamais été confrontés. Résultat? Ils ont réussi en quelques secondes à la mener à bien!

Oui, vous avez bien lu: les rats ont recouru à la puce électronique pour bénéficier des enseignements qui s’y trouvaient, ils ont transféré dans leur cerveau les pensées des autres rats.

– Il faut encore savoir que les membres de l’équipe de chercheurs pilotée par Timothy Hanson ont tous un point en commun : Neuralink. Ils ont tous travaillé pour cette start-up, et certains collaborent toujours avec elle. Or, Neuralink est nulle autre que la nouvelle marotte de… Elon Musk. Sa mission? Mettre justement au point des interfaces cerveau-IA, l’idée étant d’augmenter les capacités intellectuelles de l’être humain (mémoire, calcul,…). Un exemple frappant: permettre à chacun de «parler une langue étrangère en s’implantant dans le cerveau la puce électronique adéquate».

– Conclusion de tout ça? Elle saute aux yeux: la division du Darpa pilotée par Justin Sanchez, en parallèle avec Neuralink, a rendu possible le fait de bidouiller nos cerveaux pour booster leur capacité; plus fort encore, d’accueillir en nous une autre intelligence, l’IA.

Fabuleux, pensez-vous sûrement. Qui ne rêve pas, en effet, de parler couramment n’importe quelle langue, de jouer aux échecs comme un champion du monde, ou encore d’être incollable à Jeopardy?

Mais voilà, c’est oublier – comme cela est arrivé à tout le monde, ou presque, à C2 Montréal – que la mission première du Darpa est… militaire.

M. Sanchez ne s’en est pas vanté publiquement, mais il est, en vérité, enchanté par une autre avancée, toute récente. Il y a de cela quelques mois à peine, un soldat volontaire s’est fait greffer une puce électronique spéciale dans le cerveau, histoire d’effectuer une expérience inédite pour le Darpa. Il s’agissait d’être en mesure de contrôler par la pensée non pas un, mais trois avions de guerre F-35, dans le cadre d’un jeu vidéo simulant des attaques aériennes. L’expérience a été un succès total, après des années d’expérimentation.

«Les signaux envoyés par le cerveau ont permis de contrôler simultanément les trois avions, afin de mener une attaque coordonnée. Mieux, les trois avions ont envoyé au cerveau des signaux qui permettaient de percevoir mentalement l’environnement dans lequel ils évoluaient. Ce qui pouvait permettre au cerveau de réagir aussitôt en fonction des nouvelles informations ainsi obtenues», a dit M. Sanchez lors de la très confidentielle divulgation de la prouesse réalisée par le Darpa.

Par conséquent, il est désormais possible pour un cerveau humain de piloter mentalement «plusieurs avions de guerre en situation de conflit», et il est envisageable, de la même façon, de piloter mentalement «une nuée de drones militarisés». Et ce, grâce à la symbiose entre le cerveau et l’IA effectuée par le Darpa.

S’agit-il là d’un progrès pour l’humanité? D’une avancée prodigieuse pour les générations futures? De la promesse d’un monde meilleur? Je me permets d’en douter sérieusement.

Le but du Darpa n’est pas d’embellir notre avenir commun. Il est d’assurer la suprématie militaire des États-Unis. Point final.

Justin Sanchez est passé de son rêve d’enfance de réaliser des miracles – faire marcher les impotents – à des projets de guerre d’un tout nouveau genre, où des soldats d’élite dopés à l’IA sont capables de mener à distance des frappes dévastatrices par la seule force de leur pensée. Il rêvait d’embellir la vie, et il contribue aujourd’hui à la détruire avec une efficacité maximale.

D’où mon modeste appel à la vigilance: chers participants à C2 Montréal, ne vous laissez pas leurrer par les beaux rêves d’une IA bienfaitrice pour l’humanité. Non, ne vous laissez plus raconter d’histoires, et regardez de plus près ce sur quoi travaillent vraiment les pionniers actuels de l’IA, notamment les liens que nombre d’entre eux nouent avec l’armée. D’ailleurs, saviez-vous que Google, Facebook et autres Microsoft font aujourd’hui des pieds et des mains pour remporter de juteux contrats visant à militariser l’IA?

C’est clair, l’IA est militarisée à grands pas. Et ce n’est bon pour personne. Personne.

*****

Espressonomie

Un rendez-vous hebdomadaire dans Les affaires et Lesaffaires.com, dans lequel Olivier Schmouker éclaire l’actualité économique à la lumière des grands penseurs d’hier et d’aujourd’hui, quitte à renverser quelques idées reçues.

Découvrez les précédents billets d’Espressonomie

La page Facebook d’Espressonomie

Et mon dernier livre : 11 choses que Mark Zuckerberg fait autrement