La présidente de Signal, Meredith Whittaker, le 23 mai (Photo: Miguel Medina / AFP)
Paris — Les technologies d’intelligence artificielle (IA) actuelles reposent sur la surveillance de masse », devenue « le moteur économique de l’industrie de la tech », prévient Meredith Whittaker, présidente de la messagerie cryptée Signal, rencontrée par l’AFP au salon VivaTech à Paris.
L’IA « requiert une quantité astronomique de données » et en produit « à chaque fois qu’elle effectue une prédiction ou génère du contenu », rappelle Meredith Whittaker, qui a travaillé plus d’une dizaine d’années sur les questions d’éthique de l’IA au sein de Google, avant d’en claquer la porte.
Ces données, qui peuvent être complètement fausses, ont le pouvoir « de diriger nos vies d’une manière qui devrait nous alarmer », poursuit-elle.
Le risque avec l’IA, pour cette experte, est de croire au mythe d’une « intelligence aux capacités surhumaines » et de ne pas voir qu’elle est « aux mains d’une poignée d’entreprises technologiques américaines qui contrôlent l’intelligence artificielle et les infrastructures qui la gouvernent ».
« C’est le résultat du modèle économique de la surveillance de masse qui est né dans les années 1990 aux États-Unis et qui est devenu le moteur économique de l’industrie de la tech », estime-t-elle.
« Nous accueillons ces entreprises au sein de nos gouvernements et de nos institutions les plus fondamentales — et même nos vies — sans qu’elles ne rendent aucun compte », met en garde Meredith Whittaker.
L’IA est « un outil pour ceux qui ont accès aux capitaux qui est généralement expérimenté sur ceux qui ont moins de pouvoir », complète-t-elle. « La plupart d’entre nous ne sommes pas des utilisateurs de l’intelligence artificielle, nos employeurs ou les forces de l’ordre des gouvernements l’utilisent sur nous ».
«Réimaginer» l’IA
Lancée en 2014 et financée par des dons, sans campagne marketing ni budget de communication, Signal est rapidement devenue populaire parmi les lanceurs d’alerte et les journalistes.
En matière de sécurité des données, l’application américaine est une référence: elle ne requiert pas que l’utilisateur partage son numéro de téléphone, les messages sont cryptés via un protocole développé en interne et la quantité de métadonnées à laquelle Signal a accès est minime.
Sa popularité a bondi début 2021, quand son concurrent WhatsApp a annoncé qu’il allait partager davantage de données avec sa maison mère Facebook. Néanmoins, avec plus de 40 millions d’utilisateurs réguliers, selon les experts, elle reste loin derrière les mastodontes WhatsApp (plus de 2 milliards d’utilisateurs) ou Messenger (près d’un milliard).
La fondation californienne à l’origine de la messagerie a élu domicile à Paris jusqu’à la fin de l’année afin de se concentrer sur le marché européen.
Mais, pour Meredith Whittaker, l’Europe ne devrait pas essayer de rivaliser avec les États-Unis ou la Chine dans une course à l’IA « avec des algorithmes qui renforcent les systèmes d’inégalité et de contrôle ».
À l’inverse, elle appelle les dirigeants européens à « réimaginer une technologie qui puisse servir à des sociétés plus démocratiques et plus respectueuses des droits ».
La patronne « pense que Signal est un bon exemple et montre qu’on peut construire une technologie différente qui rejette le modèle économique de la surveillance ».
«Envie de pleurer»
Quant à la nécessité d’une IA en source ouverte (c’est-à-dire avec un code source libre d’accès), défendue par les entreprises françaises Mistral AI ou Hugging Face, mais aussi l’Américaine Meta, Meredith Whittaker n’y croit pas.
« Qu’est-ce qui est open source à propos d’une technologie qui exige 100 millions de dollars en puissance de calcul pour entraîner un seul modèle?», interroge celle qui a coécrit un article sur le sujet, à paraître prochainement dans la revue scientifique Nature.
Rendre des jeux de données accessibles et permettre plus de transparence sur les modèles reste utile, pour Mme Whittaker, mais «nous devons revoir la définition et se demander ce qu’on veut vraiment dire par en source ouverte».
Elle invite aussi à prendre avec des pincettes les promesses de l’IA concernant l’environnement.
«Il y a cette évocation constante de la science environnementale, d’une sorte d’intervention climatique qui viendra de la capacité à analyser de grandes quantités de données, identifier des schémas récurrents et utiliser l’intelligence artificielle pour le climat», note-t-elle.
«Mais la quantité d’énergie nécessaire à la création et au déploiement de ces systèmes donne envie de pleurer», assène la présidente de Signal, pointant du doigt «une utilisation massive d’énergies fossiles et de ressources en eau».
Par Daxia Rojasa, Agence France-Presse
Inscrivez-vous à notre infolettre thématique pour du contenu qui répond à votre réalité:
Retrouvez les conseils de nos experts en cybersécurité, des analyses sur les cryptomonnaies, et les dernières actualités sur les innovations technologiques.
