Meta doit «commencer à étiqueter les contenus manipulés, tels que les vidéos modifiées par l'intelligence artificielle (IA) ou d'autres moyens, lorsque ces contenus sont susceptibles de causer un préjudice», ordonne le conseil dans un communiqué. (Photo: Getty Images)
Meta (Facebook, Instagram) doit impérativement, et rapidement, actualiser ses règles sur les contenus manipulés, avec ou sans intelligence artificielle, à l’approche d’élections dans de nombreux pays, a déclaré lundi le conseil de surveillance mis en place par le groupe californien.
Le conseil a fait cette recommandation contraignante dans le cadre d’une décision sur un montage vidéo grossier, mettant en scène le président américain Joe Biden.
Le géant des réseaux sociaux doit reformuler son règlement, et faire en sorte que les images et sons modifiés soient clairement identifiables en tant que tels par les utilisateurs, estime le conseil que l’entreprise avait créé pour avoir un regard indépendant sur la modération des contenus, après plusieurs scandales.
Meta doit «commencer à étiqueter les contenus manipulés, tels que les vidéos modifiées par l’intelligence artificielle (IA) ou d’autres moyens, lorsque ces contenus sont susceptibles de causer un préjudice», ordonne le conseil dans un communiqué.
De nombreuses élections majeures vont avoir lieu dans le monde en 2024, notamment la présidentielle américaine, et les autorités craignent un déferlement de «deepfakes», des montages visuels et/ou sonores de plus ou plus sophistiqués grâce à l’IA.
La vidéo de Joe Biden — montrant le chef d’État qui touche la poitrine de sa petite-fille adulte, avec une légende qui le décrit comme pédophile — avait été largement relayée en ligne l’année dernière.
Le conseil a confirmé qu’elle n’enfreignait pas les règles actuelles de Meta, mais appelle à les mettre à jour.
«En l’état, cette politique n’a guère de sens», a déclaré Michael McConnell, co-président du conseil cité dans le communiqué.
«Elle interdit les vidéos modifiées qui montrent des personnes disant des choses qu’elles ne disent pas, mais n’interdit pas les messages montrant une personne faisant quelque chose qu’elle n’a pas fait. Elle ne s’applique qu’aux vidéos créées à l’aide de l’intelligence artificielle, mais laisse les autres contenus falsifiés s’en tirer à bon compte», résume-t-il.
«Ce qui est peut-être le plus inquiétant», ajoute-t-il, «c’est que le règlement ne couvre pas les falsifications audio, qui sont l’une des formes les plus puissantes de désinformation électorale que nous observons dans le monde entier. Meta doit s’efforcer de combler ces lacunes de toute urgence».
Le conseil ordonne donc à Meta d’attacher des «étiquettes» à tous les contenus «identifiés comme « manipulé »», indépendamment du contexte dans lequel ils sont publiés.
Il rappelle que «les vidéos ou les sons trompeurs ne sont pas tous répréhensibles en eux-mêmes, en l’absence d’un risque direct de préjudice dans la vie réelle, notamment quand il s’agit d’humour».
Meta prévoit de répondre d’ici 60 jours maximum.
