Les législateurs californiens approuvent des lois pour encadrer l’IA

Sacramento — Les législateurs californiens ont approuvé cette semaine une série de propositions visant à réglementer l’industrie de l’intelligence artificielle, à lutter contre les vidéos hypertruquées et à protéger les travailleurs de se faire exploiter par cette technologie en évolution rapide.

La législature californienne, contrôlée par les démocrates, vote sur des centaines de projets de loi au cours de sa dernière semaine de session pour les envoyer au bureau du gouverneur Gavin Newsom. Leur date limite est samedi.

Le gouverneur démocrate a jusqu’au 30 septembre pour ratifier les propositions, y opposer son veto ou les laisser devenir loi sans sa signature.

Gavin Newsom a indiqué en juillet qu’il signerait une proposition visant à réprimer les vidéos hypertruquées en lien avec les élections, mais ne s’est pas prononcé sur d’autres projets de loi.

Il a averti plus tôt cet été qu’une réglementation excessive pourrait nuire à l’industrie locale. Ces dernières années, il a souvent invoqué les problèmes budgétaires de l’État pour rejeter des législations qu’il aurait autrement soutenues.

Lutte contre les vidéos hypertruquées

Invoquant des inquiétudes quant à la manière dont les outils d’IA sont de plus en plus utilisés pour tromper les électeurs et générer de la pornographie juvénile hypertruquée, les législateurs californiens ont approuvé plusieurs projets de loi cette semaine pour réprimer cette pratique.

Les législateurs ont approuvé une législation visant à interdire les vidéos hypertruquées liées aux élections et à exiger des grandes plateformes de médias sociaux qu’elles suppriment le matériel trompeur 120 jours avant le jour du scrutin et les 60 jours qui suivent. Les campagnes seraient également tenues de divulguer publiquement si elles diffusent des publicités avec du matériel modifié par l’IA.

Une paire de propositions rendrait illégale l’utilisation d’outils d’IA pour créer des images et des vidéos d’abus sexuels sur des enfants. La loi actuelle ne permet pas aux procureurs de district de poursuivre les personnes qui possèdent ou distribuent des images d’abus sexuels sur des enfants générées par l’IA s’ils ne peuvent pas prouver que le matériel représente une personne réelle.

Les entreprises technologiques et les réseaux sociaux seraient tenus de fournir des outils de détection d’IA aux utilisateurs dans le cadre d’une autre proposition.

Mise en place de garde-fous

La Californie pourrait devenir le premier État du pays à mettre en place des mesures de sécurité radicales sur les grands modèles d’IA.

La législation envoyée par les juristes au bureau du gouverneur exige que les développeurs commencent à divulguer les données qu’ils utilisent pour former leurs modèles d’IA. Ces efforts visent à mieux comprendre le fonctionnement de ces modèles et à prévenir de futures catastrophes.

Une autre mesure obligerait l’État à établir des protocoles de sécurité prévenant les risques et la discrimination algorithmique avant que les agences ne puissent conclure de contrat impliquant des modèles d’IA de prise de décision.

Protection des travailleurs

Inspirés par la grève des acteurs hollywoodiens qui a duré des mois l’année dernière, les législateurs ont approuvé une proposition visant à protéger les travailleurs, notamment les doubleurs et les interprètes de livres audio, contre le remplacement par leurs clones générés par IA. La mesure reflète le libellé du contrat que la SAG-AFTRA a conclu avec les studios en décembre dernier.

Les agences étatiques et locales n’auraient pas le droit d’utiliser l’IA pour remplacer les travailleurs des centres d’appels en vertu de l’une des propositions.

La Californie pourrait également créer des sanctions pour le clonage numérique de personnes décédées sans le consentement de leurs successions.

Suivre la technologie

Alors que les entreprises intègrent de plus en plus l’IA dans la vie quotidienne des Américains, les législateurs de l’État ont également adopté plusieurs projets de loi visant à accroître la compréhension de l’IA.

Une proposition prévoit la création d’un groupe de travail au niveau de l’État pour étudier l’intégration des compétences en IA dans les programmes de mathématiques, de sciences, d’histoire et de sciences sociales. Une autre proposition prévoit l’élaboration de lignes directrices sur la manière dont les écoles pourraient utiliser l’IA dans les salles de classe.

Par Trân Nguyễn, Associated Press