Les législateurs californiens ont adopté une législation qui permettra aux agences gouvernementales de se protéger plus facilement de l'utilisation croissante de l'intelligence artificielle pour les commentaires publics, les demandes d'enregistrement et d'autres formes d'engagement civique.
du sénateur Christopher Cabaldon (D-West Sacramento) interdit à quiconque d'utiliser sciemment l'IA pour prétendre faussement qu'une personne réelle est engagée dans une agence gouvernementale. Il précise également que les agences ne sont pas tenues de traiter l’engagement de l’IA ou des robots comme s’il s’agissait de vrais humains.
« Ce que nous avons vu avec l’avènement de l’intelligence artificielle et d’autres technologies similaires, c’est la capacité de ces systèmes à inonder la zone – à noyer les gouvernements locaux, et potentiellement les agences d’État également, dans un engagement inauthentique et non humain », a déclaré Cabaldon lors d’une réunion de mars de la commission judiciaire du Sénat.
La législation a été présentée peu de temps après un article du Times concernant une campagne visant à influencer un vote sur les appareils alimentés au gaz dans le district de gestion de la qualité de l'air de la côte sud. Un consultant en affaires publiques basé en Californie du Sud, Matt Klink, a déclaré qu'il avait utilisé une plateforme appelée CiviClick pour inonder le district de 20 000 commentaires publics s'opposant à la règle avant le vote du conseil de l'air.
CiviClick se décrit comme « la première et la meilleure plateforme de plaidoyer populaire basée sur l'IA ». Les responsables de l’entreprise maintiennent que l’IA n’a pas été utilisée dans la campagne AQMD, mais affirment qu’il s’agit d’un outil qu’ils proposent et utilisent dans d’autres campagnes. Le directeur général Chazz Clevinger a déclaré qu'il ne pouvait pas expliquer comment les 20 000 commentaires adressés au conseil de l'air avaient été générés ni comment les constituants avaient été identifiés et contactés.
Les initiés de l'agence ont déclaré que l'assaut des courriels a presque certainement influencé la décision de l'Air Board, qui aurait imposé des frais sur les nouveaux fours et chauffe-eau alimentés au gaz pour quelque 10 millions d'appareils dans la région de la côte sud.
Cabaldon a cité l'article du Times lorsqu'il a présenté le projet de loi, notant qu'au moins trois personnes contactées par le district aérien ont déclaré qu'elles n'avaient pas soumis les commentaires publics joints à leurs noms.
Il a également cité un rapport sur une campagne similaire visant à faire adopter une règle différente dans le Bay Area Management District, qui était menée via une plate-forme appelée Speak4 qui annonce sa capacité à produire des lettres personnalisées alimentées par l'IA.
Le groupe de défense des entreprises qui a mené la campagne a également nié que l’IA ait été utilisée. Toutefois, 10 personnes contactées par la Chronique ont affirmé ne pas avoir écrit les lettres qui leur sont attribuées. « C'est un faux », a déclaré une personne.
Joint par téléphone, Cabaldon a déclaré que la législation aidera les agences publiques à déterminer comment réagir au déploiement de l'IA, qui est de plus en plus utilisée d'une manière qui « submerge notre processus d'engagement civique, mais désactive également complètement nos gouvernements étatiques et locaux ».
Par exemple, le California Public Records Act exige que les agences gouvernementales répondent aux demandes d'enregistrement public dans un délai de 10 jours, tandis que le Brown Act et le Bagley-Keene Open Meeting Act garantissent le droit de participer à des réunions publiques et de fournir des commentaires publics.
« Le but du projet de loi est de dire que ces lois concernent les humains, et ce n'est pas parce qu'elles se présentent sous la forme qu'un humain les écrirait que vous devez traiter chacune de ces communications comme s'il s'agissait d'un être humain, et par conséquent, l'IA n'a pas droit à 10 jours, l'IA n'a pas droit à trois minutes lors de la réunion du conseil scolaire », a-t-il déclaré.
Les experts ont déclaré que l’utilisation de l’IA pour « l’astroturfing », ou simuler l’engagement civique, est une tendance croissante. Au Royaume-Uni, un service appelé Objector.ai utilise l'IA pour identifier et générer des objections formelles aux demandes de planification locale, suscitant l'inquiétude des experts,
Les responsables publics californiens sont également inquiets. Le vice-maire de Vacaville, Michael Silva, a déclaré que la ville recevait des demandes d'enregistrement public générées par l'IA, ce qui ralentissait sa capacité à répondre à d'autres demandes légitimes soumises par les résidents.
Dylan Plummer, directeur adjoint de la campagne Clean Heat du Sierra Club, a déclaré que de nombreuses campagnes d'IA ont profité à l'industrie des combustibles fossiles et constituent une « menace existentielle pour la participation du public à notre démocratie ».
« L'adoption du projet de loi 1159 du Sénat est une étape importante pour clarifier la loi et décourager l'utilisation de technologies émergentes pour falsifier les archives publiques et induire les régulateurs en erreur en Californie », a-t-il déclaré. « Cela dit, il reste encore beaucoup à faire pour comprendre à quel point cette pratique est répandue et pour tenir les mauvais acteurs pour responsables des lois qui ont peut-être déjà été enfreintes. »
Les législateurs ont reconnu que la législation n’est qu’un début et qu’il est de plus en plus difficile pour les agents publics de détecter des lettres sur mesure, des vidéos deepfakes ou d’autres types d’engagement alimentés par l’IA. Le projet de loi autorise les agences gouvernementales à utiliser des outils de vérification de la divulgation pour déterminer si l'IA est présente – ce que le Bay Area Air District a déjà indiqué qu'il pourrait le faire en remplaçant son système de courrier électronique par un site Web pour les soumissions de commentaires publics.
La législation n’empêche pas de vraies personnes d’utiliser l’IA pour faciliter un véritable engagement public, comme quelqu’un utilisant ChatGPT ou Perplexity pour améliorer le texte d’une lettre, à condition que le volume et la fréquence de leur engagement soient cohérents avec la participation ordinaire d’une personne réelle.
De son côté, CiviClick indique sur son site Internet qu'elle prend en charge le SB 1159 et affirme que sa plateforme est déjà conforme à ce que propose le projet de loi.
Certains législateurs ont déclaré que l’utilisation de l’IA à des fins civiques représentait une nouvelle frontière.
« Si j'avais lu ce projet de loi lorsque j'étais membre du conseil de surveillance du comté de Sacramento, je me serais demandé ce que vous fumiez », a déclaré le sénateur Roger Niello (R-Fair Oaks) lors de la réunion de mars du comité judiciaire.
« Mais c'est ainsi que les choses ont progressé, et le développement de la technologie dépassera toujours le développement des défenses contre les effets indésirables de la technologie », a-t-il déclaré.
Le SB 1159 a été adopté par la législature ce mois-ci et sera soumis au bureau du gouverneur Gavin Newsom pour signature en septembre.
