Rio de Janeiro — Les législateurs municipaux de Brésil ont promulgué ce qui semble être la première loi du pays écrite entièrement par intelligence artificiellemême s’ils l’ignoraient à l’époque.
L’ordonnance expérimentale a été approuvée en octobre dans la ville méridionale de Porto Alegre, et le conseiller municipal Ramiro Rosário a révélé cette semaine qu’elle avait été rédigée par un chatbot, qui a suscité des objections et soulevé des doutes sur le rôle de l’intelligence artificielle dans les politiques publiques.
Rosário a déclaré à l’Associated Press qu’il avait demandé à ChatGPT, le chatbot d’OpenAI, de rédiger une proposition visant à empêcher le conseil municipal de facturer aux contribuables le remplacement des compteurs de consommation d’eau en cas de vol. Il l’a ensuite présenté à ses 35 collègues du conseil sans y apporter un seul changement ni les informer de son origine inédite.
« Si je l’avais dit plus tôt, la proposition n’aurait sûrement même pas été soumise au vote », Rosário a déclaré à l’AP par téléphone jeudi. Les 36 membres du conseil l’ont approuvé à l’unanimité et l’ordonnance est entrée en vigueur le 23 novembre.
« Il aurait été injuste que la population coure le risque que le projet ne soit pas approuvé simplement parce qu’il a été écrit par l’intelligence artificielle », a-t-il ajouté.
L’arrivée de ChatGPT sur le marché il y a tout juste un an a déclenché un débat mondial sur l’impact des chatbots potentiellement révolutionnaires basés sur l’IA. Bien que certains y voient un outil prometteur, il a également suscité des inquiétudes quant aux répercussions involontaires ou indésirables du fait qu’une machine prenne en charge des tâches actuellement effectuées par des humains.
Porto Alegre, avec 1,3 million d’habitants, est la deuxième plus grande ville du sud du Brésil. Le président du conseil municipal, Hamilton Sossmeier, a appris que Rosário avait chargé ChatGPT de rédiger la proposition lorsque le conseiller s’est vanté de cette réussite sur les réseaux sociaux mercredi. Sossmeier a d’abord déclaré aux médias locaux que cela ressemblait à un « dangereux précédent ».
Les grands modèles de langage d’intelligence artificielle qui permettent le fonctionnement des chatbots comme ChatGPT tentent à plusieurs reprises de deviner le mot suivant dans une phrase et sont enclins à inventer de fausses informations, un phénomène parfois appelé hallucination.
Tous les chatbots introduisent parfois de fausses informations lors de la synthèse d’un document, de 3 % du temps dans le cas du modèle GPT le plus avancé à 27 % dans l’un des modèles de Google, selon une étude récente publiée par la société technologique Vectara.
Dans un article publié cette année sur le site Web du Harvard Law School Center for the Legal Profession, Andrew Perlman, doyen de la faculté de droit de l’Université de Suffolk, a écrit que ChatGPT « pourrait présager un changement encore plus important que l’arrivée d’Internet »mais a également mis en garde contre ses éventuelles carences.
« Je ne suis peut-être pas toujours en mesure de rendre compte des nuances et des complexités de la loi. ChatGPT étant un système d’apprentissage automatique, il se peut qu’il n’ait pas le même niveau de compréhension et de jugement qu’un avocat humain lors de l’interprétation des principes et des précédents juridiques. Cela pourrait créer des problèmes dans des situations où une analyse juridique plus approfondie est nécessaire », a écrit Perlman.
Rosário n’est pas le premier législateur au monde à mettre à l’épreuve les capacités de ChatGPT. D’autres ont fait de même, de manière plus limitée ou avec des résultats moins positifs.
Dans Massachusettsle sénateur d’État Barry Finegold s’est tourné vers ChatGPT pour l’aider à rédiger un projet de loi visant à réglementer les modèles d’intelligence artificielle, y compris ChatGPT. Il a été présenté en début d’année, mais n’a pas encore été voté.
Finegold a déclaré mercredi par téléphone que ChatGPT pouvait aider avec certains des éléments les plus fastidieux du processus législatif, comme trouver et citer rapidement et correctement les règles déjà en place. Néanmoins, il est essentiel que tout le monde sache que ChatGPT ou un outil similaire a été utilisé dans le processus, a-t-il déclaré.
« Nous voulons que le travail généré par ChatGPT porte un filigrane »a-t-il déclaré, ajoutant que le recours à l’intelligence artificielle pour aider à rédiger de nouvelles lois est inévitable. « Je suis favorable à l’utilisation de ChatGPT pour rédiger des factures, à condition que ce soit clair. »
Cette transparence n’a pas eu lieu dans le cas de la proposition de Rosário à Porto Alegre. Sossmeier a déclaré que Rosário n’avait pas informé les autres conseillers que ChatGPT avait rédigé la proposition.
Garder secrète l’origine de la proposition était intentionnel. Rosário a expliqué à l’AP que son objectif n’était pas seulement de résoudre un problème local, mais aussi de susciter un débat. Il a déclaré qu’il avait saisi une instruction de 49 mots dans ChatGPT et que celui-ci avait renvoyé le projet complet de la proposition en quelques secondes, y compris les considérants.
« Je suis convaincu que… l’humanité va connaître une nouvelle révolution technologique »il a déclaré. « Tous les outils que nous avons développés en tant que civilisation peuvent être utilisés pour le mal comme pour le bien. C’est pourquoi nous devons apprendre à les utiliser à bon escient..
Et le président du conseil, initialement opposé à cette méthode, semble avoir changé d’avis.
« J’ai changé d’avis », a déclaré Sossmeier. « J’ai commencé à lire plus profondément et j’ai vu que, malheureusement ou heureusement, cela allait être une tendance. »
