La course à l’intelligence artificielle (IA) s’intensifie à mesure que les développeurs font pression pour des outils d’IA de plus en plus performants et que les entreprises se précipitent pour déployer des outils d’IA pour profiter de ses gains d’efficacité et récolter des avantages financiers – mais un nouveau rapport prévient que les entreprises manquent de gouvernance suffisante pour les outils d’IA.
Cette semaine a été marquée par un incident très médiatisé impliquant l'IA, au cours duquel un test interne de modèles d'IA par le créateur de ChatGPT, OpenAI, a permis aux modèles d'exploiter une faille logicielle, d'échapper au confinement et de pirater Hugging Face, qui exploite une plate-forme permettant aux développeurs de collaborer sur le code des modèles d'IA, afin de tricher sur une évaluation de cybersécurité.
Bien que les deux sociétés aient maîtrisé l’incident, celui-ci a démontré la capacité croissante des modèles d’IA à dépasser leurs garde-fous et à constituer des menaces pour la cybersécurité, les dirigeants des deux sociétés notant l’importance de ce qui s’est produit.
Miriam Vogel, PDG d'EqualAI, dont l'organisation a publié cette semaine un livre blanc sur la gouvernance et le déploiement de l'IA, a déclaré à Ireste : « L'innovation se déroule à un rythme sans précédent ; le problème est que la gouvernance ne suit pas ce rythme. »
« Ce que nous voulons nous assurer que les gens reconnaissent à partir de cet incident, c'est que, dans tous les domaines, nous devons avoir des attentes plus fortes si nous voulons commencer à instaurer la confiance et garantir que ces systèmes méritent notre confiance », a-t-elle déclaré.
LE CO-FONDATEUR D'OPENAI Avertit que les modèles d'IA deviennent plus difficiles à contrôler après que son modèle ait piraté une autre entreprise
Vogel a noté que la plupart des points de contact des consommateurs avec l'IA se font via des entreprises qui ont déployé une sorte de solution d'IA. Elle a ajouté que le Forum économique mondial a constaté que moins de 1 % des entreprises avaient mis en place une gouvernance solide pour les systèmes d’IA, tandis que McKinsey a constaté l’année dernière que moins d’un tiers des entreprises avaient mis en place une gouvernance de l’IA.
« Je pense que trop de gens supposent que c'est le problème de quelqu'un d'autre, vous savez, que c'est le problème du développeur ou ne comprennent tout simplement pas que c'est leur problème », a-t-elle déclaré.
« Bien qu'il s'agisse, dans ce cas, d'un problème pour une société de développement, cela se joue et continuera de se jouer en grande partie avec le déployeur – c'est-à-dire avec les soins de santé, la finance, les médias sociaux, l'infrastructure – toutes les autres façons (les entreprises) utilisent l'IA agentique », a déclaré Vogel.
Elle a déclaré que les tribunaux imputent de plus en plus la responsabilité aux entreprises qui ont déployé l’IA agentique pour travailler avec des clients ou des entreprises, plutôt qu’à l’entreprise qui a développé le modèle ou l’outil d’IA sous-jacent.
« Une grande partie de cela relève de la responsabilité de la personne qui a eu le dernier contact, dont les données sont impliquées, dont le client est impliqué. C'est souvent eux qui assument la responsabilité », a ajouté Vogel.
ANTHROPIC APPELLE À DES NORMES DE SÉCURITÉ SUR L'IA À L'ÉCHELLE DE L'INDUSTRIE POUR EMPÊCHER LES MODÈLES DE FAIRE DES DAVOCATS
« Bien qu'il faille un certain temps pour établir une base solide en matière de bonne gouvernance, les meilleures pratiques sont vraiment alignées sur celles des principales organisations qui se soucient de ce travail à travers le monde. Elles y sont toutes parvenues de manière indépendante, et il existe vraiment un large consensus sur les meilleures pratiques », a déclaré Vogel.
« L'autre bonne nouvelle est que l'essentiel de tout cela n'est pas sorcier, mais plutôt du leadership et de la bonne gouvernance appliqués à l'IA », a déclaré Vogel.
EqualAI identifie cinq domaines principaux que les entreprises doivent prendre en compte lors de l'établissement d'une gouvernance autour de l'IA agentique. Il s'agit notamment d'avoir une visibilité sur les outils d'IA utilisés dans les organisations, car les dirigeants peuvent ne pas comprendre l'empreinte IA de leur entreprise ni les opportunités ou les risques qu'elle peut présenter ; ainsi que la responsabilité entre les niveaux de direction et les divisions d'une entreprise.
La mise en œuvre des principes de l’IA est un autre élément – qui, selon Vogel, implique de mettre en pratique les principes énoncés dans des documents tels qu’un PDF, notamment en termes de communication sur les problèmes qui surviennent, et dépend de la confiance interne dans le fait qu’il existe une responsabilité partagée au sein de l’organisation.
INCIDENT DE SURVEILLANCE DE LA MAISON BLANCHE APRÈS QUE LES MODÈLES OPENAI SONT ÉCHAPPÉS DU CONFINEMENT ET PIRATÉS DES SYSTÈMES DE Hugging Face
Un autre aspect de la gouvernance de l’IA consiste à garantir qu’il existe des boucles de rétroaction qui peuvent être exploitées de manière récurrente à mesure que les outils et les modèles d’IA itèrent et s’améliorent pour garder une longueur d’avance sur des problèmes tels que la dérive des modèles. Cela peut prendre la forme d’un plan et d’une cadence pour les tests de routine.
La maîtrise de l'IA est le cinquième pilier du cadre global de gouvernance de l'IA suggéré par Vogel, qu'elle a lié à « une méfiance croissante à l'égard de l'IA » et qu'elle considère comme contribuant aux craintes éclipsant l'enthousiasme à l'égard des outils d'IA dans la perception du public.
« Je pense que cela concerne non seulement l'infrastructure de gouvernance globale qui fait défaut dans la plupart des organisations, mais également cet élément fondamental de la gouvernance de l'IA qu'est la maîtrise de l'IA », a expliqué Vogel. « La plupart des gens ne savent pas qu'ils utilisent l'IA, ils ne veulent pas l'utiliser, ne savent pas comment l'utiliser. »
« La maîtrise de l'IA est simplement une variable clé pour garantir que les gens comprennent comment l'utiliser, qu'ils savent comment éviter les risques parce qu'ils ne veulent pas causer de préjudice ou engager une responsabilité pour eux-mêmes ou leur organisation », a-t-elle déclaré. « S'assurer que vos employés et vos consommateurs comprennent comment vous utilisez l'IA, comment vous n'utiliserez pas l'IA et comment elle peut leur être bénéfique est une variable clé. »
