Les principaux développeurs d’intelligence artificielle (IA) s’inquiètent de la nécessité de garantir la sécurité et l’alignement des modèles de pointe à mesure qu’ils deviennent plus performants.
Sam Altman, PDG d'OpenAI, Dario Amodei, PDG d'Anthropic, et Microsoft ont tous signalé l'accent mis sur les problèmes de sécurité liés au développement de modèles d'IA de pointe afin de garantir qu'ils sont alignés sur le service de l'humanité.
Ces appels surviennent au milieu des avertissements des chercheurs en IA selon lesquels il est possible que l'IA puisse anéantir l'humanité au cours de la prochaine décennie si le rythme des progrès atteint le point avec des modèles plus performants qu'une superintelligence auto-améliorée échappe au contrôle de ses développeurs.
Les inquiétudes concernant la déchaînement de l’IA surviennent également dans un contexte de concurrence intense dans l’industrie de l’IA pour proposer des modèles plus performants, tandis que le gouvernement fédéral se demande comment réglementer l’industrie émergente sans l’étouffer au milieu de sa croissance rapide et alors qu’elle devient un point chaud dans la concurrence géopolitique avec la Chine.
SAM ALTMAN IDENTIFIE DEUX PLUS GRANDS RISQUES POUR L'AVENIR DE L'IA
Nancy Tengler, PDG et directrice des investissements de Laffer Tengler Investments, a déclaré à Ireste : « Je pense qu'il y a un risque que si la réglementation est trop étendue, elle étouffe l'innovation et les OpenAI ou Anthropics en plein essor. J'apprécierais donc une touche légère s'il y a une réglementation, car à ce stade, je ne suis même pas sûre que nous ayons défini quel est le problème.
Tengler a ajouté que « je ne pense pas que le Congrès sera capable de réglementer l'IA, du moins pas maintenant. Je pense que cela dépasse leurs aptitudes », et a ajouté que les entreprises technologiques ont récemment appelé à une réglementation de leurs industries au milieu de controverses publiques.
« Il suffit de regarder en arrière, il y a quelques années à peine, lorsque Meta était dans la ligne de mire de la censure et que Mark Zuckerberg n'arrêtait pas de dire : « S'il vous plaît, réglez-nous. » C'est une stratégie éprouvée de la Silicon Valley qui consiste à adopter la notion de réglementation, et je pense que cela est dû en partie au fait que cela ne se produit pas », a-t-elle ajouté.
Tengler a ajouté qu'elle pense « qu'il y aura un certain risque pour l'innovation si ces entreprises deviennent plus grandes et plus puissantes ».
MICROSOFT DÉVOILE UN CODE DE CONDUITE POUR LES MODÈLES D'IA ALORS QUE LES PRÉOCCUPATIONS DE SÉCURITÉ MONTENT
Julia Cartwright, chercheuse principale en droit et en économie à l'Institut américain de recherche économique, a déclaré à Ireste qu'« il s'agit d'un cas classique de capture de la réglementation par les gens au sommet ».
« Il y a eu une histoire de grandes entreprises qui se sont alignées sur Washington et ont essayé d'imposer des réglementations parce que cela rend leur secteur plus prévisible… mais cela élève également la barrière à l'entrée à tout type de concurrence, et je pense que cela fait partie de l'histoire », a-t-elle déclaré.
Cartwright a ajouté que le débat sur la réglementation de l'IA pose un « problème d'action collective » car « même si toutes les entreprises aux États-Unis disent : « oui, nous sommes d'accord avec cette réglementation », et que maintenant elle devient loi et nous lie les mains, que se passera-t-il si les entreprises chinoises ne veulent pas se lier les mains ? Nous sommes dans un espace de concurrence mondial.
Ireste a contacté OpenAI, Anthropic et Microsoft pour commentaires. Les trois sociétés ont toutes exposé leurs approches en matière de problèmes de sécurité et d'alignement dans de récents commentaires publics ou communiqués.
ANTHROPIC DIT QU'IL A BLOQUÉ D'ÉVENTUELS EFFORTS D'UTILISATION DE L'IA POUR LE DÉVELOPPEMENT D'ARMES BIOLOGIQUES ET DES AFFAIRES LIÉES À L'IRAN
Microsoft a dévoilé cette semaine une version préliminaire de son « Code de conduite de l'IA humaniste », qu'il prévoit d'utiliser comme guide pour le développement et la surveillance des modèles d'IA de Microsoft après la publication d'une version finale plus tard cette année.
L'entreprise a déclaré que le code de conduite est « motivé par un seul objectif primordial : que les humains doivent conserver un contrôle significatif sur l'IA afin qu'elle puisse aider les gens à vivre une vie plus saine, plus heureuse et plus productive ».
Il a également évoqué le développement de la superintelligence de l'IA, affirmant que « Contenir, contrôler et aligner une force aussi puissante est l'un des plus grands défis que l'humanité ait jamais rencontrés. Nous devons donc être parfaitement clairs sur la raison pour laquelle nous inventons ces systèmes et comment nous entendons les contrôler. »
Le PDG d'OpenAI, Sam Altman, a récemment déclaré que la société d'IA retardait son introduction en bourse très attendue à l'année prochaine, déclarant à Fortune dans une interview : « Répondre à ce moment de ce qui sera nécessaire pour la sécurité et l'alignement, et comment l'industrie et les gouvernements peuvent travailler ensemble – je suis heureux de pouvoir le faire en tant qu'entreprise privée.
Le PDG d'Anthropic, Dario Amodei, a appelé les leaders du secteur à « avancer à la frontière » du développement de l'IA. Il a ajouté que l'entreprise prévoit de donner aux évaluateurs tiers un accès au niveau des employés aux systèmes de l'entreprise pour vérifier le respect des mesures de sécurité de l'entreprise, signaler les incidents et évaluer l'alignement des modèles pendant la formation.
Altman a déclaré dans un article sur X qu'il pensait que cette approche « est une excellente idée, et nous ferons de même (à OpenAI). »
