Le PDG d'OpenAI, Sam Altman, a signalé que la société retarderait son introduction en bourse (IPO) en raison des inquiétudes concernant la sécurité et alignement des modèles d’IA compte tenu des risques potentiels qu’ils pourraient présenter pour la société.
Le créateur de ChatGPT a soumis confidentiellement un dossier S-1 auprès de la Securities and Exchange Commission en juin pour commencer le processus d'introduction en bourse. La société avait déclaré à l'époque qu'elle n'avait pas encore décidé du moment de l'introduction en bourse, estimant que « cela pourrait prendre un certain temps » car il pourrait être plus facile de faire certaines choses en tant que société privée entre-temps.
Altman a dit dans un entretien avec Fortune que « nous ne nous précipitons pas dans une introduction en bourse » et que « je pense qu'étant donné tout ce qui se passe en matière de sécurité… ce serait un moment peu judicieux pour rendre publique l'opération ».
« Nous ne ressentons aucune pression à ce sujet. Nous disons depuis longtemps que nous le ferons quand nous serons prêts, c'est-à-dire lorsque l'entreprise sera prête. Quand nous nous sentirons prêts à partir d'une sorte de situation actuelle dans la société avec cette technologie », a déclaré Altman, ajoutant que l'introduction en bourse n'aurait pas lieu en 2026.
« Nous avons beaucoup de choses à faire », a déclaré Altman à Fortune. « Répondre à ce moment de ce qui sera nécessaire pour la sécurité et l'alignement, et de la manière dont l'industrie et les gouvernements peuvent travailler ensemble – je suis heureux de pouvoir le faire en tant qu'entreprise privée. »
Les commentaires d'Altman interviennent dans un contexte où les sociétés d'IA se concentrent de plus en plus sur la sécurité et l'alignement de leurs modèles au fur et à mesure de leur développement, les chercheurs avertissant qu'il existe une chance qu'une superintelligence de l'IA puisse anéantir l'humanité d'ici une décennie.
JENSEN HUANG, PDG de NVIDIA, DÉCLARE « AGI EST ARRIVÉ » APRÈS QUE OPENAI A DÉVOILE LE GPT-6 ASTRA
La semaine dernière, Jacob Coxon, ancien chercheur d'Anthropic et d'OpenAI, a écrit un long fil de démission publié sur X qui avertissait que « les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie ».
Coxon a déclaré qu'au cours de ses trois années de recherche de pré-formation chez les deux géants de l'IA, il lui a montré qu'« aucune des deux sociétés n'agit de manière responsable. Elles se précipitent directement vers une superintelligence auto-améliorée et jouent avec nos vies.
Evan Hubinger, responsable de l'équipe scientifique d'alignement d'Anthropic, a répondu au message de Coxon en disant que « Jacob a raison ici – nous croyons sincèrement que l'IA pourrait tuer tous les humains! »
« Personnellement, je pense que ce sera >10 % au cours de la prochaine décennie. Je pense qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre l'alignement de la superintelligence et nous ne sommes pas clairement sur la bonne voie », a-t-il poursuivi, ajoutant que même si les modèles actuels ne constituent pas une menace, les améliorations technologiques pourraient changer cela.
« Pour être clair, comme nous le disons dans notre dernier rapport sur les risques, je pense que le risque lié aux modèles actuels est faible. Ce qui m'inquiète, c'est la superintelligence résultant de l'auto-amélioration récursive, qui, comme nous l'avons dit, se produit plus rapidement que nous le pensions », a ajouté Hubinger.
OPENAI SIGNALE DES DÉBUTS POTENTIELS EN BOURSE TOUT EN PESANT LES AVANTAGES DES ENTREPRISES PRIVÉES
Altman a déclaré dans un article sur X qu'il était d'accord avec le PDG d'Anthropic, Dario Amodei, sur le fait que « nous devons ralentir la frontière » du développement de l'IA, ajoutant que cela « a été l'un des principaux sujets de discussions que nous avons eu à OpenAI ces dernières semaines ».
Le PDG d'OpenAI a également indiqué qu'il était d'accord avec le projet d'Amodei visant à donner aux évaluateurs tiers un accès au niveau des employés aux systèmes d'Anthropic pour vérifier le respect des mesures de sécurité, signaler les incidents et évaluer l'alignement des modèles pendant la formation – affirmant qu'il prévoyait d'instituer un système similaire chez OpenAI.
« S'engager à avoir des évaluateurs indépendants avec un accès similaire à celui des employés est une excellente idée, et nous ferons de même. Nous aurons bientôt plus à partager », a déclaré Altman.
