Le co-fondateur et président d'OpenAI, Greg Brockman, a déclaré lors d'un événement que les modèles d'IA deviennent si avancés et multiformes que les ingénieurs ont du mal à les surveiller et à les contrôler.
Brockman, lors d'un discours lors d'une table ronde privée avec les médias OpenAI à New York cette semaine, a évoqué un incident récent au cours duquel l'un des modèles d'IA de l'entreprise s'est effondré de ce qui était censé être un bac à sable sécurisé et a piraté Hugging Face, une plateforme en ligne pour l'apprentissage de l'IA.
Le modèle pensait que Hugging Face disposait de solutions qui pourraient lui permettre de tricher sur une évaluation qui lui avait été donnée, selon OpenAI.
« Cet incident, dans une certaine mesure, est révélateur du moment dans lequel nous nous trouvons, n'est-ce pas ? » Brockman a déclaré, selon Fortune. « Parfois, il est difficile de perdre la trace d'une dimension pour laquelle (les modèles d'IA sont) en réalité très capables. »
ANTHROPIC APPELLE À DES NORMES DE SÉCURITÉ SUR L'IA À L'ÉCHELLE DE L'INDUSTRIE POUR EMPÊCHER LES MODÈLES DE FAIRE DES DAVOCATS
Brockman a déclaré que la capacité du modèle à cibler Hugging Face a souligné à quel point les produits d'OpenAI sont efficaces dans les tâches de cybersécurité.
« Pouvons-nous être dans un monde où les défenseurs sont capables de consacrer 10 fois plus de ressources informatiques à la défense et à s'assurer que chaque logiciel dont nous disposons est entièrement sécurisé par rapport à n'importe qui d'autre ? » Brockman a déclaré, selon Fortune.
Brockman a déclaré qu'OpenAI prenait la violation « très au sérieux ».
Cependant, OpenAI a également profité de l’événement pour présenter ses propres modèles de prouesses en matière de cybersécurité. Dans ce cadre, l'entreprise a demandé aux clients potentiels de demander le statut de « partenaire de confiance » pour avoir accès à ces modèles.
GOOGLE LANCE UNE ÉTUDE SUR DES MILLIONS DE CHATS IA POUR COMPRENDRE COMMENT LES GENS UTILISENT L'INTELLIGENCE ARTIFICIELLE
« Nous encourageons d'autres défenseurs à demander un accès fiable et à expérimenter ces modèles dès maintenant pour traduire ces capacités en une meilleure prévention, une détection plus rapide et une réponse plus efficace aux incidents », a écrit OpenAI dans un article de blog.
Lors de l'événement à New York, Brockman a également répondu à des questions sur l'administration Trump envisageant d'interdire les modèles d'IA fabriqués en Chine. Axios a rendu compte de cette politique potentielle plus tôt cette semaine.
« L'IA est quelque chose qu'il est très important de démocratiser », a déclaré Brockman, avant de dire qu'avoir accès à davantage de modèles est une bonne chose. Il n’a pas explicitement indiqué s’il soutiendrait une interdiction des modèles d’IA fabriqués par des entreprises basées en Chine.
Selon les documents déposés par la FEC, Brockman est devenu l'un des plus grands donateurs du mouvement politique du président Donald Trump, donnant l'année dernière 12,5 millions de dollars à MAGA Inc., un Super PAC aligné sur Trump.
VERROUILLEZ VOTRE COMPTE CHATGPT AVANT LA PROCHAINE ATTAQUE D'IA
Brockman a déclaré qu’il n’avait eu aucune conversation avec des responsables de Trump au sujet d’une interdiction générale de l’IA chinoise.
« Quel que soit le modèle, la question n'est pas vraiment de savoir qui le crée », a-t-il déclaré. « Comment évaluez-vous un modèle ? Comment pensez-vous sa sécurité ? Comment pensez-vous ses cas d'utilisation ? Comment comprenez-vous son alignement ? »
L’administration Trump envisage une interdiction après que Moonshot AI, basée à Pékin, a publié son modèle Kimi K3, a rapporté Axios.
Le modèle pourrait peut-être égaler les performances des meilleurs modèles des sociétés américaines OpenAI et Anthropic, mais à une fraction du coût.
CLIQUEZ ICI POUR TÉLÉCHARGER L'APPLICATION FOX NEWS
Michael Kratsios, conseiller scientifique du président, a publiquement accusé Moonshot d'utiliser les modèles des sociétés américaines d'IA pour former les leurs, portant ainsi atteinte à leurs droits de propriété intellectuelle.
« Nous avons des informations selon lesquelles Moonshot AI a distillé Anthropic's Fable pour le développement de son modèle K3 », a écrit Kratsios dans un article sur les réseaux sociaux mercredi. « Une distillation industrielle secrète et à grande échelle visant à voler une technologie américaine exclusive et à saper la recherche américaine est inacceptable. »
Les préoccupations du gouvernement américain concernant les modèles d'IA chinois ne sont pas nécessairement partagées par tous les acteurs du secteur de l'IA, y compris Brockman et le PDG de Nvidia, Jensen Huang.
Huang a qualifié cette semaine les derniers modèles d'IA en provenance de Chine d'« excellents » et a déclaré qu'ils « devraient être utilisés ».
