Le scientifique en chef d ’OpenAI propose de fixer une « limite sectorielle » au développement de l’IA tant que sa capacité de compréhension n’est pas suffisante.
Jakub Pachocki, le scientifique en chef d’OpenAI, a proposé que les entreprises d’intelligence artificielle parviennent à un consensus pour fixer des limites au développement de modèles de plus en plus puissants, tant que les chercheurs n’ont pas trouvé de meilleures méthodes pour comprendre et surveiller le comportement de ces modèles.
Selon l’application Jinse Finance, Jakub Pachocki, scientifique en chef chez OpenAI, propose que les entreprises d’intelligence artificielle trouvent un consensus afin de limiter le développement de modèles toujours plus puissants tant que les chercheurs n’auront pas découvert de meilleures méthodes pour comprendre et surveiller le comportement des modèles.
Dans un article publié dimanche, Pachocki appelle à l’établissement de normes pour l’ensemble du secteur, fixant des seuils pour le développement de l’IA, les entreprises s’engageant à ne pas dépasser ces seuils avant d’avoir satisfait à certaines exigences de sécurité.
« Je propose en outre de fixer une limite commune — basée sur la perplexité et d’autres mesures — à laquelle les développeurs s’engagent à ne pas déroger tant que la capacité de comprendre et surveiller le comportement de l’IA n’aura pas atteint un jalon précis », écrit Pachocki.
Les restrictions proposées pourraient en partie être fondées sur un indicateur technique appelé « perplexité », qui mesure la précision avec laquelle un modèle d’IA prédit le prochain segment de texte. Pachocki n’a pas précisé quel devrait être le seuil initial, ni la date d’application.
Il avertit que l’IA pourrait, dès 2027, accélérer sa propre progression, risquant de dépasser la capacité des chercheurs à suivre et comprendre l’évolution de cette technologie.
Sam Altman, CEO d’OpenAI, s’est dit favorable à cette proposition, estimant que l’article de Pachocki est « la publication la plus importante d’OpenAI depuis un certain temps ». Sur X, il a déclaré qu’un consensus sur une limite commune contribuerait à garantir « la sécurité et le contrôle ».
La date à laquelle cette proposition est avancée est notable : les États-Unis s’apprêtent à lancer une nouvelle phase de débat sur la régulation de l’IA. Les démocrates, largement victorieux lors des élections de mi-mandat à la Chambre, au Sénat et dans les gouvernorats, pourraient renforcer la réglementation des entreprises technologiques au Congrès et relancer les efforts législatifs pour établir des règles de sécurité pour l’IA.
Certains législateurs discutent également de la création d’une commission sénatoriale spécialisée pour coordonner la politique sur l’IA. Le président Trump s’oppose depuis longtemps à l’imposition de restrictions générales sur le développement de l’IA — ce qui laisse présager un bras de fer entre la Maison Blanche et le nouveau Congrès démocrate concernant les méthodes de régulation.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer

2,5 centaines de millions de nouveaux USDC ont été émis par le USDC Treasury de Circle



