Mark Zuckerberg de Meta (META.US) répond au débat sur le « ralentissement » de l’IA : poursuivre le développement des capacités des modèles tout en renforçant la sécurité

L’application Jinse Finance a appris que le PDG de Meta Platforms (META.US), Mark Zuckerberg, et le responsable IA de la société, Alexander Wang, se sont exprimés sur la vitesse de développement de l’IA, plaidant pour que les laboratoires IA continuent d’améliorer les capacités des modèles tout en mettant en place des mesures de protection renforcées autour de ces modèles de plus en plus puissants.

Les déclarations des deux hommes ont été publiées sur la plateforme X. Actuellement, le secteur débat largement de la question « faut-il ralentir le développement des capacités IA jusqu’à ce que la sécurité de l’IA réalise des progrès significatifs ». La sécurité IA vise à garantir que les systèmes d’IA respectent fiablement les intentions et valeurs humaines.

Le cours de Meta a augmenté pendant trois séances consécutives jusqu’à mardi, affichant un hausse totale de 4,2 %, avec une légère progression en after-hours. Sur Stocktwits, lors de la dernière consultation, le sentiment des petits investisseurs envers cette action était « extrêmement baissier ».

Zuckerberg : les laboratoires sont motivés à créer une IA plus sûre

Zuckerberg a déclaré que les entreprises IA disposent déjà de forts incitatifs commerciaux et juridiques pour améliorer la sécurité des modèles et leur alignement avec les utilisateurs. « Les gens ne voudront pas utiliser des agents intelligents qui ne sont pas en adéquation avec eux ou qui n’agissent pas comme ils le souhaitent », a écrit Zuckerberg. « Tout laboratoire qui ne se concentre pas sur l’alignement prendra du retard. »

Il estime que l’alignement lui-même devient une compétence concurrentielle essentielle, et pas uniquement une contrainte au développement de l’IA. « Mon opinion est que la confiance et l’alignement deviennent rapidement les capacités les plus importantes pour différencier les agents et les modèles », a-t-il affirmé.

Zuckerberg a également mentionné que Meta a décidé de repousser la publication du modèle Muse de plusieurs mois afin de traiter les questions liées à la sécurité et à la protection.

Meta soutient une supervision externe

Zuckerberg et Alexander Wang ont tous deux appelé à une plus grande implication d’évaluateurs indépendants et de supervision externe, alors que les modèles IA deviennent de plus en plus puissants.

« Faire appel à des évaluateurs indépendants et à des conseillers constitue une bonne pratique industrielle », a expliqué Zuckerberg, ajoutant que la croissance et la diversification de l’écosystème d’évaluateurs contribueront à renforcer la sécurité IA.

Alexander Wang a également déclaré que les laboratoires IA doivent maintenir un « cadre de gouvernance solide » tout au long des processus de formation et de déploiement, comprenant des parties externes d’évaluation et une supervision indépendante des standards de sécurité lors de la publication des modèles.

Il a ajouté : « Chaque laboratoire doit opérer sous la protection institutionnelle des pays démocratiques… Ce qui signifie que, si un modèle cause un préjudice, le laboratoire encourra une responsabilité juridique majeure. »

Meta défend sa stratégie d’allocation de la puissance de calcul

Une partie clé de leur argumentation est la décision de Meta d’allouer la plus grande part de sa puissance de calcul à servir les utilisateurs, plutôt qu’à accélérer l’amélioration récursive de soi (RSI).

« Consacrer l’immense majorité de la puissance de calcul à servir l’humanité, plutôt qu’à rivaliser sur l’amélioration récursive de soi, est l’un des meilleurs moyens d’assurer le développement sûr de cette technologie », a déclaré Zuckerberg.

La préoccupation est que le RSI pourrait permettre aux systèmes IA d’améliorer rapidement leurs propres capacités, potentiellement au-delà de la supervision humaine, et augmenter le risque de perte de contrôle sur des modèles puissants.

Alexander Wang a également décrit la course au RSI comme « l’un des parcours les plus dangereux pouvant mener à la perte de contrôle sur des modèles puissants ».

Le débat sur le rythme de développement de l’IA divise l’industrie technologique

Le débat sur le rythme de développement de l’IA se divise grosso modo entre : le PDG d’Anthropic, Dario Amodei, qui appelle à ralentir le développement de l’IA de pointe pour permettre aux mécanismes de sécurité de suivre ; et le PDG d’OpenAI Sam Altman, le PDG de Microsoft Satya Nadella, ainsi que Elon Musk de SpaceX qui soutiennent une avancée prudente et axée sur la sécurité, sans interrompre le développement.

Par ailleurs, le président américain Donald Trump s’oppose à ralentir la course à l’IA aux États-Unis, arguant de la crainte d’un avantage chinois ; l’ancien conseiller IA de Trump, David Sacks, déclare que les entreprises doivent gérer les risques elles-mêmes, et non rechercher une régulation gouvernementale, remettant en question les mises en garde sécuritaires d’Anthropic.

L’investisseur Michael Burry s’interroge sur l’éventualité que les appels à ralentir le développement servent en partie des intérêts privés, car cela pourrait protéger les sociétés IA existantes de la concurrence.