Zuckerberg de Meta (META.US) responde al debate sobre "ralentizar" la IA: continuaremos impulsando las capacidades de los modelos y reforzando la seguridad.
El CEO de Meta Platforms, Mark Zuckerberg, junto al responsable de IA de la compañía, Alexander Wang, se pronunciaron sobre el debate acerca de la velocidad de desarrollo de la inteligencia artificial. Defienden que los laboratorios de IA deberían seguir impulsando las capacidades de los modelos, al mismo tiempo que desarrollan medidas de protección más robustas para los modelos cada vez más poderosos.
Según ha informado Zhitong Finance APP, el CEO de Meta Platforms (META.US), Mark Zuckerberg, y el responsable de AI de la compañía, Alexander Wang, se han pronunciado sobre el debate acerca de la velocidad de desarrollo de la AI, defendiendo que los laboratorios de AI deben seguir reforzando las capacidades de los modelos, y al mismo tiempo construir medidas de protección más sólidas en torno a modelos cada vez más potentes.
Ambos publicaron sus declaraciones en la plataforma X. Actualmente, la industria debate ampliamente si se debería ralentizar el desarrollo de capacidades hasta lograr mayores avances en la seguridad de la AI. La llamada seguridad de la AI consiste en garantizar que los sistemas de AI sigan de manera fiable las intenciones y valores humanos.
Las acciones de Meta acumularon tres días consecutivos de subidas hasta el martes, con una subida total del 4,2%, y experimentaron un ligero avance en el after-market. En Stocktwits, según la última revisión, el sentimiento minorista sobre el valor es de “extremadamente bajista”.
Zuckerberg: los laboratorios están motivados a construir una AI más segura
Zuckerberg afirmó que las compañías de AI ya tienen fuertes incentivos comerciales y legales para impulsar la seguridad de los modelos y alinearlos con los usuarios. “La gente no va a querer usar agentes inteligentes que no estén alineados con ellos o que no actúen según sus instrucciones”, escribió Zuckerberg. “Cualquier laboratorio que no se centre en la alineación se va a quedar atrás.”
Considera que la alineación en sí misma se está convirtiendo en una importante capacidad competitiva, más allá de ser solo una restricción para el desarrollo de la AI. “Creo que la confianza y la alineación están convirtiéndose rápidamente en las capacidades más importantes para diferenciar agentes y modelos”, dijo.
Zuckerberg también mencionó que Meta decidió retrasar el lanzamiento del modelo Muse varios meses para abordar cuestiones de seguridad y protección.
Meta apoya la supervisión externa
Tanto Zuckerberg como Alexander Wang solicitaron la incorporación de más evaluadores independientes y supervisión externa, en un momento en que los modelos de AI son cada vez más potentes.
“Incorporar evaluadores y asesores independientes es la mejor práctica del sector”, dijo Zuckerberg, y consideró que un ecosistema de evaluación más grande y diverso mejorará el trabajo de seguridad en AI.
Por su parte, Alexander Wang expresó que los laboratorios de AI deben mantener un “marco de gobernanza sólido” durante todo el proceso de entrenamiento y despliegue, incluyendo evaluadores externos y un control independiente de los estándares de seguridad en la publicación de modelos.
Agregó: “Cada laboratorio debe operar bajo la protección institucional de los países democráticos... Esto significa que, si un modelo causa daño, el laboratorio enfrentará una responsabilidad legal significativa.”
Meta defiende su estrategia de asignación de potencia computacional
Una parte clave de los argumentos de ambos ejecutivos es que Meta ha decidido dedicar la mayor parte de su potencia de cálculo al servicio de los usuarios, y no a acelerar la Recursividad de Auto-mejora (RSI).
“Invertir la gran mayoría de la potencia computacional para servir a la humanidad, en lugar de competir por la recursividad de auto-mejora, es una de las mejores formas de garantizar que desarrollemos esta tecnología de manera segura”, dijo Zuckerberg.
La preocupación es que la RSI podría permitir que los sistemas de AI mejoren rápidamente sus propias capacidades, superando la supervisión humana y aumentando el riesgo de que modelos poderosos se descontrolen.
Alexander Wang también describió la carrera por la RSI como “uno de los caminos más peligrosos que pueden llevar a la pérdida de control de modelos poderosos”.
El debate sobre el ritmo de la AI divide a la industria tecnológica
En líneas generales, el debate sobre el ritmo del desarrollo de la AI se ha dividido así: el CEO de Anthropic, Dario Amodei, aboga por frenar el desarrollo de AI de vanguardia para que los mecanismos de seguridad puedan ir al mismo ritmo; mientras que el CEO de OpenAI, Sam Altman, el CEO de Microsoft, Satya Nadella, y Elon Musk de SpaceX apoyan avanzar con mayor prudencia y priorizando la seguridad, pero sin detener el desarrollo.
Por otro lado, el presidente de los Estados Unidos, Donald Trump, se opone a ralentizar la competencia en AI de Estados Unidos por temor a que China tome la delantera; el exasesor de AI de Trump, David Sacks, considera que las empresas deben gestionar los riesgos por sí mismas en lugar de recurrir a restricciones gubernamentales, y cuestiona las advertencias de seguridad de Anthropic.
El inversor Michael Burry ha planteado la duda de si los llamamientos a frenar el desarrollo responden en parte a intereses particulares, ya que esto podría proteger a las empresas de AI existentes frente a la competencia.
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
¿Las acciones espaciales como SpaceX y Rocket Lab encuentran un nuevo catalizador? EE.UU. confirma por primera vez que tiene armas espaciales en órbita y el plan "Iron Dome" acelera su desarrollo.
El ejército estadounidense confirmó públicamente por primera vez que ahora posee "armas de control espacial" en órbita, mientras que el proyecto de interceptores espaciales "Iron Dome" ha avanzado hasta la etapa de "hardware listo para volar".
SK Hynix (SKHY.US) planea producir chips de memoria por primera vez en Estados Unidos, podría alquilar la planta de Intel (INTC.US) en Ohio o formar una empresa conjunta.
Se informa que SK Hynix de Corea del Sur (SKHY.US) está en negociaciones con Intel (INTC.US) para un acuerdo, el cual, de concretarse, permitiría que la compañía produzca chips de memoria por primera vez en territorio estadounidense.
La posición alcanza los 8,668,000 dólares, una dirección hizo un apalancamiento de 20 veces en oro.
La inflación del Reino Unido subió al 3,1% en agosto, alcanzando un máximo de cinco meses; el aumento de los precios del petróleo refuerza las expectativas de una subida de tasas.
El IPC de agosto en el Reino Unido aumentó a 3,1%, alcanzando el nivel más alto desde marzo, con los precios de gasolina en las estaciones como principal causa. La inflación en el sector servicios se mantiene en 3,4% y se espera que las facturas de energía aumenten un 25% el próximo año. Para el Banco de Inglaterra, mantener la política actual se vuelve cada vez más difícil.
Precios de las criptos
Más
