Zuckerberg y Huang rechazan frenar la IA: defienden desarrollo acelerado sin regulaciones nuevas
· Por Orenses.com
Mark Zuckerberg, CEO de Meta, y Jensen Huang, CEO de Nvidia, presentaron este martes argumentos contundentes contra las llamadas a desacelerar el desarrollo de inteligencia artificial, posicionándose directamente en contra de advertencias formuladas por competidores como Anthropic y OpenAI.
En una extensa publicación en X, Zuckerberg argumentó que las empresas de inteligencia artificial tienen un "incentivo natural" para garantizar la seguridad de sus modelos, puesto que los usuarios rechazarán agentes de IA que estén "desalineados" con sus expectativas y no hagan lo que se les pide. Según el ejecutivo, este incentivo de mercado es suficiente para que las compañías prioricen la alineación y seguridad sin necesidad de coordinación externa.
"La confianza y la alineación son las capacidades más importantes", sostuvo Zuckerberg, agregando que "las empresas que fracasen en este aspecto se quedarán atrás". El CEO de Meta indicó que su compañía retrasó el lanzamiento de su agente personal de IA, Muse, durante varios meses para garantizar seguridad, pero rechazó que esto signifique exigir lo mismo a otros laboratorios.
Por su parte, Jensen Huang intervino en el evento Dreamforce de Salesforce argumentando que la disyuntiva entre seguridad y velocidad es "falsa". "Sin duda se pueden tener ambas al mismo tiempo", afirmó el CEO de Nvidia, quien además descartó la necesidad de nuevas leyes o regulaciones. Huang sugirió que las fuerzas del mercado son suficientes para que las empresas dosifiquen sus esfuerzos hasta estar seguras de lanzar productos que el mercado valúe.
Estas posiciones contrastan directamente con Dario Amodei, CEO de Anthropic, quien durante el fin de semana emitió una advertencia sobre seguridad e instó a las principales empresas a ralentizar deliberadamente el desarrollo. Amodei participó también en Dreamforce y utilizó una analogía automotriz para defender su postura: así como una compañía no atacaría a su rival por un incidente de seguridad, sino que reafirmaría su propio compromiso, la industria de IA debe establecer estándares comunes.
Una crítica implícita de Zuckerberg apuntó a la llamada "automejora recursiva", donde modelos existentes entrenan a modelos más avanzados. "Destinar la gran mayoría de la capacidad de procesamiento a servir a las personas en lugar de apresurarse hacia la automejora recursiva es una de las mejores maneras de garantizar desarrollo seguro", escribió el ejecutivo de Meta.
El contexto político también influyó: Jensen Huang participó en una llamada con el presidente Donald Trump, quien ha desestimado los temores sobre seguridad de IA como un "engaño" y se comprometió a no permitir obstáculos para la construcción de centros de datos.
Estas divergencias reflejan un debate fundamental en la industria tecnológica global sobre cómo gobernar el desarrollo de inteligencia artificial: si mediante autorregulación y fuerzas de mercado, o mediante coordinación sectorial y posibles regulaciones.