Empresarios que piden bajar el ritmo, una Casa Blanca que no quiere perder la carrera con China, un bloque BRICS que apuesta a una IA “abierta” liderada por China y una ONU que intenta poner reglas comunes antes de que sea tarde. El estado de un debate sobre la Inteligencia Artificial que, por primera vez, tiene a los propios dueños de la tecnología pidiendo que alguien los frene, pero en modo “defensivo”.
El debate global sobre cómo regular la inteligencia artificial entró en una nueva fase. Ya no se discute si hace falta poner límites, sino qué tan rápido hay que hacerlo, quién debe liderar ese proceso y si es posible acordar reglas comunes en un mundo dividido entre Estados Unidos y China.
En las últimas semanas confluyeron tres escenarios que definen el tablero: la interna política en Washington, la respuesta de Beijing y su ofensiva diplomática en la cumbre BRICS de Nueva Delhi, y el intento de la ONU de tender un marco de gobernanza global.
El giro inédito: los propios CEOs piden frenar
El disparador fue un ensayo de 3.800 palabras publicado por Dario Amodei, CEO y cofundador de Anthropic, en el que planteó que “la industria de la IA debería ir más despacio” por razones de seguridad. Amodei propuso un plan en tres partes: evaluadores independientes dentro de las empresas de vanguardia, “coordinación democrática” con respaldo gubernamental y “coordinación global” entre países.
En sus principales preocupaciones ubicó la “auto-mejora recursiva” de los sistemas y el “desajuste de los agentes”, es decir, el riesgo de que la IA actúe de maneras no previstas por sus creadores.
El planteo, poco habitual entre competidores directos, sumó apoyos rápidos: Sam Altman (OpenAI) coincidió en que “necesitamos moderar el ritmo en la frontera de la IA” y anunció que su compañía también dará acceso a evaluadores externos; Elon Musk (xAI) lo resumió en tres palabras en X: “Dario tiene razón”.
El contexto que encendió las alarmas incluyó una carta firmada por más de 1.300 empleados de empresas del sector, entre ellas Anthropic, OpenAI y Google DeepMind, que reclama intervención gubernamental porque “hay un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes”.
A eso se sumó la renuncia de Jacob Coxon, investigador de Anthropic, quien acusó a su exempresa y a OpenAI de no actuar “de manera responsable” y advirtió que corren “directamente hacia una superinteligencia auto-mejorante” apostando con la vida de las personas.
Como trasfondo técnico, un modelo de prueba de OpenAI había logrado vulnerar la plataforma Hugging Face, lo que reavivó las dudas sobre ciberseguridad.
- Regulación, datos, poder y democracia: Aimé Aminahuel, politóloga y doctora en Política Pública con posdoctorado en IA aplicada, explica qué está en juego cuando el Estado les entrega información pública a empresas como Palantir sin licitación ni transparencia. “Lo llamemos capitalismo de plataforma o tecnofeudalismo, es un proyecto capitalista”, sostiene.
Washington: entre el “riesgo catastrófico” y la carrera contra China
En el Congreso estadounidense, legisladores demócratas presionaron para convocar una sesión de emergencia y legislar sobre el “riesgo catastrófico que plantea la inteligencia artificial avanzada”. El presidente de la Cámara de Representantes, el republicano Mike Johnson, rechazó el pedido: “Si el Congreso simplemente se apresura (…) perderemos la carrera frente a China, y eso es una amenaza para todos y cada uno de los estadounidenses”.
El expresidente Barack Obama, en un evento privado de recaudación de fondos, pidió a los demócratas hacer de la regulación de la IA un eje central de su agenda rumbo a 2028, y advirtió que la tecnología “puede ser peligrosa” si no se toma el control de la situación.
El líder demócrata Hakeem Jeffries respaldó el planteo y anticipó una “respuesta legislativa” si su bloque llega a la mayoría en noviembre.
Del otro lado, Donald Trump minimizó cualquier “amenaza existencial” y puso el foco en no perder terreno frente a Beijing: “Estamos por delante de China en inteligencia artificial. Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así”.
Kevin Hassett, asesor económico de la Casa Blanca, planteó que el verdadero riesgo es que un “actor malintencionado” acceda a una IA superior a la disponible para defenderse, y no descartó reuniones con el sector para abordar el planteo de Amodei.
Echoes of the Electric Eon por Botto, un “artista” creado por la Inteligencia Artificial.
China responde: “guerra fría silenciosa” y una IA “abierta” bajo su liderazgo
Beijing interpretó las declaraciones de Trump como parte de una estrategia para frenar su desarrollo tecnológico.
El diario oficialista Global Times acusó a la comunidad tecnológica estadounidense de aplicar un “manual de guerra fría” contra la IA china, con una “agenda oculta” que buscaría “estrangular” su avance a través de restricciones a la venta de chips avanzados. El medio calificó la situación de “hipócrita y miope” y habló de “monopolios regulatorios”.
El ministro de Seguridad del Estado, Chen Yixin, definió a la IA como un nuevo terreno de “rivalidad entre grandes potencias” y pidió construir una “barrera de seguridad” tecnológica, mientras el vocero de Cancillería, Guo Jiakun, llamó a evitar la difusión de “narrativas de amenaza” y a promover una IA “abierta, inclusiva, accesible para todos y orientada al bien”.
El trasfondo es una industria china en plena expansión, DeepSeek, Alibaba, Tencent, Zhipu, Moonshot, que compite con modelos abiertos y precios bajos pese a las restricciones estadounidenses sobre semiconductores.
BRICS: Xi Jinping ofrece una plataforma de IA para el Sur Global
En la cumbre de los BRICS en Nueva Delhi, el presidente chino Xi Jinping anunció una plataforma de inteligencia artificial de código abierto para los países del bloque, orientada a impulsar el desarrollo conjunto de grandes modelos de lenguaje y evitar que los países en desarrollo queden relegados frente a “unas pocas potencias tecnológicas”.
La propuesta se enmarcó en un paquete de cinco iniciativas de cooperación, comercio, industria digital, manufactura inteligente, formación de talento y una alianza de ingenieros BRICS.
Xi completó el mensaje con un reclamo político: acusó a las potencias de usar la “fuerza” como sustituto del derecho internacional (“un mundo sin reglas se parece a un cruce sin semáforos”) y llamó al bloque a impulsar una reforma de la ONU, la OMC y la arquitectura financiera internacional para dar mayor voz a los países en desarrollo.
La apuesta china es doble: posicionar a la IA como eje de la cooperación Sur-Sur y capitalizar el reclamo por un orden multilateral menos asimétrico.
La ONU busca un marco común
En paralelo, Naciones Unidas avanza, con menos ruido, pero de forma más institucional, en la construcción de una gobernanza global. El secretario general, António Guterres, sostiene que la acción de cada país es necesaria pero insuficiente: hace falta coordinación internacional.
Sobre esa base, la Asamblea General creó en agosto de 2025 dos mecanismos previstos en el Pacto Digital Global de 2024: un Panel Científico Internacional Independiente y un Diálogo Global anual sobre gobernanza de la IA. El primero aporta evidencia; el segundo es el espacio donde los países deciden qué hacer con ella.
El informe preliminar del Panel, del 1° de julio, celebra los avances en razonamiento, programación y ciencia, pero advierte sobre desinformación, discriminación, violaciones de privacidad, ciberataques y el riesgo de una “superinteligencia” difícil de controlar. Guterres considera insuficientes los compromisos voluntarios de las empresas si son aislados o no verificables, y propuso un Compromiso de Seguridad Infantil en la IA, un Fondo Global para apoyar a los países en desarrollo y una cumbre con los sectores público, privado, científico y la sociedad civil.
Además, pidió a las potencias tecnológicas, explícitamente a EE.UU. y China, abrir canales de contacto y compartir información para evitar “una carrera hacia el abismo”. La IA será uno de los ejes de la semana de alto nivel de la Asamblea General, con actividades previstas para el 21 y el 23 de septiembre, y no se descarta que el propio Consejo de Seguridad la incorpore a su agenda.
El cuadro completo (hasta el momento), de la Inteligencia Artificial
Lo que queda planteado es una tensión de fondo: mientras la propia industria, por primera vez de forma coordinada, pide bajar la velocidad, Washington y Beijing leen el debate en clave de disputa geopolítica más que de seguridad compartida, y organismos como la ONU intentan, con herramientas todavía limitadas, tender puentes entre ambas potencias antes de que la carrera tecnológica se vuelva irreversible.
El desenlace de ese pulso, entre la lógica de la competencia y la lógica de la cooperación, definirá qué tipo de reglas, si las hay, terminará teniendo la inteligencia artificial en los próximos años.
