El 16 de septiembre, el secretario general de las Naciones Unidas, António Guterres, instó a la comunidad internacional a coordinar esfuerzos para establecer mecanismos de supervisión de la IA, en línea con los llamamientos de líderes de la industria tecnológica estadounidense para frenar su desarrollo antes de que supere la capacidad humana de control.
Un ritmo de desarrollo alarmante
El director ejecutivo de Anthropic, Dario Amodei, advirtió el 12 de septiembre que el ritmo actual del desarrollo tecnológico podría permitir a la IA llevar a cabo acciones peligrosas. Por ello, instó a ralentizar el desarrollo de las capacidades de los sistemas de IA y a priorizar las medidas de seguridad. Esta postura ha recibido el respaldo público de Sam Altman, director ejecutivo de OpenAI, y Elon Musk, director ejecutivo de xAI, así como de diversos expertos.
El debate ha pasado de los supuestos teóricos a convertirse en una cuestión de creciente urgencia geopolítica. Desde finales de 2025, los ciberataques impulsados por agentes autónomos de IA se han vuelto más complejos. Entre los casos destacados figura la vulneración masiva de la base de datos de Hugging Face en julio de 2026, que, según los informes citados, fue ejecutada de forma autónoma a una velocidad que habría resultado inalcanzable para piratas informáticos humanos.
Brad Carson, presidente de la organización Estadounidenses por una Innovación Responsable (ARI, por sus siglas en inglés), señaló: “Todo avanza a un ritmo tan acelerado que los propios investigadores empiezan a sentir temor ante la IA. Es lo que hemos visto en las últimas dos o tres semanas. Son los propios trabajadores de estas empresas quienes están dando la voz de alarma. La advertencia surge desde el seno de la propia industria y señala que lo que están creando podría tener consecuencias catastróficas. Por ello, debemos tomar muy en serio sus opiniones”.
A la aceleración tecnológica se suma la falta de supervisión sobre las corporaciones del sector, inmersas en una competencia multimillonaria por liderar el desarrollo de los modelos de frontera. Sobre este aspecto, Marta Ziosi, subdirectora del Instituto Ada Lovelace, del Reino Unido, señaló: “Lo que me preocupa actualmente, y que quizá se refleja en la inquietud por un eventual riesgo existencial para la humanidad, es que las empresas ostentan un poder desmesurado sin estar sometidas a una verdadera supervisión ni contar con mecanismos efectivos de control sobre sus operaciones. Considero que esto crea una ‘tormenta perfecta’, y ese es el verdadero motivo de alarma”.
Matices geopolíticos
La necesidad de establecer una gobernanza multilateral vinculante choca con los intereses estratégicos de las principales potencias. Mientras las autoridades estadounidenses, incluido el presidente Donald Trump, rechazan pausar los avances en este ámbito para priorizar el liderazgo tecnológico nacional, China analiza las propuestas con escepticismo y sugiere que la retórica apocalíptica de algunas empresas tecnológicas estadounidenses podría responder a una estrategia destinada a promover regulaciones favorables a sus intereses y limitar a sus competidores internacionales.
Ante este choque de posturas, Stuart Russell, presidente de la Asociación Internacional para una IA Segura y Ética y académico de la Universidad de California en Berkeley, sostiene que los riesgos de la IA no conocen fronteras y cuestiona la premisa de que una IA sea intrínsecamente mejor en función de su país de origen.
“Desde el punto de vista regulatorio, si nos preocupa el riesgo de extinción provocado por los sistemas de IA, esta amenaza puede surgir en cualquier lugar. Resulta evidente que no se limita a las fronteras nacionales; por consiguiente, necesitamos acuerdos internacionales que garanticen que todos los países establezcan los mecanismos de control indispensables para evitar que dicho escenario se concrete”, dijo Rusell.
La pregunta es: ¿cómo debería diseñarse ese marco jurídico y qué instituciones deberían encargarse de establecerlo? Al fin y al cabo, los acontecimientos de 2025 y principios de 2026 han demostrado que la cuestión ya no es si la IA reconfigurará el orden mundial, sino a qué velocidad lo hará y quién establecerá las normas.
La competencia tecnológica ya no puede analizarse al margen del contexto más amplio de la rivalidad geopolítica entre las grandes potencias, ya que cada una considera que el dominio de la IA es fundamental para su seguridad nacional y su futura supremacía económica.
