En la cumbre de Washington, los presidentes Donald Trump y Xi Jinping acordaron abrir un mecanismo de diálogo para incidentes relacionados con la IA. Especialistas señalan que el sistema busca evitar decisiones militares autónomas o basadas en información errónea.
Los presidentes de Estados Unidos, Donald Trump, y de China, Xi Jinping, acordaron en la cumbre de esta semana en Washington abrir un “canal de comunicación” para incidentes relacionados con la inteligencia artificial (IA). Así lo informaron fuentes oficiales de ambas delegaciones.
La medida responde a la preocupación por el potencial destructivo de la IA, que podría actuar de forma imprevista o acelerar sin control la toma de decisiones militares, según coincidieron los mandatarios.
“Por ambas partes se observa una toma de conciencia de que existe la posibilidad de incidentes y usos indebidos en detrimento de los intereses de los dos países”, declaró Jean-Marc Rickli, director de Riesgos Globales y Emergentes del Centro de Política de Ginebra.
Rickli recordó que “el ‘teléfono rojo’ se estableció a raíz de la crisis de Cuba” de 1962, en referencia al sistema de comunicación directa entre Estados Unidos y Rusia durante la Guerra Fría para evitar incidentes militares graves.
El experto mencionó un incidente reciente en el que, según la cadena CNN, Estados Unidos estuvo a punto de abordar un buque chino basándose en información falsa elaborada con inteligencia artificial.
Desde 2023 existe un diálogo bilateral entre expertos y centros de investigación, sin intervención gubernamental, sobre los modelos de IA más avanzados de compañías como OpenAI, Anthropic, DeepSeek o Alibaba.
Según Mathilde Viellet, investigadora del Instituto Francés de Relaciones Internacionales (Ifri), ese diálogo ha puesto de relieve que las prioridades de las dos potencias son distintas. Mientras China lleva años preocupada por la seguridad o la lucha contra los ‘deepfakes’, Estados Unidos “se preocupa sobre todo por la pérdida de control y la ‘desalineación’ de la IA, cuando actúa de forma autónoma”, explicó.
Estados Unidos apuesta por modelos de IA cerrados y de propiedad privada para preservar su ventaja comercial, mientras que China opta por el código abierto para acelerar los avances tecnológicos.
Jean-Marc Rickli sostuvo que tendría sentido crear un sistema de comunicación entre China y Estados Unidos en caso de una decisión militar en la que la IA tome decisiones demasiado rápidas o basadas en información errónea.
Mathilde Viellet abogó por un ‘teléfono rojo’ que sirva en caso de pérdida de control de la IA y para evitar su utilización por parte de actores maliciosos. Este mes, Anthropic reveló cinco casos de utilización de su modelo de IA Claude de una forma “que podría servir para el desarrollo de armas biológicas”.
El investigador Matt Sheehan afirmó que, aunque llegue a establecerse “cierta coordinación flexible”, “las medidas más importantes en materia de seguridad de la IA serán las que adopte cada país”.