El presidente de Estados Unidos, Donald Trump, anunció un acuerdo con Google, OpenAI, Anthropic, Meta, Nvidia y X para que las empresas refuercen los controles y auditorías de sus modelos de inteligencia artificial, sin regulación estatal.
El presidente de Estados Unidos, Donald Trump, anunció este martes un compromiso de las principales empresas tecnológicas estadounidenses para reforzar los controles y auditorías de sus modelos de inteligencia artificial (IA), sin una regulación estatal. El acuerdo fue firmado tras un encuentro en la Casa Blanca.
Los firmantes del documento son Donald Trump, presidente de Estados Unidos; Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Jensen Huang, de Nvidia; Greg Brockman, de OpenAI; y Elon Musk, de X.
Trump sostuvo que este enfoque permite equilibrar las preocupaciones sobre la seguridad de la tecnología con su objetivo de acelerar el desarrollo de lo que denominó «superinteligencia». Tras el almuerzo, Trump declaró a la prensa: «Veo una gran autorregulación, y ellos entienden que deben autorregularse». Y agregó: «Estos modelos son muy complejos y, repito, creo que se utilizarán para el bien».
El acuerdo se produce tras dos meses de debate en la industria de la IA por una serie de incidentes cibernéticos y advertencias del sector. Entre ellos, el «hackeo» a la empresa Hugging Face, las advertencias del exinvestigador de Anthropic Jacob Coxon y la vulneración de sitios web del gobierno australiano.
Trump se había mostrado en contra de la regulación semanas atrás y, con la competencia con China en el horizonte, había asegurado que «quien gana la IA, gana».
Qué establece el acuerdo sobre la IA
Además de los firmantes, al encuentro en la Casa Blanca fueron invitados Will Scharf; Shyam Sankar (Palantir); Chamath Palihapitiya (Social Capital); Susie Wiles; Greg Brockman (OpenAI); Secretary Lutnick; Satya Nadella (Microsoft); Jeff Bezos (Amazon); Speaker Johnson; David Sacks (Craft Ventures); Lisa Su (AMD); Scott Bessent; Alex Karp (Palantir); Andrew Ferguson; Michael Kratsios; Tom Brown (Anthropic); Scott Kupor; Brandon Rahbar Daniels (Exiger); Dario Amodei (Anthropic); Hock Tan (Broadcom); Richard Walters; Brad Gerstner (Altimeter); Mark Zuckerberg (Meta); Jensen Huang (Nvidia); Elon Musk (X, Tesla, SpaceX); Sundar Pichai (Google); Jack Clayton; Sanjay Mehrotra (Micron); Jared Isaacman (NASA); Bill McDermott (ServiceNow); Nikesh Arora (Palo Alto Networks); Sean Cairncross.
El acuerdo establece cuatro niveles de controles y auditorías para las empresas que desarrollan y despliegan modelos de frontera. Las compañías se comprometieron a:
- Implementar controles internos para monitorear las capacidades y la alineación de sus modelos durante el entrenamiento y el despliegue, especialmente en áreas como ciberseguridad, bioseguridad y amenazas químicas, y evitar que los modelos accedan a sistemas técnicos de formas no deseadas.
- Empoderar a un equipo interno para garantizar que los controles, sistemas de monitoreo y mecanismos de detección funcionen según lo previsto y que cualquier problema sea solucionado.
- Trabajar con un auditor o evaluador externo independiente para analizar el funcionamiento de los controles, los sistemas de monitoreo y los mecanismos de detección.
- Designar un comité independiente del directorio para supervisar y recibir informes de los equipos internos y de los auditores y evaluadores externos, además de garantizar que los problemas identificados sean solucionados.
El documento sostiene que estas medidas buscan generar confianza en el funcionamiento de la tecnología. Las empresas participantes también acordaron reunirse periódicamente para establecer estándares y buenas prácticas destinadas a mejorar la seguridad de sus sistemas.
«Con el tiempo, podría tener sentido convertir estas medidas en leyes o regulaciones. Independientemente de que esto sea necesario para las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos, y cada una de nuestras empresas está comprometida a hacerlo», señala el comunicado.
Trump rechazó una regulación global de la IA
El compromiso se produce mientras la administración Trump mantiene diferencias con los pedidos de una mayor regulación de la inteligencia artificial, incluidos los planteos de figuras de la propia industria. Dario Amodei, CEO de Anthropic, reclamó que los desarrolladores reduzcan el ritmo de avance y pidió «avanzar a un ritmo controlado en la frontera».
Trump, en cambio, rechazó los llamados a establecer una regulación supranacional. La semana pasada, durante la Asamblea General de las Naciones Unidas, sostuvo que su administración se opondría a «cualquier intento de construir un plan globalista para controlar» la IA.
En ese contexto, veinte países y la Unión Europea habían llamado la semana pasada a una mayor coordinación mundial para garantizar que la IA permanezca bajo control humano, incluida la posibilidad de crear un organismo de supervisión encargado de establecer y hacer cumplir normas.
La preocupación por la seguridad de los modelos
El debate se intensificó en los últimos meses a partir de distintos incidentes vinculados con los modelos de inteligencia artificial.
El lunes, OpenAI anunció que no lanzaría su último modelo de IA después de identificar riesgos de seguridad durante las pruebas internas. La compañía también se disculpó públicamente por una serie de incidentes en los que sus agentes de IA obtuvieron acceso no autorizado a sitios web del gobierno australiano, incluida una base de datos nacional de atención médica.
Según el material difundido sobre el episodio, el modelo intentó acceder en junio de 2026 a un portal de estadísticas de salud de Australia durante ejercicios de entrenamiento destinados a evaluar su desempeño. La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que se le había pedido al modelo que buscara en internet datos sobre cuánto gastaba el gobierno australiano en medicamentos.
El ministro de Defensa, Richard Marles, describió el comportamiento del modelo como un intento de superar las restricciones establecidas. «Saltó la cerca», afirmó. «Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca».
OpenAI no informó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que, según Canberra, solo se revisa «una vez al día».
Sobre los debates actuales, el director del Instituto de IA de la UNSW en Sídney, Toby Walsh, cuestionó la capacidad de las empresas para supervisarse a sí mismas: «¿Qué otra industria multimillonaria se toma la palabra para hacer sus propios deberes?», declaró a Al Jazeera.
«Es demasiado tentador escatimar en gastos», dijo Walsh, y agregó que los altos ejecutivos deberían ser responsables de los daños causados por sus productos. «Deberíamos cobrarles por todo el tiempo que dedican a identificar y solucionar estos ciberataques», concluyó.