China y EE. UU. buscan reglas para contener los riesgos de la IA

La inteligencia artificial se convertirá en uno de los temas centrales de la reunión que Donald Trump y Xi Jinping tienen prevista este jueves en la Casa Blanca, en un contexto marcado por la competencia tecnológica entre Estados Unidos y China y por la preocupación sobre los riesgos asociados con los modelos más avanzados. Washington mantiene una ventaja en áreas clave, mientras Pekín busca reducir la brecha pese a las restricciones estadounidenses sobre el acceso a chips avanzados.

Uno de los asuntos pendientes es la propuesta de Estados Unidos para establecer un mecanismo de notificación de incidentes relacionados con IA. Durante conversaciones celebradas el domingo en Nueva York, representantes de ambos gobiernos abordaron la tecnología y acordaron mantener el contacto, aunque China todavía no ha confirmado su respaldo al mecanismo. De concretarse, permitiría comunicar fallos o incidentes graves y reducir el riesgo de que una situación tecnológica sea interpretada como una acción deliberada.

Seguridad frente al avance tecnológico

La discusión adquiere relevancia ante pruebas recientes en las que modelos desarrollados por Anthropic, OpenAI y Google habrían mostrado comportamientos que escaparon de los entornos controlados. La posibilidad de que sistemas avanzados puedan ejecutar acciones no previstas, incluidos ciberataques, ha llevado a responsables de algunas de las principales compañías del sector a plantear la necesidad de reforzar las salvaguardas.

Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han planteado públicamente la necesidad de que las medidas de seguridad avancen al mismo ritmo que la tecnología. Entre las propuestas discutidas figura establecer estándares comunes, mecanismos de coordinación empresarial y límites ante determinados desarrollos de riesgo, además de proteger las cadenas de suministro de semiconductores. Trump, por su parte, anunció la creación de una 'Fuerza de IA' y el nombramiento de un 'zar' para combatir "las malas prácticas".

China y EE. UU. compiten por la supremacía tecnológica

El desacuerdo central está relacionado con el equilibrio entre seguridad y supremacía tecnológica. Pekín cuestiona que una eventual pausa internacional en el desarrollo de la IA pueda consolidar la ventaja estadounidense en capacidad de cálculo y algoritmos. Xinhua calificó una medida de ese tipo como "injusta y poco realista" mientras Washington conserve su posición tecnológica.

Ambos países habían acordado en mayo establecer un canal intergubernamental sobre inteligencia artificial, aunque su avance ha sido limitado. Para Jing Qian, vicepresidente de Asia Society y director gerente de su Centro para el Análisis de China, la cooperación puede apoyarse en mecanismos concretos de previsibilidad pese a la ausencia de confianza estratégica. La visita de Xi permitirá determinar si Pekín acepta avanzar hacia un sistema bilateral de notificación de incidentes, mientras figuras como Sam Altman, Jensen Huang y Tim Cook tienen previsto participar en una cena de Estado en la Casa Blanca.