UN Global Dialogue Co-Leads Issue Call to Action on Safe, Secure, and Trustworthy AI

/ UN Global Dialogue Co-Leads Issue Call to Action on Safe, Secure, and Trustworthy AI Rebecca Finlay of PAI and Minister Paula Bogantes Zamora of Costa Rica write to the Co-Chairs ahead of New York, May 2027 This past July, 170 countries came together in Geneva for the first UN Global Dialogue on AI Governance. Today, the Co-Leads of Cluster 3 on Safe, Secure, and Trustworthy AI — one from government, one from civil society — are laying out five steps to carry that momentum forward. Paula Bogantes Zamora, Minister of Science, Innovation, Technology and Telecommunications of Costa Rica, and PAI’s CEO, Rebecca Finlay, have written jointly to the Dialogue’s Co-Chairs ahead of UNGA. They propose the following steps before the Dialogue reconvenes in New York in 2027. - Align the evidence base with the deliberation, by mapping the Independent International Scientific Panel’s working groups against the Dialogue’s clusters. - Draft a common reference baseline, bringing existing commitments from international law, the Hiroshima Process, the EU AI Act, and the AI Summit pledges into a single point of reference that regions can adapt. - Institutionalize continuity between Dialogues, through a standing intersessional workstream that tracks implementation over time. - Fund participation so that Global Majority inclusion is substantive rather than nominal, with the Secretariat budgeting explicitly for it. - Pilot interoperability, through cross-border regulatory sandboxes under joint supervision, with results reported back in 2027. Geneva showed growing consensus across stakeholder groups on what we need to achieve. The next test is whether we can turn that consensus into action through a shared baseline and interoperability tested in practice. We look forward to working with the co-chairs and our partners as we work towards the next dialogue Read the letter below. H.E. Ms. Egriselda López Permanent Representative of El Salvador to the United Nations Co-Chair, Global Dialogue on AI Governance H.E. Mr. Rein Tammsaar Permanent Representative of Estonia to the United Nations Co-Chair, Global Dialogue on AI Governance cc: Independent International Scientific Panel on AI; Cluster Co-Leads Re: Cluster 3 Reflections and Proposed Steps Toward New York, May 2027 Excellencies, We write jointly, as Co-Leads of Cluster 3 on Safe, Secure, and Trustworthy AI, to express our gratitude for your stewardship of this inaugural Dialogue, and to offer reflections drawn from our session, including interventions from participants across government, industry, and civil society, together with written recommendations submitted during the discussion. It is a tremendous achievement to convene 170 countries, alongside industry, civil society, and academia, around a technology that is moving this quickly. Under your leadership, the Dialogue has created a truly global forum in which AI governance can be deliberated by all who will live with its consequences. Our responsibility now is to ensure that what began in Geneva arrives in New York with momentum. As Co-Leads, we were tasked with convening this cluster to build convergence on the infrastructure needed for global AI safety and interoperability, including identifying common baselines for frontier systems, common methods to verify them, and the shared resolve to hold systems to those standards. That mandate resolved, in practice, into a single question — one the cluster’s interventions kept returning to from every angle: how do shared evidence and direction become governance that actually connects across borders? Participants converged, with unusual consistency, on six priorities: - A stronger, independent scientific evidence base, with the Independent International Scientific Panel on AI connected to other independent scientific panels and AI Safety Institutes, and resourced to reflect the diversity of languages and contexts it serves. - Accountability built on shared assurance: disclosure across the AI value chain, expanded independent evaluation, and interoperable benchmarks, standards, and incident-reporting mechanisms so that one jurisdiction’s lessons have the potential to prevent another’s harms. - Interoperable governance built on existing foundations — an inclusive shared baseline of good practice, common taxonomies, and practical tools such as joint evaluations and regulatory sandboxes — rather than a single regulatory model. - Governance shaped by all regions as equal partners, and backed by the resources, including funding and technical support, that equal participation requires. - Oversight that evolves with the technology, including clearly assigned, rights-protecting responsibility as AI systems gain autonomy. - Continuity between Dialogues, so recommendations are tracked, implemented, and built upon rather than rediscussed at each convening. We believe five steps are within reach before the Dialogue reconvenes in New York in May 2027, and we respectfully submit them for your consideration, including through reference in the Co-Chairs’ report, which we see as the natural vehicle for turning convergence into a mandate for the intersessional period. - Align the Independent International Scientific Panel on AI and the Dialogue. Convene a working session between the Panel and the cluster co-leads to map the Panel’s seven working groups against the Dialogue’s four clusters, reporting back well ahead of 2027. - Draft a common reference baseline. Commission a small drafting group of the co-leads, with Global Majority and civil society representation from the outset, to map existing commitments (international law, the Hiroshima Process, the EU AI Act, and the pledges of the AI Summits, among others) into a single reference baseline of good practice, adaptable to national and regional context, for your consideration ahead of the 2027 Dialogue. - Institutionalize continuity between Dialogues. Establish a standing intersessional workstream, reporting to the Co-Chairs, to track implementation of this Dialogue’s recommendations. As one contribution, Partnership on AI (PAI) offers its in-development Global AI Progress Hub, a public record of progress on responsible AI practices, including the AI Summit Commitments, as a possible input to this work, without any expectation of endorsement. - Fund participation to support Global Majority inclusion. Request the Secretariat to budget explicitly for travel and participation to sustain engagement by lower-capacity governments, researchers, and civil society, and to report on the engagement achieved. - Pilot interoperability. Invite interested member states, or work through partner organizations such as the OECD, to pilot one or two cross-border regulatory sandboxes under joint supervision, with results shared back to the Dialogue in 2027. The Government of Costa Rica and PAI would be honored to co-convene this work as a continuation of the cluster. The convergence our cluster witnessed in Geneva suggests the field is ready for its next step toward governance that is measured by evidence, built by all regions as equal partners, and capable of evolving as the technology does. Each Dialogue gives us a rare chance to measure where the field actually stands against a shared baseline, and to be honest about what is still missing. Closing the gap between innovation and accountability starts by asking different questions than the ones currently driving the field: not how fast a system can be deployed, but who it serves and who answers when it fails; not how powerful a system is, but how verifiable its safety is, and against what evidence. We hope the New York Dialogue, building on Geneva, will mark real progress on these questions. We are grateful for your leadership, and we stand ready to support you, the Independent International Scientific Panel on AI, and our fellow cluster leads in carrying this work forward. Please accept, Excellencies, the assurances of our highest consideration. Minister Paula Bogantes Zamora Ministry of Science, Innovation, Technology and Telecommunications, Costa Rica Co-Lead, Cluster 3 Rebecca Finlay Chief Executive Officer, Partnership on AI Co-Lead, Cluster 3 Excma. Sra. Egriselda López Representante Permanente de El Salvador ante las Naciones Unidas Copresidenta, Diálogo Mundial sobre la Gobernanza de la IA Excmo. Sr. Rein Tammsaar Representante Permanente de Estonia ante las Naciones Unidas Copresidente, Diálogo Mundial sobre la Gobernanza de la IA cc: Panel Científico Internacional Independiente sobre la IA; Colíderes de los Grupos Temáticos Ref.: Reflexiones del Grupo Temático 3 y pasos propuestos con vistas a Nueva York, mayo de 2027 Excelencias: Les escribimos de manera conjunta, en nuestra calidad de Colíderes del Grupo Temático 3 sobre una IA segura, protegida y confiable, para expresarles nuestro agradecimiento por la conducción de este Diálogo inaugural y para compartir las reflexiones surgidas de nuestra sesión, incluidas las intervenciones de participantes provenientes del sector público, la industria y la sociedad civil, junto con las recomendaciones escritas presentadas durante la discusión. Es un logro enorme convocar a 170 países, junto con la industria, la sociedad civil y la academia, en torno a una tecnología que avanza a esta velocidad. Bajo su liderazgo, el Diálogo ha creado un foro verdaderamente global en el que la gobernanza de la IA puede deliberarse entre todas las personas que vivirán sus consecuencias. Nuestra responsabilidad ahora es asegurar que lo que empezó en Ginebra llegue a Nueva York con impulso. Como Colíderes, se nos encomendó convocar este grupo temático para construir convergencia sobre la infraestructura necesaria para la seguridad y la interoperabilidad globales de la IA, lo que incluye identificar líneas base comunes para los sistemas de frontera, métodos comunes para verificarlos y la voluntad compartida de exigir que los sistemas cumplan esos estándares. Ese mandato se resolvió, en la práctica, en una sola pregunta —a la que las intervenciones del grupo volvieron desde todos los ángulos—: ¿cómo se convierten la evidencia y la orientación compartidas en una gobernanza que realmente conecte a través de las fronteras? Las personas participantes convergieron, con una consistencia poco común, en seis prioridades: - Una base de evidencia científica más sólida e independiente, con el Panel Científico Internacional Independiente sobre la IA vinculado a otros paneles científicos independientes y a los Institutos de Seguridad de la IA, y dotado de los recursos necesarios para reflejar la diversidad de idiomas y contextos a los que sirve. - Una rendición de cuentas construida sobre garantías compartidas: divulgación a lo largo de la cadena de valor de la IA, evaluación independiente ampliada y puntos de referencia, estándares y mecanismos de notificación de incidentes interoperables, de modo que las lecciones de una jurisdicción tengan el potencial de prevenir los daños de otra. - Una gobernanza interoperable construida sobre las bases existentes —una línea base compartida e inclusiva de buenas prácticas, taxonomías comunes y herramientas prácticas como las evaluaciones conjuntas y los entornos de pruebas regulatorios (sandboxes)— en lugar de un único modelo regulatorio. - Una gobernanza definida por todas las regiones como socias en igualdad de condiciones, y respaldada por los recursos, incluidos el financiamiento y el apoyo técnico, que exige una participación en igualdad. - Una supervisión que evolucione junto con la tecnología, incluida la asignación clara de responsabilidades protectoras de derechos a medida que los sistemas de IA ganan autonomía. - Continuidad entre Diálogos, para que se dé seguimiento a las recomendaciones, se implementen y se construya sobre ellas, en lugar de volverse a discutir en cada convocatoria. Consideramos que hay cinco pasos alcanzables antes de que el Diálogo vuelva a reunirse en Nueva York en mayo de 2027, y los sometemos respetuosamente a su consideración, incluso mediante su mención en el informe de las Copresidencias, que vemos como el vehículo natural para transformar la convergencia en un mandato para el periodo entre sesiones. - Alinear el Panel Científico Internacional Independiente sobre la IA con el Diálogo. Convocar una sesión de trabajo entre el Panel y los colíderes de los grupos temáticos para correlacionar los siete grupos de trabajo del Panel con los cuatro grupos temáticos del Diálogo, con un informe de resultados bastante antes de 2027. - Redactar una línea base común de referencia. Encomendar a un pequeño grupo de redacción integrado por los colíderes, con representación de la Mayoría Global y de la sociedad civil desde el inicio, la tarea de correlacionar los compromisos existentes (el derecho internacional, el Proceso de Hiroshima, el Reglamento de IA de la Unión Europea y los compromisos de las Cumbres de IA, entre otros) en una sola línea base de referencia de buenas prácticas, adaptable al contexto nacional y regional, para su consideración antes del Diálogo de 2027. - Institucionalizar la continuidad entre Diálogos. Establecer una línea de trabajo permanente entre sesiones, que rinda cuentas a las Copresidencias, para dar seguimiento a la implementación de las recomendaciones de este Diálogo. Como una contribución, Partnership on AI ofrece su Global AI Progress Hub, un registro público de los avances en prácticas responsables de IA, incluidos los Compromisos de las Cumbres de IA, actualmente en desarrollo, como posible insumo para este trabajo, sin ninguna expectativa de respaldo. - Financiar la participación para apoyar la inclusión de la Mayoría Global. Solicitar a la Secretaría que presupueste de manera explícita los viajes y la participación, a fin de sostener el involucramiento de los gobiernos, las personas investigadoras y la sociedad civil con menor capacidad, y que informe sobre la participación lograda. - Poner a prueba la interoperabilidad. Invitar a los Estados miembros interesados, o trabajar por medio de organizaciones socias como la OCDE, para poner a prueba uno o dos entornos de pruebas regulatorios transfronterizos bajo supervisión conjunta, con resultados que se compartan de vuelta con el Diálogo en 2027. El Gobierno de Costa Rica y Partnership on AI se sentirían honrados de convocar conjuntamente este trabajo como continuación del grupo temático. La convergencia que nuestro grupo temático presenció en Ginebra sugiere que el campo está listo para su siguiente paso hacia una gobernanza que se mida con evidencia, que se construya con todas las regiones como socias en igualdad de condiciones y que sea capaz de evolucionar al ritmo de la tecnología. Cada Diálogo nos da una oportunidad poco frecuente de medir dónde se encuentra realmente el campo frente a una línea base compartida, y de ser honestos sobre lo que aún falta. Cerrar la brecha entre la innovación y la rendición de cuentas empieza por hacer preguntas distintas a las que hoy impulsan el campo: no qué tan rápido puede desplegarse un sistema, sino a quién sirve y quién responde cuando falla; no qué tan poderoso es un sistema, sino qué tan verificable es su seguridad, y con base en cuál evidencia. Esperamos que el Diálogo de Nueva York, sobre la base de Ginebra, marque un progreso real en estas preguntas. Les agradecemos su liderazgo y quedamos a su disposición para apoyarles, así como al Panel Científico Internacional Independiente sobre la IA y a nuestros colegas líderes de los demás grupos temáticos, en llevar adelante este trabajo. Aprovechamos la ocasión para reiterarles, Excelencias, el testimonio de nuestra más alta consideración. Ministra Paula Bogantes Zamora Ministerio de Ciencia, Innovación, Tecnología y Telecomunicaciones, Costa Rica Colíder, Grupo Temático 3 Rebecca Finlay Directora Ejecutiva, Partnership on AI Colíder, Grupo Temático 3