La gobernanza internacional de la inteligencia artificial (IA) reúne a gobiernos, organizaciones internacionales, empresas, academia y sociedad civil para definir reglas, normas y mecanismos que orienten el desarrollo y uso de estas tecnologías. Los debates combinan cuestiones técnicas, éticas, económicas, de seguridad y geopolíticas. A continuación se presentan los temas centrales, ejemplos concretos y mecanismos que se proponen o aplican en distintos foros.
Amenazas para la seguridad y la integridad
La preocupación por la seguridad incluye fallos accidentales, usos maliciosos y consecuencias estratégicas a gran escala. Entre los puntos clave están:
- Riesgos sistémicos: posibilidad de que modelos muy potentes actúen de forma imprevisible o escapen a controles, afectando infraestructuras críticas.
- Uso dual y militarización: aplicación de IA en armas, vigilancia y ciberataques. En foros de la ONU y del Convenio sobre Ciertas Armas Convencionales se discute cómo regular o prohibir sistemas de armas completamente autónomas.
- Reducción del riesgo por diseño: prácticas como pruebas adversarias, auditorías de seguridad, y exigencia de evaluaciones de riesgo antes del despliegue.
Ejemplo: en el escenario multilateral se debate la formulación de reglas obligatorias relacionadas con SALA (sistemas de armas letales autónomas) y la implementación de mecanismos de verificación destinados a impedir su proliferación.
Derechos humanos, privacidad y vigilancia
La IA plantea retos para derechos civiles y libertades públicas:
- Reconocimiento facial y vigilancia masiva: riesgo de erosión de la privacidad y discriminación. Varios países y la Unión Europea estudian restricciones o moratorias para usos masivos.
- Protección de datos: gobernanza del uso de grandes volúmenes de datos para entrenar modelos, consentimiento, minimización y anonimización.
- Libertad de expresión e información: moderación automatizada, generación de desinformación y deepfakes que afectan procesos democráticos.
Caso: la proliferación de campañas de desinformación impulsadas por la generación automática de contenido ha desencadenado discusiones en foros electorales y ha motivado propuestas que buscan imponer obligaciones de transparencia respecto al empleo de sistemas generativos dentro de las campañas.
Promoción de la igualdad, rechazo a la discriminación e impulso de la inclusión
Los modelos pueden reproducir o amplificar sesgos existentes si los datos de entrenamiento no son representativos:
- Discriminación algorítmica: evaluaciones independientes, métricas de equidad y mecanismos de reparación.
- Acceso y desigualdad global: riesgo de concentración de capacidad tecnológica en pocos países o empresas; necesidad de transferencia de tecnología y cooperación para capacidades locales.
Dato y ejemplo: diversas investigaciones han evidenciado que los modelos formados con información sesgada ofrecen un rendimiento inferior para los colectivos menos representados; por esta razón, crece la demanda de iniciativas como las evaluaciones de impacto social y los requisitos de pruebas públicas.
Transparencia, explicabilidad y trazabilidad
Los reguladores analizan cómo asegurar que los sistemas avanzados resulten entendibles y susceptibles de auditoría:
- Obligaciones de transparencia: comunicar cuando una resolución automatizada impacta a una persona, divulgar documentación técnica (fichas del modelo, fuentes de datos) y ofrecer vías de reclamación.
- Explicabilidad: proporcionar niveles adecuados de detalle técnico adaptados a distintos tipos de audiencia (usuario final, autoridad reguladora, instancia judicial).
- Trazabilidad y registro: conservar registros de entrenamiento y operación que permitan realizar auditorías en el futuro.
la propuesta legislativa de la Unión Europea organiza los sistemas por niveles de riesgo y requiere que se entregue documentación exhaustiva para aquellos que se catalogan como de alto riesgo
Cumplimiento y responsabilidad legal
La asignación de responsabilidades ante daños generados por IA es un tema central:
- Regímenes de responsabilidad: debate entre responsabilidad del desarrollador, del proveedor, del integrador o del usuario final.
- Certificación y conformidad: modelos de certificación previa, auditorías independientes y sanciones por incumplimiento.
- Reparación a las víctimas: mecanismos rápidos para compensación y remediación.
Datos normativos: la propuesta de la UE contempla sanciones proporcionales a la gravedad, que incluyen multas significativas para incumplimientos en sistemas de alto riesgo.
Derechos de propiedad intelectual y disponibilidad de datos
El uso de contenidos para entrenar modelos ha generado tensiones entre creación, copia y aprendizaje automático:
- Derechos de autor y recopilación de datos: litigios y solicitudes de claridad sobre si el entrenamiento constituye uso legítimo o requiere licencia.
- Modelos y datos como bienes estratégicos: debates sobre si imponer licencias obligatorias, compartir modelos en repositorios públicos o restringir exportaciones.
Caso: varios litigios recientes en distintos países cuestionan la legalidad de entrenar modelos con contenidos protegidos, impulsando reformas legales y acuerdos entre sectores.
Economía, empleo y competencia
La IA es capaz de remodelar mercados, empleos y la organización empresarial:
- Sustitución y creación de empleo: diversas investigaciones revelan impactos mixtos: ciertas labores se automatizan mientras otras reciben apoyo tecnológico, por lo que resultan esenciales las políticas activas de capacitación.
- Concentración de mercado: existe la posibilidad de que surjan monopolios debido al dominio de datos y de modelos centrales, lo que impulsa el debate sobre competencia e interoperabilidad.
- Impuestos y redistribución: se analizan esquemas de tributación sobre ganancias ligadas a la automatización, así como mecanismos para sostener la protección social y los programas de recualificación. Sustentabilidad del entorno
- Huella de carbono: entrenamiento de modelos muy grandes puede consumir energía significativa; indicadores y límites son discutidos.
- Optimización y transparencia energética: etiquetas de eficiencia, reporte de consumo y migración a infraestructuras con energía renovable.
- Marco de normalización: elaboración de estándares técnicos internacionales que abordan la solidez, las interfaces y los formatos de datos.
- Interoperabilidad: asegurar que distintos sistemas puedan colaborar manteniendo niveles adecuados de seguridad y privacidad.
- Rol de organismos internacionales: OCDE, UNESCO, ONU, ISO y diversos foros regionales intervienen en la coordinación y armonización regulatoria.
- Inspecciones y auditorías internacionales: propuestas para observatorios multilaterales que supervisen cumplimiento y compartan información técnica.
- Mecanismos de cooperación técnica: asistencia para países con menos capacidad técnica, intercambio de mejores prácticas y fondos para fortalecer gobernanza.
- Sanciones y medidas comerciales: discusión sobre controles a la exportación de tecnologías sensibles y medidas diplomáticas ante incumplimientos.
- Regulación vinculante: normas nacionales o regionales que establecen deberes y contemplan sanciones (por ejemplo, una propuesta legislativa dentro de la Unión Europea).
- Autorregulación y códigos de conducta: lineamientos promovidos por empresas o asociaciones que suelen ofrecer mayor rapidez, aunque con requisitos menos estrictos.
- Herramientas de cumplimiento: análisis de impacto, auditorías externas, sellos de conformidad y espacios regulatorios de prueba destinados a evaluar nuevas políticas.
- Procesos participativos: consultas públicas, comités de ética y representación de comunidades afectadas.
- Educación y alfabetización digital: para que la ciudadanía entienda riesgos y participe en decisiones.
- Competencia tecnológica: estrategias de inversión, apoyos estatales y pactos que podrían originar ecosistemas tecnológicos separados.
- Normas divergentes: marcos regulatorios distintos (desde posturas más estrictas hasta otras más flexibles) influyen en el comercio y en la colaboración global.
- Principios de la OCDE: directrices destinadas a promover el uso responsable y fiable de la IA.
- Recomendación de la UNESCO: marco ético concebido para orientar la formulación de políticas nacionales.
- Propuestas regionales: la Unión Europea desarrolla un reglamento basado en la gestión del riesgo y en exigencias de transparencia y seguridad.
El impacto energético y material de entrenar y operar modelos es objeto de regulación y buenas prácticas:
Estudio relevante: diversos análisis han puesto de manifiesto que entrenar modelos de lenguaje de manera intensiva puede llegar a producir emisiones comparables a decenas o incluso cientos de toneladas de CO2 cuando el proceso no se optimiza adecuadamente.
Regulaciones técnicas, estándares y procesos de interoperabilidad
La adopción de estándares promueve mayor seguridad, confianza y dinamiza el comercio:
Ejemplo: la OCDE formuló principios para la IA que han servido como referencia para muchas políticas públicas.
Verificación, cumplimiento y mecanismos multilaterales
Sin mecanismos de verificación creíbles, las reglas quedan en papel:
Caso: restricciones en el comercio de semiconductores demuestran cómo la tecnología de IA puede convertirse en materia de política comercial y seguridad.
Instrumentos normativos y recursos aplicados
Las respuestas normativas pueden adoptar formatos rígidos o enfoques más adaptables:
Participación ciudadana y gobernanza democrática
La legitimidad de las reglas depende de la inclusión:
Ejemplo: iniciativas de consulta ciudadana en varios países han influido en requisitos de transparencia y límites al uso de reconocimiento facial.
Sobresalientes tensiones geopolíticas
La búsqueda por liderar la IA conlleva riesgos de fragmentación:
Resultado: la gobernanza global intenta conciliar la armonización regulatoria con la autonomía tecnológica.
Iniciativas y menciones multilaterales
Existen diversas iniciativas que actúan como punto de referencia:
Estas iniciativas reflejan cómo se entrelazan directrices no obligatorias con propuestas legislativas específicas que progresan a distintos ritmos.
La gobernanza internacional de la IA es un entramado dinámico que debe integrar exigencias técnicas, valores democráticos y realidades geopolíticas. Las soluciones efectivas requieren marcos normativos claros, capacidades de verificación creíbles y mecanismos
