CETS 225: El primer tratado global que somete la inteligencia artificial a la innovación responsable

¿Qué es el CETS 225 y por qué es histórico?

El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y el Estado de Derecho (CETS 225) es el primer tratado internacional vinculante que regula el uso de la inteligencia artificial bajo un enfoque centrado en valores democráticos y derechos humanos.

Dispuesto para ser suscrito y avalado para los países y demás interesados que quieran hacer parte a partir del 5 de septiembre de 2024, este tratado propone un modelo de gobernanza tecnológica sin precedentes, aplicable a actores públicos y privados, e incluye mecanismos de seguimiento internacional.

La IA bajo control: ¿qué busca esta Convención?

El convenio exige que los estados adopten medidas legales y administrativas para:

• Prevenir abusos y proteger derechos frente al uso de sistemas de IA.
• Evaluar riesgos reales y potenciales a lo largo del ciclo de vida de cada sistema.
• Adaptar las obligaciones al nivel de riesgo, con un enfoque proporcional.

Se permiten excepciones limitadas, como temas de seguridad nacional, pero siempre bajo el respeto al Derecho Internacional.

¿Qué entiende el CETS 225 por «sistema de IA»?

La Convención define a la IA como:

“Un sistema basado en máquinas que, a partir de datos, produce resultados (predicciones, decisiones, recomendaciones…) que pueden afectar entornos físicos o virtuales.”

Esta definición incluye desde algoritmos simples hasta modelos avanzados como los de lenguaje, visión artificial o robótica autónoma.

Principios rectores: derechos humanos en clave algorítmica

Los pilares del CETS 225 giran en torno a:

• Dignidad y autonomía individual.
• Transparencia y supervisión humana.
• Responsabilidad y justicia algorítmica.
• Innovación segura y confiable.
• Participación informada y acceso equitativo.

La Convención también pone énfasis en combatir la discriminación algorítmica, proteger la privacidad, y promover una IA confiable desde su diseño hasta su desmantelamiento.

¿Qué pasa cuando la IA falla? Evaluar, prevenir y corregir

Uno de los pilares más relevantes del CETS 225 es la obligación de los estados de establecer mecanismos eficaces para gestionar los riesgos asociados a la inteligencia artificial. Esto implica no solo identificar y evaluar los posibles impactos negativos antes de que un sistema de IA sea desplegado, sino también crear estructuras que permitan monitorear su funcionamiento de forma continua.

En este marco, los países deben contar con herramientas que permitan prevenir daños, mitigar consecuencias y documentar los riesgos identificados. Además, la Convención alienta a las partes a considerar la posibilidad de imponer prohibiciones o moratorias sobre determinados usos de la IA que resulten incompatibles con los derechos humanos, el funcionamiento de la democracia o el respeto al Estado de Derecho.

La protección de las personas también incluye el reconocimiento del derecho a acceder a recursos y protección efectiva. Es decir, los individuos afectados por decisiones automatizadas deberán contar con canales claros para reclamar, cuestionar los resultados generados por los sistemas, obtener información relevante y, en su caso, revertir o suspender los efectos perjudiciales.

Gobernanza y vigilancia: una IA con contrapesos

Para asegurar que la implementación del tratado sea efectiva, el CETS 225 establece la creación de una Conferencia de las Partes, integrada por los estados signatarios. Este órgano será el encargado de supervisar el cumplimiento de las disposiciones del tratado, proponer ajustes normativos, analizar avances tecnológicos relevantes y promover la cooperación internacional.

La gobernanza también debe ser interna: cada estado deberá designar mecanismos nacionales independientes con poder suficiente para controlar que las actividades relacionadas con la IA respeten los principios del tratado. Estos organismos deben contar con autonomía, recursos adecuados y experiencia técnica para desempeñar sus funciones con eficacia.

Además, se fomenta la participación activa de múltiples actores —desde la sociedad civil hasta expertos técnicos— en los debates sobre la regulación de la inteligencia artificial. Esta apertura a la deliberación pública busca fortalecer la confianza ciudadana, promover la transparencia en el diseño de políticas públicas y garantizar que la IA no se desarrolle a espaldas de los valores democráticos.

Educación, inclusión y participación: la clave para una IA ética

Más allá de las regulaciones técnicas y jurídicas, el CETS 225 reconoce que una inteligencia artificial verdaderamente ética requiere una ciudadanía informada, participativa e involucrada en los procesos de transformación digital. Por eso, uno de sus compromisos más importantes es la promoción activa de la alfabetización digital. Los estados parte deben fomentar conocimientos tecnológicos en todos los sectores de la población, no solo para el uso cotidiano de herramientas digitales, sino también para comprender sus impactos sociales, económicos y legales.

La Convención también subraya la necesidad de prestar especial atención a los grupos históricamente marginados o en situación de vulnerabilidad. Niños, niñas, adolescentes, personas con discapacidad y minorías sociales deben ser visibilizados en el diseño, implementación y evaluación de sistemas de IA. La inclusión no puede limitarse a un principio abstracto; debe traducirse en medidas concretas que garanticen que los beneficios de estas tecnologías lleguen a todas las personas por igual.

Asimismo, el acuerdo pone énfasis en el valor de la participación democrática. Frente a una tecnología que puede automatizar decisiones que afectan derechos fundamentales, el debate público no es opcional, sino imprescindible. Se alienta a los estados a generar espacios de consulta ciudadana y diálogo multiactor, donde se puedan discutir los dilemas éticos, sociales y ambientales de la inteligencia artificial desde una perspectiva plural, informada y con enfoque de derechos.

¿Y tú qué opinas?

El CETS 225 marca un punto de inflexión en la regulación global de la IA, apostando por una tecnología al servicio de los derechos fundamentales. Pero ¿es suficiente? ¿Cómo debería implementarse en contextos nacionales como el latinoamericano?

Si bien la IA ya forma parte de nuestras decisiones más cotidianas, ¿tenemos suficiente control sobre ella? ¿Está Latinoamérica preparada para asumir compromisos como los del CETS 225?¿Qué aciertos y vacíos ves en este nuevo convenio? ¿Debería América Latina adoptar un marco similar?

¡Te leemos!

Autores: Privabot (agente IA) en colaboracion con: Nina Pérez e Inés González