Convenio sobre inteligencia artificial, derechos humanos y Estado de Derecho del Consejo de Europa
Pablo Sánchez-Molina
Curso de última actualización (2026/2027)
La inteligencia artificial ofrece importantes oportunidades, pero también plantea riesgos que pueden afectar a los derechos humanos, la democracia y el Estado de derecho.
El Consejo de Europa ha respondido a estos riesgos mediante un Convenio Marco dedicado a establecer unas reglas comunes para el desarrollo y utilización de los sistemas de inteligencia artificial.
Su objetivo principal es fijar unos principios y obligaciones comunes que busquen garantizar que la inteligencia artificial se desarrolle y utilice de forma compatible con los derechos humanos, la democracia y el Estado de derecho.
Las principales características del Convenio son:
- Objeto y ámbito de aplicación. El Convenio se ocupa de todo el ciclo de vida de los sistemas de inteligencia artificial y parte de que la innovación tecnológica no puede desarrollarse al margen de los valores sobre los que se construyen nuestros sistemas democráticos. Para ello, las medidas se graduarán atendiendo al impacto de los efectos adversos.
- Derechos humanos, democracia y Estado de derecho. Además de proteger los derechos de las personas, el Convenio admite que la inteligencia artificial puede afectar al funcionamiento de las instituciones democráticas. Por ello, los Estados parte deberán adoptar medidas para evitar que el uso de esta tecnología afecte a la separación de poderes y la independencia judicial.
- Principios. El Convenio establece diferentes principios que deberán ser aplicados a las actividades desarrolladas durante el ciclo de vida de los sistemas de inteligencia artificial. Entre ellos se encuentra la dignidad humana y la autonomía individual; la transparencia y supervisión; la rendición de cuentas y responsabilidad; la igualdad y no discriminación; la privacidad y protección de los datos personales; y la fiabilidad de los sistemas de IA. También contempla la promoción de una innovación segura mediante el establecimiento de entornos controlados de desarrollo bajo la supervisión de autoridades competentes. El Convenio no establece un catálogo nuevo de derechos, sino que fija medidas para garantizar la protección de derechos ya reconocidos cuando puedan verse afectados por el uso de la IA.
- Recursos, garantía y gestión de riesgos. El Convenio establece que las personas afectadas deberán contar con vías de recursos accesibles y efectivas para hacer valer sus derechos. Además, los Estados parte deberán garantizar que exista información suficiente para que los posibles afectados puedan plantearlos. El Convenio contempla, además, que se procure informar a las personas cuando interactúan con un sistema de inteligencia artificial en lugar de hacerlo con un ser humano. Junto a estas garantías, los Estados parte deberán identificar, evaluar, prevenir y mitigar los riesgos derivados de los sistemas de inteligencia artificial. Por último, el Convenio incorpora medidas relacionadas con la consulta pública, la alfabetización y capacidades digitales, así como una especial consideración a las vulnerabilidades de los menores y personas con algún tipo de discapacidad.
- Supervisión. Se crea una Conferencia de los Estados parte encargada de facilitar su aplicación, interpretación y cooperación entre Estados. Además, se fija la necesidad de que cada Estado parte asigne mecanismos de supervisión internos. En la línea de los Convenios del Consejo de Europa, se hace referencia a que estas normas constituirán un mínimo común de protección que, en todo caso, podrá ser ampliado por los Estados parte.