Transparencia algorítmica: qué es, obligaciones y normativa para empresas que usan IA

¿Qué es la transparencia algorítmica?

La transparencia algorítmica es el principio que exige que los sistemas automatizados y la Inteligencia Artificial (IA) revelen cómo operan, qué datos utilizan y por qué toman decisiones específicas. Su objetivo es eliminar la "caja negra" digital, garantizando que los procesos sean explicables, auditables y justos para los ciudadanos.

¿Cuándo se considera que un algoritmo es transparente? Obligaciones para las empresas

Para garantizar la transparencia algorítmica, las empresas que usan software con inteligencia artificial deben cumplir los siguientes requisitos:

• Explicabilidad: Traduce fórmulas matemáticas complejas a un lenguaje comprensible para personas no expertas.
• Trazabilidad: Registra y detalla cada fase del diseño, desde los datos de entrenamiento hasta el resultado final.
• Acceso al dato: Muestra con total claridad qué variables específicas utiliza para tomar una decisión.
• Identificación: Informa explícitamente al usuario que está interactuando con una Inteligencia Artificial.
• Auditabilidad: Permite que peritos externos independientes examinen su código fuente y busquen sesgos.
• Justificación de lógica: Expone las razones exactas por las que descartó otras opciones en un caso concreto.

¿Qué normativas la regulan?

Aunque no existe una Ley de transparencia algorítmica como tal, existen diferentes normativas que regulan este principio:

• Reglamento Europeo de Inteligencia Artificial (AI Act): Es la legislación principal. Exige supervisión humana, evaluación y transparencia artículos 13 y 50 del AI Act).
• Ley de Servicios Digitales (DSA): Los artículos 27 y 38 sobre sistemas de recomendación obligan a las plataformas en línea a realizar auditorías algorítmicas y rendir cuentas sobre cómo recomiendan y promocionan contenidos.
• Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno.

Jurisprudencia: "El caso BOSCO": El Gobierno español utilizaba un un algoritmo llamado BOSCO para decidir qué ciudadanos en situación de vulnerabilidad tenían derecho a recibir el bono social eléctrico. El programa tenía fallos y denegaba la ayuda a personas que legalmente cumplían los requisitos. La Fundación Civio pidió ver cómo funcionaba el programa, el Gobierno se negó alegando motivos de "propiedad intelectual" y "seguridad nacional". El Tribunal Supremo falló en contra del Gobierno y sentenció que el código fuente y los algoritmos utilizados por la Administración Pública son "información pública".

El Centro Europeo para la Transparencia Algorítmica (ECAT), creado por la Comisión Europea, se encarga de supervisar que los sistemas en línea sean seguros, fiables y transparentes.

¿Por qué es tan importante la transparencia en los algoritmos?

• Protección de derechos: Evita la discriminación automatizada por género, raza o nivel socioeconómico en procesos de selección o créditos.
• Derecho a la reclamación: Permite a los ciudadanos impugnar decisiones públicas erróneas, como la denegación de ayudas o becas.
• Auditoría de errores: Facilita la detección de fallos de seguridad en sectores críticos como la salud y la automoción.
• Control de desinformación: Ayuda a entender cómo las redes sociales posicionan contenidos y frena la manipulación de la opinión pública.
• Confianza social: Elimina el miedo al efecto "caja negra", impulsando una adopción segura y ética de la Inteligencia Artificial.
• Cumplimiento legal: Garantiza que las empresas operen dentro de las normativas vigentes, como el Reglamento de IA de la Unión Europea.