Pasar al contenido principal

Cómo lograr una transparencia real con los registros de algoritmos

IAC
Avances y políticas para diseñar, implementar y evaluar registros algorítmicos

Este informe examina el uso creciente de algoritmos en decisiones clave del sector público y propone una hoja de ruta para crear registros nacionales de algoritmos como instrumentos de transparencia, rendición de cuentas y protección de derechos fundamentales

A partir del análisis de 39 iniciativas europeas, el estudio evidencia que la base de datos exigida por el Reglamento de IA de la UE —aunque necesaria— es insuficiente por su alcance limitado, escasa obligatoriedad y falta de información crítica. En respuesta, se proponen 12 recomendaciones para diseñar registros más completos, públicos y accesibles, que incluyan desde algoritmos en desarrollo hasta sistemas descartados, y que se adapten a diferentes públicos mediante funciones de búsqueda y seguimiento.

Además, se pone en valor los beneficios de estos registros tanto para la ciudadanía como para gobiernos e investigadores, al permitir identificar, supervisar y debatir el uso de sistemas algorítmicos con impacto social. También advierte de los riesgos de “transparency washing” si no se implementan adecuadamente, y subraya la necesidad de integrar estos registros en el ciclo de vida de los sistemas y complementarlos con otros mecanismos de control. 

A nivel nacional, se destacan los avances en España, como los pilotos en la Comunidad Valenciana y Cataluña, y se insta a ir más allá del Reglamento europeo mediante una gobernanza algorítmica participativa y efectiva.

Adjuntos
Cómo lograr una transparencia real con los registros de algoritmos (99 páginas)
Tipo de documento
Publicación
Precio
Gratuito
Genérico
innovación
tendencias
Transparencia
Gran empresa
Micro-pyme
Pyme