9. La transparencia algorítmica y rendición de cuentas, deberá considerar:
a) Cuando el sistema electrónico oficial de contratación pública utilice algoritmos de inteligencia artificial o sistemas automatizados de apoyo a la decisión para la evaluación de ofertas, la detección de anomalías, la asignación de órdenes de compra o cualquier otra función que afecte a los derechos de los proveedores o a la adjudicación de contratos, dichos sistemas deberán ser:
(i) Auditables, permitiendo el acceso a su lógica, criterios de decisión, datos de entrenamiento, métricas de rendimiento y resultados por parte del Ente Rector, de los órganos de control y de los proveedores afectados, en los términos que establezca el Reglamento de Contratación Pública;
(ii) Explicables, de modo que las decisiones automatizadas que afecten a los proveedores puedan ser comprendidas y motivadas en términos accesibles para las personas afectadas, garantizando su derecho a conocer las razones de la decisión;
(iii) No discriminatorios, sometiéndose a pruebas periódicas de sesgo algorítmico, especialmente en lo que respecta a la participación de MIPYMES, actores de la economía popular y solidaria, mujeres, grupos étnicos, personas con discapacidad y otros grupos vulnerables;
(iv) Supervisados por humanos, de modo que toda decisión automatizada que afecte a un proveedor o contratista pueda ser revisada y, en su caso, revocada por un funcionario competente, quien deberá motivar su decisión por escrito y hacerla constar en el expediente del procedimiento.
b) El Ente Rector publicará anualmente un informe de transparencia algorítmica que contenga:
(i) La relación de todos los sistemas de IA utilizados en la contratación pública, con una descripción comprensible de su funcionamiento, sus limitaciones y los márgenes de error conocidos;
(ii) Los resultados de las auditorías de sesgo y rendimiento realizadas, incluyendo las medidas adoptadas para corregir las desviaciones detectadas;
(iii) Las decisiones automatizadas recurridas y su resolución final, así como el número de revisiones humanas realizadas;
(iv) Las medidas adoptadas para mejorar la equidad, la transparencia y la rendición de cuentas de los algoritmos.
c) El incumplimiento de las obligaciones de transparencia algorítmica por parte del Ente Rector o de las entidades adjudicadoras será sancionado conforme al régimen disciplinario aplicable, sin perjuicio de la responsabilidad civil o penal a que hubiere lugar. |