Accesibilidad algorítmica y el Decreto Supremo N.° 115-2025-PCM: el vacío pendiente en la regulación de la IA
El Decreto Supremo N.° 115-2025-PCM está considerando algunos criterios de especial relevancia para la ciudadanía que, claramente, van en concordancia con los avances que viene mostrando el desarrollo de la inteligencia artificial en el mundo actual. Son criterios que valoran como de alto riesgo a los algoritmos que se están usando en entornos sensibles donde su impacto podría alterar la dignidad, la libertad, la seguridad o el sustento de los ciudadanos peruanos. Procesos como la evaluación crediticia, la selección laboral, la evaluación educativa de menores, la salud o los programas sociales entran dentro del alcance de estos cambios algorítmicos.
Para estos casos la norma exige evaluaciones previas de impacto, trazabilidad, transparencia y supervisión humana, lo que señala un gran sentido de la responsabilidad y el cuidado con un tema tan sensible como ciertamente es.
La zona gris: seguridad sin accesibilidad algorítmica
No obstante, esta regulación parece tener una zona gris, pues si bien monitorea y revisa aspectos como el de la ciberseguridad o los sesgos algorítmicos, está dejando sin esa vigilancia y cuidado el tema de la accesibilidad algorítmica. Y es que sucede que un sistema de alto riesgo puede perfectamente satisfacer los requisitos de seguridad o privacidad de los datos, y sin embargo terminar excluyendo al usuario con discapacidad, desde su propia arquitectura.
Según la propia normativa nacional, hay cuatro aspectos que son ya objeto de monitoreo:
- Evaluar el impacto ético y social antes de desplegar los servicios, no después del daño.
- Rastrear el código y los datos para saber exactamente qué información alimenta al algoritmo.
- Explicar las decisiones en un lenguaje de nivel humano, sin misterios tras una "caja negra" técnica.
- Garantizar supervisión humana real, un funcionario con criterio y autoridad que pueda revertir los fallos del sistema.
Auditoría de transparencia explicativa y gobernanza inclusiva
La transformación digital del Estado consiste, además de automatizar procesos y proporcionar servicios más eficientes, en asegurar que todos puedan participar de estos beneficios, así como en evitar que se amplifiquen las brechas en acceso o en desarrollo humano.
En esta línea de reflexiones, la cuestión crucial sería:
¿Cómo auditamos hoy la "transparencia explicativa" de un algoritmo antes de que afecte a un ciudadano?
¿Disponemos de los protocolos adecuados, por ejemplo para ciudadanos con discapacidad sensorial, o seguimos regulando sobre la marcha?
Creemos que en este punto resultará crucial incorporar al CONADIS y al MIMP en los niveles de gobernanza del artículo 9, asegurar conformidad con estándares internacionales de accesibilidad dentro de las evaluaciones de impacto de alto riesgo, así como garantizar que los mecanismos de supervisión humana guarden compatibilidad con tecnologías asistivas.
Consideramos que la SGTD, Secretaría de Gobierno y Transformación Digital, tiene el compromiso necesario y la capacidad técnica para alcanzar estos objetivos que forman parte de los ODS, pero también de las aspiraciones de las personas con discapacidad en aras de su inclusión.

No hay comentarios:
Publicar un comentario