¿Es neutra la tecnología de reconocimiento facial? Un análisis desde el perfilamiento racial
El pasado 9 de diciembre, en el marco del VI Congreso del Instituto de Derechos Humanos Gregorio Peces-Barba, nuestros fundadores, Adriana Castro y Victor Montes, presentaron la ponencia: “Aproximaciones jurídicas y técnicas al perfilamiento racial en el uso del Reconocimiento Facial Retrospectivo (RFR)”.
La intervención, integrada en el eje sobre erosión democrática y dilemas éticos, planteó una premisa urgente: la tecnología no opera en el vacío. Las decisiones de diseño y los algoritmos tienen consecuencias tangibles sobre la libertad y la dignidad de las personas.
Durante la exposición, se desmitificó el funcionamiento del Reconocimiento Facial Retrospectivo (RFR), explicando el proceso técnico que va desde la captura de imagen hasta la generación de listas de candidatos. Sin embargo, el foco se centró en cómo cuatro fallas críticas del sistema pueden derivar en discriminación sistemática: Datasets desbalanceados, Parámetros mal calibrados, Ausencia de evaluaciones longitudinales y Vacíos normativos.
Estas deficiencias técnicas no son meras 'anécdotas informáticas', sino que se traducen en perfilamiento racial, provocando detenciones y controles de identidad arbitrarios que afectan desproporcionadamente a poblaciones históricamente racializadas, como la afrodescendiente e indígena.
Para ilustrar la gravedad del problema, Adriana y Victor analizaron jurisprudencia clave, como los casos Williams v. City of Detroit y R (Bridges) v Chief Constable of South Wales Police, donde el uso defectuoso de estas herramientas resultó en violaciones directas a la privacidad y al derecho a la igualdad.
Desde la Fundación Derecho & Tecnología, no solo señalamos los riesgos, sino que proponemos soluciones. La ponencia cerró con una hoja de ruta clara para Estados y desarrolladores: Auditorías públicas y regulares de los algoritmos, uso de datasets representativos y marcos legales basados en estándares internacionales.
"El derecho necesita entender la tecnología, y la tecnología debe diseñarse para proteger derechos, no para reproducir exclusiones", concluyeron los fundadores.