Aunque actualmente no existe un tratado universal de carácter vinculante que regule la IA de forma específica, su regulación y gobernanza se ha configurado mediante un avance progresivo y fragmentado de soft law, directrices regionales e iniciativas locales.
El inicio de este proceso normativo se puede rastrear con la Declaración de Toronto de 2018, la cual constituyó uno de los primeros esfuerzos internacionales de la sociedad civil orientado a exigir que los sistemas de aprendizaje automático respeten estrictamente los derechos a la igualdad y a la no discriminación. Posteriormente, esta perspectiva ética se trasladó al plano intergubernamental mediante las Recomendaciones del Consejo de la OCDE sobre IA en 2019, las cuales pedían a los Estados signatarios garantías de equidad, transparencia y rendición de cuentas tanto en el sector comercial como en el público. Luego, un giro crucial hacia la codificación de hard law se dio en 2021 con la Propuesta de Reglamento de IA de la Unión Europea (AI Act), el primer intento histórico por estructurar un marco jurídico vinculante basado en una taxonomía de riesgos que prohibió los sistemas de puntuación social y restringió la vigilancia biométrica masiva.
A este esfuerzo le siguió, en 2021, la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, adoptada por 193 Estados miembros como el primer instrumento global de soft law diseñado para proteger la dignidad humana y la diversidad cultural frente al sesgo del desarrollo tecnológico (UNESCO, 2026, p. 5). La consolidación de compromisos internacionales alcanzó un hito definitivo con el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial en 2024, el cual se constituye como el primer tratado internacional jurídicamente vinculante abierto a la firma global, con el objetivo de asegurar que todo el ciclo de vida de la IA respete los derechos humanos, la democracia y el Estado de derecho (ONU, 2024, p. 11). Este despliegue normativo converge con el reciente pronunciamiento de la Comisión Interamericana de Derechos Humanos (CIDH) (2026), el cual señaló que la reproducción de desigualdades mediante proxies defectuosos constituye una vulneración convencional que afecta de manera desproporcionada a las poblaciones afrodescendientes, por lo que insta a los Estados a ejercer una debida diligencia algorítmica.
A diferencia del disperso ecosistema de regulación tecnológica, la prohibición del racismo y la discriminación estructural cuenta con un corpus normativo internacional plenamente vinculante e inmediatamente aplicable a cualquier desarrollo tecnológico estatal (ONU, 2024, p. 11; CIDH, 2026). Por ejemplo, en el Sistema Interamericano, la Convención Interamericana contra el Racismo, la Discriminación Racial y Formas Conexas de Intolerancia (CIRDI) determina en su artículo 1.2 que los Estados violan el principio de igualdad cuando una disposición, criterio o práctica aparentemente neutra -como un modelo probabilístico o un algoritmo de optimización- genera un impacto adverso y desproporcionado sobre un grupo históricamente excluido (CIDH, 2026; Ronconi, 2019, p. 125). Bajo este estándar, la "neutralidad" del código es una ficción jurídica. No es necesario probar una intención discriminatoria por parte de los programadores o del Estado, sino que basta con demostrar que el resultado técnico del algoritmo reproduce la subordinación de poblaciones racializadas (Muñoz Gutiérrez, 2021, p. 294; Ronconi, 2019, p. 126).
Este mandato se asienta sobre la base del sistema universal de las Naciones Unidas, donde la Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial (ICERD) establece que la discriminación racial comprende cualquier distinción que tenga por objeto o por resultado menoscabar el ejercicio de derechos en condiciones de igualdad (ONU, 1965, p. 96). Este estándar de "resultado" o impacto es crucial para la justicia algorítmica, pues proscribe el uso de sistemas que, aun sin mención explícita a la raza, generen efectos excluyentes mediante el uso de proxies (Ronconi, 2019, p. 126; CIDH, 2026). Asimismo, el Pacto Internacional de Derechos Civiles y Políticos (PIDCP) refuerza esta protección al exigir que la ley prohíba toda discriminación y garantice a todas las personas protección igual y efectiva (ONU, 1966, p. 7). En la misma línea, el Comité para la Eliminación de la Discriminación Racial (CERD) en su Recomendación General n.º 36 (2020) advierte específicamente que el uso de la IA en la seguridad y los servicios sociales puede profundizar el racismo y la xenofobia, instando a los Estados a regular estrictamente los parámetros que impidan brechas de derechos (CERD, 2020, p. 3).
Esta evolución evidencia una realidad estructural: los avances del derecho en materia de nuevas tecnologías son más lentos que el vertiginoso ritmo del avance tecnológico, en la medida en que la ciencia jurídica busca, por definición, ofrecer seguridad jurídica, predictibilidad y estabilidad institucional. Sin embargo, esta asincronía regulatoria de ninguna manera significa que las expresiones de discriminación algorítmica que se manifiestan en la práctica deban quedar en la impunidad o que se deba suspender la aplicación de los marcos jurídicos internacionales vigentes. A diferencia de este incipiente y disperso ecosistema de regulación tecnológica, la prohibición del racismo y la discriminación estructural cuenta con un corpus normativo internacional plenamente vinculante, consolidado e inmediatamente aplicable a cualquier desarrollo o adopción tecnológica estatal.
A nivel regional, aunque la mayoría de los países de América del Sur cuenta con leyes generales de protección de datos personales que catalogan a las imágenes e impresiones faciales como "datos sensibles", estas normativas sufren de excepciones estructurales cuando se aplican al ámbito de la seguridad pública y la investigación criminal, permitiendo el despliegue del reconocimiento facial sin requerir consentimiento ni evaluaciones de impacto en derechos humanos.
Paralelamente, las incipientes iniciativas y proyectos de ley para la gobernanza de la Inteligencia Artificial en la región priorizan agendas de innovación o control administrativo, pero omitirán casi por completo los riesgos de discriminación racial y el impacto desproporcionado sobre las personas afrodescendientes. Como resultado, la vigilancia algorítmica se expande en las calles bajo un manto de neutralidad técnica, con escasa transparencia y supervisión judicial —salvo fallos emblemáticos de inconstitucionalidad como los registrados en Argentina y Brasil—, profundizando el perfilamiento racial en el espacio público.
