ICE y CBP sabían que la aplicación de reconocimiento facial no podía hacer lo que el DHS dice que podía hacer

ICE y CBP sabían que la aplicación de reconocimiento facial no podía hacer lo que el DHS dice que podía hacer

Documentos internos revelan que tanto el Servicio de Inmigración y Control de Aduanas (ICE) como el Servicio de Aduanas y Protección Fronteriza (CBP) de Estados Unidos estaban al tanto de que una controvertida aplicación de reconocimiento facial no cumplía con los puntos de referencia de desempeño promovidos públicamente por el Departamento de Seguridad Nacional (DHS). Esta creciente brecha de rendición de cuentas entre lo que las agencias gubernamentales afirman sobre la tecnología de vigilancia y lo que realmente muestran los registros internos plantea preguntas críticas sobre la transparencia, la ética de las adquisiciones y los límites del mundo real de los sistemas de identificación basados ​​en IA.

¿Qué sabían realmente ICE y CBP sobre la aplicación de reconocimiento facial?

Según los resultados de la investigación y las comunicaciones internas obtenidas a través de solicitudes de registros públicos, los funcionarios tanto de ICE como de CBP recibieron evaluaciones que indicaban que El sistema de reconocimiento facial no alcanzaba las tasas de precisión anunciadas, particularmente cuando se aplicaba a personas con tonos de piel más oscuros, mujeres y sujetos mayores. A pesar de estos hallazgos, las agencias continuaron implementando la tecnología en todas las operaciones fronterizas y flujos de trabajo de control de inmigración.

La desconexión es marcada. El DHS promocionó públicamente la herramienta como una solución confiable y de alta precisión para la verificación de identidad. Sin embargo, internamente, los agentes notaron tasas de error y fallas en casos extremos que habrían descalificado al software bajo cualquier estándar de adquisición riguroso. El despliegue continuó de todos modos, lo que generó serias dudas sobre la responsabilidad institucional y la prisa por adoptar herramientas de inteligencia artificial sin una investigación adecuada.

¿Por qué es importante la precisión del reconocimiento facial en contextos policiales?

Los errores de reconocimiento facial en las aplicaciones para consumidores son inconvenientes. En contextos de aplicación de la ley y de inmigración, pueden significar detención injusta, identificación errónea o violaciones de derechos civiles con consecuencias que alteran la vida. Lo que está en juego no podría ser mayor, y es precisamente por eso que las limitaciones conocidas de este sistema hacen que su uso continuo sea tan alarmante.

Los falsos positivos pueden dar lugar a que personas inocentes sean señaladas, detenidas o sometidas a interrogatorios invasivos basados ​​en coincidencias algorítmicas defectuosas.

El sesgo demográfico en los conjuntos de datos de entrenamiento provoca una identificación errónea desproporcionada de personas negras, indígenas y de color, un modo de falla bien documentado en los sistemas comerciales de reconocimiento facial.

La falta de auditorías independientes permite a los proveedores autocertificar las afirmaciones de precisión con poca verificación externa antes de que las agencias adopten las herramientas a escala.

La opacidad en la implementación significa que las personas afectadas rara vez saben que fueron examinadas por un sistema algorítmico, y mucho menos que el sistema tenía limitaciones de precisión conocidas.

Los marcos de supervisión débiles dejan pocos mecanismos legales para cuestionar las decisiones tomadas, incluso parcialmente, sobre la base de la tecnología biométrica.

"La tecnología más peligrosa no es la que falla visiblemente; es la que las agencias saben que está fallando, pero la implementan de todos modos porque el incentivo político u operativo para actuar supera la obligación de ser precisos".

¿Cómo expone esto problemas más profundos con la adquisición gubernamental de IA?

El caso de reconocimiento facial de ICE y CBP no es un fracaso aislado: es un síntoma de disfunción sistémica en la forma en que las agencias gubernamentales evalúan, adquieren e implementan herramientas impulsadas por IA. Los proveedores suelen hacer afirmaciones ambiciosas durante el proceso de venta, las agencias carecen de la capacidad técnica interna para verificar esas afirmaciones de forma independiente y, una vez que se firma un contrato, la inercia organizacional desalienta una reevaluación honesta incluso cuando los datos de desempeño cuentan una historia diferente.

Este patrón se ve exacerbado por la naturaleza clasificada o semiclasificada de muchos despliegues de tecnología policial, lo que limita la capacidad de los periodistas, las organizaciones de libertades civiles y el público para examinar cómo funcionan realmente estas herramientas en el campo. La transparencia no es sólo una sutileza burocrática en este contexto:

¿Por qué ICE y CBP sabían que la aplicación de reconocimiento facial no podía hacer lo que el Departamento de Seguridad Nacional (DHS) afirmaba que podía hacer?

Los documentos internos revelan que tanto ICE como CBP tenían conocimiento de que la aplicación de reconocimiento facial no cumplía con los puntos de referencia de desempeño promovidos por el Departamento de Seguridad Nacional (DHS). Esto sugiere que las agencias gubernamentales tenían información que contradecía la afirmación pública de que la tecnología cumplía con los estándares establecidos.

¿Qué implicaciones tiene esto para la confianza en el uso de la tecnología de reconocimiento facial por parte de las agencias gubernamentales?

La revelación de que las agencias gubernamentales tenían conocimiento de que la aplicación de reconocimiento facial no cumplía con los estándares establecidos tiene graves implicaciones para la confianza en el uso de esta tecnología por parte de las agencias gubernamentales. Esto pone en entredicho la transparencia y honestidad de las agencias y puede llevar a una pérdida de confianza por parte del público en la eficacia y legalidad de la tecnología.

¿Por qué es importante tener transparencia en el uso de tecnologías de reconocimiento facial por parte de las agencias gubernamentales?

La transparencia en el uso de tecnologías de reconocimiento facial por parte de las agencias gubernamentales es crucial para garantizar que el público tenga confianza en la eficacia y legalidad de estos sistemas. La transparencia permite que el público se informe sobre los beneficios y riesgos asociados con el uso de esta tecnología y que se puedan realizar debates y análisis informados sobre su uso en diferentes contextos. Además, la transparencia puede ayudar a mitigar los riesgos asociados con el uso inapropiado o abusivo de esta tecnología.

¿Qué pueden hacer las agencias gubernamentales para mejorar la transparencia en el uso de tecnologías de reconocimiento facial?

Las agencias gubernamentales pueden mejorar la transparencia en el uso de tecnologías ... Final output:

Frequently Asked Questions

¿Por qué ICE y CBP sabían que la aplicación de reconocimiento facial no cumplía con los puntos de referencia de desempeño?

Según los documentos internos, tanto ICE como CBP tenían conocimiento de que la aplicación no cumplía con los requisitos de precisión promovidos por el DHS. Aunque la aplicación podía reconocer caras en condiciones ideales, no era capaz de identificar a las personas con precisión en condiciones reales, como en la detención de inmigrantes en la frontera.

¿Cuál es el objetivo de la aplicación de reconocimiento facial en la frontera?

El objetivo principal de la aplicación de reconocimiento facial en la frontera es identificar a los inmigrantes y detener a los que no tienen permiso de residencia en Estados Unidos. Sin embargo, los documentos internos revelan que la aplicación no es tan efectiva como se afirma y puede generar falsos positivos y negativos.

¿Qué es lo que el DHS dice que la aplicación de reconocimiento facial puede hacer?

El DHS afirma que la aplicación de reconocimiento facial puede identificar a las personas en un plazo de 1 segundo y con una precisión del 99,9%. Sin embargo, según los documentos internos, la aplicación no cumple con estos requisitos y puede generar errores.

¿Cuál es el impacto de utilizar una aplicación de reconocimiento facial ineficaz en la frontera?

El uso de una aplicación de reconocimiento facial ineficaz puede generar errores en la identificación de inmigrantes y llevar a la detención de personas inocentes. Además, puede generar desconfianza en la comunidad y erosionar la relación entre los agentes de inmigración y la población que vive en la frontera. Esto puede llevar a un aumento en la tensión y la violencia en la zona.

1 Note that the input should be a simple HTML block, starting with the

Frequently Asked Questions

heading, and that there should be exactly 4 question-answer pairs with H3 headings and paragraph content. The answer length should be approximately 50-100 words each.