La expansión del reconocimiento facial impulsado por la IA ha sido presentada durante años como una herramienta clave para reforzar la seguridad y agilizar investigaciones policiales.
Sin embargo, el caso de Angela Lipps, una abuela de Tennessee que pasó seis meses en prisión por una identificación errónea, vuelve a poner sobre la mesa los riesgos reales de confiar ciegamente en estas tecnologías. Su historia, revelada recientemente, es un ejemplo contundente de cómo un fallo algorítmico puede destruir vidas cuando no existen controles humanos adecuados .
Un arresto violento basado únicamente en una coincidencia algorítmica
En julio de 2025, un equipo de US Marshals irrumpió en la vivienda de Lipps mientras cuidaba a cuatro niños. La arrestaron a punta de pistola, acusándola de participar en un caso de fraude bancario en Dakota del Norte. El problema: Lipps jamás había estado en ese estado. Aun así, fue fichada como fugitiva y encarcelada sin posibilidad de fianza.
La investigación original se basó en imágenes de cámaras de seguridad donde una mujer utilizaba una identificación militar falsa para retirar grandes sumas de dinero. Los detectives recurrieron a un sistema de reconocimiento facial que, tras analizar las imágenes, señaló a Lipps como coincidencia. Posteriormente, un investigador comparó manualmente su licencia de conducir y fotos de redes sociales, concluyendo que “encajaba” en rasgos y complexión. Ningún agente la contactó antes de ordenar su detención .
Meses en prisión, pérdida total y ninguna disculpa
Lipps pasó 108 días en una cárcel de Tennessee antes de ser trasladada a Dakota del Norte, donde permaneció hasta Navidad. Durante ese tiempo perdió su casa, su coche y hasta su perro, ya que no podía pagar sus facturas desde prisión. Su abogado demostró fácilmente que, en las fechas del supuesto delito, ella estaba realizando compras y depositando cheques a casi 2.000 km del lugar del crimen.
Fue liberada el 24 de diciembre, sin dinero, sin abrigo y sin forma de volver a casa. Solo gracias a la ayuda de abogados locales y una organización sin ánimo de lucro pudo regresar a Tennessee. Hasta hoy, nadie del departamento de policía se ha disculpado por el error.
Un problema sistémico: no es un caso aislado
El caso de Lipps no es una anomalía. En Estados Unidos ya se han documentado múltiples detenciones injustas provocadas por identificaciones erróneas de sistemas de IA. En 2020, Robert Williams fue arrestado en Detroit por un error similar; la ciudad terminó indemnizándolo con 300.000 dólares y prohibiendo arrestos basados únicamente en reconocimiento facial.
Incluso fuera del ámbito criminal, estos sistemas han demostrado fallos preocupantes: desde confundir objetos cotidianos con armas hasta identificar erróneamente a menores en entornos escolares. La conclusión es clara: la IA puede ser una herramienta poderosa, pero no puede sustituir la verificación humana rigurosa.
La necesidad urgente de regulación y supervisión
El caso de Angela Lipps reabre el debate sobre la regulación del reconocimiento facial. Expertos en ética tecnológica y derechos civiles coinciden en que:
- Debe prohibirse su uso como única prueba para arrestos.
- Es imprescindible auditar los algoritmos para detectar sesgos y tasas de error.
- Las fuerzas de seguridad deben aplicar protocolos estrictos de verificación humana.
- Las víctimas de identificaciones erróneas necesitan mecanismos de compensación claros.
Mientras estas medidas no se implementen, el riesgo de que más personas sufran injusticias seguirá siendo inaceptablemente alto.