La detención errónea de una grávida reaviva el rechazo a los sistemas de registro facial | Tecnología

El creciente uso de herramientas de identificación biométrica en Nueva York no ha causado hasta ahora más controversia que las críticas por invasión de la privacidad a los supermercados, que han recurrido en masa a cámaras y escáneres para predisponer hurtos. “Esta tecnología nos ayuda a dominar el número de robos”, explica un cartel a la entrada de un conocido supermercado de Manhattan. El año pasado, la patronal neoyorquina registró 63.000 robos en tiendas, un 45% más que en 2021. Grandes estadios en todo el país han prohijado igualmente herramientas automatizadas como el escáner del iris o del elipse facial para controlar el camino del sabido, y el Madison Square Garden se ha pasado en el disparadero porque lo hace para discriminar a individuos molestos, sobre todo abogados implicados en litigios contra el utópico pabellón.

Pero una cosa es lo que ocurre en Nueva York y otra en el resto del país, donde ciudades como San Francisco han prohibido su uso, mientras otras (por ejemplo, Oakland y Berkeley, en California, y Somerville, en Massachusetts, todas ellas regidas por demócratas) están valorando seguir su ejemplo. Se sabía que las herramientas de registro facial impulsadas por la inteligencia industrial han producido fallos, generando imágenes falsas o incurriendo en sesgos de confirmación tan inmediatos como fáciles, la decano parte de las veces sin consecuencias. Pero en ocasiones el uso de esta tecnología tiene un impacto más oneroso en la reputación y el bienestar de las personas. Es el caso de Porcha Woodruff, una mujer de 32 abriles de Detroit, que fue arrestada y esposada en febrero en su domicilio, delante de sus dos hijas, durante un operante policial.

A Woodruff se la acusaba (de guisa errónea) de un atraco y el robo de un coche. Las autoridades tenían imágenes de videovigilancia de una surtidor donde se produjo el suceso, que mostraban a una mujer en evidente delito, y las sometieron a una aparejo de registro facial de DataWorks Plus para identificarla. Pese a ese despliegue de medios, los agentes no tuvieron en cuenta un pequeño detalle cuando, pocos días a posteriori de cometerse el delito, irrumpieron en el domicilio de Woodruff: la ladrona no estaba grávida. Ella sí, de ocho meses.

Woodruff es la primera mujer arrestada por error en EE UU a consecuencia de una falsa identificación, pero ha habido más casos. Solo en Detroit se negociación del tercer expediente en el que está involucrada la policía regional, que de media realiza 125 búsquedas con registro facial al año, casi todas de hombres negros, según estadísticas entregadas a la juntura ciudadana de supervisión. Woodruff es la sexta persona en el país acusada falsamente por desliz del uso automatizado de tecnología de registro facial, que vincula el rostro de un delincuente desconocido con una fotografía de una almohadilla de datos determinada. La fotografía de Woodruff figuraba en los archivos policiales por acaecer conducido con el carné caducado hace unos abriles.

El daño hecho a la reputación de Woodruff, que fue esposada a la puerta de su casa, delante de los vecinos, fue incluso pequeño que el causado a su vitalidad, por su vanguardia elaboración. “Tuve contracciones mientras estaba en la celda. Tenía dolores agudos en la espalda. Sufrí espasmos. Estuve a punto de sufrir un ataque de pánico”, explicó Woodruff, que estudia botiquín, al diario The New York Times. “Fue un suplicio estar sentada en esos bancos de cemento, me dolía todo el cuerpo”. El hecho de que estuviera arreglando a sus dos hijas para ir al colegio no detuvo a los seis agentes que acudieron a detenerla. La hicieron salir a la puerta, donde la esposaron, mientras ella solo acertaba a preguntarles si era una broma, mientras se señalaba la barriga. Tras 11 horas detenida, y el plazo de una fianza de 100.000 dólares, la mujer fue puesta en autogobierno ese mismo día. De la comisaría fue directamente al hospital, donde apreciaron que estaba deshidratada. Un mes a posteriori, el fiscal desestimó el caso. A primeros de agosto, Woodruff interpuso una demanda por arresto indebido en contra de la ciudad de Detroit, en presencia de el tribunal federal del distrito este de Míchigan.

Según documentos entregados a la juntura ciudadana de supervisión, DataWorks Plus es el proveedor de tecnología de registro facial que utiliza la policía para comparar rostros desconocidos con una almohadilla de datos policial de fotos que figuran en las fichas de delincuentes; el sistema usa la IA para presentar las coincidencias ordenadas según el cálculo de probabilidades. En última instancia, un analista humano se encarga de atreverse si alguna de las opciones es consistente. Como sucedió, por ejemplo, en el caso de Robert Williams, otro vecino de Detroit que fue arrestado en enero de 2020 por robo en una tienda oportuno a una coincidencia de registro facial incorrecta, por la cual la fiscalía se disculpó tiempo a posteriori.

Normas para la identificación biométrica

“Datos biométricos del cliente pueden ser recopilados”, advierte el cartel de un conocido supermercado de Manhattan. Porque cualquier negocio o establecimiento de Nueva York debe, por ley, informar mediante anuncios aceptablemente visibles de que somete a vigilancia biométrica al cliente. El hércules del comercio electrónico Amazon fue denunciado en marzo por no avisar explícitamente del uso de estos métodos (como el escáner de la palma de la mano y la medición corporal del cliente) en sus tiendas de la Gran Manzana.

EE UU no es el único país que utiliza herramientas de identificación biométrica. En el Reino Unido, los negocios utilizan tecnología de registro facial que usa IA para prohibir la entrada a sus establecimientos a personas con historial por robo. Bruselas viga sus fronteras recopilando datos biométricos de aquellas personas que entren en demarcación europeo; una medida, según los expertos, con suspensión potencial discriminatorio. Las fuerzas de seguridad españolas se disponen a adoptar el software ABIS (siglas en inglés de sistema necesario de identificación biométrica) para identificar en segundos a sospechosos a partir de cualquier tipo de imagen. Más allá de las dudas sobre la transparencia de esos sistemas, y el comprensible temor de la ciudadanía a encontrarse vigilada o espiada, el caso de Pocha Woodruff es una citación de atención sobre los riesgos de la proliferación de este tipo de tecnología.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para acoger nuestra newsletter semanal.