Un hombre de 61 primaveras ha demandado a los almacenes Macy’s y a la tienda de lentes de sol Sunglass Hut por usar contra él un sistema de inspección facial para acusarle injustamente de robar en sus tiendas a mano armada. Harvey Eugene Murphy Jr., como se fogata el denunciante, fue detenido en octubre de 2023 por el atraco en una de estas tiendas en el ámbito de Houston (EE UU). Mientras estuvo detenido, y hasta que se comprobó la coartada que probaba su inocencia, Murphy fue violado y herido, según consta en su denuncia. De confirmarse, sería un nuevo caso en los que los sistemas de inspección facial aplicados a la seguridad ciudadana provocan error de graves consecuencias.
La fatídica historia arranca en enero de 2022, cuando dos atracadores armados robaron miles de dólares y productos en una de estas tiendas de lentes del ámbito de Houston. Casi dos primaveras posteriormente, la policía detuvo a Murphy cuando se encontraba en Texas en una oficina para renovar su permiso de conducir. Según la denuncia que ha superior The Guardian, el arrestado asegura que fue un empleado de la matriz de Sunglass Hut (EssilorLuxottica), en colaboración con Macy’s, quien dio su nombre a las autoridades.
Mientras el área de policía de Houston investigaba el robo a mano armada, este empleado utilizó un software de inspección facial para identificar a Murphy como uno de los ladrones. A pesar de que la imagen que se introdujo en el sistema provenía de cámaras de descenso calidad, según la demanda, el representante de EssilorLuxottica llamó a la policía para avisarles de que ya había identificado con esta tecnología a uno de los culpables. Por otra parte, señaló a Murphy, que por entonces vivía en California, como responsable de otros dos robos.
Murphy reclama ahora a Macy’s y a EssilorLuxottica 10 millones de dólares (poco más de 9 millones de euros) por el uso indebido de este sistema de inspección facial que lo identificó erróneamente. Durante su detención de 10 días en la calabozo del condado de Harris (Texas), sufrió golpes y una violación en colección, lo que le dejó graves secuelas físicas y psicológicas.
“El ataque le dejó lesiones permanentes con las que tiene que poblar todos los días de su vida”, dice la demanda. “Todo esto le sucedió a Murphy porque los demandados confiaron en la tecnología de inspección facial, que se sabe que es propensa a errores y defectuosa”.
El caso de Murphy vuelve a destacar las deficiencias y los peligros del uso del inspección facial, sobre todo en un ámbito tan sensible como el de la persecución de presuntos criminales, ya que es conocido por producir falsos positivos, especialmente contra personas negras. Su abogado, Daniel Dutko, ha explicado a los medios locales que esta tecnología es la única explicación plausible para su falsa identificación y arresto.
“Sabemos que los estudios muestran que los afroamericanos tienen una inscripción tasa de falsos positivos basados en software de inspección facial. Incluso se sabe que comparar personas mayores con fotos suyas cuando eran jóvenes tiene una tasa muy inscripción de hasta el 90% de falsos positivos”, argumenta Dutko. Murphy contaba con referencias penales de las décadas de 1980 y 1990, por eso aparecía en el sistema que le identificó por error. Este sería el primer caso conocido de hombre blanco pronunciado por equivocación por medio de esta tecnología. “La historia del señor Murphy es preocupante para todos los ciudadanos de este país”, aseguró Dutko en un comunicado. “Cualquier persona podría ser acusada indebidamente de un delito basado en un software de inspección facial propenso a errores, tal como le ocurrió a él”.
En los últimos primaveras, varios casos han alertado del peligro de esperar en estos algoritmos para arrestar ciudadanos, como sucedió con Robert Julian-Borchak Williams, detenido por la policía de Detroit, o el de Porcha Woodruff, que estaba grávida y la verdadera ladrona no. Por ese motivo, el uso de inspección facial para combatir el crimen ha sido uno de los puntos más controvertidos en el debate de la ley pionera de inteligencia industrial en la Unión Europea.
Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para percibir nuestra newsletter semanal.
Creditos a EL PAÍS
Fuente
