Un hombre de 61 años ha demandado a los grandes almacenes Macy’s y Sunglass Hut por utilizar un sistema de reconocimiento facial en su contra para acusarlo falsamente de robar sus tiendas a punta de pistola. Harvey Eugene Murphy Jr., como se llama el denunciante, fue detenido en octubre de 2023 por el robo en una de estas tiendas en el área de Houston (Estados Unidos). Mientras estuvo detenido y hasta que se demostró la coartada que demostraba su inocencia, Murphy fue violado y golpeado, según su denuncia. De confirmarse esto, sería un nuevo caso en el que los sistemas de reconocimiento facial aplicados a la seguridad ciudadana provocan errores con graves consecuencias.
La fatídica historia comienza en enero de 2022, cuando dos ladrones armados roban miles de dólares y productos de una de estas tiendas de gafas de Houston. Casi dos años después, la policía arrestó a Murphy mientras estaba en Texas en una oficina renovando su licencia de conducir. Según la denuncia presentada guardiánEl detenido afirma que fue un empleado de la empresa matriz de Sunglass Hut (EssilorLuxottica), en colaboración con Macy’s, quien dio su nombre a las autoridades.
Mientras la policía de Houston investigaba el robo a mano armada, ese empleado utilizó un software de reconocimiento facial para identificar a Murphy como uno de los ladrones. Aunque la imagen introducida en el sistema procedía de cámaras de mala calidad, según la demanda, el representante de EssilorLuxottica llamó a la policía para informarles que ya había identificado a uno de los culpables utilizando esta tecnología. Además, acusó a Murphy, que entonces vivía en California, de ser responsable de otros dos robos.
Murphy exige ahora 10 millones de dólares (algo más de nueve millones de euros) a Macy’s y a EssilorLuxottica por el uso indebido de este sistema de reconocimiento facial que le identificó erróneamente. Durante su reclusión de diez días en la prisión del condado de Harris (Texas), sufrió palizas y violaciones en grupo, que le dejaron graves consecuencias físicas y psicológicas.
«El ataque lo dejó con lesiones permanentes con las que debe vivir todos los días de su vida», afirma la demanda. «Todo esto le sucedió a Murphy porque los acusados confiaron en la tecnología de reconocimiento facial, que se sabe que es propensa a errores y defectuosa».
El caso de Murphy pone de relieve una vez más las deficiencias y los peligros de confiar en el reconocimiento facial, particularmente en un área tan sensible como el procesamiento de presuntos delincuentes, ya que se sabe que produce falsos positivos, particularmente contra personas negras. Su abogado, Daniel Dutko, dijo a los medios locales que esta tecnología es la única explicación plausible para su identificación falsa y arresto.
“Sabemos que los estudios muestran que los afroamericanos tienen una alta tasa de falsos positivos basados en software de reconocimiento facial. También sabemos que comparar a personas mayores con fotografías de ellos mismos cuando eran más jóvenes da como resultado una tasa muy alta de falsos positivos, de hasta el 90%, dice Dutko. Murphy tenía antecedentes penales que se remontaban a las décadas de 1980 y 1990, por lo que apareció en el sistema que lo identificó erróneamente. Este sería el primer caso conocido de un hombre blanco acusado injustamente de utilizar esta tecnología. «La historia del señor Murphy es inquietante para todos los ciudadanos de este país», dijo Dutko en un comunicado. “Cualquiera podría ser acusado injustamente de un delito basado en un software de reconocimiento facial propenso a errores, como él”.
En los últimos años, varios casos han alertado del peligro de confiar en estos algoritmos para detener a ciudadanos, como fue el caso de Robert Julian-Borchak Williams, detenido por la policía de Detroit, o el de Porcha Woodruff, que estaba embarazada y el verdadero ladrón era no. Es por ello que el uso del reconocimiento facial para luchar contra la delincuencia ha sido uno de los puntos más polémicos en el debate sobre la ley pionera en inteligencia artificial en la Unión Europea.
puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.
