Londres
CNN
—
Un número creciente de tiendas británicas está utilizando un sistema de reconocimiento facial impulsado por inteligencia artificial identificar repetir ladrones de tiendas en lo que un grupo de derechos humanos ha llamado la propagación de “seguridad al estilo de los aeropuertos” en las calles principales.
Simon Gordon, fundador de la empresa de vigilancia del Reino Unido Facewatch, le dijo a CNN que la demanda de su producto había crecido «exponencialmente» a medida que la incidencia de robos y violencia en las tiendas se ha disparado en los últimos años.
“Estamos aquí tratando de prevenir el crimen”, dijo.
Funciona así: una vez que el gerente de una tienda sabe que un artículo ha sido robado, por ejemplo, al hacer un inventario de sus existencias, revisará las imágenes grabadas por sus cámaras de seguridad para identificar al ladrón.
Luego, el gerente iniciará sesión en el sistema de Facewatch, que también habrá tomado videos de todos los clientes que ingresaron a la tienda ese día, para encontrar al sospechoso en las imágenes de la firma y registrar el incidente.
“Luego revisamos el incidente, nos aseguramos de que describa el presunto crimen o desorden y luego lo activamos”, dijo Gordon. Cada vez que la misma persona intente ingresar a esa tienda nuevamente, el gerente recibirá una alerta en su teléfono y puede pedirle a la persona que se vaya o vigilarla de cerca.
Antes de que se envíe la alerta, uno de los «súper reconocedores» humanos de Facewatch verifica dos veces que el rostro del sospechoso coincida con uno en la base de datos de delincuentes de la empresa.
Si esa persona es un delincuente prolífico o ha robado algo por valor de más de £ 100 ($ 131), sus datos biométricos también podrían compartirse con otras tiendas en el área local que usan el sistema de Facewatch.
Los grupos de derechos humanos dicen que este tipo de tecnología viola el derecho de las personas a la privacidad y, a menudo, comete errores.
“Algo como Facewatch básicamente está normalizando lo que es la seguridad al estilo de los aeropuertos. [for] algo tan mundano como ir a comprar una pinta de leche en las tiendas”, dijo a CNN Madeleine Stone, oficial principal de defensa de Big Brother Watch, un grupo de campaña de libertades civiles del Reino Unido.
Registrar los datos biométricos de los compradores es equivalente a pedirles que «entreguen su huella dactilar o incluso una muestra de ADN solo para entrar a las tiendas».
Gordon, que también dirige el bar de vinos más antiguo de Londres, dijo el sistema fue preciso el 99,85% del tiempo el mes pasado en la identificación de reincidentes.
Pero a veces ocurren errores, agregó. En esos casos, la persona marcada incorrectamente como infractor puede presentar una queja ante Facewatch y hacer que se borren sus datos del sistema.
“A veces encontrará a alguien que es un doble de otra persona”, dijo Gordon, lo que resultará en una alerta incorrecta. Eso ha sucedido “algunas veces”, aunque, una vez consciente del error, la empresa borra “inmediatamente” los datos de la persona.
No les ha pasado nada. No han sido encarcelados”, dijo Gordon.
El sistema es legal en el Reino Unido, señaló, y las empresas que lo instalen deben colocar un letrero en su tienda que informe a los clientes que está en uso. Facewatch también retiene los datos de los compradores durante solo dos semanas, la mitad del tiempo que una cámara de seguridad «CCTV» normal en el Reino Unido normalmente almacena imágenes.
Pero para Stone eso no es suficiente. Ella dijo que «las personas no deberían tener que probar proactivamente su inocencia», y señaló el bien documentada potencial de sesgo en software impulsado por IA.
“Es muy fácil que lo coloquen incorrectamente en las listas de vigilancia y que su vida cambie realmente si no puede acceder a sus tiendas locales porque alguna tecnología impulsada por inteligencia artificial lo ha marcado como un delincuente, lo cual no es”, dijo. .
Pero Gordon confía en que el sistema de Facewatch no tiene ningún sesgo y destaca que cuenta con el apoyo de personal humano capacitado en reconocimiento facial.
“La inteligencia artificial es increíble ahora”, dijo. “En cualquier algoritmo decente, se ha eliminado el sesgo”.
Gordon comenzó Facewatch hace 13 años como una forma de compartir imágenes capturadas por cámaras de seguridad tradicionales con la policía, pero se sintió frustrado por una falta de respuesta.
“La policía no pudo lidiar con eso. No están realmente interesados en este nivel de delincuencia”, dijo.
En el año que finalizó en marzo de 2022, los niveles de violencia y abuso en las tiendas de Inglaterra y Gales casi duplicaron los de antes de la pandemia, según un estudio reciente. encuesta de empresas por el British Retail Consortium.
La cantidad de robos también se disparó durante el año calendario 2022 en 10 de las ciudades más grandes de Inglaterra, Gales e Irlanda del Norte, dijo el grupo comercial a CNN. Eso ha coincidido con un fuerte aumento en el costo de vida, incluyendo en los precios de los alimentos. La inflación alimentaria en el Reino Unido, que se situó en el 18,4% en junio, es muy superior a la de sus vecinos europeos o Estados Unidos.
“Algo como el hurto en tiendas tiene causas e impacto realmente complicados: no debemos apresurarnos a buscar una solución impulsada por IA”, argumenta Stone en Big Brother Watch.
Gordon, sin embargo, dijo que la tecnología no era quiso decir penalizar los casos de robo a pequeña escala, únicos o incluso accidentales, pero los infractores reincidentes, que pueden costar miles de dólares a las empresas individuales en ingresos perdidos, así como a aquellos que amenazan al personal.
“Este es el sector privado tratando de mantener a salvo a su personal”, dijo. “Ese es el objetivo principal”.
Gordon está recibiendo solicitudes de productos de Facewatch de empresas de todo el mundo y busca expandirse en los Estados Unidos.
El sistema está ganando popularidad en medio de los temores sobre el potencial de la IA para desestabilizar la sociedad, ya sea a través de niveles sin precedentes de intrusión en la privacidad de las personas o por reemplazando millones de puestos de trabajo, entre un montón de otras preocupaciones.
Los gobiernos están intensificando los esfuerzos para regular la tecnología. El mes pasado, el Parlamento Europeo acordó prohibir el uso de tecnología de reconocimiento facial en tiempo real impulsada por IA en espacios públicos. El proyecto de ley, una vez aprobado formalmente, será el el primero de su tipo para establecer reglas sobre cómo las empresas usan la IA.
