Archivos por Etiqueta: reconocimiento facial

El primer caso de un hombre acusado erróneamente por el reconocimiento facial

En 2054, el capitán John Anderton es el jefe de la fuerza de policía PreCrime en Washington. En la cita dirigida por el polifacético director Steven Spielberg, el actor Tom Cruise es quien se pone en el papel. La cosa se va de madre en «Minority Report». Aunque es ficción, en la vida real el empleo de tecnologías para resolver crímenes está cada vez más a la orden del día. La tecnología de reconocimiento facial, que se ha incorporado como herramientas en algunos países, es la más cuestionada. Los fallos técnicos y los habituales sesgos que se producen amenazan su adopción futura en un contexto disputado por grandes empresas tecnológicas.

Pero no está exenta de fallos. Porque los algoritmos diseñados para detectar la culpabilidad en crímenes le queda aún bastante rodaje. Según informa «The New York Times», un hombre afroamericano residente en Michigan estuvo detenido durante treinta horas después de que la tecnología de reconocimiento facial empleada por la policía confundiera su aspecto en un crimen que no cometió.

El curioso episodio se remonta a enero. Robert Julian-Borchak Williams recibió una una llamada del Departamento de Policía de Detroit cuando se encontraba trabajando en una oficina de una compañía de suministros de automoción. El agente con el que habló le adelantó su detención. Un hecho que se produjo, finalmente, a su regreso a su domicilio. Dos patrullas le abordaron, según el relato del medio estadounidense, delante de su esposa y sus dos hijas. Fue acusado de robar en octubre de 2018 unos cinco relojes de lujo valorados en 4.000 dólares en una tienda de joyería.

Imagen del detenido
Imagen del detenido – NEW YORK TIMES

«¿Este eres tú?»

La policía llevó al detenido a la comisaría, donde le tomaron fotografías, las huellas digitales y muestras del ADN. Lo retuvieron durante toda la noche hasta que, alrededor del mediodía del viernes, dos detectives lo trasladaron a una sala de interrogatorios. La versión del detenido es que lo único que hicieron fue mostrarle tres imágenes procedentes de la cámara de seguridad. «¿Este eres tú?», dijo el agente. Se trataba de un hombre corpulento, vestido de negro y con una gorra. Los rasgos, aparentemente, coincidían con el detenido.

Para localizar al sospechoso, los investigadores emplearon el software DataWork Plus. La tecnología identificó al detenido gracias a cargar las imágenes de las cámaras de vigilancia. El sistema dio información relevante. Pero resultó un falso positivo. Algo que se produce muy habitualmente por la existencia de sesgos entre personas negras. A pesar de no ser culpable, tuvo que pasar varias horas hasta que fue liberado tras pagar una fianza de 1.000 dólares.

En la actualidad se ha abierto un intenso debate a escala internacional sobre el racismo en las detenciones. En Estados Unidos se han registrado decenas de protestas a raíz de la muerte a manos de un agente de policía de George Floyd. Un hecho que ha despertado, además, las dudas sobre los sistemas de vigilancia utilizados por la policía. Los sistemas de reconocimiento facial se llevan utilizando por las fuerzas policiales desde hace varios años. Estudios recientes realizados por el MIT y el Instituto Nacional de Estándares y Tecnología (NIST) han encontrado que sesgos e imprecisiones entre personas de color oscuro.

De hecho, la tecnología funciona relativamente bien entre personas blancas, pero sus resultados son menos precisos debido a la falta de diversidad en las imágenes utilizadas para desarrollar las bases de datos con las que «entrenar» a los software. Empresas de tecnología como IBM, Microsoft y Amazon han anunciado recientemente que dejará de vender sus herramientas de reconocimiento facial a los cuerpos de seguridad. En un comunicado, la policía ha pedido perdón.

 

reconocimiento-facial-kEsF--620x349@abc

Amazon prohíbe a la policía de EEUU usar el reconocimiento facial

La identificación de rostros es uno de los avances en el campo de la Inteligencia Artificial más interesantes. Como si fuera «Terminator», hoy en día es posible conocer muchos datos personales de un sujeto a partir del análisis de su rostro. Y lo que es más jugoso, en tiempo real. Pero esta tecnología emergente, que está presente incluso en productos de consumo como los teléfonos móviles, no está sujeto a fallos. En pleno debate por la muerte de George Floyd, Amazon ha anunciado que prohíbe el uso del reconocimiento facial a las autoridades policiales de Estados Unidos durante un año.

El gigante del comercio electrónico sigue los pasos de IBM, que recientemente anunció su salida del negocio del reconocimiento facial argumentando fallos técnicos y presencia de sesgos raciales. Esta tecnología ha estado cuestionada en los últimos años después de diversos hallazgos en los que los sistemas empleados llegaban a confundir a personas negras con simios. La gran mayoría de empresas de tecnología cuentan con sus propios desarrollos como Google o Facebook.

Amazon, ahora, da un paso más allá y ha decidido bloquear el acceso a los cuerpos de seguridad estadounidenses a su controvertida herramienta de reconocimiento facial llamada Rekognition. El gigante de internet no especificó cómo forzará la aplicación de la prohibición, aunque es probable que lo haga negándose a ofrecer sus servicios a los cuerpos de Policía y eliminando el apoyo técnico a aquellos que ya dispongan de esta tecnología.

La firma con sede en Seattle (estado de Washington, EE.UU.) ha aprovechado para mandar un recado a las autoridades: reclama una regulación más estricta para que en el futuro se utilice esta tecnología de manera ética. «Esperamos que esta moratoria de un año le brinde al Congreso suficiente tiempo para implementar las reglas apropiadas», explican en un comunicado fuentes de la empresa. Y apuntó que, tras el asesinato de Floyd y la consecuente oleada de protestas a lo largo y ancho del país, «parece que el Congreso está preparado para asumir el desafío» de regular el uso de las técnicas de reconocimiento facial.

Este «parón» durará un año, aunque no ha especificado a partir de qué momento entrará en vigor la prohibición. Tampoco ha trascendido si la medida se extiende más allá de Estados Unidos. Esta medida no implica el abandono de los ensayos y experimentos comerciales de la tecnología facial. Amazon ha insistido en que seguirá vendiendo y proporcionando soporte a organizaciones sin ánimo de lucro como Thorn, el Centro Internacional para Niños Desaparecidos y Explotados y Marinus Analytics para ayudar a rescatar a víctimas de trata de personas y ayudar a que niños desaparecidos se encuentren con sus familias.

El uso de Amazon sobre esta tecnología tuvo que someterse a votación entre sus accionistas el año pasado para decidir si seguía vendiendo a agencias gubernamentales. A principios de 2019, además, una alianza formada por 85 expertos de defensa las libertades civiles envió una carta abierta al fundador de la empresa, Jeff Bezos, implorando a dejar de vender su tecnología de reconocimiento facial a las autoridades. La petición apenas tuvo incidencia. ese mismo año se descubrió que el FBI empleaba el reconocimiento facial para sus labores de investigación.

Esta tecnología está cada vez más cuestionada. Gobiernos y agencias de seguridad de todo el mundo hace años que utilizan las técnicas de reconocimiento facial para labores de identificación de criminales, ayudar en las tareas de búsqueda de menores desaparecidos o prevenir el fraude documental. Sin embargo, grupos en defensa de los derechos civiles han asegurado que esta tecnología invade la privacidad de los ciudadanos de forma excesiva, a la vez que puede perpetuar sesgos contra minorías étnicas.

 

1419468725-k1lE--620x349@abc

Por qué IBM se retira del negocio del reconocimiento facial

IBM ha agitado, por sorpresa, una de las tecnologías más «calientes» de la última década por la que han apostado grandes compañías. En pleno debate racial por la muerte del afroamericano George Floyd a manos de un agente de policía, Arvind Krishna, director general de la compañía estadounidense, ha anunciado que la empresa dejará de vender servicios de reconocimiento facial y ha pedido un «diálogo nacional» acerca de si debe utilizarse en absoluto en Estados Unidos.

Es una tecnología emergente que permite identificar el rostro de una persona con gran precisióny que ha desembarcado en los últimos años incluso en dispositivos electrónicos de consumo como los teléfonos móviles. IBM, además, es uno de los pesos pesados de la Inteligencia Artificial aunque no tanta relevancia económica en el reconocimiento facial, con lo que su decisión puede tener un gran impacto en su desarrollo. La decisión de abandonar el negocio de reconocimiento facial se produce en medio de un profundo debate sobre la tecnología, empleada por varias compañías, por mostrar prejuicios raciales y de género.

No es la única gran compañía que ha apostado en los últimos años por esta tecnología que ha despertado numerosas críticas. Un algoritmo de reconocimiento facial implementado en servicios de Google llegó a confundir a personas negras con simios. El uso propio de Amazon de esta tecnología tuvo que someterse a votación entre sus accionistas el pasado año para decidir si seguía vendiendo a agencias gubernamentales. «La Inteligencia Artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener seguros a los ciudadanos. Pero los vendedores y usuarios de estos sistemas tienen una responsabilidad para garantizar que la Inteligencia Artificial se someta a pruebas de sesgo», escribe Krishna en una carta enviada a los miembros del Congreso.

La empresa cuenta con una importante base de datos faciales que destaca, a diferencia de otras alternativas, por su diversidad. Algo que se ha enmarcado en los principios éticos que la compañía ha enarbolado en los últimos años. «IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluido el reconocimiento facial ofrecida por otros proveedores, para vigilancia masiva o cometer violaciones de los derechos humanos y las libertades civiles», apunta Krishna.

«Ahora es el momento de iniciar un diálogo nacional sobre si las agencias nacionales deben emplear la tecnología de reconocimiento facial», añade. Algunas ciudades estadounidenses como San Francisco o San Diego ya han prohibido el uso de la tecnología de reconocimiento facial en actividades de seguridad pública, alegando que presenta limitaciones y promueve posibles prejuicios contra las minorías étnicas. incluso desde la Unión Europea se ha considerado una prohibición de hasta cinco años en áreas públicas.

Para Mónica Villas, experta en transformación digital, los avances en el campo de la Inteligencia Artificial son imparables. «La IA está aquí para ayudaros y se va a quedar. El reconocimiento de imagen es una parte más de la IA», apunta en conversación telefónica con ABC, quien considera que los sesgos que se producen en estas tecnologías «pueden estar en los datos o en el diseño de los algoritmos». «Tienes que tener cuidado con las fuentes de entrenamiento porque pueden tener un gran impacto», sostiene.

reconocimiento-facial-kEsF--620x349@abc

Miedo al reconocimiento facila, ¿debería estar prohibida esta tecnología?

De unos años a esta parte, nos hemos acostumbrado a vivir con las cámaras de vigilancia. Tanto, que ni siquiera reparamos en su presencia. Si sale de casa, y pega una vuelta por el centro de su ciudad, seguramente se sorprenda con la cantidad de dispositivos de este tipo anclados a las fachadas. Ahora, gracias al desarrollo de la tecnología, algunos paises han decidido dar una paso más y añadirles un software de reconocimiento facial con fines de vigilancia. Algo que ha generado una importante polémica debido a sus implicaciones éticas y legales.

«Teniendo en cuenta el desarrollo de la tecnología, es normal que se emplee. Pero esto no significa que sea necesariamente bueno. Hay un problema de reflexión. Estamos viendo que el reconocimiento facial se está empleando, en algunos casos, para monitorizar a la población. Especialmente en lugares donde no hay derechos reconocidos», dice a este diario Ofelia Tejerina, abogada y presidenta de la Asociación de Internautas.

«Hay un problema de reflexión. Estamos viendo que el reconocimiento facial se está empleando, en algunos casos, para monitorizar a la población»

Efectivamente, esta tecnología se está asentando con facilidad. «Smartphones», como el iPhone X y 11 o el Samsung Galaxy S20, permiten su empleo para mejorar la seguridad del dispositivo. Lo mismo ocurre con entidades bancarias, comercios o redes sociales como Facebook. Incluso las empresas automovilísticas están trabajando para adoptarla, junto al reconocimiento de voz, en sus futuros vehículos. Hasta aquí, todo correcto. Sin embargo, cuando se emplea en espacios públicos con fines de vigilancia, ¿qué pasa si falla o se le da un uso erroneo?

«Ante un error del software de reconocimiento, que podría ocurrir, el usuario va a tener muy difícil demostrar que él no estaba ahí. También hay que saber quien tiene acceso a esa información y para qué la va a utilizar. Si hubiese una brecha de seguridad, y alguien la emplease para hacer ver que estaba en un sitio, puede resultar también muy difícil demostrar lo contrario. Por otra parte, si esa tecnología cuenta con mecanismos para reconocer las emociones e intenciones de los ciudadanos, nos encontramos ante otro problema. ¿Qué pasaría si se utilizase esa información para realizar propaganda electoral? La manipulación del ciudadano sería mucho más fácil con esos datos», explica Tejerina.

Monitorización social

La preocupación por el uso de esta tecnología no es infundada. Especialmente, si atendemos al empleo que se le está dando en países como China. «Existe un gran riesgo de que el Estado [chino] pueda utilizar estos datos para sus propios fines como la vigilancia, el seguimiento de disidentes políticos, el control de la sociedad y de la información, así como de los perfil étnicos o, como en el caso de los uigures en Xinjiang, incluso para implantar un sistema vigilancia policial predictiva», explicaba hace unos meses en declaraciones a AFP Adam Ni, investigador de China en la Universidad Macquarie de Sydney (Australia).

Más allá del estado asiático, la policía de Londres (Reino Unido) ha avanzado su intención de usar cámaras con reconocimiento facial en sus labores de vigilancia de delincuentes. A su vez, el reciente descubrimiento de un software que empleaba el FBI estadounidense ha vuelto a poner de relieve la falta de una regulación más exhaustiva en esta materia. Desarrollado por una «startup» desconocida llamada Clearview IA, su objetivo es el reconocimiento facial de posibles delincuentes. En este caso, una sola fotografía es más que suficiente para acceder a un banco de 3.000 millones de imágenes.

Falta de regulación

Estos ejemplos han llevado a la Comisión Europea a meditar la posibilidad de prohibir durante cinco años su empleo con fines de identificación en lugares públicos. Sin embargo, según adelantaba hace unos días «Expansión», Bruselas ha terminado optando por dejar en manos de los estados miembro la posibilidad de adoptarla o restringirla. Independientemente de lo que ocurra, los juristas destacan la importancia de que el uso se regule específicamente. Y es que el reconocimiento facial no solo representa un riesgo para el derecho a la privacidad de las personas, sino que también choca contra la libertad de expresión reconocida por las constituciones occidentales.

«Es un dato personal que entra en la regulación de la normativa, pero como tiene una característica especial necesita una regulación igualmente peculiar porque ahora mismo es genérica»

«A diferencia de otros mecanismos de seguimiento, con el reconocimiento facial tú no puedes desconectar tu cara. Si no quiero que me sigan con el GPS, desconecto la función del móvil. Con la red Wifi sucede igual. Pero no puedo apagar mi rostro temporalmente. Y no puedo ir por la calle con un pasamontañas. Además, el reconocimiento facial es invisible para el usuario por lo que tú no te das cuenta de que te están haciendo un reconocimiento», apunta a ABC Samuel Parra, jurista experto en derecho digital.

El abogado destaca, además, que en el marco del Reglamento General de Protección de Datos (RGPD) se considera que el rostro es un dato biométrico que identifica a una persona. Algo que implica que es personal, y, por tanto sensible: «Es un dato personal que entra en la regulación de la normativa, pero como tiene una característica especial necesita una regulación igualmente peculiar porque ahora mismo es genérica».

 

reconocimiento-facial-kMDF--620x349@abc

Cámaras de reconocimiento facial para combatir el crimen en Londres

La policía de Londres, Metropolitan Police Service (MET), ha comenzado a utilizar cámaras con tecnología de reconocimiento facial en directo(LFR) distribuidas por la ciudad con el fin de reducir el crimen y la violencia en la capital inglesa.

La Policía de Londres ha explicado, a través de un comunicado, que el objetivo de la implantación de la tecnología LFR es el de facilitar su trabajo. De este modo, será un complemento que ayudará a localizar a los criminales, y se centrarán en pequeñas áreas para analizar a los viandantes

Estas cámaras se implementarán endeterminadas localizaciones distribuidas por la ciudad con el fin de combatir la violencia, la explotación infantil y los ataques con cuchillos y armas de fuego que han aumentado en los últimos años, según Statista, hasta alcanzar una tasa de criminalidad de 95,99 crímenes cometidos por cada mil personas en 2019.

Con la introducción de esta tecnología no se pretende acabar con la tradicional vigilancia policial, sino que funcionará como una herramienta complementaria que dará un aviso al agente para informarle de que la persona que busca podría estar en un determinado lugar.

Las cámaras se colocarán en los puntos donde haya más probabilidades de localizar a a los delincuentes más peligrosos, y cada patrulla tendrá una lista de observación donde aparecen los delincuentes más buscados.

El comisario adjunto de la MET, Nick Ephgrave, ha reafirmado la transparencia de este proyecto declarando que «las cámaras estarán claramente señalizadas y los agentes desplegados en la operación repartirán folletos sobre la actividad».

«Todos queremos vivir y trabajar en una ciudad que es segura: la gente espera que usemos toda la tecnología de la que disponemos para detener a los criminales», declaró. «Pero a su vez tengo que asegurar de tenemos las salvaguardas correctas y la transparencia en orden para asegurar que protegemos la privacidad y derechos humanos de las personas», apuntó, a su vez, el comisario.

Ephgrave añadió que esta tecnología ya se utiliza en el sector privado y que no solo ayudaría a la detención de criminales sino que también ayudaría a localizar a niños perdidos y adultos vulnerables.

camara-k5EE--620x349@abc