COMPARTIR:Share on FacebookShare on Google+Tweet about this on TwitterShare on LinkedIn

Los libertarios civiles están dando la alarma ante una reciente solicitud de patente de Amazon que describe un sistema que puede comparar imágenes de timbres de los hogares con capacidad de video contra bases de datos de personas que presuntamente cometieron delitos. Temen que el sistema impulse los perfiles raciales y alertará automáticamente a la policía cuando registre a personas sospechosas en la puerta.

Los activistas han criticado a Amazon por lanzar su herramienta de reconocimiento facial, conocida como Rekognition, a la policía y a la agencia de Inmigración y Control de Aduanas de EE. UU. Ahora Amazon puede estar sopesando si combinar esa herramienta o una similar con timbres con video, que combinan un timbre con una cámara de seguridad, permiten que aquellos que se encuentran dentro de una casa o apartamento puedan ver, a través de sus teléfonos inteligentes, que están en la puerta. Amazon compró recientemente una empresa que hace timbres de video. La American Civil Liberties Union (ACLU) afirma que el sistema de reconocimiento facial descrito en la solicitud de patente podría indicar a las personas que deben hacer cumplir la ley por participar en actividades cotidianas, como llamar a una puerta.

“El simple hecho de caminar hacia la casa de un amigo puede ocasionar que su rostro, su huella digital o su voz se marquen como” sospechosas “y se envíen a una base de datos del gobierno sin su conocimiento o consentimiento”, escribe el abogado de ACLU, Jacob Snow.

La solicitud de patente no menciona Rekognition por su nombre, pero si esa es la herramienta que usa el gigante tecnológico con su timbre, los activistas podrían estar justificados en sus preocupaciones. La ACLU realizó una prueba en Rekognition el año pasado que comparó las imágenes de miembros del Congreso de los EE. UU. con una base de datos de fotos de arrestos. Encontraron 28 coincidencias falsas ; una parte desproporcionada de ellos involucraba a miembros de minorías. El famoso líder de los derechos civiles John Lewis, por ejemplo, fue considerado criminal. Amazon dice que la ACLU no usó la configuración que recomienda para las búsquedas policiales.

En términos más generales, los investigadores y los miembros del Congreso están preocupados por los sesgos inherentes en el software de reconocimiento facial. Los investigadores de Georgetown Law, por ejemplo, encontraron que los estadounidenses negros tienen más probabilidades de ser identificados por el software de reconocimiento facial de la ley porque ya están representados de manera desproporcionada en las bases de datos de la ley. Un investigador del MIT descubrió que los sistemas producidos por Microsoft, IBM y Megvii son mucho más precisos a la hora de identificar el género de los blancos que en el caso de las minorías, especialmente las mujeres de piel más oscura.

Snow, el abogado de la ACLU, escribe: “La historia de la vigilancia discriminatoria del gobierno deja en claro que enfrentar la vigilancia perjudicará desproporcionadamente a las personas que ya son objeto de ataques por parte del gobierno y están sujetas a perfiles raciales y abusos: inmigrantes, personas de color y personas que anteriormente estaban encarceladas”.

La solicitud de patente de Amazon describe un sistema potencial que podría crear una imagen facial compuesta basada en imágenes de múltiples cámaras. Esas imágenes compuestas podrían compararse con una base de datos que contiene imágenes de presuntos delincuentes. Según los resultados, los usuarios podrían recibir una alerta y ponerse en contacto con la policía. Alternativamente, el sistema podría notificar automáticamente a las autoridades cuando una persona que llama a la puerta está “emparejada” con alguien en la base de datos criminal.

La aplicación describe varias formas en que el sistema potencial podría operar. Un escenario parece describir una red de cámaras en los vecindarios que espían a las personas en el área y, si se registran como “sospechosas”, informándolo a la policía:

“Una vez que se determina que la persona es una persona sospechosa, se puede enviar automáticamente una alerta a la policía. Por ejemplo, las imágenes faciales parciales pueden capturarse en varias casas dentro de un vecindario en respuesta a los eventos de movimiento en cada una de las casas ”, afirma la aplicación.

Una imagen compuesta podría luego ser “comparada con las bases de datos de personas sospechosas”. Los agentes de la ley podrían luego “tomar su propia determinación de si se requiere una acción, como enviar policías al vecindario”.

Snow pinta una imagen sombría de la amplia red de vigilancia que cree que Amazon está desarrollando.

“Con Amazon vendiendo los dispositivos, operando los servidores e impulsando la tecnología en la aplicación de la ley, la compañía está construyendo todas las piezas de una red de vigilancia, llegando desde el gobierno hasta las puertas de nuestras casas”, escribe.

Fuente: Bulletin of the Atomic Scientists

COMPARTIR:Share on FacebookShare on Google+Tweet about this on TwitterShare on LinkedIn

NO COMMENTS

DEJAR UN COMENTARIO