COMPARTIR:Share on FacebookShare on Google+Tweet about this on TwitterShare on LinkedIn

Hoy, Estados Unidos se desmorona bajo el peso de dos pandemias: el coronavirus y la brutalidad policial.

Ambos causan violencia física y psicológica. Ambos matan y debilitan desproporcionadamente a las personas negras y marrones. Y ambos están animados por la tecnología que diseñamos, reutilizamos e implementamos, ya sea el rastreo de contactos, el reconocimiento facial o las redes sociales.

La Unión Europea prepara una base de datos biométrica para controlar las fronteras

¿Cuáles son las alternativas contactless que se perfilan post-pandemia?

CaixaBank instala cajeros con tecnología biométrica

A menudo recurrimos a la tecnología para ayudar a resolver problemas. Pero cuando la sociedad define, enmarca y representa a las personas de color como “el problema”, esas soluciones a menudo hacen más daño que bien. Hemos diseñado tecnologías de reconocimiento facial que se dirigen a sospechosos criminales en función del color de la piel. Hemos entrenado sistemas automatizados de perfiles de riesgo que identifican desproporcionadamente a las personas latinas como inmigrantes ilegales. Hemos ideado algoritmos de calificación crediticia que identifican desproporcionadamente a las personas negras como riesgos y les impiden comprar casas, obtener préstamos o encontrar trabajo.

دانلود نرم افزار موبایل تشخیص ملیت و نژاد و تغییر چهره گردینت ...

Entonces, la pregunta que debemos enfrentar es si continuaremos diseñando y desplegando herramientas que sirvan a los intereses del racismo y la supremacía blanca.

Por supuesto, no es una pregunta nueva en absoluto.

Derechos no civiles

En 1960, los líderes del Partido Demócrata se enfrentaron a su propio problema: ¿cómo podría su candidato presidencial, John F. Kennedy, apuntalar la disminución del apoyo de los negros y otras minorías raciales?

Un politólogo emprendedor en el MIT, Ithiel de Sola Pool , se les acercó con una solución. Recopilaría datos de votantes de elecciones presidenciales anteriores, los introduciría en una nueva máquina de procesamiento digital, desarrollaría un algoritmo para modelar el comportamiento electoral, predeciría qué posiciones políticas conducirían a los resultados más favorables y luego recomendaría a la campaña de Kennedy que actuara en consecuencia. Pool comenzó una nueva compañía, la Simulmatics Corporation , y ejecutó su plan. Tuvo éxito, Kennedy fue elegido y los resultados mostraron el poder de este nuevo método de modelado predictivo.

La tensión racial se intensificó a lo largo de la década de 1960. Luego vino el largo y caluroso verano de 1967. Quemaron ciudades de todo el país, desde Birmingham, Alabama, hasta Rochester, Nueva York, Minneapolis, Minnesota, y muchas más en el medio. Los estadounidenses negros protestaron por la opresión y la discriminación que enfrentaron a manos del sistema de justicia penal de Estados Unidos. Pero el presidente Johnson lo llamó “desorden civil” y formó la Comisión Kerner para comprender las causas de los “disturbios del gueto”.

Pero a fines de la década de 1960, este tipo de información había ayudado a crear lo que se conoció como “sistemas de información de justicia penal”. Proliferaron a lo largo de las décadas, sentando las bases para el perfil racial, la vigilancia predictiva y la vigilancia racialmente selectiva. Dejaron un legado que incluye a millones de mujeres y hombres negros y marrones encarcelados.

La tecnología de reconocimiento facial tiene sesgos raciales

Reenmarcar el problema

La negrura y los negros. Ambos persisten como el problema de nuestra nación, me atrevo a decir incluso el de nuestro mundo. Cuando el rastreo de contactos surgió por primera vez al comienzo de la pandemia, fue fácil verlo como una herramienta de vigilancia de la salud necesaria pero benigna. El coronavirus fue nuestro problema, y ​​comenzamos a diseñar nuevas tecnologías de vigilancia en forma de aplicaciones de rastreo de contactos, monitoreo de temperatura y mapeo de amenazas para ayudar a abordarlo.

Pero sucedió algo curioso y trágico. Descubrimos que las personas negras, las personas latinas y las poblaciones indígenas estaban infectadas y afectadas de manera desproporcionada. De repente, también nos convertimos en un problema nacional; amenazamos desproporcionadamente con propagar el virus. Eso se agravó cuando el trágico asesinato de George Floyd por un oficial de policía blanco envió a miles de manifestantes a las calles. Cuando comenzaron los saqueos y disturbios, nosotros, los negros, fuimos vistos nuevamente como una amenaza para la ley y el orden, una amenaza para un sistema que perpetúa el poder racial blanco.

Si no queremos que nuestra tecnología se use para perpetuar el racismo, debemos asegurarnos de no combinar problemas sociales como el crimen, la violencia o las enfermedades con personas negras y marrones. Cuando hacemos eso, corremos el riesgo de convertir a esas personas en los problemas que implementamos para resolver nuestra tecnología, la amenaza que diseñamos para erradicarla.

Fuente: MIT

COMPARTIR:Share on FacebookShare on Google+Tweet about this on TwitterShare on LinkedIn

NO COMMENTS

DEJAR UN COMENTARIO