El reconocimiento facial se utilizará para aumentar las ganancias en algunas prisiones australianas

El reconocimiento facial se utilizará para aumentar las ganancias en algunas prisiones australianas
Un sistema de reconocimiento facial se demuestra en una pantalla en la Conferencia Mundial de Inteligencia Artificial (WAIC) en Shanghái.

Foto de Qilai Shen/Bloomberg vía Getty Images

Algunas prisiones australianas pronto se modernizarán con nuevos dispositivos de reconocimiento facial, incluso cuando la reacción violenta por su uso continúa atrayendo la atención de los organismos de control de todo el mundo.

Los detalles de un nuevo acuerdo entre Corrective Services New South Wales y la empresa de TI con sede en Estados Unidos, Unisys, aparecieron por primera vez. principios de la semana pasada. Como parte del acuerdo, que le costará al gobierno de NSW poco menos de $13 millones durante los próximos cuatro años, los reclusos del estado se verán obligados a entregar sus datos biométricos como parte de un esfuerzo por «brindar más seguridad» a las personas que visitan correccionales. instalaciones y hacer que el sistema penitenciario del estado sea más rentable al reducir los costos operativos.

El acuerdo se une a una cola de otros similares alrededor del mundoy llega solo tres meses después Kmart y Bunnings fueron remitidos a la Oficina del Comisionado de Información de Australia para investigar si utilizó la tecnología más allá de los límites de la ley de privacidad. Los activistas digitales y de derechos humanos dicen que la tecnología nunca debería haber llegado a las cárceles.

Samantha Floreani, líder del programa en Digital Rights Watch, le dijo a VICE que a ella y a sus colegas les preocupa que se use en las cárceles y les preocupa dónde podría terminar a continuación.

“La tecnología dañina o controvertida como esta a menudo se prueba en los más vulnerables de la sociedad, especialmente en lugares donde tienen derechos y agencia limitados, como prisiones, escuelas y lugares de trabajo”, dijo Floreani.

“Ya sabemos que la tecnología de reconocimiento facial actual está plagada de prejuicios raciales y que los pueblos aborígenes e isleños del Estrecho de Torres están sobrerrepresentados en las prisiones de Australia. El uso de la vigilancia facial en las prisiones solo exacerbará los daños causados ​​por nuestro sistema de justicia sesgado”.

Las agencias de aplicación de la ley australianas también tienen un historial accidentado en su uso.

En marzo de 2020, la Policía Federal Australiana y las fuerzas policiales estatales Se informó que en Queensland, Victoria y Australia del Sur tenían cuentas registradas con la controvertida empresa de reconocimiento facial, Clearview AI, sin supervisión. La herramienta raspa las plataformas de redes sociales para formar una base de datos en expansión de fotos e información personal.

El lanzamiento del reconocimiento facial en las prisiones de Nueva Gales del Sur el próximo año ofrece a Floreani y a muchos otros expertos un motivo de preocupación inmediato. Entre los más graves se encuentran los temores de que los datos biométricos que se manejan en los establecimientos penitenciarios se manejen mal o se almacenen de manera insegura.

“Dado que el contratista, Unisys, tiene su sede en los EE. UU., esto también genera dudas sobre la transferencia de la información biométrica de los australianos al extranjero”, dijo Floreani.

“Si bien no conocemos los detalles específicos del contrato, es razonable preocuparse por cómo, dónde y por cuánto tiempo se almacenan estos datos, quién más podría tener acceso a ellos, los mecanismos de seguridad establecidos y qué protecciones. existen para evitar que tanto los Servicios Correctivos como Unisys manejen mal los datos”.

Según un portavoz del Departamento de Comunidades y Justicia de NSW, los datos capturados en las prisiones del estado serán capturados y almacenados por el hardware de Unisys y luego administrados por Corrective Services NSW.

El vocero no pudo precisar a qué capacitación se sometería el personal del gobierno antes de manejar la información confidencial, o si el departamento ha implementado alguna medida de seguridad, aparte de decir que la «solución» «operará dentro del marco legislativo existente». .”

Pero actualmente no existen leyes para el uso del reconocimiento facial en Australia, donde la tecnología es utilizada libremente por empresas y agencias gubernamentales por igual. Como resultado, los expertos piden que se detenga su uso hasta que se consagren nuevas protecciones en la ley.

Uno de ellos es el ex Comisionado de Derechos Humanos de Australia, Ed Santow, quien está impulsando una nueva “ley modelo”, luego de dictar un informe histórico en 2021 que recomendó una moratoria urgente sobre el uso tanto del reconocimiento facial como de la inteligencia artificial en entornos de alto riesgo en toda Australia.

“La nueva tecnología debería darnos lo que queremos y necesitamos, no lo que tememos”, dijo Santow en mayo del año pasado.

“Nuestro país siempre ha abrazado la innovación, pero a lo largo de nuestro proyecto de Derechos Humanos y Tecnología, los australianos nos han dicho constantemente que la nueva tecnología debe ser justa y responsable”, dijo.

“Es por eso que recomendamos una moratoria sobre algunos usos de alto riesgo de la tecnología de reconocimiento facial y sobre el uso de ‘caja negra’ o IA opaca en la toma de decisiones por parte de corporaciones y gobiernos”.

Floreani pidió lo mismo. Dijo que el uso del reconocimiento facial en entornos de alto riesgo como la aplicación de la ley «merece más escrutinio, no menos».

“Me preocupa que algunas personas puedan tener la tentación de descartar las preocupaciones legítimas sobre las tecnologías de vigilancia en un contexto penitenciario, debido al estigma continuo de las personas encarceladas o la percepción de que son un caso excepcional o un ‘otro’”, dijo.

“Pero las personas en prisión y quienes las visitan no deberían estar sujetas a tecnología de vigilancia invasiva como el reconocimiento facial. Además, seríamos extremadamente tontos si creyéramos que las tecnologías utilizadas en un contexto carcelario no se implementarán más ampliamente a medida que se normalicen”.

Sigue a Juan en Gorjeo.

Leer más de VICE Australia.

FUENTE DEL ARTICULO