La Justicia de la Ciudad Aut\u00f3noma de Buenos Aires mantiene la suspensi\u00f3n del uso del Sistema de Reconocimiento Facial de Pr\u00f3fugos (SRFP<\/strong>) luego de que una audiencia con especialistas y representantes del Ministerio de Seguridad porte\u00f1o determinara que todav\u00eda no hay acuerdo sobre c\u00f3mo auditar esta tecnolog\u00eda.<\/strong> Se trata de una inteligencia artificial que, para muchos expertos, tiene problemas que han derivado en detenciones err\u00f3neas y es cuestionada en t\u00e9rminos de privacidad y garant\u00edas en diversos pa\u00edses.<\/p>\n<\/div>\n El sistema, implementado para detectar e identificar a pr\u00f3fugos de la Justicia y delincuentes en 2019, demostr\u00f3 sus falencias cuando un ciudadano pas\u00f3 casi una semana preso porque lo confundieron con un delincuente que ten\u00eda su mismo nombre, Guillermo Ibarrola. A fines del a\u00f1o pasado, el tema volvi\u00f3 a estar en agenda, esta vez nacional, cuando el Gobierno de Javier Milei apunt\u00f3 a implementar esta tecnolog\u00eda para identificar a manifestantes y penalizarlos con el retiro de planes sociales.<\/p>\n<\/div>\n A partir de un pedido de acceso de la informaci\u00f3n p\u00fablica realizado en 2019 por el Observatorio de Derecho Inform\u00e1tico de la Argentina (O.D.I.A.), y luego una acci\u00f3n de amparo, se dieron una serie de procesos legales empujados tambi\u00e9n por el Centro de Estudios Legales y Sociales (CELS)<\/strong> y la Fundaci\u00f3n V\u00eda Libre<\/strong> que desembocaron en la suspensi\u00f3n del uso del reconocimiento facial en territorio porte\u00f1o, desarrollado por la empresa de software Danaide S.A.<\/strong><\/p>\n<\/div>\n Hace dos semanas, una audiencia intent\u00f3 definir de qu\u00e9 manera se iba a auditar el sistema, sin llegar a un acuerdo, pasando a un cuarto intermedio y tomando la decisi\u00f3n de mantener su bloqueo. Ac\u00e1, qu\u00e9 implica el sistema, qu\u00e9 riesgos representa y qu\u00e9 explica el Gobierno porte\u00f1o para justificar su reactivaci\u00f3n.<\/strong><\/p>\n<\/div>\n La tecnolog\u00eda de reconocimiento facial se basa en verificar la identidad de una persona a partir de sus rasgos faciales. Para esto, se analizan caracter\u00edsticas \u00fanicas como la forma de la nariz, la distancia de los ojos o la forma de los p\u00f3mulos.<\/p>\n<\/div>\n \u201cSe entiende por reconocimiento facial a aquella tecnolog\u00eda que permite identificar o verificar, mediante un proceso automatizado, a una persona a trav\u00e9s de una imagen, video o cualquier elemento audiovisual de su rostro\u201d, explic\u00f3 a Clar\u00edn <\/strong>Mar\u00eda Luj\u00e1n Gallego, abogada y especialista en Protecci\u00f3n de Datos del Estudio Brons & Salas.<\/p>\n<\/div>\n Tiene diversos usos, desde algunos cotidianos como aplicaciones como Mercado Pago, donde se apunta a validar una identidad (en el caso de estas aplicaciones, como medidas de seguridad m\u00e1s robustas que una contrase\u00f1a o PIN). A nivel estatal, su uso tiene que ver con \u201cprevenir la comisi\u00f3n de delitos, <\/strong>verificar si una persona cuenta con antecedentes penales o verificar, ante la comisi\u00f3n de un delito, si la persona o grupo de personas han tenido injerencia en el hecho en cuesti\u00f3n\u201d, agrega Gallego. En los accesos a los estadios, por ejemplo, se usa un tipo de sistema para lo que se conoce como Tribuna Segura 2.0 y que tiene como objetivo impedir el ingreso de personas con antecedentes.<\/p>\n<\/div>\n Clar\u00edn consult\u00f3 al Gobierno de la Ciudad c\u00f3mo funciona esta tecnolog\u00eda SRFP en suelo porte\u00f1o. \u201cLa tecnolog\u00eda empe\u00f1ada para el reconocimiento facial que analiza im\u00e1genes de una base de datos p\u00fablica llamada CONARC (Consulta Nacional de Rebeld\u00edas y Capturas) es gestionada por el Ministerio de Justicia y Derechos Humanos de la Naci\u00f3n, o por orden directa de una autoridad judicial competente. Esta base se actualiza diariamente y contiene registros de personas mayores de edad que est\u00e1n siendo buscadas por la justicia\u201d, explicaron.<\/p>\n<\/div>\n El uso, argumentan, est\u00e1 justificado en gran parte por los resultados: \u201cAl momento de ser suspendido, el Sistema de Reconocimiento Facial de Pr\u00f3fugos hab\u00eda logrado detectar, circulando libremente por la Ciudad Aut\u00f3noma de Buenos Aires, 1743 pr\u00f3fugos -sobre una base nacional de aproximadamente 40 mil-, incluyendo acusados de homicidio, robo y distintas modalidades de abuso sexual, entre otros delitos\u201d.<\/p>\n<\/div>\n Seg\u00fan explican, \u201cs\u00f3lo al detectar una coincidencia con el CONARC, el Centro de Monitoreo Urbano emite una alerta, generando una carta de servicio y notificando al personal policial para intervenir. Adem\u00e1s, cabe destacar que el sistema se rige por la legislaci\u00f3n que regula el Sistema Integral de Seguridad P\u00fablica de la Ciudad y est\u00e1 sujeto a auditor\u00edas por parte de la Defensor\u00eda del Pueblo\u201d, agregaron, adem\u00e1s de una comisi\u00f3n de la Legislatura tambi\u00e9n es parte del proceso de control del sistema.<\/p>\n<\/div>\n Es esa auditor\u00eda el punto de discrepancia de estas tres organizaciones de la sociedad civil que impide que hoy el sistema pueda ser utilizado: \u201cEl uso de esta tecnolog\u00eda sin el adecuado marco normativo podr\u00eda llegar a vulnerar o violar derechos personal\u00edsimos de los ciudadanos<\/strong>, como ser el de la privacidad, igualdad o discriminaci\u00f3n\u201d, advirti\u00f3 Gallego.<\/p>\n<\/div>\n La situaci\u00f3n del ciudadano detenido por un error del sistema en Bah\u00eda Blanca funciona como caso testigo de que esta tecnolog\u00eda puede funcionar mal, llevando a privar de su libertad a un ciudadano inocente, o que el sistema puede tener sesgos que perjudiquen a la poblaci\u00f3n. El punto de las organizaciones que se oponen tiene que ver con esto: auditarlo para saber exactamente c\u00f3mo funciona y c\u00f3mo est\u00e1 hecho este software.<\/p>\n<\/div>\n En una verdadera odisea, Federico Ibarrola estaba volviendo de Tigre y al llegar a la estaci\u00f3n de trenes de Retiro la polic\u00eda lo captur\u00f3, luego de que el sistema de reconocimiento facial del gobierno de la ciudad de Buenos Aires lo identificara como el pr\u00f3fugo por un violento robo cometido en Bah\u00eda Blanca hac\u00eda tres a\u00f1os. \u201cEn lugar de cargar los datos del Guillermo Federico Ibarrola que hab\u00eda sido identificado como sospechoso por un testigo, se cargaron los de este hombre que es un hom\u00f3nimo\u201d, hab\u00edan explicado fuentes judiciales por aquel entonces.<\/p>\n<\/div>\n \u201cDebe hacerse un estudio pormenorizado con la intervenci\u00f3n de todos los sectores que puedan verse involucrados a fin de resguardar los derechos de todas las partes que se ver\u00e1n involucradas en la implementaci\u00f3n del sistema en cuesti\u00f3n. Evaluar riesgos, beneficio e implicancia de su puesta en marcha, instrumentar los medios necesarios para que la poblaci\u00f3n tenga conocimiento de esta nueva herramienta a ser utilizadas. No se deben perder de vista los derechos individuales de los ciudadanos, los que no pueden ser vulnerados por el Estado<\/strong>\u201d, advierte Gallego.<\/p>\n<\/div>\n Debido a este tipo de casos, la jueza en lo Contencioso Administrativo de la Ciudad de Buenos Aires, Elena Liberatori, declar\u00f3 la inconstitucionalidad del funcionamiento del SRFP implementado por el Gobierno porte\u00f1o en septiembre de 2022, algo confirmado por la Sala I de la C\u00e1mara de Apelaciones, que envi\u00f3 todo a primera instancia para insistir sobre su auditor\u00eda para descartar que tenga sesgos raciales, \u00e9tnicos o de g\u00e9nero.<\/strong><\/p>\n<\/div>\n En este contexto, la audiencia de hace dos semanas ten\u00eda a las dos partes enfrentadas: el Gobierno porte\u00f1o pidiendo que el sistema se reactive por un lado, y las entidades de la sociedad civil O.D.I.A., V\u00eda Libre y el CELS por el otro.<\/p>\n<\/div>\n Desde el Ministerio de Seguridad de la Ciudad aseguraron a este medio que est\u00e1n \u201cdesde el primer d\u00eda a disposici\u00f3n de la jueza Liberatori, trabajando para responder a cada una de las medidas de prueba que la doctora solicit\u00f3\u201d, entre ellas, \u201cponer a disposici\u00f3n el software, informar a la ciudadan\u00eda y la sociedad civil del Sistema, colaborar con las pericias t\u00e9cnicas que llevar\u00e1n adelante expertos de la Facultad de Ciencias Exactas de la UBA y generar un plan de trabajo que contemple todas las observaciones ciudadanas, judiciales, legislativas y de control que permitan utilizar el sistema con el fin de tener una Ciudad m\u00e1s segura\u201d.<\/p>\n<\/div>\n \u201cEl Ministerio de Seguridad porte\u00f1o dijo que ellos estaban a disposici\u00f3n para todas las auditor\u00edas, as\u00ed que pidieron activar el sistema y auditarlo en funcionamiento. Eso no prosper\u00f3, o sea que el sistema est\u00e1 apagado y no lo pueden volver a prender\u201d, explic\u00f3 Beatriz Busaniche, presidenta de la Fundaci\u00f3n V\u00eda Libre, quien particip\u00f3 de la audiencia.<\/p>\n<\/div>\n \u201cHay un fallo de C\u00e1mara que est\u00e1 firme, que proh\u00edbe la utilizaci\u00f3n del sistema de reconocimiento facial hasta tanto no se cumplan con las especificaciones legales de los mecanismos de \u2018contralor\u2019 [control]. El gran problema es qui\u00e9n y c\u00f3mo hace la auditor\u00eda\u201d, sum\u00f3 Busaniche.<\/p>\n<\/div>\n El enfrentamiento entre las partes significa que hasta que no haya una auditor\u00eda sobre el software utilizado y su implementaci\u00f3n, el sistema seguir\u00e1 sin utilizarse. \u201cLa jueza Liberatori no acept\u00f3 ordenar la reimplementaci\u00f3n del sistema mediante una simple auditor\u00eda de caja negra, que entendemos que ser\u00eda insuficiente\u201d, explic\u00f3 a Clar\u00edn <\/strong>Tom\u00e1s Pomar, presidente de O.D.I.A., la entidad que inici\u00f3 los reclamos en 2019.<\/p>\n<\/div>\n Una auditor\u00eda de caja negra es una prueba de concepto para la que, sin develar los elementos inform\u00e1ticos del sistema, se hacen distintos testeos. \u201cEs decir, no te dejan \u2018ver\u2019 c\u00f3mo es que funciona pero te permiten hacer una prueba de que funciona. Para nosotros, ese puede ser un est\u00e1ndar en el mercado, pero no es apto<\/strong> para tecnolog\u00edas cr\u00edticas utilizadas por el Estado\u201d, critica Pomar.<\/p>\n<\/div>\n \u201cNosotros celebramos la decisi\u00f3n de la Justicia de elevar el nivel de auditor\u00eda requerido para esta tecnolog\u00eda de car\u00e1cter cr\u00edtico, celebramos tambi\u00e9n que se pida un plan de acci\u00f3n donde se compartan los datasets <\/em>y el modelo de entrenamiento [de la IA] y creemos positivo que siga desconectado\u201d, cerr\u00f3 el abogado especialista en privacidad y derechos de los ciudadanos.<\/p>\n<\/div>\n \u201cEl debate pol\u00edtico sobre el tema en Argentina es de una pobreza extrema, se parte del hecho de que cualquier tecnolog\u00eda es necesariamente positiva y \u00fatil sin evaluar su impacto como corresponde. Afortunadamente, la sociedad civil accion\u00f3 a tiempo y la justicia estuvo a la altura de las circunstancias poniendo l\u00edmites para defender no s\u00f3lo el derecho a la libre circulaci\u00f3n, sino con una nota importante en relaci\u00f3n a las compras p\u00fablicas que hace el estado y la obligaci\u00f3n de transparencia de lo que hace con nuestros datos biom\u00e9tricos\u201d, complement\u00f3 Busaniche.<\/p>\n<\/div>\nC\u00f3mo se usa el reconocimiento facial en la Ciudad<\/h2>\n<\/p>\n
![\"As\u00ed](\"https:\/\/www.clarin.com\/img\/2019\/04\/23\/orwMwQoZ-_720x0__1.jpg\"\/)
As\u00ed funciona el sistema de reconocimiento facial de pr\u00f3fugos. Foto Archivo<\/span><\/span><\/picture><\/div>\n\u00bfQui\u00e9n controla al sistema?<\/h2>\n<\/p>\n
![\"Los](\"https:\/\/www.clarin.com\/img\/2019\/04\/23\/UJoMrwo7U_720x0__1.jpg\"\/)
Los par\u00e1metros del sistema, en discusi\u00f3n. Foto Archivo<\/span><\/span><\/picture><\/div>\nEl estado actual: suspendido hasta nuevo aviso<\/h2>\n<\/div>\n
![\"Seguridad](\"https:\/\/www.clarin.com\/img\/2024\/03\/07\/YvTHw0oHK_720x0__1.jpg\"\/)
Seguridad en la Estaci\u00f3n Retiro. Foto Maxi Failla<\/span><\/span><\/picture><\/div>\n