El gobierno porteño vuelve a insistir con una tecnología cuestionada a nivel mundial. A través del Ministerio Público Fiscal, la Ciudad de Buenos Aires adquirió un sistema de reconocimiento facial por 27.588 dólares, una cifra modesta si se la compara con otros contratos, pero significativa por lo que implica en términos de control social. El software en cuestión, provisto por la empresa Clearview Al, opera recolectando imágenes disponibles en Internet -fotos publicadas en redes sociales, sitios web o bancos de datos abiertos- sin consentimiento de quienes aparecen en ellas. Esa información es utilizada para entrenar algoritmos que luego cotejan rostros en investigaciones judiciales.
Manuel Trufó, director del equipo de Justicia y Seguridad del Centro de Estudios Legales y Sociales (CELS), explicó a este medio: “El sistema que había montado el Gobierno de la Ciudad para la búsqueda de prófugos era un sistema que funcionaba en tiempo real. Se aplicaba el software sobre las cámaras de seguridad de la Ciudad con el objetivo de buscar prófugos. Mientras que el software que adquirió el Ministerio Público Fiscal de la Ciudad no es en tiempo real, se aplica sobre imágenes que funcionan como pruebas en el marco de una causa judicial. Entonces la decisión del juez (en el marco de la causa por el reconocimiento facial de prófugos) suspende ese sistema, no el uso de cualquier tecnología de reconocimiento facial con cualquier fin. No hay una prohibición sobre el uso del reconocimiento facial para la investigación criminal”.
La Ciudad ya tiene antecedentes en esta materia. En 2019 se puso en marcha el Sistema de Reconocimiento Facial de Prófugos (SRFP), instalado en unas 300 cámaras distribuidas por el espacio público. Según los anuncios oficiales de aquel entonces, el objetivo era identificar a personas incluidas en la base de datos del Registro Nacional de Reincidencia (CONARC). Sin embargo, la realidad demostró otra cosa: en 2022 la jueza Elena Liberatori declaró «inconstitucional» el sistema tras una acción colectiva impulsada por organismos de Derechos Humanos.
El fallo reveló que al menos 15.000 personas que no figuraban en la base oficial habían sido buscadas por el sistema, configurando una violación masiva a la privacidad. A ello se sumaban los problemas técnicos: falsos positivos que podrían derivar en detenciones arbitrarias y la ausencia de auditorías públicas que permitieran cuestionar errores.
La experiencia del SRFP mostró los límites técnicos y políticos de estas herramientas. Aunque la Cámara de Apelaciones luego autorizó el uso en casos puntuales y con orden judicial previa, el sistema nunca recuperó legitimidad. La decisión reciente de contratar un software con características aún más intrusivas parece, en ese sentido, una provocación que desoye tanto a la Justicia como a la sociedad civil.
Las advertencias no son nuevas. “Los software de reconocimiento facial han presentado en distintas partes del mundo sesgos raciales en el sentido de que tienden a generar mayor cantidad de casos erróneos o falsos positivos entre personas de algunos grupos étnicos específicos, entre otros problemas que pueden generar», sostuvo Trufó. «Por eso es que las organizaciones de la sociedad civil y de Derechos Humanos o de protección de datos personales vienen alertando sobre los riesgos de estos sistemas. Una de las cosas básicas que se pide hacer es una evaluación de impacto. Una prueba de uso de un software específico que pueda dar cuenta de cuáles serían las potenciales negativas de su uso y que debería hacerse obviamente antes de que se lo empiece a utilizar”.
El nombre de Clearview Al no es un dato menor. La compañía ya fue multada en países como Francia, Italia y Canadá por recolectar fotos sin consentimiento y violar regulaciones de privacidad. Organismos como la Electronic Frontier Foundation y el Future of Privacy Forum han alertado que su tecnología no solo es ilegal en varias jurisdicciones, sino que además presenta un nivel de error preocupante, especialmente sobre personas racializadas o pertenecientes a minorías.
Manuel Trufó también alertó: “Esta compañía que desarrolla estos software de reconocimiento facial, Clearview Al, ya tuvo muchos antecedentes muy complicados en distintas partes del mundo. Porque lo que hace esta compañía es armar su propia base de datos a partir de las imágenes colgadas en las redes sociales, asumiendo que esas imágenes son públicas pero de hecho apropiándoselas, privatizándolas y haciendo negocio con los datos personales y la información biométrica de las personas».
Valeria Milanes, directora de la Asociación por los Derechos Civiles (ADC), fue tajante: «Estamos frente a un panóptico digital que se instala sin discusión pública. Ya vivimos la experiencia de un sistema declarado inconstitucional pero, en lugar de aprender de eso, las autoridades deciden redoblar la apuesta. No hay transparencia, no hay auditorías y lo que está en juego es la libertad de todos».
«Cuando uno sube una foto a una red social, por más que la tenga abierta, no está esperando que eso sea apropiada por una empresa y que pase a formar parte de una base de datos para comparar su imagen con la de personas sospechadas por la Justicia. Por estas razones hubo recomendaciones, en Europa sobre todo, de que no se contrate a esta empresa. Y a pesar de estos antecedentes, el Ministerio Público Fiscal la contrató sin que se sepa qué procedimiento de evaluación hubo. Ya no me refiero solamente a la evaluación de impacto, sino por qué se eligió esta empresa y no a otras», destacó Trufó. «Todo un proceso muy opaco, lo único que se supo es que se comunicó que ya se había adquirido el software. Creo que en este caso el principal problema es ese, cómo fue el procedimiento. Y falta una explicación de por qué se contrató justamente a la empresa que tuvo en los últimos años más problemas en relación con la cuestión de los datos personales en distintas partes del mundo”.
La defensa oficial insiste en que el sistema solo se aplicará en investigaciones específicas y con autorización judicial. Pero ese argumento no resiste la experiencia acumulada: una vez instaladas, las herramientas de vigilancia tienden a expandirse y normalizarse.
El problema no es únicamente tecnológico sino político. El Estado acumula datos biométricos sin mecanismos claros de control, en un país donde la legislación vigente -la Ley 25.326 de Protección de Datos Personales- reconoce a la información biométrica como sensible, pero carece de regulaciones específicas para el uso de inteligencia artificial en seguridad pública. Argentina se encuentra rezagada en la discusión sobre IA y vigilancia, sin marcos regulatorios que establezcan responsabilidades, auditorías independientes o evaluaciones de impacto en derechos humanos.
Las consecuencias sociales de esta apuesta por el control digital son evidentes. El reconocimiento facial erosiona el derecho al anonimato en el espacio público, alimenta la autocensura y reproduce sesgos discriminatorios que golpean especialmente a mujeres, personas trans y comunidades racializadas. En un contexto donde la protesta social es parte constitutiva de la vida urbana, el riesgo de convertir la calle en un territorio vigilado es tan real como inmediato.
Lo que el gobierno porteño presenta como «modernización judicial» es, en verdad, un nuevo capítulo de la consolidación de una ciudad vigilada. El rostro deja de ser identidad para transformarse en contraseña de control estatal. Buenos Aires no avanza hacia el futuro: retrocede hacia un panóptico electrónico que amenaza con disolver, en silencio, las libertades más básicas.
