Una herramienta de inteligencia artificial confundió a una chubutense con una mujer que aparecía en un video viralizado en Ceuta, España, y la identificación errónea derivó en una ola de mensajes violentos y amenazas contra Flavia Broffoni, activista y politóloga argentina.
El episodio ocurrió el 26 de agosto. Mientras en España circulaba la imagen de la joven, Broffoni se encontraba en Epuyén, Chubut, a más de 10.000 kilómetros de Ceuta.
Cómo la inteligencia artificial identificó por error a la chubutense
Todo comenzó cuando una mujer de Ceuta se comunicó con Broffoni para advertirle que la estaban buscando y que podía ser atacada.
“¿Dónde estás? ¿Estás en Ceuta?”, decía el correo que recibió la activista, quien aseguró que nunca había estado en esa ciudad y que hacía más de una década que no viajaba a España.
En distintos grupos de WhatsApp circulaba un video en el que aparecía una joven de pelo corto, remera negra y short rojo, mientras se filmaba con su celular.
Junto con las imágenes se difundían afirmaciones no verificadas sobre su presunta participación en incidentes vinculados con inmigrantes marroquíes y las fuerzas de seguridad.
Luego, un usuario recortó el rostro de la mujer que aparecía en el video y realizó una consulta a una herramienta de inteligencia artificial vinculada al buscador de Google.
La respuesta identificó equivocadamente a la persona como Flavia Broffoni y la describió como activista y politóloga argentina.
Una captura de esa búsqueda comenzó a circular en redes y grupos de mensajería, lo que multiplicó la confusión.
“Se ingresa en la inteligencia artificial de Google y esta responde que esa persona soy yo, con una descripción de mi actividad”, relató Broffoni.
Las amenazas que recibió Flavia Broffoni
La falsa identificación tuvo consecuencias concretas. La activista comenzó a recibir mensajes agresivos y amenazas de distintos usuarios que habían visto las publicaciones.
Entre los comentarios aparecieron frases como “habría que aplicarle justicia exprés”, “corre que te estamos buscando”, “al paredón” y “tirarla a Marruecos”.
Según relató Broffoni, también encontró publicaciones con amenazas de violencia sexual y de muerte.
Decenas de personas le escribieron directamente para preguntarle si realmente se encontraba en Ceuta.
Finalmente, una usuaria aclaró en una publicación que la mujer del video no era la argentina. Su nombre fue retirado de la publicación, aunque, según Broffoni, se mantuvo la referencia a una supuesta activista argentina.
La chubutense estaba en Epuyén cuando se viralizó la acusación
Uno de los elementos centrales del caso fue la ubicación de Broffoni. Mientras su nombre circulaba en España, la activista estaba en Epuyén, Chubut, a miles de kilómetros de Ceuta.
Marina Benítez Demtschenko, abogada de Broffoni y especialista en Derecho informático, sostuvo que la distancia geográfica terminó siendo determinante.
“Si hubiera estado en ese territorio, habría corrido riesgo su vida. Lo único que evitó eso fue su ubicación geográfica”, advirtió.
Broffoni también cuestionó que se hubiera difundido su identidad a partir de una imagen.
“La persona que está filmando es una chica muchísimo más joven. Primero, no se sabe si está cometiendo un delito. Segundo, dicen que soy yo cuando nunca pisé Ceuta en mi vida”, expresó.
Qué respondió Google sobre la identificación
Después del episodio, Broffoni consultó a especialistas en tecnología para intentar determinar cómo se había producido la identificación.
Según explicó, inicialmente le señalaron que las herramientas de inteligencia artificial no deberían asignar identidades a personas a partir de imágenes.
Sin embargo, al realizar distintas pruebas comprobaron que el sistema podía devolver nombres, datos y perfiles vinculados a una persona, lo que genera riesgos cuando una respuesta incorrecta se comparte masivamente y queda fuera del contexto original.
Ante una consulta periodística sobre el caso, Google indicó que no podía validar ni comentar capturas de pantalla difundidas por servicios de mensajería sin contar con un enlace directo que permitiera verificar técnicamente el resultado.
La compañía señaló además que la imagen estaba relacionada con funciones de inteligencia artificial del buscador y no con Gemini, y recordó que los usuarios cuentan con canales para reportar respuestas inexactas.
El debate por los datos personales y la inteligencia artificial
Para la abogada de Broffoni, el caso vuelve a poner en discusión el uso de datos personales por parte de sistemas de inteligencia artificial.
Benítez Demtschenko planteó la necesidad de actualizar la Ley de Protección de Datos Personales, sancionada en el año 2000, debido a que la normativa no contempla específicamente los nuevos escenarios derivados de estas tecnologías.
“Los riesgos no son especulativos: son reales y concretos”, sostuvo la letrada.
También señaló que en Argentina todavía existe un debate pendiente sobre la responsabilidad que pueden tener las plataformas y los intermediarios digitales cuando una identificación errónea se viraliza y puede poner en riesgo a una persona.
El caso de Flavia Broffoni expone así uno de los problemas que plantea la expansión de la inteligencia artificial: una respuesta incorrecta puede transformarse rápidamente en una acusación viral, aun cuando la persona señalada se encuentre a miles de kilómetros del lugar de los hechos.
