Agustina O’Donnell: “La IA en la Justicia debe avanzar con precaución para no perpetuar la desigualdad”

El uso de herramientas basadas en Inteligencia Artificial (IA) en el ámbito judicial comienza a implementarse, aunque aún de forma incipiente. Ante este escenario, la Dra. Agustina O’Donnell, Vocal del Tribunal Fiscal de la Nación, subrayó la necesidad de analizar tanto los beneficios como los riesgos desde una perspectiva de género. En particular, destacó dos focos de preocupación:

• Los sesgos algorítmicos, que pueden reforzar estereotipos de género ya existentes.

• La posible utilización de “deepfakes” como prueba en procesos judiciales, una forma de violencia digital que afecta principalmente a mujeres.

Por otro lado, remarcó el potencial positivo de estas tecnologías, sobre todo en la lucha contra la violencia de género, considerada una de las manifestaciones más graves de la desigualdad.

“Me invitaron a hablar sobre los ecos de género en la Inteligencia Artificial y los riesgos de no contemplarlos al momento de diseñar los algoritmos o cargar los datos”, señaló en una entrevista con Tendencia de Noticias.

La especialista advirtió que uno de los desafíos más relevantes del uso de IA en la Justicia es que puede generar situaciones discriminatorias, afectando el principio constitucional de igualdad. En su experiencia en el Tribunal Fiscal de la Nación, mencionó que ya están llevando a cabo una prueba piloto de IA en la búsqueda de jurisprudencia, lo que ha mostrado ser de gran utilidad. Sin embargo, enfatizó la necesidad de avanzar con cautela.

“Estas herramientas, aunque útiles, pueden introducir sesgos y estereotipos. Incluso podrían generar discriminación entre hombres y mujeres si no se controlan adecuadamente”, alertó.

En su análisis, O’Donnell destacó que el mundo digital no es ajeno a las desigualdades del mundo real:

“Ese mundo virtual es, en definitiva, el mismo que el real. Y si no intervenimos con perspectiva de género, lo único que haremos es trasladar al entorno digital las desigualdades históricas.”

También señaló el valor de la IA para agilizar los procesos judiciales y mejorar la calidad del servicio, siempre que se utilice de manera responsable: “Puede hacer más eficiente la búsqueda de información, pero también es fácil perderse entre tantos datos. Por eso, es fundamental saber cómo y qué se busca.”

Sobre los desafíos concretos, hizo hincapié en que si los algoritmos no consideran una perspectiva de género adecuada, podrían contribuir a perpetuar desigualdades estructurales. “Las brechas de género en Argentina —en acceso al trabajo, ingresos o justicia— podrían profundizarse si no se diseñan herramientas inclusivas.”

Consultada sobre el enfoque en otras jurisdicciones, señaló que la inclusión de la perspectiva de género es ya una preocupación plasmada en documentos, recomendaciones y lineamientos internacionales sobre el uso ético de la IA, en línea con los principios de derechos humanos.

En cuanto al futuro, O’Donnell expresó su deseo de que la IA permita mejorar la eficiencia del sistema judicial sin perder de vista los valores fundamentales. “Mi esperanza es que contribuya a que la justicia sea menos lenta, más precisa y que eleve la calidad del servicio. Pero el desafío está en cómo usamos esta herramienta para evitar errores y, sobre todo, para no reproducir injusticias.”