Control y auditoría algorítmica: Avanza en Tucumán un marco ético para el uso estatal de la Inteligencia Artificial

La Legislatura dio un paso decisivo hacia la regulación del uso de tecnologías de inteligencia artificial (IA) en el Estado provincial. La Comisión de Ciencia y Tecnología emitió dictamen favorable al proyecto que propone que Tucumán adhiera a las recomendaciones de la UNESCO sobre la Ética en la Inteligencia Artificial, fijando un marco normativo con obligaciones, derechos y mecanismos de control para garantizar que toda aplicación tecnológica en el sector público sea ética, transparente, inclusiva y respetuosa de los derechos fundamentales, "garantizando la equidad y la no discriminación”.

A partir de esa adhesión, las pautas devienen de cumplimiento obligatorio para “los Poderes del Estado Provincial, Entes Centralizados, Descentralizados y Organismos Autárquicos”, que deberán adoptar principios rectores como:

• Respeto a los derechos humanos: garantizar que toda tecnología respete la dignidad humana, promueva la igualdad y no genere discriminación.

• Justicia e inclusión: evitar que la IA produzca o consolide desigualdades sociales o económicas.

• Transparencia: asegurar explicaciones comprensibles de los sistemas automatizados y permitir su auditoría.

• Responsabilidad y supervisión: establecer mecanismos de control para garantizar que las aplicaciones estatales de IA sean seguras para la ciudadanía.

• Privacidad y protección de datos: exigir que el Estado cumpla estrictamente con la legislación vigente en la materia.

• Derecho ciudadano frente a decisiones automatizadas: toda persona deberá “ser informada de manera clara y comprensible” y “solicitar revisión humana de la decisión”.

El proyecto también obliga a que “los funcionarios públicos y empleados estatales que utilicen herramientas de Inteligencia Artificial deben capacitarse en la ética de su uso” y designa a la Secretaría de Gestión Pública y Planeamiento como autoridad de aplicación. El Poder Ejecutivo, por su parte, deberá dictar normas que implementen estas pautas en toda la administración provincial.

“Es urgente que Tucumán cuente con una ley clara y vinculante”

La legisladora Carolina Vargas Aignasse, una de las impulsoras de la iniciativa, destacó el impacto global de la IA y la responsabilidad estatal frente a su adopción. Señaló que “el desarrollo acelerado de las tecnologías basadas en inteligencia artificial ha generado una profunda transformación en diversas áreas, tanto a nivel global como local”. Aunque reconoció las oportunidades económicas, sociales y culturales, advirtió que la provincia debe actuar con anticipación.

“Es fundamental que el uso de la IA se realice de manera que garantice el respeto por los derechos humanos, promueva la equidad y favorezca el acceso justo a los beneficios de estas tecnologías”, afirmó. En este sentido, sostuvo que Tucumán debe asegurar que todo desarrollo en el sector público “se rija por principios éticos claros y responsables”.

La referente peronista remarcó además que el proyecto busca que Tucumán adopte las recomendaciones de la UNESCO de 2021, las cuales contienen “una serie de directrices internacionales para asegurar que el desarrollo y la aplicación de la IA se lleven a cabo de forma ética, responsable y transparente”. Y destacó la oportunidad institucional: “Los tres poderes del Estado Provincial ya están trabajando en la incorporación de herramientas basadas en IA ante este panorama, resulta urgente que Tucumán cuente con una ley clara y vinculante”.

Para Vargas Aignasse, el propósito central es que la provincia “se comprometa al uso ético y responsable de la inteligencia artificial, promoviendo el bienestar social y el progreso económico, sin que se vean comprometidos los derechos de las personas”.

“La IA representa el futuro inmediato de la administración pública”

Por su parte, la radical Silvia Elías de Pérez, quien también tiene un proyecto que sirvió de base para la unificación del dictamen, destacó que la iniciativa busca construir “un marco normativo integral, transparente y responsable para el desarrollo, implementación y uso de sistemas de inteligencia artificial en el ámbito de la administración pública”.

Subrayó que la irrupción de estas tecnologías abre oportunidades para modernizar al Estado, pero también genera riesgos si no se establecen regulaciones previas. “La automatización mediante IA ya está comenzando a implementarse pero también plantea riesgos de opacidad, sesgo o exclusión, si no cuenta con reglas claras de funcionamiento y control democrático”, afirmó.

Elías de Pérez alertó sobre los “sesgos algorítmicos”, las “vulneraciones a la privacidad” y la “opacidad algorítmica”, que pueden derivar en decisiones injustas o discriminatorias.

La legisladora destacó que la ciudadanía tendrá derecho a la “revisión humana de decisiones tomadas por sistemas automatizados” y a reclamar ante la autoridad de aplicación.

“Esta iniciativa busca que Tucumán sea pionero a nivel nacional en la regulación responsable de tecnologías que marcarán el futuro del Estado”, concluyó.

“La IA debe estar siempre subordinada a la dignidad humana”

En tanto, Raquel Nievas, autora de un proyecto similar, sostuvo que se apunta a un “régimen provincial integral de gobernanza ética y uso responsable de la Inteligencia Artificial”, alineado con los estándares internacionales más avanzados. Destacó que la IA puede mejorar la eficiencia, transparencia y toma de decisiones del Estado, pero advirtió que sin lineamientos éticos adecuados puede derivar en “vulneraciones a la privacidad, discriminación algorítmica, opacidad o pérdida de control institucional”.

Nievas enfatizó que Tucumán debe anticiparse: “la tecnología debe estar subordinada a la dignidad humana y al orden jurídico”. Señaló que la iniciativa se alinea con las recomendaciones de la UNESCO (2021). También articula principios de protección de datos, acceso a la información y responsabilidad del Estado.

Nievas detalló que el régimen busca garantizar que toda IA estatal “se desarrolle conforme a principios éticos, proteja los derechos frente a decisiones automatizadas, promueva la transparencia y la trazabilidad, fomente la innovación responsable y garantice la equidad y la no discriminación”.

“Tucumán tiene la oportunidad de convertirse en una provincia modelo en ética digital y gestión pública inteligente”, afirmó. Y concluyó que la ley permitirá liderar la transformación tecnológica “combinando innovación con justicia, transparencia con responsabilidad y desarrollo con derechos”.

Con el dictamen favorable, la Legislatura se encamina a debatir en el recinto un marco normativo que busca ordenar, supervisar y controlar el avance de la inteligencia artificial en el Estado, en un contexto donde su uso crece aceleradamente y plantea oportunidades, pero también desafíos críticos para la democracia, la equidad y la protección de derechos.