Redacción El Informe de Ceres
El gobierno de la provincia de Santa Fe oficializó, mediante el Decreto N.º 2726, el “Protocolo para la Adopción y Uso de Tecnologías de Inteligencia Artificial Generativa” por parte de todos los agentes de la administración pública. La norma busca establecer un “marco de actuación” ante el “avance exponencial” de tecnologías como “ChatGPT” y “Gemini”.
El objetivo es aprovechar el potencial de estas herramientas para “optimizar y eficientizar las tareas administrativas”, pero dejando claro un principio fundamental: la IA debe ser una “herramienta de apoyo, no de reemplazo de la voluntad administrativa legítima”.
El protocolo es de aplicación obligatoria para todo el personal de la administración pública centralizada y descentralizada.
Supervisión humana y responsabilidad
El pilar central del nuevo protocolo es la “Supervisión Humana Significativa y Competente”. El decreto establece que cualquier producción generada por un sistema de IA tendrá siempre el carácter de “insumo o propuesta preliminar no vinculante”.
Será el agente público quien, con su “juicio profesional”, deberá validar, corregir o anular el resultado. La responsabilidad final por la decisión o el acto administrativo “recae de forma exclusiva e indelegable” en dicho agente.
Restricción estricta sobre datos personales
Uno de los límites más claros del protocolo es el manejo de la información. El texto “prohíbe terminantemente” introducir en “Herramientas No Institucionales” (versiones públicas o gratuitas de IAG) cualquier “dato personal, información sensible, clasificada, confidencial o que no sea de dominio público”.
Antes de interactuar con estas herramientas, el agente tiene la “obligación ineludible” de aplicar técnicas de anonimización.
Capacitación obligatoria y sanciones
Para garantizar el cumplimiento, el decreto establece la “participación y aprobación obligatoria” de programas de capacitación sobre el uso ético y responsable de la IA para todos los agentes que utilicen estas herramientas.
Asimismo, la norma advierte que el incumplimiento de los deberes y la transgresión de las prohibiciones “dará lugar a la aplicación de las sanciones disciplinarias que correspondan” , sin perjuicio de eventuales responsabilidades civiles o penales.
Puntos clave del protocolo de uso de IA
El Anexo del decreto detalla los principios y obligaciones para los empleados públicos como “usuarios finales” de la IA. Los puntos más importantes son:
Supervisión Humana Obligatoria: Todo resultado generado por una IAG se considera una “propuesta preliminar no vinculante”. Es indispensable la “supervisión humana significativa y competente”. La validación final depende siempre del “juicio profesional” del agente.
Responsabilidad Total del Agente: La “responsabilidad final” por cualquier decisión o acto administrativo recae “de forma exclusiva e indelegable” en el agente público que utiliza la herramienta. Los agentes son “individualmente responsables” por el uso que hacen de la IAG.
Prohibición de usar Datos Sensibles: Queda “terminantemente prohibido” introducir en herramientas de IAG públicas o no institucionales (como versiones gratuitas) cualquier “dato personal, información sensible, clasificada, confidencial o que no sea de dominio público”.
Anonimización Obligatoria: Antes de usar una herramienta no institucional, el agente tiene la “obligación ineludible” de aplicar “técnicas de anonimización” sobre la información.
Deber de Transparencia: Los agentes deberán incluir una “mención clara y notoria” sobre el uso de IAG cuando esta haya sido “sustancial” para crear informes, dictámenes jurídicos o resoluciones que impacten en los derechos de los ciudadanos. No es necesario informarlo para usos menores como correcciones ortográficas.
Mitigación de Sesgos: El empleado público tiene un rol “activo e indelegable” en evitar la discriminación, debiendo formular consultas “neutrales” y “detectar y corregir” resultados que reproduzcan estereotipos.
Propiedad Intelectual: Los contenidos generados por un agente en ejercicio de sus funciones usando IAG “corresponderá originariamente al Estado Provincial”.
