El Ministerio Público Fiscal (MPF) de Chubut marcó un hito en 2024 al implementar el primer protocolo de Inteligencia Artificial (IA) destinado a fiscales en Argentina. Mientras la Inteligencia Artificial Generativa (IAGen) se integra a la vida diaria, su incursión en un ámbito de «altas consecuencias» como la justicia exige una regulación que la provincia patagónica ha sido la primera en formalizar.
La Resolución 238/24 de la Procuración General establece un detallado «Protocolo de Buenas Prácticas» que regula cómo magistrados y funcionarios deben utilizar la IAGen, ubicando a Chubut en la vanguardia de la discusión global, junto a referentes como el Poder Judicial del Reino Unido y guías nacionales del STJ de Río Negro y el IALAB de la UBA.
IA: una herramienta de asistencia, nunca de sustitución
El pilar fundamental de la normativa es la estricta delimitación del rol de la tecnología. El protocolo insiste en que la IAGen es un «gestor que complementa las habilidades humanas y no sustituye las competencias públicas».
Esto implica que la IA está diseñada para optimizar tareas, pero no puede reemplazar el criterio legal ni el juicio ético del operador judicial. La responsabilidad final de cualquier decisión, escrito o análisis recae exclusivamente en el fiscal o funcionario, sin posibilidad de delegar el juicio humano a la máquina.
Puntos clave: alucinaciones, probabilidades y sanciones
El protocolo se concentra en los riesgos inherentes de la IAGen y las consecuencias de su mal uso:
Validación obligatoria contra «alucinaciones»: El documento aborda el riesgo de que la IA genere respuestas «coherentes y convincentes» pero falsas (fenómeno de la alucinación). Por ello, exige la «validación obligatoria del contenido», obligando al personal a contrastar rigurosamente cada dato producido por la IA.
No es un buscador: La normativa aclara que los Modelos de Lenguaje Grande (LLM) no «recuperan información» como un motor de búsqueda, sino que «construyen asociaciones de palabras» estadísticamente probables. Se advierte evitar usarlas para encontrar datos concretos y verificables, dada su falta de precisión factual garantizada.
Responsabilidad 100% humana: La resolución es clara en que el uso de la IA no mitiga la responsabilidad. La violación de estas buenas prácticas «implica falta e infracción a los fines del Reglamento Disciplinario», conllevando consecuencias administrativas y profesionales reales. Si la IA comete un error, el único responsable es el humano que lo utilizó.
Prohibido ingresar datos confidenciales: Para salvaguardar la confidencialidad, se prohíbe el ingreso de datos personales o sensibles de un caso en las instrucciones (prompts) de la IA. Como medida de seguridad, se exige la anonimización de los documentos judiciales antes de interactuar con la IAGen.
El protocolo del MPF Chubut fomenta la innovación y la eficiencia, pero lo hace bajo el marco de la rigurosidad, la ética y la indispensable supervisión humana. Este esfuerzo no solo eleva la calidad del trabajo fiscal, sino que establece un camino crucial para el resto de los poderes judiciales del país.