La Corte bonaerense prohibió que la Inteligencia Artificial dicte sentencias o valore pruebas

La Suprema Corte de Justicia de la provincia de Buenos Aires puso en consulta pública un proyecto de reglamento para el desarrollo y uso responsable de herramientas de Inteligencia Artificial (IA) en el ámbito judicial. Como parte de esta iniciativa, se creó una Comisión de Gobernanza y Uso de Inteligencia Artificial, la cual tendrá a su cargo la supervisión del proceso.

Esta medida se enmarca en un plan de modernización tecnológica que busca establecer un marco institucional y jurídico para la incorporación progresiva de sistemas de IA, garantizando su utilización de manera segura, ética y respetuosa de los derechos fundamentales. El proyecto, que representa un paso sin precedentes para la justicia del país, estará sometido a una consulta participativa hasta el 7 de agosto.

Bajo la premisa de que “la función jurisdiccional es indelegable e insustituible”, el tribunal busca evitar que las herramientas tecnológicas reemplacen el razonamiento humano en la toma de decisiones judiciales. Según la resolución publicada, magistrados, funcionarios, agentes judiciales, colegios profesionales, universidades y demás interesados pueden presentar observaciones y sugerencias a través de un espacio específico habilitado en el sitio web de la Suprema Corte.

Reglas claras ante los riesgos

El tribunal destacó que la inteligencia artificial ya es utilizada en distintos sistemas judiciales del mundo para tareas como la gestión de procesos, el análisis de datos, la sistematización de jurisprudencia y la atención de usuarios. Sin embargo, advirtió sobre los riesgos asociados a estas tecnologías, entre ellos la posibilidad de reproducir sesgos, generar errores o producir contenidos inexactos.

Entre los objetivos del futuro reglamento figuran la mejora de la eficiencia en los procesos judiciales y administrativos, el fortalecimiento del acceso a la justicia mediante la reducción de barreras tecnológicas, lingüísticas y geográficas, y el apoyo a la labor jurisdiccional sin reemplazar el razonamiento ni la decisión humana.

La resolución subraya que la función jurisdiccional es “indelegable e insustituible” y establece que bajo ninguna circunstancia podrá delegarse en sistemas de inteligencia artificial la toma de decisiones judiciales, la valoración de pruebas o la elaboración del razonamiento jurídico que sustenta sentencias o resoluciones. Asimismo, dispone que el uso de estas herramientas no exime a jueces, funcionarios o agentes de la responsabilidad por el contenido, validez y legalidad de los actos en los que intervengan sistemas de IA, debiendo ejercer un control sustantivo y documentado sobre los resultados obtenidos.

Finalmente, la Corte le prohibió a sus integrantes el uso de chatbots de acceso gratuito o comercial, tales como ChatGPT, para tratar información judicial sensible o investigaciones en curso, ante el riesgo de que esos datos personales sean utilizados para entrenar modelos futuros fuera del control institucional.

Sobre el autor

El Eco de Tandil

Más de 143 años escribiendo la historia de Tandil