El uso de inteligencia artificial en la justicia puede poner en riesgo los derechos de los acusados si no existen controles, transparencia y supervisión humana.
La jurista española Carmen Cuadrado advirtió que el uso de inteligencia artificial en los sistemas judiciales puede comprometer los derechos de los acusados si no se aplican controles adecuados, mecanismos de transparencia y supervisión humana. Durante una conferencia en el auditorio de la Fundación Global Democracia y Desarrollo, explicó que estas tecnologías se han incorporado a los tribunales para mejorar la coherencia y la eficiencia en las decisiones.
Sin embargo, la especialista alertó que la rapidez en el análisis de datos no garantiza decisiones justas, debido a que los algoritmos pueden reproducir sesgos presentes en la información con la que fueron entrenados. Al referirse al caso Loomis, considerado un referente internacional en este debate, señaló que cuando una persona no puede comprender cómo se evalúa su situación dentro de un proceso judicial, se debilitan principios esenciales como la presunción de inocencia y el derecho a la defensa.
Cuadrado sostuvo que, aunque la inteligencia artificial puede ser útil para organizar expedientes, clasificar documentos y detectar patrones, no debe sustituir al juez en la toma de decisiones. “Juzgar no es calcular”, enfatizó la experta, al afirmar que la función judicial exige interpretar normas, valorar hechos, ponderar principios jurídicos y justificar resoluciones. “La democracia no necesita solo decisiones eficaces; necesita decisiones legítimas”, concluyó ante abogados, juristas y otras personalidades presentes en la actividad.
Discusión sobre esto post