Derecho a la defensa con Inteligencia Artificial y justicia algorítmica

Para un adecuado derecho a la defensa, se debería tener acceso a los algoritmos de decisión en caso que se aplique inteligencia artificial a la administración de Justicia, dicen los académicos Pablo Contreras y Elena de Luis.

Por Pablo Contreras y Elena de Luis.- La inteligencia artificial (IA) y las herramientas de justicia predictiva son una realidad de la cual no podemos escapar.

Son indudables las ventajas que presentan en términos de costo y tiempo para la administración de justicia, e incluso (en determinadas ocasiones) pueden contribuir a alcanzar un resultado más objetivo.

Sin embargo, son también visibles los potenciales riesgos que entrañan para los derechos y garantías fundamentales del proceso, particularmente para el derecho a la defensa.

Algunas características como la opacidad, la falibilidad o el coste de las herramientas pueden afectar irremediablemente al derecho de defensa y la contradicción procesal.

Ver también:

• Inteligencia Artificial y la seguridad en los hogares
• El antiguo arte de la Inteligencia Natural
• El miedo en la inteligencia artificial
• Inteligencia artificial para aprender un segundo idioma
• Inteligencia Artificial, Nutrición 4.0

Se debe conjugar eficiencia y eficacia, de modo que podamos gozar de las ventajas que nos ofrecen estas nuevas herramientas, pero sin que ello conlleve una merma.

Atender a los beneficios que aportan estas herramientas, no implica aceptar un uso indiscriminado. Su rol es auxiliar a la adopción de decisiones administrativas y judiciales e, incluso, pueden contribuir a objetivarlas.

Opacidad ante el derecho a la defensa

Una crítica recurrente a los sistemas de IA es la opacidad de los algoritmos, pues puede conllevar a que las partes desconozcan cómo se ha obtenido el resultado y, como consecuencia, no puedan impugnar adecuadamente.

Si partimos de la afirmación de que nadie puede defenderse de aquello que desconoce, será necesario que la parte afectada por la resolución adoptada con el apoyo del algoritmo sepa cómo defenderse del mismo. Para ello deberá poder cuestionar su diseño, su funcionamiento, así como los resultados de su operación.

Si hace unos años nos preguntábamos sobre la validez de una declaración por videoconferencia, ahora hemos dado un paso más en el desarrollo tecnológico y, del mismo modo que se hizo en su momento, debemos lograr ese equilibrio entre la eficiencia que aporta y el respeto de los principios y garantías básicos del proceso.

Se presenta la difícil tarea de configurar el proceso judicial de manera que podamos beneficiarnos de todas las ventajas que la IA ofrece sin que conlleve una merma de los derechos fundamentales de las partes.

Pablo Contreras es profesor de la Universidad Central y Elena de Luis es académica de la Universidad de Valencia.