Computar y castigar. Problemas jurídicos de las aplicaciones de Inteligencia Artificial con fines punitivos

PonenteDavid San Martín Segura (Profesor de Derecho Administrativo, Universidad de La Rioja).

Lugar: Salón de Actos (Edificio CCT), o a través de Blackboard (https://bit.ly/salaDMC)

Hora: martes 17 de mayo de 2022, 12:00.

Resumen: El uso de técnicas algorítmicas en el ejercicio de funciones públicas supone la penetración de tecnologías en el sistema de fuentes del Derecho. Es decir, aquellas pasan a integrar el modo en que las normas jurídicas se expresan y se aplican. Podemos hablar de auténticas «tecnologías normativas» empleadas, crecientemente, para adoptar decisiones jurídicas.

Este fenómeno ha comenzado a producirse también en el ámbito punitivo: en el ejercicio del poder público de castigar, tanto en el terreno penal como en el policial administrativo. En realidad, esas aplicaciones tecnológicas se están desarrollando con fines esencialmente preventivos, en actuaciones dirigidas a evitar la comisión de infracciones, más que a sancionarlas una vez consumadas.

Son aplicaciones que irrumpen en un espacio en sí mismo problemático: la actuación preventiva pública en torno a la valoración de la peligrosidad de los individuos. Los modelos algorítmicos se ofrecen como nueva promesa de objetividad y exactitud en las predicciones sobre la conducta humana, frente a la «subjetividad» de las valoraciones clásicas de los operadores jurídicos. Sin embargo, esta deriva hacia cálculos nomotéticos (agregados) y automatizados desliza interrogantes de eficacia predictiva, pero también de compatibilidad con postulados básicos de nuestro sistema jurídico (principio de legalidad, no discriminación, proceso debido, etc.).

El seminario propone explorar estos usos punitivos de la IA, todavía incipientes en España, y plantear un debate sobre su conveniencia, ante su previsible expansión en nuestro sistema jurídico.