Tres sistemas de policía predictiva en España: VioGén, RisCanvi y VeriPol

¿Cuál es la capacidad predictiva de los algoritmos diseñados para prevenir la delincuencia? ¿Son eficaces? ¿Son lo suficientemente transparentes? ¿Tienen sesgos? Para responder a estas preguntas, este estudio analiza tres herramientas algorítmicas utilizadas por la Administración española para hacer estimaciones de riesgo en los ámbitos policial y penitenciario (VioGén, RisCanvi y VeriPol, esta última con inteligencia artificial) con la finalidad de evaluar su funcionamiento, en particular en términos de su respeto a los derechos fundamentales. El estudio combina métodos cuantitativos y cualitativos, y ha sido realizado por profesores de la Universitat de València y de la Universitat Politècnica de València, expertos en distintas ramas del derecho (penal, administrativo y constitucional), así como en estadística y matemáticas. Los objetivos principales son analizar la capacidad predictiva de los tres sistemas y su eficacia para alcanzar el objetivo que pretenden (reducción de la delincuencia); valorar su grado de transparencia, tanto para la ciudadanía en general como para las personas directamente afectadas por su uso; identificar y discutir posibles sesgos, y comprobar si respetan el marco legal europeo y español vigente, prestando especial atención a la normativa sobre protección de datos personales y a la regulación del uso de sistemas automatizados de toma de decisiones. También se analiza si los costes para los derechos fundamentales que conlleva el uso de estas herramientas exceden lo que sería legítimo, necesario y/o proporcionado en relación con el beneficio actual o probable en términos de prevención del delito. El estudio subraya la importancia de la transparencia para hacer posible el necesario debate público que debe existir sobre herramientas que, como las tres analizadas, son utilizadas por los poderes públicos como apoyo para tomar decisiones que pueden redundar en restricciones de derechos fundamentales."