La inteligencia artificial en el proceso penal españolun analisis de su admisibilidad sobre la base de los derechos fundamentales implicados

  1. de Miguel Beriain, Iñigo
  2. Pérez Estrada, Miren Josune
Journal:
RDUNED. Revista de derecho UNED

ISSN: 1886-9912 2255-3436

Year of publication: 2019

Issue: 25

Pages: 531-561

Type: Article

DOI: 10.5944/RDUNED.25.2019.27013 DIALNET GOOGLE SCHOLAR lock_openOpen access editor

More publications in: RDUNED. Revista de derecho UNED

Sustainable development goals

Abstract

En julio de 2016, el Tribunal Supremo de Wisconsin emitió una sentencia llamada a pasar a la historia. Por primera un tribunal de esa categoría utilizaba un algoritmo inteligente graduar la sanción a un reo. Se abría así una nueva era en la que los juristas tendremos que empezar a discutir sobre los cambios que introducirá esta impactante tecnología en nuestro modo de conformar el Derecho. Este artículo pretende contribuir a esta apasionante tarea acometiendo una discusión absolutamente trascendental al respecto: la constitucionalidad o no del uso de mecanismos relacionados con la inteligencia artificial en el proceso penal. Con tal fin, haremos especial hincapié en la importancia del derecho a un proceso con todas las garantías, y en las implicaciones que el respeto a dicho precepto contiene para la materia que nos ocupa.

Bibliographic References

  • Agencia Española de Protección de Datos (AEPD) y Asociación Española para el Fomento de la Seguridad de la Información, ISMS Forum Spain, Código de buenas prácticas en protección de datos para proyectos Big Data (2017), pág. 18. http://www.agpd.es/portalwebAGPD/canaldocumentacion/publicaciones/common/Guias/2017/GuiaBig_Data_AEPD-ISMS_Forum. pdf.
  • Alcoceba Gil, J. M., “Los estándares de cientificidad como criterio de admisibilidad de la prueba científica”, Revista Brasileira de Direito Processual Penal, vol. 4, n. 1, p. 215-242, jan./abr. 2018. https://doi.org/10.22197/rbdpp.v4i1.120 (fecha acceso: 13/11/19).
  • Asensio Mellado, J. M., “El proceso penal con todas las garantías”, Ius et Veritas, 2006, págs. 33, 236-247.
  • Avati, A. et al., Improving Palliative Care with Deep Learning. arXiv:1711.06402 [cs, stat], 2017. https://arxiv.org/abs/1711.06402.
  • Ballestín MIguel, A., “P300: Inhumanizando la justicia”, Jueces para la Democracia, Boletín Informativo, 2014, pág. 62.
  • BellIdo Penadés, R.,“El derecho a la tutela judicial efectiva en la jurisprudencia constitucional”, Extranjería e inmigración. Actas de las IX Jornadas de la Asociación de Letrados del Tribunal Constitucional, Centro de Estudios Políticos y Constitucionales: Tribunal Constitucional, 2004, págs. 265–312.
  • Boyd, D. y Crawford, K., “Six Provocations for Big Data”, Symposium on the Dynamics of the Internet and Society, (September 21, 2011): A Decade in Internet Time. https://ssrn.com/abstract=1926431 o http://dx.doi.org/10.2139/ ssrn.1926431.
  • Calderón Cuadrado, M. P., “El derecho a un proceso con todas las garantías (aspectos controvertidos y jurisprudencia del Tribunal Constitucional)”, Cuadernos de Derecho Público, 2000, págs. 10, 154, 158.
  • Cámara Villar, G., “El derecho a la tutela judicial efectiva”, Manual de derecho constitucional, Vol. 2, Derechos y libertades funda- mentales. Deberes constitucionales y principios rectores. Instituciones y órganos constitucionales, AAVV (coord. Balaguer Callejón, F.), Tecnos, Madrid, 2016, págs. 296 – 323
  • Cotino Hueso, L., “Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales”, Dilemata, 2017, págs. 24, 131-150.
  • Daniel Mittelstadt, B., Allo, P., Taddeo, M., Wachter, S. y Floridi, l., “The ethics of algorithms: Mapping the debate”, Big Data & Society, 3, 2016. http://doi.org/10.1177/2053951716679679.
  • De la Oliva Santos, A., VVAA. (dirs. DÍEZ-PICAZO GIMÉNEZ, I., VEGAS TORRES, J.), Derecho Procesal. Introducción, Centro de Estudios Ramón Areces, 3ª ed., Madrid, 2016, pág. 65.
  • De MIguel BerIain, I., “Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling”, Law, Probability and Risk, Volume 17, Issue 1, 1 March 2018, págs. 45–53. Diario Público, 01-10-2015. http://www.publico.es/actualidad/cuatro-pruebas-adn-clave-atrapar.html).
  • Díez-Picazo Giménez, I., “Artículo 24. Garantías procesales”, Comentarios a la Constitución Española de 1978, Tomo III, VVAA (dir. ALZAGA VILLAMIL, O.), Edersa, Madrid, 1996.
  • Díez-Picazo Giménez, I., Artículo 24. Garantías procesales. Comentarios a la Constitución Española de 1978, Tomo III, Artículos 24 a 38 de la Constitución Española, 2006, pág. 95. https://app.vlex.com/#vid/331146.
  • Díez-Picazo, L., Aproximación a la tutela judicial efectiva. Persona y estado en el umbral del siglo XXI, (coord. Salinas de Frías, A.), Universidad de Málaga, Facultad de Derecho, 2001, págs. 209–232.
  • Dolz Lago, M.J., La prueba de ADN a través de la jurisprudencia. Una visión práctica y crítica, Ed. La Ley Wolters Kluwer, Madrid 2016, pág. 41.
  • DoshI-Velez, F., y Kortz Mason, K., Accountability of AI Under the Law: The Role of Explanation (November 3, 2017). Berkman Center Research Publication Forthcoming. http://dx.doi.org/10.2139/ssrn.3064761. Preimpreso: arXiv:1711.01134. https://arxiv.org/pdf/1711.01134.pdf.
  • Esparza Leibar, I., El principio del proceso debido, Bosch, 1995, Barcelona.
  • Esparza Leibar, I., “El proceso debido como único modelo aceptable para la resolución de conflictos en un estado de derecho y como presupuesto para la globalización”, El derecho procesal español del siglo XX a golpe de tango: Liber Amicorum, en homenaje a MONTERO AROCA, J. VVAA (coords. GÓMEZ COLOMER, J. L., BARONA VILAR, S., CALDERÓN CUADRADO, M. P., MONTERO AROCA, J.), Tirant lo Blanch, 2012, págs. 319-337.
  • Esparza Leibar, I., “El derecho a la tutela judicial efectiva y a un juez imparcial o el proceso debido como garantía de los derechos de los ciudadanos y de la viabilidad de la Unión Europea”, La Carta de los Derechos Fundamentales de la Unión Europea y su reflejo en el ordenamiento jurídico español, Thomson Reuters-Aranzadi, 2014, págs. 831-844.
  • Etxeberría Guridi, J. F., “El derecho a la tutela judicial efectiva y a un proceso debido”, La declaración Universal de Derechos: ayer, hoy y mañana, VVAA (dir. ORDEÑANA GEZURAGA, I), Thomson Reuters-Aranzadi, 2012, págs. 201-222.
  • Etxeberría Guridi, J.F., El análisis de ADN y su aplicación al proceso penal, Ed. Comares, Granada, 2000, pág. 314 y ss.
  • Figueruelo Burrieza, A., El derecho a la tutela judicial efectiva, Tecnos, 1990, Madrid.
  • Figueruelo Burrieza, A., “Tutela judicial efectiva y sistema constitucional de fuentes del derecho”, Los derechos fundamentales y libertades públicas (II) / XIII Jornadas de Estudio, Dirección General del Servicio Jurídico del Estado, Ministerio de Justicia, Centro de Publicaciones, Madrid, 1993, págs. 115-126.
  • Freeman K., Algorithmic Injustice: How the Wisconsin Supreme Court Failed to Protect Due Process Rights in State v. Loomis, 18 N.C.J.L. & Tech. On. 75, 2016. http://ncjolt.org/wp-content/uploads/2016/12/Freeman_Final.pdf.
  • Garberí Llobregat, J., El derecho a la tutela judicial efectiva en la jurisprudencia del Tribunal Constitucional, Bosch, Barcelona, 2008.
  • Gascón Abellán, M., Validez y valor de las pruebas científicas: la prueba del ADN, Universidad de CastillaLa Mancha, 2015. http://www.uv.es/cefd/15/gascon.pdf.
  • Gil González, E., “Big data, privacidad y protección de datos”. XIX Edición del Premio Protección de Datos Personales de Investigación de la Agencia Española de Protección de Datos, Madrid, 2016, págs. 28 y 43. Disponible: https://www.agpd.es/portalwebAGPD/canaldocumentacion/publicaciones/common/premios_2015/Big_Data_Privacidad_y_proteccion_de_datos.pdf.
  • Gómez Colomer, J. L., “La reforma estructural del proceso penal y la elección del modelo a seguir”, ANUARIO DE DERECHO PENAL. Posición institucional de los sujetos en el proceso penal de menores reformado (juez, fiscal, defensor/acusado, víctima), Université de Fribourg Département de droit pénal, 2008, pág. 5. http://hdl.handle.net/10234/19633.
  • Gómez Colomer, J.L., Los retos del proceso penal ante las nuevas pruebas que requieren tecnología avanzada: El análisis de ADN, en GÓMEZ COLOMER, J.L. (Coord.), “La prueba de ADN en el proceso penal”, Ed. Tirant lo Blanch, Valencia 2014, pág. 23.
  • Gómez Colomer, J. L., “La prueba científica, motor de cambios esenciales en el proceso penal moderno”, en Garantismo frente a eficacia, justicia frente a seguridad, p. 5. Disponible: http://perso.unifr.ch/derechopenal/assets/files/ articulos/a_20170408_01.pdf (fecha acceso: 14/11/2019).
  • Guzmán Fluja, V. C., “Sobre la aplicación de la inteligencia artificial a la solución de conflictos (Reflexiones acerca de una transformación tan apasionante como compleja”, Justicia Civil y Penal en la era global, VVAA (ed. BARONA VILAR, S.), Tirant lo Blanch, Valencia, 2017, págs. 67-122.
  • Jiménez de Parga y Cabrera, M., “La tutela judicial efectiva: luces y sombras”, Consolidación de derechos y garantías: los grandes retos de los derechos humanos en el siglo XXI: seminario conmemorativo del 50 aniversario de la declaración Universal de los Derechos Humanos, CGPJ, 1999, págs. 317-338.
  • López Ortega, J. J., “El derecho al juez no prevenido y el juicio de faltas”, Jueces para la democracia, 8,1989, pág. 47.
  • Montero Aroca, J., “El principio acusatorio. Un intento de aclaración conceptual”, Justicia: revista de derecho procesal, 4, 1992, págs. 775-788.
  • Montero Aroca, J., “El juez que instruye no juzga”, La Ley: revista jurídica española de doctrina, jurisprudencia y bibliografía, 1, 1999, págs.1801- 1816.
  • Montero Aroca, J., “El principio acusatorio entendido como slogan político”, Ius et Veritas, 33, págs., 2006, 208-219.
  • Montero Aroca, J., “Los principios políticos del poder judicial”, Derecho Jurisdiccional I, Parte General, 25ª ed. (VVAA, MONTERO AROCA, J., GÓMEZ COLOMER, J. L. Y BARONA VILAR, S.), Tirant lo Blanch, Valencia, 2017, págs. 89, 213-219, 251-257. Newscientist, 04-10-2015. https://www.newscientist.com/article/mg22830462-700-lie-detecting-algorithm-spots-fibbing-faces-better-than-humans/
  • Ortells Ramos, M. y BellIdo Penadés, r., “El derecho fundamental a la tutela judicial efectiva”, Introducción al Derecho Procesal. VVAA (coord. ortells raMos, M.), Thomson Reuters-Aranzadi, 7ª ed., 2017, págs. 249 – 272.
  • Pérez Gil, J., El conocimiento científico en el proceso civil. Ciencia y tecnología en tela de juicio, Ed. Tirant lo Blanch, Valencia 2010, págs. 42 a 47.
  • Pérez-Rosas, V., (VVAA), “Deception Detection using Real-life Trial Data”. Computer Science and. Engineering. University of Michigan, 2015. http://dx.doi.org/10.1145/2818346.282075.
  • Petisco Rodríguez, J. M., “Las mejores tecnologías en detección de Mentiras”. Actualidad Criminológica UCJC, Edición Número 2, septiembre, 2015, págs. 1-4.
  • Picó i Junoy, J., Derecho a un proceso con todas las garantías. Las garantías constitucionales del proceso, Bosch, Barcelona, 2012, págs.159-160.https://app.vlex.com/#vid/382082726.
  • Prat WesterlIndh, C., Nuevos detectores de mentiras y derecho penal, La Ley penal: Revista de Derecho penal, procesal y penitenciario, 2011, pág. 84.
  • ResolucIón del Parlamento Europeo, de 14 de marzo de 2017, Considerando 20.
  • Richard González, M., Admisibilidad, eficacia y valoración de las pruebas neurológicas en el proceso penal, Iuris, enero 2014.
  • Sánchez Rubio, A., “El uso del test P300 en el proceso penal español: algunos aspectos controvertidos”. Revista Electrónica de Ciencia Penal y Criminología, 18, 2016, págs. 1- 23. http://criminet.ugr.es/recpc/18/recpc18-04.pdf
  • Surden, H., “Values Embedded in Legal Artificial Intelligence”. U of Colorado Law Legal Studies Research Paper (March 13, 2017). https://ssrn.com/abstract=2932333 o http://dx.doi.org/10.2139/ ssrn.2932333
  • Taruffo, M., La prueba de los hechos (trad. Ferrer Beltrán), Ed. Trotta, Madrid 2002, p. 331.
  • Taruffo, M., “Conocimiento científico y estándares de prueba judicial”, Boletín Mexicano de Derecho Comparado, 2005, núm. 114, pp. 1285 a 1312.
  • UK Information Commissioner’s Office (ICO), Big data, artificial intelligence, machine learning and data protection, 2017, pág. 86. https://ico.org.uk/media/for-organisations/documents/2013559/bigdata-ai-ml-and-data-protection.pdf)
  • Vallespín Pérez, D., El modelo constitucional de juicio justo en el ámbito del proceso civil: conexión entre el derecho a la tutela judicial efectiva y el derecho a un proceso con todas las garantías, Atelier, Barcelona, 2002.
  • Villamarín López, M. L., Neurociencia y detección de la verdad y del engaño en el proceso penal. El uso del escáner cerebral (fMRI) y del brainfingerprinting (P300). Marcial Pons, Madrid, 2014.
  • Whittaker, J., Congreso Robotiuris 2017: crónica de un análisis multidisciplinar de la robótica y la inteligencia artificial. https://www.fidefundacion.es/Video-resumen-y-cronica-de-robotiuris17_a666.html
  • 10 Algorithms that are changing health care, Agorithms for Innovation, 2015. https://uofuhealth.utah.edu/innovation/blog/2015/10/10Algorithms ChangingHealthCare.php