Gobernanza y supervisión humana de la toma de decisiones automatizada basada en la elaboración de perfiles/governance and human oversight of automated decision-making based on profiling

Resumo

La toma de decisiones automatizada basada en la elaboración de perfiles que realiza predicciones oclasificaciones sobre nosotros forma ya parte de lo cotidiano. Con la evolución de las tecnologías seproduce una reducción gradual de la participación humana en los procesos de toma de decisiones. Noobstante, el Derecho no parece querer renunciar a la supervisión humana de dichos procesos.Siguiendo esta misma lógica, el RGPD prohíbe en su artículo 22 la toma de decisiones, incluida laelaboración de perfiles, basada únicamente en el tratamiento automatizado, imponiendo la inclusión deintervención humana en el proceso decisorio para esquivar dicha prohibición. Incluso cuandoexcepcionalmente habilita la toma de decisiones basada únicamente en el tratamiento automatizadoimpone una intervención humana posterior a la adopción de la decisión como medida de salvaguarda.Sin embargo, estos mecanismos de gobernanza basados en la intervención humana han recibido escasointerés por la doctrina y la jurisprudencia. Ello genera una notoria falta de seguridad jurídica a la hora deinterpretar qué clase de intervención humana es exigida por el RGPD y cómo puede implementarse en unproceso de toma de decisiones automatizada. Esta investigación trata de ser una aportación preliminar en esta línea a partir, primero, del análisis del vilipendiado artículo 22 RGPD; y posteriormente, partiendodel principio nuclear de la responsabilidad en el ecosistema normativo del RGPD, destacando lasobligaciones que introduce la evaluación de impacto de protección de datos en relación con laintervención humana.A la luz de este análisis jurídico, puede concluirse que el RGPD exige una intervención humanasignificativa y demostrable para la toma de decisiones automatizada basada en la elaboración de perfiles.Ahora bien, este optimismo debe contrarrestarse con una necesaria dosis de realismo: resultaindispensable -y urgente- introducir reformas para hacer efectiva dicha intervención humana significativay demostrable.