(a cargo de Michele Gorga, abogada y componente observatorio para la coordinación de DPD, IDT y Responsable de Reputación de Aidr) En cuanto al procedimiento automatizado para el tratamiento de datos personales a efectos de decisión administrativa, el estándar de referencia, como es sabido, es el de 'Arte. 22 del RGPD de 2016/679 que establece que: "El interesado tiene derecho a no ser sometido a una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o que le afecten significativamente en su persona ". Este principio se puede resumir en la máxima de que nadie puede sufrir consecuencias sobre sus derechos ante una decisión adoptada íntegramente a través de una máquina, un algoritmo, otro proceso de toma de decisiones no humano, encuentra su correspondencia en la CONSIDERACIÓN 15 del RGPD 2016/679, donde se establece que " Para evitar la aparición de riesgos graves de elusión, la protección de las personas físicas (el tratamiento) debe ser neutral desde un punto de vista tecnológico y no debe depender de las técnicas utilizadas …… ". Ambas disposiciones expresadas en el Reglamento UE 2016/679 son, por tanto, perfectamente coherentes con los principios establecidos por el derecho administrativo nacional que, al coordinar entre las normas de transparencia y la necesidad de cumplir con la legislación de protección de datos, se combinan por un lado con la discrecionalidad administrativa , por otro lado, con la categoría de acto vinculado al que están sometidas todas las administraciones públicas y que pone a nuestra atención otros perfiles críticos en relación con el algoritmo asumido en base a una decisión adoptada por el sistema de inteligencia artificial.
El primer perfil se refiere a la necesidad de respetar el principio de transparencia, que ahora es central en la actividad de la AP y debe estar en la base de los nuevos servicios públicos basados en algoritmos y decisiones automatizadas. En este sentido, será necesario asegurar la transparencia no solo de los datos, sino también de los algoritmos, de las lógicas de construcción de la base de datos, del proceso de operación del servicio. El segundo se refiere a la responsabilidad jurídica de la Administración Pública incluso cuando recurre a soluciones de inteligencia artificial en la prestación de servicios o en las decisiones de recurrir a procedimientos totalmente automatizados y la jurisprudencia administrativa ha atendido casos en los que el procedimiento administrativo se rige íntegramente por un máquina y se ha movido manteniendo firme el supuesto fundamental, es decir, que la tutela judicial no puede ser excluida o limitada para determinadas categorías de actos. El juez administrativo abordó el problema del proceso de automatización en el procedimiento administrativo en algunas sentencias muy recientes e identificó tres principios básicos como reguladores de la materia; el de la conocibilidad; el de no exclusividad de la decisión algorítmica; el de la no discriminación algorítmica.
Teniendo en cuenta el primer principio que es "el derecho a no ser sometido a una decisión basada únicamente en el procesamiento automatizado, incluida la elaboración de perfiles", esto implica que toda decisión algorítmica, tomada por la AP, nunca puede estar sin el control de un funcionario - persona física acusación -, principio ya afirmado por el Tribunal de Distrito de Wisconsin de EE. UU. y aceptado por nuestra jurisprudencia administrativa con el arresto jurisprudencial cristalizado en 2019, que una opinión reciente emitida por el Garante de Privacidad parece no reconocer.
Y de hecho sobre la solicitud de dictamen de la Provincia Autónoma de Trento, sobre una propuesta normalmente elaborada para poder realizar tratamientos que implican decisiones totalmente automatizadas, para la posible aprobación de un futuro proyecto de ley en el contexto de intervenciones de apoyo económico- financiero desembolsado, es decir, relativo al otorgamiento de becas, subsidios, becas y otras formas de ventajas económicas para los residentes, la provincia ha expresado la posibilidad de utilizar, en estos procedimientos, sistemas, incluso totalmente automatizados, de la lógica algorítmica aunque periódicamente verificados en con el fin de minimizar el riesgo de errores, distorsiones o discriminación de cualquier tipo.
En la solicitud, sin embargo, si bien se preveía que la fórmula algorítmica se daría a conocer plenamente a los destinatarios interesados en el procedimiento administrativo, --aunque en la misma disposición, la prescripción de cómo dar a conocer la fórmula de los algoritmos a los destinatarios-- solo de forma genérica se preveía que los interesados hubieran podido "impugnar las decisiones tomadas en base a la misma fórmula y solicitar una intervención humana efectiva" y, por tanto, una intervención ex post y no ex ante con la consiguiente vulneración del criterio adicional fijado por la legislación Comisión Europea de no agravar el procedimiento administrativo en detrimento de los usuarios de la AP, el Garante, a pesar de las evidentes criticidades, expresó una opinión favorable sobre el esquema de la norma propuesta y dictó prescripciones y condiciones que sin embargo parecen marginales y residuales.