Blog

Uso de algoritmos en la administraci贸n p煤blica italiana

Palacio sede del Consejo de Estado - Italia

Recientemente el Consejo de Estado (Consiglio di Stato), el principal 贸rgano judicial-administrativo y consultivo italiano, emiti贸 una interesante decisi贸n relativa a la posibilidad y la legalidad de que la administraci贸n p煤blica se base en procedimientos y decisiones basados en algoritmos.

En el caso en cuesti贸n, la controversia se refer铆a al resultado de un procedimiento de contrataci贸n extraordinaria de maestros de escuela, llevado a cabo por el Ministerio de Educaci贸n italiano: en el contexto de ese procedimiento, se asignaron geogr谩ficamente diferentes lugares de trabajo a los maestros contratados.

Este procedimiento -basado 煤nicamente en un algoritmo que, en opini贸n de los profesores, no funcionaba correctamente- organizaba los traslados sin tener debidamente en cuenta las preferencias expresadas por los profesores, incluso en presencia de plazas disponibles en las zonas geogr谩ficas preferidas. En esencia, el mecanismo de movilidad extraordinaria result贸 perjudicial para los profesores que fueron trasladados a provincias alejadas de la de su residencia o de la elegida con prioridad en el momento de su solicitud de empleo.

Aunque consider贸 ileg铆timo el algoritmo utilizado en el caso concreto, el Consejo no excluy贸 en absoluto la posibilidad de que la administraci贸n p煤blica adoptara algoritmos: m谩s bien se帽al贸 que la administraci贸n p煤blica podr谩 explotar el importante potencial de la llamada 芦revoluci贸n digital禄, utilizando tambi茅n algoritmos, pero s贸lo en determinadas condiciones. Seg煤n el Consejo, la utilizaci贸n de algoritmos inform谩ticos para la adopci贸n de decisiones que afectan a la esfera p煤blica y privada debe evaluarse siempre en t茅rminos de eficacia y neutralidad: esto significa que la utilidad de los algoritmos para la gesti贸n del inter茅s p煤blico puede ser particularmente 煤til en lo que respecta a procedimientos, como el que nos ocupa, que son seriados o normalizados, que implican la tramitaci贸n de grandes cantidades de solicitudes, y que se caracterizan por el acopio de determinados elementos objetivamente demostrables y por la ausencia de toda apreciaci贸n discrecional.

En opini贸n del Consejo de Estado italiano, la plena admisibilidad de esos instrumentos podr铆a responder a los criterios de eficiencia y eficacia en funci贸n de los costos de la acci贸n administrativa, que, de conformidad con el principio constitucional de buena ejecuci贸n de la acci贸n administrativa (art铆culo 97 de la Constituci贸n italiana), exigen que la administraci贸n alcance sus objetivos con el menor gasto de recursos y mediante la racionalizaci贸n y aceleraci贸n del procedimiento p煤blico.

El uso del algoritmo debe estar correctamente enmarcado en t茅rminos de medidas organizativas, medios procesales y de investigaci贸n, sujeto a los requisitos, comprobaciones y controles t铆picos de cualquier procedimiento administrativo, asegurando que la elecci贸n autorizada se lleve a cabo sobre la base de la ley que atribuye el poder y los prop贸sitos a la autoridad p煤blica. El Consejo destac贸 tres principios interesantes, relativos a los algoritmos potencialmente adoptados por la administraci贸n p煤blica.

  • En primer lugar, el 芦principio de conocimiento禄, en virtud del cual toda persona tiene derecho a conocer la existencia de los procesos automatizados de adopci贸n de decisiones que le conciernen y a recibir informaci贸n significativa sobre su l贸gica. Esta norma constituye una aplicaci贸n espec铆fica directa del arte. 41 de la Carta de Derechos Fundamentales de la Uni贸n Europea, en el que se establece que cuando la Administraci贸n P煤blica se proponga adoptar una decisi贸n que pueda tener efectos adversos para una persona, tiene la obligaci贸n de 芦motivar su decisi贸n禄 y la persona interesada tiene derecho a ser o铆da y a tener acceso a sus archivos y documentos. El Consejo subray贸 que el derecho a saber debe ir acompa帽ado de mecanismos capaces de descifrar la l贸gica del algoritmo. En esta perspectiva, el principio de la conocibilidad se completa con el principio de la comprensibilidad, es decir, la posibilidad de recibir informaci贸n significativa sobre la l贸gica en cuesti贸n, as铆 como sobre el significado y las consecuencias previstas de ese tratamiento para el interesado. Sin embargo, al leer la decisi贸n, parece que el Consejo de Estado no consider贸 esencial y obligatoria la divulgaci贸n completa y exhaustiva del c贸digo algor铆tmico.
  • En segundo lugar, el Consejo identific贸 el 芦principio de no exclusividad禄 de la decisi贸n algor铆tmica, que se deriva del Art铆culo 22 Reg. UE 2016/679 (GDPR). Una persona tendr谩 derecho a no ser objeto de una decisi贸n basada 煤nicamente en un tratamiento automatizado, incluida la elaboraci贸n de perfiles, que produzca efectos jur铆dicos que le conciernan o que le afecten de forma similar y significativa, teniendo derecho a obtener, al menos, una intervenci贸n humana por parte del responsable del tratamiento (la administraci贸n p煤blica, el Ministerio de Educaci贸n en el caso concreto), a expresar su punto de vista y a impugnar la decisi贸n.
Share it on

Derechos de Ciudadan铆a Digital