El principio de explicabilidad algorítmica en la normativa tributaria españolahacia un derecho a la explicación individual.

  1. Begoña Pérez Bernabeu
Journal:
Civitas. Revista española de derecho financiero

ISSN: 0210-8453,  2695-7493

Year of publication: 2021

Issue: 192

Pages: 143-178

Type: Article

DIALNET GOOGLE SCHOLAR

More publications in: Civitas. Revista española de derecho financiero

Abstract

Artificial intelligence is increasingly present in the tax administration’s decisions, especially through the use of systems based on Machine Learning algorithms to support decisions. These decisions are subject to the principle of explainability, which requires the justification of the decision in understable terms to the taxpayer. In this paper we scour the tax system (and supplementary administrative regulations) in search of the legal basis that supports the taxpayers’ right to obtain such an explanation, but we can only verify the absence of a proper legal basis. This fact, together with the low degree of interpretability of the Machine Learning algorithms used by the tax administration, leads us to propose a legislative reform that materialises this due explanation in local or individual explanations.

Bibliographic References

  • ALAMILLO DOMINGO, I.; URIOS APARISI, F. X., “La actuación administrativa automatizada en el ámbito de las administraciones públicas (Análisis jurídico y metodológico para la construcción y la explotación de trámites automáticos)”, Escola d´Administració Pública de Catalunya, Generalitat de Catalunya, Barcelona, 2011.
  • AMOEDO SOUTO, C., “Comentario de Carlos Amoedo Souto a Andres Boix Palop”, Revista de Derecho Público, Vol 1, 2020, http://blogrdp.revistasmarcialpons.es/comentarios/comentario-de-carlos-amoedo-souto-a-andres-boix-palop-en-rdp-vol-1-2020/.
  • ANNANY, M.; CRAWFORD, K., “Seeing Without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability”, New Media & Society, Vol 20, Issue 3, 2018.
  • ARROYO JIMÉNEZ, L., “Algoritmos y reglamentos”, Almacén del Derecho, https://almacendederecho.org/algoritmos-y-reglamentos.
  • BOIX PALOP, A., “Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones”, Revista de Derecho Pública: Teoría y Método, Vol. 1, 2020.
  • BOURCIER, D., DE FILIPPI, P., “Transparence des algorithmes face à l’open data: quel statut pour les données d’apprentissage ?”, Revue française d’administration publique, n.º 167, 2018.
  • BRAUNEIS, R.; GOODMAN, E. P., “Algorithmic transparency for the smart city”, Yale Journal of Law and Technology, Vol. 20, n.º 1, 2018.
  • BRIN, D., “The transparent society”, Havard Journal of Law & Technology, Vol. 12, n.º 2, 1999.
  • BRYCE GOODMAN, B.; FLAXMAN. S, “EU Regulations on Algorithmic Decision Making and a Right to an Explanation”, Workshop on human interpretability in ML, 2016.
  • CERRILLO I MARTINEZ, A., “Com obrir les caixes negres de les administraciones publiques? Transparència i rendició de comptes en l´ús dels algoritmes”, Revista Catalana de Dret Públic, n.º 58.
  • CHAVES GARCÍA, J. R., “Regreso al futuro de las Administraciones Públicas ante la cuarta revolución industrial”, Revista Presupuesto y Gasto Público, n.º 100, 2020. https://www.ief.es/docs/destacados/publicaciones/revistas/pgp/100.pdf.
  • COTINO HUESO, L., “Garantías frente a la huida del Derecho administrativo del uso de inteligencia artificial en el sector público” (Ponencia), Observatorio de la Transformación Digital Sector Público, 2020, https://www.uv.es/catedra-pagoda/es/novedades-1286053802801/Novetat.html?id=1286153114002.
  • COTINO HUESO, L., “Hacia la transparencia 4.0, el uso de la inteligencia artificial y big data para la lucha contra el fraude y la corrupción y las (muchas) exigencias constitucionales” en Repensando la administración digital y la innovación pública, Carles Ramió Matas (Coord.), Instituto Nacional de la Administración Pública (INAP), 2021.
  • CUELLO OLIVER, R., “Análisis de los derechos de los contribuyentes en la Administración electrónica”, Revista Quincena Fiscal, n.º 18, 2018.
  • DE LA CUEVA, J., “Código fuente, algoritmos y fuentes del Derecho”, El notario del siglo XXI: revista del Colegio Notarial de Madrid, núm. 77, 2018. http://www.elnotario.es/index.php/hemeroteca/revista-77/opinion/opinion/8382-codigo-fuentealgoritmos-y-fuentes-del-derecho.
  • DOSHI-VELEZ, F.; KIM, B., “Towards a rigorous science of interpretable Machine Learning”, Cornell University, 2017, https://arxiv.org/abs/1702.08608.
  • EDWARDS L.; VEALE, M., “Slave to the Algorithm: Why a right to an explanation is probably not the remedy you are looking for”, Duke Law & Technology Review, n.º 16, 2017-2018.
  • GAMERO CASADO, E., “Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o en algoritmos”, Almacén del Derecho, 4 febrero 2021, https://almacendederecho.org/necesidad-de-motivacion-e-invalidez-de-los-actos-administrativos-sustentados-en-inteligencia-artificial-o-en-algoritmos.
  • HEALD, D., “Varieties of Transparency”, in Transparency: the key to better governance?, Christopher Hood and David Heald (Eds.), Oxford University Press, 2006.
  • HUERGO LORA, A., “Una aproximación a los algoritmos desde el Derecho Administrativo” en La regulación de los algoritmos, Alejandro Huergo Lora (Dir.) Gustavo Manuel Díaz González (Coord.), Aranzadi, Navarra, 2020.
  • HUSSAIN, F.; HUSSAIN, R.; HOSSAIN, E., “Explainable artificial intelligence (XAI): an engineering perspective”, Cornell University, 2021. https://arxiv.org/abs/2101.03613.
  • KAI HANSEN, L.; RIEGER, L., “Interpretability in Intelligent Systems. A New Concept?” en Explainable AI: Interpreting, Explaining and Visualizing Deep Learning, Wojciech Samek, Grégoire Montavon, Andrea Vedaldi, Lars Kai Hansen y Klaus-Robert Müller (Eds.) Springer, Suiza, 2019.
  • KIM, B.; KHANNA, R.; KOYEJO, O., “Examples are not enough, learn to criticize! Criticism for interpretability” en Proceedings of the 30th International Conference on Neural Information Processing Systems, December 2016. https://dl.acm.org/doi/10.5555/3157096.3157352.
  • MALGIERI, G., “Automated decision-making in the EU Member States: The right to explanation and other ‘suitable safeguards’ in the national legislations”, Computer Law & Security Review, n.º 35, 2019.
  • MALGIERI, G.; COMANDÉ, G., “Why a right to legibility of automated decision-making exists in the General Data Protection Regulation”, International Data Privacy Law, Vol. 7, n.º 4, 2017.
  • MARTÍN LÓPEZ, J.; PÉREZ BERNABEU, B., “Inteligencia artificial, compliance risk management y conflictividad tributaria” en Cumplimiento cooperativo y reducción de la conflictividad: hacia un nuevo modelo de relación entre la Administración tributaria y los contribuyentes, Saturnina Moreno González y Pedro José Carrasco Parrilla (Dir.), Jose Ángel Gómez Requena (Coord.), Aranzadi, Navarra, 2021.
  • MARTÍN LÓPEZ, J.; PÉREZ BERNABEU, B., “Inteligencia artificial, machine learning e inclusión de contribuyentes en los procedimientos comprobatorios” en “Inteligencia artificial y administración tributaria: eficiencia administrativa y defensa de los derechos de los contribuyentes”, Fernando Serrano Antón (Dir.), Ed. Aranzadi, Navarra, 2021.
  • MARTÍN LÓPEZ, J., “Inteligencia artificial, sesgos y no discriminación en el ámbito de la inspección tributaria”, Crónica Tributaria, en prensa.
  • MENDOZA, I.; BYGRAVE, L. A., “The right not to be subject to automated decisions based on profiling” en EU Internet Law: Regulation and Enforcement, Eleni Synodinou, Philippe Jougleux, Christiana Markou, Thalia Prastitou Merdi (Eds.), Springer, 2017.
  • MOLNAR, C., Interpretable Machine Learning, A guide for making Black Box Models Explainable, https://fedefliguer.github.io/AAI/alcance-de-la-interpretabilidad.html.
  • OLIVARES, B., “Transparencia y aplicaciones informáticas en la Administración tributaria”, Crónica Tributaria, n.º 174, 2020.
  • OLIVARES, B., “Law and Artificial Intelligence in the Spanish Tax Administration: the need for a specific regulation”, European Review of Digital Administration & Law (Erdal), Vol. 1, Issue 1-2, 2020.
  • PARADA VÁZQUEZ, J. R., Régimen jurídico de las Administraciones Públicas y Procedimiento Administrativo Común, Marcial Pons, Madrid, 1999.
  • PONCE SOLÉ, J., “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, n.º 50, 2019, http://laadministracionaldia.inap.es/noticia.asp?id=1509505.
  • ROIG, A., “Interpretaciones amplias del artículo 22 RGPD: la responsabilidad algorítmica” en Las garantías frente a las decisiones automatizadas. Del Reglamento General de Protección de Datos a la gobernanza algorítmica, Bosch, Barcelona, 2020.
  • SELBST, D.; POWLES, J., “Meaningful information and the right to explanation”, International Data Privacy Law, Vol. 7, n.º 4, 2017.
  • VALERO TORRIJOS, J., El régimen jurídico de la e-Administración, Comares, Granada, 2007.
  • VALERO TORRIJOS, J., “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, Revista Catalana de Dret Públic, n.º 58, 2019.
  • WACHTER, S.; MITTELSTADT, B.; FLORIDI, L., “Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation”, International Data Privacy Law, Vol. 7, n.º 2, 2017.
Data source: Dialnet