Transparencia algorítmica y Estado Abierto en Colombia

• Published in: Reflexión política Vol. 25; no. 52; pp. 6 - 21
• Main Authors: Gutiérrez Rodríguez, Juan David, Castellanos-Sánchez, Michelle
• Format: Journal Article
• Language: Spanish
• Published: 30.12.2023
• ISSN: 0124-0781; 2590-8669
• DOI: 10.29375/01240781.4789

En los últimos años se ha producido un rápido avance y despliegue del uso de sistemas de toma automatizada de decisiones (SDA) tanto en el sector público como en el privado alrededor del mundo, incluida Colombia. Por otra parte, la mayoría de las guías y marcos éticos asociadas con el desarrollo y uso de IA incluyen como uno de los principales valores la “transparencia”. Paradójicamente, son pocas las entidades estatales del nivel nacional y/o local que informan de manera sistemática y estandarizada sobre el uso de dichos sistemas. Además, pocos Estados abren espacios de participación ciudadana y de rendición de cuentas en las diferentes etapas del ciclo de vida de estos sistemas. Este artículo estudia la relación entre el principio de transparencia algorítmica y el modelo Estado Abierto en el contexto colombiano en la última década. Además de explorar dichos conceptos desde el punto de vista conceptual, abordamos sus sinergias y tensiones a través de diferentes políticas e instrumentos de política pública y casos que han llegado hasta los tribunales de Colombia. El estudio aborda la transparencia de la administración pública respecto de sus sistemas algorítmicos desde una perspectiva “macro”, cómo las instituciones formales e informales inciden en la transparencia y, desde una perspectiva “meso”, cómo se implementa la transparencia a nivel organizacional. Para tal efecto realizamos un caso de estudio comparado en el cual abordamos seis casos en Colombia; tres sobre transparencia pasiva (CoronApp, escrutinio de elecciones, y BETTO) y tres sobre transparencia activa (repositorios de algoritmos públicos). In recent years there has been a rapid advancement and deployment of the use of automated decision-making systems (ADS) in both the public and private sectors around the world, including Colombia. On the other hand, most of the guidelines and ethical frameworks associated with the development and use of AI include “transparency” as one of the main values. Paradoxically, few public sector bodies at the national and/or local level report systematically and in a standardized manner on the use of these systems. Furthermore, few States open spaces for citizen participation and accountability in the different stages of the life cycle of these systems. This article studies the relationship between the principle of algorithmic transparency and the Open Government model in the Colombian context. In addition to exploring these concepts from a conceptual point of view, we address their synergies and tensions through different policies and public policy instruments and cases that have reached the Colombian courts. The study addresses the transparency of public administration with respect to its algorithmic systems from a “macro” perspective, how formal and informal institutions affect transparency, and from a “meso” perspective, how transparency is implemented at the organizational level. For this purpose, we conducted a comparative case study in which we addressed six cases in Colombia, three on passive transparency (CoronApp, election scrutiny, and BETTO) and three on active transparency (repositories of public algorithms).