Cuando se da poder a los algoritmos, ¿qué significa eso para la gente?
Los algoritmos utilizados por el gobierno toman decisiones que impactan directamente al público en muchos niveles diferentes, jugando un papel importante en la implementación de políticas públicas, como en los campos de educación, salud, migración y finanzas públicas. En teoría, esto podría significar, por ejemplo, que un algoritmo decide si eres admitido en el programa universitario de tu elección. Pero, ¿qué pasa si no te aceptan y te preguntas por qué?
Hacer que el uso de algoritmos por parte del sector público sea más transparente y responsable es fundamental para garantizar que las tecnologías digitales no se utilicen de forma indebida, que tengan consecuencias no deseadas y, en última instancia, que pasen desapercibidas, y que se protejan los derechos de los ciudadanos.
Sabemos que, al igual que las personas que los programan, los algoritmos también pueden estar sesgados. Es posible que no haya ingresado en el programa de estudios que eligió, porque pertenece a un grupo minoritario y, por lo tanto, el algoritmo lo excluye de la elección de candidatos. Por lo tanto, los algoritmos de poder que tienen sobre usted, si no se controlan y se ocultan, pueden facilitar la desconfianza del gobierno que los está utilizando.
En Francia, la Ley de la República Digital exige la transparencia de los algoritmos utilizados por el gobierno. Las agencias públicas deben enumerar públicamente cualquier herramienta algorítmica que utilicen y publicar sus reglas. Si bien la ley defiende los principios de transparencia digital, no es tan fácil cumplirlos. Las agencias están luchando para cumplir con este requisito, en parte porque hay una falta de orientación sobre cómo inventariar los algoritmos, qué información incluir y cómo debe presentarse.
Incluso cuando las agencias están siguiendo esta ley, no significa que la información sea de uso inmediato ya que la persona promedio puede carecer del conocimiento técnico para comprenderla o responder a ella. Francia se centró entonces en orientar a las agencias sobre lo que necesitan publicar y cómo hacerlo, y asegurarse de que sea comprensible para el público medio.
Desarrollar una política de algoritmos democráticos
Con el aumento mundial de los algoritmos en la gobernanza, varios miembros de OGP están incluyendo compromisos para la transparencia y la responsabilidad de los algoritmos utilizados por el gobierno en sus planes de acción. En el plan de acción de Francia 2018-2020, el gobierno se comprometió a garantizar que las agencias públicas puedan cumplir con sus obligaciones legales de transparencia algorítmica en virtud de la Ley de la República Digital de 2016.
La implementación del compromiso ha sido encabezada por Etalab, un departamento de la Dirección Digital Interministerial (DINUM), que tiene la tarea de coordinar el diseño y la promulgación de las políticas digitales del estado. En este rol, la inclusión del uso de algoritmos en las políticas más amplias sobre transparencia digital cae dentro de las responsabilidades de Etalab, y utilizó las alianzas establecidas a través del desarrollo con OGP del plan de acción 2018-2020, y su propia red de gobierno y civiles. grupos de la sociedad.
Etalab lidera el camino; Abordar las complejidades de la transparencia de los algoritmos
La mayor parte del trabajo que ha realizado Etalab para cumplir con estos compromisos se ha centrado en desarrollar formas de ayudar a las agencias gubernamentales a cumplir con sus obligaciones legales de publicar información utilizable sobre los algoritmos que utilizan. Esto se ha hecho mediante la elaboración de dos documentos de orientación. El primero muestra cómo abrir códigos fuente públicos y el segundo explica el marco legal de responsabilidad y transparencia de los algoritmos del sector público. Etalab también ha estado trabajando junto con agencias en estudios de casos específicos para aclarar aún más los procesos.
Continuando con el trabajo más allá del plan de acción 2018-2020, Etalab ha estado coordinando un grupo de trabajo con varias agencias diferentes para desarrollar y expandir registros de algoritmos abiertos. En febrero de 2021 publicaron un documento guía para la creación de un registro, en el que identificaron cuatro categorías de información que se pueden recopilar sobre cada algoritmo: la agencia responsable; el contexto global y qué papel tiene el algoritmo en el proceso de toma de decisiones; el impacto de la decisión; y el funcionamiento técnico del algoritmo. La ciudad de Antibes ya está utilizando la guía para publicar un registro de 8 algoritmos que utiliza.
Este documento de orientación va más allá de enumerar información sobre algoritmos y proporciona guías paso a paso sobre cómo las agencias pueden iniciar el proceso, incluido a quién contactar, cómo establecer un sistema de gobernanza y qué algoritmos priorizar. Tomemos este último punto, por ejemplo, siguiendo las instrucciones del documento, Lyon decidió apuntar primero a sus departamentos de asuntos sociales mientras toman decisiones cruciales del día a día sobre las poblaciones vulnerables que podrían sentirse particularmente impotentes en la toma de decisiones del gobierno.
Acercar los algoritmos a la gente; Proporcionar supervisión
Los esfuerzos de Etalab han logrado avances significativos no solo en proporcionar información sobre algoritmos, sino también en brindar orientación accesible a las agencias gubernamentales. Con el uso de los documentos de orientación, las agencias pueden cumplir con sus obligaciones legales y agregar a una base de datos creciente de algoritmos interrogables públicamente.
Los conocimientos extraídos de este proceso se han aprovechado, tanto en el desarrollo de estos documentos como en el futuro.
Etalab ahora planea obtener comentarios sobre el registro de propuestas de febrero de 2021, especialmente de las organizaciones de la sociedad civil que pueden usar esta información para hacer que los gobiernos sean más responsables. El objetivo es que la información que se publica se incorpore a un formato más interactivo, de modo que los detalles se puedan encontrar más fácilmente y se puedan hacer comparaciones entre agencias y algoritmos particulares.
Aún quedan preguntas por responder sobre cómo se verá el registro final, dónde se publicará y cómo alentar al público a interactuar con la información que contiene. El camino a seguir requiere una cooperación continua entre las agencias gubernamentales y las organizaciones de la sociedad civil, y estrategias de concienciación y participación del público.
Los avances tecnológicos significan que los algoritmos solo serán utilizados cada vez más por gobiernos de todo el mundo. La cooperación internacional puede ayudar a los esfuerzos de reforma al compartir buenas prácticas, desafíos comunes y nuevas ideas. Por esta razón, OGP está coordinando la Red de algoritmos abiertos, que reúne a agencias gubernamentales ejecutoras, expertos internacionales y organizaciones de la sociedad civil.
