Quand le pouvoir est donné aux algorithmes, qu'est-ce que cela signifie pour le peuple ?
Les algorithmes utilisés par le gouvernement prennent des décisions qui ont un impact direct sur le public à de nombreux niveaux différents, jouant un grand rôle dans la mise en œuvre des politiques publiques, comme dans les domaines de l'éducation, de la santé, de la migration et des finances publiques. Cela pourrait théoriquement signifier, par exemple, qu'un algorithme décide si vous êtes admis dans le programme universitaire de votre choix. Mais que se passe-t-il si vous n'êtes pas accepté et que vous vous demandez pourquoi ?
Rendre l'utilisation des algorithmes par le secteur public plus transparente et responsable est essentiel pour garantir que les technologies numériques ne sont pas utilisées à mauvais escient, ou qu'elles ont des conséquences imprévues et finalement inaperçues, et que les droits des citoyens sont protégés.
Nous savons que tout comme les personnes qui les programment, les algorithmes aussi peuvent être biaisés. Vous n'êtes peut-être pas entré dans votre choix de programme d'études, car vous appartenez à un groupe minoritaire et donc l'algorithme vous exclut du choix des candidats. Ainsi, le pouvoir des algorithmes sur vous, s'il n'est pas contrôlé et caché, peut faciliter la méfiance du gouvernement qui les utilise.
En France, la loi pour une République numérique impose la transparence des algorithmes utilisés par le gouvernement. Les agences publiques sont tenues de lister publiquement tous les outils algorithmiques qu'elles utilisent et de publier leurs règles. Si la loi défend les principes de la transparence numérique, il n'est pas si simple d'y adhérer. Les agences ont du mal à remplir cette exigence, en partie parce qu'il y a un manque de conseils sur la façon d'inventorier les algorithmes, les informations à inclure et la manière dont elles doivent être présentées.
Même lorsque les agences suivent cette loi, cela ne signifie pas que l'information est immédiatement utile car la personne moyenne peut ne pas avoir les connaissances techniques pour la comprendre ou y répondre. La France s'est alors attachée à donner des conseils aux agences sur ce qu'elles doivent publier et comment s'y prendre, et à s'assurer que cela est compréhensible pour le public moyen.
Développer une politique d'algorithme démocratique
Avec l'essor mondial des algorithmes dans la gouvernance, un certain nombre de membres de l'OGP incluent des engagements pour la transparence et la responsabilité des algorithmes utilisés par le gouvernement dans leurs plans d'action. Dans le plan d'action 2018-2020 de la France, le gouvernement s'est engagé à faire en sorte que les organismes publics soient en mesure de remplir leurs obligations légales de transparence algorithmique au titre de la loi pour une République numérique de 2016.
La mise en œuvre de l'engagement a été pilotée par Etalab, service de la Direction interministérielle du numérique (DINUM), qui a pour mission de coordonner la conception et la mise en œuvre des politiques numériques de l'État. Dans ce rôle, l'inclusion de l'utilisation d'algorithmes dans les politiques plus larges sur la transparence numérique relève des responsabilités d'Etalab, et il a utilisé les partenariats établis grâce à l'élaboration avec OGP du plan d'action 2018-2020, et son propre réseau de gouvernements et civils. groupes de la société.
Etalab ouvre la voie ; S'attaquer aux complexités de la transparence des algorithmes
La majeure partie du travail qu'Etalab a accompli pour remplir ces engagements s'est concentrée sur le développement de moyens d'aider les agences gouvernementales à respecter leurs obligations légales de publier des informations utilisables sur les algorithmes qu'elles utilisent. Cela a été fait en produisant deux documents d'orientation. La première montre comment ouvrir les codes sources publics, et la seconde explique le cadre juridique de la responsabilité et de la transparence des algorithmes du secteur public. Etalab a également travaillé aux côtés d'agences sur des études de cas spécifiques pour clarifier davantage les processus.
Poursuivant le travail au-delà du plan d'action 2018-2020, Etalab a coordonné un groupe de travail avec un certain nombre d'agences différentes pour développer et étendre des registres d'algorithmes ouverts. En février 2021, ils ont publié un document d'orientation pour la mise en place d'un registre, dans lequel ils ont identifié quatre catégories d'informations pouvant être recueillies sur chaque algorithme : l'agence responsable ; le contexte global et le rôle de l'algorithme dans le processus de prise de décision ; l'impact de la décision ; et le fonctionnement technique de l'algorithme. La ville d'Antibes utilise déjà la guidance pour publier un registre de 8 algorithmes qu'elle utilise.
Ce document d'orientation va au-delà de la liste des informations sur les algorithmes et fournit des guides étape par étape sur la façon dont les agences peuvent démarrer le processus, y compris qui contacter, comment établir un système de gouvernance et quels algorithmes prioriser. Prenons ce dernier point, par exemple, suivant les instructions du document, Lyon a décidé de cibler d'abord ses départements des affaires sociales car ils prennent des décisions cruciales et quotidiennes concernant les populations vulnérables qui pourraient se sentir particulièrement impuissantes dans la prise de décision du gouvernement.
Rapprocher les algorithmes des gens ; Assurer la surveillance
Les efforts d'Etalab ont fait des progrès significatifs non seulement en fournissant des informations sur les algorithmes, mais en fournissant des conseils accessibles aux agences gouvernementales. Grâce à l'utilisation des documents d'orientation, les agences peuvent remplir leurs obligations légales et enrichir une base de données croissante d'algorithmes interrogeables publiquement.
Les enseignements tirés de ce processus ont été mis à profit, à la fois pour l'élaboration de ces documents et pour l'avenir.
Etalab prévoit désormais d'obtenir des commentaires sur le registre des propositions de février 2021, en particulier de la part des organisations de la société civile qui peuvent utiliser ces informations pour responsabiliser les gouvernements. L'objectif est que les informations publiées soient intégrées dans un format plus interactif, afin que les détails puissent être trouvés plus facilement et que des comparaisons entre les agences et des algorithmes particuliers puissent être faites.
Il y a encore des questions sans réponse sur l'apparence du registre final, où il sera publié et comment encourager le public à interagir avec les informations qu'il contient. La voie à suivre nécessite une coopération continue entre les agences gouvernementales et les organisations de la société civile, ainsi que des stratégies de sensibilisation et d'engagement du public.
Les développements technologiques signifient que les algorithmes ne seront de plus en plus utilisés par les gouvernements du monde entier. La coopération internationale peut contribuer aux efforts de réforme, en partageant les bonnes pratiques, les défis communs et les nouvelles idées. Pour cette raison, OGP coordonne le Réseau d'algorithmes ouverts, qui rassemble des agences gouvernementales chargées de la mise en œuvre, des experts internationaux et des organisations de la société civile.
