Quelle place pour le citoyen dans la gouvernance de l’intelligence artificielle ?

Introduction

À l’heure où les technologies d’intelligence artificielle (IA) s’imposent dans de nombreuses sphères de la société, des questions majeures se posent quant à leur impact sur les citoyens, notamment du fait des enjeux éthiques qu’elles sous-tendent. Ainsi, afin de limiter les éventuels risques et de maximiser les potentielles opportunités liées à l’IA, de nombreuses initiatives visant à organiser sa gouvernance se multiplient. C’est le cas par exemple du Partnership on AI, du règlement européen sur l’intelligence artificielle (AI Act), ou encore du rapport “Gouverner l’IA pour l’humanité” récemment publié par les Nations Unies, pour n’en citer que quelques-unes.

Il est important de noter ici que le terme de “gouvernance” ne renvoie pas uniquement aux efforts de régulation de l’IA. Il s’agit plutôt de l’ensemble des processus, des règles, des normes et des politiques qui visent à accompagner le déploiement de ces technologies et leurs usages. Ainsi, un grand nombre d’acteurs contribue à l’élaboration de la gouvernance de l’IA : les organisations non-gouvernementales (la Fondation Mozilla, l’AI Now Institute), les organisations intergouvernementales (les Nations Unies, l’OCDE), les organismes de standardisation (l’International Standardization Organization (ISO), le CEN-CENELEC), les associations professionnelles (le Partnership on AI, le Frontier Model Forum), l’industrie, le monde académique, et bien sûr les parlements.

Pour l’heure, les citoyens semblent peu impliqués dans ces efforts de gouvernance. Or, afin de garantir que les décisions prises dans les “hautes sphères” publiques et privées reflètent les besoins et les préoccupations de la société (notamment au regard de considérations éthiques et environnementales), leur participation apparaît indispensable. Comment renforcer alors le rôle des citoyens dans la gouvernance de l’IA ? Des initiatives existent-elles à cet égard et, le cas échéant, quelles modalités de participation offrent-elles ? Quelles sont leurs limites et comment les dépasser ?

Pour répondre à ces questions, Renaissance Numérique a organisé, le 3 octobre 2024, dans le cadre du Forum sur la Gouvernance de l’Internet (FGI) France, une table-ronde intitulée « Quelle place pour le citoyen dans la gouvernance de l’intelligence artificielle ? ». Dans le prolongement des AI Dialogues organisés par le think tank, cet événement s’inscrit dans une réflexion plus large menée par Renaissance Numérique sur la participation de la société civile à la gouvernance internationale de l’IA. Ces échanges s’inscrivent également dans le cadre de la préparation du Sommet pour l’action sur l’IA, qui se tiendra à Paris les 10 et 11 février 2025.

Cette table-ronde a rassemblé trois intervenantes : Giulia Cibrario (Policy Analyst à l’OCDE, spécialiste de la participation citoyenne et de la démocratie numérique), Céline Colucci (Déléguée générale des Interconnectés) et Jeanne Perreul (Chargée de projets participatifs chez Missions Publiques). Toutes trois ont partagé leurs perspectives et des retours d’expériences concrets, notamment sur les obstacles à surmonter afin de garantir une participation citoyenne à la gouvernance de l’IA qui ne soit  pas qu’une participation « de façade ». Cette synthèse retrace leurs échanges.

Entendre la voix des citoyens en matière d’IA : exemples d’initiatives au niveau local, national et international

En premier lieu, il ressort de cette table-ronde que la participation citoyenne aux décisions liées aux technologies complexes, comme l’intelligence artificielle, est essentielle pour inclure des perspectives non-techniques, provenant de personnes non-expertes. Pour Jeanne Perreul (Missions Publiques), il est fondamental de créer des espaces permettant aux citoyens de partager leurs avis sur les technologies qui impactent grandement leur quotidien, notamment sur des aspects éthiques, sociaux et environnementaux. Et comme le souligne l’experte, « l’IA n’est pas un sujet trop complexe ni trop technique pour les citoyens, contrairement à ce que l’on peut penser – l’expérience à montré qu’ils ont des choses à dire »​. Un des points clés, précise-t-elle, est de garantir un apport d’expertise variée dans les processus participatifs, pour que les citoyens puissent mieux appréhender et s’approprier le sujet. Cela permet de décomplexifier le sujet et d’assurer que les participants aient des choses à dire. « On ne cherche pas une opinion mais un avis éclairé dans les processus que l’on accompagne, pour mieux guider la réflexion des décideurs publics », ajoute-elle. Giulia Cibrario (OCDE) la rejoint sur ce point, et prend l’exemple de mécanismes inclusifs développés dans plusieurs pays de l’OCDE, par exemple en Autriche, en Corée, et au Canada. Au-delà de ces quelques exemples, des initiatives voient le jour à différentes échelles, allant de concertations locales à des dialogues mondiaux.

En France, les concertations citoyennes se multiplient au niveau des territoires, notamment dans la lignée de l’appel lancé par Les Interconnectés, France Urbaine et les Intercommunalités de France, à organiser partout en France des concertations territoriales de l’intelligence artificielle. Leur but : « faire de l’IA un sujet de débat public avant tout déploiement généralisé ». Dans une logique bottom-up, l’objectif de ces concertations est de faire remonter les questionnements des citoyens et des acteurs locaux vers les décideurs politiques. En outre, les 30 collectivités déjà engagées, à l’instar de Rennes, Nantes ou Montpellier, mettent en commun les résultats de leurs concertations afin d’en tirer des propositions ou positions politiques qui reflètent les attentes des acteurs interrogés, nous explique Céline Colucci (Les Interconnectés). Ces concertations territoriales sont ouvertes à toute collectivité souhaitant porter le débat avec les acteurs du territoire (publics, privés, citoyens…) et en partager collectivement les enseignements. Un kit méthodologique a été mis en place pour harmoniser ces démarches, incluant une charte garantissant transparence et engagement tout au long du processus.​ En mars 2024, la Convention citoyenne sur l’intelligence artificielle organisée à Montpellier a rendu son avis, qui identifie huit impératifs : « les IA doivent être utiles », il faut « maîtriser l’impact environnemental des IA », « garantir la protection de la vie privée », instaurer « des contrôles neutres et indépendants », « assurer la transparence » dans l’utilisation des algorithmes et des données, « garantir la maîtrise des IA en autonomie », considérer l’IA « comme un outil et un soutien pour l’action des services publics » et « rendre l’IA accessible au plus grand nombre ». Pour Giulia Cibrario (OCDE), ces consultations locales sont extrêmement importantes et peuvent avoir une portée très large, allant jusqu’à influencer des décisions prises au niveau supranational​.

Dans le cadre de la Présidence belge du Conseil de l’Union Européenne au premier semestre 2024, le gouvernement belge, en collaboration avec Missions Publiques, a invité 60 citoyens à participer à un panel afin d’échanger sur ce que signifiait l’intelligence artificielle pour eux et ce qu’ils attendent de l’Union Européenne à ce sujet pour sa prochaine mandature. L’objectif de ce panel était de « recueillir une vision citoyenne, non technique, sur les enjeux de l’IA, pour guider la Belgique et l’UE en matière d’IA. Dans ce cadre, les citoyens ont abordé une diversité de sujets tels que l’économie, l’environnement, la sécurité, et les relations humaines  », précise Jeanne Perreul (Missions Publiques). Les discussions ont abouti à neuf messages clés qui mettent en lumière les priorités des citoyens pour un développement éthique et bénéfique de l’IA, notamment en assurant que l’IA reste un outil au service de l’humain et en limitant autant que possible son impact environnemental et social. Les résultats de cette démarche ont été transmis aux institutions européennes en vue de nourrir la stratégie de l’Union Européenne sur l’IA.

En partenariat avec le Stanford Deliberative Democracy Lab, Missions Publiques a prévu d’organiser, en 2025, un dialogue mondial décentralisé sur l’intelligence artificielle. Inspiré d’un premier dialogue mondial sur le futur de l’internet conçu en 2020, ce projet vise à rassembler une coalition multi-acteurs pour créer des espaces d’échange où les citoyens du monde entier et de tous horizons pourront discuter de divers enjeux liés à la gouvernance de l’IA. L’objectif est d’intégrer les perspectives et les préoccupations des citoyens, en particulier des populations les plus marginalisées, afin de garantir une utilisation et un développement de l’IA inclusif, équitable et durable. Par le biais d’événements locaux organisés dans plus de 100 pays et d’un sondage délibératif au niveau mondial, le processus engagera les acteurs de la gouvernance de l’IA (gouvernements, secteur privé, organisations internationales, monde académique et société civile), pour favoriser l’impact des idées citoyennes recueillies.  Les idées recueillies seront transmises aux acteurs principaux de la gouvernance de l’IA : gouvernements, industriels, et organisations internationales, notamment. Cette initiative, dont le lancement est prévu pour février 2025 à l’occasion du Sommet pour l’action sur l’intelligence artificielle, pourrait établir un précédent historique pour l’implication citoyenne dans les grandes questions globales, comme le changement climatique.

Les défis à la participation citoyenne et comment les dépasser

Bien que les quelques exemples évoqués lors de la table-ronde contribuent à faire peser la voix des citoyens dans les choix de société qui sont faits en matière d’IA, les trois intervenantes identifient plusieurs freins à dépasser. Ceux-ci ne sont toutefois pas propres à l’intelligence artificielle, et concernent la participation citoyenne de façon générale. Parmi eux, le manque de ressources humaines et financières apparaît comme un obstacle majeur. La transcription et la rédaction de rapports sont par exemple citées comme des tâches extrêmement chronophages. Idéalement, nous dit Giulia Cibrario (OCDE), « il faudrait systématiser le fait de disposer, au niveau local et au niveau national, de ressources dédiées à la participation citoyenne ».

Elle souligne en outre que « les initiatives de participation citoyenne actuelles ne sont pas vraiment représentatives ». Selon elle, il est nécessaire de repenser l’accessibilité et les processus d’inclusion de ces démarches. Rejoignant ce point, une participante dans la salle fait remarquer que les populations dites du « Sud global » sont très rarement représentées dans ce genre d’initiatives. À cet égard, le projet de dialogue mondial décentralisé porté par Missions Publiques semble faire figure d’exception : « nous souhaitons réaliser les dialogues dans un maximum de pays du Sud Global », précise Jeanne Perreul (Missions Publique).

Par ailleurs, entendre la voix des citoyens est une chose – l’écouter et la prendre en compte réellement en est une autre. Comme souligné par les trois intervenantes, il existe un risque majeur d’instrumentalisation des consultations. Les gouvernements, par exemple, peuvent être tentés d’organiser des démarches participatives pour afficher leur bonne volonté, sans pour autant utiliser les résultats de ces dernières d’une quelconque manière. Or, lorsque les citoyens ne perçoivent pas de retour concret ou d’impact réel découlant de leur participation, l’absence de suivi de la part des organisateurs peut nuire à la confiance dans ces dispositifs. « Il y a eu trop d’exemples de démarches de participation citoyenne qui sont en réalité plutôt des actions de communication et ne débouchent pas sur une réelle prise en compte des préoccupations des citoyens. C’est un problème important, un facteur d’inadaptation des politiques menées et de défiance des citoyens. C’est pourquoi nous avons posé dans une charte commune le principe d’un engagement clair sur les suites données aux travaux.», observe Céline Colucci (Les Interconnectés).

Dès lors, un des facteurs à ne pas négliger durant ces processus est la transparence vis-à-vis des citoyens, qui doivent se rendre compte de l’impact qu’ils peuvent avoir ou non. L’adoption de chartes qui garantissent cette transparence, ou encore l’engagement ferme des acteurs impliqués, ainsi que la mise en place d’un suivi rigoureux à l’issue des consultations, sont apparus comme des éléments clés pour assurer une réelle prise en compte des voix citoyennes. Ces démarches permettent de maximiser l’impact de la participation citoyenne et d’assurer aux citoyens que leur voix a un véritable poids dans les décisions, renforçant ainsi leur confiance dans les processus​.

Enfin, il ressort de la discussion que, dans le cadre de dialogues mondiaux comme celui envisagé par Missions Publiques, l’implication de diverses parties prenantes (gouvernements, organisations non-gouvernementales, entreprises…) est essentielle pour maximiser l’impact et garantir que les résultats de ces dialogues infusent dans toutes les sphères qui contribuent à façonner les usages et la gouvernance de l’IA.

Et si l’IA faisait partie de la solution ?

Selon les intervenantes, l’intelligence artificielle en tant qu’outil, a le potentiel de rendre les processus participatifs plus inclusifs et plus efficaces, en facilitant l’accessibilité et la participation de tous les citoyens, quel que soit leur profil.

Giulia Cibrario (OCDE) attire notre attention sur le fait que l’IA peut notamment améliorer l’accessibilité à ces démarches en offrant des outils de traduction automatique et de simplification du langage, permettant à des personnes parlant différentes langues ou ayant des niveaux variés de compréhension, d’accéder aux discussions et de s’y engager pleinement. Elle mentionne également l’utilisation d’assistants virtuels qui facilitent l’interaction des participants avec les processus délibératifs, rendant ces derniers plus fluides et intuitifs. En outre, elle explique que l’IA peut être utilisée pour visualiser des scénarios futurs, en générant par exemple des images qui illustrent l’impact potentiel de certaines politiques publiques, comme la réorganisation d’un espace public. Cette approche permet de rendre les discussions plus concrètes et accessibles pour les citoyens, ce qui favorise leur compréhension et renforce leur engagement.

Pour les organisateurs de processus délibératifs, l’IA offre également la possibilité d’automatiser en partie certaines tâches répétitives et chronophages, telles que la transcription et la rédaction de rapports. La charge administrative est en effet très lourde dans ces processus, et l’IA peut permettre de l’alléger. Dans le contexte spécifique des consultations publiques, confier certaines tâches à l’IA permet de libérer du temps et des ressources, et de se concentrer sur l’essentiel : le contenu des discussions citoyennes. Par exemple, des outils comme Panoramic, développé par Make.org, aident à analyser les contributions, facilitant ainsi la synthèse des idées soumises par un grand nombre de participants​.

Conclusion

Si la participation citoyenne à la gouvernance de l’IA s’avère cruciale, elle présente des défis importants. Cette table ronde a mis en évidence le fait que, malgré l’existence de diverses initiatives visant à faire valoir la voix des citoyens sur des questions de société liées à l’IA, ces processus se heurtent à des obstacles à la fois institutionnels et techniques. Jeanne Perreul (Missions Publiques) rappelle à juste titre que, certes, l’IA n’est pas un sujet trop complexe pour les citoyens, mais qu’il est essentiel de poser les bonnes questions, qui soient accessibles et pertinentes sur les plans éthique et sociétal. Cette approche permet d’éviter de réduire la participation citoyenne à une « consultation de façade » ou purement technique, où les citoyens n’ont pas la compétence nécessaire pour intervenir de manière significative​. Il ressort également des discussions qu’une des clés réside dans la mise en place d’un processus de suivi après chaque démarche participative. Ce suivi, combiné à une volonté politique réelle, renforce la confiance des citoyens et maximise l’impact de leur contribution. Il apparaît enfin indispensable de mettre en place un cadre de gouvernance qui valorise la mise en capacité (au sens de “empowerment”, en anglais) des citoyens à travers des mécanismes de transparence et d’inclusion délibérative : les citoyens doivent voir les effets tangibles de leur participation.

Dans la lignée de cet événement, Renaissance Numérique présentera prochainement le rapport final de son projet AI Dialogues mené entre avril et octobre 2024. Celui-ci comprendra des pistes d’actions afin de mieux intégrer la société civile dans la gouvernance mondiale de l’IA. À la lumière de ces différents travaux, il ne fait nul doute que ce sujet devra occuper une place centrale dans les discussions qui auront lieu dans le cadre du Sommet pour l’action sur l’intelligence artificielle en février 2025.