IA et sociétés démocratiques

Contexte

L’intelligence artificielle remodèle de plus en plus les sociétés démocratiques. Si l’IA offre de nouvelles possibilités en matière de participation citoyenne, d’accès à l’information et de transparence institutionnelle, elle favorise également la désinformation, concentre le pouvoir, facilite la surveillance et ébranle la confiance du public.

La démocratie repose sur des informations fiables, des institutions responsables et la capacité des citoyens à participer de manière significative à la vie civique. Alors que l’IA et le vaste éventail de technologies basées sur les données s’intègrent de plus en plus dans notre quotidien, la question n’est plus de savoir si l’IA va façonner la démocratie, mais comment concevoir des systèmes d’IA qui soutiennent les valeurs démocratiques dès leur conception.

La Fondation Mozilla milite depuis longtemps en faveur d’un Internet ouvert et fiable et investit dans des technologies qui renforcent la pratique démocratique par le biais de son incubateur « Democracy × AI ». De nombreux projets technologiques prometteurs peinent à passer du stade du développement initial à celui de la mise en œuvre concrète et de l’adoption institutionnelle ; c’est précisément ce que soutient l’incubateur de la Fondation Mozilla : il comble le fossé crucial entre un prototype prometteur et un projet durable.

L’édition suisse du Prototype Fund consacrée à l’« IA responsable et durable » offre un cadre complémentaire et ancré en Suisse à l’activité mondiale de l’incubateur de la Fondation Mozilla : les idées issues de AI & Democratic Societies seront traduites en prototypes, parallèlement à des approches de gouvernance et à des implications sociétales concrètes, tout en alimentant celles-ci.

Plutôt que de considérer l’IA responsable comme un objectif politique abstrait, ce défi explore – sur la base d’observations pratiques et d’expérimentations – comment nous pouvons renforcer davantage les institutions démocratiques, par exemple grâce à des approches de données ou des modèles d’IA gérés au niveau local ou communautaire, à des technologies d’intérêt public et à la participation citoyenne.

Les écosystèmes actuels de l’IA, guidés par l’optimisation commerciale et les incitations des plateformes, doivent réorienter leur attention et intégrer dès leur conception les résultats démocratiques souhaités.

Jusqu’à présent, les technologies fondées sur l’IA et les données ont eu un impact considérable sur les démocraties à l’échelle mondiale :

• Partout dans le monde, les sociétés – des citoyens aux hauts responsables – peinent à distinguer les informations fiables de celles qui sont synthétiques ou manipulées ;
• La participation démocratique se retrouve une fois de plus fragmentée par des systèmes algorithmiques opaques ;
• Les institutions, des PME aux grandes organisations, manquent d’outils concrets pour intégrer l’IA de manière responsable ;
• Les communautés continuent d’avoir une influence limitée sur la manière dont les systèmes d’IA sont conçus et déployés ;
• les technologies civiques prometteuses ne parviennent souvent pas à combler le fossé entre le prototype et l’adoption à long terme.

Il est nécessaire de mettre au point des prototypes de systèmes d’IA qui renforcent activement les institutions démocratiques affaiblies ou les pactes sociaux : cela ne peut se faire en se contentant de promouvoir des valeurs ou des discours démocratiques, mais en développant et en favorisant des pratiques d’IA et de gestion des données visant à construire des vies quotidiennes toujours plus enrichissantes, aujourd’hui et demain, malgré une exposition par défaut de plus en plus importante aux technologies numériques.

Définition du défi

Ce défi invite des équipes interdisciplinaires à prototyper des technologies basées sur l’IA qui renforcent la participation démocratique, la transparence, la responsabilité institutionnelle et les technologies d’intérêt public.

Les projets doivent explorer comment l’IA peut soutenir les sociétés démocratiques grâce à des solutions pratiques, évolutives et centrées sur la communauté.

Parmi les pistes possibles, on peut citer :

Une meilleure information

• des écosystèmes d’information fiables
• la vérification collective des faits
• des assistants d’information civiques
• des résumés multilingues fiables
• des outils de transparence algorithmique

Institutions transparentes et responsables

• outils de transparence du secteur public
• suivi législatif et politique
• interfaces de données publiques
• aide à la décision participative
• plateformes de délibération et de recherche de consensus

Espace civique et participation démocratique

• technologies civiques préservant la vie privée
• plateformes de gouvernance communautaire
• outils favorisant la participation civique
• IA soutenant les processus démocratiques locaux
• technologies protégeant les espaces civiques

Infrastructure d’IA démocratique

• modèles d’IA gérés localement
• infrastructures d’IA détenues par les communautés
• services d’IA d’intérêt public
• mécanismes de gouvernance pour un déploiement responsable
• modèles de financement durables pour les technologies démocratiques

Les projets sont encouragés à combiner innovation technique et expérimentation en matière de gouvernance, en veillant à ce que le déploiement responsable soit pris en compte dès le départ.

Concepts clés / Perspectives

• IA responsable
• IA démocratique et/ou locale
• Technologie d’intérêt public
• Technologie civique
• Transparence et responsabilité
• Gouvernance communautaire
• IA et démocratie
• Droits numériques
• Innovation ouverte

Résultats attendus

Les projets doivent aboutir à :

• un prototype technique ou socio-technique fonctionnel ;
• un cas d’utilisation démocratique ou civique clairement défini ;
• une documentation des hypothèses, des considérations de gouvernance et des enseignements tirés de la mise en œuvre ;
• un concept pilote démontrant comment la solution pourrait être déployée dans la pratique ;
• des recommandations pour une mise en œuvre responsable au sein d’institutions ou de communautés démocratiques.

Résultats attendus

Niveau 1 – Impact du prototype

• Prototypes d’IA fonctionnels favorisant la participation démocratique ou la transparence institutionnelle
• Preuves d’un déploiement responsable de l’IA dans des contextes démocratiques
• Modèles de gouvernance pratiques accompagnant les solutions techniques
• Meilleure compréhension des infrastructures d’IA démocratiques

Niveau 2 – Impact systémique

• Perspectives pertinentes pour l’élaboration des politiques en matière de gouvernance démocratique de l’IA
• Contributions aux débats internationaux sur l’IA et la démocratie
• Nouvelles approches reliant la technologie civique, la gouvernance de l’IA et l’innovation d’intérêt public
• Démonstration que des alternatives démocratiques aux écosystèmes d’IA dominants peuvent être techniquement viables et socialement utiles

Questions clés

À quoi ressemble une infrastructure d’IA démocratique dans la pratique ?

Comment l’IA peut-elle renforcer activement la pratique démocratique ?

Qu’est-ce qui rend les systèmes d’IA responsables vis-à-vis des communautés plutôt que des plateformes ?

Comment l’IA peut-elle améliorer l’accès à des informations fiables ?

Quelles approches de gouvernance permettent un déploiement de l’IA centré sur la communauté ?

Comment les technologies civiques peuvent-elles devenir durables au-delà du stade du prototype ?

---

Partenaire du défi

Fondation Mozilla