KI und demokratische Gesellschaften

Kontext

Künstliche Intelligenz prägt demokratische Gesellschaften zunehmend neu. Während KI neue Möglichkeiten für Bürgerbeteiligung, Informationszugang und institutionelle Transparenz schafft, beschleunigt sie zugleich die Verbreitung von Falschinformationen, führt zu Machtkonzentration, ermöglicht Überwachung und stellt das Vertrauen der Öffentlichkeit auf die Probe.

Demokratie hängt von vertrauenswürdigen Informationen, rechenschaftspflichtigen Institutionen und der Fähigkeit der Menschen ab, sich sinnvoll am gesellschaftlichen Leben zu beteiligen. Da KI und die Vielzahl datengesteuerter Technologien immer stärker in unseren Alltag eingebettet sind, lautet die Frage nicht mehr, ob KI die Demokratie prägen wird, sondern wie KI-Systeme so konzipiert werden können, dass sie demokratische Werte von Grund auf unterstützen.

Die Mozilla Foundation setzt sich seit langem für ein offenes, vertrauenswürdiges Internet ein und investiert über ihren Democracy × AI Incubator in Technologien, die die demokratische Praxis stärken. Viele vielversprechende Technologieprojekte haben Mühe, den Sprung von der frühen Entwicklungsphase zur praktischen Umsetzung und institutionellen Einführung zu schaffen; genau dabei hilft der Inkubator der Mozilla Foundation: Er überbrückt die entscheidende Lücke zwischen vielversprechendem Prototyp und nachhaltigem Projekt.

Die Ausgabe des Prototype Fund Switzerland zum Thema «Verantwortungsvolle und nachhaltige KI» bietet ein ergänzendes und in der Schweiz verankertes Umfeld zu den globalen Inkubatoraktivitäten der Mozilla Foundation: Ideen zum Thema KI & demokratische Gesellschaften werden in Prototypen umgesetzt, wobei gleichzeitig Governance-Ansätze und konkrete gesellschaftliche Auswirkungen berücksichtigt und weiterentwickelt werden.

Anstatt verantwortungsvolle KI als abstraktes politisches Ziel zu betrachten, untersucht diese Herausforderung – basierend auf praktischen Erkenntnissen und Experimenten –, wie wir demokratische Institutionen weiter stärken können, z. B. durch lokale oder gemeinschaftseigene Datenansätze oder KI-Modelle, Technologien im öffentlichen Interesse und Bürgerbeteiligung.

Aktuelle KI-Ökosysteme, die von kommerzieller Optimierung und Plattformanreizen getrieben werden, müssen ihren Fokus neu ausrichten und gewünschte demokratische Ergebnisse von Grund auf einbauen.

Bislang haben KI- und datengesteuerte Technologien Demokratien weltweit stark beeinträchtigt:

• Gesellschaften weltweit – von Bürgern bis hin zu hochrangigen Entscheidungsträgern – haben Mühe, vertrauenswürdige Informationen von synthetischen oder manipulierten zu unterscheiden;
• Die demokratische Teilhabe wird durch undurchsichtige algorithmische Systeme erneut fragmentiert;
• Institutionen fehlen praktische Instrumente, um KI verantwortungsvoll zu integrieren, von KMU bis hin zu Grossorganisationen;
• Gemeinschaften haben weiterhin nur begrenzten Einfluss darauf, wie KI-Systeme konzipiert und eingesetzt werden;
• vielversprechende zivilgesellschaftliche Technologien schaffen es häufig nicht, die Lücke zwischen Prototyp und langfristiger Einführung zu schliessen.

Es besteht die Notwendigkeit, KI-Systeme zu entwickeln, die geschwächte demokratische Institutionen oder gesellschaftliche Verträge aktiv stärken: Dies kann nicht allein durch die Förderung demokratischer Werte oder Narrative erreicht werden – sondern durch den Aufbau und die Ermöglichung von KI- und datengestützten Praktiken, die darauf abzielen, das Alltagsleben von heute und morgen immer wertvoller zu gestalten – trotz der Tatsache, dass wir standardmässig zunehmend digitalen Technologien ausgesetzt sind.

Rahmen der Herausforderung

Diese Herausforderung lädt interdisziplinäre Teams dazu ein, KI-gestützte Technologien zu entwickeln, die die demokratische Teilhabe, Transparenz, institutionelle Rechenschaftspflicht und Technologien im öffentlichen Interesse stärken.

Projekte sollten untersuchen, wie KI demokratische Gesellschaften durch praktische, skalierbare und gemeinschaftsorientierte Lösungen unterstützen kann.

Mögliche Ansätze umfassen:

Bessere Information

• vertrauenswürdige Informationsökosysteme
• kollektive Faktenprüfung
• zivilgesellschaftliche Informationsassistenten
• mehrsprachige, vertrauenswürdige Zusammenfassungen
• Tools zur algorithmischen Transparenz

Transparente und rechenschaftspflichtige Institutionen

• Transparenz-Tools für den öffentlichen Sektor
• Verfolgung von Gesetzgebungs- und Politikprozessen
• Schnittstellen für öffentliche Daten
• Partizipative Entscheidungsunterstützung
• Plattformen für Deliberation und Konsensbildung

Zivilgesellschaftlicher Raum und demokratische Teilhabe

• Datenschutzkonforme Technologien für die Zivilgesellschaft
• Plattformen für gemeinschaftliche Governance
• Tools zur Unterstützung der zivilgesellschaftlichen Teilhabe
• KI zur Unterstützung lokaler demokratischer Prozesse
• Technologien zum Schutz zivilgesellschaftlicher Räume

Demokratische KI-Infrastruktur

• lokal verwaltete KI-Modelle
• KI-Infrastrukturen im Besitz der Gemeinschaft
• KI-Dienste im öffentlichen Interesse
• Governance-Mechanismen für einen verantwortungsvollen Einsatz
• nachhaltige Finanzierungsmodelle für demokratische Technologie

Projekte werden dazu ermutigt, technische Innovation mit Governance-Experimenten zu kombinieren, um sicherzustellen, dass ein verantwortungsvoller Einsatz von Anfang an berücksichtigt wird.

Schlüsselkonzepte / Blickwinkel

• Verantwortungsvolle KI
• Demokratische und/oder lokale KI
• Technologie im öffentlichen Interesse
• Bürgertechnologie
• Transparenz & Rechenschaftspflicht
• Gemeinschaftssteuerung
• KI & Demokratie
• Digitale Rechte
• Offene Innovation

Erwartete Ergebnisse

Von den Projekten wird erwartet, dass sie Folgendes entwickeln:

• einen funktionsfähigen technischen oder soziotechnischen Prototyp;
• einen klar definierten demokratischen oder zivilgesellschaftlichen Anwendungsfall;
• eine Dokumentation der Annahmen, Governance-Überlegungen und Erkenntnisse aus der Umsetzung;
• ein Pilotkonzept, das aufzeigt, wie die Lösung in der Praxis eingesetzt werden könnte;
• Empfehlungen für eine verantwortungsvolle Umsetzung innerhalb demokratischer Institutionen oder Gemeinschaften.

Erwartete Ergebnisse

Stufe 1 – Auswirkungen des Prototyps

• Funktionsfähige KI-Prototypen, die die demokratische Teilhabe oder institutionelle Transparenz unterstützen
• Nachweise für einen verantwortungsvollen Einsatz von KI in demokratischen Kontexten
• Praktische Governance-Modelle, die technische Lösungen begleiten
• Verbessertes Verständnis für demokratische KI-Infrastrukturen

Stufe 2 – Systemische Auswirkungen

• Politikrelevante Erkenntnisse für die demokratische KI-Governance
• Beiträge zu internationalen Diskussionen über KI und Demokratie
• Neue Ansätze, die Civic Technology, KI-Governance und Innovationen im öffentlichen Interesse miteinander verbinden
• Nachweis, dass demokratische Alternativen zu den gängigen KI-Ökosystemen technisch realisierbar und gesellschaftlich wertvoll sein können

Zentrale Fragen

Wie sieht eine demokratische KI-Infrastruktur in der Praxis aus?

Wie kann KI die demokratische Praxis aktiv stärken?

Was sorgt dafür, dass KI-Systeme gegenüber Gemeinschaften statt gegenüber Plattformen rechenschaftspflichtig sind?

Wie kann KI den Zugang zu vertrauenswürdigen Informationen verbessern?

Welche Governance-Ansätze ermöglichen einen gemeinschaftsorientierten KI-Einsatz?

Wie können Civic-Technologien über die Prototypenphase hinaus nachhaltig werden?

---

Challenge-Partner

Mozilla Foundation