Die vielfältige Nutzung von Daten ist der Kern der Digitalisierung, wie auch frühere Ausgaben des DigitalBarometers gezeigt haben. In der aktuellen Ausgabe haben wir die Bevölkerung speziell nach ihrer Einschätzung zu staatlichen Überwachungstechnologien befragt. Wie sind die Chancen und Risiken abzuwägen – beispielsweise in Bezug auf Freiheitsrechte? Welche Rolle spielt KI?
Sicherheitsbedürfnis bei gleichzeitigem Misstrauen in staatliche KI-Regulierung
Überwachungstechnologien, die vom Staat im öffentlichen Raum eingesetzt werden, haben wichtige Vorteile: Sie können zum Beispiel Kriminalität reduzieren und die öffentliche Sicherheit erhöhen, indem sie potenzielle Bedrohungen frühzeitig erkennen oder Strafverfolgungsbehörden bei der Aufklärung von Verbrechen unterstützen. Im Verkehrswesen oder bei der Stadtplanung tragen sie zu Lebensqualität, Ressourceneffizienz und Umweltschutz bei, indem sie beispielsweise Mobilitätsströme lenken. Die zunehmende Sammlung und Analyse von Überwachungsdaten durch staatliche Organe wirft jedoch auch Fragen auf, beispielsweise wenn es um Persönlichkeitsschutz und Datenmissbrauch, KI-basierte Diskriminierung oder den Schutz von Freiheitsrechten und Privatsphäre geht. Wie sieht das die Schweizer Bevölkerung? Der Einsatz von Überwachungstechnologien im öffentlichen Raum findet generell breite Zustimmung. Am deutlichsten zeigt sich das bei der Kommunikations- und Internetüberwachung verdächtiger Personen: Rund drei Viertel der Befragten befürworten diese Formen der Überwachung. Der Einsatz von Kameras und GPS-Tracking wird ebenfalls von einer Mehrheit befürwortet, allerdings etwas weniger stark. Ein möglicher Grund für die weit verbreitete Zustimmung könnte ein gestiegenes allgemeines Sicherheitsbedürfnis der Schweizer Bevölkerung im Kontext der unsicheren weltpolitischen Lage sein: Gemäss der Sicherheitsstudie der ETH Zürich (Szvircsev et al. 2024) schätzt diese nur gerade eine von fünf Personen (18%) optimistisch ein. Von einer Mehrheit deutlich abgelehnt werden hingegen maschinelle Gesichtserkennung und biometrische Überwachung. Solche, teilweise KI-basierten, Überwachungstechnologien bergen erhebliche gesellschaftliche und soziale Risiken. Dementsprechend streng sind sie im EU-Gesetz zur künstlichen Intelligenz, dem weltweit ersten umfassenden KI-Gesetz, reguliert. Die Schweiz will mit Regulierungsansätzen Ende 2024 nachziehen (s. Kapitel 3 «Künstliche Intelligenz»). Die Debatten dazu sind in vollem Gange.
Befürwortung von Überwachungstechnologien im öffentlichen Raum
Das generelle Vertrauen der Bevölkerung in eine angemessene Regulierung von KI-Technologien in der Schweiz ist alarmierend tief, wie der DigitalBarometer 2024 zeigt: Rund drei Viertel der Bevölkerung haben diesbezüglich kein Vertrauen in den Schweizer Staat (s. Kapitel «Künstliche Intelligenz»). Dieses Vertrauen ist aber, gerade im Kontext sicherheitsrelevanter KI Überwachungssysteme, kaum zu überschätzen. KI-basierte Systeme sind hochkomplex und oft intransparent («BlackBox-Charakter»): Entwickler:innen solcher Systeme haben, sofern sie nicht gemeinnützig orientiert sind, ein starkes wirtschaftliches Interesse daran, die Daten, mit denen ihre Systeme trainiert werden, nicht offenzulegen. Dies gilt besonders für sensible Daten wie Mobilitäts- oder Gesundheitsdaten. Solche Daten dienen nicht nur privatwirtschaftlichen Partikularinteressen, sie können auch einen wichtigen Beitrag zur Lösung gesamtgesellschaftlicher Herausforderungen (z.B. Klimawandel, Verkehrsüberlastung, Gesundheitskrisen) leisten. Das zeigte auch unser Datenspende Projekt (RisikoDialog 2024). Damit diese grossen Chancen genutzt werden können, ist Vertrauen entscheidend. Dieses wird durch klare rechtliche Rahmenbedingungen und Transparenz geschaffen.
Das Vertrauen in die Fähigkeit des Staates, KI angemessen zu regulieren, wird oft durch die rasante Entwicklung der Technologie im Vergleich zur langsameren Anpassung von Regulierungen herausgefordert.
Anne Scherer, Co-Founder von Delta Labs AG
Die Schweiz steht vor der Herausforderung, KI-Überwachungstechnologien so zu regulieren und umzusetzen, dass Grundrechte wie der Schutz der Privatsphäre, Persönlichkeits- und Diskriminierungsschutz gewahrt bleiben. Gleichzeitig ist dem hohen Sicherheitsbedürfnis der Bevölkerung Rechnung zu tragen. Dazu kommt die Notwendigkeit, eine Balance zwischen verschiedenen wirtschaftlichen und gesamtgesellschaftlichen Interessen zu finden. Hier gilt es auch der Kritik aus der Zivilgesellschaft zu begegnen, nach welcher die Regierung privatwirtschaftliche Partikularinteressen der Big-Tech-Firmen stärker gewichte als Grundrechte (Fichter 2023). Gleichzeitig steht der Staat in der Verantwortung, technologische Innovation durch Regulation nur da zu behindern, wo es notwendig ist. Wo diese Grenze liegt, kann in einer Demokratie nur im gesamtgesellschaftlichen Dialog bestimmt werden. Die Bevölkerung ist hier unbedingt einzubeziehen. Im gesamten Prozess spielt das Vertrauen in den Staat, die gesellschaftlichen Risiken KI-gestützter Überwachungssysteme angemessen zu regulieren, eine wichtige Rolle. Transparenz, Information und offene Kommunikation spielen hier eine Schlüsselrolle.
Interview mit Anne Scherer, Co-Founder von Delta Labs AG
Drei Viertel der Schweizer:innen haben kein Vertrauen in den Staat, dass er KI angemessen regulieren kann. Woran liegt das? Was wären aus Ihrer Sicht wichtige Handlungsempfehlungen für Politik und Gesellschaft?
Das Vertrauen in die Fähigkeit des Staates, KI angemessen zu regulieren, wird oft durch die rasante Entwicklung der Technologie im Vergleich zur langsameren Anpassung von Regulierungen herausgefordert. Um diese Kluft zu überbrücken, ist es entscheidend, ein tieferes Verständnis von KI und deren Regulierung in der Gesellschaft zu fördern und eine transparente, partizipative Regulierung zu etablieren. Durch eine breit angelegte Bildungsinitiative, die das Bewusstsein für KI und ihre potenziellen Risiken schärft, und eine stärkere Einbindung der Bürger:innen in den Regulierungsprozess, beispielsweise durch Bürgerforen, kann das Vertrauen gestärkt werden. Zudem müssen wir sicherstellen, dass unsere Regulierungsrahmen flexibel genug sind, um mit der technologischen Entwicklung Schritt zu halten, indem wir adaptive und lernfähige Regulierungsansätze verfolgen, die sich schnell an neue Herausforderungen anpassen können.
Die Umfrage zeigt eine hohe Zustimmung betr. des Einsatzes von Überwachungstechnologien – unabhängig von Bildung, Geschlecht, Alter etc. Wo sollten die Grenzen der Datenerhebung zur Kriminalitätsbekämpfung zugunsten der Sicherheit und zulasten der Privatsphäre liegen (zumal das Vertrauen in eine entsprechende staatliche Regulierung gering ist)?
Die breite Zustimmung zum Einsatz von Überwachungstechnologien spiegelt ein fundamentales Bedürfnis nach Sicherheit wider. Jedoch steht uns dabei eine wesentliche Herausforderung gegenüber: die Gewährleistung der Verhältnismässigkeit dieser Technologien, um ein «Big Brother»-Szenario zu vermeiden. Die entscheidende Frage zum Einsatz von Überwachungstechnologien ist also, wo die Grenzen gezogen werden sollten, um ein ausgewogenes Verhältnis zwischen Sicherheit und Privatsphäre zu gewährleisten. Datenschutzgesetze bieten hierfür einen Ausgangspunkt, müssen jedoch flexibel genug sein, um mit dem rasanten technologischen Wandel Schritt zu halten. Auch ethische Richtlinien und die Förderung einer aktiven öffentlichen Debatte sind unerlässlich, um sicherzustellen, dass alle Stimmen gehört werden und die Technologie im besten Interesse der Gesellschaft eingesetzt wird. Letztendlich muss es unser Ziel sein, die Grenzen bei Überwachungstechnologien so zu ziehen, dass diese unseren Sicherheitsbedürfnissen gerecht werden, ohne dabei die Freiheiten zu untergraben, die sie schützen sollen.
