Vernehmlassung 2024/65 Neues Bundesgesetz über Kommunikationsplattformen und Suchmaschinen (KomPG)

hier finden Sie die eingereichte Vernehmlassung als pdf

Die DJS begrüsst das vorgeschlagene Bundesgesetz über Kommunikationsplattformen und Suchmaschinen (KomPG) ausdrücklich. Dieses schafft endlich einen Rahmen für die Aktivitäten von Kommunikations-Plattformen und Suchmaschinen und ihren gesellschaftlichen Auswirkungen.

Der Gesetzentwurf sieht wichtige Massnahmen vor, etwa um die Rechte von Nutzer*innen zu stärken und Transparenz zu schaffen über die Funktionsweise der Plattformalgorithmen. Diese Massnahmen sind für ein konstruktive öffentliche Debatte und eine informierte Meinungsbildung zentral.

Wir sehen, dass der Einfluss dieser durch Algorithmen und Künstliche Intelligenz kuratierten Plattformen und Suchmaschinen auf das Wohlergehen von Einzelpersonen sowie auf die demokratische Meinungsbildung weiterhin zunimmt und unser Informationsökosystem sich grundlegend verändert. Wir sind der Meinung, dass die Schweiz die wichtige Gelegenheit unbedingt nutzen sollte, die der Gesetzesentwurf und der damit angestossene politische Prozess bieten, um diese Herausforderungen zu adressieren und die Verantwortung der Anbieterinnen sicherzustellen. Entsprechend sind einige Ergänzungen des Gesetzesentwurfes angezeigt. Die drei wichtigsten stellen wir im Folgenden im Überblick vor:

• Ausweitung des Geltungsbereiches auf kleinere, einflussreiche Plattformen prüfen; generative KI-Systeme da erfassen, wo sie als Suchmaschinen oder Social-Media-Plattformen genutzt werden oder in diese integriert sind
• Risikoanalyse ergänzen um die Pflicht, systemische Risiken zu mindern und auch darüber Bericht zu erstatten
• Massnahmen ergänzen, um Selbstbestimmung der Nutzer*innen sicherzustellen und vulnerable Gruppen zu schützen, insbesondere Kinder und Jugendliche

In den Erläuterungen zu den einzelnen Gesetzesartikeln finden sich weitere Präzisierungen im Detail.

Geltungsbereich: Kleinere einflussreiche Plattformen und generative KI

Der aktuelle Gesetzentwurf beschränkt sich darauf, grosse Plattformen zu regulieren. Kleinere, aber unter Umständen ebenfalls einflussreiche Kommunikationsplattformen und Suchmaschinen, die ebenfalls Auswirkungen auf den öffentlichen Diskurs und die Meinungsbildung haben können, bleiben davon ausgenommen. Wichtig ist zu prüfen, ob auch kleinere, Plattformen und Suchmaschinen, die aus anderen Gründen sehr einflussreich sind, einen eingeschränkten Katalog von Mindestpflichten erfüllen sollten (vgl. Stellungnahme zu Art. 2).

Zudem können auch generative KI-Systeme, mit denen sich Texte, Bilder, Audio- oder Videodateien erstellen lassen, bereits heute massive Auswirkungen auf Individuen und die Gesellschaft haben. Etwa, wenn KI-Chatbots für persönliche Beratung in sensitiven Situationen genutzt werden oder wenn mittels generativer KI unzuverlässige oder irreführende Inhalte erstellt werden, die die Meinungsbildung beeinflussen oder Einzelpersonen schaden. Diese Systeme scheinen vom aktuellen Gesetzentwurf, wenn überhaupt, dann nur teilweise erfasst werden zu können. Es ist wichtig, sowohl ein rechtliches Vakuum als auch rechtliche Unsicherheiten bezüglich generativer KI-Systeme zu vermeiden. Es muss klar werden,

• dass grosse KI-basierte Suchmaschinen, KI-Anwendungen, die in grosse Suchmaschinen integriert sind, oder grosse KI-basierte Anwendungen, die als Suchmaschinen genutzt werden, ebenfalls unter das vorgesehene Gesetz fallen,
• dass KI-Anwendungen, die in grosse Social-Media-Plattformen integriert sind, als Teil dieser Plattformen betrachtet werden und somit unter das Gesetz fallen,
• inwiefern weitere generative KI-Anwendungen darunterfallen oder nicht.

Zudem sollten parallel zu dieser Vorlage Massnahmen ergriffen werden, um Anbieterinnen von generativen KI-Anwendungen, die nicht unter das Gesetz fallen, in die Verantwortung zu nehmen. Es ist dabei entscheidend, dass die Schnittstellen zwischen den künftigen KI-Regulierungen, die der Bundesrat derzeit erarbeiten lässt, und der Plattformregulierung berücksichtigt werden (vgl. Stellungnahme zu Art.2).

Risikoanalyse und Risikominimierung

Wir begrüssen, dass Anbieterinnen von Plattformen und Suchmaschinen verpflichtet werden sollen, Analysen zu systemischen Risiken durchzuführen. Dies ist eine Kernmassnahme des Gesetzesentwurfs. Wir bedauern jedoch sehr, dass parallel dazu Plattformen und Suchmaschinen nicht verpflichtet werden, auch Massnahmen zu ergreifen, um diese Risiken tatsächlich zu minimieren und über diese Massnahmen zu berichten. Ohne eine solche Risikominderungspflicht müssten die Plattformen zwar Risiken einschätzen aber nichts gegen diese Risiken unternehmen. Damit droht die Regulierung zahnlos zu bleiben (vgl. Stellungnahme zu Art. 20).

Selbstbestimmung und Schutz von Individuen und Gruppen in sensitiven Situationen

Der aktuelle Gesetzentwurf muss die Selbstbestimmung aller Nutzer*innen noch weiter stärken. Es fehlen zudem Bestimmungen zum Schutz von Individuen und Gruppen in sensitiven oder vulnerablen Situationen. Wir sollten die wichtige Gelegenheit, die das geplante Gesetz bietet, nicht verstreichen lassen, um die informationelle Selbstbestimmung sowie den Schutz der Menschen, insbesondere von Kindern und Jugendlichen, zu stärken.

Die Geschäftsmodelle marktmächtiger Plattformen basieren vielfach auf Aufmerksamkeits- und Profitmaximierung, personalisiertem Tracking und algorithmischer Verstärkung. Diese haben Auswirkungen auf die Informationsfreiheit aber auch das Wohlbefinden der Nutzer*innen und insbesondere auf Kinder und Jugendliche. Entsprechend braucht es griffige Massnahmen zur Stärkung der Selbstbestimmung sowie zum Schutz Jugendlicher, wie etwa

• die Aufnahme von negativen Auswirkungen auf Minderjährige in der Liste der systemischen Risiken und die Pflicht, diese Risiken auch zu minimieren (vgl. Stellungnahme zu Art 20),
• eine Einschränkung des Profilings für personalisierte Werbung (u.a. Ausschluss von besonders schützenswerten Personendaten) für alle Nutzer*innen sowie ein Verbot von personalisierter Werbung basierend auf Minderjährigkeit (vgl. Stellungnahme zu Art. 15) und
• die Pflicht, Empfehlungssysteme anzubieten, die nicht auf Profiling und Interaktions- und Aufmerksamkeitsmaximierung basieren (vgl. Stellungnahme zu Art. 18).

Letztlich ist zu betonen: Ein Bundesgesetz zur Regulierung von Social Media und Suchmaschinen kann aber auch in einer ergänzten Form nicht alle Herausforderungen im Zusammenhang mit Plattformen und ihren Auswirkungen auf Mensch und Gesellschaft angehen. Neben der wichtigen Grundlage, die dieses Gesetz bietet, braucht es weitere Schritte und Massnahmen, um der Machtkonzentration grosser Tech-Konzerne zu begegnen und eine konstruktive öffentliche Debatte online zu ermöglichen, die für die Gesellschaft und Demokratie förderlich ist. Diese notwendigen Begleitmassnahmen stellen wir am Ende der Vernehmlassungsantwort vor.

Die vollständige Vernehmlassung mit den Vorschlägen zu den einzelnen Gesetzesartikeln finden Sie hier.