#BTW21: Menschenrechte im Netz schützen!

Die Digitalisierung bietet Chancen und birgt Risiken. Damit sie allen Menschen zugutekommt, muss sie sich an menschenrechtlichen Leitlinien orientieren. Dazu gehört beispielsweise, dass Systeme mit künstlicher Intelligenz (KI) nicht zu Diskriminierung beitragen oder Behörden und Unternehmen unser Recht auf Privatsphäre achten. Die zukünftige Bundesregierung steht in der Verantwortung, den Einsatz digitaler Technologien menschenrechtskonform zu gestalten.

Von Navigationssystemen über Sprachassistenten, Anwendungen im medizinischen Bereich oder in der Automobilindustrie: Der Einsatz künstlicher Intelligenz (KI) ist aus unserem Alltag nicht mehr wegzudenken. Schon jetzt kann KI dazu beitragen, Krankheiten schneller zu erkennen und effektiver zu behandeln und so das Menschenrecht auf Gesundheit zu stärken.

KI-Anwendungen bergen jedoch auch gravierende menschenrechtliche Herausforderungen. Zahlreiche Anwendungsbeispiele zeigen, dass bereits marginalisierte Gruppen durch den Einsatz von künstlicher Intelligenz zusätzlich diskriminiert werden können. Andere Anwendungen sind bereits an sich ein Menschenrechtsproblem: Autonome Waffensysteme etwa, die ohne menschliche Entscheidung töten, oder der massenhafte Einsatz von Softwares zur Gesichtserkennung an öffentlichen Plätzen, die unbeobachtete Bewegung im öffentlichen Raum abzuschaffen droht.

Auch das systematische Sammeln von Nutzer_innen-Daten durch Internet-Unternehmen ist eine Gefahr für die Menschenrechte. Facebook, Google & Co missbrauchen ihre Marktmacht, um eigene Geschäftsinteressen auf Kosten unserer Privatsphäre durchzusetzen.

Gleichzeitig sind sie sehr zögerlich, Hate Speech auf ihren Plattformen konsequent entgegenzutreten. Die Konsequenz: Viele Menschen, die intersektionale Diskriminierung erfahren – wie Schwarze Frauen oder queere People of Color – schränken ihre Meinungsfreiheit im Internet aus Angst vor Drohungen ein.

Äußerst bedenklich sind außerdem Maßnahmen zur anlasslosen Überwachung durch deutsche Geheimdienste, wie sie beispielsweise der "Staatstrojaner" ermöglicht. Der "Staatstrojaner" ist nun auch für die Bundespolizei und alle Nachrichtendienste in Deutschland vorgesehen. Es muss unbedingt sichergestellt sein, dass solche Überwachungstechnologien nur bei hinreichendem Verdacht eingesetzt werden und einer unabhängigen Kontrolle unterliegen.

Die zukünftige Bundesregierung steht in der Verantwortung, den Einsatz digitaler Technologien menschenrechtskonform zu gestalten. Meinungsfreiheit, das Recht auf Privatsphäre und der Schutz vor Diskriminierung müssen auch im digitalen Raum gelten.

Unsere wichtigsten Forderungen zum Thema:

Chancen und Herausforderungen des Einsatzes künstlicher Intelligenz

• Die Bundesregierung reguliert die Entwicklung und den Einsatz von KI­-Anwendungen national und setzt sich auch innerhalb der EU und weltweit dafür ein.
• Um die Menschenrechte derer zu schützen, die von algorithmisch gestützten Entscheidungen betroffen sind, werden gesetzlich sowohl die Transparenz über den Einsatz und die Wirkungsweise algorithmischer Entscheidungssysteme als auch der Zugang zum Rechtsweg für Betroffene sichergestellt.
• Um neuen Herausforderungen – etwa möglicher Diskriminierung beim Einsatz von KI – gerecht zu werden, werden die Kapazitäten von Datenschutz­ und Gleichstellungsbehörden gestärkt.
• Die Bundesregierung verpflichtet Unternehmen, die KI-Anwendungen herstellen, zu einer menschenrechtlichen Risikoanalyse und Gegenmaßnahmen für erkannte Risiken (branchenspezifische menschenrechtliche Sorgfaltspflichten auf Grundlage der UN-Leitprinzipien für Wirtschaft und Menschenrechte).
• Künstliche Intelligenz, deren Einsatz unvertretbare Menschenrechtsrisiken mit sich bringt, wird verboten:
  • Die Bundesregierung setzt sich für einen internationalen Verbotsvertrag ein, der die Entwicklung, die Produktion, den Handel und den Einsatz von tödlichen autonomen Waffensystemen (Lethal Autonomous Weapon Systems, LAWS) verbietet.
  • Die Bundesregierung verbietet den anlasslosen Einsatz von Gesichtserkennungstechnologie im öffentlichen Raum und setzt sich hierfür auch auf EU­-Ebene und in internationalen Organisationen ein.

Big Data, Internetplattformen und Menschenrechte

• Die Bundesregierung verbietet es Unternehmen, den Zugang zu ihren Diensten davon abhängig zu machen, dass Nutzer_innen der Erhebung, Verarbeitung und Weitergabe ihrer persönlichen Daten zu Werbezwecken "zustimmen" müssen (right not to be tracked).
• Die Bundesregierung verpflichtet Internetplattformen und Technologieunternehmen zu menschenrechtlichen Sorgfaltspflichten bezüglich ihrer Tätigkeiten.
• Die Bundesregierung verpflichtet Social-Media-Plattformen zu Maßnahmen, um Online-Gewalt und Diskriminierung zu begegnen. Darunter fallen effektive Funktionen für Nutzer_innen, um sich zu schützen (z. B. durch Filter, Blocken, Privatsphäreeinstellungen), Personalschulungen, um diese Formen von Online-­Gewalt und Diskriminierung zu erkennen und zu bekämpfen, ebenso wie die Veröffentlichung regelmäßiger Transparenzberichte zu Vorfällen und Gegenmaßnahmen.
• Die Bundesregierung verankert gesetzlich Netzneutralität.

Überwachung und Menschenrechte

• Die Bundesregierung lässt untersuchen, in welchem Ausmaß das Menschenrecht auf Privatsphäre durch Überwachung gefährdet ist, und stellt auf Basis der unabhängigen Erkenntnisse eine "Überwachungsgesamtrechnung" auf. Darauf aufbauend etabliert sie erstens eine unabhängige, effektive Kontrolle der Nachrichtendienste. Zweitens richtet sie das Nachrichtendiensterecht an den Menschenrechten aus und reformiert hierfür insbesondere das BND­Gesetz, das G10­Gesetz und das Verfassungsschutzgesetz. Bis beides umgesetzt ist, erlässt sie ein Moratorium für weitere Überwachungsbefugnisse.
• Die Bundesregierung fördert Verschlüsselungs­ und Anonymisierungswerkzeuge und widerspricht auch innerhalb der EU-Versuchen, diese zu unterminieren.
• Die Sicherheit technischer Infrastrukturen wird nicht durch Ankäufe oder die Geheimhaltung von Sicherheitslücken (etwa für den Einsatz von Quellen-­Telekommunikationsuntersuchung und Online­-Durchsuchung) unterminiert.

Alle Forderungen zum Thema finden sich in unserem Forderungspapier zur Bundestagswahl 2021 "Zukunft.Menschen.Rechte."