Internationale rechtliche Reaktionen auf Ransomware: Auf dem Weg zu einem Zahlungsverbot?

05/2026

1 Einleitung

Ransomware hat sich im Laufe des letzten Jahrzehnts zu einer globalen Cybersicherheits-Epidemie entwickelt, die weltweit wirtschaftliche Schäden in Milliardenhöhe verursacht und kritische Dienste lahmlegt. Diese Form der Cyber-Erpressung – bei der Malware eingesetzt wird, um Daten zu verschlüsseln oder zu stehlen, bis ein Lösegeld gezahlt wird – ist „die am schnellsten wachsende Art von Cyberkriminalität“ und wird den Opfern bis 2031 voraussichtlich jährlich 265 Milliarden US-Dollar kosten. Aufsehenerregende Angriffe auf Krankenhäuser, Pipelines und Regierungsbehörden in zahlreichen Ländern haben die dringende Bedrohung deutlich gemacht. Ein zentraler Grund für das Fortbestehen von Ransomware ist einfach: Sie ist lukrativ. Wie ein Cybersicherheitsbeauftragter unverblümt feststellte: „Geld treibt Ransomware an“ – Kriminelle sind finanziell motiviert, und solange Opfer weiterhin Lösegeld zahlen, haben Angreifer einen Anreiz, diese Angriffe fortzusetzen. Diese Dynamik hat eine intensive Debatte darüber ausgelöst, wie Kriminelle die Erlöse aus ihren Verbrechen waschen und wie Recht und Politik darauf reagieren sollten.

Eine zunehmend diskutierte Idee ist es, das „Gewinnmodell der Hacker zu durchbrechen“, indem Lösegeldzahlungen vollständig unterbunden werden. Würde den Opfern die Zahlung gesetzlich untersagt oder stark davon abgeraten, könnte Ransomware zu einer weitaus weniger attraktiven Straftat werden. Tatsächlich haben Regierungen und Experten weltweit begonnen, Massnahmen wie ein Verbot von Lösegeldzahlungen oder die Verpflichtung zur Meldung von Vorfällen und Zahlungen an die Behörden in Betracht zu ziehen. In den Vereinigten Staaten beispielsweise erwog das Weisse Haus im Jahr 2023 offen ein vollständiges Verbot von Ransomware-Zahlungen, was eine Kehrtwende gegenüber seiner früheren Haltung darstellte. Das Vereinigte Königreich leitete 2025 eine politische Konsultation ein, um bestimmten Organisationen die Zahlung zu verbieten und Transparenz bei Ransomware-Angriffen zu verlangen. Australien ging noch einen Schritt weiter und erliess 2024 ein in seiner Art einzigartiges Gesetz, das Organisationen verpflichtet, jede Ransomware-Zahlung innerhalb von 72 Stunden zu melden, um das Problem ans Licht zu bringen. Doch diese Bemühungen werfen komplexe Fragen auf: Würde ein Zahlungsverbot Ransomware tatsächlich eindämmen oder neue Probleme schaffen? Wie kann das Recht eines einzelnen Landes gegen eine grenzüberschreitende Bedrohung wirksam sein? Und stehen solche Massnahmen im Einklang mit dem Völkerrecht, einschliesslich Übereinkommen zur Cyberkriminalität und Menschenrechtsnormen?

Dieser Artikel untersucht die sich abzeichnenden internationalen rechtlichen und politischen Reaktionen auf die Ransomware-Epidemie und konzentriert sich dabei auf Vorschläge zum Verbot von Lösegeldzahlungen oder zur Verpflichtung zur Offenlegung von Vorfällen. Er betrachtet die wichtigsten Rechtsordnungen – darunter die USA, das Vereinigte Königreich, die EU und andere – aus einer vergleichenden Perspektive, um die jüngsten Entwicklungen von 2023 bis 2025 zu analysieren. Zudem werden die Auswirkungen im Rahmen des bestehenden Völkerrechts (wie z. B. Übereinkommen zur Cyberkriminalität) sowie die Herausforderungen bei der Koordinierung einer globalen Reaktion bewertet. Dabei berücksichtigen wir sowohl die potenziellen Vorteile eines Verbots von Lösegeldzahlungen (insbesondere die Untergrabung des Geschäftsmodells der Kriminellen) als auch die potenziellen Nachteile oder unbeabsichtigten Folgen (wie z. B. erhöhter Schaden für die Opfer oder Schwierigkeiten bei der Durchsetzung). Schliesslich untersucht die Diskussion, wie ein internationaler Vertrag oder ein koordinierter Rahmen gegen Ransomware vorgehen könnte und ob sich ein globaler Konsens hin zu einer Norm der Verweigerung von Cyber-Lösegeldzahlungen bildet. Ziel ist es, aus rechtlicher Perspektive zu beurteilen, ob der Schritt „hin zu einem Zahlungsverbot“ eine tragfähige und wirksame Strategie zur Bekämpfung der Ransomware-Epidemie ist.

2 Die Ransomware-Epidemie und die Rolle von Zahlungen

Ransomware ist eine Form der Cyberkriminalität, bei der Angreifer in ein IT-System eindringen, Daten verschlüsseln oder mit der Veröffentlichung sensibler Informationen drohen und ein Lösegeld (in der Regel in Kryptowährung) für Entschlüsselungscodes oder das Versprechen verlangen, die Daten nicht zu veröffentlichen. Dieses kriminelle Geschäftsmodell hat sich als verheerend wirksam erwiesen. Indem sie Organisationen den Zugriff auf ihre eigenen Daten verweigern – oder mit kostspieligen Datenlecks drohen –, bringen Ransomware-Angreifer ihre Opfer in eine quälende Lage, in der die Zahlung des Lösegelds als schnellster Weg zur Schadensbegrenzung erscheint. Weltweit werden jedes Jahr Hunderte Millionen Dollar an Ransomware-Banden gezahlt. Tatsächlich wurden 2023 bekannte Ransomware-Zahlungen in Rekordhöhe von 1,25 Milliarden US-Dollar verzeichnet, obwohl diese Zahl 2024 auf etwa 814 Millionen US-Dollar sank (ein Rückgang um 35 %), da sich mehr Opfer weigerten zu zahlen und die Strafverfolgungsbehörden gegen grosse Banden vorgingen. Trotz des leichten Rückgangs der Einnahmen hat die Gesamtzahl der Ransomware-Angriffe nicht abgenommen – wenn überhaupt, stieg die Zahl der Vorfälle Ende 2024 sogar an, obwohl weniger Opfer zahlten. Diese Trends zeigen, dass Ransomware nach wie vor hochprofitabel ist, aber auch, dass entschlossene Bemühungen (sowohl von Behörden als auch von Opfern) den Erfolg der Angreifer beeinflussen können.

Die Entscheidung, Lösegeld zu zahlen oder nicht, steht im Mittelpunkt des rechtlichen und ethischen Dilemmas von Ransomware. Einerseits kann die Zahlung von Lösegeld manchmal zu einer schnellen Wiederherstellung der Systeme führen und so möglicherweise den Betrieb eines Unternehmens oder die Dienstleistungen einer öffentlichen Behörde sichern (z. B. die Wiederherstellung des Betriebs eines Krankenhauses zur Behandlung von Patienten). Andererseits fördert jede Zahlung einen Kreislauf, der weitere Kriminalität finanziert und begünstigt. Wie ein australischer Cybersicherheitsbeamter feststellte, ist Ransomware „ein finanziell motiviertes Verbrechen, und je mehr man zahlt, desto mehr weckt man das Interesse an weiteren kriminellen Aktivitäten dieser Art“. Mit anderen Worten: Lösegeldzahlungen befeuern die Ransomware-Epidemie – sie fungieren als „wichtige Finanzquelle“ für Netzwerke von Cyberkriminellen. Strafverfolgungsbehörden weltweit, darunter das FBI und Europol, raten Opfern seit langem davon ab, Lösegeld zu zahlen, da es niemals eine Garantie dafür gibt, dass Kriminelle ihre Versprechen einhalten (Daten zu entschlüsseln oder keine Daten zu veröffentlichen), und da eine Zahlung eine Organisation sogar als wiederkehrendes Ziel kennzeichnen könnte. Tatsächlich sind wiederholte Übergriffe und „doppelte Erpressung“ (bei der Angreifer Daten sowohl verschlüsseln als auch stehlen, um Druck auszuüben) mittlerweile an der Tagesordnung.

Entscheidend ist, dass die Zahlung eines Lösegeldes für Privatpersonen nach den meisten nationalen Gesetzen im Allgemeinen nicht illegal ist. Im Gegensatz zur eindeutigen Illegalität der Handlungen der Hacker befindet sich die Zahlung der Erpressungsforderung durch das Opfer in einer Grauzone. In den Vereinigten Staaten beispielsweise „gibt es keine Bundesgesetze, die die Zahlung von Lösegeld ausdrücklich unter Strafe stellen“. Opfern steht es (aus strafrechtlicher Sicht) frei, einen nicht sanktionierten Cyberkriminellen zu bezahlen, um ihre Daten wiederherzustellen. Ebenso gibt es in den meisten Ländern – einschliesslich der EU-Mitgliedstaaten und der Commonwealth-Länder – keine Gesetze, die private Lösegeldzahlungen verbieten, abgesehen von allgemeinen Verboten der Terrorismusfinanzierung oder Verstössen gegen Sanktionen. Diese tolerante rechtliche Haltung ändert sich jedoch. Regierungen ringen mit der Frage, ob die Zulassung von Zahlungen angesichts einer globalen Ransomware-Welle vertretbar ist. Die Logik entspricht der seit langem bestehenden Terrorismusbekämpfungspolitik: So wie viele Staaten (und Resolutionen des UN-Sicherheitsrats) dazu auffordern, in Entführungsfällen keine Lösegeldzahlungen an Terroristen zu leisten, könnte auch die Zahlung von Cyber-Lösegeld verboten werden, um den Kriminellen die Finanzierungsquellen abzuschneiden. Die folgenden Abschnitte geben einen Überblick darüber, wie verschiedene Rechtsordnungen begonnen haben zu reagieren – durch Verbote, Meldepflichten und andere Massnahmen – und bereiten den Boden für eine Diskussion über internationale Koordination.

3 Nationale politische Reaktionen: Verbote und Meldepflichten

3.1 Vereinigte Staaten: Debatte über ein Verbot und verstärkte Meldepflicht

In den Vereinigten Staaten war die Politik im Bereich Ransomware in den letzten Jahren im Wandel begriffen. Derzeit gibt es kein Bundesgesetz, das Lösegeldzahlungen durch Opfer gänzlich verbietet, doch die Idee hat in politischen Kreisen an Boden gewonnen. Im Mai 2023 signalisierte die Biden-Regierung, dass sie ein beispielloses bundesweites Verbot von Ransomware-Zahlungen in Erwägung ziehe. Anne Neuberger, stellvertretende Nationale Sicherheitsberaterin für Cyberfragen, gab bekannt, dass das Weisse Haus – gemeinsam mit internationalen Partnern im Rahmen der International Counter Ransomware Initiative (CRI) – prüfe, ob ein Zahlungsverbot (mit bestimmten Ausnahmeregelungen) dazu beitragen könne, finanziell motivierte Angreifer zu bekämpfen. Dies stellte eine bemerkenswerte Kehrtwende dar, da die Regierung zuvor noch davon Abstand genommen hatte, ein Verbot zu unterstützen. Tatsächlich hatten sich US-Beamte noch Ende 2022 gegen ein vollständiges Verbot entschieden, mit der Begründung, dass ein voreiliges Verbot nach hinten losgehen könnte: „Wir würden die Opfer im Grunde dazu drängen, ihre Zahlungen in den Untergrund zu verlagern“, warnte Neuberger damals. Die Sorge war, dass Unternehmen, wenn die Zahlung von Lösegeld für Ransomware illegal wäre, zwar weiterhin zahlen, aber versuchen würden, die Transaktion zu verbergen, was zu noch weniger Transparenz und einer geringeren Meldung von Angriffen führen würde. Solche unbeabsichtigten Folgen dämpfen die Debatte in den USA – selbst Befürworter räumen ein, dass ein Verbot, wenn es zu voreilig umgesetzt würde, dazu führen könnte, dass „Opfer jeden Ransomware-Angriff vertuschen“, was einen falschen Eindruck von Fortschritt erwecken würde, während die Kriminalität im Verborgenen unvermindert weitergeht.

Trotz dieser Vorbehalte auf Bundesebene haben die USA Massnahmen ergriffen, um Lösegeldzahlungen auf andere Weise nachdrücklich zu unterbinden. Ein wesentlicher Faktor ist das Sanktionsrecht: Bundesvorschriften verbieten jegliche Transaktionen mit Personen oder Gruppen, die auf der Sanktionsliste des US-Finanzministeriums stehen. Das bedeutet, wenn eine Ransomware-Bande mit einer sanktionierten Einheit in Verbindung steht (zum Beispiel einer Gruppe, die mit einem sanktionierten Land oder als Terroristen eingestuften Personen verbunden ist), könnte eine Zahlung an sie nach geltendem Recht „die Ransomware-Zahlung implizit zu einer Straftat machen“. Das Office of Foreign Assets Control (OFAC) des US-Finanzministeriums veröffentlichte 2020 und 2021 Hinweise, in denen betont wurde, dass Unternehmen, die Lösegeld an bestimmte Angreifer zahlen, Gefahr laufen, gegen Sanktionen zu verstossen, und dass die Regierung von jeglichen Lösegeldzahlungen „dringend abrät“. Darüber hinaus hat das US-amerikanische Financial Crimes Enforcement Network (FinCEN) Finanzinstitute angewiesen, Lösegeldzahlungen als verdächtig und meldepflichtig zu behandeln. Tatsächlich ist die Zahlung von Cyber-Lösegeld für Opfer zwar nicht gänzlich verboten, wird jedoch dringend abgeraten und kann rechtliche Risiken bergen, wenn der Angreifer auf einer Sanktionsliste steht oder Verbindungen zum Terrorismus hat.

Gleichzeitig streben die USA eine Meldepflicht für Ransomware-Vorfälle und -Zahlungen an, insbesondere für kritische Sektoren. Im März 2022 verabschiedete der Kongress den „Cyber Incident Reporting for Critical Infrastructure Act“ (CIRCIA), der (sobald die Vorschriften endgültig festgelegt sind) Unternehmen in bestimmten kritischen Infrastruktursektoren dazu verpflichtet, schwerwiegende Cybervorfälle innerhalb von 72 Stunden und jede Ransomware-Zahlung innerhalb von 24 Stunden an die Cybersecurity and Infrastructure Security Agency (CISA) zu melden. Dieses Gesetz wird, sobald es vollständig umgesetzt ist (voraussichtlich 2024–2025), ein Meldewesen auf Bundesebene schaffen, das in gewisser Weise dem australischen System (siehe unten) ähnelt, sich jedoch auf kritische Branchen konzentriert. Schon vor der Umsetzung des CIRCIA galten für Sektoren wie Pipelines Ad-hoc-Vorschriften (nach dem Ransomware-Vorfall bei Colonial Pipeline im Jahr 2021 wies die Transportation Security Administration die Pipeline-Betreiber an, Vorfälle unverzüglich zu melden). Das übergeordnete Ziel besteht darin, sicherzustellen, dass die Regierung umgehend über Ransomware-Angriffe und Zahlungen informiert wird, damit die Strafverfolgungsbehörden reagieren, andere warnen und Informationen über die Täter sammeln können. US-Politiker sind der Ansicht, dass bessere Daten zu Ransomware-Vorfällen die Koordination verbessern und das Ausmass des Problems verdeutlichen werden, wodurch der Untererfassung entgegengewirkt wird, die die Statistiken zur Cyberkriminalität bisher beeinträchtigt hat.

Es ist zudem erwähnenswert, dass einige US-Bundesstaaten bereits gezielte Verbote für Lösegeldzahlungen innerhalb ihres Zuständigkeitsbereichs erlassen haben. North Carolina leistete 2022 Pionierarbeit, indem es allen staatlichen und lokalen Behörden untersagte, Lösegeld zu zahlen oder gar mit Ransomware-Tätern zu verhandeln. Kurz darauf erliess Florida ein ähnliches Gesetz, das staatlichen Behörden und Kommunen die Zahlung von Cyber-Lösegeld verbietet, und war damit der zweite Bundesstaat, der diesen Schritt unternahm. (Tennessee und andere Bundesstaaten haben ebenfalls Beschränkungen für den öffentlichen Sektor geprüft oder erlassen). Diese Gesetze auf Bundesstaatsebene zielen darauf ab, Steuergelder zu schützen und Anreize für Angriffe auf die öffentliche Infrastruktur zu verringern. Erste Erkenntnisse aus North Carolina deuten jedoch darauf hin, dass die abschreckende Wirkung begrenzt sein könnte – die Zahl der gemeldeten Angriffe auf öffentliche Einrichtungen in North Carolina ging nach dem Verbot nicht nennenswert zurück. Ransomware-Banden könnten weiterhin Regierungsstellen ins Visier nehmen, entweder in der Hoffnung, dass das Opfer eine Umgehungslösung findet, oder einfach, um Störungen zu verursachen. Die gemischten Ergebnisse unterstreichen, dass ein isoliertes Verbot in einem Bundesstaat oder Sektor umgangen werden kann oder den Fokus der Angreifer verlagert, anstatt sie vollständig zu stoppen.

US-Beamte debattieren weiterhin über die Vorzüge eines umfassenderen Zahlungsverbots. Im April 2024 unterstrich eine Anhörung im Kongress sowohl die Attraktivität als auch die Risiken einer solchen Politik. Kemba Walden, ehemaliger amtierender National Cyber Director, sagte aus, dass ein Zahlungsverbot für Ransomware zwar weiterhin das „ultimative Ziel“ oder der „Leitstern“ für die Eindämmung der Macht der Kriminellen sei, das Land jedoch noch nicht bereit sei, es umzusetzen. Walden erklärte, dass der US-Wirtschaft – insbesondere kleinen Unternehmen und kritischen Dienstleistern wie ländlichen Krankenhäusern – derzeit die Widerstandsfähigkeit fehle, um ein solches Verbot zu verkraften. Hätten Unternehmen keine legale Möglichkeit zu zahlen, könnten viele nach einem schweren Ransomware-Angriff katastrophale Verluste oder sogar den Bankrott erleiden. „Wenn wir Ransomware-Zahlungen heute verbieten würden, könnten wir genau die kleinen und mittleren Unternehmen in den Ruin treiben, auf die sich die amerikanische Wirtschaft stützt“, warnte Walden und führte als Beispiel kleine ländliche Krankenhäuser an, die nach einem Vorfall zur Schliessung gezwungen sein könnten, wenn sie nicht für eine schnelle Wiederherstellung zahlen können. Sie und andere Experten argumentierten, dass ein Zahlungsverbot jetzt Angriffe nicht verhindern würde; es würde in erster Linie die betroffenen Unternehmen „aushungern“ und nicht die Kriminellen, wenn diese Unternehmen nicht cyberresilient sind. Die Podiumsdiskussionsteilnehmer sprachen sich stattdessen für einen schrittweisen Ansatz aus: Verbesserung der grundlegenden Cybersicherheit und der Reaktion auf Vorfälle in der gesamten Wirtschaft, Bereitstellung von Unterstützung (Zuschüsse, Versicherungsreformen, technische Hilfe) für „cyberarme“ Organisationen und verstärkte Zerschlagung von Ransomware-Banden. Erst nach einer „Verschiebung des Gleichgewichts“ – indem Angriffe weniger profitabel und Unternehmen besser vorbereitet werden – würde ein Zahlungsverbot zu einem wirksamen Instrument werden. Im Wesentlichen gehen die USA auf Nummer sicher: Sie halten sich die Option eines künftigen Verbots offen, konzentrieren ihre aktuellen Bemühungen jedoch auf die Meldepflicht, die Stärkung der Abwehrmassnahmen und die internationale Zusammenarbeit der Strafverfolgungsbehörden, wie später erläutert wird.

3.2 Vereinigtes Königreich: Auf dem Weg zu einem gezielten Verbot und neuen Meldepflichten

Das Vereinigte Königreich hat mit einer Welle von Ransomware-Angriffen zu kämpfen und bewegt sich nun entschlossen in Richtung strengerer gesetzlicher Beschränkungen für Lösegeldzahlungen. Anfang 2023 startete die britische Regierung eine öffentliche Konsultation zu Vorschlägen, die darauf abzielen, Lösegeldzahlungen zu reduzieren und die Meldung von Vorfällen zu verstärken. Bis Januar 2025 legte das Innenministerium einen ehrgeizigen Plan vor, der als „völlig neuer Ansatz“ im Umgang mit Ransomware beschrieben wird und darauf abzielt, das „Geschäftsmodell“ von Cyber-Erpressern zu untergraben. Die Vorschläge des Vereinigten Königreichs, die im Einklang mit seiner globalen Führungsrolle in der Counter Ransomware Initiative stehen, bestehen aus drei Hauptsäulen:

Verbot von Lösegeldzahlungen durch kritische Sektoren: Ein gezieltes Verbot würde das bestehende Verbot für zentrale Regierungsbehörden (die bereits kein Lösegeld zahlen dürfen) auf alle Einrichtungen des öffentlichen Sektors sowie Eigentümer/Betreiber kritischer nationaler Infrastruktur (CNI) ausweiten. In der Praxis bedeutet dies, dass Ministerien, Kommunalbehörden, der National Health Service, Schulen und systemrelevante Versorgungsunternehmen wie Energie, Wasser, Finanzen, Telekommunikation, Verkehr und andere von der Zahlung ausgeschlossen wären, sollten sie von Ransomware betroffen sein. Der Grund dafür ist, für die Öffentlichkeit lebenswichtige Dienste zu schützen und den Anreiz für Angreifer zu beseitigen, diese gezielt anzugreifen. Wenn Kriminelle wissen, dass britische Krankenhäuser oder Infrastrukturbetreiber mit Angriffen „kein Geld verdienen“, sollten diese Ziele an Attraktivität verlieren. Bemerkenswert ist, dass die Regierung sogar geprüft hat, ob wichtige Zulieferer dieser kritischen Sektoren (z. B. IT-Anbieter oder Rechenzentrumsbetreiber, die CNI-Organisationen bedienen) ebenfalls unter das Zahlungsverbot fallen sollten, da die Lieferketten stark verflochten sind. Dieser umfassende Ansatz zielt darauf ab, Schlupflöcher zu schliessen (Angreifer könnten andernfalls einen kritischen Sektor über einen Auftragnehmer ins Visier nehmen) und folgt Präzedenzfällen anderer Länder. Tatsächlich einigten sich Dutzende von Ländern – angeführt von Grossbritannien und den USA – in der gemeinsamen Erklärung der internationalen „Counter Ransomware Initiative“ von 2023 darauf, dass keine staatlichen Mittel zur Zahlung von Lösegeld verwendet werden sollten. Das britische Verbot würde diesen Grundsatz im Inland umsetzen und wohl noch weiter gehen, indem es auch Kommunalverwaltungen und Betreiber kritischer Industriezweige einbezieht.

„Genehmigungs“-Regelung für Ransomware-Zahlungen für andere: Für Organisationen, die nicht unter das oben genannte Verbot fallen (d. h. private Unternehmen ausserhalb kritischer Infrastrukturen), schlägt das Vereinigte Königreich eine neue Regelung zur „Verhinderung von Ransomware-Zahlungen“ vor. Diese würde vorsehen, dass jedes Opfer, das die Zahlung eines Lösegeldes in Erwägung zieht, seine Absicht zunächst einer Regierungsbehörde melden muss, die dann die Situation bewertet und die Zahlung in bestimmten Fällen möglicherweise blockiert. Im Wesentlichen handelt es sich um ein obligatorisches Melde- und Überwachungssystem, das vor einer Lösegeldtransaktion greift. Gemäss dem Vorschlag würde ein Unternehmen, sobald es den Behörden mitteilt, dass es beabsichtigt, Lösegeld zu zahlen, Unterstützung und Beratung zu Alternativen erhalten (z. B. Hilfe bei der Wiederherstellung, Nutzung von Backups, Hinzuziehung von Cybersicherheitsexperten). Die Behörden würden zudem prüfen, ob die geplante Zahlung untersagt werden sollte – beispielsweise, wenn die Zahlung gegen Sanktionen oder Gesetze zur Bekämpfung der Terrorismusfinanzierung verstossen würde (z. B. wenn die Lösegeldforderung mit einer sanktionierten Hackergruppe in Verbindung steht). Wenn kein eindeutiger rechtlicher Grund für eine Blockierung vorliegt, läge die endgültige Entscheidung über die Zahlung weiterhin bei der betroffenen Organisation, aber zumindest wäre der Vorfall dokumentiert und die Strafverfolgungsbehörden könnten das Ergebnis potenziell überwachen. Dieser neuartige Ansatz versucht, ein Gleichgewicht zu finden: Er verbietet nicht alle Zahlungen des privaten Sektors (in der Erkenntnis, dass ein absolutes Verbot zu undifferenziert sein könnte), sondern fügt eine staatliche Aufsicht in den Prozess ein. Im Laufe der Zeit könnte dies durch zusätzliche Reibungsverluste und Kontrollen von Zahlungen abhalten. Ausserdem wird sichergestellt, dass Zahlungen, selbst wenn sie erfolgen, nicht geheim gehalten werden – wodurch das Problem der Untererfassung angegangen wird. Die Umsetzung eines solchen Systems wäre jedoch komplex; im Grunde schafft es ein Genehmigungssystem für Lösegeldzahlungen, was im Cyberkontext beispiellos ist. Die Regierung hat um Rückmeldungen dazu gebeten, wie dies praktikabel gestaltet werden kann und welche Sanktionen bei Nichteinhaltung angemessen wären (reichend von strafrechtlichen Sanktionen für Zahlungen ohne Meldung bis hin zu Geldstrafen oder sogar dem Ausschluss von Führungskräften wegen Missachtung der Regeln).

Verpflichtende Meldung von Ransomware-Vorfällen: Ergänzend dazu beabsichtigt das Vereinigte Königreich, die Meldung von Ransomware-Vorfällen pauschal vorzuschreiben. Das bedeutet, dass jede Organisation, die von einem Ransomware-Angriff betroffen ist (unabhängig davon, ob sie zahlt oder nicht), gesetzlich verpflichtet wäre, den Vorfall innerhalb einer bestimmten Frist den zuständigen Behörden (wahrscheinlich dem National Cyber Security Centre (NCSC) oder den Strafverfolgungsbehörden) zu melden. Ziel ist es, „vollständige Transparenz hinsichtlich der Ransomware-Bedrohungslage“ zu gewährleisten, damit die britische National Crime Agency und das NCSC Informationen sammeln, Opfer unterstützen und Massnahmen koordinieren können. Eine umfassendere Meldepflicht kann den Behörden helfen, Ransomware-Trends zu verfolgen, Kampagnen miteinander in Verbindung zu bringen und möglicherweise andere potenzielle Ziele zu warnen (beispielsweise, wenn ein weit verbreiteter Exploit genutzt wird). Dies steht auch im Einklang mit dem Zahlungsüberwachungssystem – denn selbst wenn ein Opfer beschliesst, nicht zu zahlen, sollte die Tatsache, dass ein Vorfall stattgefunden hat, den Aufsichtsbehörden dennoch bekannt sein. Im Vereinigten Königreich gibt es bereits einige Meldepflichten für Datenschutzverletzungen (gemäss DSGVO müssen Organisationen Verletzungen des Schutzes personenbezogener Daten innerhalb von 72 Stunden an das Information Commissioner’s Office melden), und bestimmte Sektoren wie der Finanzsektor verfügen über Regeln zur Meldung von Cybervorfällen. Dieser Vorschlag würde jedoch eine umfassendere, speziell auf Ransomware ausgerichtete Verpflichtung schaffen. Er spiegelt Ansätze wie die NIS2-Richtlinie der EU (siehe unten) und das neue Gesetz in Australien wider. Durch die Institutionalisierung der Vorfallmeldung will das Vereinigte Königreich das Stigma oder die Zurückhaltung von Unternehmen, sich zu melden, beseitigen und Ransomware zu einer besser beherrschbaren, messbaren Bedrohung machen.

Bis Juli 2025 fanden diese Vorschläge breite Unterstützung in der Regierung. Das Innenministerium kündigte an, ein „gezieltes Verbot von Ransomware-Zahlungen“ für den öffentlichen Sektor und kritische Infrastrukturen sowie ergänzende Präventions- und Meldepflichten umzusetzen. Eine Stellungnahme der britischen Regierung Mitte 2025 bestätigte Pläne, einen Gesetzentwurf zur Umsetzung dieser Änderungen auszuarbeiten. Bemerkenswert ist, dass im Vereinigten Königreich parteiübergreifender Konsens über strengere Massnahmen herrscht – ein Vorschlag der vorherigen konservativen Regierung vom Mai 2024 sah ebenfalls vor, dass alle Ransomware-Vorfälle gemeldet werden müssen, und ging sogar so weit, Opfer zu zwingen, vor der Zahlung eine staatliche Lizenz einzuholen. Diese konkrete Lizenzidee entwickelte sich unter der Labour-Regierung im Jahr 2025 zum aktuellen „Report-before-paying“-System weiter, doch die Kontinuität zeigt einen anhaltenden politischen Willen, gegen Ransomware vorzugehen. Britische Regierungsvertreter argumentieren, dass diese Schritte „das Geschäftsmodell der Cyberkriminellen im Kern treffen“ werden, indem sie ihnen die Geldquellen abschneiden. Wie Innenminister Dan Jarvis es formulierte, besteht das Ziel darin, „diese kriminellen Netzwerke an der Geldbörse zu treffen und ihnen die wichtigsten Finanzströme abzuschneiden, auf die sie angewiesen sind“.

Aus rechtlicher Sicht wirft der britische Ansatz wichtige Fragen auf. Der eingeschränkte Geltungsbereich des vollständigen Verbots (das auf den öffentlichen Sektor und CNI beschränkt ist) soll die wichtigsten Dienste und Steuergelder schützen und gleichzeitig die potenziell gravierenden Auswirkungen eines pauschalen Verbots für alle Unternehmen vermeiden. Private Unternehmen hätten weiterhin die Möglichkeit (wovon stark abgeraten wird) zu zahlen, allerdings unter Aufsicht. Die Einführung einer Vorabmeldung und die mögliche Blockierung von Zahlungen ist eine bemerkenswerte regulatorische Neuerung – damit wird eine Lösegeldzahlung praktisch wie eine verdächtige Finanztransaktion behandelt, die unterbunden werden kann. Die Einhaltung und Durchsetzung der Vorschriften wird eine Herausforderung darstellen: Unternehmen könnten Reputationsschäden oder regulatorische Konsequenzen befürchten und daher versucht sein, weder einen Vorfall noch eine Zahlungsabsicht zu melden. Die britischen Vorschläge sehen Strafen für die Nichteinhaltung vor, um dem entgegenzuwirken, beispielsweise Geldbussen oder sogar die Einstufung als Straftat, wenn Führungskräfte heimlich Lösegeld zahlen, obwohl dies verboten ist. Sollte das Gesetz verabschiedet werden, wird das Vereinigte Königreich an die Spitze der Länder rücken, die Gesetze nicht nur zur Bestrafung von Cyberkriminellen einsetzen (was schon immer der Fall war), sondern auch, um das Verhalten der Opfer bei der Reaktion auf Cyberkriminalität aktiv zu beeinflussen. Dies stellt eine bedeutende Weiterentwicklung in der Strategie des Cyberrechts dar.

3.3 Europäische Union und Mitgliedstaaten: Schwerpunkt auf Meldung und Resilienz

Auf Ebene der Europäischen Union gibt es derzeit kein unionsweites Verbot von Lösegeldzahlungen, und die meisten EU-Mitgliedstaaten stellen die Zahlung von Lösegeld an Cyberkriminelle nicht unter Strafe (sofern kein Zusammenhang mit Terrorismus oder Sanktionen besteht). Stattdessen legt Europa den Schwerpunkt auf die Verbesserung der Widerstandsfähigkeit der Cybersicherheit und der Transparenz. Die wichtigste Entwicklung ist die EU-Richtlinie über Netz- und Informationssicherheit 2 (NIS2), die 2022 verabschiedet wurde und seit Ende 2024 in Kraft ist. NIS2 ist ein umfassendes Cybersicherheitsgesetz, das für eine breite Palette „kritischer“ und „wichtiger“ Einrichtungen in den EU-Mitgliedstaaten gilt (einschliesslich Sektoren wie Energie, Verkehr, Gesundheit, Bankwesen, Infrastruktur, digitale Diensteanbieter und mehr). Neben zahlreichen anderen Anforderungen schreibt NIS2 vor, dass betroffene Organisationen schwerwiegende Cybervorfälle – einschliesslich Ransomware-Angriffe – innerhalb einer sehr kurzen Frist (oftmals 24 Stunden für die Erstmeldung) an die Behörden melden müssen. Durch die Verpflichtung zur sofortigen Meldung von Vorfällen will die EU die Reaktion auf Vorfälle beschleunigen und die grenzüberschreitende Koordination erleichtern (über ein Netzwerk nationaler CSIRTs und eine zentrale EU-Cybereinheit). In der Praxis bedeutet dies: Wenn ein Krankenhaus in Deutschland oder eine Bank in Frankreich Opfer eines Ransomware-Angriffs wird, muss es die Aufsichtsbehörden fast sofort benachrichtigen, die dann bei Bedarf Europol oder andere Mitgliedstaaten alarmieren können. Zwar schreibt NIS2 die Offenlegung von Lösegeldzahlungen nicht ausdrücklich vor, doch löst jeder Ransomware-Vorfall, der schwerwiegend genug ist, um Dienste oder Daten zu beeinträchtigen, wahrscheinlich die Meldepflicht aus. Das bedeutet, dass die Behörden davon Kenntnis erlangen und nachfragen können, ob eine Lösegeldforderung gestellt oder gezahlt wurde. Dies erhöht indirekt die Transparenz der Regierung hinsichtlich Lösegeldzahlungen, ohne diese ausdrücklich zu verbieten. EU-Beamte haben angemerkt, dass eine schnellere Meldung dazu beitragen wird, ein umfassenderes Bild der Ransomware-Bedrohung zu erstellen und möglicherweise Unternehmen davon abzuhalten, Kriminelle stillschweigend zu bezahlen, ohne die Strafverfolgungsbehörden zu informieren.

Einzelne EU-Länder schliessen sich weitgehend der Haltung an, von Zahlungen abzuraten, ohne diese jedoch zu verbieten. Strafverfolgungsbehörden (wie die französische ANSSI oder das deutsche BSI) raten grundsätzlich regelmässig von Zahlungen ab. In Frankreich wurde 2021 ein Gesetz diskutiert, das Lösegeldzahlungen verbieten und Versicherern die Erstattung dieser Zahlungen untersagen sollte (vor dem Hintergrund der Sorge, dass Cyberversicherungen Kriminelle begünstigen), doch die verabschiedete Massnahme fiel milder aus – sie verpflichtet Unternehmen, den Angriff den Strafverfolgungsbehörden zu melden, wenn sie die Zahlung als Aufwand absetzen oder eine Erstattung durch die Versicherung geltend machen wollen. Somit stand erneut die Transparenz im Mittelpunkt: Frankreich hat im Grunde gesagt, dass man nicht stillschweigend zahlen und Versicherungsschutz erhalten kann, ohne die Polizei einzuschalten. Andere Länder wie Deutschland und die Niederlande verfügen über eine ausgeprägte Kultur der Vorfallmeldung und oft über einen öffentlich-privaten Informationsaustausch zu Ransomware-Fällen (über sektorale ISACs usw.), jedoch über keine ausdrücklichen Zahlungsverbote. Ein interessanter Aspekt in Europa ist, dass sich viele Opfer in letzter Zeit weigern zu zahlen – so lehnte die Regierung beispielsweise bei einem prominenten Angriff auf den irischen Gesundheitsdienst (HSE) im Jahr 2022 die Zahlung des Lösegelds ab und arbeitete mit internationalen Experten zusammen, um die Daten wiederherzustellen, wenn auch zu hohen Kosten. In ähnlicher Weise entschieden sich mehrere grosse europäische Unternehmen, die 2023 betroffen waren, gegen eine Zahlung und nahmen stattdessen Datenlecks in Kauf, wobei sie sich auf ihre Nichtzahlungsrichtlinien beriefen. Dies deutet darauf hin, dass sich in der Praxis eine Norm gegen Zahlungen etabliert, auch wenn diese nicht gesetzlich verankert ist.

Auf Ebene der Europäischen Union gibt es zudem eine zunehmende diplomatische Koordinierung im Bereich Ransomware. Die EU hat grosse Ransomware-Angriffe staatlich geduldeten kriminellen Gruppen zugeschrieben und sogar Sanktionen gegen bestimmte Cyberakteure verhängt. Im Jahr 2022 sanktionierte die EU Personen, die mit den Angriffen von WannaCry, NotPetya und anderen in Verbindung standen (von denen einige an Ransomware-Kampagnen beteiligt waren), und untersagte damit allen Personen und Unternehmen in der EU rechtlich, Geschäfte mit ihnen zu tätigen (was auch die Zahlung von Lösegeld einschliesst). Darüber hinaus koordiniert das Europäische Zentrum zur Bekämpfung der Cyberkriminalität (EC3) von Europol aktiv multinationale Operationen gegen Ransomware-Banden. Ein bemerkenswerter Erfolg war die „Operation Cyclone“ gegen die DoppelPaymer-Gruppe Anfang 2023, an der Strafverfolgungsbehörden aus Deutschland, der Ukraine und anderen Ländern beteiligt waren, um Verdächtige festzunehmen und Infrastruktur zu beschlagnahmen. In den Jahren 2023–2024 unterstützte Europol zudem eine gemeinsame Operation, die die produktive LockBit-Ransomware-Bande zerschlug, in Abstimmung mit dem FBI und der britischen NCA, was zur Beschlagnahmung von Servern und sogar zu einigen Festnahmen führte. Diese Strafverfolgungsmassnahmen haben in Verbindung mit Vorschriften zur Bekämpfung der Geldwäsche bei Kryptowährungen zu dem im Jahr 2024 beobachteten Rückgang der Ransomware-Zahlungen beigetragen. EU-Beamte neigen daher dazu, die Lösung für das Ransomware-Problem in den Begriffen „Stärkung der Widerstandsfähigkeit, Verbesserung der Meldesysteme und Ausbau der Zusammenarbeit der Strafverfolgungsbehörden“ zu formulieren, anstatt Zahlungen gänzlich zu verbieten. Da die Bedrohung durch Ransomware jedoch weiterhin akut ist, ist es möglich, dass die EU in Zukunft strengere Massnahmen in Betracht zieht, insbesondere wenn sie von wichtigen Mitgliedstaaten dazu gedrängt wird oder sich eine einheitliche internationale Haltung herausbildet.

Es sei darauf hingewiesen, dass in den politischen Diskussionen der EU in den Jahren 2023–2025 in einigen Foren tatsächlich Zahlungsverbote für Ransomware zur Sprache kamen. So wurde beispielsweise im Rahmen der Zusammenarbeit zwischen der EU und dem Vereinigten Königreich im Bereich Cybersicherheit die Idee eines Zahlungsverbots angesprochen. Bei einem gemeinsamen Cyber-Dialog zwischen der EU und dem Vereinigten Königreich im Dezember 2024 diskutierten Beamte Abschreckungsstrategien gegen Ransomware und nannten die Gesetzesvorschläge des Vereinigten Königreichs als mögliches Vorbild. Auch der Europäische Rat hat Ransomware in seine Erklärungen aufgenommen und betont, dass keine Mühen gescheut werden sollten, um Ransomware-Akteure zu stoppen – ohne jedoch Zahlungsverbote ausdrücklich zu befürworten oder abzulehnen. Stimmen aus der Privatwirtschaft in Europa sprechen sich zunehmend für strengere Massnahmen aus; eine Umfrage der Canadian Internet Registration Authority (CIRA) aus dem Jahr 2023 ergab, dass fast zwei Drittel der Cybersicherheitsexperten (viele davon in Nordamerika und Europa) Gesetze befürworten, die Lösegeldzahlungen verbieten. Unternehmen sind von den unaufhörlichen Angriffen frustriert, und einige glauben, dass nur ein Eingreifen der Regierung das „Gefangenendilemma“ lösen kann, in dem sich einzelne Firmen für die Zahlung entscheiden. Dennoch werden die Mitgliedstaaten, solange kein EU-Konsens besteht, wahrscheinlich weiterhin die derzeitige Mischung aus Meldepflicht (NIS2), Sanktionsdurchsetzung und dringendem Abraten von Zahlungen als De-facto-Politik beibehalten.

3.4 Australien: Meldepflicht für Lösegeldzahlungen – Ein wegweisendes Gesetz

Australien hat sich bis 2024 als Vorreiter in der Ransomware-Politik etabliert, indem es eine der weltweit ersten gesetzlichen Vorschriften einführte, die sich gezielt gegen Lösegeldzahlungen richtet. Nach einer Reihe von hochkarätigen Cyberangriffen auf australische Unternehmen (darunter ein grosses Telekommunikationsunternehmen und ein Krankenversicherer im Jahr 2022), bei denen die Daten von Millionen von Bürgern offengelegt wurden, gelobte die australische Regierung, härter gegen Ransomware vorzugehen. Dies führte zur Verabschiedung des Cyber Security Act 2024, der am 30. Mai 2025 in Kraft trat und vorschreibt, dass alle Organisationen jede Zahlung im Zusammenhang mit Ransomware oder Cyber-Erpressung innerhalb von 72 Stunden melden müssen. Das Gesetz gilt für in Australien tätige Unternehmen, die eine bestimmte Grössengrenze überschreiten (Jahresumsatz von 3 Millionen AUD oder mehr), sowie für Einrichtungen, die für kritische Infrastrukturen verantwortlich sind. Im Wesentlichen gilt: Wenn ein betroffenes Unternehmen als Reaktion auf einen Cybervorfall eine Zahlung leistet – oder selbst wenn ein Dritter (wie der Versicherer oder ein Vermittler) in dessen Namen zahlt –, muss diese Zahlung innerhalb von drei Tagen der Regierung (genauer gesagt dem Cyber-Meldeportal des Australian Signals Directorate) gemeldet werden. Die erforderliche Meldung enthält detaillierte Informationen: den gezahlten Betrag (oder die gewährte Leistung), den Zeitpunkt und die Zahlungsweise, die Forderungen des Angreifers und jegliche Kommunikation sowie eine Beschreibung des Vorfalls selbst.

Wichtig ist, dass das australische Gesetz die Zahlung von Lösegeld nicht verbietet; es geht nicht so weit, Zahlungen unter Strafe zu stellen. Stattdessen zielt es auf Transparenz und Datenerhebung ab. Die Prämisse ist, dass die Behörden durch die Verpflichtung zur Offenlegung von Lösegeldzahlungen das Ausmass des Ransomware-Problems besser verstehen, Opfern helfen und möglicherweise den Geldfluss nachverfolgen können (insbesondere da Zahlungen oft in Kryptowährung erfolgen). Die australische Regierung war der Ansicht, dass viele Lösegeldvorfälle vor den Aufsichtsbehörden und der Öffentlichkeit verheimlicht wurden, was die Bemühungen zur Bekämpfung dieser Kriminalität untergrub. Die neue Meldepflicht soll dieser Geheimhaltung ein Ende setzen. Unternehmen, die eine Lösegeldzahlung nicht melden, müssen mit Strafen rechnen – konkret mit einer zivilrechtlichen Geldstrafe von bis zu 60 Strafpunkten (derzeit 19.800 AUD) pro Verstoss. Auch wenn diese Geldstrafe nicht enorm ist, bieten sie und die Aussicht auf behördliche Durchsetzung einen Anreiz zur Einhaltung der Vorschriften. Das Gesetz sieht eine sechsmonatige Übergangsfrist (bis Ende 2025) vor, in der die Aufsichtsbehörden den Schwerpunkt eher auf Aufklärung als auf Bestrafung legen werden; danach wird eine strengere Durchsetzungspolitik greifen.

Um den Bedenken der Industrie Rechnung zu tragen, wurden in der australischen Gesetzgebung Schutzmassnahmen für die „begrenzte Nutzung“ der gemeldeten Informationen vorgesehen. Das bedeutet, dass Daten, die in einem Ransomware-Zahlungsbericht übermittelt werden, von der Regierung im Allgemeinen nur für bestimmte Zwecke verwendet werden dürfen: zur Reaktion auf den Vorfall oder dessen Untersuchung, zur Abwehr von Cybersicherheitsbedrohungen, für nationale Sicherheits- oder nachrichtendienstliche Aktivitäten oder für damit verbundene Durchsetzungsmassnahmen. Entscheidend ist, dass das Gesetz den Unternehmen versichert, dass die Details, wenn sie eine Zahlung selbst melden, nicht dazu verwendet werden, sie automatisch strafrechtlich zu verfolgen oder zu bestrafen, weil sie angegriffen wurden oder weil sie gezahlt haben. (Da das Bezahlen nicht verboten ist, bestünde das Hauptrisiko rechtlicher Art darin, dass die Zahlung gegen Sanktionen oder andere Gesetze verstösst, und die Regierung hat signalisiert, dass eine in gutem Glauben erfolgte Meldung nicht als „Falle“ für nicht damit zusammenhängende Verstösse genutzt wird.) Dieser Ansatz zielt darauf ab, ein Gleichgewicht zu schaffen: Offenheit zu fördern, ohne die betroffenen Organisationen übermässig zu verunsichern, dass eine Offenlegung zu Klagen oder Reputationsschäden führen könnte. Darüber hinaus hat Australien einen neuen Ausschuss zur Überprüfung von Cybervorfällen (Cyber Incident Review Board) eingerichtet – ähnlich dem US-amerikanischen Cyber Safety Review Board –, um schwerwiegende Vorfälle auf „unvoreingenommene“ Weise zu analysieren und öffentliche Empfehlungen zur Stärkung der Widerstandsfähigkeit abzugeben. Die Hoffnung ist, dass die aus Ransomware-Fällen gewonnenen Erkenntnisse (insbesondere Muster, die sich aus der Flut von Zahlungsmeldungen ableiten lassen) zu besseren Abwehrmassnahmen im ganzen Land beitragen werden.

Australiens Meldepflichtgesetz hat erhebliche Auswirkungen. Es macht Australien praktisch zu einem Testfall dafür, ob Transparenz allein (ohne Zahlungsverbot) Ransomware eindämmen kann. Indem sie wissen, wer wie viel gezahlt hat, können die australischen Behörden feststellen, ob bestimmte Banden gezielt auf ihre Unternehmen abzielen, und gegebenenfalls Strafverfolgungsmassnahmen koordinieren. Ausserdem entsteht eine offizielle Aufzeichnung, die in internationale Bemühungen einfliessen könnte (z. B. durch den Austausch anonymisierter Daten mit Partnern, um von Ransomware-Gruppen genutzte Kryptowährungs-Wallets aufzuspüren). Erste Kommentare deuten darauf hin, dass andere Rechtsordnungen dies genau beobachten; die Anwaltskanzlei Hogan Lovells merkte an, dass Australiens Schritt „eine neue Ära einleitet“ und andere Länder diesem Beispiel bei der Einführung ähnlicher Anforderungen folgen könnten. Tatsächlich wurde in der britischen Konsultation im Jahr 2025 ausdrücklich auf Australiens Ansatz als Modell zur Verbesserung der Meldung von Vorfällen verwiesen. Die australische Regierung stellt das Gesetz als langfristig wirtschaftsfreundlich dar und argumentiert, dass ein Unternehmen, das sich an dieses Meldeverfahren hält, besser vorbereitet sein wird, falls (oder wenn) andere Länder vergleichbare Vorschriften einführen.

Aus Sicht des internationalen Rechts Sicht steht das australische Gesetz nicht im Widerspruch zu vertraglichen Verpflichtungen, da es nichts verbietet, was nicht bereits erlaubt ist; es schreibt lediglich eine innerstaatliche Meldepflicht vor. In Australien tätige Unternehmen (auch wenn sie in ausländischem Besitz sind) müssen dies nun in ihren Plänen zur Reaktion auf Vorfälle berücksichtigen – beispielsweise müsste ein US-Unternehmen mit einer australischen Niederlassung, das Lösegeld zahlt, das diese Niederlassung betrifft, dies innerhalb von 72 Stunden an die ASD melden, was möglicherweise zu grenzüberschreitenden Komplikationen führen könnte (insbesondere wenn US-Behörden gemäss den bevorstehenden CIRCIA-Regeln ebenfalls eine Benachrichtigung verlangen). Dies verdeutlicht den Trend, dass nationale Gesetzgebungen auf innovative Weise gegen Ransomware vorgehen, was zu einem Flickenteppich von Gesetzen beiträgt, in dem sich multinationale Unternehmen zurechtfinden müssen.

3.5 Andere Rechtsordnungen und globale Initiativen

Über die oben genannten Beispiele hinaus haben zahlreiche andere Rechtsordnungen ihre Gesetze und Richtlinien angesichts der Ransomware-Epidemie überprüft:

Kanada: Stand 2025 hat Kanada Zahlungen an Ransomware-Erpresser nicht verboten, doch die Bundesregierung rät ausdrücklich davon ab, Lösegeld zu zahlen, da jede Zahlung „das Ransomware-Modell weiter anheizt“. Die kanadischen Strafverfolgungsbehörden (die RCMP und das Canadian Centre for Cyber Security) fordern die Opfer nachdrücklich auf, Vorfälle zu melden und Zahlungen zu vermeiden. In Kanada wurde über eine Meldepflicht für Lösegeldzahlungen diskutiert; 2023 wurde ein Gesetzentwurf eingebracht, der Unternehmen ab einer bestimmten Grösse zur Meldung von Zahlungen verpflichten sollte (ähnlich wie das australische Gesetz). Es wird auch darüber diskutiert, die Gesetze zur Bekämpfung der Geldwäsche zu aktualisieren, um die Zahlung von Lösegeld zu bestrafen, wenn die Gelder an kriminelle Organisationen fliessen. Zum Zeitpunkt der Erstellung dieses Artikels gibt es jedoch kein spezifisches Bundesgesetz, das eine Offenlegung vorschreibt oder Zahlungen verbietet, sodass der Ansatz weiterhin beratender Natur ist. Interessanterweise ergab eine Umfrage in Kanada, dass eine starke Mehrheit der Cybersicherheitsexperten ein Verbot von Lösegeldzahlungen befürworten würde, was auf einen möglichen Wandel in der öffentlichen Meinung hindeutet, den der Gesetzgeber letztendlich berücksichtigen könnte.
Israel, Singapur und andere: Israel sah sich 2021–2022 einer Flut von Ransomware-Angriffen ausgesetzt und erwog, Unternehmen zu verpflichten, Angriffe an eine Regierungsbehörde zu melden, doch die Durchsetzungsmechanismen bleiben für die meisten Sektoren freiwillig. Singapur leitet gemeinsam mit dem Vereinigten Königreich die Bemühungen des CRI zur Ransomware-Politik. Zwar hat das Land Zahlungen nicht verboten, doch hat es die Vorschriften für Kryptowährungsbörsen verschärft, um strengere KYC-Regeln (Know-Your-Customer) durchzusetzen, mit dem Ziel, es Ransomware-Akteuren zu erschweren, illegale Gewinne zu Geld zu machen. Einige Länder wie die Vereinigten Arabischen Emirate verfügen über Cybersicherheitsvorschriften, die vorschreiben, dass Sicherheitsverletzungen (einschliesslich Ransomware-Vorfälle) in bestimmten Sektoren (Finanzen, kritische Infrastruktur) den Aufsichtsbehörden gemeldet werden müssen, jedoch gibt es keine expliziten Gesetze zur Zahlung von Lösegeld. Japan und Südkorea haben schwere Ransomware-Vorfälle erlebt, sich jedoch eher auf die Stärkung der Cyberabwehr und den Informationsaustausch als auf Zahlungsverbote konzentriert.
International Counter Ransomware Initiative (CRI): Diese von den USA geführte multilaterale Koalition, die 2021 ins Leben gerufen wurde, ist auf 68 Mitgliedsländer sowie die EU angewachsen. Sie dient als Forum zur Koordinierung von Strategien zur Bekämpfung von Ransomware. In den Jahren 2023–2024 richtete die CRI eine Arbeitsgruppe zum Thema „Resilienz und Bekämpfung illegaler Finanzgeschäfte“ ein, die sich speziell mit Massnahmen zur weltweiten Reduzierung von Lösegeldzahlungen befasst. Insbesondere erklärten alle CRI-Mitgliedsstaaten im Januar 2024 gemeinsam, dass staatliche Einrichtungen unter ihrer Zuständigkeit keine Lösegeldforderungen von Ransomware-Angreifern bezahlen sollten. Diese öffentliche Verpflichtung setzt im Wesentlichen eine internationale Norm (zumindest unter Verbündeten), dass Steuergelder nicht dazu verwendet werden, Cyberkriminelle zu belohnen. Die CRI hat zudem im Oktober 2024 in Zusammenarbeit mit der Versicherungsbranche Best Practices verabschiedet, um Alternativen zur Zahlung von Lösegeld zu fördern und stattdessen die Wiederherstellung von Backups sowie eine fachkundige Reaktion auf Vorfälle in den Vordergrund zu stellen. Obwohl die Erklärungen der CRI nicht bindend sind, stellen sie eine koordinierte politische Haltung dar und haben wahrscheinlich nationale Strategien beeinflusst (wie am Beispiel des Vereinigten Königreichs und anderer Länder zu sehen ist, die in ihren Plänen auf die CRI verweisen). Die CRI strebt für 2025 weitere Initiativen an, wie den Austausch von Informationen über Kryptowährungs-Wallets, die von Ransomware-Banden genutzt werden, und die Förderung von „Secure-by-Design“-Software zur Verringerung von Schwachstellen. Diese Initiative unterstreicht, dass Ransomware nicht nur als innerstaatliches Kriminalitätsproblem, sondern als gemeinsame internationale Sicherheitsherausforderung behandelt wird, die kollektives Handeln erfordert.
Sanktionen und Strafverfolgung: Auf globaler Ebene hat die koordinierte Strafverfolgung begonnen, den Ransomware-Aktivitäten Einhalt zu gebieten. Länderübergreifende Bemühungen über Interpol, das Netzwerk der Budapester Konvention und den Austausch von Erkenntnissen haben zur Festnahme von Ransomware-Akteuren in Osteuropa und anderswo geführt. Die USA, die EU und das Vereinigte Königreich haben jeweils Sanktionen gegen Ransomware-Akteure sowie gegen Kryptowährungsbörsen oder „Mixer“ verhängt, die deren Erlöse waschen. So verhängten die USA im Jahr 2022 Sanktionen gegen den Krypto-Mixer Tornado Cash, woraufhin Chainalysis im Jahr 2023 einen „erheblichen Rückgang“ bei der Nutzung von Mixern durch Ransomware-Banden meldete. Dies zeigt, dass wirtschaftliche Hebel kriminelles Verhalten beeinflussen können – was für die Debatte über ein Zahlungsverbot relevant ist. Wenn es Kriminellen aufgrund von Sanktionen und Überwachung schwerer fällt, ihre Lösegeldgewinne zu bewegen oder auszugeben, sinkt der Anreiz, Angriffe zu starten. Die grösste Herausforderung bleiben jedoch die Rückzugsgebiete für Ransomware: Länder wie Russland (Heimat vieler Ransomware-Banden) und Nordkorea (dessen staatlich unterstützte Hacker Ransomware einsetzen, um das Regime zu finanzieren) haben sich nicht an den globalen Bemühungen beteiligt. Die vorgeschlagene UN-Konvention gegen Cyberkriminalität (auf die im Folgenden eingegangen wird) und der anhaltende diplomatische Druck zielen darauf ab, diese Verweigerer mit ins Boot zu holen oder es ihnen zumindest zu erschweren, Cyberkriminelle ungestraft zu beherbergen.

Zusammenfassend lässt sich sagen, dass die Ansätze zwar variieren, der klare Trend ab 2023 jedoch in Richtung entschlossenerer Massnahmen geht, um Ransomware-Zahlungen einzudämmen und die Transparenz zu erhöhen. Nur wenige Rechtsordnungen haben bereits ein vollständiges Verbot eingeführt (vor allem für staatliche Stellen), aber viele erwägen dies, und Meldepflichten werden immer häufiger. Die Voraussetzungen für eine breitere internationale Debatte über die Harmonisierung dieser Strategien sind geschaffen, worauf wir nun eingehen.

4 Auswirkungen auf das Völkerrecht und grenzüberschreitende Herausforderungen

4.1 Übereinstimmung mit Verträgen und Normen zur Cyberkriminalität

Jedes nationale Gesetz oder jede nationale Richtlinie, die sich mit Ransomware befasst, steht im Kontext bestehender internationaler Rechtsinstrumente zur Cyberkriminalität. Der wichtigste Vertrag in diesem Bereich ist das Übereinkommen des Europarats über Cyberkriminalität (Budapester Übereinkommen) von 2001, dem über 85 Länder (darunter die USA, EU-Staaten und andere) beigetreten sind. Das Budapester Übereinkommen und sein kürzlich verabschiedetes Zweites Protokoll befassen sich nicht ausdrücklich mit Lösegeldzahlungen durch Opfer – vielmehr verlangen sie die Kriminalisierung von Straftaten wie Computerhacking, Datenmanipulation und Cybererpressung (die die Handlungen von Ransomware-Kriminellen abdeckt) und erleichtern die grenzüberschreitende Zusammenarbeit bei Ermittlungen und Strafverfolgung. So beinhaltet beispielsweise ein Ransomware-Angriff mehrere Straftaten im Sinne des Budapester Übereinkommens (unbefugter Zugriff, Systembeeinträchtigung, Datenbeeinträchtigung und häufig computerbezogener Betrug/Erpressung); gemäss dem Übereinkommen muss jede Vertragspartei über Gesetze zur Verfolgung dieser Handlungen verfügen und die Ermittlungen anderer Länder unterstützen (durch Auslieferung, Rechtshilfe usw.). Die Leitlinien der Konvention zu Ransomware (2022) bekräftigten, dass ihre Bestimmungen flexibel genug sind, um Ransomware-Fälle zu bekämpfen – und dass Instrumente wie das neue Protokoll (das die grenzüberschreitende Beschaffung elektronischer Beweismittel vereinfacht) die Strafverfolgung verbessern werden.

Massnahmen wie das Verbot von Lösegeldzahlungen oder die Meldepflicht werden durch das Budapester Übereinkommen weder vorgeschrieben (noch verboten), da diese Massnahmen das Verhalten der Opfer und die Reaktion auf Vorfälle betreffen und nicht die Kriminalisierung der Täter. Solche Massnahmen ergänzen jedoch die Ziele des Übereinkommens, indem sie potenziell die Häufigkeit von Cyberkriminalität verringern und die Zusammenarbeit mit den Strafverfolgungsbehörden fördern. Man könnte sagen, dass sie den „Geist“ internationaler Normen zur Bekämpfung der Cyberkriminalität fördern, der darin besteht, die Gewinne von Cyberkriminellen zu schmälern und die kollektive Sicherheit zu stärken. Es besteht kein Widerspruch zwischen dem Verbot von Zahlungen durch ein Land und seinen Verpflichtungen aus dem Budapester Übereinkommen, da die Zahlung von Lösegeld in keinem Vertrag als geschütztes Recht oder als Verpflichtung vorgesehen ist. Ebenso steht die Meldepflicht für Vorfälle im Einklang mit Artikel 35 des Budapester Übereinkommens, der den raschen Informationsaustausch mit anderen Rechtsordnungen über Cyberbedrohungen fördert.

Ein neuerer Akteur auf der Bühne ist das vorgeschlagene Übereinkommen der Vereinten Nationen zur Bekämpfung der Nutzung von IKT zu kriminellen Zwecken, oft abgekürzt als UN-Cybercrime-Konvention. Dieser Vertrag wurde ursprünglich von Russland eingebracht, war jedoch seitdem Gegenstand umfangreicher Verhandlungen durch einen UN-Ad-hoc-Ausschuss, wobei ein Entwurf Ende 2024 von der UN-Generalversammlung angenommen wurde. Das Übereinkommen zielt darauf ab, einen globalen Rahmen für die Zusammenarbeit bei Cyberkriminalität, einschliesslich Ransomware, zu schaffen, der Länder wie Russland und China (die nicht dem Budapester Übereinkommen angehören) einbeziehen würde. Die Vereinigten Staaten und die EU beschlossen, den Vertrag trotz anfänglicher Bedenken zu unterstützen, in der Hoffnung, dass er zur weltweiten Bekämpfung von Ransomware genutzt werden kann. Der Entwurfstext (in der Fassung von 2024) verpflichtet die Staaten, zentrale Cyberdelikte unter Strafe zu stellen und die Zusammenarbeit zu verbessern, ähnlich wie in Budapest, obwohl Bedenken bestehen, dass er von autoritären Regimes missbraucht werden könnte, um Razzien zu rechtfertigen. Aus Sicht der Ransomware-Politik könnte die UN-Konvention ein Mittel sein, um Normen zur Nichtzahlung von Lösegeld zu verbreiten. Auch wenn der Vertrag selbst Zahlungen nicht verbietet (das würde ausserhalb seines Geltungsbereichs liegen, der sich auf die Kriminalisierung von Straftätern konzentriert), fördert er die internationale Zusammenarbeit, die Zahlungsverbote indirekt unterstützen kann. Wenn beispielsweise alle Länder bei der Ermittlung gegen Ransomware-Netzwerke und der Rückverfolgung von Lösegeldflüssen zusammenarbeiten, steigt die Wahrscheinlichkeit, die Täter zu fassen, was wiederum die Glaubwürdigkeit einer Nichtzahlungshaltung stärkt (Opfer könnten von einer Zahlung absehen, wenn sie darauf vertrauen, dass die Strafverfolgungsbehörden bei der Wiederherstellung der Systeme helfen können oder dass die Angreifer gefasst werden könnten). US-Beamte deuteten an, dass sie in dem UN-Vertrag „das Potenzial sehen, die internationale Zusammenarbeit der Strafverfolgungsbehörden bei der Bekämpfung von Cyberkriminalität zu verbessern“, einschliesslich Ransomware. Sie hoffen zudem, damit das Problem der sicheren Häfen anzugehen – indem sie Länder, die „kriminellen Ransomware-Gruppen die Tätigkeit ermöglicht haben“, dazu drängen, entweder zu kooperieren oder mit Sanktionen zu rechnen. Tatsächlich könnte der Vertrag die Erwartung verankern, dass Staaten wissentlich keine Ransomware-Aktivitäten beherbergen sollten, was mit den Bemühungen zur Unterbindung von Lösegeldzahlungen im Einklang steht (denn solange bestimmte Staaten den Tätern Schutz bieten, reicht ein blosses Zahlungsverbot anderswo möglicherweise nicht aus).

Über Verträge hinaus entstehen internationale Normen und nicht bindende Vereinbarungen, die für Ransomware relevant sind. So haben beispielsweise die G7 und die G20 Kommuniqués veröffentlicht, in denen sie Ransomware verurteilen und einen verbesserten Informationsaustausch fordern. Die G7 bekräftigte 2021 die Ansicht, dass Lösegeldzahlungen weitere Angriffe begünstigen, und ermutigte Unternehmen stattdessen, ihre Abwehrmassnahmen zu verstärken. Der „Paris Call for Trust and Security in Cyberspace“ (2018), eine Erklärung verschiedener Interessengruppen, nennt die Bekämpfung cyberkrimineller Aktivitäten wie Ransomware als Priorität für die internationale Zusammenarbeit (auch wenn Zahlungen darin nicht ausdrücklich erwähnt werden). Unterdessen hat die Offene Arbeitsgruppe der Vereinten Nationen (OEWG) für IKT-Sicherheit Ransomware als Bedrohung für kritische Infrastrukturen erörtert und damit indirekt Normen wie den Verzicht auf Angriffe auf Krankenhäuser unterstützt (eine Norm für staatliche Akteure, von der man argumentieren könnte, dass auch Cyberkriminelle sie einhalten sollten). Auch wenn diese übergeordneten Initiativen keine direkten Vorschriften zur Zahlung von Lösegeld erlassen, tragen sie doch zu einem Klima bei, in dem die Weigerung zu zahlen und die Nichttolerierung von Cyber-Erpressung als ethisch richtige und sichere Vorgehensweise angesehen wird.

Interessanterweise könnten wir gerade die Anfänge einer globalen Norm gegen Lösegeldzahlungen zumindest durch Regierungen erleben. Die gemeinsame Verpflichtung der Counter Ransomware Initiative, dass nationale Regierungen kein Lösegeld zahlen werden, ähnelt dem Konsens gegen die Zahlung von Lösegeld an Terroristen (gemäss UN-Sicherheitsratsresolution 2133). Wenn diese Norm Bestand hat und mehr Länder sie übernehmen, werden Ransomware-Banden erkennen, dass Angriffe auf Regierungsbehörden wahrscheinlich keinen Gewinn abwerfen – was solche Angriffe möglicherweise abschrecken könnte. Der nächste Schritt könnte darin bestehen, die Norm auf kritische Infrastrukturen und bewährte Praktiken im privaten Sektor auszuweiten, obwohl dies formal wahrscheinlich entweder ein umfassendes internationales Abkommen oder gleichzeitige nationale Gesetzgebungen erfordern würde. Einige Experten haben sogar ein zukünftiges Protokoll oder einen Anhang zu einem bestehenden Vertrag (wie Budapest) vorgeschlagen, der sich auf Ransomware konzentriert, in dem sich die Unterzeichner verpflichten könnten, Zahlungen über einem bestimmten Betrag oder an bestimmte Arten von Angreifern zu verbieten, doch eine solche Idee ist noch spekulativ.

Zusammenfassend lässt sich sagen, dass das geltende Völkerrecht (Budapester Übereinkommen usw.) mit den Bemühungen zur Eindämmung von Lösegeldzahlungen voll und ganz vereinbar ist und diese sogar unterstützt, auch wenn es diese Bemühungen nicht vorschreibt. Der Schwerpunkt der Verträge liegt auf der Verfolgung der Kriminellen, nicht der Opfer, doch die sich entwickelnde Praxis der Staaten zeigt die Bereitschaft, im Interesse des Allgemeinwohls auch das Verhalten der Opfer zu regeln. Die Gewährleistung der Vereinbarkeit mit Menschenrechten und anderen Rechtsnormen wird wichtig sein (siehe unten), doch aus rein strafrechtlicher Sicht haben die Länder Spielraum, Lösegeldzahlungen nach ihrem innerstaatlichen Recht zu verbieten, ohne gegen internationale Verpflichtungen zu verstossen. Sie müssen dies lediglich so tun, dass die Meldung von Vorfällen und die Zusammenarbeit weiterhin gefördert werden, anstatt das Problem in den Untergrund zu drängen. Dieses Zusammenspiel zwischen nationalen Initiativen und internationalen Rahmenwerken schafft die Voraussetzungen dafür, dass sich ein formellerer globaler Konsens herausbilden kann.

4.2 Herausforderungen bei der grenzüberschreitenden Strafverfolgung und Koordination

Ransomware ist im Kern eine grenzüberschreitende Bedrohung. Die Angreifer und ihre Infrastruktur befinden sich oft in einem anderen Land (oder mehreren Ländern) als das Opfer, und die Lösegeldzahlung erfolgt in der Regel grenzüberschreitend über globale Kryptowährungsnetzwerke. Dies stellt enorme Herausforderungen für die Strafverfolgung und für alle rechtlichen Massnahmen dar, die an den Landesgrenzen Halt machen. Wenn ein Land Zahlungen verbietet, könnten entschlossene Opfer oder Vermittler Zahlungen über andere Rechtsordnungen leiten. Ebenso kann eine Ransomware-Bande, wenn ein Land aggressiv gegen sie vorgeht, ihre Aktivitäten einfach in eine tolerantere Gerichtsbarkeit verlagern. Eine wirksame Reaktion erfordert daher internationale Koordination auf mehreren Ebenen.

Eine grosse Herausforderung ist die Existenz von „sicheren Häfen“ für Ransomware-Gruppen. Wie bereits erwähnt, operieren viele hochrangige Ransomware-Banden von Russland oder anderen Staaten aus, die angespannte Beziehungen zum Westen unterhalten, wo sie kaum Gefahr laufen, verhaftet zu werden, solange sie keine inländischen Einrichtungen oder bestimmte Verbündete ins Visier nehmen. Diese geopolitische Komplikation bedeutet, dass selbst wenn sich der Grossteil der Welt darauf einigt, keine Lösegeldzahlungen zu leisten, ein Regime wie Russland diese Angriffe stillschweigend als Druckmittel fördern oder einfach die Augen verschliessen könnte, da sie illegale Einnahmen in die eigene Wirtschaft spülen. Der Nationale Sicherheitsrat der USA und seine Verbündeten haben wiederholt Länder kritisiert, die „kriminellen Ransomware-Gruppen erlauben, innerhalb ihrer Grenzen zu operieren“. Ohne die Zusammenarbeit dieser Regierungen könnten rechtliche Massnahmen wie Zahlungsverbote jedoch nur begrenzte Auswirkungen auf die Kriminellen selbst haben – sie werden weiterhin Angriffe starten und sich möglicherweise auf Opfer ausserhalb des „No-Pay-Clubs“ konzentrieren. Im schlimmsten Fall, wenn beispielsweise alle NATO-/EU-Länder Zahlungen verbieten würden, könnten sich Ransomware-Akteure auf Ziele in Asien oder Lateinamerika konzentrieren, die weiterhin zahlen, oder verstärkt sensible Daten exfiltrieren, um Opfer durch öffentliche Veröffentlichungen statt durch Verschlüsselung zu erpressen. Grenzüberschreitende Strafverfolgung ist daher entscheidend: Je mehr alle Nationen bei der Ermittlung, Auslieferung oder anderweitigen Bekämpfung von Ransomware-Akteuren zusammenarbeiten, desto weniger Rückzugsgebiete bleiben übrig. Aus diesem Grund könnte die globale Reichweite der im Entstehen begriffenen UN-Konvention gegen Cyberkriminalität von grosser Bedeutung sein, wenn sie Länder wie Russland in einen Kooperationsrahmen einbindet – auch wenn Skeptiker befürchten, dass diese Staaten möglicherweise immer noch nicht ernsthaft gegen Gruppen vorgehen, die sie stillschweigend schützen.

Eine weitere Herausforderung bei der Koordinierung betrifft die Gerichtsbarkeit und Rechtskonflikte. Betrachten wir ein Beispiel: Ein multinationales Unternehmen wird in Land A (das Zahlungen verbietet) von Ransomware befallen, aber seine IT-Abteilung in Land B (wo es kein Verbot gibt) möchte das Lösegeld zahlen, um die globalen Systeme wiederherzustellen. Oder ein Szenario, in dem der Entschlüsselungsdienst nur über die Infrastruktur in Land C zugänglich ist. Solche länderübergreifenden Vorfälle werfen Fragen auf: Welches Recht gilt? Wenn sich der Hauptsitz des Unternehmens in einem Land befindet, das Zahlungen verbietet, kann es dann rechtlich eine Tochtergesellschaft im Ausland anweisen, zu zahlen? Könnte dies als Umgehung angesehen werden? Diese komplexen Situationen werden zunehmen, je mehr unterschiedliche Gesetze sich verbreiten. Das Völkerrecht bietet noch keine klaren Antworten; es ist den Kollisionsnormen und vielleicht künftigen Abkommen überlassen, die Vorgehensweisen zu harmonisieren. Ein internationaler Vertrag speziell zu Ransomware könnte beispielsweise einen Artikel enthalten, in dem sich die Staaten darauf einigen, die Erleichterung einer Lösegeldzahlung nicht als rechtmässig anzusehen, wenn für das Opfer ein Zahlungsverbot eines anderen Staates gilt (im Wesentlichen eine gegenseitige Anerkennung der jeweiligen Verbote). Ohne eine solche Regelung könnte ein Flickenteppich aus Gesetzen zu Forum-Shopping führen – Kriminelle könnten sich auf Tochtergesellschaften in laxen Rechtsordnungen konzentrieren oder die Kommunikation so lenken, dass sie Lücken ausnutzen.

Koordination ist auch im Bereich der Meldung von Vorfällen und des Informationsaustauschs erforderlich. Wenn mehrere Länder eine schnelle Meldung von Ransomware-Vorfällen vorschreiben (z. B. Australiens 72-Stunden-Regel, die 24-Stunden-Regel der NIS2, die bevorstehende 72-Stunden-Regel der USA für bestimmte Sektoren), muss ein Opfer möglicherweise einen einzigen Vorfall bei mehreren Aufsichtsbehörden in verschiedenen Ländern melden. Dies kann aufwändig sein und, wenn nicht aufeinander abgestimmt, zu Verwirrung führen. Im Idealfall sollten Informationen, die an das CERT oder die Strafverfolgungsbehörden eines Landes weitergegeben werden, bei Bedarf schnell an andere weitergeleitet werden. Mechanismen wie das rund um die Uhr verfügbare Netzwerk von Kontaktstellen im Rahmen des Budapester Übereinkommens tragen dazu bei, dass stets ein Kanal für den grenzüberschreitenden Austausch von Hinweisen in Echtzeit besteht. Internationale Organisationen wie INTERPOL und Europol haben die Koordination ebenfalls verbessert, indem sie gemeinsame Ransomware-Taskforces eingerichtet haben. Je nahtloser der grenzüberschreitende Austausch von Daten zu Ransomware-Vorfällen ist, desto effektiver können die Behörden Zusammenhänge herstellen (z. B. Lösegeldforderungen mit bekannten Gruppen verknüpfen oder warnen, wenn sich eine bestimmte Variante weltweit ausbreitet). Dies ist ein starkes Argument für die internationale Harmonisierung der Meldepflichten – damit ein Unternehmen möglicherweise einen einzigen umfassenden Bericht erstellen kann, der alle Rechtsordnungen erfüllt und dann an die zuständigen Behörden weitergeleitet wird. Es ist auch ein Argument für den Aufbau einer Art globaler Datenbank oder zumindest regionaler Datenbanken mit Ransomware-Indikatoren (Bitcoin-Wallet-Adressen, Entschlüsselungstools usw.), auf die Strafverfolgungsbehörden weltweit zugreifen können.

Die Durchsetzung eines Lösegeldzahlungsverbots an sich ist grenzüberschreitend schwierig. Wenn ein Unternehmen mit Sitz in Land X (Verbot in Kraft) heimlich über einen Vermittler in Land Y (kein Verbot) zahlt, wie soll Land X das aufdecken und ahnden? Es könnte die Zusammenarbeit von Land Y erfordern, um die Transaktion zurückzuverfolgen. Finanzvorschriften wie Gesetze zur Bekämpfung der Geldwäsche (AML) könnten helfen, da Krypto-Börsen zunehmend verpflichtet sind, verdächtige Transfers zu melden. Ein starkes internationales Rahmenwerk – vielleicht unter Nutzung der Standards der Financial Action Task Force (FATF) – könnte festlegen, dass Lösegeldzahlungen eine Transaktionsart mit hohem Risiko darstellen, was globale Finanzinstitute dazu veranlassen würde, diese zu melden oder zu blockieren. Wir sehen bereits Schritte in diese Richtung, da sich die FATF auf den Missbrauch virtueller Vermögenswerte und auf „Travel Rules“ (die den Informationsaustausch über Kryptotransaktionen vorschreiben) konzentriert. Wenn Börsen und Banken weltweit beginnen, Lösegeldzahlungen (die oft anhand bestimmter On-Chain-Muster oder bekannter Adressen identifiziert werden) zu erkennen und die Behörden zu alarmieren, könnte dies nationale Verbote untermauern.

Zusammenfassend lässt sich sagen, dass die grenzüberschreitende Zusammenarbeit sowohl die grösste Herausforderung als auch der Schlüssel zum Erfolg im Kampf gegen Ransomware ist. Nationale Gesetze wie Verbote oder Meldepflichten werden nur begrenzte Wirkung zeigen, wenn sich Ransomware-Betreiber einfach anpassen können, indem sie in Rechtsräume abwandern, in denen die Durchsetzung schwach ist. Umgekehrt kann der Vorteil der Angreifer, grenzüberschreitend zu operieren, eingeschränkt werden, wenn sich Länder koordinieren, um die Welt durch gemeinsame Normen, abgestimmte Gesetze und gemeinsame Durchsetzung einheitlich für Ransomware-Gewinne unwirtlich zu machen. Die derzeitige Entwicklung ist hinsichtlich des Bewusstseins vielversprechend: Zahlreiche globale Foren und Allianzen widmen sich in den Jahren 2023–2025 aktiv dem Thema Ransomware, stärker als je zuvor. Die vor uns liegende Aufgabe besteht darin, dies in konkrete, abgestimmte Massnahmen umzusetzen. Im nächsten Abschnitt werden die (positiven und negativen) Auswirkungen einer breiten Bewegung zum Verbot von Lösegeldzahlungen untersucht und die Frage erörtert, ob ein internationaler Vertrag oder ein Abkommen die globale Reaktion stärken könnte.

4.3 Menschenrechte und geschäftliche Auswirkungen eines Verbots

Massnahmen gegen Ransomware existieren nicht in einem Vakuum – sie müssen im Einklang mit grundlegenden Rechtsprinzipien, einschliesslich der Menschenrechte, und unter Berücksichtigung der wirtschaftlichen Auswirkungen auf Unternehmen umgesetzt werden. Auch wenn ein Verbot von Lösegeldzahlungen auf den ersten Blick wie eine reine Sicherheitsmassnahme erscheinen mag, kann es auf subtile Weise mit Rechten und wirtschaftlichen Interessen kollidieren.

Menschenrechtliche Überlegungen: Ein Bereich, der Anlass zur Sorge gibt, sind die potenziellen Auswirkungen auf das Recht auf Leben, Gesundheit oder Sicherheit in Fällen, in denen Ransomware wesentliche Dienste lahmlegt. Stellen Sie sich beispielsweise vor, die IT-Systeme eines Krankenhauses würden durch Ransomware gesperrt, wodurch lebenswichtige medizinische Geräte oder der Zugriff auf Patientenakten unterbrochen würden. Wenn ein strenges Gesetz die Zahlung des Lösegeldes unter allen Umständen verbietet, könnte das Krankenhaus tagelang handlungsunfähig bleiben, was die Patienten direkt gefährdet. Regierungen müssen prüfen, ob Ausnahmen oder Ausnahmegenehmigungen für lebensbedrohliche Situationen gerechtfertigt sind. Bei den Diskussionen im Weissen Haus im Jahr 2023 wurde ausdrücklich eine Ausnahmegenehmigung für kritische Dienste ins Spiel gebracht: Nach der diskutierten Richtlinie könnte ein Opfer, wenn eine Ransomware-Bande „die Erbringung kritischer Dienste verhindert“, nach ordnungsgemässer Benachrichtigung und mit Genehmigung der Regierung eine Ausnahmegenehmigung zur Zahlung beantragen. Damit wird anerkannt, dass ein pauschales Verbot in seltenen, extremen Fällen im Widerspruch zur staatlichen Verpflichtung stehen könnte, das Leben und Wohlergehen seiner Bürger zu schützen. Ein differenziertes Verbot könnte daher humanitäre Ausnahmen beinhalten (analog dazu, wie manche Sanktionsregime Ausnahmen für grundlegende humanitäre Bedürfnisse zulassen). Ein weiterer menschenrechtlicher Aspekt ist das Recht auf Privatsphäre und Datenschutz. In einigen Ransomware-Fällen führt die Nichtzahlung dazu, dass Angreifer sensible personenbezogene Daten veröffentlichen oder verkaufen (im Rahmen von „doppelter Erpressung“). Dies kann die Privatsphäre und sogar die Sicherheit von Personen schwer beeinträchtigen (man denke an durchgesickerte medizinische oder finanzielle Unterlagen). Opfer könnten argumentieren, dass es ihnen gestattet sein sollte, zu zahlen, um die Privatsphäre von Personen zu schützen. Eine gesetzliche Verpflichtung oder Erlaubnis zur Zahlung zum Schutz der Privatsphäre würde jedoch einen problematischen Präzedenzfall schaffen; stattdessen ist ein robuster Datenschutz (Verschlüsselung im Ruhezustand usw.) die bevorzugte Lösung. Die Politik muss sicherstellen, dass es, falls Unternehmen die Zahlung untersagt wird, andere Massnahmen gibt, um die Folgen für Einzelpersonen abzufedern – z. B. die Verpflichtung von Unternehmen, Personen, deren Daten offengelegt werden, weil das Unternehmen sich an das Gesetz gehalten und nicht gezahlt hat, Kreditüberwachung und Unterstützung anzubieten.

Hinzu kommt die Frage nach einem ordnungsgemässen Verfahren und der Verhältnismässigkeit bei der Bestrafung von Opfern. Aus menschenrechtlicher Sicht (insbesondere nach europäischem Menschenrechtsrecht) sollte eine Strafe verhältnismässig sein und einem legitimen Zweck dienen. Eine Organisation (durch Geldstrafen oder strafrechtliche Haftung) zu bestrafen, nur weil sie Opfer einer Straftat (Ransomware) wurde und durch eine Zahlung versuchte, den Schaden zu mindern, könnte als unverhältnismässig angesehen werden. Kritiker argumentieren, dies komme einer „Schuldzuweisung an das Opfer“ gleich – das Gesetz würde die geschädigte Partei bestrafen statt nur den Täter. Um dem entgegenzuwirken, würde ein etwaiges Verbot wahrscheinlich keine strafrechtlichen Sanktionen für die Zahlung durch Einzelpersonen vorsehen (es könnte beispielsweise Geldstrafen für Unternehmen oder Verwaltungsstrafen vorsehen, wie es das Vereinigte Königreich in Erwägung zieht). In der Konsultation des Vereinigten Königreichs wurde sogar die Idee aufgeworfen, bestimmten Führungskräften die Tätigkeit in Vorständen zu verbieten, wenn sie gegen ein Zahlungsverbot verstossen – eine strenge Sanktion. Bei falscher Anwendung könnte dies Bedenken hinsichtlich der Fairness aufwerfen. Es wird entscheidend sein, sicherzustellen, dass Unternehmen klare Leitlinien, Unterstützung durch die Behörden und vielleicht eine gewisse Nachsicht in wirklich mildernden Fällen erhalten, damit ein Lösegeldzahlungsverbot nicht unbeabsichtigt gegen Fairnessgrundsätze verstösst oder Opfer in ausweglosen Situationen übermässig belastet. Wir sollten bedenken, dass die Menschenrechtsgesetze (wie die Europäische Menschenrechtskonvention) das Recht eines Unternehmens, Geld an Kriminelle zu überweisen, nicht ausdrücklich schützen, sodass ein Zahlungsverbot keine direkte Menschenrechtsverletzung darstellt. Die Auswirkungen eines solchen Verbots auf andere Rechte (Leben, Sicherheit, Eigentum) müssen jedoch sorgfältig analysiert werden. Eigentumsrechte (z. B. das Recht, über das eigene Geld zu verfügen) können im öffentlichen Interesse gesetzlich eingeschränkt werden, sodass ein Verbot bei ordnungsgemässer Gesetzgebung wahrscheinlich als rechtmässig bestätigt würde – ähnlich wie Gesetze zur Bekämpfung der Geldwäsche akzeptiert werden –, doch die Behörden müssen es in verhältnismässiger Weise durchsetzen.

Auswirkungen auf Wirtschaft und Unternehmen: Für Unternehmen bedeutet ein gesetzliches Verbot von Lösegeldzahlungen eine tiefgreifende Veränderung in der Risikomanagementkalkulation. Derzeit betrachten viele Organisationen die Zahlung von Lösegeld als letzte Option – zwar nicht wünschenswert, aber manchmal die am wenigsten schlechte Option, um das Unternehmen zu retten. Wenn diese Option wegfällt, könnten Unternehmen mit höheren Kosten für die Wiederherstellung und potenziell grösseren Verlusten durch Ausfallzeiten oder Datenverlust konfrontiert sein. Kleine und mittlere Unternehmen (KMU) sind besonders gefährdet: Ihnen fehlen oft die robusten Backups oder redundanten Systeme, über die grössere Firmen verfügen, und ein Ransomware-Angriff könnte sie aus dem Geschäft bringen, wenn sie sich einen Entschlüsselungscode nicht leisten können. Wie Kemba Walden betonte, „können diese [kleinen Unternehmen] in Konkurs gehen“, wenn ein Verbot besteht und sie unvorbereitet von einem Angriff getroffen werden. Dies legt nahe, dass ein Zahlungsverbot idealerweise mit Initiativen zur Unterstützung von Unternehmen im Bereich Cybersicherheit einhergehen sollte – z. B. staatliche Zuschüsse oder Versicherungspools, um Opfern zu helfen, ihre Systeme wiederherzustellen, ohne Kriminelle zu bezahlen. Die USA haben einige Programme gestartet (wie Zuschüsse für die Cybersicherheit von Bundesstaaten und Kommunen sowie die Prüfung eines Fonds zur Unterstützung bei der Reaktion auf Vorfälle), und das Vereinigte Königreich erwähnte die Zusammenarbeit mit der Versicherungsbranche, um eine bessere Unterstützung bei der Wiederherstellung zu bieten. Wenn Unternehmen wissen, dass sie nicht zahlen können, benötigen sie alternative Rettungsanker: Vereinbarungen zur gegenseitigen Hilfe, Anbieter für Datenwiederherstellung, öffentlich-private Partnerschaften für die Reaktion auf Vorfälle usw. Im Laufe der Zeit könnte ein Verbot positive Verhaltensänderungen im privaten Sektor bewirken: Unternehmen könnten mehr in präventive Sicherheit und robuste Backup-Systeme investieren, da sie wissen, dass die Zahlung von Lösegeld keine Option ist. Dies könnte die Gesamterfolgsquote von Ransomware-Angriffen senken (Angreifer verlassen sich häufig darauf, dass Opfer keine brauchbaren Backups oder Geschäftskontinuitätspläne haben).

Kurzfristig könnte es jedoch zu wirtschaftlichen Störungen kommen. Cyberversicherer müssten ihre Policen anpassen – viele decken derzeit Lösegeldzahlungen ab; sollten diese in einigen Rechtsordnungen illegal werden, könnten Versicherer stattdessen mehr Deckung für die Kosten des Wiederaufbaus von Netzwerken oder für rechtliche Haftungsansprüche nach einem Angriff anbieten. Die Prämien könnten sich verschieben. Es ist möglich, dass einige Unternehmen mit hohem Risiko (wie im Gesundheitswesen) Versicherungen als teurer oder schwerer zu bekommen empfinden, wenn sie nicht auf Lösegeldzahlungen zurückgreifen können, um einen Vorfall schnell zu lösen. Einige Branchen könnten sich gegen ein Verbot einsetzen und argumentieren, dass es ihnen die Hände bindet. Beispielsweise könnten Betreiber kritischer Infrastrukturen argumentieren, dass ein Verbot sie zu leichten Zielen macht, wenn ein Angriff die öffentliche Sicherheit bedroht und sie ihn rechtlich nicht durch Zahlung abwenden können. Auf der anderen Seite würden Unternehmen, die stolz darauf sind, nicht zu zahlen (es gibt Fälle von Firmen mit öffentlichen „No-Pay“-Richtlinien), ein Verbot als Gleichstellung der Wettbewerbsbedingungen begrüssen – wenn niemand zahlen kann, dann sind diejenigen, die sich derzeit weigern zu zahlen (und kurzfristig möglicherweise mehr leiden), nicht im Wettbewerbsnachteil. Dies ist in gewisser Weise vergleichbar damit, wie einige Unternehmen strengere Umweltvorschriften wollten, damit alle gleichermassen in die Einhaltung investieren müssen. Ebenso könnte ein Lösegeldverbot das moralische Risiko beseitigen, bei dem weniger gut vorbereitete Unternehmen wissen, dass sie auf die Zahlung von Lösegeld oder auf die Übernahme durch eine Versicherung zurückgreifen können. Das moralische Risiko war ein echtes Problem: Die bereitwillige Zahlung von Lösegeld hat einige Firmen wohl davon abgehalten, in Sicherheit oder Schulungen zu investieren. Mit einem Verbot ändert sich diese Kalkulation; Prävention wird zur einzig gangbaren Strategie.

Hinzu kommen die weiterreichenden wirtschaftlichen Auswirkungen: Lösegeldzahlungen bedeuten einen enormen Vermögenstransfer an kriminelle Unternehmen (schätzungsweise über 800 Millionen Dollar allein im Jahr 2024). Die Unterbindung dieses Geldflusses könnte mehr Geld in der legalen Wirtschaft halten und die Finanzierung anderer illegaler Aktivitäten verhindern (einige Ransomware-Banden investieren in andere Verbrechen oder finanzieren, wie im Fall Nordkoreas, Waffenprogramme). Wenn ein Verbot jedoch dazu führt, dass mehr Daten zerstört werden oder durchgesickert sind, könnten sich die Verluste dennoch auf andere Weise manifestieren (wie höhere Kosten für die Behebung, Rechtsstreitigkeiten oder den Verlust des Kundenvertrauens). Unternehmen müssen sich ohnehin mit potenziellen rechtlichen Haftungsrisiken auseinandersetzen: Die Zahlung eines Lösegelds könnte gegen Gesetze zur Meldung von Datenschutzverletzungen verstossen (da Aufsichtsbehörden dies als Verschleierung betrachten könnten, wenn es nicht gemeldet wird) oder gegen Sanktionen verstossen; die Nichtzahlung und ein Datenleck könnten zu DSGVO-Geldbussen oder anderen Strafen führen, wenn der Vorfall auf mangelnde Sicherheit zurückzuführen ist. Beide Wege sind also mit Kosten verbunden. In gewisser Weise könnte ein klares Verbot die Entscheidung vereinfachen – indem es die quälende Wahl beseitigt und für Rechtssicherheit sorgt –, aber es bedeutet auch, dass die volle Last der Wiederherstellung auf dem Opfer lastet.

Eine weitere Konsequenz: Die Dynamik der Erpressung könnte sich weiterentwickeln. Wenn Angreifer wissen, dass Zahlungen unwahrscheinlich sind, könnten sie ihre Taktik ändern. Sie könnten aus Trotz destruktiver werden (Cyber-Vandalismus) oder auf rein datenzentrierte Erpressung umsteigen (Daten stehlen und mit Veröffentlichung drohen, ohne diese zu verschlüsseln). Wir beobachten bereits „Belästigungstechniken“, wie die Kontaktaufnahme mit Kunden oder Mitarbeitern des Opfers, um Druck auszuüben. Ein Verbot könnte Angriffe mit Verschlüsselung reduzieren, aber andere Formen der digitalen Erpressung verstärken, die durch ein Zahlungsverbot nicht ohne Weiteres bekämpft werden können (wie das Stehlen peinlicher E-Mails und die Forderung nach Geld, um diese nicht zu veröffentlichen, was Unternehmen möglicherweise anders einstufen). Rechtlich gesehen handelt es sich dabei immer noch um Erpressung, aber wenn sich das Gesetz auf „Ransomware-Zahlungen“ konzentriert, deckt es möglicherweise Zahlungen zur Unterdrückung von Datenlecks usw. nicht eindeutig ab. Der Gesetzgeber müsste das Gesetz möglicherweise so gestalten, dass es Erpressungszahlungen umfassend abdeckt, sonst werden Kriminelle semantische Lücken ausnutzen (z. B. „Das ist kein Lösegeld für die Verschlüsselung, sondern ein Beratungshonorar für das ‚Löschen‘ gestohlener Daten – ist das verboten?“).

Insgesamt fiel die Reaktion der Wirtschaft auf mögliche Verbote gemischt aus. Umfragen zeigen theoretische Unterstützung für Verbote, doch wenn es zu tatsächlichen Vorfällen kommt, ziehen viele Unternehmen eine Zahlung immer noch als Option in Betracht (daher der Bonmot von Yahoo Finance, dass „alle zustimmen, dass Lösegeldzahlungen verboten werden sollten, bis ihr eigenes Unternehmen betroffen ist“). Um ein Verbot praktikabel zu machen, werden Regierungen wahrscheinlich umfangreiche Aufklärungsarbeit bei Unternehmen leisten, Leitfäden für eine Reaktion ohne Zahlung bereitstellen und vielleicht sogar rechtliche Schutzmassnahmen (Immunität) für Unternehmen anbieten, die sich melden und nicht zahlen, damit sie von den Aufsichtsbehörden nicht unangemessen für den Vorfall selbst bestraft werden. Dieses unterstützende Ökosystem ist entscheidend; andernfalls könnten Unternehmen in Konkurs gehen oder versuchen, Vorfälle zu verheimlichen – Ergebnisse, die niemandem ausser den Angreifern nützen.

Zusammenfassend lässt sich sagen, dass ein Verbot von Lösegeldzahlungen an der Schnittstelle von Cybersicherheit, Recht und gesellschaftlichen Werten angesiedelt ist. Es zielt darauf ab, der langfristigen kollektiven Sicherheit (durch die Beseitigung krimineller Gewinne) Vorrang einzuräumen, möglicherweise auf Kosten kurzfristiger individueller Entlastung. Die Gewährleistung der Achtung der Grundrechte und die Minderung des Schadens für Unternehmen erfordern eine sorgfältige Ausarbeitung der Rechtsvorschriften (mit Ausnahmen, falls erforderlich) sowie robuste Unterstützungsmassnahmen. Richtig umgesetzt könnte dies Normen verschieben – und die Zahlung von Cyber-Lösegeld ebenso undenkbar machen, wie es heute ist, Lösegeld für Entführungen an Terroristen zu zahlen, ein Vergleich, der oft gezogen wird. Doch wenn dies übereilt oder ohne Unterstützung geschieht, könnte es erheblichen Kollateralschaden unter genau den Opfern verursachen, die es eigentlich schützen soll.

5 Auf dem Weg zu einem internationalen Rahmenwerk für Ransomware

Angesichts des globalen Charakters von Ransomware argumentieren viele Experten, dass isolierte nationale Bemühungen zwar hilfreich, aber nicht ausreichend sind. Wie könnte ein internationaler Vertrag oder ein koordinierter Rahmen zur Bekämpfung von Ransomware aussehen, und wie könnte er die derzeit entstehenden, uneinheitlichen Reaktionen verbessern? In diesem letzten Abschnitt erörtern wir mögliche Elemente einer globalen Strategie und wägen die Aussichten auf ein internationales Abkommen ab, das speziell auf Ransomware abzielt.

Koordinierung gesetzlicher Verbote und Meldepflichten: Ein einfacher Schritt wäre, dass gleichgesinnte Länder ihre Gesetze zu Lösegeldzahlungen harmonisieren. Dies könnte über ein formelles Abkommen oder einfach durch parallele Gesetzgebung geschehen. Beispielsweise könnte eine Gruppe von Ländern (vielleicht über die CRI oder die G7) gemeinsam erklären, dass sie Lösegeldzahlungen durch bestimmte Einrichtungen (Behörden, kritische Infrastrukturen usw.) verbieten und die unverzügliche Meldung aller Ransomware-Vorfälle und -Zahlungen vorschreiben. Wenn dies gemeinsam geschieht, verringert sich das Risiko, dass Kriminelle verschiedene Rechtsordnungen gegeneinander ausspielen. Ein internationaler Rahmen könnte ein Mustergesetz oder Standards vorgeben, die jede Nation im eigenen Land umsetzt – ähnlich wie die FATF Mustervorschriften zur Geldwäsche bereitstellt, die von den Mitgliedern übernommen werden. Selbst ohne einen verbindlichen Vertrag sendet eine koordinierte Ankündigung (wie die gemeinsame Erklärung der CRI, dass Regierungen keine Lösegeldzahlungen leisten sollen) eine starke Botschaft sowohl an Kriminelle als auch an den privaten Sektor. Auf lange Sicht wäre ein multilaterales Abkommen denkbar, in dem sich die Vertragsparteien darauf einigen, Lösegeldzahlungen an Cyberkriminelle zu verbieten, möglicherweise mit einem Artikel, der dringende Ausnahmen (wie lebensbedrohliche Situationen) zulässt, sowie mit Verpflichtungen zum Informationsaustausch über Vorfälle.

Verbesserte internationale Zusammenarbeit bei der Strafverfolgung: Ein Vertrag oder Rahmenwerk sollte die operative Seite der Bekämpfung von Ransomware stärken. Dazu gehören schnellere Auslieferungsverfahren für Ransomware-Verdächtige, gemeinsame Ermittlungen und die grenzüberschreitende Einfrierung von Vermögenswerten. Die vorgeschlagene UN-Konvention gegen Cyberkriminalität wird voraussichtlich Bestimmungen zur gegenseitigen Rechtshilfe und Auslieferung bei Cyberdelikten enthalten, die auch Ransomware abdecken würden. Um gezielt gegen Ransomware vorzugehen, könnte das Übereinkommen (oder ein Protokoll) die Erpressung durch Ransomware als Straftatbestand definieren, für den eine Auslieferung gewährt werden sollte (ohne Ablehnung aus politischen Gründen usw.). Darüber hinaus könnte ein internationaler Rahmen multinationale Task Forces einrichten, die Fachwissen bündeln und gleichzeitig koordinierte Massnahmen (Razzien, Beschlagnahmung von Servern) in mehreren Ländern durchführen. Die von Chainalysis angeführte Operation Cronos gegen LockBit war ein Beispiel dafür, wie eine „internationale Koalition“ in einem konzertierten Schlag Infrastruktur beschlagnahmte. Die Institutionalisierung einer solchen Zusammenarbeit durch ein Abkommen – beispielsweise durch die Bereitstellung von Ressourcen für ständige gemeinsame Ermittlungseinheiten gegen Ransomware – könnte die Strafverfolgungsbehörden agiler machen als die Kriminellen.

Ein weiterer Aspekt ist die Bekämpfung der Rückverfolgung und des Missbrauchs von Kryptowährungen auf globaler Ebene. Der Anstieg von Ransomware wurde durch den pseudonymen Charakter von Kryptowährungen begünstigt. Ein globales Rahmenwerk könnte einheitliche „Know-Your-Customer“-Regeln (KYC) für Kryptobörsen vorantreiben (damit Angreifer weniger Möglichkeiten zum Auszahlen haben) und Länder dazu ermutigen, Daten aus der Blockchain-Analyse auszutauschen. Im Jahr 2023 hat die Counter Ransomware Initiative eine Arbeitsgruppe gegen den Missbrauch virtueller Vermögenswerte ins Leben gerufen, was ein Anfang ist. Ein Vertrag würde zwar keine detaillierte Kryptowährungspolitik festlegen, könnte aber die Zusammenarbeit bei der Rückverfolgung und Beschlagnahmung von Kryptowährungserlösen aus Ransomware vorschreiben und diese ähnlich wie Erlöse aus dem Drogenhandel im Rahmen des Übereinkommens der Vereinten Nationen gegen die grenzüberschreitende organisierte Kriminalität behandeln. Man könnte sich eine internationale Fähigkeit vorstellen, Krypto-Adressen, die mit grossen Ransomware-Angriffen in Verbindung stehen, schnell einzufrieren oder auf eine schwarze Liste zu setzen, damit die Kriminellen die Gelder nicht ohne Weiteres einziehen oder bewegen können.

Internationale Unterstützungsmechanismen für Opfer: Sollten Zahlungen verboten werden, könnte ein internationaler Rahmen die Schaffung von Sicherheitsnetzen für Opfer beinhalten. Eine in politischen Kreisen diskutierte Idee ist ein internationaler Ransomware-Wiederherstellungsfonds – möglicherweise finanziert durch Beiträge von Regierungen oder der Industrie –, der Opfern bei der Wiederherstellung von Systemen und Daten helfen könnte, anstatt Lösegeld zu zahlen. Dies würde dem entsprechen, wie einige Länder Entschädigungsfonds für Opfer von Terroranschlägen oder Gewaltverbrechen unterhalten. Auch wenn es unwahrscheinlich erscheint, dass Regierungen private Unternehmen wirksam gegen Cyberverluste versichern, könnte ein gemeinsamer Fonds auf kritische Sektoren oder kleinere Unternehmen ausgerichtet sein, denen die Ressourcen fehlen. Indem er Opfern hilft, sich ohne Zahlungen an Kriminelle zu erholen, würde ein solcher Mechanismus die Politik der Nichtzahlung stärken. Ein internationales Abkommen könnte Staaten dazu ermutigen, nationale Fonds einzurichten oder zu einem grenzüberschreitenden Pool für Cyber-Nothilfe beizutragen. Darüber hinaus könnte ein internationaler Rahmen den Austausch von Entschlüsselungsschlüsseln und -tools erleichtern. Es gibt bereits die Initiative „No More Ransom“ (eine Zusammenarbeit zwischen Europol und Cybersicherheitsunternehmen), die kostenlose Entschlüsselungsprogramme für bekannte Ransomware-Varianten bereitstellt; ein Vertrag könnte solche Bemühungen offiziell unterstützen und ausweiten, indem er Strafverfolgungsbehörden dazu verpflichtet, alle wiederhergestellten Schlüssel oder Techniken zur Entschlüsselung an eine zentrale Datenbank weiterzugeben.

Umgang mit sicheren Häfen und staatlicher Verantwortung: Eine grössere Herausforderung ist der Umgang mit Staaten, die Ransomware-Banden Unterschlupf gewähren. Das Völkerrecht könnte weiterentwickelt werden, um Konsequenzen für Nationen vorzusehen, die sich systematisch weigern, bei der Bekämpfung von Ransomware zu kooperieren. Dies ist heikel – einem Staat die Verantwortung für nichtstaatliche Hackergruppen zuzuschreiben, ist diplomatisch heikel. Eine starke internationale Haltung könnte jedoch darin bestehen, Ransomware in Diskussionen über die staatliche Verantwortung für Cyberkriminalität einzubeziehen. Beispielsweise könnte das Rahmenwerk festlegen, dass Länder nicht wissentlich zulassen dürfen, dass ihr Hoheitsgebiet für völkerrechtswidrige Handlungen genutzt wird (aufbauend auf bestehenden Normen, wonach ein Staat nicht zulassen darf, dass sein Hoheitsgebiet als Zufluchtsort für Cyberangriffe dient). Wenn ein Land Ransomware-Akteure konsequent schützt, könnten andere Sanktionen oder sogar Gegenmassnahmen in Betracht ziehen. Tatsächlich haben die Vereinigten Staaten im Jahr 2022 bestimmte Ransomware-Angriffe öffentlich Akteuren in sicheren Rückzugsgebieten zugeschrieben und angedeutet, offensive Cyberoperationen einzusetzen, um diese zu stören, falls keine Zusammenarbeit erfolgt. Ein internationales Abkommen könnte explizit oder implizit kollektive Massnahmen gegen grosse Ransomware-Infrastrukturen (wie Botnets) mit Sitz in unkooperativen Rechtsordnungen gutheissen – ähnlich wie Seemächte in der Vergangenheit zusammengearbeitet haben, um Piraterie in gesetzlosen Regionen zu bekämpfen.

Vertrag vs. Soft Law: Wäre ein spezieller „Ransomware-Vertrag“ realisierbar oder gar notwendig? Vielleicht nicht als eigenständiges Instrument; Ransomware ist Teil des breiteren Spektrums der Cyberkriminalität. Es könnte realistischer sein, Ransomware-spezifische Bestimmungen in bestehende Rahmenwerke zu integrieren. Die UN-Konvention gegen Cyberkriminalität könnte ein Mittel sein; oder der Europarat könnte der Budapester Konvention ein Drittes Protokoll hinzufügen, das sich speziell mit neuen Themen der Cyberkriminalität wie Ransomware und finanzieller Erpressung befasst. Ein anderer Weg ist eine politische Vereinbarung – z. B. ein G7-Abkommen oder eine OECD-Richtlinie –, die zwar nicht rechtsverbindlich ist, aber bewährte Verfahren festlegt, die viele Staaten auf nationaler Ebene übernehmen. Der Vorteil eines Vertrags liegt in verbindlichen Verpflichtungen und einem klaren Signal, doch die Aushandlung eines neuen Vertrags (oder von Änderungen) kann Jahre dauern. In der Zwischenzeit ist Ransomware bereits eine Krise. Daher könnte ein koordinierter Rahmen entstehen, der über einen Vertrag hinausgeht: im Wesentlichen eine Angleichung der innerstaatlichen Gesetze und Zusammenarbeit durch Netzwerke wie CRI und Interpol, ohne ein einziges neues globales Rechtsinstrument. Sollte sich dies im Laufe der Zeit als unzureichend erweisen oder sollte ein breiter Konsens bestehen (mit Ausnahme einiger weniger Schurkenstaaten), könnte ein Vertrag die Normen formalisieren.

Vor- und Nachteile eines internationalen Verbots: Wenn hypothetisch eine kritische Masse von Ländern sich darauf einigen würde, Lösegeldzahlungen zu verbieten, wären die potenziellen Vorteile erheblich: Der finanzielle Anreiz für Ransomware könnte zusammenbrechen, wenn Angreifer wissen, dass es Opfern in allen grossen Volkswirtschaften gesetzlich untersagt ist, zu zahlen. Ransomware-Gruppen hätten Schwierigkeiten, Geld zu verdienen, was viele dazu veranlassen könnte, sich aufzulösen oder auf andere Verbrechen umzusteigen. Die Daten liefern uns einige Anhaltspunkte: Wie bereits erwähnt, sank das Zahlungsvolumen im Jahr 2024, da sich immer mehr Opfer weigerten zu zahlen, was sich direkt auf die Einnahmen aus Ransomware auswirkte. Ein koordiniertes Verbot könnte diesen Effekt dramatisch verstärken. Darüber hinaus würde es das Problem des moralischen Risikos international beseitigen – Unternehmen überall müssten ihre Sicherheitsvorkehrungen verbessern, und keines könnte andere unterbieten, indem es heimlich zahlt. Ein internationales Verbot könnte auch die Botschaft vereinfachen: Eine klare globale Norm, wonach „wir nicht mit Cyber-Geiselnehmern verhandeln“, könnte potenzielle Kriminelle abschrecken und das Vertrauen zwischen dem öffentlichen und dem privaten Sektor stärken (Unternehmen würden sich nicht unter Druck gesetzt fühlen zu zahlen, wenn sie wissen, dass dies illegal und gesellschaftlich verpönt ist, und könnten sich stattdessen an die Strafverfolgungsbehörden wenden, um Hilfe zu erhalten).

Die Nachteile auf internationaler Ebene spiegeln jedoch diejenigen auf nationaler Ebene wider, sind jedoch mit zusätzlicher Komplexität verbunden. Wenn nicht jedes Land dem Verbot beitritt, werden sich Ransomware-Akteure auf Opfer in Ländern konzentrieren, in denen eine Zahlung noch möglich ist, wodurch sich der Schaden dort potenziell konzentriert. Wenn beispielsweise die NATO und ihre Verbündeten Zahlungen verbieten, einige grosse Schwellenländer dies jedoch nicht tun, könnten Angreifer ihren Fokus auf Letztere verlagern – was zu politischen Spannungen führen könnte (diese Länder könnten das Gefühl haben, nun die Hauptlast der aus dem Westen „umgeleiteten“ Angriffe zu tragen). Daher wäre eine nahezu universelle Einhaltung wichtig, um zu vermeiden, dass das Problem lediglich verlagert wird. Ein weiterer Nachteil ist die uneinheitliche Durchsetzung: Selbst wenn viele Länder beitreten, werden alle das Verbot gleichermassen durchsetzen? Länder mit geringeren Ermittlungskapazitäten im Cyberbereich könnten Schwierigkeiten haben, festzustellen, ob Unternehmen illegal zahlen. Dies könnte Schwachstellen schaffen, die von Kriminellen ausgenutzt werden. Es könnte auch Handels- oder Wettbewerbsprobleme hervorrufen: Was wäre, wenn ein multinationales Unternehmen in Land A (Verbot in Kraft) nach einem Ransomware-Vorfall gegenüber einem Konkurrenten in Land B (Verbot nicht durchgesetzt) den Kürzeren zieht, weil der Konkurrent heimlich gezahlt hat und schneller wieder einsatzfähig war? Solche Szenarien könnten zu Spannungen führen, sofern es keine einheitliche Verpflichtung gibt. Darüber hinaus könnte die weltweite Illegalisierung von Lösegeldzahlungen auf völkerrechtlicher Ebene diese Aktivitäten in den Schwarzmarkt drängen – so könnten beispielsweise verdeckte Vermittlungsfirmen aus Nicht-Vertragsstaaten aufkommen, die Zahlungen unter dem Radar abwickeln und damit die Strafverfolgung erschweren.

Auswirkungen auf Menschenrechte und Internetfreiheit weltweit: Es gibt eine gegenteilige Sorge, die einige Menschenrechtsaktivisten hegen: dass autoritäre Regime Anti-Ransomware-Gesetze instrumentalisieren könnten, um die Überwachung oder Einschränkung der Internetnutzung zu rechtfertigen. So könnte eine Regierung beispielsweise ein weit gefasstes Gesetz verabschieden, das angeblich auf Ransomware-Zahlungen abzielt, es dann aber nutzen, um Kryptowährungstransaktionen von Dissidenten zu überwachen oder NGOs unter dem Deckmantel „potenzieller Lösegeldtransaktionen“ zu bestrafen. Bei den Verhandlungen über den UN-Vertrag wurden Bedenken geäussert, dass vage Gesetze zur Cyberkriminalität auf diese Weise missbraucht werden könnten. Die Verfasser internationaler Grundsätze sollten daher für Klarheit sorgen – mit Fokus auf tatsächliche Ransomware-Szenarien – und Schutzmassnahmen wie eine gerichtliche Kontrolle für alle Durchsetzungsmassnahmen fördern, um Missbrauch zu vermeiden.

Zusammenfassend würde sich ein internationaler Vertrag oder Rahmen zur Bekämpfung von Ransomware wahrscheinlich auf Prävention (Reduzierung von Angriffszielen und Schwachstellen), Durchsetzung (Erhöhung des Risikos für Angreifer) und einen Bewusstseinswandel (die Zahlung von Lösegeld sozial und rechtlich inakzeptabel machen) konzentrieren. Elemente davon sehen wir bereits in gemeinsamen Initiativen wie der CRI und gemeinsamen Strafverfolgungsmassnahmen. Der logische nächste Schritt ist eine engere Angleichung der Gesetze und möglicherweise ein formeller Pakt. Ob durch einen Vertrag oder koordinierte nationale Gesetze – zu den Vorteilen gehören die Entziehung von Einnahmen für Ransomware-Banden, die Förderung globaler Einheit gegen einen gemeinsamen Feind sowie die Bündelung von Ressourcen und Wissen zur Verteidigung. Zu den Nachteilen und Herausforderungen gehören die Gewinnung breiter Zustimmung, die Vermeidung negativer Folgen für Opfer während der Übergangsphase sowie der Umgang mit widerstrebenden Staaten und nichtstaatlichen Komplexitäten.

6 Schlussfolgerung

Der Aufstieg von Ransomware zu einer globalen Plage hat Juristen und politische Entscheidungsträger dazu gezwungen, traditionelle Strategien zur Bekämpfung der Cyberkriminalität zu überdenken. Bei der Untersuchung der Frage „Auf dem Weg zu einem Zahlungsverbot?“ sehen wir für den Zeitraum 2023–2025 eine sich rasch entwickelnde Landschaft. Die Vereinigten Staaten haben Lösegeldzahlungen nicht verboten, doch Diskussionen auf höchster Ebene deuten darauf hin, dass diese Idee auf dem Tisch liegt, vorbehaltlich Verbesserungen der Cyber-Resilienz. In der Zwischenzeit verschärfen die USA die Massnahmen zur Bekämpfung von Cyberkriminalität durch Meldepflichten (CIRCIA) und die Durchsetzung von Sanktionen, wodurch Zahlungen an bestimmte Akteure wirksam unterbunden werden. Das Vereinigte Königreich steht kurz vor der Einführung eines der bislang aggressivsten Rechtssysteme gegen Ransomware, das ein gezieltes Zahlungsverbot für kritische Sektoren mit einem neuartigen System zur Zahlungsüberwachung und -meldung kombiniert. In der gesamten Europäischen Union liegt der Schwerpunkt auf Transparenz (mit den Meldepflichten von NIS2) und auf der Koordinierung durch bestehende Rechtsinstrumente, während einzelne Staaten sich zunehmend offen für strengere Massnahmen zeigen. Australien hat bereits ein wegweisendes Gesetz eingeführt, das die Offenlegung von Lösegeldzahlungen innerhalb von 72 Stunden vorschreibt, was die Überzeugung widerspiegelt, dass eine Aufdeckung des Problems dazu beitragen wird, es einzudämmen.

Diese Bemühungen sind zwar vielversprechend, unterstreichen aber auch die Herausforderungen. Ein Flickenteppich aus Gesetzen kann Schlupflöcher schaffen; übermässig strenge Vorschriften können nach hinten losgehen, wenn sie nicht mit Unterstützung einhergehen. Die Debatte offenbart berechtigte Bedenken: Wird ein Zahlungsverbot das langfristige öffentliche Interesse auf Kosten kurzfristiger Schäden für einige Opfer schützen? Wie stellen wir sicher, dass die Nichtzahlung von Lösegeld tatsächlich zu weniger Angriffen führt und nicht einfach zu mehr Schäden durch unentschädigte Angriffe? Die bisherigen Erkenntnisse deuten darauf hin, dass eine Verringerung der Lösegeldzahlungen das Geschäftsmodell von Ransomware tatsächlich untergräbt – der deutliche Rückgang der Gesamteinnahmen aus Ransomware im Jahr 2024 ist teilweise darauf zurückzuführen, dass sich mehr Opfer weigern zu zahlen und die Strafverfolgungsbehörden gezielter vorgehen. Theoretisch würden sich die meisten Ransomware-Gruppen mangels Gewinn schliesslich auflösen, wenn niemand zahlen würde. Der Schlüssel liegt darin, die Übergangsphase zu bewältigen und vereinzelte Ausreisser zu verhindern (ein einziges Opfer, das zahlt, kann einen Angreifer am Leben erhalten, selbst wenn andere dies nicht tun).

Das Völkerrecht bietet einen entscheidenden Rahmen für diesen Kampf. Bestehende Verträge zur Bekämpfung der Cyberkriminalität wie das Budapester Übereinkommen geben den Staaten die rechtliche Grundlage, um gegen Ransomware-Täter vorzugehen und zusammenzuarbeiten. Neue Instrumente wie das UN-Übereinkommen über Cyberkriminalität zielen darauf ab, alle Nationen einzubeziehen und Rechtslücken zu schliessen. Diese Übereinkommen schaffen zusammen mit Soft-Law-Normen von Gremien wie dem UN-Sicherheitsrat (in analogen Kontexten) und Koalitionen wie der CRI eine globale Norm, wonach die Duldung von Cybererpressung nicht akzeptabel ist. Dieser Verlauf erinnert daran, wie sich die Welt nach und nach darauf einigte, dass Zahlungen an Terroristen nicht ratsam sind – möglicherweise erleben wir gerade die ersten Schritte eines ähnlichen Konsenses in Bezug auf Ransomware. Insbesondere die Zusage der CRI, dass Regierungen keine Lösegeldzahlungen leisten werden, ist ein bedeutender normativer Meilenstein. Wenn dies über nationale Gesetze auf die Industrie ausgeweitet wird, könnte dies zu einheitlichen Erwartungen führen.

Aus Sicht der rechtlichen Wirksamkeit darf man nicht ausser Acht lassen, dass die grundlegenden Faktoren, die Ransomware erst möglich machen, bekämpft werden müssen: die Anonymität von Kryptowährungen und der Schutz, den bestimmte Staaten bieten. Rechtliche Massnahmen gegen Lösegeldzahlungen müssen daher Teil einer umfassenden Strategie sein: eine konsequente Strafverfolgung von Cyberkriminellen (unter Nutzung internationaler Zusammenarbeit), finanzielle Sanktionen und Massnahmen zur Bekämpfung der Geldwäsche, um die Verwendung von Erpressungserlösen zu erschweren, sowie strenge Auflagen für Organisationen, ihre Abwehrmassnahmen zu verstärken und Angriffe unverzüglich zu melden. Ein Zahlungsverbot allein ist kein Allheilmittel – aber als eines von vielen Instrumenten könnte es die Kosten-Nutzen-Rechnung für die Angreifer erheblich zu ihren Ungunsten verschieben.

Es ist zudem ein rechtlich interessantes Instrument: Die Kriminalisierung einer Handlung (Lösegeldzahlung), die selbst ein Nebenprodukt eines anderen Verbrechens ist, zwingt zu einer Neubewertung der Rolle des Opfers bei Cyberkriminalität. Traditionell werden Opfer nicht bestraft; hier argumentieren einige, dass dies notwendig sei (in milder Form, durch Geldstrafen oder Auflagen), um grösseren Schaden zu verhindern. Falls dies geschieht, muss es sorgfältig angegangen werden, mit klaren rechtlichen Standards und möglicherweise einer schrittweisen Umsetzung, die es Organisationen ermöglicht, ein Mindestmass an Bereitschaft zu erreichen. Das internationale Menschenrechtsrecht verbietet solche Massnahmen nicht, doch müssen Fairness und Verhältnismässigkeit die Durchsetzung leiten. Gerichte könnten schliesslich dazu aufgefordert werden, Fälle zu prüfen, in denen beispielsweise ein Unternehmen trotz eines Verbots Lösegeld gezahlt hat, um Leben zu retten – man hofft, dass Gesetze mit genügend Flexibilität formuliert werden, um wirklich mildernde Umstände zu berücksichtigen, damit gerechte Ergebnisse vorherrschen.

Mit Blick auf die Zukunft ist die Aussicht auf einen internationalen Vertrag oder einen formellen Rahmen speziell für Ransomware nicht mehr weit hergeholt. Ob durch ein Zusatzprotokoll, eine UN-Resolution oder ein eigenständiges Abkommen – die Elemente zeichnen sich ab: die universelle Kriminalisierung von Ransomware-Straftaten; die Verpflichtung, keine Lösegeldzahlungen zu leisten oder zu erleichtern; die Pflicht zum Austausch von Informationen über Vorfälle; die gemeinsame Zerschlagung der Ransomware-Infrastruktur; und die Unterstützung der Opfer. Die von uns analysierten Vor- und Nachteile deuten darauf hin, dass zwar ein universelles Zahlungsverbot das Endziel sein mag, jedoch Zwischenschritte erforderlich sind – im Wesentlichen eine globale „Roadmap“, um dorthin zu gelangen, wie von Experten wie Walden und Stifel erwähnt. Das bedeutet, Widerstandsfähigkeit und Alternativen aufzubauen, damit wir, wenn den Kriminellen die Einnahmequelle abgeschnitten wird, uns nicht versehentlich selbst stärker bestrafen als den Feind. Zusammenfassend lässt sich sagen, dass sich die internationalen rechtlichen Reaktionen auf Ransomware sichtbar auf eine härtere Linie zubewegen: Die Einschränkung oder sogar das Verbot von Lösegeldzahlungen steht in zahlreichen Rechtsordnungen und Foren auf der politischen Agenda. Dies stellt eine mutige Entwicklung im Cybersicherheitsrecht dar – weg von rein defensiven oder reaktiven Haltungen hin zu einer offensiven Strategie, Angreifern ihre Gewinne zu entziehen. Auch wenn noch erhebliche Hürden bestehen, ist der Kurs auf eine stärkere internationale Koordination festgelegt. Wenn die Staaten ihre Gesetze aufeinander abstimmen und uneingeschränkt zusammenarbeiten, könnte die Blütezeit der Ransomware schliesslich abklingen, ähnlich wie andere Formen der organisierten Kriminalität eingedämmt wurden, als die Welt gemeinsam handelte. Die Ransomware-Epidemie wird nicht über Nacht geheilt werden, aber durch stetigen rechtlichen Druck – Verbote, Transparenz und globale Zusammenarbeit – können wir vielleicht endlich sagen, dass die Zahlung von Lösegeld nicht nur nicht ratsam ist, sondern ein Relikt einer weniger sicheren Vergangenheit.

Zur einfacheren Lesbarkeit wurden die Literatur- und Quellverweise entfernt.

Übersetzung Boris Wanzeck, Swiss Infosec AG

Teichmann, F. in International legal responses to ransomware: toward a ban on payments?

Int. Cybersecur. Law Rev. 7, 41–68 (2026)

https://doi.org/10.1365/s43439-025-00167-z

http://creativecommons.org/licenses/by/4.0/

Cyber- und IT-Sicherheits-Beratung: Praxisnah, rechtskonform und auf Ihre Unternehmens-Risiken abgestimmt.

Unsere Cyber- und IT Security-Spezialisten und Penetration Tester unterstützen Sie mit einem breiten Portfolio an Beratungsdienstleistungen und Trainings zum Thema Cyber- und IT-Sicherheit.

Kontaktieren Sie uns und erfahren Sie in einem unverbindlichen Beratungsgespräch, was unsere Spezialistinnen und Spezialisten für Sie tun können: +41 41 984 12 12, infosec@infosec.ch

Beratung Cyber- und IT-Sicherheit

Kategorie: Cybersecurity | IT-Sicherheit

Beitrag teilen:

Risiko, Angemessenheit und Restschaden nach dem EU-KI-Gesetz

Ein konzeptioneller Rahmen für verhältnismässige Ex-ante-Kontrollen

04/2026

I. Einleitung

Das Gesetz der Europäischen Union über künstliche Intelligenz (KI) (Verordnung (EU) 2024/1689) verkörpert einen risikobasierten Ansatz für die KI-Governance und stellt weltweit den ersten umfassenden Versuch dar, Ex-ante-Kontrollen einzuführen, die auf die Risikostufen von KI zugeschnitten sind. Nach diesem Ansatz, der von der Europäischen Kommission als „Pyramide der Kritikalität“ bezeichnet wird, werden KI-Systeme in vier Stufen eingeteilt: minimales Risiko, begrenztes Risiko, hohes Risiko und inakzeptables Risiko. Jede Stufe ist mit einem angemessenen Mass an regulatorischen Anforderungen verbunden, die von im Wesentlichen keinen Verpflichtungen für Anwendungen mit minimalem Risiko bis hin zu vollständigen Verboten für Systeme reichen, von denen angenommen wird, dass sie „inakzeptable“ Risiken für die Sicherheit oder grundlegende Werte darstellen. Dieses Modell zielt darauf ab, das Vorsorgeprinzip (Verhinderung schwerwiegender oder irreparabler Schäden unter Unsicherheit) mit innovationsfreundlicher Verhältnismässigkeit (Vermeidung unangemessener Belastungen für KI mit geringem Risiko) in Einklang zu bringen. Das Ergebnis ist ein heikler rechtlicher Balanceakt, der einen klaren konzeptionellen Rahmen erfordert, um die Auslegung und Umsetzung zu leiten.

These und Beitrag: Dieser Artikel argumentiert, dass die risikobasierte Logik des KI-Gesetzes durch die Einbeziehung von Konzepten aus der Risikoregulierungstheorie (insbesondere Angemessenheit und Restrisiko) in die rechtliche Analyse verdeutlicht werden kann. Wir schlagen einen Rahmen vor, der die Kernbegriffe des Gesetzes – „vernünftigerweise vorhersehbarer Missbrauch“, „Stand der Technik“ und „akzeptables Restrisiko“ – mit den etablierten Prinzipien der Vorsorge, der Verhältnismässigkeit und dem ALARP-Ansatz („so niedrig wie vernünftigerweise praktikabel“) in der Sicherheitsregulierung verknüpft. Wir verdeutlichen damit, wie Ex-ante-Verpflichtungen auf die Schwere und Unsicherheit von KI-Risiken abgestimmt werden sollten. Der Beitrag des Artikels ist dreigeteilt: (1) Abgleich der abgestuften Risikotaxonomie des KI-Gesetzes mit den zugrunde liegenden Regulierungsgrundsätzen und ethischen Prinzipien (einschliesslich des Schutzes der Grundrechte als Risikokennzahl); (2) die Formulierung „konzeptioneller Prüfkriterien“ dafür, was unter den Anforderungen des Gesetzes eine angemessene und dem Stand der Technik entsprechende Risikominderung darstellt; und (3) die Bereitstellung von Kriterien zur Anpassung zentraler Kontrollmassnahmen (Daten-Governance, Transparenz, menschliche Aufsicht, technische Robustheit und Cybersicherheit) im Verhältnis zu verschiedenen Risikoszenarien.

Wir verfolgen einen dogmatischen und analytischen Ansatz, der auf EU-Recht und der wissenschaftlichen Literatur zur Risikoregulierung basiert. Um die Relevanz für die in Kraft getretenen Bestimmungen sicherzustellen, konzentriert sich die Analyse auf den endgültigen Text des 2024 verabschiedeten KI-Gesetzes und nicht auf frühere Entwürfe. Wir beziehen zudem eine vergleichende Perspektive ein, indem wir den Ansatz der EU mit neuen Rahmenwerken in den Vereinigten Staaten und der OECD vergleichen. Während die EU beispielsweise explizite Risikostufen und verbindliche Pflichten vorschreibt, hat sich die USA bislang für freiwillige Leitlinien wie das AI Risk Management Framework des NIST entschieden, und die OECD hat eher Klassifizierungsinstrumente und -grundsätze als durchsetzbare Vorschriften entwickelt. Diese Vergleiche helfen dabei, die Besonderheiten des EU-Modells aufzuzeigen (wie beispielsweise die Betonung von Risiken für die Grundrechte und die Anwendung der Konformitätsvermutung durch Normen). Schliesslich werden in der Diskussion spezifische Anwendungsfälle mit hohem Risiko hervorgehoben – insbesondere die biometrische Identifizierung und KI in kritischen Infrastrukturen –, um zu veranschaulichen, wie sich die abstrakten Grundsätze in konkreten Sektoren auswirken. Die biometrische Fernidentifizierung wird beispielsweise im EU-Recht so streng behandelt, dass sie die Grenze zwischen risikoreicher und verbotener Nutzung überschreitet und strenge Kontrollen oder Verbote auslöst. Gleichzeitig werden KI-Anwendungen in Energienetzen und der Verkehrsinfrastruktur aufgrund ihres Potenzials für „schwerwiegende Störungen kritischer Infrastrukturen“ mit Auswirkungen auf die Lebenssicherheit als risikoreich eingestuft, was eine strenge Aufsicht und Cybersicherheitsmassnahmen rechtfertigt.

Aufbau: Der Artikel ist wie folgt gegliedert. Der folgende Abschnitt beleuchtet die Konzeptualisierung und Operationalisierung des Begriffs „Risiko“ im KI-Gesetz und verknüpft ihn mit den EU-Grundsätzen der Vorsorge, der „ “ und der Verhältnismässigkeit sowie dem ALARP-Konzept aus der Sicherheitsregulierung. Anschliessend untersuchen wir die normativen Massstäbe des Gesetzes: wie man bestimmt, welche Kontrollen „angemessen“ und dem „Stand der Technik“ entsprechend sind, und wie mit dem Begriff des Restrisikos umgegangen wird. Anschliessend erörtern wir die Rolle harmonisierter europäischer Normen und der Konformitätsvermutung bei der Bereitstellung praktischer Massstäbe für die Einhaltung der Vorschriften – im Wesentlichen, wie Normen den Stand der Technik in anerkannte Praxis umsetzen. Danach untersuchen wir die Schnittstelle zwischen KI-Regulierung und Cybersicherheitsrecht (insbesondere der NIS2-Richtlinie und der DORA-Verordnung) und argumentieren, dass Cybersicherheitsbedrohungen als Risikomultiplikatoren für KI-Systeme wirken und dass ein koordinierter Regulierungsansatz erforderlich ist. Im vorletzten Abschnitt skizzieren wir die politischen Implikationen, einschliesslich der Notwendigkeit künftiger Leitlinien (z. B. der Leitlinien der Kommission von 2026 zu risikoreichen Anwendungsfällen) und des strategischen Einsatzes delegierter Rechtsakte, um den Risikorahmen im Laufe der Zeit zu verfeinern. Die Schlussfolgerung fasst zusammen, wie das risikobasierte KI-Regime der EU eine verhältnismässige und zugleich vorsorgliche Aufsicht erreichen kann – indem es dafür sorgt, dass KI-Innovationen „weltweit Vertrauen geniessen“ und gleichzeitig „so sicher wie vernünftigerweise praktikabel“ sind.

II. Die Einordnung von „Risiko“ im KI-Gesetz – von Vorsorge bis Verhältnismässigkeit (und ALARP)

Risikostufen und die Vorsorge-Logik: Der KI-Gesetzentwurf verfolgt bei der Regulierung ausdrücklich einen „klar definierten risikobasierten Ansatz“. Dieser Ansatz ist in einer vierstufigen Hierarchie von KI-Systemen kodifiziert: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales (oder geringes) Risiko. Jede Kategorie löst eine andere regulatorische Behandlung aus:

Als KI mit inakzeptablem Risiko gelten Systeme, deren Einsatz aufgrund ihrer inakzeptablen Gefahren für die Sicherheit oder die Grundwerte gänzlich untersagt ist (Artikel 5). Dazu gehören KI-Systeme, die unterschwellige Techniken einsetzen, um das Verhalten wesentlich zu verzerren und Schaden anzurichten, die Schwachstellen schutzbedürftiger Gruppen ausnutzen, von Regierungen durchgeführte soziale Bewertungen umsetzen, bestimmte Arten der prädiktiven Polizeiarbeit, das wahllose Auslesen von Gesichtserkennungsdatenbanken, die Emotionserkennung in sensiblen Kontexten sowie (mit wenigen Ausnahmen) die biometrische Fernidentifizierung in Echtzeit in der Öffentlichkeit durch Strafverfolgungsbehörden. Die EU stellte fest, dass diese Verwendungszwecke gegen Grundwerte (d. h. Menschenwürde, Privatsphäre und Nichtdiskriminierung) verstossen und Schäden verursachen, die „nicht toleriert werden können“ – im Wesentlichen eine de facto Anwendung des Vorsorgeprinzips. Nach diesem Prinzip sollte eine Handlung vermieden werden, wenn sie der Öffentlichkeit schweren Schaden zufügen kann und wissenschaftliche Gewissheit fehlt. Das Verbot von Systemen wie dem Social-Credit-Scoring und der wahllosen biometrischen Überwachung spiegelt eine vorsorgliche Haltung wider: Das Potenzial für schwerwiegenden gesellschaftlichen Schaden oder Rechtsverletzungen wird als so hoch eingeschätzt, dass das Gesetz die Praxis verbietet, bevor ein solcher Schaden eintritt. Bemerkenswert ist, dass selbst die Ausnahmen für die biometrische Fernidentifizierung (beschränkt auf schwere Straftaten, Terrorismusgefahren oder die Suche nach vermissten Personen) streng an Notwendigkeits- und Verhältnismässigkeitsprüfungen gebunden sind, was den vorsichtigen Ansatz der EU widerspiegelt. Tatsächlich entspricht die oberste Stufe des KI-Gesetzes einer rechtlichen Formulierung der obersten Zone von ALARP: Risiken, die unerträglich sind und ausgeschlossen werden müssen, da keine vernünftige Risikominderung sie auf ein akzeptables Niveau senken könnte.
Hochrisikobehaftete KI bezieht sich auf Systeme, die auf dem Markt zugelassen sind, aber umfangreichen Ex-ante-Anforderungen und einer Aufsicht unterliegen. Artikel 6 und Anhang III definieren, welche KI-Anwendungen als hochrisikobehaftet gelten, wobei im Allgemeinen solche erfasst werden, die in bestimmten Bereichen eine erhebliche Gefahr für Gesundheit, Sicherheit oder Grundrechte darstellen. Zu den risikoreichen Kategorien gehören (unter anderem) KI, die in Sicherheitskomponenten von Produkten (wie Medizinprodukten oder Maschinensteuerungssystemen), im Management kritischer Infrastrukturen (Energie, Verkehr und Wasserversorgung), in der allgemeinen oder beruflichen Bildung (z. B. zur Benotung von Prüfungen), in der Beschäftigung und im Personalmanagement (z. B. Algorithmen zur Sichtung von Lebensläufen), in wesentlichen privaten oder öffentlichen Dienstleistungen (Bonitätsprüfung, Anspruch auf Sozialleistungen), in der Strafverfolgung (z. B. forensische KI, bestimmte Arten der daten n Analyse für die Polizeiarbeit), in der Migrations- und Asylkontrolle (z. B. Risikobewertungstools) und in der Rechtspflege (KI-Unterstützung bei gerichtlichen Entscheidungen) sowie bestimmte besonders sensible biometrische Systeme wie Fingerabdruck- oder Gesichtserkennung (nicht in Echtzeit). Diese Systeme bergen das Risiko, „erhebliche schädliche Auswirkungen“ zu verursachen, wenn sie fehlerhaft funktionieren oder missbraucht werden; im Gegensatz zu den verbotenen Verwendungszwecken wird jedoch davon ausgegangen, dass ihre Vorteile die Risiken überwiegen, sofern angemessene Kontrollen vorhanden sind. Die regulatorische Logik besteht hier eher in einer verhältnismässigen Risikominderung als in einem Verbot. Das Gesetz schreibt eine Reihe von Massnahmen zum Risikomanagement, zur Dokumentation und zur Qualitätssicherung vor (ausführlich in Kapitel III, Abschnitt 2), um sicherzustellen, dass risikoreiche KI-Systeme „keine inakzeptablen Risiken darstellen“. Dies entspricht dem mittleren Bereich des ALARP-Modells – Risiken, die nur dann tolerierbar sind, wenn sie so weit gemindert werden, dass sie so gering wie vernünftigerweise praktikabel sind. Tatsächlich verpflichtet Artikel 9 Absatz 5 die Anbieter, das Restrisiko durch Konzeption oder Sicherheitsvorkehrungen auf ein akzeptables Mass zu reduzieren. Wenn das Risiko eines risikoreichen Systems selbst unter Einsatz modernster Massnahmen nicht auf ein akzeptables Restrisiko gemindert werden kann, sollte es nicht eingesetzt werden. Somit operationalisiert die Risikostufe „hoch“ das ALARP-Prinzip: Hersteller müssen Risiken beseitigen oder minimieren, bis eine weitere Risikominderung in keinem Verhältnis zum Nutzen stünde. Bemerkenswert ist, dass das Gesetz nicht garantiert, dass die Einhaltung der Vorschriften gleichbedeutend mit Nullrisiko ist; stattdessen zielt es darauf ab, dass Risiken „minimiert und akzeptabel“ sind – ein pragmatischer Standard, der anerkennt, dass ein gewisses Restrisiko verbleibt, das Regulierungsbehörden und die Gesellschaft angesichts des Nutzens des Systems als tolerierbar erachten.
KI mit begrenztem Risiko bezieht sich auf Systeme, die kein hohes Risiko darstellen, aber dennoch gewisse Transparenzpflichten erfordern. Das Gesetz schreibt in solchen Fällen mehrere Anforderungen vor (Artikel 52). Beispielsweise müssen KI-Systeme, die mit Menschen interagieren (wie Chatbots oder virtuelle Assistenten), offenlegen, dass der Nutzer mit einer Maschine kommuniziert, „es sei denn, dies geht aus dem Kontext hervor“. Ebenso müssen KI-generierte Deepfake-Inhalte vom Urheber als solche gekennzeichnet werden, um Täuschung zu verhindern (mit Ausnahmen für autorisierte Forschungs-, Kunst- oder Sicherheitszwecke). Bestimmte Systeme zur Emotionserkennung oder biometrischen Kategorisierung (sofern sie nicht gänzlich verboten sind) unterliegen ebenfalls Transparenzpflichten, um betroffene Personen zu informieren. Diese Massnahmen für Systeme mit begrenztem Risiko spiegeln Verhältnismässigkeit im wahrsten Sinne des Wortes wider: geringere Vorschriften für geringere Risiken. Sie spiegeln den Grundsatz der Risikosteuerung wider, dass regulatorische Eingriffe dem Risikoniveau angemessen sein sollten. Anstatt die gesamte KI mit strengen Compliance-Anforderungen zu belasten, verlangt das Gesetz von Systemen mit begrenztem Risiko lediglich die Umsetzung einfacher, angemessener Vorsichtsmassnahmen, wie beispielsweise die Information der Nutzer – eine Reaktion, die auf die geringere Wahrscheinlichkeit oder Auswirkung eines Schadens abgestimmt ist. Im ALARP-Verständnis würden diese in den Bereich der allgemein akzeptablen oder risikoarmen Anwendungen fallen, in dem nur minimale (wenn überhaupt) Aufsicht erforderlich ist. Die Verfasser des Gesetzes haben es bewusst vermieden, die Verpflichtungen für Systeme mit hohem Risiko auf diese Anwendungsbereiche auszuweiten, um „Innovationen nicht übermässig zu behindern“. Stattdessen geht eine zurückhaltende Transparenzregel auf spezifische Bedenken ein (wie die Menschenwürde oder die Autonomie in Mensch-KI-Interaktionen), ohne zu implizieren, dass die Systeme erhebliche Gefahren bergen.
KI mit minimalem Risiko umfasst alle anderen KI-Systeme, die nicht unter die oben genannten Kategorien fallen. Dies ist im Wesentlichen eine offene Kategorie, die die überwiegende Mehrheit der KI-Anwendungen umfasst (z. B. KI in Videospielen, Unterhaltung, den meisten Geschäftsanalysen, Spam-Filtern usw.), von denen angenommen wird, dass sie nur vernachlässigbare oder routinemässige Risiken darstellen. Für solche Systeme gelten keine verbindlichen Anforderungen gemäss dem KI-Gesetz (abgesehen von bestehenden Gesetzen). Die Kommission stellte ausdrücklich fest, dass die meisten KI-Systeme „ein minimales oder gar kein Risiko darstellen“ und daher nicht unter das Gesetz fallen. Dieser weit gefasste Schutzbereich ist entscheidend für Verhältnismässigkeit und Durchführbarkeit: Die Regulierungsbehörden beabsichtigten nicht, risikoarme KI im Detail zu regulieren, um sowohl Ressourcen für die Durchsetzung zu sparen als auch unnötige Einschränkungen für Innovationen zu vermeiden. Das KI-Gesetz fördert zwar freiwillige Verhaltenskodizes für Anbieter von KI ohne hohes Risiko (zur Förderung vertrauenswürdiger KI-Prinzipien), diese sind jedoch nicht bindend. In der Risikotheorie befinden sich Anwendungen mit minimalem Risiko in der allgemein akzeptablen Zone, in der die Regulierungskosten den Nutzen bei weitem übersteigen würden; daher ist es der rationale Ansatz, sie unangetastet zu lassen. Dies steht im Einklang mit Cass Sunsteins Ansicht, dass Regulierungsbehörden bei trivialen Risiken „nicht zu tief ansetzen“ sollten, indem sie strenge Vorschriften erlassen, sondern ihre Anstrengungen vielmehr dort konzentrieren sollten, wo sie am wichtigsten sind. Es steht auch im Einklang mit Blacks und Baldwins Prinzip der „responsiven Regulierung“ – das heisst, die regulatorische Aufmerksamkeit proportional zum Risiko auszurichten und die Strenge nach Bedarf anzupassen.

Wenn man die Bestimmungen des KI-Gesetzes dieser Risikohierarchie zuordnet, wird deutlich, wie Vorsorgeprinzip und Verhältnismässigkeit gemeinsam dessen Gestaltung prägen. Einerseits zeugt das Vorhandensein von vollständigen Verboten (inakzeptable KI) von der Bereitschaft, angesichts ungewisser, aber äusserst problematischer KI-Bedrohungen Vorsorgemassnahmen zu ergreifen – eine Haltung, die mit der Regulierungstradition der EU in den Bereichen Gesundheit und Umwelt im Einklang steht. Andererseits spiegeln die abgestuften Verpflichtungen für KI mit hohem, begrenztem und minimalem Risiko einen differenzierten, verhältnismässigen Ansatz wider, der ein Einheitsregime vermeidet. Das Gesetz versucht somit, das zu verkörpern, was Risikowissenschaftler als „intelligente Regulierung“ bezeichnen: strenge Massnahmen, die auf die höchsten Risiken abzielen, und flexible oder gar keine Massnahmen für geringere Risiken. Dieser Ansatz soll der Vorgabe der EU-Verträge gerecht werden, dass Rechtsvorschriften den Grundsatz der Verhältnismässigkeit wahren müssen (d. h. nicht über das zur Erreichung der Ziele erforderliche Mass hinausgehen dürfen). Tatsächlich bekräftigt Erwägungsgrund 14 des Gesetzes, dass die Verordnung angesichts ihrer Ziele „nicht über das erforderliche Mass hinausgeht“, und Erwägungsgrund 18 unterstreicht die Angleichung der Vorschriften an internationale Bemühungen bei gleichzeitiger Wahrung der Flexibilität für rasche technologische Entwicklungen.

Risiko, Rechte und verbleibender Schaden: Es ist wichtig zu erkennen, dass sich der Begriff „Risiko“ im KI-Gesetz nicht ausschliesslich auf statistische oder sicherheitstechnische Belange bezieht; er ist untrennbar mit Grundrechten und ethischen Werten verbunden. Dies erweitert den traditionellen Anwendungsbereich der Risikoregulierung. Im Gegensatz beispielsweise zum Chemikalienrecht, das Risiko als Wahrscheinlichkeit eines körperlichen Schadens quantifiziert, behandelt das KI-Gesetz immaterielle Schäden – wie die Aushöhlung der Privatsphäre, Diskriminierung oder den Verlust von Autonomie – als regulierungsbedürftige Risiken. Wissenschaftler haben festgestellt, dass die Risiken der KI oft „grundlegende gesellschaftliche Werte“ bedrohen und schwer zu quantifizieren sind. Das Gesetz trägt dem Rechnung, indem es Risiken für Grundrechte ausdrücklich in die Definition von hohem Risiko und in die vorgeschriebene Risikobewertung einbezieht (Anbieter müssen gemäss Artikel 9 Absatz 2 Risiken für Rechte wie Nichtdiskriminierung und Privatsphäre usw. bewerten). Dies führt zu normativer Unklarheit bei Risikoabwägungen. Wie viel Voreingenommenheit oder Eingriff in die Privatsphäre ist ein „akzeptables“ Restrisiko? Das Gesetz sieht keine numerischen Schwellenwerte für solche Schäden vor, sondern stützt sich stattdessen auf allgemeine Grundsätze (z. B. die Beseitigung unrechtmässiger Voreingenommenheit) und auf den „Stand der Technik“ bei der Risikominderung (siehe den folgenden Abschnitt). Es überträgt bestimmte normative Entscheidungen verschiedenen Akteuren: Entwickler müssen Designentscheidungen treffen, um Wertschäden zu minimieren; Normungsgremien und Regulierungsbehörden werden im Laufe der Zeit Messgrössen und akzeptable Werte konkretisieren. Diese Dynamik wird als zentrale Herausforderung anerkannt – die Abwägung der Vorteile der KI gegen die mit den Rechten verbundenen Risiken erfordert politisches und ethisches Urteilsvermögen, nicht nur technische Risikoanalysen. Die Lösung des Gesetzes besteht darin, Grundrechtserwägungen in den Risikomanagementrahmen einzubetten (Risiken für Rechte werden gleichberechtigt mit Sicherheitsrisiken behandelt) und externe Bezugspunkte (wie die EU-Charta der Grundrechte und die Rechtsprechung) heranzuziehen, um zu bestimmen, was angemessen ist. Wenn beispielsweise die verbleibende Voreingenommenheit eines KI-Systems zu systematischer Diskriminierung führt, würde dies wahrscheinlich als inakzeptables Restrisiko angesehen werden, da es im Widerspruch zu den Rechten auf Nichtdiskriminierung steht. Das Konzept des nach der Risikominderung verbleibenden Schadens wird daher nicht nur quantitativ bewertet, sondern auch anhand qualitativer rechtlicher Standards (z. B.: Ist die verbleibende Voreingenommenheit rechtswidrig oder erheblich genug, um geschützte Gruppen zu schädigen? Die Anforderung des Gesetzes, dass das Restrisiko als „akzeptabel“ eingestuft werden muss (Artikel 9 Absatz 5), impliziert die Erwartung einer begründeten Rechtfertigung: Anbieter sollten in der Lage sein zu erklären, warum verbleibende Risiken geringfügig sind oder durch „ “ Schutzmassnahmen und Vorteile aufgewogen werden, im Einklang mit gesellschaftlichen Erwartungen und dem „ALARP“-Prinzip in der Sicherheitstechnik – d. h., dass eine weitere Risikominderung Massnahmen erfordern würde, die in keinem Verhältnis zu der zusätzlichen Risikominderung stünden.

Zusammenfassend lässt sich sagen, dass die Einstufung von KI-Systemen in Risikostufen im KI-Gesetz das Vorsorgeprinzip (für wirklich inakzeptable KI-Praktiken) mit einer verhältnismässigen, risikobasierten Zuweisung von Compliance-Pflichten (für das Spektrum von hohem bis minimalem Risiko) verbindet. Er strebt ein „so gering wie vernünftigerweise praktikabel“ (ALARP) Niveau des Restrisikos für risikoreiche KI an und verpflichtet Anbieter ausdrücklich, Risiken „soweit technisch machbar“ zu beseitigen oder zu mindern und anschliessend Kontrollen oder Warnhinweise für Risiken einzuführen, die sich nicht durch die Konstruktion ausschliessen lassen. Diese Hierarchie und Methodik steht in starkem Einklang mit klassischen Rahmenwerken der Risikoregulierung, wie sie beispielsweise im EU-Produktsicherheitsrecht zu finden sind. In diesem Zusammenhang werden gefährliche Produkte verboten oder streng reguliert, während Produkte mit geringem Risiko weitgehend dem Markt überlassen bleiben. Neu ist hier jedoch die Ausweitung dieser Logik auf die ethischen und sozialen Risiken von KI und die Einbettung von Angemessenheit (was vorhersehbar ist, was dem Stand der Technik entspricht und was akzeptabel ist) als Leitstandards. In den folgenden Abschnitten werden diese Konzepte der Angemessenheit näher beleuchtet und untersucht, wie Regulierungsbehörden und Unternehmen bestimmen, welche Massnahmen nach dem Gesetz angemessen und ausreichend sind.

III. Konzeptionelle Prüfungen für „angemessene“ Kontrollen und den „Stand der Technik“ – Gestaltung von Verpflichtungen und Restrisiko

Eine zentrale Herausforderung bei der Umsetzung der Anforderungen des KI-Gesetzes besteht darin, die offen formulierten Begriffe zu verstehen, die die Qualität und den Umfang der erforderlichen Massnahmen beschreiben. In den Verpflichtungen für risikoreiche KI verwendet das Gesetz Formulierungen wie „angemessene … Massnahmen“, „Stand der Technik“ und „vernünftigerweise vorhersehbarer Missbrauch“, was Ermessensentscheidungen darüber erfordert, welches Restrisiko „akzeptabel“ ist. Diese dienen als konzeptionelle Angemessenheitstests – im Wesentlichen als Kriterien, die den strengen Wortlaut des Gesetzes an die sich entwickelnde Technologie und den Kontext binden. In diesem Abschnitt werden diese Konzepte näher erläutert:

Der Begriff „vernünftigerweise vorhersehbarer Missbrauch“ erweitert den Umfang der Risikovorhersage: Anbieter von KI-Systemen mit hohem Risiko sind verpflichtet, nicht nur den bestimmungsgemässen Gebrauch des KI-Systems zu berücksichtigen, sondern auch dessen Missbrauch, sofern ein solcher Missbrauch vernünftigerweise vorhersehbar ist (Artikel 9 Absatz 2 Buchstabe b). Das Gesetz definiert „vernünftigerweise vorhersehbaren Missbrauch“ als die Nutzung eines KI-Systems „in einer Weise, die nicht seinem vorgesehenen Zweck entspricht, die sich jedoch aus vernünftigerweise vorhersehbarem menschlichem Verhalten oder der Interaktion mit anderen Systemen ergeben kann“. Einfach ausgedrückt müssen Entwickler sich fragen: Wie könnte diese KI in der Praxis angesichts typischer Nutzergewohnheiten oder der Integration in andere Tools fälschlicherweise oder missbräuchlich verwendet werden? Dieses Konzept stammt aus dem Produktsicherheitsrecht (z. B. verlangen Maschinenrichtlinien seit langem, dass vom Hersteller vorhersehbarer Missbrauch berücksichtigt wird). Es schliesst die Lücke, durch die ein Anbieter behaupten könnte, ein System sei sicher, „wenn es genau nach Anleitung verwendet wird“, während Nutzer in der Praxis vorhersehbar anders handeln könnten. Nach dem KI-Gesetz müssen Anbieter von KI-Systemen mit hohem Risiko (z. B. einer KI-gestützten medizinischen Diagnosehilfe) beispielsweise vorhersehen, dass ein vielbeschäftigter Arzt sich zu sehr auf die Vorschläge der KI verlassen könnte (eine Form des Missbrauchs durch Automatisierungsvoreingenommenheit) oder dass ein Anwender die KI bei einer Patientengruppe einsetzen könnte, die ausserhalb des vorgesehenen Anwendungsbereichs liegt. Sind solche Szenarien vernünftigerweise vorhersehbar, sollte der Anbieter ihnen durch konstruktive Sicherheitsvorkehrungen, Nutzungsbeschränkungen oder zumindest durch Warnhinweise in der Gebrauchsanweisung begegnen. Tatsächlich verlangt Artikel 13 Absatz 3, dass die Gebrauchsanweisung nicht nur Angaben zum Verwendungszweck und zur Leistungsfähigkeit enthält, sondern auch „alle bekannten oder vorhersehbaren Umstände … eines vernünftigerweise vorhersehbaren Missbrauchs, der zu Risiken führen kann“, damit die Anwender auf diese potenziellen Gefahren hingewiesen werden. Massnahmen zur menschlichen Überwachung müssen ebenfalls darauf abzielen, „die Risiken […] zu verhindern oder zu minimieren, wenn [die KI] […] unter Bedingungen eines vernünftigerweise vorhersehbaren Missbrauchs verwendet wird, insbesondere wenn solche Risiken trotz anderer Anforderungen bestehen bleiben“ (Artikel 14 Absatz 2). Dies gewährleistet ein mehrschichtiges Sicherheitsnetz: Selbst wenn alle konstruktiven Massnahmen in Kraft sind ( ), sollte es eine Aufsicht oder einen Ausweichmechanismus geben, um Schäden zu mindern, falls ein Missbrauch dennoch Schaden verursachen könnte (z. B. wenn ein Bediener eine Sicherheitswarnung ignoriert).

Bei der Prüfung der Vorhersehbarkeit geht es im Wesentlichen um Angemessenheit und Wissen. Es wird gefragt, was ein vernünftiger Anbieter, der über aktuelle Erkenntnisse zum menschlichen Verhalten und zum Einsatzkontext verfügt, vorhersagen sollte. Damit liegt die Verantwortung bei den KI-Entwicklern, die Nutzerumgebung und wahrscheinliche Fehlermodi zu erforschen und zu verstehen. Wenn beispielsweise ein KI-System in einer kritischen Infrastruktur eingesetzt wird, ist es vernünftigerweise vorhersehbar, dass menschliche Bediener es unter Druck missbrauchen könnten oder dass böswillige Akteure versuchen könnten, es zu manipulieren; daher sollte der Anbieter diese Risiken antizipieren und vorbeugende Funktionen einbauen (oder diese zumindest offenlegen). Indem das Gesetz die Verpflichtungen an das „vernünftigerweise Vorhersehbare“ knüpft, orientiert es sich am Konzept des Verschuldens im Deliktsrecht, wo die Vorhersehbarkeit eines Schadens ein entscheidender Faktor für die Feststellung von Fahrlässigkeit ist. Das Regime des KI-Gesetzes ist jedoch ex ante und wartet nicht darauf, dass ein Schaden eintritt und gerichtlich geklärt wird; es verlangt vom Hersteller proaktiv, wie ein „vernünftiger Risikomanager“ zu denken. Dieser Aspekt könnte als Einbeziehung eines Fahrlässigkeitsstandards in die Einhaltung von Vorschriften angesehen werden: Das Versäumnis, ein vorhersehbares Missbrauchsrisiko anzugehen, könnte das KI-System nicht konform machen (und möglicherweise nach Produkthaftungsvorschriften als fehlerhaft gelten).

Insbesondere stellt das Gesetz in Erwägungsgrund 65 klar, dass die Ermittlung von Massnahmen zur Risikominderung für vorhersehbaren Missbrauch „keine spezifische zusätzliche Schulung der KI durch den Anbieter erfordern sollte“, obwohl die Anbieter dazu ermutigt werden, dies in Betracht zu ziehen. Mit anderen Worten: Ein Anbieter ist nicht streng verpflichtet, ein KI-Modell neu zu trainieren, um jedes Missbrauchsszenario zu bewältigen (was eine endlose Aufgabe sein könnte), aber er sollte solche Szenarien dokumentieren und davor warnen. Die Abwägung ist hier pragmatisch: Es soll für Bewusstsein und gewisse Abhilfemassnahmen (wie Benutzerschulungen oder Eingabeprüfungen) gesorgt werden, ohne unmögliche Perfektion vorzuschreiben. Dennoch unterstreicht die Einbeziehung vorhersehbarer Missbräuche, dass das Restrisiko teilweise eine Funktion der Benutzerinteraktion ist. Das Gesetz verschiebt damit die Grenze der Herstellerverantwortung näher an den Benutzerbereich als bei vielen traditionellen Produkten, was die dynamische Natur der KI widerspiegelt und die Tatsache, dass die Interaktion zwischen Mensch und KI selbst neue Risiken schaffen kann (z. B. übermässiges Vertrauen in KI-Empfehlungen).

„Angemessene“ Massnahmen beziehen sich auf Verhältnismässigkeit und Kontextsensitivität: Der Begriff „angemessen“ taucht in den Anforderungsklauseln des KI-Gesetzes wiederholt auf – z. B. „am besten geeignete Massnahmen zur Risikominderung“, „angemessene Art und Grad der Transparenz“, „angemessene Mensch-Maschine-Schnittstelle“ für die Aufsicht und „technische Lösungen …, die den jeweiligen Umständen und Risiken angemessen sind“ für die Cybersicherheit. Diese Formulierung sorgt für Flexibilität und verlangt, dass die Massnahmen dem spezifischen Kontext und dem Risikograd des jeweiligen KI-Systems angemessen sind. Sie impliziert zudem intern eine Verhältnismässigkeitsprüfung: Was zur Bewältigung eines geringfügigen Risikos angemessen ist, könnte für ein grosses Risiko unzureichend sein. So heisst es beispielsweise in Artikel 14 Absatz 3 zur menschlichen Aufsicht, dass die Aufsichtsmassnahmen „den Risiken, dem Grad der Autonomie und dem Nutzungskontext angemessen“ sein müssen. Somit erfordert eine risikoreiche KI mit grösserer Autonomie oder grösseren Auswirkungen (etwa eine KI zur Triage von Notfallpatienten) strengere Überwachungsmechanismen (möglicherweise Möglichkeiten für menschliches Eingreifen in Echtzeit oder mehrfache menschliche Überprüfungen usw.), während eine risikoreiche KI mit geringeren Auswirkungen (etwa ein Tool zur Lebenslaufprüfung) eine einfachere Überwachung rechtfertigen könnte (regelmässige Audits, Übersteuerungsoption). Das Gesetz schreibt für bestimmte Anwendungsfälle ausdrücklich zusätzliche Überwachungsanforderungen vor: So müssen beispielsweise biometrische Identifizierungssysteme in der Strafverfolgung mindestens zwei menschliche Bediener haben, die eine Identifizierung überprüfen, bevor Massnahmen ergriffen werden, es sei denn, dies wird für bestimmte Sektoren gesetzlich als unverhältnismässig angesehen. Dies veranschaulicht die Abstimmung „angemessener“ Massnahmen auf die Schwere des Risikos.

Was als angemessen gilt, hängt auch vom sich weiterentwickelnden „Stand der Technik“ ab (ein Konzept, auf das wir im Folgenden eingehen). In Erwägungsgrund 64 heisst es, dass Massnahmen, die von Anbietern zur Erfüllung der Anforderungen ergriffen werden, „den allgemein anerkannten Stand der Technik berücksichtigen sollten … sowie „ “ verhältnismässig und wirksam sein sollten, um die Ziele“ des Gesetzes zu erreichen. Tatsächlich hat die Angemessenheit zwei Dimensionen: Wirksamkeit (minder das Risiko die Massnahme angesichts des aktuellen technischen Wissensstands?) und Verhältnismässigkeit (ist der Aufwand der Massnahme durch das Ausmass der erzielten Risikominderung gerechtfertigt?). Der ALARP-Grundsatz dient als Leitlinie: Eine Massnahme ist angemessen, sofern ihre Kosten oder Auswirkungen nicht in krassem Missverhältnis zu der erzielten Risikominderung stehen. Wenn beispielsweise eine geringfügige Softwareanpassung einen schwerwiegenden Ausfallmodus verhindern kann, ist es angemessen (und zu erwarten), diese umzusetzen; wenn jedoch die Behebung eines sehr geringen Risikos enorme Kosten erfordern oder die Nutzbarkeit des Systems grundlegend verändern würde, könnte dies über das „vernünftigerweise Durchführbare“ hinausgehen und somit nicht vorgeschrieben sein. Artikel 9 Absatz 4 fasst dieses Gleichgewicht zusammen und besagt, dass Massnahmen zur Risikominderung „ein angemessenes Gleichgewicht bei der Umsetzung der Massnahmen zur Erfüllung dieser Anforderungen erreichen“ sollten, wobei die kombinierten Auswirkungen gebührend zu berücksichtigen sind. Dies deutet darauf hin, dass die Minderung eines Risikos (z. B. Verzerrung) manchmal einen anderen Aspekt (z. B. Genauigkeit) beeinträchtigen kann; daher muss der Anbieter abwägen und eine optimale Lösung finden, die das Gesamtrisiko angemessen reduziert, ohne eine Dimension auf Kosten einer anderen überkorrigieren. Das Konzept des „angemessenen Gleichgewichts“ spiegelt erneut den Grundsatz der Angemessenheit wider und erfordert einen wohlüberlegten, begründeten Kompromiss statt mechanischer Einhaltung.

Rechtlich gesehen bedeutet die Verwendung eines Begriffs wie „angemessen“, dass Regulierungsbehörden und Gerichte die Einhaltung der Vorschriften kontextspezifisch bewerten werden. Sie werden wahrscheinlich fragen: Hat der Anbieter angesichts der Art dieses KI-Systems und der vorhersehbaren Risiken Massnahmen umgesetzt, die ein kompetenter Akteur in diesem Bereich als geeignet und ausreichend erachten würde? Dies erfordert Rückgriff auf Standards und bewährte Verfahren: Wenn (formelle oder de facto) Standards existieren, die angemessene Schutzmassnahmen beschreiben, würde deren Befolgung die Einhaltung der Vorschriften signalisieren. Umgekehrt könnten die Massnahmen eines Anbieters als unangemessen beurteilt werden, wenn er nur das absolute Minimum getan hat, während seine Mitbewerber in der Regel mehr tun, um die Sicherheit zu gewährleisten. Auch dieser Standard entwickelt sich weiter: Was heute angemessen ist, muss es in einigen Jahren, wenn die Technologie voranschreitet, nicht mehr sein. Dies steht in direktem Zusammenhang mit dem Stand der Technik.

„Stand der Technik“ stellt einen dynamischen Massstab für Sicherheit und Risikominderung dar: Der Stand der Technik ist ein entscheidender Bezugspunkt im KI-Gesetz. Er taucht an mehreren Stellen auf: Artikel 8 Absatz 1 besagt, dass risikoreiche KI Anforderungen erfüllen muss, „unter Berücksichtigung des allgemein anerkannten Stands der Technik bei KI und KI-bezogenen Technologien“; In den Erwägungsgründen 64 und 65 wird betont, dass Massnahmen und das Risikomanagement unter Berücksichtigung des Stands der Technik umgesetzt werden sollten; und selbst in der Definition der harmonisierten Normen wird darauf hingewiesen, dass diese den Stand der Technik widerspiegeln sollen. Der Stand der Technik bedeutet im Wesentlichen den aktuellen Stand der technologischen Entwicklung und des Wissens, der den Fachleuten vernünftigerweise zur Verfügung steht. Es handelt sich um ein etabliertes Konzept im Produktsicherheitsrecht (z. B. wird es in der EU-Maschinenrichtlinie verwendet) und in Normen. Der „Blue Guide“ der Kommission aus dem Jahr 2022 zur Produktregulierung stellt klar, dass Verweise auf den Stand der Technik dazu dienen, Flexibilität für den technischen Fortschritt zu schaffen. Mit anderen Worten: Das Gesetz legt die Anforderungen nicht auf eine feste technologische Lösung fest, sondern erwartet, dass sie sich mit der Verbesserung der Technologie weiterentwickeln.

In der Praxis bedeutet die Einhaltung des Stands der Technik für einen KI-Anbieter, aktuelle Methoden und Werkzeuge zur Risikominderung einzusetzen. Wenn sich sicherere Algorithmen, robuste Trainingstechniken oder verbesserte Testverfahren in der Branche etabliert haben, sollte ein Anbieter diese integrieren (oder einen zwingenden Grund dafür haben, warum er dies nicht tut). Wenn sich beispielsweise der Stand der Technik bei der Abwehr von Angriffen (um zu verhindern, dass eine KI durch böswillige Eingaben „ausgetrickst“ wird) weiterentwickelt, wird von künftigen KI-Systemen erwartet, dass sie diese verbesserten Abwehrmassnahmen enthalten. Dies schafft eine dynamische regulatorische Anforderung, die im Laufe der Zeit steigen kann. Es steht auch im Einklang mit dem Gedanken der kontinuierlichen Verbesserung. Wenn neue Bedrohungen auftauchen oder neue Lösungen erfunden werden, verschärft sich die Schwelle für das akzeptable „Restrisiko“ effektiv, da mehr getan werden kann, um das Risiko zu mindern. Tatsächlich sieht Erwägungsgrund 65 vor, dass das Risikomanagementsystem iterativ ist und regelmässig aktualisiert wird, um wirksam zu bleiben, und es wird ausdrücklich darauf hingewiesen ( ), dass Entscheidungen im Lichte des Stands der Technik begründet werden sollten. Wenn ein Anbieter eine offensichtliche Lösung nach dem Stand der Technik ignoriert und ein Problem auftritt, würde er wahrscheinlich als nicht konform eingestuft werden (und möglicherweise im Rahmen von Haftungsregelungen haftbar gemacht werden). Dies schafft Anreize für Innovationen im Bereich der Sicherheit: Unternehmen haben einen Grund, sich über die neuesten Forschungsergebnisse zu Sicherheit und Fairness von KI auf dem Laufenden zu halten, da der Regulierungsstandard nicht statisch ist.

Aus Sicht der Risikoregulierungstheorie ist der Verweis auf den Stand der Technik ein Weg, mit Unsicherheit und Wandel umzugehen – den Kennzeichen der KI-Technologie. Dies entspricht dem Ansatz der FDA bei Medizinprodukten, wonach Hersteller aktuelle technische Standards befolgen oder gleichwertige Sicherheit nachweisen müssen. Dadurch wird verhindert, dass die Regulierung entweder hinterherhinkt (durch die Festschreibung alter Standards) oder schnell veraltet. Dies bedeutet jedoch auch eine gewisse Unklarheit: Wer bestimmt, was der Stand der Technik ist? In der Praxis werden harmonisierte Normen eine bedeutende Rolle spielen (wir behandeln dies im folgenden Abschnitt). Normungsgremien (CEN/CENELEC, ISO/IEC usw.) bringen Experten zusammen, um den Stand der Technik in normativen Dokumenten festzuhalten. Die Einhaltung solcher Normen führt dann zu einer „Konformitätsvermutung“ – praktisch ein „Safe Harbor“, der zeigt, dass die Anforderungen des Stands der Technik erfüllt sind. In Ermangelung einer Norm könnten sich Anbieter auf den Konsens in der wissenschaftlichen Literatur oder auf Leitlinien von massgeblichen Stellen (wie die Ethikleitlinien oder technischen Benchmarks der hochrangigen Expertengruppe) stützen. Das KI-Gesetz ermöglicht es der Kommission zudem, gemeinsame Spezifikationen zu veröffentlichen, falls sich die Normen verzögern, wodurch der Stand der Technik auf ähnlich Weise, jedoch flexibler erfasst würde.

Eine Folge der „State-of-the-Art“-Klausel ist, dass das Restrisiko im Laufe der Zeit abnehmen muss. So kann es beispielsweise sein, dass der aktuelle Stand der Technik Verzerrungen in der KI nicht vollständig beseitigen kann; daher kann eine gewisse Verzerrung als Restrisiko tolerierbar sein, sofern der Anbieter alles technisch Machbare unternommen hat. Sollten jedoch in einigen Jahren neue Techniken aufkommen, die bestimmte Verzerrungen praktisch beseitigen, wäre das Fortbestehen dieser Verzerrung kein „akzeptables Restrisiko“ mehr, da der Stand der Technik Abhilfemassnahmen bietet. Dies knüpft an ALARP an: Da sich die Grenze des „vernünftigerweise Machbaren“ mit der Technologie verschiebt, verlangt das Gesetz eine stärkere Risikominderung. Andererseits schützt der Stand der Technik auch vor unrealistischen Anforderungen: Regulierungsbehörden sollten nichts erwarten, was (noch) nicht möglich ist. Die Anforderung an Robustheit und Genauigkeit in Artikel 15 wird durch „angemessene“ Niveaus gemildert, was nicht Perfektion bedeutet, sondern das bestmögliche derzeit Erreichbare. Artikel 15 Absatz 4 fordert die Entwicklung von Systemen, die nach der Markteinführung lernen, um das Risiko von Rückkopplungsschleifen, die zu einer Leistungsminderung führen, „so weit wie möglich zu beseitigen oder zu verringern“. „So weit wie möglich“ ist gleichbedeutend mit dem ALARP-Gebot, das Risiko so weit wie vernünftigerweise möglich zu reduzieren – im Wesentlichen eine andere Art, „im Rahmen der technischen Möglichkeiten“ zu sagen.

Zusammenfassend lässt sich sagen, dass der Stand der Technik als dynamischer Massstab für die Angemessenheit fungiert. Er stellt sicher, dass die Verpflichtung zu „angemessenen Massnahmen“ an dem ausgerichtet ist, was kompetente Fachkollegen derzeit tun würden (und nicht an etwas Veraltetem oder rein Theoretischem). Auf diese Weise bringt er Innovation und Sicherheit in Einklang: Er legt das Design nicht fest, sondern drängt die Branche dazu, die Messlatte gemeinsam höher zu legen. Rechtlich wird dies wahrscheinlich so ausgelegt, dass die Einhaltung der Vorschriften ein bewegliches Ziel ist – Unternehmen werden dokumentieren, wie ihre Prozesse aktuelle Best Practices widerspiegeln (z. B. die Nutzung der neuesten sicheren Architekturen, Bibliotheken zur Verringerung von Verzerrungen, strenge Testprotokolle wie adversarische Penetrationstests usw.). Regulierungsbehörden und Prüfer können technische Experten konsultieren oder auf Referenzdokumente zurückgreifen, um festzustellen, ob eine Technologie zum Zeitpunkt ihrer Einführung dem Stand der Technik entsprach.

Um diese Ideen zu konkretisieren, betrachten wir einen spezifischen Anwendungsfall mit hohem Risiko: KI in kritischer Infrastruktur (z. B. ein KI-System, das die Last im Stromnetz ausgleicht). Zu den vorhersehbaren Missbräuchen könnten gehören, dass ein Betreiber die KI über die empfohlenen Einstellungen hinaus ausreizt oder dass ein Hacker falsche Daten einspeist (Cyber-Missbrauch). Geeignete Massnahmen könnten integrierte Begrenzungen, Alarme und eine robuste Authentifizierung umfassen. Modernste Technologie könnte den Einsatz redundanter Ausfallsicherungen und der neuesten Algorithmen zur Erkennung von Anomalien beinhalten, um Störungen im Netz zu erkennen. Der Anbieter muss die KI so gestalten, dass sie widerstandsfähig ist (Artikel 15 Absatz 5 schreibt tatsächlich Widerstandsfähigkeit gegen unbefugte Manipulationen durch Dritte vor), und dabei modernste Cybersicherheitspraktiken anwenden. Wenn trotz aller Massnahmen ein Restrisiko verbleibt (zum Beispiel eine sehr seltene Situation, die dennoch zu einem Ausfall führen könnte), stellt sich die Frage, ob dies akzeptabel ist. Wenn es ähnlichen Systemen weltweit gelungen ist, dieses Risiko zu bewältigen, dann würde eine Nichtbeachtung dieses Risikos wahrscheinlich den Stand-der-Technik-Test nicht bestehen. Wenn noch niemand weiss, wie man es lösen kann, könnte der Anbieter argumentieren, dass das Risiko ALARP ist – auf das Mass minimiert, das die aktuelle Technik zulässt – und somit akzeptabel, bis neue Lösungen auftauchen. Die kontinuierliche Überwachung und die Verpflichtungen nach dem Inverkehrbringen (wie Qualitätsmanagement und Meldung von Vorfällen) stellen zudem sicher, dass das System aktualisiert oder bei Bedarf sogar vom Markt genommen werden kann, sobald Verbesserungen nach dem Stand der Technik oder neue Hinweise auf Risiken auftreten.

Zwischenfazit: „Vernünftigerweise vorhersehbarer Missbrauch“, „angemessene“ Massnahmen und „Stand der Technik“ setzen gemeinsam die risikobasierte Philosophie des Gesetzes unter dem Gesichtspunkt der Angemessenheit und Anpassungsfähigkeit um. Sie verlangen von KI-Anbietern, vorausschauend zu denken (über Missbrauch und Worst-Case-Szenarien), ihre Vorsichtsmassnahmen an den Kontext und die Schwere des Risikos anzupassen und ihre Lösungen ständig am neuesten Stand von Wissenschaft und Technik zu messen. Diese Konzepte stützen sich sowohl auf die Rechtstradition (Vorhersehbarkeit und Angemessenheit spiegeln die Sorgfaltspflicht des Deliktsrechts wider) als auch auf ingenieurwissenschaftliche Ansätze (Stand der Technik und ALARP stammen aus sicherheitstechnischen Standards). Durch deren Einbettung zielt der KI-Gesetz darauf ab, sicherzustellen, dass seine übergeordneten Vorgaben (wie „Gewährleistung von Genauigkeit, Robustheit und Cybersicherheit“) weder trivial erfüllt noch unmöglich streng sind, sondern stattdessen auf sinnvolle, evidenzbasierte Weise erfüllt werden, die sich im Laufe der Zeit weiterentwickelt.

Im folgenden Abschnitt wird untersucht, wie harmonisierte Normen und Konformitätsbewertungsmechanismen dazu beitragen, diesen flexiblen Konzepten konkrete Gestalt zu verleihen, indem sie „Stand der Technik“ und „angemessene Massnahmen“ effektiv in Checklisten und technische Spezifikationen umsetzen, die Anbieter umsetzen und Behörden überprüfen können.

IV. Die Rolle harmonisierter Normen und die Konformitätsvermutung

Die praktische Umsetzung der Anforderungen des KI-Gesetzes wird in hohem Masse auf technischen Normen und Konformitätsbewertungsverfahren beruhen. Wie in der EU-Produktregulierung üblich, folgt das Gesetz dem Ansatz des neuen Rechtsrahmens, indem es wesentliche Anforderungen in Rechtsvorschriften festlegt, die durch harmonisierte europäische Normen ergänzt werden, welche detaillierte technische Mittel zur Einhaltung vorgeben. Anbieter, die diese Normen befolgen, geniessen die Konformitätsvermutung mit den entsprechenden rechtlichen Anforderungen. Dieser Abschnitt untersucht, wie Normen und der Konformitätsvermutungsmechanismus im Rahmen des KI-Gesetzes funktionieren und warum sie für eine verhältnismässige Ex-ante-Kontrolle von zentraler Bedeutung sind.

Harmonisierte Normen als Massstäbe: Harmonisierte Normen sind Spezifikationen, die in der Regel von europäischen Normungsorganisationen (CEN, CENELEC, ETSI) auf Ersuchen der Europäischen Kommission entwickelt und anschliessend im Amtsblatt der EU veröffentlicht werden. Mit ihrer Veröffentlichung werden sie zu anerkannten Mitteln zur Erfüllung der gesetzlichen Anforderungen. Der KI-Gesetz definiert den Begriff „harmonisierte Norm“ ausdrücklich unter Verweis auf die Verordnung (EU) Nr. 1025/2012. Entscheidend ist, dass in Erwägungsgrund 118 des KI-Gesetzes heisst: „Die Einhaltung harmonisierter Normen …, von denen normalerweise erwartet wird, dass sie den Stand der Technik widerspiegeln, sollte für Anbieter ein Mittel sein, die Konformität mit den Anforderungen nachzuweisen.“ In Ermangelung von Normen kann die Kommission als Ausweichlösung gemeinsame Spezifikationen (im Wesentlichen technische Vorschriften, die über einen Durchführungsrechtsakt festgelegt werden) erlassen. Dieser Rahmen stellt sicher, dass die abstrakten Verpflichtungen (z. B. die Gewährleistung fehlerfreier Daten, die Gewährleistung von Transparenz usw.) in überprüfbare Kriterien umgesetzt werden können.

Betrachten wir beispielsweise die Anforderung, dass Trainingsdaten „relevant, repräsentativ, so weit wie möglich fehlerfrei und vollständig“ sein müssen (Artikel 10 Absatz 3). An sich ist dies eine qualitative Vorgabe. Eine harmonisierte Norm (die etwa von ISO/IEC JTC 1/SC 42 für KI oder der CEN-CENELEC-Fokusgruppe für KI entwickelt werden könnte) könnte quantitative Schwellenwerte oder Verfahren festlegen – z. B. wie die Repräsentativität statistisch zu prüfen ist, wie die Datenherkunft zu dokumentieren ist und welche Metriken für die Datengenauigkeit gelten. Wendet ein Anbieter eine solche Norm an, kann er davon ausgehen, dass er die Datenanforderungen von Artikel 10 erfüllt. In ähnlicher Weise könnte eine Norm für Robustheit und Cybersicherheit (Artikel 15) unter anderem Methoden für Penetrationstests von KI-Modellen und Verschlüsselungsprotokolle zur Gewährleistung der Modellintegrität detailliert beschreiben. Bei einem Anbieter, der diese befolgt, wird davon ausgegangen, dass er die Robustheits-/Sicherheitsverpflichtungen erfüllt. Dies schafft Rechtssicherheit: Unternehmen ziehen klare Checklisten unklaren Begriffen vor, und Normen bieten genau das. Ausserdem fördert dies die Einheitlichkeit im Binnenmarkt, da alle Akteure, die dieselben Normen erfüllen, als konform akzeptiert werden sollten.

Konformitätsvermutung: Der KI-Gesetzentwurf sieht in bestimmten Kontexten ausdrücklich eine Konformitätsvermutung vor. Insbesondere legt Artikel 42 Absatz 1 fest, dass bei einem KI-System mit hohem Risiko, das anhand von Daten trainiert und getestet wurde, die den spezifischen Anwendungskontext widerspiegeln (d. h. unter Vermeidung geografischer oder demografischer Verzerrungen), davon ausgegangen wird, dass es die Datenqualitätsanforderung gemäss Artikel 10 Absatz 4 erfüllt. Dies ist eine spezifische, in das Gesetz eingebaute Vermutung, die wahrscheinlich Anreize für die Verwendung lokalisierter Daten zur Verbesserung der Genauigkeit schaffen soll. Artikel 42 Absatz 2 sieht eine weitere Vermutung vor: Bei KI-Systemen mit hohem Risiko, die im Rahmen eines anerkannten EU-Cybersicherheitssystems (gemäss dem Cybersicherheitsgesetz 2019/881) zertifiziert sind, wird davon ausgegangen, dass sie die Cybersicherheitsanforderungen des KI-Gesetzes erfüllen, soweit die Zertifizierung diese abdeckt. Dies ist eine interessante systemübergreifende Verknüpfung (mehr zum Zusammenspiel im Bereich Cybersicherheit später). Darüber hinaus gilt der allgemeine Mechanismus, dass die Einhaltung der in Artikel 40 genannten harmonisierten Normen eine Vermutung der Konformität mit den entsprechenden Anforderungen begründet. In der Praxis ermöglicht Artikel 43 Absatz 1 den Anbietern, sich einer vereinfachten Konformitätsbewertung (Selbstbewertung für bestimmte Systeme) zu unterziehen, wenn sie harmonisierte Normen anwenden. Verwenden sie keine Normen, ist eine strengere Bewertung (oft unter Einbeziehung einer benannten Stelle) erforderlich, was bedeutet, dass sie dann durch „andere Mittel“ nachweisen müssen, dass sie die grundlegenden Anforderungen erfüllt haben.

Die Konformitätsvermutung ist somit ein wirkungsvolles Instrument zur Einhaltung der Vorschriften, da sie die Beweislast umkehrt. Ein Anbieter, der Normen anwendet, kann von der Konformität ausgehen (sofern keine gegenteiligen Beweise vorliegen), während ein Anbieter, der von den Normen abweicht, die Gleichwertigkeit nachweisen muss. Angesichts dessen werden die meisten Unternehmen wahrscheinlich die Normen befolgen, sobald diese verfügbar sind, da dies ihr Konformitätsverfahren risikofreier macht.

Normen als Ausdruck des Stands der Technik: Die Beziehung zwischen Normen und dem Stand der Technik ist bidirektional. Einerseits wird, wie in Erwägungsgrund 118 festgestellt, erwartet, dass Normen den Stand der Technik widerspiegeln. Normungsgremien bringen Experten zusammen und integrieren im Konsens den neuesten Wissensstand (vorbehaltlich regelmässiger Überarbeitungen). Andererseits bedeutet der Verweis des Gesetzes auf den Stand der Technik, dass es anerkannt werden könnte, wenn Normen veralten (und hinter dem technischen Fortschritt zurückbleiben). Der Blue Guide 2022 weist darauf hin, dass eine harmonisierte Norm, wenn sich herausstellt, dass sie nicht mehr den Stand der Technik widerspiegelt, möglicherweise aktualisiert oder sogar zurückgezogen werden muss. Das KI-Gesetz geht sogar darauf ein: Artikel 40 Absatz 2 erlaubt es der Kommission, im Amtsblatt die Fundstellen harmonisierter Normen zu veröffentlichen, die ihren Anforderungen entsprechen, was bedeutet, dass die Kommission beschliessen kann, eine Norm nicht vollständig zu zitieren, wenn diese unvollständig ist oder Bedenken hinsichtlich der Grundrechte aufwirft. Es gibt auch ein Verfahren (das in der EU-Normungsverordnung dargelegt ist), nach dem die Kommission Einwände gegen eine harmonisierte Norm erheben kann, die die rechtlichen Anforderungen nicht erfüllt. In Erwägungsgrund 118 wird ausdrücklich erwähnt, dass, wenn Normen die Grundrechte nicht ausreichend berücksichtigen, gemeinsame Spezifikationen verwendet werden könnten. Dies unterstreicht einen entscheidenden Aspekt der Governance: Es muss sichergestellt werden, dass technische Normen für KI nicht nur technische Leistungs en, sondern auch ethische und rechtsbezogene Aspekte (wie Voreingenommenheit, Transparenz usw.) umfassend abdecken, die schwieriger zu standardisieren sind. Das Gesetz besagt im Wesentlichen: Wir werden Normen verwenden, aber nicht blindlings – sie müssen die Anforderungen wirklich erfüllen; andernfalls werden die Regulierungsbehörden eingreifen.

Konformitätsbewertung und Durchsetzung: Das Gesetz sieht je nach Art des KI-Systems unterschiedliche Wege der Konformitätsbewertung vor. Viele eigenständige KI-Systeme mit hohem Risiko können einer internen Kontrollbewertung (Anhang VI) unterzogen werden, sofern Normen angewendet werden. Wenn jedoch keine Normen existieren oder der Anbieter sich gegen deren Anwendung entscheidet, ist eine Bewertung durch eine dritte Stelle (Anhang VII, unter Einbeziehung einer benannten Stelle) obligatorisch. Einige Systeme – insbesondere solche, die Sicherheitskomponenten von Produkten sind, die durch andere EU-Rechtsvorschriften geregelt werden (wie KI in Medizinprodukten, Kraftfahrzeugen oder Maschinen) – unterliegen der sektoralen Konformitätsbewertung (oft unter Einbeziehung benannter Stellen), wobei die KI-Anforderungen in diesen Prozess integriert sind. In allen Fällen ist das Ergebnis eine EU-Konformitätserklärung und eine CE-Kennzeichnung auf dem KI-System (oder dem Produkt, das es enthält). Die CE-Kennzeichnung signalisiert, dass das System mit dem KI-Gesetz (und allen anderen geltenden Vorschriften) konform ist und im Binnenmarkt in Verkehr gebracht werden darf.

Die Konformitätsvermutung durch Normen vereinfacht diese Konformitätsbewertungen erheblich – im Wesentlichen kann die benannte Stelle (oder der Anbieter bei der Selbstbewertung) die Konformität überprüfen, wenn die Normklauseln eingehalten werden, anstatt die Prüfverfahren selbst neu zu entwickeln. Dies ist angesichts der potenziell enormen Bandbreite an KI-Anwendungen für die Effizienz von entscheidender Bedeutung. Es bietet zudem eine gemeinsame Sprache für die Konformität: So könnte eine Norm beispielsweise festlegen, dass ein Risikomanagementdossier XYZ-Analysen enthalten muss, dass die Genauigkeit auf eine bestimmte Weise gemessen wird und so weiter, sodass sowohl Unternehmen als auch Regulierungsbehörden wissen, was sie erwartet.

Aus der Perspektive der Risikoregulierungstheorie kann man harmonisierte Normen als einen Weg betrachten, Sunsteins Idee einer kosten-nutzen-sensitiven Regulierung umzusetzen: Sie schaffen implizit ein Gleichgewicht zwischen Wirksamkeit und Praktikabilität, oft durch Beiträge der Industrie. Sie können auch „Best Practices“ verankern, die einen Konsens über ALARP für spezifische Risiken darstellen (z. B. könnte die akzeptable Falsch-Positiv-Rate für eine KI bei der Krebsvorsorge in einer Norm vereinbart werden). Durch deren Einhaltung weist ein Anbieter nach, dass er alle von Experten anerkannten angemessenen Massnahmen ergriffen hat. Wie in einem Kommentar angemerkt wird, dienen Standards als „epistemische Autorität“, die allgemeine Grundsätze in konkrete Normen übersetzt – im Falle der KI werden sie wahrscheinlich technische Kennzahlen, Dokumentationsvorlagen, Risikomanagementschritte, Validierungsverfahren und so weiter umfassen.

Grenzen und Bedeutung der Aufsicht: Die Abhängigkeit von Standards hat jedoch auch Grenzen. Es besteht das Risiko, dass die Festlegung von Standards hinter der rasanten KI-Innovation zurückbleibt oder dass von der Industrie vorangetriebene Standards strenge Anforderungen verwässern. Die im Gesetz vorgesehene Governance geht teilweise darauf ein: Sie sieht ein Europäisches KI-Büro und einen EU-KI-Ausschuss (bestehend aus nationalen Regulierungsbehörden und der Kommission) vor, um die Umsetzung zu überwachen und gegebenenfalls die Herausgabe gemeinsamer Spezifikationen oder die Aktualisierung von Anforderungen zu empfehlen. Der Ausschuss kann auf fehlende oder unzureichende Standards hinweisen. Darüber hinaus muss die Kommission gemäss Artikel 40, wenn keine Standards verfügbar sind oder eine Lücke besteht, mit gemeinsamen Spezifikationen für bestimmte Anforderungen eingreifen, um sicherzustellen, dass regulatorische Erwartungen nicht auf unbestimmte Zeit auf die Standardisierung warten.

Das Gesetz schreibt ausserdem vor, dass technische Unterlagen (Anhang IV) und Aufzeichnungen zur Überwachung nach dem Inverkehrbringen aufbewahrt werden müssen, aus denen hervorgeht, ob und wie Normen angewendet wurden. Dies sorgt für Transparenz. Tritt bei einem „konformen“ KI-System ein Problem auf, prüfen die Ermittler, ob die relevanten Normen tatsächlich ausreichend waren oder ob ein Mangel vorlag. Artikel 71 legt sogar ein Verfahren fest, das die Kommission anwenden muss, wenn sie feststellt, dass ein bestimmtes, den Normen entsprechendes KI-System dennoch ein Risiko darstellt – sie kann Korrekturmassnahmen verlangen oder die Konformitätsvermutung bei Bedarf aufheben. Dies entspricht den Schutzklauseln in Produktrichtlinien.

Zusammenfassend lässt sich sagen, dass harmonisierte Normen der Dreh- und Angelpunkt für die Verknüpfung von übergeordneten Rechtsgrundsätzen und der praktischen Umsetzung von KI-Risikokontrollen sind. Sie bringen den Stand der Technik durch Kodifizierung in Einklang mit den Vorschriften, und die Konformitätsvermutung belohnt diejenigen, die sich daran halten, durch einen vereinfachten Marktzugang. Das Zusammenspiel von Normen und Recht im KI-Gesetz veranschaulicht den Ansatz der EU zur „regulierten Selbstregulierung“: Die Industrie (zusammen mit anderen Interessengruppen) entwirft technische Regeln, die durch die Aufsicht der Kommission Rechtskraft erlangen, wodurch Flexibilität mit Rechenschaftspflicht verbunden wird. Für KI-Entwickler wird die Beteiligung am Normungsprozess (oder zumindest die Befolgung der Ergebnisse) von entscheidender Bedeutung sein, da diese Normen effektiv bestimmen werden, welche Entwurfs- und Testprozesse als angemessen und ausreichend gelten. Für die Regulierungsbehörden wird die Gewährleistung, dass die Normen robust und auf dem neuesten Stand sind, der Schlüssel zum Erfolg des Gesetzes sein, da eine starke Abhängigkeit von Normen bedeutet, dass etwaige Lücken direkt zu Compliance-Lücken führen.

Nachdem wir untersucht haben, wie der Rahmen des KI-Gesetzes durch Normen und Konformitätsbewertungen umgesetzt wird, wenden wir uns nun einem wichtigen ergänzenden Aspekt des Risikomanagements zu: der Cybersicherheit. KI-Systeme, insbesondere solche mit hohem Risiko, müssen nicht nur unter normalen Bedingungen sicher konzipiert sein, sondern auch gegen böswillige Angriffe oder Missbrauch geschützt werden. Eine schwache Cybersicherheit kann ein KI-System im Handumdrehen von sicher zu gefährlich machen und die Risiken damit effektiv vervielfachen. Im folgenden Abschnitt wird untersucht, wie die Anforderungen des KI-Gesetzes mit den umfassenderen EU-Gesetzen zur Cybersicherheit, wie NIS2 und DORA, zusammenwirken und warum es zur Bewältigung von Restrisiken notwendig ist, Cybersicherheit als integralen Bestandteil der KI-Regulierung zu betrachten.

V. Schnittstelle zur Cybersicherheit (NIS2, DORA) als Risikomultiplikatoren

In der modernen Bedrohungslandschaft können Cybersicherheitslücken in KI-Systemen die von diesen Systemen ausgehenden Risiken dramatisch verstärken. Eine KI, die sich während der Tests korrekt verhält, kann zu unberechenbarem, schädlichem Verhalten getrieben werden, wenn ein Angreifer ihre Eingaben (adversarische Beispiele), Trainingsdaten (Datenvergiftung) oder die zugrunde liegende Infrastruktur manipuliert. Umgekehrt werden KI-Systeme, die für kritische Funktionen eingesetzt werden, zu attraktiven Zielen für Cyberangriffe, die auf maximale Störungen abzielen. Der EU-Gesetzgeber hat diese Wechselbeziehung erkannt und Robustheit und Cybersicherheit zu einer der obligatorischen Anforderungssäulen für risikoreiche KI gemacht (Artikel 15). In diesem Abschnitt wird untersucht, wie die im KI-Gesetz verankerten Cybersicherheitsverpflichtungen mit horizontalen Cybersicherheitsregelungen interagieren, insbesondere mit der NIS2-Richtlinie (Richtlinie (EU) 2022/2555 über die Netz- und Informationssicherheit kritischer Einrichtungen) und der DORA-Verordnung (Verordnung (EU) 2022/2554 über digitale operative Resilienz im Finanzsektor). Diese Rahmenwerke sind nicht KI-spezifisch, gelten jedoch für viele KI-Anwender und stärken die Ziele des KI-Gesetzes, indem sie die Aspekte des Betriebsumfelds und der Reaktion auf Risiken berücksichtigen.

Anforderungen an die Cybersicherheit im AI-Gesetz: Artikel 15 des AI-Gesetzes schreibt vor, dass hochriskante KI-Systeme so konzipiert und entwickelt werden müssen, dass sie neben Genauigkeit und Robustheit ein „angemessenes“ Mass an Cybersicherheit erreichen. Konkret muss die KI so widerstandsfähig wie möglich gegen Fehler und unbefugte Versuche Dritter sein, ihre Leistung zu verändern. Das Gesetz fordert technische Lösungen, die „den Umständen und Risiken angemessen“ sind, um die KI zu sichern. Darüber hinaus listet er ausdrücklich KI-spezifische Schwachstellen auf, die „gegebenenfalls“ zu berücksichtigen sind, darunter Data-Poisoning-Angriffe (Manipulation von Trainingsdaten), Model-Poisoning (Kompromittierung vortrainierter Modelle), Adversarial Examples (Eingaben, die darauf abzielen, die KI zu täuschen) sowie Angriffe auf die Vertraulichkeit oder die Ausnutzung von Modellfehlern. Durch die Aufzählung dieser Punkte verpflichtet das Gesetz Anbieter im Wesentlichen dazu, bekannte Formen von KI-Angriffen zu antizipieren und sich dagegen zu schützen. Beispielsweise sollte ein Anbieter einer KI zur Bilderkennung Abwehrmassnahmen gegen adversarische Bilder implementieren, wenn diese Sicherheitsvorfälle verursachen könnten. Ein Anbieter eines maschinellen Lernmodells, das kontinuierlich online lernt, sollte Massnahmen zur Erkennung anomaler Dateneingaben ergreifen (um Vergiftungen zu verhindern).

Diese Verpflichtungen sind an den Stand der Technik geknüpft: Da KI-Sicherheit ein aktives Forschungsgebiet ist, wird sich die Definition dessen, was als „angemessene technische Lösungen“ gilt, weiterentwickeln. Zunächst könnte die Einhaltung bestehender Normen wie ISO/IEC 27001 (Informationssicherheitsmanagement) oder die Befolgung der Leitlinien der ENISA (der EU-Agentur für Cybersicherheit) zur Sicherung von KI ausreichen. Tatsächlich stützt sich der KI-Gesetzentwurf auf die freiwilligen Zertifizierungssysteme des EU-Cybersicherheitsgesetzes: Erhält eine KI ein Zertifikat im Rahmen eines relevanten europäischen Cybersicherheits-Zertifizierungssystems, wird davon ausgegangen, dass sie die Anforderungen von Artikel 15 erfüllt. Die Kommission und die ENISA werden voraussichtlich solche Systeme entwickeln (es gibt Diskussionen über ein System für KI, das möglicherweise auf den Anforderungen des KI-Gesetzentwurfs aufbaut).

Die zugrunde liegende Logik ist klar: Selbst der beste Algorithmus kann katastrophale Folgen haben, wenn er gehackt oder missbraucht wird. So birgt beispielsweise ein KI-System zur Steuerung von Ampeln ein hohes Risiko; auch wenn sein grundlegendes Design sicher sein mag, werden Menschenleben gefährdet, wenn ein Angreifer in das System eindringt und die Ampeln fehlerhaft umschaltet. Daher lässt sich das Restrisiko eines KI-Systems nicht vollständig erfassen, ohne die Cybersicherheit zu berücksichtigen. Eine schwache Cybersicherheit erhöht das tatsächliche Risikoniveau eines KI-Einsatzes, indem sie ihn einem vorsätzlichen Missbrauch aussetzt, der über den „vorhersehbaren Missbrauch“ durch typische Nutzer hinausgeht. Daher integriert die Behandlung der Cybersicherheit als vorrangige Anforderung (und nicht als nachträglicher Einfall) im KI-Gesetz das Prinzip „Security-by-Design“ in die KI-Governance. Es stellt sicher, dass Anbieter nicht nur versehentliche Ausfälle, sondern auch böswillige Szenarien bewerten.

NIS2-Richtlinie – Sicherung kritischer Sektoren: Die NIS2-Richtlinie (in Kraft seit 2023) zielt auf ein hohes gemeinsames Cybersicherheitsniveau bei wesentlichen Einrichtungen in der EU ab (die Sektoren wie Energie, Verkehr, Gesundheit, Wasser, digitale Infrastruktur, Bankwesen und den öffentlichen Sektor usw. abdecken). Sie verpflichtet diese Einrichtungen zur Umsetzung geeigneter Massnahmen zum Cybersicherheitsrisikomanagement und zur Meldung von Vorfällen. Viele KI-Systeme mit hohem Risiko werden von Einrichtungen eingesetzt, die in den Anwendungsbereich der NIS2 fallen. Beispielsweise würden ein Krankenhaus, das ein KI-Diagnosetool nutzt, ein Stromnetzbetreiber, der KI für das Lastmanagement einsetzt, oder ein Eisenbahnunternehmen, das KI zur Verkehrssteuerung nutzt, wahrscheinlich alle als wesentliche Einrichtungen im Sinne der NIS2 gelten. NIS2 verpflichtet solche Organisationen, Risiken für ihre Netz- und Informationssysteme zu bewerten und Massnahmen zu ergreifen, darunter Zugangskontrollen, Geschäftskontinuität, Verschlüsselung usw., wie in einem EU-Durchführungsrechtsakt (Kommission IR 2024/2690) festgelegt. Die ENISA hat kürzlich technische Leitlinien für die Umsetzung von NIS2 bereitgestellt, in denen Sicherheitsmassnahmen für digitale Infrastruktur und Dienstleister aufgeführt sind.

Wie wirkt sich dies auf das KI-Gesetz aus? Im Wesentlichen schreibt das KI-Gesetz „Security-by-Design“ für das Produkt (d. h. das KI-System) vor, während NIS2 „Security-by-Design“ für den Betreiber vorschreibt. So würde der KI-Gesetz beispielsweise sicherstellen, dass ein KI-Verkehrsleitsystem so konzipiert ist, dass es Angriffen standhält (mit robuster Authentifizierung, Ausfallsicherungen usw.), während NIS2 sicherstellen würde, dass der Verkehrsbetreiber über ein umfassendes Sicherheitsprogramm verfügt, regelmässige Risikobewertungen durchführt, die Software auf dem neuesten Stand hält, das Personal schult und so weiter. NIS2 erwähnt KI nicht ausdrücklich, aber seine weit gefassten Anforderungen umfassen zweifellos alle von der Einrichtung genutzten digitalen Technologien, einschliesslich KI. Ein expliziter Unterschied: NIS2 konzentriert sich auf die Kontinuität und Verfügbarkeit von Diensten, während der KI-Gesetzentwurf darauf abzielt, zu verhindern, dass KI Schaden anrichtet. In der Praxis laufen sie jedoch zusammen: Ein Cybervorfall, der einen KI-gesteuerten Dienst lahmlegt, kann indirekten Schaden verursachen; umgekehrt kann die Kompromittierung einer KI zu Dienstausfällen oder gefährlichen Vorfällen führen.

Ein konkretes Beispiel: Ein Stromnetzbetreiber nutzt ein KI-System für den Lastausgleich (diese KI ist gemäss Anhang III mit hohem Risiko behaftet). Der KI-Gesetz stellt sicher, dass das System sicher aufgebaut ist (vielleicht verfügt das Modell über adversariales Training, um Manipulationen zu vermeiden, und wird gegen bekannte Angriffe getestet). NIS2 stellt sicher, dass die gesamte IKT-Umgebung des Betreibers sicher ist – einschliesslich der Server, auf denen die KI gehostet wird, der Kommunikation und der Authentifizierung des Personals sowie weiterer Aspekte. Sollte ein Hacker dennoch erfolgreich sein und die KI Fehlverhalten zeigen, schreibt NIS2 auch eine Reaktion auf Vorfälle vor: Der Betreiber muss Vorfälle innerhalb einer festgelegten Frist den Behörden melden und über Pläne zur Schadensminderung verfügen. Diese Meldung von Vorfällen könnte auch in die Durchsetzung der KI-Vorschriften einfliessen – wenn eine Sicherheitsverletzung dazu führte, dass die KI Schaden anrichtete, könnte dies eine Überprüfung der Einhaltung von Artikel 15 auslösen oder zu Überarbeitungen der Standards führen.

DORA – Widerstandsfähigkeit im Finanzsektor: Der Digital Operational Resilience Act (DORA) trat im Januar 2025 in Kraft und gilt für Banken, Versicherungen, Wertpapierfirmen und andere Finanzinstitute. DORA konsolidiert und stärkt das IKT-Risikomanagement im Finanzsektor und verpflichtet Unternehmen dazu, über robuste IKT-Risikomanagement-Rahmenwerke zu verfügen, regelmässige Tests durchzuführen (einschliesslich bedrohungsorientierter Penetrationstests für bedeutende Institute), IKT-Risiken durch Dritte zu managen und schwerwiegende Vorfälle zu melden. Finanzdienstleister setzen zunehmend KI für Bonitätsbewertungen, Betrugserkennung, algorithmischen Handel usw. ein. Einige dieser KI-Systeme könnten gemäss dem KI-Gesetz als risikoreich eingestuft werden (KI für Bonitätsbewertungen gilt in Anhang III als risikoreich; KI für den algorithmischen Handel könnte indirekt unter kritische Infrastruktur fallen oder auch nicht, ist aber in jedem Fall entscheidend für die Finanzstabilität). Die DORA wird sicherstellen, dass jede KI, die z. B. von einer Bank genutzt wird, in deren allgemeinen Risikokontrollen erfasst wird. Eine Bank muss ihre IKT-Assets (zu denen auch KI-Modelle gehören) inventarisieren, sicherstellen, dass sie über Kontinuitätspläne verfügt, falls die KI ausfällt oder angegriffen wird, diese unter Cyber-Stress-Szenarien testen und sicherstellen, dass Drittanbieter (wie z. B. ein KI-Anbieter) die Sicherheitsanforderungen erfüllen.

Eine relevante Überschneidung besteht darin, dass die DORA fortgeschrittene Tests der digitalen Betriebsresilienz vorschreibt, die das Testen von KI-Modellen unter Angriffsszenarien (adversarial ML) umfassen könnten. Wenn die KI eines Finanzunternehmens kritisch ist, könnte von ihm erwartet werden, dass es Angriffe darauf im Rahmen eines bedrohungsorientierten Penetrationstests simuliert. Werden Schwachstellen gefunden, müssen diese behoben werden. Dies ergänzt die Verpflichtungen des AI Act in der Entwicklungsphase durch eine fortlaufende Überwachung während der Laufzeit. Zudem bedeutet die Meldepflicht für Vorfälle gemäss DORA, dass bei einem KI-bedingten Ausfall oder Vorfall (z. B. wenn ein unerwünschter KI-Handel einen finanziellen Vorfall verursacht, möglicherweise aufgrund eines Angriffs auf die Datenintegrität) dies den Aufsichtsbehörden gemeldet wird, die dann sowohl im Rahmen der DORA als auch potenziell im Rahmen des KI-Gesetzes ermitteln können, falls der Angriff aufgrund von Nichteinhaltung der Vorschriften erfolgte.

Bemerkenswert ist, dass der AI Act die gegenseitige Abhängigkeit ausdrücklich anerkennt: Artikel 42 Absatz 2 schafft Anreize für die Nutzung von Cybersicherheitszertifizierungen gemäss der Verordnung 2019/881. Diese sind zwar nicht mit NIS2 oder der DORA identisch, aber Teil des Cybersicherheits-Ökosystems der EU (der Cybersecurity Act ermöglicht freiwillige EU-weite Zertifizierungen von IKT-Produkten). Erhält ein KI-System ein solches Zertifikat (beispielsweise wenn ein EU-Cybersicherheitssystem für KI geschaffen wird und das System auf einem „hohen“ Sicherheitsniveau zertifiziert wird), begründet dies an sich bereits die rechtliche Vermutung, dass die Sicherheitsanforderungen des KI-Gesetzes erfüllt sind. Dies stellt eine starke Angleichung der Anreize dar: Es ermutigt KI-Hersteller, eine Cybersicherheitszertifizierung zu durchlaufen (was NIS2 oder DORA ihre Kunden ohnehin indirekt auferlegen könnten).

Cyberrisiken als Risikomultiplikatoren: Wir bezeichnen Cybersicherheit als Risikomultiplikator, da eine Sicherheitsverletzung oder ein Angriff ein KI-Szenario mit geringem oder mittlerem Risiko in ein Szenario mit hohem Risiko oder katastrophalen Folgen verwandeln kann. Beispielsweise ist ein KI-Chatbot in der Regel mit begrenztem Risiko verbunden (er benötigt lediglich Transparenz). Wenn jedoch jemand böswillige Anweisungen einspeist und der Chatbot beginnt, gefährliche Ratschläge zu geben oder Phishing zu betreiben, stellt er plötzlich Sicherheitsrisiken dar. Oder ein KI-Fahrsystem ist normalerweise sicher, könnte aber bei einem Hackerangriff Unfälle verursachen. Daher ist die Bekämpfung von Cyberrisiken unerlässlich, um sicherzustellen, dass das tatsächliche Risiko von KI-Systemen innerhalb der vorgesehenen Kategorie bleibt. Die Regulierungsbehörden verstehen dies: In Erwägungsgrund 59 der DORA wird darauf hingewiesen, dass IKT-Risiken sektorübergreifend wirken können, weshalb eine harmonisierte Widerstandsfähigkeit erforderlich ist. Erwägungsgrund 9 der NIS2 betont die Bedeutung der Sicherheit der Lieferkette und von Abhängigkeiten – KI könnte Teil dieser Lieferkette sein. Die im KI-Gesetz festgelegte Anforderung an Anbieter, über ein System zur Überwachung nach dem Inverkehrbringen zu verfügen (Artikel 61 und 72), wird zwangsläufig die Überwachung auf neue Schwachstellen oder Angriffe beinhalten, ähnlich wie die NIS2 die Überwachung auf Bedrohungen vorschreibt. Der KI-Gesetzentwurf stimmt sich zudem mit dem übergeordneten Regelwerk ab, indem er eine Zusammenarbeit zwischen dem KI-Ausschuss und dem Europäischen Ausschuss für Cybersicherheit vorsieht und die Übereinstimmung neuer delegierter Rechtsakte mit anderen Gesetzen verlangt.

In der Praxis werden die Compliance-Bemühungen wahrscheinlich zusammenlaufen: Organisationen, die risikoreiche KI einsetzen, werden die Einhaltung des KI-Gesetzes in ihre NIS2- oder DORA-Compliance-Programme integrieren. Im Rahmen des Risikomanagements nach NIS2 könnte ein Unternehmen beispielsweise folgende Überprüfung vornehmen: „Wenn wir KI einsetzen, haben wir vom Anbieter eine EU-Konformitätserklärung erhalten? Sind sie zertifiziert? Sind in dieser KI bekannte Schwachstellen vorhanden?“ Ebenso könnten KI-Anbieter die Einhaltung von Cybersicherheitsstandards (z. B. ISO 27001, ETSI EN 303645 für das IoT) bewerben und sogar Zertifizierungen erwerben, um die Erwartungen der Kunden im Rahmen von NIS2/DORA zu erfüllen. Die politische Implikation davon ist, dass die Regulierungsbehörden Leitlinien zu dieser Schnittstelle bereitstellen sollten, vielleicht über das KI-Büro und die ENISA. Die ENISA könnte Leitlinien zur Sicherung von KI herausgeben (sie hat bereits einige Arbeiten zur Sicherung von KI und zur Bekämpfung feindlicher Bedrohungen durchgeführt). Der KI-Gesetzentwurf beauftragt die Kommission zudem, „harmonisierte Standards oder gemeinsame Spezifikationen“ für die Sicherheit zu entwickeln, vermutlich in Abstimmung mit der ENISA.

Eine bemerkenswerte Herausforderung ist die Behandlung von Vorfällen: Der KI-Gesetz selbst schafft keine Meldepflicht für die KI-Aufsichtsbehörde (ausser wenn der Anbieter später von schwerwiegenden Vorfällen erfährt; dann hat er gewisse Rückrufpflichten). NIS2 und DORA sehen jedoch strenge Meldefristen vor (z. B. Meldung innerhalb von 24 oder 72 Stunden nach schwerwiegenden Vorfällen). Ein Cybervorfall, an dem eine KI beteiligt ist, könnte unter beide fallen, daher sollten die KI-Aufsichtsbehörden im Idealfall mit den Cybersicherheitsbehörden zusammenarbeiten. In der Praxis wird ein schwerwiegender KI-Vorfall die Marktüberwachungsbehörden möglicherweise dazu veranlassen, sich mit den CSIRTs (Computer Security Incident Response Teams) im Rahmen von NIS2 abzustimmen.

Zusammenfassend lässt sich sagen, dass der Erfolg des KI-Gesetzes bei der Risikokontrolle nicht nur von KI-spezifischen Massnahmen abhängt, sondern auch von sicheren Einsatzumgebungen. Durch die Einbettung von Cybersicherheit durch Design und die Nutzung von Regelungen wie NIS2 und DORA schafft die EU eine mehrschichtige Verteidigung: Die KI muss sicher aufgebaut sein, und die Nutzer (Betreiber) müssen sie sicher betreiben. Cyberangriffe sind eine Form des vernünftigerweise vorhersehbaren Missbrauchs durch Dritte, und der kombinierte Rechtsrahmen geht dieses Problem aus verschiedenen Blickwinkeln an – präventive Kontrollen (wie im AI-Gesetz und in NIS2/DORA dargelegt) sowie reaktive Kontrollen (Reaktion auf Vorfälle und Krisenmanagement in NIS2/DORA). Dieser ganzheitliche Ansatz trägt der Tatsache Rechnung, dass Technologierisiken systemischer Natur sind. Der Fall der KI in kritischen Infrastrukturen ist anschaulich: Ein Ausfall der KI im Stromnetz aufgrund von Hacking ist sowohl ein Problem der KI-Sicherheit als auch ein Problem der Cybersicherheit. Das Regulierungsnetz – bestehend aus dem KI-Gesetz und NIS2 – zielt darauf ab, dies in beiden Fällen abzufangen.

Im weiteren Verlauf werden kontinuierliche Aktualisierungen sowohl der KI-Sicherheitsstandards als auch der Cybersicherheitsrichtlinien erforderlich sein. Die Kommission könnte einen delegierten Rechtsakt erlassen, um vorzuschreiben, dass bestimmte KI-Kategorien auch künftige Cybersicherheitsregelungen einhalten müssen (insbesondere sobald eine entsprechende ENISA-Regelung vorliegt). Hinzu kommt der bevorstehende Vorschlag für ein Gesetz zur Cyber-Resilienz (CRA), das Cybersicherheit für alle Produkte mit digitalen Elementen vorschreiben würde. Sollte es verabschiedet werden, wird es sich mit dem KI-Gesetz für KI-Systeme überschneiden (da KI-Systeme Software sind). Die Gewährleistung der Kohärenz zwischen diesen Gesetzen wird entscheidend sein (der CRA-Vorschlag nimmt derzeit Produkte aus, die durch andere sektorale Gesetze geregelt sind, um Doppelarbeit zu vermeiden – vermutlich könnte das KI-Gesetz als ein solches Gesetz angesehen werden, wenn es ähnliche Anforderungen abdeckt).

Nachdem wir das inhaltliche Regelwerk des KI-Gesetzes und dessen Zusammenspiel mit Cybersicherheit und Normen behandelt haben, betrachten wir abschliessend, wie dieser Rahmen in der Praxis verfeinert und umgesetzt werden wird. Der folgende Abschnitt befasst sich mit den politischen Implikationen: Welche Leitlinien, delegierten Rechtsakte und weiteren Massnahmen sind erforderlich, um die im Gesetz vorgesehenen, auf dem Grundsatz der Verhältnismässigkeit basierenden Risik s- und Kontrollmassnahmen umzusetzen, und wie kann die EU sicherstellen, dass das Regelwerk durch Soft Law (z. B. Leitlinien, Verhaltenskodizes) und Hard Law (delegierte Rechtsakte/Durchführungsrechtsakte, Änderungen) auf dem neuesten Stand bleibt?

VI. Politische Implikationen für Leitlinien und delegierte Rechtsakte

Die Festlegung des risikobasierten Rahmens des KI-Gesetzes in der Gesetzgebung ist nur der Anfang. Die tatsächliche Wirksamkeit und Verhältnismässigkeit des Regelwerks wird davon abhängen, wie es umgesetzt und im Laufe der Zeit aktualisiert wird. Zu diesem Zweck sind mehrere Mechanismen in das Gesetz integriert: die Herausgabe von Leitlinien, die Entwicklung von Standards (wie bereits erwähnt) und der Erlass delegierter Rechtsakte zur Anpassung des Anwendungsbereichs und der Einzelheiten als Reaktion auf neue Erkenntnisse. Darüber hinaus gibt es weiterreichende politische Entscheidungen hinsichtlich der Unterstützung der Einhaltung der Vorschriften (durch ein KI-Büro, regulatorische Sandkästen usw.) und der Angleichung der Auslegungen in den Mitgliedstaaten. In diesem Abschnitt werden die wichtigsten Umsetzungsschritte und ihre Bedeutung hervorgehoben:

Leitlinien der Kommission (Soft Law) zur Klärung von Konzepten und Anwendungsfällen: Der KI-Gesetz beauftragt die Kommission ausdrücklich, Leitlinien zur praktischen Umsetzung bestimmter Bestimmungen zu veröffentlichen. So verpflichtet beispielsweise Artikel 6 Absatz 5 (jetzt Artikel 6 Absatz 5 oder Artikel 4 Absatz 5 in der endgültigen Nummerierung) die Kommission, bis Februar 2026 Leitlinien mit „einer umfassenden Liste praktischer Beispiele für Anwendungsfälle von KI-Systemen, die risikoreich sind und solchen, die nicht risikoreich sind“, zu erlassen. Diese Leitlinien werden für die Klärung von Grauzonen äusserst wertvoll sein. So könnten sie beispielsweise Grenzfälle im Bildungs- oder Personalwesen veranschaulichen: Ist beispielsweise ein Algorithmus für die Zulassung an einer Universität risikoreich (wahrscheinlich ja, da er den Zugang zu Bildung beeinflusst) im Vergleich zu einer Nachhilfe-App (wahrscheinlich nein)? Sie könnten auch klären, welche Arten der „biometrischen Identifizierung“ über die offensichtlichen Fälle hinaus unter die Kategorie „risikoreich“ fallen. Die Leitlinien können das Gesetz nicht ändern, aber sie können eine Auslegung liefern und so sowohl Anbietern als auch Regulierungsbehörden ein gemeinsames Verständnis vermitteln. Entscheidend ist, dass sie im Einklang mit Artikel 96 entwickelt werden (was wahrscheinlich eine Konsultation des Europäischen KI-Ausschusses und der Interessengruppen beinhaltet).

Solche Leitlinienbeispiele dienen der Verhältnismässigkeit, indem sie sicherstellen, dass die Einstufung als „hohes Risiko“ einheitlich und nur dort angewendet wird, wo dies beabsichtigt ist. Ohne sie könnten die Behörden der Mitgliedstaaten voneinander abweichen – eine könnte eine KI als risikoreich einstufen, während eine andere dies nicht tut, was zu Fragmentierung oder Überregulierung führen würde. Die Liste der Beispiele kann sich auch weiterentwickeln; obwohl es sich nicht um verbindliches Recht handelt, wird sie als Veröffentlichung der Kommission Gewicht haben (ähnlich wie die DSGVO über WP29/EDPB-Leitlinien mit Beispielen zur Veranschaulichung mehrdeutiger Begriffe wie „berechtigte Interessen“ verfügte).

Ein weiterer Bereich, der reif für Leitlinien ist, ist die Auslegung von „vorhersehbarer Missbrauch“, „Stand der Technik“ und „akzeptables Restrisiko“. Obwohl diese Begriffe in den Erwägungsgründen definiert oder beschrieben sind, können praktische Leitlinien hilfreich sein. So könnte ein Leitfaden beispielsweise eine Methodik für die Durchführung des in Artikel 9 beschriebenen Risikomanagements bereitstellen, einschliesslich der Frage, wie vorhersehbare Missbrauchsszenarien zu dokumentieren sind und wie zu bestimmen ist, ob etwas vernünftigerweise vorhersehbar ist (möglicherweise unter Bezugnahme auf Normen wie ISO 31000 zum Risikomanagement). Es könnte auch darauf eingehen, wie Risiko-Nutzen-Analysen für Artikel 7 durchzuführen sind (bei der Bewertung neuer risikoreicher Verwendungszwecke, die per delegiertem Rechtsakt hinzugefügt oder entfernt werden sollen, da die Kriterien in Anhang III und Artikel 7 Absatz 2 eine Art Risiko-Nutzen-Prüfung vorsehen, die auch den Nutzen für Einzelpersonen oder die Gesellschaft einbezieht).

Delegierte Rechtsakte zur Anpassung des Anwendungsbereichs (Anhang III) und der Einzelheiten (Anhänge IV, V usw.): Der KI-Gesetz erkennt an, dass sich die Definition dessen, was als „risikoreich“ gilt, ändern kann. Technologie und ihre Auswirkungen entwickeln sich weiter, und das Gesetz sieht einen Mechanismus zur Neukalibrierung vor. Artikel 7 ermächtigt die Kommission, delegierte Rechtsakte zur Änderung von Anhang III – der Liste der risikoreichen KI-Anwendungsfälle – zu erlassen. Die Kommission kann neue Anwendungsfälle hinzufügen oder bestehende ändern, wenn bestimmte Bedingungen erfüllt sind, oder Anwendungsfälle entfernen, die kein erhebliches Risiko mehr darstellen. Diese Bedingungen gewährleisten evidenzbasierte Änderungen: Es muss „konkrete und zuverlässige Beweise“ geben, und das Risiko muss dem bereits aufgeführten entsprechen, um einen Anwendungsfall hinzuzufügen, oder es muss der Nachweis erbracht werden, dass ein aufgeführter Anwendungsfall kein hohes Risiko mehr darstellt, um ihn zu entfernen. Zudem dürfen Änderungen v e das allgemeine Schutzniveau nicht verringern. Dies ist im Grunde eine Vorsichtsmassnahme: Man darf nichts aus der Kategorie „risikoreich“ entfernen, wenn dies den Schutz verringert, selbst wenn das betreffende System für sich genommen sicher erscheinen mag, da dies einen Präzedenzfall schaffen oder kumulative Risiken mit sich bringen könnte.

Kriterien in Anhang III: Das Gesetz enthält in Anhang III (bzw. Artikel 7 Absatz 2, wie oben) detaillierte Kriterien zur Beurteilung, ob eine KI-Anwendung ein hohes Risiko darstellt, darunter Faktoren wie die Anzahl der betroffenen Personen, die Schwere des Schadens, die Reversibilität, die Abhängigkeit der Menschen vom Ergebnis, Machtungleichgewichte usw. Diese lesen sich wie ein Rahmenwerk zur Risikobewertung für Regulierungsbehörden. Wenn die Kommission in Zukunft beispielsweise generative KI oder grosse Sprachmodelle als potenziell risikoreich einstuft, wird sie diese Kriterien anwenden. Tatsächlich führte das endgültige Gesetz das Konzept der „Allzweck-KI mit systemischen Risiken“ (GP-KI-Modelle, die als Modelle mit weitreichenden Auswirkungen eingestuft werden können) zusammen mit entsprechenden Verpflichtungen ein (Artikel 51–5). Das Gesetz fordert die Kommission auf, gegebenenfalls Verhaltenskodizes oder Standards hierfür zu entwickeln und möglicherweise einzugreifen, falls sich daraus systemische Risiken ergeben. Dies zeugt von Weitsicht: Frühere Entwürfe behandelten allgemeine KI nicht ausdrücklich, der endgültige Text tut dies jedoch, vor allem durch weiche Massnahmen und Überwachung.

Weitere delegierte Rechtsakte: Artikel 8 ermöglicht es, die Anforderungen an die technische Dokumentation (Anhang IV) durch delegierte Rechtsakte an den technologischen Fortschritt anzupassen. Artikel 40 Absatz 6 und andere Bestimmungen erlauben die Aktualisierung von Normenverweisen und gemeinsamen Spezifikationen, falls Probleme auftreten. Artikel 50 (Transparenz für bestimmte KI) könnte ebenfalls aktualisiert werden. Und entscheidend ist, dass Artikel 70+ wahrscheinlich Leitlinien für Sandboxen ermöglicht. Das Gesetz fördert die Nutzung von KI-Regulierungs-Sandboxen (Artikel 57), um Experimente unter regulatorischer Anleitung zu fördern. Diese Sandboxen können Erkenntnisse liefern, die in künftige delegierte Rechtsakte oder Normen einfliessen könnten, insbesondere für innovative Anwendungen, die nicht eindeutig in die aktuellen Risikokategorien passen.

Gewährleistung einer einheitlichen Auslegung – der Europäische KI-Ausschuss und das KI-Büro: Das Gesetz schafft eine Governance-Struktur (Kapitel V oder VI). Es wird ein Europäischer Ausschuss für künstliche Intelligenz eingerichtet, um eine einheitliche Verwaltung zu erleichtern (ähnlich dem EDPB der DSGVO). Ihm gehören Vertreter jeder nationalen KI-Regulierungsbehörde und der Kommission an. Der Ausschuss kann Stellungnahmen und Empfehlungen abgeben sowie bewährte Verfahren austauschen. Stösst beispielsweise eine Behörde auf eine neue Art von KI, die möglicherweise mit hohen Risiken verbunden ist, kann sie diese dem Ausschuss vorlegen, um einen gemeinsamen Ansatz zu erörtern (und der Kommission möglicherweise empfehlen, Artikel 7 zur Aktualisierung von Anhang III anzuwenden). Der Ausschuss kann auch bei der Koordinierung der Marktüberwachung helfen und so die Einheitlichkeit der Durchsetzung gegenüber nicht konformen KI-Systemen sicherstellen (wie solchen, die ohne Konformitätsbewertung durchgerutscht sind oder ernsthafte Risiken darstellen).

Das EU-KI-Büro (im Wesentlichen die Dienststellen der Kommission, die als zentraler Koordinator fungieren) übernimmt Aufgaben wie die Verwaltung der EU-Datenbank für risikoreiche KI-Systeme (Artikel 60 verpflichtet Anbieter, ihre risikoreiche KI vor der Inbetriebnahme in einer EU-Datenbank zu registrieren, um die Transparenz zu erhöhen). Dieses Büro wird auch den Ausschuss unterstützen und könnte Leitlinien herausgeben oder Sandboxen koordinieren. Das Zusammenspiel mit anderen Agenturen (ENISA für Cybersicherheit, EDPS für Grundrechte bei KI in EU-Institutionen usw.) ist impliziert. Das KI-Büro sollte sicherstellen, dass delegierte Rechtsakte im Rahmen des KI-Gesetzes entsprechende Gesetzesaktualisierungen berücksichtigen (z. B. wenn ein neues System im Rahmen des Cybersicherheitsgesetzes entsteht, um es in die Vermutungsliste von Artikel 42 aufzunehmen, was Artikel 42 Absatz 2 bereits für bestehende Systeme vorsieht).

Leitlinien für bestimmte Sektoren und Anwendungsfälle: Die Frage nach sektorspezifischen Leitlinien ist von entscheidender Bedeutung. Während das KI-Gesetz horizontaler Natur ist, verfügen viele Sektoren (Gesundheitswesen, Verkehr usw.) über eigene Regulierungsbehörden und Richtlinien. Durch die Abstimmung dieser Vorschriften auf die Verpflichtungen des KI-Gesetzes lassen sich Doppelarbeit vermeiden. So könnte beispielsweise die Europäische Arzneimittelagentur Leitlinien zum Einsatz von KI in der Arzneimittelentwicklung oder zur Unterstützung klinischer Entscheidungen herausgeben, um den KI-Gesetz durch die Berücksichtigung bereichsspezifischer Risikofaktoren (wie die Zuverlässigkeit von KI in klinischen Studien) zu ergänzen. Der KI-Gesetz ändert in seinem Anhang ausdrücklich einige sektorale Rechtsvorschriften (er modifiziert bestimmte Verweise in Produktvorschriften, um KI-Aspekte einzubeziehen). Es werden jedoch wahrscheinlich weitere Soft-Law-Massnahmen folgen; beispielsweise eine ETHIK-LEITLINIE für den Einsatz biometrischer Daten durch die Polizei (um einen Mittelweg zu finden zwischen dem vollständigen Verbot der Echtzeit-Identifizierung – abgesehen von Ausnahmen – und den zulässigen Anwendungen in forensischen Szenarien mit hohem Risiko). Europol oder der Europäische Datenschutzausschuss könnten sich dazu äussern, wie die Verbote gemäss Artikel 5 in der Praxis anzuwenden sind.

Internationale und vergleichende Angleichung: Der Nutzer bat ausdrücklich um eine vergleichende Perspektive. Aus politischer Sicht wird die EU wahrscheinlich Leitlinien herausgeben, die das KI-Gesetz mit den KI-Grundsätzen der OECD und etwaigen künftigen globalen KI-Governance-Rahmenwerken in Einklang bringen. So könnte die Kommission beispielsweise klarstellen, wie die Einhaltung des KI-Gesetzes auch die Einhaltung der Grundsätze der KI-Empfehlung der OECD (wie Transparenz und Fairness) gewährleistet, wodurch Unternehmen ihre Bemühungen straffen können. Es könnten sich auch Fragen der gegenseitigen Anerkennung stellen: Wenn ein US-Unternehmen das NIST AI RMF einhält, inwiefern steht dies im Einklang mit der Einhaltung des KI-Gesetzes? Leitlinien oder bilaterale Abkommen könnten die teilweise Anerkennung von Rahmenwerken regeln. Das Gesetz lässt die Möglichkeit von Gleichwertigkeitsentscheidungen zu (wenn auch nicht ausdrücklich; so heisst es jedoch beispielsweise in Artikel 5 Buchstabe h zu Ausnahmen bei biometrischen Identifikationsdaten, dass eine Zusammenarbeit der Strafverfolgungsbehörden mit einem Drittland zulässig sein könnte, wenn angemessene Garantien für die Grundrechte bestehen, was eine gewisse Offenheit gegenüber ausländischen Rahmenwerken zeigt, sofern diese Schutz bieten).

Unterstützung von KMU und Innovation: Die EU ist bestrebt, KI-Start-ups nicht zu ersticken. Das Gesetz enthält bereits Überlegungen zu KMU (z. B. vereinfachte Formulare für die technische Dokumentation für kleine Unternehmen). Die Kommission kann weitere Leitlinien oder sogar Instrumente bereitstellen, wie z. B. Vorlagen für das Risikomanagement oder eine „KI-Gesetz-Compliance-Sandbox“, in der Start-ups ihre Systeme unter Rückmeldung der Regulierungsbehörden testen können, ohne dass ihnen Sanktionen drohen. Die Artikel 55–6 fördern Verhaltenskodizes für KI ohne hohes Risiko und für Anbieter von Allzweck-KI, um die Anforderungen freiwillig zu erfüllen. Die Kommission und das KI-Büro werden diese Kodizes wahrscheinlich unterstützen (analog dazu, wie sie Kodizes im Zusammenhang mit der DSGVO unterstützt haben). Solche Kodizes können massgeschneiderte Leitlinien bieten: So könnte beispielsweise ein Kodex für KI im Gesundheitswesen bewährte Verfahren detailliert beschreiben, die über die Mindestanforderungen des KI-Gesetzes hinausgehen, oder ein Kodex für Allzweck-KI (Grundlagemodelle) könnte Schritte auflisten, um die nachgelagerte Einhaltung durch Nutzer sicherzustellen (wie die Bereitstellung von Dokumentation oder die Ermöglichung der Modellüberwachung). Wenn der Ausschuss diese Kodizes genehmigt, könnten sie sogar zu einer geringeren behördlichen Kontrolle für die Unterzeichner führen – ein Anreiz für die Industrie.

Kontinuierliche Verbesserung und Überprüfung: Schliesslich wird das Gesetz regelmässig überprüft (voraussichtlich eine Überprüfungsklausel von etwa fünf Jahren). Die Kommission wird Daten von den nationalen Behörden und aus der Datenbank sammeln, um zu untersuchen, wie der risikobasierte Ansatz funktioniert. Werden zu viele Systeme falsch eingestuft? Treten Vorfälle auf, die darauf hindeuten, dass manche KI mit „begrenztem Risiko“ als „hochriskant“ eingestuft werden sollte? Sind Verpflichtungen wie Transparenz tatsächlich wirksam? Diese empirische Rückkopplungsschleife ist entscheidend. Wenn sich beispielsweise manipulative KI-Praktiken (Artikel 5 Buchstaben a und b) trotz des Verbots ausbreiten, muss die Durchsetzung möglicherweise verschärft oder präzisiert werden. Wenn eine völlig neue Technologie (wie Anwendungen der allgemeinen künstlichen Intelligenz oder fortschrittliche Chatbots, die bisher nicht vorgesehen waren) aufkommt und systemische Risiken mit sich bringt, muss die Kommission das Gesetz möglicherweise durch delegierte Rechtsakte anpassen oder eine Änderung vorschlagen.

Ein aufkommendes Thema ist die KI-Haftung. Obwohl dies ausserhalb des Geltungsbereichs des Gesetzes liegt, hat die EU parallel dazu eine KI-Haftungsrichtlinie vorgeschlagen. Sollte entweder diese oder die überarbeitete Produkthaftungsrichtlinie verabschiedet werden, wird es zu Wechselwirkungen kommen: Eine strikte Einhaltung des KI-Gesetzes könnte als Beweis dienen, um ein Verschulden in Haftungsfällen zu widerlegen. Leitlinien könnten diesen Zusammenhang verdeutlichen und Unternehmen motivieren, Vorschriften nicht nur zur Erlangung behördlicher Genehmigungen einzuhalten, sondern auch, um sich vor Klagen zu schützen (z. B. „Die Einhaltung harmonisierter Normen gemäss dem KI-Gesetz kann bei Haftungsansprüchen die erforderliche Sorgfalt belegen“ – ein wahrscheinlich impliziter, aber dennoch wichtiger Zusammenhang).

Zusammenfassend lässt sich sagen, dass die verhältnismässigen Ex-ante-Kontrollen des KI-Gesetzes nur dann verhältnismässig und wirksam bleiben, wenn sie sich an klaren Beispielen orientieren, durch delegierte Rechtsakte auf dem neuesten Stand gehalten werden und von einem Governance-Ökosystem unterstützt werden, das lernt und sich anpasst. Die Fähigkeit der Kommission, Anhang III (innerhalb festgelegter Grenzen) rasch zu aktualisieren, ist ein wichtiges Instrument, um aufkommende Risiken zu bewältigen, ohne auf eine vollständige Gesetzesrevision zu warten, was angesichts des Tempos der KI-Innovation notwendig ist. Unterdessen können nicht bindende Leitlinien und Kodizes die Anwendung der Anforderungen in verschiedenen Kontexten verfeinern und so sowohl eine Überkonformität (Ergreifen unnötiger Massnahmen bei geringen Risiken) als auch eine Unterkonformität (Nichteinhaltung von Verpflichtungen bei hohen Risiken) verhindern. Die Einbindung verschiedener EU-Agenturen (ENISA für Cybersicherheit, EDPS für Grundrechte usw.) über den KI-Rat wird dazu beitragen, einen kohärenten Ansatz sicherzustellen, sodass beispielsweise die Cybersicherheitsleitlinien der ENISA und die Standards des KI-Gesetzes gut aufeinander abgestimmt sind.

VII. Schlussfolgerung

Das EU-Gesetz über künstliche Intelligenz ist wegweisend für ein risikobasiertes und verhältnismässiges Modell der KI-Regulierung, das darauf abzielt, Gesundheit, Sicherheit und Grundrechte im Voraus zu schützen, ohne nützliche Innovationen zu behindern. Dieser Artikel hat einen konzeptionellen Rahmen entwickelt, der verdeutlicht, wie die Logik des Gesetzes in Bezug auf „Risiko, Angemessenheit und verbleibenden Schaden“ funktioniert. Der KI-Gesetz schafft effektiv eine Regulierungspyramide, indem er KI-Anwendungen verbietet, die als unannehmbar risikoreich für zentrale Werte angesehen werden, strenge Anforderungen an risikoreiche Systeme stellt, um erhebliche Risiken präventiv zu mindern, Transparenzpflichten auf Tools mit begrenztem Risiko anwendet, um geringere Bedenken auszuräumen, und Anwendungen mit minimalem Risiko für Innovationen offen lässt. Diese Schichtung verkörpert die Grundsätze der Vorsorge und von ALARP: Beseitigung unerträglicher Risiken und Reduzierung anderer Risiken auf ein so niedriges Mass, wie es vernünftigerweise praktikabel ist, durch geeignete Schutzmassnahmen.

Im Mittelpunkt dieses Regelwerks stehen die Begriffe „vernünftigerweise vorhersehbarer Missbrauch“ und „Stand der Technik“, die einen dynamischen Angemessenheitsstandard in die KI-Governance einbringen. Anbieter von risikoreicher KI müssen eine vorausschauende Denkweise annehmen, antizipieren, wie ihre Systeme unter realen Bedingungen missbraucht werden oder versagen könnten, und entsprechend präventive oder schützende Massnahmen umsetzen. Von ihnen wird erwartet, dass sie die Risikokontrollen im Zuge des technologischen Fortschritts kontinuierlich aktualisieren und an den Stand der Technik in Wissenschaft und Technik anpassen. Was als „akzeptables“ Restrisiko gilt, ist somit nicht statisch: Es verringert sich, sobald bessere Techniken zur Risikobeseitigung aufkommen. Dies stellt sicher, dass die Regulierung im Verhältnis zu den aktuellen Fähigkeiten und Bedrohungen steht und weder Unmögliches verlangt noch Nachlässigkeit zulässt. Tatsächlich greift der AI Act auf bekannte Regulierungskonzepte aus dem Produktsicherheits- und Deliktsrecht zurück (Vorhersehbarkeit, Angemessenheit, beste verfügbare Techniken), bettet diese in einen neuartigen KI-Kontext ein und operationalisiert dadurch ethische Grundsätze (wie Fairness, Transparenz, menschliche Aufsicht) auf eine Weise, die überprüft und durchgesetzt werden kann.

Wir haben zudem hervorgehoben, wie harmonisierte Normen und Konformitätsbewertungsverfahren als Rückgrat für die Umsetzung dieser flexiblen Anforderungen dienen werden. Normen setzen abstrakte Verpflichtungen in konkrete technische Vorschriften um, sorgen für Klarheit und erleichtern die „Konformitätsvermutung“ für konforme KI-Systeme. Dieser Mechanismus ist für die Aufrechterhaltung eines wettbewerbsfähigen Binnenmarktes für KI von entscheidender Bedeutung, da er Rechtssicherheit und ein einheitliches Konformitätssystem in ganz Europa bietet. Gleichzeitig stellt die Aufsicht der EU über Normen (mit der Möglichkeit gemeinsamer Spezifikationen und Einwänden gegen unzureichende Normen) sicher, dass der Konsens der Industrie den Schutz der Grundrechte nicht verwässert. Das Zusammenspiel von Regulierung und Normung im KI-Gesetz veranschaulicht einen ko-regulatorischen Ansatz: Das Gesetz legt die Ziele und Leitplanken fest, während technische Experten die Mittel definieren – alles unter öffentlicher Aufsicht, um das öffentliche Interesse zu wahren.

Wichtig ist, dass unsere Analyse spezifischer Anwendungsfälle den differenzierten Ansatz des KI-Gesetzes verdeutlicht. Biometrische Identifizierungssysteme, insbesondere solche, die zur Strafverfolgung eingesetzt werden, werden als so akutes Risiko für die bürgerlichen Freiheiten angesehen, dass das Gesetz sie weitgehend verbietet (die Fernidentifizierung in Echtzeit im öffentlichen Raum ist verboten, abgesehen von sehr engen Ausnahmen). Selbst dort, wo sie zulässig sind, unterliegen sie strengen Aufsichtsanforderungen (z. B. obligatorische menschliche Überprüfung, um Fehlidentifizierungen zu verhindern). Dies spiegelt eine vorsichtige Haltung gegenüber einer Technologie mit hohem Missbrauchspotenzial wider und steht im Einklang mit Europas historischer Abneigung gegen Massenüberwachung. Im Gegensatz dazu ist KI in kritischen Infrastrukturen (wie Energie oder Verkehr) zwar zulässig, wird aber als risikoreich eingestuft; hier liegt der Schwerpunkt auf robustem Design und Sicherheitsvorkehrungen, um katastrophale Ausfälle zu verhindern. Das Gesetz verpflichtet Anbieter, Sicherheitsredundanzen und Resilienz einzubauen, und Betreiber, die menschliche Aufsicht aufrechtzuerhalten, um sicherzustellen, dass KI in sicherheitskritischen Funktionen nicht unkontrolliert agiert. Diese Fallstudien zeigen, wie die Schwere und der Kontext des Risikos die Strenge der Kontrollen bestimmen und damit Verhältnismässigkeit in der Praxis gewährleisten.

Aus vergleichender Perspektive zeigt der Ansatz der EU sowohl Konvergenz als auch Divergenz zu anderen Rahmenwerken. Er steht im Einklang mit der Betonung der OECD auf risikobasierter und vertrauenswürdiger KI, indem er Prinzipien wie Transparenz, Rechenschaftspflicht und Fairness institutionalisiert. Allerdings verleiht er ihnen in einzigartiger Weise durch Ex-ante-Regeln Verbindlichkeit. Im Vergleich zum eher laissez-faire-orientierten oder fragmentarischen Ansatz in den USA ist das EU-Modell umfassender und präventiver – es verbietet bestimmte KI aus ethischen Gründen gänzlich (was die USA auf Bundesebene nicht getan haben) und verlangt eine Prüfung vor der Markteinführung, die einer Sicherheitszertifizierung ähnelt. Das US-amerikanische NIST-Rahmenwerk für KI-Risikomanagement teilt ähnliche Werte hinsichtlich kontextbasierter Risikominderung und ist freiwillig, doch das EU-Gesetz macht solche Praktiken für KI mit hohem Risiko verbindlich und setzt sie mit Strafen durch. Im Wesentlichen behandelt die EU KI in gewisser Weise so, wie die USA Medizinprodukte oder die Luftfahrt behandeln – indem sie vor dem Einsatz einen Sicherheitsnachweis verlangt. Im Gegensatz dazu stützt sich die USA derzeit auf nachträgliche Rechenschaftspflicht (Haftung, sektorale Durchsetzung) und freiwillige Richtlinien. Im Laufe der Zeit könnten sich diese Ansätze annähern; tatsächlich könnten die Risikokategorien des Gesetzes und die Betonung „angemessener“ Massnahmen eine Blaupause für andere Rechtsordnungen liefern. Die Führungsrolle der EU in diesem Bereich könnte durchaus de facto globale Standards setzen: Unternehmen, die weltweit tätig werden wollen, könnten die Anforderungen der EU als ihre Basis übernehmen („Brüssel-Effekt“). Das Gesetz strebt zudem ausdrücklich eine internationale regulatorische Zusammenarbeit an, indem es beispielsweise sicherstellt, dass KI, die anderswo entwickelt, aber in der EU genutzt wird, diese Standards erfüllen muss, und indem es die Angleichung an OECD- und andere internationale KI-Initiativen fördert.

Mit Blick auf die Zukunft erfordert die erfolgreiche Umsetzung des KI-Gesetzes eine sorgfältige Steuerung und Anpassungsfähigkeit. Die Regulierungsbehörden müssen klare Leitlinien herausgeben (wie bis 2026 vorgeschrieben), um Unklarheiten zu beseitigen und die Einhaltung der Vorschriften zu unterstützen, insbesondere bei KMU und Start-ups, sowie das Vollzugspersonal in diesem neuen Bereich schulen. Der Europäische KI-Rat wird eine lernende Regulierungsgemeinschaft über die Mitgliedstaaten hinweg koordinieren müssen, um neuartige Fälle einheitlich zu behandeln. Der Einsatz delegierter Rechtsakte durch die Kommission wird entscheidend sein, um den Rechtsrahmen auf dem neuesten Stand zu halten: Wenn neu entstehende KI-Anwendungen (wie fortschrittliche allgemeine KI oder neue biometrische Technologien) neue Risiken mit sich bringen, kann die Liste der Hochrisikobereiche rasch erweitert werden, anstatt Jahre auf eine Gesetzesrevision zu warten. Umgekehrt können Anpassungen vorgenommen werden (ohne den Schutz zu verringern), wenn sich bestimmte Anforderungen als übermässig belastend erweisen, ohne einen Mehrwert zu bieten. Diese Flexibilität ist ein wesentliches Merkmal der Konzeption des Gesetzes, das anerkennt, dass sich die KI-Technologie rasch weiterentwickelt und die Regulierung Schritt halten muss.

Zudem muss die Kohärenz mit parallelen EU-Initiativen wie dem Cyber Resilience Act (für IoT-/Softwaresicherheit), dem Data Act und sektorspezifischen Gesetzen gewährleistet werden, damit Entwickler mit einheitlichen Erwartungen konfrontiert werden. Die Synergie des KI-Gesetzes mit NIS2 und dem DORA- us in Bezug auf Cybersicherheit ist ein positives Beispiel: Zusammen schaffen sie eine mehrschichtige Verteidigung für kritische KI-Systeme. Eine fortgesetzte sektorübergreifende Zusammenarbeit (z. B. unter Einbeziehung von Datenschutzbehörden hinsichtlich der Auswirkungen von KI auf die Privatsphäre oder von Wettbewerbsbehörden hinsichtlich der Transparenz von KI in Plattformalgorithmen) wird die Ziele des Gesetzes stärken. Zusammenfassend stellt das KI-Gesetz der EU einen Meilenstein in der Regulierung der Technologiebranche dar, der versucht, eine transformative Technologie durch einen abgestimmten, prinzipienorientierten Ansatz zu zähmen. Durch die Konzentration auf Risiken und angemessene Kontrollen vermeidet es Einheitsregeln und passt die Verpflichtungen stattdessen dort an, wo sie am wichtigsten sind. Sein Erfolg wird von einer effektiven Umsetzung abhängen, indem gesetzliche Vorgaben in praktische Standards, Audits und Kontrollen umgewandelt werden, die KI-Entwickler und -Nutzer realistisch umsetzen können. Wenn dies gut gelingt, wird das Gesetz das angestrebte Gleichgewicht herstellen: die verbleibenden Schäden der KI für die Gesellschaft „soweit wie vernünftigerweise praktikabel“ zu minimieren und gleichzeitig zu ermöglichen, dass nützliche KI-Innovationen in der Europäischen Union und darüber hinaus gedeihen. Dieser Balanceakt – zwischen Risiko und Innovation, Vorsorge und Verhältnismässigkeit – wird zweifellos verfeinert werden, während wir aus der Umsetzung lernen, aber er bietet einen wegweisenden Rahmen, den andere Rechtsordnungen bereits prüfen, während sie ihre eigenen KI-Governance-Regelwerke auf der Suche nach vertrauenswürdiger KI ausarbeiten.

Zur einfacheren Lesbarkeit wurden die Literatur- und Quellverweise entfernt.

Übersetzung Boris Wanzeck, Swiss Infosec AG

Fabian Teichmann in: European Journal of Risk Regulation

Cambridge University Press, 2026

https://doi.org/10.1017/err.2025.10077

https://creativecommons.org/licenses/by/4.0

Dem Text wurden Hyperlinks hinzugefügt.

KI-Governance, Security und Privacy

Unsere KI-, Governance-, Datenschutz- und Security-Spezialisten begleiten Sie bei der Erstellung der übergeordneten firmeninternen KI-Vorgaben, bei der Abwicklung von KI-Projekten, bei der Klärung von Einzelfragen und der Durchführung unabhängiger Audits. Ebenfalls unterstützen sie Organisationen in ihrer Rolle als Nutzer/Betreiber, Anbieter oder Entwickler von KI-Systemen sowohl nach Schweizer Recht als auch gemäss dem EU-AI Act.

Kontaktieren Sie uns und erfahren Sie in einem unverbindlichen Beratungsgespräch, was unsere Spezialistinnen und Spezialisten für Sie tun können: +41 41 984 12 12, infosec@infosec.ch

Mehr zu KI-Governance

Kategorie: Cybersecurity | Künstliche Intelligenz | Risikomanagement

Beitrag teilen: