09/2026
1 Einleitung
Deepfakes sind synthetische Medien, bei denen mithilfe von Deep-Learning-Methoden (DL) das Abbild einer Person auf bereits vorhandene Tonaufnahmen, Bilder oder Videos überlagert oder generiert wird. Früher war die Erstellung gefälschter Inhalte nur Experten für Bildbearbeitung und computergenerierte Bilder vorbehalten. Doch mit den jüngsten Fortschritten im Bereich Deep Learning und im Internet lassen sich manipulierte Medien heute einfacher erstellen und sind weiter verbreitet als je zuvor. Selbst Laien können mit Open-Source-Programmen und öffentlich zugänglichen Inhalten Deepfakes erstellen – mit beunruhigenden Folgen. Deepfake-Pornografie verbreitet sich oft weitreichend in den sozialen Medien, bevor sie entfernt wird; einer aktuellen Studie zufolge handelt es sich bei 96 % der Online-Deepfake-Videos um Pornografie ohne Einwilligung der Betroffenen. Deepfakes wurden auch dazu genutzt, die Äußerungen von Politikern und anderen prominenten Persönlichkeiten des öffentlichen Lebens falsch darzustellen. Dies wirft wichtige und aktuelle ethische Fragen auf, ob die Erstellung und Verbreitung von Deepfakes moralisch verwerflich ist und, falls ja, warum.
Bestehende Erklärungsansätze für die Unrechtmäßigkeit der Erstellung und Verbreitung von Deepfakes konzentrieren sich auf die psychologischen oder rufschädigenden Schäden für die Opfer; die epistemischen Schäden für unsere Fähigkeit, uns auf Bilder und Töne einzulassen und ihnen zu vertrauen; sowie gesellschaftliche Schäden, die mit der Aufrechterhaltung sozialer Ungerechtigkeiten einhergehen. Doch obwohl Schaden eine wichtige Rolle bei der Erklärung der Unrechtmäßigkeit vieler Deepfakes spielt, sind diese Darstellungen insofern unvollständig, als sie nicht erklären, wie Deepfakes unrechtmäßig sein können, selbst wenn sie weder Schaden verursachen noch andere nicht-normative Interessen beeinträchtigen.
Um dieses Problem anzugehen, identifiziert dieser Beitrag einen bisher vernachlässigten Grund, warum bereits die bloße Erstellung von Deepfakes ein schwerwiegendes moralisches Unrecht darstellen kann. Wir vertreten die folgende These:
Die „Authority Interest“-Perspektive Deepfakes sind unter anderem dann moralisch verwerflich, wenn sie das Interesse des Betroffenen verletzen, die Kontrolle darüber zu haben, wer was mit seinem Bild, seinem Abbild oder anderen identitätsstiftenden Aspekten seiner Identität tut. Konkret haben wir ein Interesse daran, die Kontrolle über die Verwaltung unserer biometrischen Identität zu haben, sowie ein spezifisches Recht gegen deren algorithmische Aneignung. Nach dieser Sichtweise sind Deepfakes moralisch verwerflich, wenn sie unsere Autorität verletzen, über die Herkunft unseres eigenen Handelns zu bestimmen, und unsere Identität als generative Ressource für synthetische Medien behandeln.
Unser Vorschlag ist durch bekannte Diskussionen über „bloße“ oder „harmlose“ Unrechtstaten motiviert – Situationen, in denen es um „eine Handlung geht, die zwar eine Unrechtstat darstellt, jedoch nicht aufgrund der Tatsache, dass sie gegen ein menschliches [nicht-normatives] Interesse gerichtet ist“. Man betrachte beispielsweise, wie ein Eindringling Ihnen allein dadurch Unrecht zuzufügen scheint, dass er Ihr Grundstück unbefugt betritt, selbst wenn er Ihnen keinen Schaden zufügt oder Ihr Eigentum nicht beschädigt. Dieses Beispiel für ein „bloßes Unrecht“ stellt ein Problem für jeden Versuch dar, das Unrecht des unbefugten Betretens ausschließlich anhand der Schäden zu begründen, die es verursachen kann – selbst wenn das unbefugte Betreten normalerweise dem Grundstückseigentümer Schaden zufügt. Wir argumentieren, dass analoge Fälle potenziell ein Problem für bestehende, auf Schaden basierende Erklärungsansätze für die Unrechtmäßigkeit von Deepfakes darstellen. Im Gegenzug argumentieren wir, dass solche Fälle die „Authority Interest View“ begründen. Letztendlich argumentieren wir, dass die relevanten Autoritätsinteressen teilweise in unserem grundlegenden Interesse an der Urheberschaft begründet sind: unserem Interesse daran, der einzige Ursprung der Handlungen und Darbietungen zu sein, die unserer Identität zugeschrieben werden.
Dieser Beitrag ist wie folgt aufgebaut: Abschnitt 2 skizziert die vorherrschende Auffassung, dass Deepfakes nur dann unrechtmäßig sind, wenn sie jemandem in irgendeiner Weise Schaden zufügen oder einen Schaden darstellen. Abschnitt 3 stellt das Problem des „bloßen Unrechts“ vor und argumentiert, dass schadenbasierte Erklärungsansätze unvollständig sind, da sie die Unrechtmäßigkeit von Deepfakes, die für den privaten Gebrauch erstellt wurden, nicht erklären können. Abschnitt 4 argumentiert, dass auch andere bestehende Erklärungsansätze nicht in der Lage sind, das in solchen Fällen vorliegende konstitutive Unrecht vollständig zu erfassen. Abschnitt 5 stellt unseren Vorschlag vor und argumentiert, dass er die bloße Unrechtmäßigkeit erklärt, die mit der Erstellung von Deepfakes verbunden ist. Wir präzisieren zudem den Geltungsbereich unserer Sichtweise, indem wir zwischen zulässigen Formen der Bildaneignung – wie künstlerischer Darstellung und privaten mentalen Vorstellungen – und unrechtmäßiger algorithmischer Simulation unterscheiden. Abschnitt 6 enthält die Schlussfolgerung.
2 Deepfakes und ihre Schäden
Eine weit verbreitete Ansicht ist, dass die Erstellung und Verbreitung von Deepfakes aufgrund der Schäden, die dadurch verursacht werden können, unrechtmäßig ist.
Die schadensbasierte Sichtweise
Deepfakes sind moralisch verwerflich, wenn sie jemandem in irgendeiner Weise Schaden zufügen oder einen Schaden darstellen.
Der schadensbasierte Ansatz besticht durch seine Einfachheit, obwohl diese Charakterisierung mehrere wesentliche Fragen offen lässt. Erstens nimmt er keine Stellung dazu, ob moralisch verwerfliche Deepfakes einen Schaden darstellen oder lediglich Schaden verursachen müssen. Zweitens nimmt er keine Stellung dazu, welche Arten von Schaden moralisch relevant sind. Drittens legt er nicht fest, auf welche Weise Deepfakes Schaden anrichten müssen, um als moralisch verwerflich zu gelten. Dennoch ist der schadenbasierte Ansatz ein wirkungsvolles Instrument, das die Intuitionen hinsichtlich der Verwerflichkeit von Deepfakes erfasst.
Um dies zu verdeutlichen, betrachten wir zwei große Kategorien von Schäden, die durch Deepfakes entstehen können. Erstens können Deepfakes aufgrund der moralischen Schäden, die sie verursachen, verwerflich sein. Chesney und Citron identifizieren mehrere schädliche Anwendungsformen der Deepfake-Technologie gegenüber Einzelpersonen oder Organisationen, darunter Ausbeutung, Erpressung und Einschüchterung sowie die falsche Darstellung von Äußerungen oder Befürwortungen. Diese Anwendungsformen können wiederum zu finanzieller Erpressung, Rufschädigung sowie schwerwiegenden psychischen und emotionalen Schäden führen. Deepfakes bergen zudem gesellschaftliche Gefahren, darunter die Verzerrung des öffentlichen Diskurses, die Manipulation von Wahlen und die Untergrabung des Vertrauens in demokratische Institutionen.
Eine zweite Kategorie von Schäden sind epistemische Schäden: Schäden, die sich negativ auf den epistemischen Status eines Akteurs oder einer Gruppe von Akteuren auswirken. Deepfakes haben das Potenzial, epistemischen Schaden zu verursachen – nicht nur, indem sie durch Falschdarstellungen die Anzahl unserer falschen Überzeugungen erhöhen, sondern auch, indem sie das Ausmaß verringern, in dem wir uns zur Wissensgewinnung auf audiovisuelle Medien verlassen oder ihnen vertrauen können. Aufzeichnungen dienen als „epistemische Sicherheitsvorkehrungen“, indem sie falsche Aussagen korrigieren und von Unehrlichkeit abschrecken; Deepfakes untergraben jedoch diese regulierende Funktion. Dies könnte wiederum epistemisch schädliche Auswirkungen auf die Demokratie und unsere Abhängigkeit von Aufzeichnungen als Beweismittel haben. Deepfakes erhöhen nicht nur die Anzahl falscher Überzeugungen durch Falschdarstellung und Täuschung, sondern verringern auch die Anzahl wahrer Überzeugungen, indem sie Zweifel an der Legitimität von Aufzeichnungen säen. Epistemische und moralische Schäden sollten voneinander unterschieden werden. Denn während eine epistemische Verschlechterung dazu führen kann, dass man moralisch schlechter gestellt ist – etwa durch negative Auswirkungen auf das eigene Wohlergehen –, wird man nicht zwangsläufig allein aufgrund der epistemischen Verschlechterung moralisch schlechter gestellt.
Die schadensbasierte Theorie erklärt angemessen, warum die Erstellung und Verbreitung einer Vielzahl von Deepfakes moralisch verwerflich ist. So lässt sich beispielsweise die Verwerflichkeit von pornografischen Deepfakes ohne Einwilligung der Betroffenen teilweise durch den potenziellen psychologischen und emotionalen Schaden sowie durch den Rufschaden und weitere Auswirkungen auf die eigene Karriere und Beschäftigung erklären. Darüber hinaus lässt sich die Unrechtmäßigkeit von Deepfakes politischer Persönlichkeiten, die kontroverse Aussagen treffen oder falsche Empfehlungen aussprechen, anhand des gesellschaftlichen Schadens erklären, den solche Deepfakes unseren politischen und demokratischen Institutionen zufügen, sowie anhand der allgemeineren epistemischen Schäden, die sie verursachen können.
Die schadensbasierte Theorie erklärt auch, warum bestimmte Deepfakes moralisch nicht verwerflich sind. Beispielsweise können Deepfakes dazu genutzt werden, darüber aufzuklären, wie solche Technologien eingesetzt werden können, um Bilder und Videos zu manipulieren. Solche Deepfakes müssen den Personen, die Gegenstand des Inhalts sind, nicht unbedingt schaden, wenn deutlich gemacht wird, dass die Bilder manipuliert wurden. Selbst wenn diese Videos aus dem ursprünglichen Kontext herausgeschnitten und reproduziert werden und dadurch – losgelöst von ihrer pädagogischen Botschaft – möglicherweise Fehlinformationen verursachen, ist es die Verbreitung des bearbeiteten Materials, die moralisch problematisch ist, nicht die Erstellung der Deepfakes an sich. Der pädagogische Nutzen, das Konzept der Deepfakes und ihr Potenzial, epistemische Schäden zu verursachen, in den Fokus der Öffentlichkeit zu rücken, könnte das epistemische Risiko überwiegen, dass die Deepfakes als wahrheitsgetreu angesehen werden.
3 Das Problem des bloßen Unrechts
Zwar sind viele Deepfakes genau aus den oben dargelegten Gründen schädlich, doch erschöpfen diese Schäden nicht die Gründe, warum Deepfakes moralisch verwerflich sein können. Die schadensbasierte Theorie geht davon aus, dass die Menge der unrechtmäßigen Handlungen vollständig in der Menge der schädlichen Handlungen enthalten ist. Es gibt jedoch eine Klasse von Fällen, sogenannte harmlose oder bloße Unrechtstaten, in denen eine Handlung unrecht ist, obwohl sie keinen Schaden verursacht. Um dies im Zusammenhang mit Deepfakes zu veranschaulichen, betrachten wir den folgenden Fall, der ursprünglich von Öhman vorgestellt wurde:
Pornografischer Deepfake Angenommen, A lädt eine Reihe von Bildern und Videos, auf denen er selbst zu sehen ist, ins Internet hoch und macht sie damit öffentlich zugänglich. B verwendet diese Bilder dann als Eingaben für einen Deep-Learning-Algorithmus, um einen pornografischen Deepfake von A zu erstellen. Nehmen wir ferner an, dass (i) die von B verwendete Technologie gewährleistet, dass A niemals von dem pornografischen Deepfake erfahren kann, und (ii) es unmöglich ist, die Deepfakes an andere weiterzugeben oder dass andere überhaupt von ihrer Existenz erfahren.
Öhman schreibt: „Ich behaupte, die moralische Intuition der meisten Menschen besagt, dass B etwas Falsches tut.“ Wir gehen davon aus, dass die meisten Menschen Öhman zustimmen würden, dass es falsch ist, wenn B auf diese Weise einen Deepfake von A erstellt, selbst wenn es unmöglich ist, diesen zu verbreiten oder dass jemand anderes, einschließlich des Opfers, von seiner Existenz erfährt. Dennoch könnten einige Leser befürchten, dass die motivierende Intuition bezüglich der Erstellung pornografischer Deepfakes für den ausschließlich privaten Gebrauch nicht stark genug ist, um die Auffassung zu rechtfertigen, dass die Erstellung solcher Deepfakes zwangsläufig ein moralisch wertvolles Interesse verletzt. Zum einen ist es in der bestehenden Diskussion über andere Fälle harmloser Vergehen intuitiv offensichtlich, dass die harmlose Version des Vergehens moralisch verwerflich ist. Das anschaulichste Beispiel ist der umstrittene Fall der „harmlosen Vergewaltigungen“ (d. h. einer Vergewaltigung eines bewusstlosen Opfers, das die Straftat nie bemerkt und aufgrund der Straftat niemals körperlichen oder psychischen Schaden oder ein Trauma erleidet). Solche Fälle beinhalten eindeutig schwerwiegendes moralisches Fehlverhalten, und daher können Erklärungen für die Unrechtmäßigkeit von Vergewaltigung sich auf die Unbestreitbarkeit dieser Intuition stützen, um die Vorstellung zu begründen, dass Vergewaltigung Rechte oder Interessen verletzt, die nicht von einem Schaden abhängen. Im Gegensatz dazu sind die Intuitionen hinsichtlich der Unrechtmäßigkeit der Erstellung von Deepfakes für den ausschließlich privaten Konsum wohl weniger eindeutig. Folglich lohnt es sich, die Intuition zu begründen, dass die Erstellung privater pornografischer Deepfakes moralisch verwerflich ist.
Die Erstellung eines pornografischen Deepfakes ist ein Eingriff in die Darstellung einer anderen Person. Im Gegensatz zu einer bloßen sexuellen Fantasie, die ein innerer, unausgedrückter mentaler Zustand bleibt, der durch die eigene Vorstellungskraft des Betrachters erzeugt wird, beinhaltet ein Deepfake die unbefugte Entnahme und Umnutzung der identitätsstiftenden Daten der betroffenen Person. Es handelt sich um ein Simulakrum der betroffenen Person, das sie fälschlicherweise so darstellt, als würde sie sexuell explizite Handlungen ausführen, die sie in Wirklichkeit nicht begangen hat, und zwar in einer Darstellungsweise, der sie nicht zugestimmt hat. Auf diese Weise stellt bereits die bloße Erstellung eines Deepfakes eine Usurpation der Handlungsfähigkeit und der normativen Stellung dar. Sie eignet sich die Identität der betroffenen Person als Rohmaterial an und zwingt ihr ein fiktionalisiertes sexuelles Drehbuch auf, dem sie nicht zugestimmt hat. Dies ist kein moralisch neutraler Akt sexueller Fantasie, sondern ein expressiver Akt der Unterordnung: Anstatt das Subjekt als zu respektierendes handelndes Subjekt zu behandeln, wird seine Identität als generative Ressource genutzt, die im Dienste sexueller Befriedigung manipuliert wird, ohne gebührende Rücksicht auf seine Autonomie, Autorität oder Kontrolle darüber zu nehmen, wie es dargestellt wird. Wie Langton in ihrer Analyse von Pornografie als Unterordnung argumentiert, können solche Ausdrucksakte anderen Unrecht zufügen, ohne wahrnehmbaren Schaden zu verursachen: Indem die Zustimmung der betroffenen Person zur Bestimmung ihrer eigenen Darstellung umgangen wird, vollzieht der Urheber effektiv eine Form der Unterordnung, die der betroffenen Person ihre legitime Autorität zur Verweigerung verweigert.
Wichtig ist, dass dies auch dann gilt, wenn der Deepfake niemals verbreitet wird. Das Unrecht liegt nicht nur in den Folgen der Verbreitung, sondern in der Herkunft der Schöpfung selbst. Der Urheber behandelt die Identität des Subjekts als eine Ressource, auf deren Aneignung er Anspruch hat. Zwar würde eine Verbreitung Schäden wie Rufschädigung und psychischen Stress verursachen, doch sind dies nicht die einzigen relevanten moralischen Erwägungen. Selbst wenn der Deepfake privat bleibt, drückt er eine Haltung der Dominanz und Missachtung aus. Die betroffene Person wird als Werkzeug zur Befriedigung eines anderen benutzt; als Requisite, der ihre Autonomie verwehrt wird und die als selbstbestimmungsunfähig behandelt wird; als Mittel zum Zweck, das ausschließlich von einem Urheber bestimmt wird, der so handelt, als hätte er das Recht, den Willen eines anderen seinen eigenen Fantasien unterzuordnen. Es sagt: Dein Abbild steht mir zur Neugestaltung zur Verfügung; deine Interessen spielen keine Rolle. Daher ist ein pornografischer Deepfake nicht einfach deshalb moralisch neutral, weil er vor den Blicken verborgen bleibt. Seine Verwerflichkeit liegt in dem, was er ausdrückt und inszeniert: eine Auslöschung der Autonomie, eine Verweigerung der Einwilligung und ein symbolischer Übergriff auf die Identität eines anderen. Er stellt die moralischen Grenzen dessen in Frage, was wir mit den Bildern und Identitäten anderer tun dürfen – selbst im privaten Bereich.
Wir halten diese Überlegungen für überzeugende Gründe, private Deepfakes als moralisch verwerflich anzusehen, auch wenn zugegebenermaßen manche diese Intuition vielleicht nicht teilen, insbesondere im Vergleich zu anderen offensichtlichen Verfehlungen wie der „harmlosen Vergewaltigung“, bei der ein breiter Konsens herrscht. Im Gegensatz zu diesen Fällen mögen private Deepfakes manchen eher als technologische Erweiterung einer sexuellen Fantasie erscheinen denn als echte moralische Verletzung. An dieser Stelle müssen wir einen echten Intuitionskonflikt anerkennen, weshalb das Ziel dieses Beitrags enger gefasst ist: Er bietet eine Darstellung, die die normativen Belange für diejenigen erläutert, die bereits die Intuition teilen, dass solche Handlungen unrechtmäßig sind, und identifiziert die spezifischen Interessen, die im Spiel sind, wenn wir Deepfakes als eine Usurpation von Autorität betrachten.
Angenommen, private Deepfakes sind unrecht – kann die schadensbasierte Theorie dann erklären, warum dieser Deepfake unrecht ist? Nicht auf den ersten Blick. Die in „Pornographic Deepfake“ festgelegten Bedingungen schließen jegliche Argumente aus, wonach der Deepfake aufgrund von Faktoren unrecht sei, die auf dem persönlichen Wohlergehen von A oder einer Gefährdung ihres Rufs oder ihrer zukünftigen Beschäftigung beruhen. Es ist keineswegs offensichtlich, dass A durch etwas geschädigt werden kann, das ihr keinen körperlichen oder psychischen Schaden zufügt, von dem sie nichts erfahren kann und das sie in keiner greifbaren Weise betrifft. Es besteht kein Risiko, dass der Deepfake dazu verwendet werden könnte, A’s Identität zu stehlen, sie zu erpressen oder einzuschüchtern oder ihren Ruf, ihre Karriere oder ihre Beschäftigung zu beeinträchtigen. Man könnte versuchen zu argumentieren, dass A geschädigt wird, weil B sie in einem bestimmten Licht sieht, vielleicht als sexuelles Objekt. Tatsächlich könnte man argumentieren, dass B A letztendlich sexuell objektivieren könnte, selbst wenn B den Deepfake nie ansieht und A somit nie als sexuelles Objekt wahrnimmt. Oder nehmen wir an, A sei nur eines von vielen potenziellen Opfern, zufällig ausgewählt durch einen Lotteriealgorithmus, der aus öffentlich zugänglichen Fotos Deepfakes generiert, sodass B niemals weiß, um wen es bei dem Deepfake geht. Man könnte dennoch argumentieren, dass bereits die bloße Herstellung des Deepfakes von A ausreichen könnte, um ihre Sexualisierung zu billigen. Zwar sollten wir sicherlich zugeben, dass die sexuelle Objektivierung einer Person oft einem Unrecht gegenüber dieser Person gleichkommt, doch ist es schwierig, Bs sexuelle Objektivierung von A im pornografischen Deepfake als eine Schädigung von A im wohlfahrtstheoretischen Sinne einzustufen, zumal A B nie begegnet und B in Bezug auf A nie mit irgendjemandem interagiert. In keiner Weise führt Bs sexuelle Objektivierung von A zu körperlichem oder psychischem Schaden für A, noch beeinträchtigt sie das Wohlergehen von A in irgendeiner anderen greifbaren Weise. Der Theoretiker des reinen Schadens muss zu dem Schluss kommen, dass hier kein Unrecht vorliegt. Dennoch bleibt unsere Intuition bestehen, dass B etwas Unzulässiges getan hat. Dies deutet darauf hin, dass die Unrechtmäßigkeit konstitutiv und nicht kausal ist. B hat eine normative Grenze überschritten – A’s Autorität über die eigene Darstellung –, anstatt A’s Wohlfahrtsinteressen zu beeinträchtigen.
Aus diesen Gründen kann die schadensbasierte Theorie die mit der Erstellung von Deepfakes verbundenen Unrechtmäßigkeiten nicht vollständig erklären.
4 Geschlechtsspezifische Unterdrückung, Kontrolle und weitere Überlegungen
Wie lässt sich die moralische Verwerflichkeit der bloßen Erstellung eines pornografischen Deepfakes wie „Pornographic Deepfake“ erklären, wenn dadurch kein erkennbarer Schaden entsteht? Ein naheliegender Ansatzpunkt ist ein Vorschlag von Öhman selbst. Er argumentiert, dass die Intuition, dass B durch die Erstellung eines Deepfakes von A etwas Falsches tut, zum Teil auf der Rolle beruht, die Pornografie in einem umfassenderen sozialen System der Geschlechterunterdrückung spielt. Der Gedanke dahinter ist, dass Deepfake-Pornografie durch ein komplexes Netzwerk aus männlichen Konsumenten, Produzenten und Frauenfeindlichkeit ermöglicht wird, das Frauen systematisch auf Sexobjekte reduziert. Angesichts der Tatsache, dass pornografische Deepfakes in der Regel stark geschlechtsspezifisch geprägt sind, fordert Öhman uns nachdrücklich auf, anzuerkennen, dass das Phänomen untrennbar mit der systematischen Erniedrigung von Frauen verbunden ist. Dies erklärt, warum es unzulässiger erscheinen mag, einen Deepfake einer berühmten Schauspielerin zu erstellen und zu verbreiten als einen eines männlichen Politikers, selbst wenn beide zum Zweck sexueller Befriedigung produziert werden. Denn genau wie herkömmliche Pornografie hat auch Deepfake-Pornografie das Potenzial, Geschlechterunterdrückung zu verstärken, indem sie Beziehungen der Geschlechterungleichheit erotisiert:
Es stimmt, dass beide [die berühmte Schauspielerin und der männliche Politiker] ein Interesse daran haben, dass der Film nicht gedreht wird. Betrachtet man dies jedoch aus der Makroperspektive der Geschlechterungleichheit – d. h. die Technologie, den Produzenten und [die Opfer] als Teile eines größeren Systems und nicht lediglich als zwei beliebige Individuen –, so unterscheiden sich diese Interessen in ihrer Legitimität. Somit liegt die ethische Bedeutung dessen, was privat und lokal erscheint, in dem politischen und sozialen System, in dem es stattfindet.
Wir leugnen die Stichhaltigkeit dieser Erklärung nicht. Öhman hat wahrscheinlich Recht damit, dass die überwiegende Mehrheit der tatsächlichen Deepfake-Pornografie eine spezifische Form geschlechtsspezifischer Gewalt darstellt, die der Aufrechterhaltung patriarchaler Unterdrückung dient. Doch während diese Darstellung in vielen Fällen die Schwere und die systemische Funktion des Unrechts erklärt, isoliert sie nicht das konstitutive Unrecht dieser Nutzung der Technologie an sich. Sie erklärt, warum der Deepfake schlecht für Frauen ist, aber nicht, warum der Deepfake an sich ein Unrecht ist. Um zu verstehen, warum, nehmen wir einmal an, das Opfer in „Pornographic Deepfake“ sei ein cisgeschlechtlicher, heterosexueller, weißer, westlicher, reicher Mann. Wir vermuten, dass die meisten Menschen zustimmen würden, dass dieser Person durch einen pornografischen Deepfake unter den oben genannten Bedingungen (i) und (ii) Unrecht getan würde, genauso wie der Schauspielerin. Wenn unsere Intuition besagt, dass dieser Person dennoch Unrecht getan wird, dann kann das Unrecht verursachende Merkmal nicht ausschließlich aus der geschlechtsspezifischen Unterdrückung abgeleitet werden.
Wie könnten wir die moralische Verwerflichkeit eines pornografischen Deepfakes sonst noch erklären? Betrachten wir eine weitere Strategie, die von Story und Jenkins vorgeschlagen wurde. Sie argumentieren, dass die nicht einvernehmliche Verbreitung absichtlich unwahrer Darstellungen über eine Person an sich schon ein „pro tanto“-Unrecht darstellt, da sie das Recht dieser Person verletzt, dass ihre soziale Identität nicht manipuliert wird. Dieses Recht gründet sich auf unser Interesse daran, Autonomie über unsere sozialen Beziehungen zu anderen ausüben zu können. Eine Möglichkeit, ein auf Autonomie basierendes Recht in Bezug auf die eigene soziale Identität zu begründen, ergibt sich aus de Ruiters Arbeit zu Deepfakes. Er argumentiert, dass die Verbreitung von Deepfakes ohne Einwilligung als Verletzung des Rechts einer Person auf digitale Selbstdarstellung betrachtet werden sollte, also als eine Art „digitales Persona-Plagiat“. Der Gedanke dahinter ist, dass das Selbstbild und das Abbild einer Person ein zentraler Bestandteil ihres Selbstverständnisses sind und digitale Darstellungen eine zentrale Rolle bei der Gestaltung der eigenen sozialen Identität spielen. Die Erstellung und Verbreitung von Deepfakes ohne Einwilligung verletzt das Recht einer Person, die primäre Bestimmungsinstanz ihrer sozialen Identität zu sein, und „sie auf eine Weise darzustellen, die ihren Willen missachtet und ihrem Selbstverständnis zuwiderläuft“. Eine weitere Möglichkeit, die Story und Jenkins unter Rückgriff auf die Arbeiten von Rachels und Marmor als Grundlage für ihre Argumentation in Betracht ziehen, liegt im Bereich der Persönlichkeitsrechte, insbesondere in der Vorstellung, dass wir ein Interesse daran haben, kontrollieren zu können, welche Art von Beziehungen wir zu anderen unterhalten. Der Gedanke dabei ist, dass es für die Ausübung von Autonomie und Kontrolle über die eigenen sozialen Beziehungen wichtig ist, die Informationen kontrollieren zu können, zu denen andere über einen selbst Zugang haben. Nach dieser Darstellung ist die Verbreitung von Deepfake-Pornografie ohne Einwilligung falsch, weil sie die Fähigkeit des Betroffenen untergräbt, Kontrolle über seine Beziehungen zu anderen auszuüben, indem sie seine Fähigkeit untergräbt, zu kontrollieren, auf welche Informationen über sich selbst andere Zugriff haben.
Zwar treffen diese Strategien in einem wichtigen Punkt zu, wenn sie die Unrechtmäßigkeit von Deepfakes anhand der zentralen Bedeutung des Selbstbildes und der Selbstwahrnehmung für die Gestaltung der sozialen Identität erklären; doch erklären diese Strategien lediglich, was an der Verbreitung von Deepfake-Pornografie ohne Einwilligung falsch ist, nicht jedoch an der bloßen Erstellung derselben. Genauer gesagt können wir nicht behaupten, dass die soziale Identität einer Person allein durch die Erstellung eines Deepfakes manipuliert wurde, wenn dieser Deepfake niemals verbreitet wird. Ebenso wenig können wir sagen, dass die Interessen von A an der Kontrolle über seine Beziehungen zu anderen verletzt wurden, da keine neuen Informationen über A verbreitet wurden und somit die Interessen von A an der Kontrolle des Informationsflusses nicht verletzt wurden. Folglich erklären diese Strategien zwar bis zu einem gewissen Grad, was an der Verbreitung von Deepfakes falsch ist, versagen jedoch dabei, zu erklären, was an der bloßen Erstellung dieser Deepfakes falsch ist.
Eine weitere Einschränkung der Strategien von Story und Jenkins sowie von de Ruiter besteht darin, dass sie den folgenden Fall der nicht einvernehmlichen Verbreitung von Deepfake-Pornografie nicht erklären können.
Der Deepfake eines Pornostars Ein Darsteller in Pornofilmen ist Opfer eines Deepfakes geworden, der ihn qualitativ nicht von einer seiner tatsächlichen Szenen zu unterscheiden darstellt. Der Deepfaker hat ein Körperdouble eingesetzt, um eine der Szenen des Darstellers nachzustellen, dabei eine Einzelbild-für-Einzelbild-Kopie erstellt und anschließend mithilfe von DL-Technologien das Gesicht des Körperdoubles durch das des Darstellers ersetzt.
Dieser Deepfake ist hinsichtlich seines Informationsgehalts wahrheitsgetreu: Er stellt ein Ereignis dar, das tatsächlich stattgefunden hat. Bedeutet dies – angesichts der Tatsache, dass der ursprüngliche Pornofilm mit Zustimmung des Darstellers bereits weit verbreitet ist –, dass dem Darsteller durch die Erstellung und Verbreitung des Deepfakes kein Unrecht widerfährt?
Wir glauben nicht. Uns scheint, dass dem Darsteller trotz der Genauigkeit der Darstellung dennoch Unrecht getan wird. Bestehende Erklärungsansätze tun sich jedoch schwer, dies zu begründen. Story und Jenkins konzentrieren sich auf das Interesse des Betroffenen an der Kontrolle seiner sozialen Identität und des Zugangs zu Informationen. Doch in diesem Fall ist die dargestellte soziale Identität korrekt – der Schauspieler ist tatsächlich ein Pornodarsteller, der in einer Szene genau wie im Deepfake mitgewirkt hat – und die Informationen sind bereits öffentlich. Wenn das Unrecht allein davon abhinge, zu kontrollieren, was von wem gesehen wird, gäbe es hier kein Unrecht. Das Unrecht muss daher woanders liegen.
Um die Natur dieses Unrechts zu verstehen, müssen wir zwischen dem Inhalt einer Darstellung und ihrer Herkunft bzw. Urheberschaft unterscheiden. Betrachten wir die folgende Analogie:
Gefälschter Scheck Angenommen, A schuldet B 50 £. A beabsichtigt zu zahlen, doch bevor A den Scheck ausstellen kann, stiehlt B das Scheckheft von A, fälscht A’s Unterschrift, um einen Scheck über genau 50 £ an sich selbst auszustellen, und löst ihn ein.
Auch wenn der Inhalt des Schecks die Schuld, die A gegenüber B hat, korrekt widerspiegelt und B das Geld erhält, das ihm zusteht, hat B A durch die Fälschung des Schecks unbestreitbar Unrecht zugefügt. Darüber hinaus ist dieses Unrecht völlig unabhängig davon, ob der gefälschte Scheck zur Begleichung von As Schuld verwendet wird, da B A offenbar dennoch Unrecht zugefügt hat, selbst wenn er Opfer eines tödlichen Unfalls wird, der ihn daran hindert, den gefälschten Scheck einzulösen. Unserer Ansicht nach liegt der Grund dafür, dass B A Unrecht tut, darin, dass B sich die Befugnis von A, die Quelle der Transaktion zu sein, angeeignet hat. A hat ein Interesse daran, die normative Befugnis zur Genehmigung der Übertragung zu besitzen, und B hat diese Befugnis umgangen.
Die gleiche Argumentation gilt für den Deepfake des Pornostars. Auch wenn der Inhalt des Deepfakes in dem Sinne wahrheitsgetreu ist, dass er eine Szene zeigt, die der Darsteller bereits gespielt hat, hat der Deepfaker die Darbietung „gefälscht“. Indem er die biometrischen Daten des Darstellers zur Erstellung des Videos verwendet, usurpiert der Deepfaker die Befugnis des Darstellers, die Nutzung seines Körpers auf diese Weise zu genehmigen. Das Unrecht liegt nicht darin, Informationen offenzulegen, die bereits öffentlich zugänglich sind, sondern darin, die Autorität des Schauspielers als Urheber seiner eigenen digitalen Präsenz zu umgehen. Da Story und Jenkins den Schwerpunkt auf unser Interesse an der Kontrolle von Informationen legen und nicht auf unser Interesse an normativer Autorität, wird diese Unterscheidung in ihrer Darstellung nicht erfasst.
Betrachten wir abschließend, ob die Unrechtmäßigkeit der Erstellung von Deepfakes anhand von Verletzungen der Privatsphäre erklärt werden kann. Das Recht auf Privatsphäre wird, wie es nach Prosser üblicherweise verstanden wird, in vier Kategorien unterteilt: unzumutbarer Eingriff in die Abgeschiedenheit und die privaten Angelegenheiten einer anderen Person, öffentliche Diskussion über peinliche private Tatsachen einer anderen Person, Veröffentlichung, die eine andere Person in einem falschen Licht erscheinen lässt, sowie die Aneignung des Namens oder des Bildnisses einer anderen Person zum eigenen Vorteil. Weder die erste noch die zweite Kategorie trifft eindeutig auf „Pornographic Deepfake“ und „Pornstar’s Deepfake“ zu. Denn die bloße Erstellung des Deepfakes stellt keinen unzumutbaren Eingriff in die Privatsphäre oder die privaten Angelegenheiten einer anderen Person dar, da die Bilder und Videos, mit denen der DL-Algorithmus trainiert wurde, von der betroffenen Person selbst öffentlich zugänglich gemacht wurden. Ebenso besteht der Deepfake im vorliegenden Fall weder in einer öffentlichen Diskussion über peinliche private Tatsachen über eine andere Person, noch würde er zu einer solchen führen, da der Deepfake nicht verbreitet werden kann und somit nicht öffentlich bekannt werden kann. Allgemeiner gesagt stellen unwahre Deepfakes per Definition keine Tatsachen dar und können daher keine peinliche private Tatsache über jemanden darstellen (es sei denn, ihre bloße Erstellung stellt eine solche Tatsache dar). Drittens: Während man Deepfakes generell als eine Form der Veröffentlichung betrachten kann, die eine andere Person in ein falsches Licht rückt, gewährleistet die Konstellation des vorliegenden Falls, dass keine solche Veröffentlichung vorliegt, und daher können wir uns nicht auf die dritte Kategorie berufen, um die Unrechtmäßigkeit des Falls zu erklären. Interessanterweise stellt sich hier eine zweite Herausforderung: Es gilt genau zu artikulieren, inwiefern man durch wahrheitsgetreue Deepfakes in ein falsches Licht gerückt wird, die zwar genaue Darstellungen tatsächlich geschehener Ereignisse sind, aber insofern irreführend sind, als sie vorgeben, Archivdokumente des tatsächlichen Ereignisses zu sein. Schließlich stellen Deepfakes zwar zweifellos eine Aneignung des Namens oder des Bildnisses einer anderen Person dar, doch ist keineswegs klar, ob Deepfakes eine Aneignung zum eigenen Vorteil darstellen. Während einige Deepfakes zum eigenen Vorteil des Urhebers erstellt werden, wie etwa bei CEO-Betrug oder falschen Werbeempfehlungen, werden viele Deepfakes erstellt, um andere einzuschüchtern, zu belästigen oder sich einfach auf deren Kosten zu amüsieren. Es ist nicht klar, ob dies einen relevanten Vorteil im Sinne des Datenschutzes darstellt. Aus diesen Gründen ist es zweifelhaft, ob das Unrecht durch Deepfakes und ebenso das Recht auf das eigene Selbstbild angemessen im Rahmen des Rechts auf Privatsphäre erfasst werden können.
5 Die Sichtweise des Autoritätsinteresses und das Recht gegen algorithmische Einbeziehung
In diesem Abschnitt argumentieren wir, dass die Erstellung der Deepfakes in „Pornographic Deepfake“ und „Pornstar’s Deepfake“ ein moralisches Unrecht gegenüber den Betroffenen darstellt, da sie deren Interesse daran untergraben, die Kontrolle darüber zu haben, wer was mit ihrem Bild tut. Insbesondere vertreten wir die folgende Hypothese:
Die Sichtweise des Autoritätsinteresses Deepfakes sind unter anderem dann moralisch verwerflich, wenn sie das Interesse der betroffenen Person an der Autorität darüber verletzen, wer was mit ihrem Bild, ihrem Abbild oder anderen identitätsstiftenden Aspekten ihrer Identität tut. Konkret haben wir ein Interesse daran, die Autorität über die Steuerung unserer biometrischen Identität zu haben, sowie ein spezifisches Recht gegen deren algorithmische Aneignung. Nach dieser Sichtweise sind Deepfakes moralisch verwerflich, wenn sie unsere Autorität verletzen, die Herkunft unseres eigenen Handelns zu bestimmen, und unsere Identität als generative Ressource für synthetische Medien behandeln.
5.1 Reine Unrechtstaten und normative Interessen
Der zentrale Grund, warum bestehende Erklärungsansätze die Unrechtmäßigkeit von „Pornographic Deepfake“ und „Pornstar’s Deepfake“ nicht erklären können, besteht darin, dass es sich um Fälle von bloßen Unrechtstaten handelt. Eine Unrechtstat ist eine bloße Unrechtstat, wenn sie in der Verletzung einer Verpflichtung besteht, die kein nicht-normatives Interesse beeinträchtigt. Beispielsweise begeht jemand, der heimlich ein Versprechen bricht, eine Person nicht zu fotografieren, ein Unrecht gegenüber dieser Person, selbst wenn kein Schaden entsteht und weder der Versprechungsempfänger noch sonst jemand jemals davon erfahren wird. Ähnlich verhält es sich im Fall eines harmlosen Hausfriedensbruchs: Der Hausfriedensbrecher begeht ein Unrecht gegenüber Ihnen, auch wenn er Ihnen in keiner Weise Schaden zufügt, indem er Ihre nicht-normativen Interessen beeinträchtigt oder Ihnen eine Verletzung zufügt. Wie lassen sich die Unrechte erklären, die mit dem Bruch eines Versprechens oder einem Hausfriedensbruch verbunden sind, der keinen Schaden zur Folge hat?
Hier ist eine vielversprechende Erklärung für „bloße Unrechtstaten“. Owens erklärt Fälle von bloßen Unrechtstaten anhand unserer normativen Interessen: Interessen, die wir daran haben, bestimmte Aspekte der normativen Landschaft zu kontrollieren, wie zum Beispiel die Verpflichtungen und Zusagen, die wir einander gegenüber haben und eingehen, unsere eigenen und die Rechte und Pflichten anderer oder die Informationen, die einander zulässigerweise zugänglich gemacht werden dürfen. Wir haben ein allgemeines Interesse daran, die Befugnis zu besitzen, Menschen zu verpflichten, ihnen etwas zu gestatten oder ihnen etwas zu verbieten – unabhängig von jeglichem Interesse daran, durch das Tun oder Unterlassen dieser Handlungen von ihnen begünstigt oder geschädigt zu werden. Darüber hinaus ist es für uns an sich schon gut, Autorität über diese Merkmale der normativen Landschaft zu haben. In Anlehnung an Owens wollen wir diese Interessen an den Rechten und Pflichten, die wir kontrollieren, als Autoritätsinteressen bezeichnen.
Wir können das bloße Unrecht eines harmlosen Verstoßes gegen ein Versprechen damit erklären, dass das Versprechen unserem Interesse daran dient, das Recht und die Macht zu haben, durch Erklärung versprochene Verpflichtungen zu begründen und aufzuheben, und dass dies wiederum unserem Interesse daran dient, die Macht zu haben, sicherzustellen, dass bestimmte Handlungen Unrecht darstellen. Der Versprechungsempfänger verpflichtet die Versprechende, kein Foto von ihm zu machen, indem er ihr ein Versprechen abringt, dies nicht zu tun. Dadurch entsteht eine normative Grenze. Indem die Versprechende verspricht, kein Foto vom Versprechungsempfänger zu machen, unterwirft sie sich der Verpflichtung, dies nicht zu tun, und macht diese Handlung damit zu einem Unrecht, selbst wenn sie ihm keinen Schaden zufügt, bis er sie von dem Versprechen entbindet. Die Tatsache, dass ein Versprechen eine bindende Wirkung hat, die Verpflichtungen zu bestimmten Handlungen begründet, lässt sich erklären, wenn es für uns an sich von Bedeutung ist, dass wir die Macht über diese Aspekte der normativen Landschaft haben, insbesondere die Fähigkeit, solche Verpflichtungen zu schaffen. In ähnlicher Weise lässt sich das bloße Unrecht eines harmlosen Hausfriedensbruchs erklären, wenn es an sich von Bedeutung ist, dass wir die Autorität darüber haben, wer unser Eigentum nutzen darf. Im Allgemeinen haben wir ein Interesse daran, wem die Nutzung unseres Privateigentums gestattet und wem sie untersagt ist, weil es für uns an sich wichtig ist, diese Autorität zu besitzen. Dies ist ein normatives Interesse, das unabhängig von jeglichen nicht-normativen Interessen ist, die wir möglicherweise haben, wie etwa der Verringerung der Wahrscheinlichkeit eines Hausfriedensbruchs. Folglich erklärt diese Darstellung die normative Bedeutung des Verstoßes gegen ein Versprechen und des harmlosen Hausfriedensbruchs auch dann, wenn keine nicht-normativen Interessen auf dem Spiel stehen.
5.2 Definition des Autoritätsinteresses und des Rechts gegen algorithmische Einbeziehung
Wir argumentieren, dass Individuen ein Interesse daran haben, die Befugnis darüber zu besitzen, wer was mit ihrem Bild tut. Genauer gesagt haben wir ein Interesse daran, die Befugnis zu haben, zu kontrollieren, wem gestattet ist, was mit unserer biometrischen Identität zu tun, und die generative Ressource zu kontrollieren, die unsere körperlichen Merkmale darstellen. Diese Interessen begründen wiederum ein Recht gegen algorithmische Rekrutierung.
Ein Autoritätsinteresse am eigenen Bild bezieht sich auf die Befugnis, die Einzelpersonen haben, Entscheidungen über die Verwendung ihres eigenen Bildes, ihrer Ähnlichkeit und anderer Aspekte zu treffen, die für ihre Identität von zentraler Bedeutung sind. Wenn es um das eigene Bild geht – wie beispielsweise das eigene äußere Erscheinungsbild, das in Fotos, Videos oder anderen Medien festgehalten ist –, umfasst diese Entscheidungsbefugnis das Recht, zu entscheiden, ob und wann das eigene Bild verwendet, gezeigt oder geteilt werden darf, das Recht, die Kontexte festzulegen, in denen das eigene Bild präsentiert oder verwendet wird, sowie das Recht, zu kontrollieren, ob das eigene Bild so verwendet wird, dass es die tatsächlichen Handlungen oder Absichten der Person zutreffend wiedergibt.
Im Zeitalter der KI sind unser Gesicht und unsere Stimme nicht mehr nur statische audiovisuelle Merkmale. Sie sind datenreiche Eingaben, die zur Erzeugung neuer, synthetischer Darstellungen genutzt werden können. Wir haben ein spezifisches Autoritätsinteresse daran, zu bestimmen, ob unsere biometrischen Daten als Ausgangsmaterial für solche Erzeugungen verwendet werden. Diese Autorität umfasst das Recht zu entscheiden, ob und wann die eigene biometrische Identität dazu herangezogen wird, Handlungen auszuführen, die man nicht gewollt hat. Dies ist kein pauschales Recht, jegliche Darstellung unserer Person zu verhindern, sondern ein Recht, die Nutzung unserer biometrischen Identität als generative Quelle zu regeln. Wie wir im Folgenden sehen werden, unterscheidet dies das Unrecht von Deepfakes von gewöhnlichen Darstellungen (wie Zeichnungen), die das Motiv zwar interpretieren, aber dessen tatsächliche Identität nicht heranziehen, um eine Präsenz zu erzeugen.
Es gibt einen Bereich, in dem die Vorstellung, dass Einzelpersonen vorrangige Autoritätsansprüche hinsichtlich der Verwendung ihres Bildnisses oder ihrer Ähnlichkeit haben, nicht nur weithin akzeptiert, sondern auch gesetzlich verankert ist, nämlich das Recht auf Öffentlichkeit (Right of Publicity) und damit verbundene Datenschutzgesetze. Beispielsweise haben Einzelpersonen nach den US-amerikanischen Gesetzen zum Recht auf Öffentlichkeit in unterschiedlichem Maße Kontrolle über die kommerzielle Nutzung ihrer Namen, Bilder, Ähnlichkeiten und anderer identifizierender Merkmale ihrer Identität. Dies schützt vor der widerrechtlichen Aneignung des Namens, des Abbilds oder anderer Aspekte der Identität einer Person, die in der Werbung oder auf Merchandising-Artikeln zum kommerziellen Vorteil genutzt werden. Dieser Grundsatz wurde beispielsweise vom Obersten Gerichtshof in dem wegweisenden Fall „Zacchini v. Scripps-Howard Broadcasting“ bestätigt, in dem es um einen Sender ging, der die „Human Cannonball“-Darbietung eines Künstlers ohne dessen Zustimmung filmen und im Fernsehen ausstrahlen wollte. Der Gerichtshof erkannte das Recht des Darstellers auf Öffentlichkeit an und wies die Einwände des Senders unter Berufung auf den Ersten und Vierzehnten Verfassungszusatz zurück. Dabei stellte er fest, dass seine Entscheidung nicht nur darauf abzielte, dem Darsteller eine Entschädigung zu sichern, sondern auch darauf, „einen wirtschaftlichen Anreiz für ihn zu schaffen, die erforderlichen Investitionen zu tätigen, um eine für die Öffentlichkeit interessante Darbietung zu produzieren“ (433 U.S. 562, 576). Die Bedeutung der Gesetze zum Recht auf Öffentlichkeit liegt nicht nur darin, sicherzustellen, dass eine prominente Person für die Nutzung ihres Bildnisses angemessen entschädigt wird; es geht auch um das Recht, zu kontrollieren, wie das Bild oder die Identität einer prominenten Person kommerzialisiert wird – oder, wie im Fall Waits v. Frito-Lay, Inc., 978 F.2d 1093 (9. Cir.), gezeigt wurde, ob sie überhaupt für die Vermarktung eines Produkts oder einer Dienstleistung verwendet werden.
Doch obwohl die Fragen rund um unsere Rechte an unserem Bild und unserer Ähnlichkeit mit dem Recht auf Öffentlichkeit zusammenhängen, lassen sie sich nicht vollständig darauf reduzieren. Das Recht auf Öffentlichkeit gründet sich in der Regel auf das Recht, die unbefugte kommerzielle Nutzung der eigenen Identität zu verhindern. Es macht die Verwendung des Namens oder des Bildnisses einer Person ohne deren Zustimmung einklagbar, wobei diese Rechtsdoktrin in der Regel dann zur Anwendung kommt, wenn der Name oder das Bildnis einer Person – meist einer Berühmtheit – in einem kommerziellen Kontext zur Förderung oder Werbung für ein Produkt oder eine Dienstleistung genutzt wird. Angesichts dieser historischen Ausrichtung auf weitgehend kommerzielle Kontexte beruht das Recht auf Öffentlichkeit in der Regel auf wirtschaftlichen Ansprüchen. Folglich kann der begrenzte Anwendungsbereich der Gesetze zum Recht auf Öffentlichkeit unsere weitergehenden Interessen in Bezug auf nichtkommerzielle Nutzungen und Missbräuche unserer Identität nicht erklären. Solche Interessen begründen Pflichten und Verpflichtungen für andere, unser Bild oder unsere Ähnlichkeit nicht in einer Weise zu nutzen, für die wir keine Erlaubnis erteilt haben, unabhängig davon, ob uns dadurch wirtschaftliche Nachteile entstehen.
Unser Ziel ist es hier, eine allgemeinere Darstellung unserer Autoritätsinteressen in Bezug auf unser Bild zu liefern. Nach der vorliegenden Darstellung ergibt sich das Autoritätsinteresse an der eigenen biometrischen Identität aus der tieferen Bedeutung der Urheberschaft. Wie wir bereits angemerkt haben, sind unser Bild und unser Abbild direkte Erweiterungen unserer Identität. Im öffentlichen Raum konstituieren wir uns durch unser Erscheinungsbild; unser Gesicht und unsere Stimme sind die primären Mechanismen, durch die wir mit anderen interagieren und unsere Handlungsfähigkeit in der Welt zum Ausdruck bringen. Oft bemühen wir uns intensiv darum, die Wahrnehmung unserer Person zu gestalten, indem wir bestimmte Aspekte unserer Persönlichkeit im privaten, sozialen und beruflichen Umfeld so inszenieren, dass sie unser wahres Selbst widerspiegeln. Dieser Prozess der Selbstdarstellung ist nicht bloß eine Frage von Eitelkeit oder Reputationsmanagement; er ist eine Übung in Autonomie.
Wir haben ein grundlegendes Interesse daran, sicherzustellen, dass die Figur, die der Welt als „wir“ präsentiert wird, tatsächlich unserem eigenen Willen entspricht. Das ist es, was wir unter einem Interesse an Urheberschaft verstehen: das Interesse daran, der einzige Ursprung der Handlungen und Darbietungen zu sein, die unserer Identität zugeschrieben werden. Wenn andere unser Bild manipulieren, indem sie uns nachahmen, stellen sie uns nicht bloß in einem falschen Licht dar: Sie greifen in einen Mechanismus der Selbstdarstellung ein. Dies erklärt, warum sich dieses Interesse an Autorenschaft von dem aktiven Wunsch unterscheidet, unser Bild zu kontrollieren oder zu gestalten. Selbst eine Person, die wenig Interesse daran hat, ihr öffentliches Image zu steuern, hat ein grundlegendes Interesse daran, der alleinige Urheber ihrer Handlungen zu sein und zu bestimmen, wer in ihrem Namen was tun darf. Ein Deepfake unterbricht die Verbindung zwischen dem Handelnden und der Handlung. Dies fügt eine spezifische Art normativer Verletzung zu: Es zwingt das Subjekt, gegen seinen Willen zu „sprechen“ oder zu „handeln“. Wenn ein Deepfake das Gesicht einer Person verwendet, um sie bei der Ausführung einer Handlung darzustellen, verletzt er dieses Interesse an der Urheberschaft.
Daher schützt das Autoritätsinteresse nicht nur unsere nicht-normativen Interessen (z. B. den Ruf), sondern auch die Integrität des Prozesses, durch den wir uns in der Öffentlichkeit konstituieren. Genauso wie wir ein Interesse an der Integrität unseres physischen Körpers haben, haben wir ein analoges Interesse an der Integrität unseres digitalen Körpers, jener datenreichen Karte des Selbst, die es uns ermöglicht, anderen gegenüber in Erscheinung zu treten. Die Autorität darüber zu verlieren, bedeutet, einen konstitutiven Teil der eigenen Handlungsfähigkeit im digitalen Zeitalter zu verlieren.
5.3 Autoritätsinteressen und Deepfakes
Nachdem wir die „Authority Interest View“ skizziert haben, wollen wir nun untersuchen, wie sie die Unrechtmäßigkeiten erklärt, die mit der Erstellung der Deepfakes in „Pornographic Deepfake“ und „Pornstar’s Deepfake“ verbunden sind.
In „Pornographic Deepfake“ wird der Deepfake ohne Wissen oder Zustimmung der Person erstellt, deren Bild manipuliert und angeeignet wird. Dies stellt eine direkte Verletzung ihres Rechts dar, die Verwaltung ihrer biometrischen Identität zu genehmigen und zu kontrollieren. Es spielt keine Rolle, dass die vom Algorithmus verwendeten Bilder gemeinfrei sind oder dass sie von der betroffenen Person freiwillig dort veröffentlicht wurden, da die Veröffentlichung eines Bildes keine pauschale Erlaubnis für jede beliebige Nutzung gewährt. Durch die Erzeugung synthetischer Medien einer Person untergräbt der Urheber die Autorität der Person, über die Herkunft ihrer eigenen Handlungsfähigkeit zu bestimmen. Der Deepfake zwingt die Identität der Person dazu, Handlungen auszuführen, die sie nicht gewollt hat, was ein Unrecht darstellt, unabhängig davon, ob dadurch ihr Ruf, ihre Beziehungen oder ihre öffentliche Wahrnehmung geschädigt werden.
In „Pornstar’s Deepfake“ ist das Unrecht subtiler. Zwar hat der Darsteller zuvor zugestimmt, in einem Pornofilm mitzuwirken, doch hat er nicht zugestimmt, dass seine biometrische Identität zur Erzeugung neuer Darbietungen verwendet wird, selbst wenn diese Darbietungen qualitativ mit dem Original identisch sind. Die Erstellung des Deepfakes missachtet die konkreten Grenzen der Einwilligung des Darstellers. Hier entzieht die bloße Erstellung von Deepfakes dem Betroffenen jegliche Handlungsfähigkeit oder Kontrolle über die Produktion seines Bildes, unabhängig von etwaigen Vorteilen für andere oder potenziellen Nachteilen für den Betroffenen selbst. Das Opfer verliert die Hoheit über seine Darstellung: Es ist nicht mehr der Entscheidungsträger über sein eigenes Bild oder seine Identität.
Man könnte einwenden, dass es, da der Inhalt in „Pornstar’s Deepfake“ wahrheitsgetreu ist, keinen „falschen Eindruck“ oder keine Täuschung und somit kein Unrecht gibt. Dieser Einwand verwechselt jedoch den Inhalt mit der Herkunft. Selbst wenn der Deepfake den Betrachter nicht über Fakten täuscht, ordnet er die Handlungsmacht falsch zu. Erinnern wir uns an die Analogie aus dem Fall des gefälschten Schecks. Wenn B die Unterschrift von A fälscht, um einen Scheck über eine Schuld auszustellen, die A tatsächlich schuldet, begeht B dennoch ein Unrecht gegenüber A. B hat sich die Stellung von A als Urheber der Transaktion angeeignet. In ähnlicher Weise eignet sich der Deepfaker die Stellung des Schauspielers an, die Verwendung seines Bildes zu genehmigen. Das Unrecht liegt nicht im erstellten Inhalt, da dieser bereits öffentlich ist, sondern in der unbefugten Aneignung der Identität der betroffenen Person zur Erstellung des Mediums. Der Deepfaker behandelt die Gesichter der Darsteller als ein Werkzeug, zu dessen Einsatz er berechtigt ist, und umgeht damit die Autorität des Darstellers, der alleinige Urheber seiner eigenen Handlungen zu sein. Dies erklärt auch, warum die Verbreitung von Deepfakes mit einem Hinweis oder Haftungsausschluss bezüglich der Art der Erstellung das moralische Problem nicht löst. Ein Haftungsausschluss mag zwar eine unrechtmäßige Darstellung abmildern, doch das Eingeständnis, einen Deepfake erstellt zu haben, behebt nicht die unrechtmäßige Aneignung des Bildes, genauso wenig wie das Eingeständnis einer Fälschung diese zulässig macht.
5.4 Der Umfang des Autoritätsinteresses
Eine zentrale Herausforderung für die „Authority Interest View“ ist die Befürchtung, dass sie zu weit geht. Insbesondere könnte man befürchten, dass diese Sichtweise durch die Postulierung einer übergeordneten Autorität über die Verwendung des eigenen Bildes zulässige Verwendungen unseres Bildes außer Acht lässt, die keiner Einwilligung bedürfen. Betrachten wir die folgenden Fälle:
Haarschnitt: Eine Person bringt ein Foto eines Fremden zum Friseur, um die gewünschte Frisur zu zeigen.
Ölgemälde: Ein Hobbykünstler verwendet ein öffentlich zugängliches Foto einer berühmten Persönlichkeit als Vorlage für ein realistisches Ölgemälde.
Satire: Ein Animator zeichnet für eine Sendung eine grobe Karikatur eines Politikers, die diesen in peinlicher und nicht der Wahrheit entsprechender Weise darstellt.
Jahrbuch: Eine Person betrachtet ein öffentlich zugängliches Jahrbuchfoto und nutzt es, um ihre privaten sexuellen Fantasien anzuregen.
In diesen Fällen wird ein Bild der abgebildeten Person ohne deren Einwilligung verwendet, manchmal auf eine Weise, die diese Person möglicherweise ablehnen würde, die ihr jedoch intuitiv kein Unrecht zuzufügen scheint. Wenn die „Authority Interest“-Perspektive davon ausgeht, dass jede unbefugte Verwendung des eigenen Bildes an sich schon ein Unrecht darstellt, dann ist diese Sichtweise unplausibel weit gefasst. Um diese Sichtweise zu verteidigen, müssen wir prinzipielle Unterscheidungen vorbringen, die erklären, warum die Erstellung von Deepfakes falsch ist, während diese gewöhnlichen Verwendungszwecke zulässig bleiben.
Wir haben die Idee vertreten, dass wir Autoritätsinteressen an unserer biometrischen Identität als generative Ressource haben. Dabei handelt es sich nicht um ein pauschales Recht, Ähnlichkeiten oder Verweise zu verhindern. Vielmehr ist es ein spezifisches Recht gegen die algorithmische Aneignung unserer Identität. Wir werden darlegen, dass dies uns ermöglicht, zwischen zulässigen Darstellungen und unrechtmäßigen Simulationen zu unterscheiden.
Wenn ein Kunde ein Foto als Vorlage für einen Haarschnitt heranzieht, ein Hobbykünstler ein Porträt malt oder ein Animator einen Cartoon zeichnet, handelt es sich um eine Darstellung. Die daraus resultierende Darstellung ist eine Interpretation des Subjekts, die vollständig durch die eigenen Fähigkeiten und die Wahrnehmung des Handelnden vermittelt wird. Das Subjekt ist der Referent, der Handelnde jedoch der Ausführende. Entscheidend ist, dass das Autoritätsinteresse des Subjekts hier nicht verletzt wird, da die normative Quelle der Darstellung die eigene Arbeit des Schöpfers ist. Das Autoritätsinteresse schützt das Recht des Subjekts, die Herkunft seiner eigenen Handlungsfähigkeit zu bestimmen, um sicherzustellen, dass es die einzige Quelle jeder Leistung ist, die als seine eigene präsentiert wird. Bei einem Ölgemälde oder einer Karikatur ist das Werk ein Ausdrucksakt über das Subjekt; die Darstellung gibt nicht vor, eine Handlung oder Leistung des Subjekts zu sein. Da der Künstler die biometrische Identität des Subjekts nicht als generative Quelle des Bildes heranzieht, sondern sie vielmehr durch sein eigenes Handeln neu interpretiert und vermittelt, bleibt die Autorität des Subjekts unberührt. Im Allgemeinen haben wir nicht die Befugnis, andere daran zu hindern, unser öffentliches Auftreten zu interpretieren oder darauf Bezug zu nehmen, sondern lediglich daran, unsere Anwesenheit zu simulieren.
Im Gegensatz dazu geht es bei Deepfakes um Simulation. Anders als bei der bloßen Darstellung, bei der es um die Interpretation des Subjekts durch einen Vermittler geht, wird das Subjekt bei der Simulation verarbeitet. Deep-Learning-Algorithmen nutzen die biometrischen Daten des Subjekts als Ausgangsmaterial, um synthetische Medien zu erzeugen. Dies stellt einen Verstoß gegen das Autoritätsinteresse dar, da dadurch die Herkunft der Handlungsfähigkeit verfälscht wird. Das Unrecht besteht hier nicht in einer Verwirrung; es geht nicht darum, dass ein Betrachter dazu verleitet werden könnte, die Darstellung für real zu halten. Vielmehr ist das Unrecht normativer Natur: Der Urheber hat dem Subjekt seine Stellung als alleiniger Urheber seiner digitalen Präsenz entzogen. Dies erklärt, warum technische Maßnahmen wie Wasserzeichen oder die Tatsache, dass die Datei privat bleibt, das moralische Problem nicht lösen. Ein Wasserzeichen mag zwar verhindern, dass ein Publikum getäuscht wird, aber es macht die unbefugte Aneignung der Identität des Subjekts als generative Ressource nicht rückgängig. So wie das Fälschen einer Unterschrift ein Unrecht bleibt, selbst wenn die Bank sie als Fälschung erkennt, ist die algorithmische Simulation eines Akteurs eine Usurpation seiner Autorität, unabhängig davon, ob das Artefakt „entdeckt“ wird oder ob ein Haftungsausschluss beigefügt ist. Ein Deepfake beseitigt die sichtbare Distanz zwischen der Leinwand des Künstlers und dem Körper des Subjekts; er interpretiert das Subjekt nicht, sondern rekrutiert dessen Identität, um eine synthetische Darbietung auszuführen.
Wir müssen zudem zwischen privaten mentalen Vorgängen und öffentlicher Fälschung unterscheiden. Man könnte befürchten, dass der Anspruch auf Autorität über das eigene Bild private sexuelle Fantasien unterbinden würde. Autoritätsinteressen bestimmen jedoch die zwischenmenschliche normative Landschaft: Handlungen, die durch gemeinsame Regeln geregelt werden können. Private mentale Zustände oder Ereignisse stellen in diesem zwischenmenschlichen Sinne keine „Nutzung“ eines Bildes dar. Diese Unterscheidung gilt auch dann, wenn man ein öffentliches Foto zur Unterstützung der eigenen Fantasie nutzt. In diesen Fällen nutzt der Betrachter das Bild lediglich als Anreiz für einen privaten Gedanken. Er manipuliert das Bild nicht, um ein Simulakrum zu erschaffen. Im Gegensatz dazu beinhaltet selbst die Erstellung eines privaten Deepfakes eine externe Manipulation. Dabei werden die biometrischen Daten des Subjekts verarbeitet, um ein stabiles Artefakt zu schaffen, das unabhängig vom Geist des Schöpfers existiert. Dieses Artefakt stellt ein Simulakrum dar: eine externalisierte Darstellung, die die Handlungsfähigkeit des Subjekts für sich beansprucht. Die Schaffung dieses Artefakts fällt in den zwischenmenschlichen Bereich, da sie die Manipulation der digitalen Präsenz des Subjekts in der Außenwelt beinhaltet. Das Unrecht ergibt sich nicht daraus, wer es sieht, sondern aus der Tatsache, dass die Identität des Subjekts in eine konkrete, unbefugte Form gezwängt wurde.
Somit vermeidet die „Authority Interest View“ den Vorwurf der Übertreibung. Indem wir das Unrecht in der algorithmischen Vereinnahmung und nicht in bloßer Ähnlichkeit verankern, bewahren wir den moralischen Raum für künstlerische Interpretation und privates Denken und schützen gleichzeitig das Subjekt davor, dass seine digitale Identität missbraucht wird. Diese Darstellung bestätigt die Intuition, dass die Erstellung privater Deepfakes ein moralisches Unrecht darstellen kann – eines, das sich weder durch Schäden erfassen lässt noch als bloße Variante des Zeichnens oder der Vorstellungskraft abgetan werden kann.
5.5 Sekundäre Schäden und nützliche Anwendungen
Nachdem wir das primäre Unrecht bei der Erstellung von Deepfakes festgestellt haben, können wir dessen Zusammenhang mit Schaden erläutern. Wir haben argumentiert, dass die Verletzung des Autoritätsinteresses ein eigenständiges Unrecht darstellt. Dieses normative Interesse lässt sich zwar nicht auf unsere nicht-normativen Interessen reduzieren, ist aber auch nicht völlig unabhängig von ihnen. Nach der vorliegenden Darstellung stellen die durch Deepfakes verursachten Schäden sekundäre Unrechtstaten gegenüber den Betroffenen dar. So wie der Versprechende dem Versprochenen psychischen Schaden zufügen kann, wenn dieser herausfindet, dass sein Foto gegen seinen Willen aufgenommen wurde, oder wie der Hausfriedensbrecher durch seine Handlungen Sachschaden hätte verursachen können, bergen die Erstellung und die Verbreitung von Deepfakes das Potenzial, eine Vielzahl erheblicher Schäden zu verursachen. Doch ebenso wie die durch einen Verstoß gegen ein Versprechen oder durch Hausfriedensbruch verursachten Schäden sekundäre Unrechtstatbestände darstellen, die sich aus dem primären Unrecht der Verletzung der Autoritätsinteressen einer Person ergeben, sind auch die vielfältigen Schäden, die Deepfakes verursachen können, sekundärer Natur. Das soll nicht heißen, dass diese Schäden weniger schwerwiegend wären. Vielmehr wird damit hervorgehoben, dass es sich um Folgeerscheinungen der Verletzung der Autorität der betroffenen Person handelt.
Unsere Darstellung erklärt auch, warum die Erstellung von Deepfakes nicht von Natur aus moralisch verwerflich ist; vielmehr ist sie nur dann verwerflich, wenn sie unbefugt erfolgt. Genauso wie man jemandem die Erlaubnis erteilen kann, sein persönliches Eigentum zu nutzen, selbst wenn einem dadurch Schaden entstehen würde, kann man auch einem Deepfake zustimmen, selbst wenn dessen Erstellung und Verbreitung einem schaden würden. Insofern Sie den schädlichen Auswirkungen von Handlungen zustimmen und den Handelnden von jeglichem Unrecht Ihnen gegenüber entlasten können, sollten Sie auch dem durch einen Deepfake verursachten Schaden zustimmen und so dessen Urheber von jeglichem Fehlverhalten Ihnen gegenüber entlasten können. Dies wird anhand einer Theorie erklärt, die das Unrecht der Erstellung und Verbreitung von Deepfakes in der Verletzung Ihres Interesses an der Autorität darüber sieht, was andere mit Ihrem Bild tun. Indem Sie bestimmte Erlaubnisse erteilen, entbinden Sie andere von der Verpflichtung, in bestimmter Weise Ihnen gegenüber zu handeln oder nicht zu handeln. Dies ermöglicht es uns, die vorteilhaften Anwendungsmöglichkeiten von Deepfake-Technologien anzuerkennen. So können Deepfakes beispielsweise dazu genutzt werden, die Stimme von Menschen künstlich wiederherzustellen, die aufgrund degenerativer Erkrankungen wie ALS nicht mehr sprechen können. Sie spielen auch eine wichtige pädagogische Rolle, indem sie ihr Potenzial zur Irreführung verdeutlichen und Schülern neue, ansprechende Lernressourcen bieten. Ein weiteres Beispiel für die Vorteile von Deepfakes, das in Hollywood bereits weit verbreitet ist, besteht darin, Filmstars jünger erscheinen zu lassen, als sie tatsächlich sind, oder sogar verstorbene Schauspieler auf der Leinwand „wieder zum Leben zu erwecken“. Solange die entsprechenden Einwilligungen erteilt wurden, wird das Interesse der Behörde gewahrt, und Deepfakes können im Gesundheitswesen, im Bildungsbereich und in kommerziellen Kontexten eingesetzt werden. Diese Punkte sollten bei der Gesetzgebung gegen Deepfake-Technologie unbedingt berücksichtigt werden.
Schließlich erstreckt sich die „Authority Interest View“ auch auf andere Bildverletzungen, bei denen keine KI zum Einsatz kommt, wie beispielsweise nicht einvernehmliche intime Bilder (NCIIs), „Rachepornografie“, „Up-Skirting“ und voyeuristische Aufnahmen. Das Unrecht von NCIIs wird oft als Verletzung der Privatsphäre oder als Schaden dargestellt. Wir argumentieren jedoch, dass das konstitutive Unrecht in der Verweigerung des Grundrechts des Einzelnen besteht, über den Umfang seiner Zurschaustellung zu entscheiden und zu bestimmen, wie seine intimsten Bilder verwendet werden. NCIIs zeigen Teile unseres Körpers oder unsere privaten Momente auf eine Weise, der wir nicht zugestimmt haben – selbst wenn wir diese Körperteile oder intimen Momente in anderen Kontexten bereits gezeigt haben. Was eine einvernehmliche Weitergabe von einem NCII unterscheidet, ist nicht der Inhalt des Bildes, sondern die Gültigkeit der Einwilligung. Das Opfer hat möglicherweise in einem Kontext (z. B. gegenüber einem Partner) seine Einwilligung erteilt, in einem anderen (z. B. im Internet) jedoch nicht. Indem der Täter intime Bilder jenseits dieser Grenze erstellt oder weitergibt, usurpiert er die Befugnis der betroffenen Person, über die Herkunft und das Publikum ihrer eigenen Intimität zu bestimmen. Die Befugnis, intime Bilder mit anderen zu teilen, ist etwas Wertvolles, und es ist uns wichtig, selbst bestimmen zu können, wer diese Bilder zulässigerweise betrachten darf. Dies erklärt auch, warum das Teilen einvernehmlich erstellter intimer Bilder mit Personen, die nicht die beabsichtigten Betrachter sind, ein schwerwiegendes moralisches Unrecht darstellt, ebenso wie das Betrachten solcher Bilder: Der Betrachter konsumiert das Bild der betroffenen Person in einem Kontext, dem diese nicht ausdrücklich zugestimmt hat, und beteiligt sich damit an der Verletzung der Grenze der betroffenen Person.
6 Schlussfolgerung
Verletzungen des Bildrechts sind nichts Neues. Neu ist jedoch das Ausmaß, in dem man dank moderner Technologie leicht die Verletzung und widerrechtliche Aneignung des Bildes oder der Ähnlichkeit einer anderen Person begehen kann. In diesem Beitrag liefern wir eine prinzipielle Grundlage für die Auffassung, dass solche Verletzungen nicht lediglich geschmacklos oder schädlich sind, sondern auch ein Unrecht darstellen. Dieses Unrecht gründet sich auf unser Interesse daran, die Kontrolle darüber zu haben, wer was mit unserem Bild tut. Diese Darstellung erklärt auf fruchtbare Weise das Unrecht einer Vielzahl von Deepfakes sowie anderer Bildverletzungen, bei denen KI keine wesentliche Rolle spielt. Das Problem liegt nicht in dem Schaden, den diese Bildverletzungen verursachen, obwohl diese Schäden oft schwerwiegend sind und zusätzliche Gründe für eine Beschwerde darstellen. Vielmehr liegt das Problem in unserem grundlegenden Interesse daran, die Kontrolle über unser Bild zu haben.
Das Verständnis der Unrechtmäßigkeit von Deepfakes und anderen Formen nicht einvernehmlicher intimer Bilddarstellungen als Verletzung der Kontrolle über das eigene Bild verdeutlicht, warum die Gesetzgebung dem Schutz dieser Kontrollinteressen Vorrang einräumen muss. Gesetze sollten anerkennen, dass das Kernproblem nicht nur der verursachte Schaden ist, sondern die grundlegende Missachtung der persönlichen Autonomie, die mit diesen Verletzungen einhergeht. Ein angemessener rechtlicher Schutz würde bekräftigen, dass jeder das Recht hat, zu entscheiden, wer was mit seinem Bild tut, insbesondere wenn es um intime oder private Aspekte seiner Identität geht.
Übersetzung Boris Wanzeck, Swiss Infosec AG
Zur einfacheren Lesbarkeit wurden die Literatur- und Quellverweise entfernt.
Kirkpatrick, J.R. Deepfakes at face value: image and authority. AI & Soc 41, 6517–6528 (2026).
https://doi.org/10.1007/s00146-026-03018-5
http://creativecommons.org/licenses/by/4.0/
Dem Text wurden Hyperlinks hinzugefügt.
KI-Governance, Security und Privacy
Unsere KI-, Governance-, Datenschutz- und Security-Spezialisten begleiten Sie bei der Erstellung der übergeordneten firmeninternen KI-Vorgaben, bei der Abwicklung von KI-Projekten, bei der Klärung von Einzelfragen und der Durchführung unabhängiger Audits. Ebenfalls unterstützen sie Organisationen in ihrer Rolle als Nutzer/Betreiber, Anbieter oder Entwickler von KI-Systemen sowohl nach Schweizer Recht als auch gemäss dem EU-AI Act.
Kontaktieren Sie uns und erfahren Sie in einem unverbindlichen Beratungsgespräch, was unsere Spezialistinnen und Spezialisten für Sie tun können: +41 41 984 12 12, infosec@infosec.ch