1 Einleitung

Die rasante Entwicklung von Künstlicher Intelligenz (KI) hat in den letzten Jahren zu erstaunlichen Fortschritten geführt, insbesondere im Bereich der natürlichen Sprachverarbeitung. Große Sprachmodelle wie GPT-3 und speziell ChatGPT sind zu Aushängeschildern dieser technologischen Revolution geworden. Diese Modelle können Texte generieren, die menschlichem Schreiben verblüffend ähnlich sind und haben das Potenzial, eine Vielzahl von Anwendungen zu transformieren, von automatisierten Kundensupport-Chatbots bis hin zur Unterstützung von Schriftstellern bei der Texterstellung.
Während diese Fortschritte zweifellos aufregend sind, haben sie auch eine neue Reihe von Herausforderungen und Fragen aufgeworfen, die die Forschungs- und Entwicklergemeinschaften gleichermaßen beschäftigen. In dieser Ära großer Sprachmodelle sind die Reproduzierbarkeit von Forschungsergebnissen und die Erklärbarkeit der Entscheidungen dieser Modelle zu zentralen Anliegen geworden.
Die Reproduzierbarkeit von Forschungsergebnissen ist ein Grundpfeiler der wissenschaftlichen Methodik. Sie gewährleistet, dass die in wissenschaftlichen Arbeiten beschriebenen Ergebnisse von anderen Forschenden unabhängig überprüft werden können. Traditionell war die Reproduzierbarkeit in vielen wissenschaftlichen Disziplinen relativ unproblematisch. Forschungsergebnisse wurden in Form von Fachartikeln veröffentlicht, die detaillierte Informationen über die Methoden, die verwendeten Daten und den Code enthielten. Andere Personen in der Wissenschaft konnten diese Informationen nutzen, um die Experimente zu wiederholen und die Ergebnisse zu verifizieren. In der Ära großer Sprachmodelle ist diese Reproduzierbarkeit jedoch gefährdet. Modelle wie ChatGPT sind nicht öffentlich zugänglich und können nur über externe Server genutzt werden. Forschende, die diese Modelle verwenden möchten, sind daher auf die Bereitstellung solcher Dienste angewiesen. Dies führt zu einer starken Abhängigkeit von den externen Modellen und den bereitgestellten Schnittstellen.
Das Problem dabei ist, dass Forschende keine Kontrolle über die Modellversionen haben, die sie verwenden, und keinen Zugriff auf den zugrunde liegenden Code haben, um Anpassungen vorzunehmen. Dies erschwert die Reproduzierbarkeit erheblich. Es gibt keine Möglichkeit, sicherzustellen, dass die Modellversion, die bei der Durchführung eines Experiments verwendet wurde, auch zu einem späteren Zeitpunkt verfügbar ist. Dies ist insbesondere problematisch, da externe Modelle sich im Laufe der Zeit ändern können, sei es durch Aktualisierungen oder Modifikationen seitens der Anbieter.
Die mangelnde Reproduzierbarkeit ist nicht nur ein methodisches Problem, sondern hat auch weitreichende Auswirkungen auf die Glaubwürdigkeit von Forschungsergebnissen und den wissenschaftlichen Fortschritt. Wenn andere Forschende nicht in der Lage sind, die Experimente zu wiederholen und die Ergebnisse zu überprüfen, kann die Grundlage für die wissenschaftliche Methode untergraben werden. Dies kann zu einer Erosion des Vertrauens in die Forschung führen und den Fortschritt in vielen Disziplinen behindern. Ein weiteres bedeutendes Problem, das sich aus der Verwendung großer Sprachmodelle ergibt, betrifft die Erklärbarkeit der Ergebnisse. Diese Modelle, insbesondere solche, die auf neuronalen Netzen basieren, sind als „black box“ bekannt. Das bedeutet, dass sie äußerst komplexe interne Strukturen haben, die schwer verständlich sind. Obwohl wir die Ausgaben dieser Modelle beobachten können, ist die Interpretation des Generationsprozesses und der zugrunde liegenden Entscheidungen äußerst herausfordernd.
Wenn ein Text von einem Sprachgenerator wie ChatGPT erstellt wird, ist es schwer nachzuvollziehen, warum genau dieser Text generiert wurde und welche internen Gewichtungen und Muster dazu geführt haben. Dies stellt eine erhebliche Barriere dar, insbesondere wenn es darum geht, derartige Modelle in sensiblen Anwendungsbereichen einzusetzen, bei denen eine klare Erklärbarkeit der Entscheidungen unerlässlich ist. Insbesondere gilt dies für Anwendungen im medizinischen Bereich, in der Rechtsprechung oder in der Finanzindustrie, wo es entscheidend ist, nachvollziehen zu können, wie eine Entscheidung getroffen wurde.
Die Erklärbarkeit von KI-Systemen ist jedoch nicht nur aus ethischer Sicht wichtig. Sie hat auch praktische Auswirkungen auf die Anwendung und Akzeptanz dieser Systeme in der Gesellschaft. Menschen neigen dazu, Technologien eher zu akzeptieren und zu vertrauen, wenn sie verstehen, wie sie funktionieren und welche Entscheidungen sie treffen. Intransparente KI-Systeme können Ängste und Misstrauen schüren, was ihre breite Akzeptanz behindert.
Die Ära großer Sprachmodelle hat zweifellos das Potenzial, bahnbrechende Fortschritte in der menschlichen Kommunikation und Kreativität zu bringen. Dennoch müssen wir die Herausforderungen in Bezug auf Reproduzierbarkeit und Erklärbarkeit ernst nehmen, um sicherzustellen, dass diese Modelle verantwortungsbewusst eingesetzt werden können. Die Förderung offener Praktiken und die Erforschung der Erklärungsmethoden sind entscheidende Schritte auf dem Weg zu einer transparenten und verlässlichen KI-Zukunft.

2 Reproduzierbarkeitsherausforderungen

Die Reproduzierbarkeit von Forschungsergebnissen ist ein grundlegendes Prinzip wissenschaftlicher Methodik. Sie stellt sicher, dass die in wissenschaftlichen Arbeiten beschriebenen Ergebnisse von anderen Forschenden unabhängig überprüft und validiert werden können. Dieses Prinzip ist besonders in den Natur- und Sozialwissenschaften von großer Bedeutung, da es die Grundlage für den wissenschaftlichen Fortschritt und die Glaubwürdigkeit der Forschung bildet. Allerdings sind die Fortschritte in der Künstlichen Intelligenz (KI) und insbesondere im Bereich der großen Sprachmodelle, wie ChatGPT, zu einer Herausforderung für die Reproduzierbarkeit geworden.

2.1 Externe Abhängigkeit und mangelnde Kontrolle

Eine der zentralen Herausforderungen in Bezug auf die Reproduzierbarkeit in der Ära großer Sprachmodelle besteht darin, dass diese Modelle nicht öffentlich zugänglich sind und auf externen Servern betrieben werden. Forschende sind daher angewiesen, auf diese externen Dienste zuzugreifen, um ihre Experimente durch-zuführen. Dies führt zu einer starken Abhängigkeit von den externen Modellen und den bereitgestellten Schnittstellen.
Die Abhängigkeit von externen Modellen hat mehrere nachteilige Auswirkungen auf die Reproduzierbarkeit. Erstens haben Forschende keine Kontrolle über die Wartung und Aktualisierung dieser Modelle. Die Modelle können sich im Laufe der Zeit ändern, sei es durch Modellverbesserungen, Aktualisierungen der Trainingsdaten oder andere Faktoren. Dies bedeutet, dass die Modellversion, die Forschende in ihrer Arbeit verwendet haben, möglicherweise nicht mehr verfügbar ist oder sich von der aktuellen Version unterscheidet. Dies erschwert die Nachvollziehbarkeit von wissenschaftlichen Ergebnissen erheblich.

Zweitens können externe Dienste unerwartet unzugänglich werden oder ihre Nutzungseinschränkungen können sich ändern. Die Wissenschaft könnte plötzlich den Zugriff auf das Modell verlieren oder mit neuen Nutzungsbedingungen konfrontiert werden, die ihre Forschung behindern. Dies führt zu Unsicherheiten in Bezug auf die Verfügbarkeit und die Bedingungen für die Nutzung der Modelle.

2.2 Datenabhängigkeit und Datenschutz

Ein weiterer Aspekt der Reproduzierbarkeitsherausforderungen betrifft die Abhängigkeit von den Trainingsdaten, die für die großen Sprachmodelle verwendet werden. Diese Modelle werden auf umfangreichen Textkorpora trainiert, die oft aus öffentlich verfügbaren Texten im Internet stammen. Die genaue Zusammensetzung dieser Trainingsdaten ist jedoch selten vollständig dokumentiert und kann sich im Laufe der Zeit ändern.
Die Abhängigkeit von diesen Trainingsdaten macht es schwierig, Experimente zu reproduzieren, da Forschende möglicherweise nicht über die gleichen Daten verfügen wie die ursprünglichen Modellentwickler. Selbst wenn die gleichen Daten verfügbar sind, könnten sie in der Zwischenzeit verändert oder aktualisiert worden sein, was zu Unterschieden in den Ergebnissen führen kann.

Darüber hinaus gibt es Bedenken hinsichtlich des Datenschutzes bei der Verwendung von großen Textkorpora für das Training von Sprachmodellen. Diese Korpora können sensible Informationen enthalten, und die Verwendung solcher Daten ohne angemessene Anonymisierung und Einwilligung kann Datenschutzprobleme aufwerfen. Dies stellt eine weitere Hürde für die Reproduzierbarkeit dar, da Forschende möglicherweise eingeschränkten Zugang zu den für das Training verwendeten Daten haben.

2.3 Transparenz und Mangel an Dokumentation

Die Transparenz des Trainingsprozesses und der Modellarchitekturen ist ein weiteres zentrales Thema in Bezug auf die Reproduzierbarkeit. In vielen Fällen fehlt es an ausreichender Dokumentation darüber, wie genau die Modelle trainiert wurden, welche Daten verwendet wurden und welche Vorverarbeitungsschritte angewendet wurden. Dies erschwert die Nachvollziehbarkeit und Reproduzierbarkeit erheblich, da Forschende nicht genau wissen, wie die Modelle erstellt wurden.
Die mangelnde Transparenz erstreckt sich auch auf die Modellarchitekturen selbst. Große Sprachmodelle wie ChatGPT haben komplexe interne Strukturen mit Millionen von Parametern, die schwer zu verstehen und zu analysieren sind. Forschende haben oft nur begrenzten Einblick in die Funktionsweise dieser Modelle, was es schwierig macht, ihre Entscheidungen und Vorhersagen nachzuvollziehen.
Die Reproduzierbarkeit von Forschungsergebnissen in der Ära großer Sprachmodelle ist eine komplexe Herausforderung, die die wissenschaftliche Gemeinschaft ernsthaft angehen muss. Die Abhängigkeit von externen Modellen und Trainingsdaten, mangelnde Transparenz und unzureichende Dokumentation sind zentrale Probleme. Dennoch gibt es Möglichkeiten, diese Herausforderungen zu bewältigen, indem offene Praktiken gefördert werden, die Transparenz erhöht wird und Datenschutzrichtlinien beachtet werden. Die Gewährleistung der Reproduzierbarkeit ist entscheidend, um sicherzustellen, dass die Forschung in der KI weiterhin auf verlässlichen Grundlagen aufbaut und für die wissenschaftliche Gemeinschaft von Nutzen ist.

3 Erklärbarkeitsherausforderungen

Die Erklärbarkeit von KI-Modellen, insbesondere von neuronalen Netzwerken, ist zu einem der zentralen Themen in der KI-Forschung geworden.² In der Ära großer Sprachmodelle wie ChatGPT sind diese Herausforderungen noch drängender. Wir stehen vor der Schwierigkeit, hochkomplexe Modelle zu verstehen, die menschenähnlichen Text generieren können, aber gleichzeitig als „black boxes“ gelten.

3.1 Die Komplexität von neuronalen Netzwerken

Neuronale Netzwerke sind die Grundbausteine von modernen Sprachgeneratoren. Diese Netzwerke sind in der Lage, riesige Mengen an Daten zu verarbeiten und komplexe Muster zu erlernen. Allerdings geht diese Leistungsfähigkeit mit einer hohen Komplexität einher. Ein neuronales Netzwerk besteht aus Tausenden oder sogar Milliarden von Neuronen und Gewichtungen, die miteinander interagieren. Die interne Struktur solcher Netzwerke ist äußerst schwer nachvollziehbar.

3.2 Die „Black Box“ der Entscheidungsfindung

Die Entscheidungsfindung in einem neuronalen Netzwerk erfolgt durch das Durchlaufen einer Vielzahl von Neuronen und Gewichtungen. Wenn ein Sprachgenerator wie ChatGPT einen Text generiert, geschieht dies aufgrund einer komplexen Abfolge von Berechnungen. Obwohl wir die Ausgaben dieser Berechnungen sehen können, bleibt die Interpretation des Prozesses äußerst herausfordernd. Dies ist vergleichbar mit dem Versuch, das Verhalten eines komplexen chemischen Reaktionssystems zu erklären, ohne die genaue Struktur und Interaktion der Moleküle zu kennen.

Die Tatsache, dass neuronale Netzwerke als „black boxes“ gelten, bedeutet, dass wir Schwierigkeiten haben, den internen Entscheidungsprozess nachzuvollziehen. Warum hat das Modell genau diesen Satz generiert? Welche Faktoren haben zu dieser Entscheidung geführt? Diese Fragen sind schwer zu beantworten, da wir keinen klaren Einblick in die internen Abläufe des Netzwerks haben.

3.3 Herausforderungen in der Praxis

Die mangelnde Erklärbarkeit von KI-Modellen wie ChatGPT hat erhebliche Auswirkungen auf deren Anwendbarkeit in verschiedenen Bereichen. In sensiblen Anwendungsbereichen, wie der Rechtswissenschaft, der Medizin oder der Finanzbranche, ist es von entscheidender Bedeutung, dass Entscheidungen nachvollziehbar sind. Wenn ein KI-Modell eine Empfehlung ausspricht oder eine Entscheidung trifft, muss es möglich sein, diese Entscheidung zu erklären.

Ein Beispiel ist die medizinische Diagnose. Wenn ein KI-Modell eine bestimmte Krankheit diagnostiziert, müssen sowohl das medizinische Personal als auch Patientinnen verstehen können, warum diese Diagnose gestellt wurde. Eine intransparente „black box“-Diagnose ohne nachvollziehbare Erklärung wäre inakzeptabel und könnte zu schwerwiegenden Konsequenzen führen. In der Rechtswissenschaft ist die Erklärbarkeit ebenfalls von entscheidender Bedeutung. Wenn ein KI-Modell zur Entscheidungsunterstützung in Gerichtsverfahren eingesetzt wird, müssen Richterinnen, Anwält*innen in der Lage sein, die Grundlagen dieser Entscheidungen zu verstehen und zu überprüfen. Dies ist notwendig, um sicherzustellen, dass die Rechte und Interessen der Beteiligten gewahrt bleiben.
Die Erklärbarkeit von KI-Modellen, insbesondere in der Ära großer Sprachmodelle, ist eine komplexe Herausforderung. Die Schwierigkeit, hochkomplexe „black box“-Modelle zu verstehen, birgt Risiken in sensiblen Anwendungsbereichen. Dennoch sind Fortschritte bei der Erklärbarkeit entscheidend, um das Vertrauen in KI-Systeme zu stärken und ihre Verwendung in wichtigen Anwendungsgebieten zu ermöglichen. Durch die Entwicklung von Erklärungstechniken, interpretierbaren Modellen und verstärkter Transparenz können wir hoffentlich den Weg zu einer transparenten und verlässlichen KI-Zukunft ebnen.

4 Förderung der Reproduzierbarkeit

Die Reproduzierbarkeit von Forschungsergebnissen ist ein grundlegendes Qualitätskriterium in der Wissenschaft. Sie ermöglicht es, die Ergebnisse wissenschaftlicher Arbeiten von anderen Forschenden unabhängig zu überprüfen und zu bestätigen. In der Ära großer Sprachmodelle wie ChatGPT ist die Reproduzierbarkeit jedoch zunehmend erschwert. Innovative Ansätze und Lösungen sind erforderlich, um die Integrität und Glaubwürdigkeit der Forschung in diesem Bereich zu gewährleisten.

4.1 Transparenz im Trainingsprozess

Eine der wichtigsten Maßnahmen zur Förderung der Reproduzierbarkeit besteht darin, den Trainingsprozess von Sprachmodellen transparenter zu gestalten. In vielen Fällen sind die genauen Details des Trainingsprozesses, einschließlich der verwendeten Daten, der Hyperparameter und der Architektur, nicht öffentlich verfügbar. Dies erschwert es anderen Forschenden, die gleichen Experimente durchzuführen und die Ergebnisse zu replizieren.

Um diesem Problem zu begegnen, sollten Entwickler von Sprachmodellen die Trainingsprozesse dokumentieren und öffentlich zugänglich machen. Dies könnte in Form von ausführlichen Trainingsprotokollen erfolgen, die alle relevanten Informationen enthalten. Dazu gehören Details zur Datenpräparation, zur Auswahl der Hyperparameter und zur Architektur des Modells. Durch die Bereitstellung dieser Informationen können andere Forschende den Trainingsprozess nachvollziehen und die gleichen Bedingungen schaffen, um die Ergebnisse zu reproduzieren.

4.2 Open-Source-Modelle

Eine weitere wichtige Initiative zur Verbesserung der Reproduzierbarkeit besteht darin, Sprachmodelle als Open-Source-Projekte zur Verfügung zu stellen. Dies bedeutet, dass der Quellcode des Modells öffentlich zugänglich ist und von der Gemeinschaft überprüft und erweitert werden kann. Open-Source-Modelle bieten mehr Transparenz und ermöglichen es der Forschungsgemeinschaft, den gesamten Modellstack zu überprüfen und anzupassen.
Ein gutes Beispiel für ein Open-Source-Sprachmodell ist OpenAI GPT-2. Nach anfänglichen Bedenken hinsichtlich Missbrauchsrisiken entschied sich OpenAI, den GPT-2-Quellcode und die Modellgewichte der Öffentlichkeit zugänglich zu machen. Dies ermöglichte es der Forschungsgemeinschaft, das Modell zu analysieren, zu verbessern und neue Anwendungen zu entwickeln. Dieser Schritt förderte nicht nur die Reproduzierbarkeit, sondern auch die Zusammenarbeit und Innovation in der KI-Forschung.

4.3 Standardisierte Benchmarks und Evaluationsverfahren

Um die Reproduzierbarkeit in der KI-Forschung zu fördern, ist es wichtig, standardisierte Benchmarks und Evaluationsverfahren zu etablieren. Dies bedeutet, dass bestimmte Datensätze und Metriken zur Evaluierung von Modellen in der gesamten Gemeinschaft akzeptiert und verwendet werden. Durch die Verwendung dieser standardisierten Maßstäbe können Forschende ihre Modelle auf den gleichen Grundlagen testen, was die Vergleichbarkeit und Nachvollziehbarkeit erhöht.
Ein Beispiel für einen solchen Standard ist der Penn Treebank-Datensatz, der oft in der natürlichen Sprachverarbeitung verwendet wird. Forschende können ihre Modelle anhand dieses Datensatzes testen und die Ergebnisse miteinander vergleichen, da eine gemeinsame Grundlage besteht. Die Schaffung und Förderung solcher Standards erleichtert es Forschenden, ihre Experimente zu replizieren und sicherzustellen, dass die Ergebnisse konsistent sind.

4.4 Datenzugang und Datentransparenz

Neben der Transparenz im Trainingsprozess ist der Zugang zu den verwendeten Daten entscheidend für die Reproduzierbarkeit. Oftmals sind große Sprachmodelle auf umfangreiche Textdatenbanken angewiesen, um effektiv zu funktionieren. Forschende, die diese Modelle verwenden, sollten daher bestrebt sein, den Zugang zu den verwendeten Daten zu erleichtern.
Eine Möglichkeit, den Zugang zu Daten zu fördern, besteht darin, offene und frei zugängliche Datensätze zu verwenden, die von der Forschungsgemeinschaft gepflegt werden. Dies ermöglicht es anderen Forschenden, auf die gleichen Daten zuzugreifen und ihre Experimente zu wiederholen. Wenn es notwendig ist, Daten aufgrund von Datenschutzbedenken zu beschränken, sollten Forschende alternative Wege zur Verfügung stellen, um auf aggregierte und anonymisierte Daten zuzugreifen.

4.5 Reproduzierbarkeit als Teil der Forschungskultur

Schließlich ist es wichtig, die Bedeutung der Reproduzierbarkeit als integralen Bestandteil der Forschungskultur zu betonen. Forschende sollten sich bewusst sein, dass die Fähigkeit, ihre Experimente zu replizieren und die Ergebnisse zu verifizieren, ein entscheidender Schritt zur Sicherung der wissenschaftlichen Integrität ist. Dies erfordert eine Kultur des Teilens von Ressourcen, Informationen und bewährten Praktiken.
Konferenzen, Journale und wissenschaftliche Institutionen können ebenfalls dazu beitragen, die Reproduzierbarkeit zu fördern, indem sie Richtlinien und Anreize für transparente und reproduzierbare Forschung setzen. Dies könnte die Einreichung von reproduzierbaren Experimenten und das Teilen von Daten und Code als Voraussetzung für die Veröffentlichung von Forschungsarbeiten umfassen.
Die Förderung der Reproduzierbarkeit in der Ära großer Sprachmodelle ist von entscheidender Bedeutung, um sicherzustellen, dass die Forschung in diesem Bereich vertrauenswürdig und nachvollziehbar ist. Transparenz im Trainingsprozess, Open-Source-Modelle, standardisierte Benchmarks, Datenzugang und die Integration von Reproduzierbarkeit in die Forschungskultur sind Schlüsselkomponenten, um dieses Ziel zu erreichen. Durch die Umsetzung dieser Maßnahmen können wir sicherstellen, dass die KI-Forschung auf einer soliden Grundlage steht und die Ergebnisse für die gesamte wissenschaftliche Gemeinschaft zugänglich und nachvollziehbar sind.

5 Verbesserung der Erklärbarkeit

Die Erklärbarkeit von KI-Systemen, insbesondere von neuronalen Netzen, ist ein zentrales Anliegen in der Forschung und Entwicklung von Künstlicher Intelligenz. In der Ära großer Sprachmodelle, wie ChatGPT, stellt die Erklärbarkeit eine besondere Herausforderung dar. Diese Modelle sind aufgrund ihrer tiefen und komplexen Strukturen oft schwer nachvollziehbar. Dennoch gibt es verschiedene An-sätze und Techniken, um die Erklärbarkeit zu verbessern und sicherzustellen, dass Entscheidungen und Ergebnisse dieser Modelle besser verstanden werden können.

5.1 Visualisierung von Entscheidungsprozessen

Eine Möglichkeit, die Erklärbarkeit von KI-Modellen zu verbessern, besteht darin, Entscheidungsprozesse visuell darzustellen. Dies kann auf verschiedene Arten geschehen. Zum Beispiel könnten Heatmaps verwendet werden, um zu zeigen, welche Teile des Eingabe-Textes einen größeren Einfluss auf die generierte Ausgabe haben. Auf diese Weise können Forschende und Anwender erkennen, welche Informationen für die Entscheidungsfindung des Modells am wichtigsten sind.
Ein weiterer Ansatz ist die Visualisierung der Aktivierungen in den einzelnen Schichten des neuronalen Netzes. Dies ermöglicht es, zu verstehen, welche Arten von Mustern und Informationen in den verschiedenen Schichten des Modells auftreten. Diese Visualisierungen können Aufschluss darüber geben, wie das Modell Informationen verarbeitet und welche Abstraktionsebenen es entwickelt.
Darüber hinaus können t-SNE-Visualisierungen verwendet werden, um die Verteilung von Textdaten im Modellraum darzustellen. Dies ermöglicht es, ähnliche Textabschnitte zu identifizieren und zu verstehen, wie das Modell Texte gruppiert. Solche Visualisierungen können nützliche Einblicke in die Arbeitsweise des Modells bieten.

5.2 Erklärungstechniken und Attributionsverfahren

Eine Vielzahl von Erklärungstechniken und Attributionsverfahren ist entwickelt worden, um die Entscheidungsfindung von KI-Modellen zu beleuchten. Diese Verfahren zielen darauf ab, die Bedeutung einzelner Eingabe-Features oder -Token für die Ausgabe des Modells zu quantifizieren. Hier sind einige wichtige Ansätze:

Grad-CAM (Gradient Class Activation Mapping): Grad-CAM ist eine Technik, die in der Bildverarbeitung weit verbreitet ist und auf Textdaten angewendet werden kann. Sie zeigt, welche Teile des Eingabetextes zur Entscheidung einer bestimmten Klasse beitragen. Dies ermöglicht es, zu verstehen, welche Textstellen für die Modellausgabe am einflussreichsten sind.
LIME (Local Interpretable Model-Agnostic Explanations): LIME ist ein Modell-agnostisches Verfahren, das auf maschinellem Lernen angewendet werden kann. Es generiert eine erklärliche Näherung des Modells, indem es zufällige Perturbationen auf die Eingabedaten anwendet und die Auswirkungen auf die Ausgabe beobachtet. Dadurch kann LIME wichtige Eingabe-Features identifizieren.
SHAP (SHapley Additive exPlanations): SHAP ist ein mathematisches Konzept aus der Spieltheorie, das auf die Erklärung von Modellentscheidungen angewendet wird. Es ermöglicht eine konsistente und faire Zuordnung der Bedeutung von Features in einem Modell. SHAP-Werte können verwendet werden, um zu verstehen, wie sich die Anwesenheit oder Abwesenheit von Wörtern im Eingabetext auf die Modellausgabe auswirkt.

5.3 Interpretierbare Modelle

Eine vielversprechende Möglichkeit, die Erklärbarkeit von KI-Modellen zu erhöhen, besteht darin, Modelle zu entwickeln, die von Natur aus interpretierbarer sind. Dies kann bedeuten, auf komplexere, tiefere neuronale Netze zu verzichten und statt-dessen flachere Modelle zu verwenden. Solche Modelle sind zwar weniger leistungsstark, bieten jedoch eine höhere Erklärbarkeit.
Beispielsweise könnten Entscheidungsbäume oder Regelbasierte Modelle eingesetzt werden. Diese Modelle sind transparent und nachvollziehbar, da sie klare Regeln für Entscheidungen liefern. Obwohl sie möglicherweise nicht die gleiche Leistungsfähigkeit wie tiefe neuronale Netze aufweisen, sind sie in bestimmten Anwendungsbereichen, insbesondere solchen, bei denen rechtliche oder ethische Erwägungen eine Rolle spielen, äußerst nützlich.

5.4 Kombination von Ansätzen

In vielen Fällen ist es sinnvoll, verschiedene Erklärungstechniken und Ansätze zu kombinieren, um ein umfassendes Verständnis für die Arbeitsweise eines KI-Modells zu erhalten. Zum Beispiel könnten Visualisierungen dazu beitragen, grobe Muster und Trends aufzuzeigen, während Attributionsverfahren die Feinheiten der Entscheidungsfindung verdeutlichen. Durch die Kombination von Ansätzen können Forschende ein tieferes Verständnis für die Modellentscheidungen entwickeln.

5.5 Die Bedeutung der Erklärbarkeit in sensiblen Anwendungsbereichen

Die Verbesserung der Erklärbarkeit von KI-Modellen ist von entscheidender Bedeutung, insbesondere in sensiblen Anwendungsbereichen wie Gesundheitswesen, Recht und Finanzen. In diesen Bereichen ist es unerlässlich, dass Entscheidungen von KI-Systemen nachvollziehbar sind und erklärt werden können. Patientinnen müssen verstehen können, warum ein medizinisches Diagnosesystem eine bestimmte Empfehlung gibt, Anwältinnen müssen die Grundlage für rechtliche Entscheidungen verstehen, und Finanzexpert*innen müssen die Faktoren hinter Anlageempfehlungen verstehen können.

Die Erklärbarkeit von KI-Systemen trägt auch dazu bei, Vertrauen in diese Technologien aufzubauen. Wenn Menschen verstehen können, wie ein KI-System zu seinen Entscheidungen kommt, sind sie eher bereit, diese Entscheidungen zu akzeptieren und zu vertrauen.

Die Verbesserung der Erklärbarkeit von KI-Modellen, insbesondere großer Sprachmodelle wie ChatGPT, ist eine Herausforderung, aber auch eine Notwendigkeit. Durch die Anwendung von Visualisierungen, Erklärungstechniken, interpretierbaren Modellen und einer Kombination dieser Ansätze kann die Wissenschaftscommunity dazu beitragen, die Entscheidungsfindung von KI-Systemen transparenter zu gestalten. Dies ist entscheidend, um das Vertrauen in diese Systeme zu stärken und sicherzustellen, dass sie verantwortungsbewusst und effektiv eingesetzt werden können. Die Erklärbarkeit bleibt ein Schlüsselaspekt bei der Gestaltung der Zukunft der Künstlichen Intelligenz.

6 Fazit

In einer Zeit, in der Künstliche Intelligenz und insbesondere große Sprachmodelle wie ChatGPT die Grenzen des Möglichen in der natürlichen Sprachverarbeitung verschieben, stehen Forschende vor einer Vielzahl von Herausforderungen, die sich auf die Reproduzierbarkeit und Erklärbarkeit von Forschungsergebnissen auswirken.
Die Reproduzierbarkeit von Forschungsergebnissen ist ein Grundpfeiler der wissenschaftlichen Methode. Sie ermöglicht es, die Ergebnisse wissenschaftlicher Arbeiten von anderen Forschenden unabhängig zu überprüfen und zu bestätigen. Ohne Reproduzierbarkeit sind wissenschaftliche Erkenntnisse nicht glaubwürdig und zuverlässig. In der Ära großer Sprachmodelle ist die Reproduzierbarkeit jedoch zunehmend gefährdet, da diese Modelle oft nicht öffentlich zugänglich sind und auf externen Servern betrieben werden. Die Abhängigkeit von externen Modellen und Diensten bedeutet, dass Forschende nicht die volle Kontrolle über die experimentelle Umgebung haben. Dies wiederum erschwert die Nachvollziehbarkeit von Forschungsergebnissen erheblich. Um dieses Problem anzugehen, sollten Modelle wie ChatGPT als Open-Source-Projekte angeboten werden, bei denen der Trainingsprozess und der zugrunde liegende Code transparent dokumentiert sind. Dies würde Forschenden die Möglichkeit geben, den Trainingsprozess zu verstehen und sicherzustellen, dass sie konsistente Modellversionen verwenden. Darüber hinaus könnten standardisierte Benchmarks und Evaluationsverfahren entwickelt werden, um die Vergleichbarkeit von Forschungsergebnissen zu verbessern.
Die Erklärbarkeit von Entscheidungen und Ergebnissen ist ein weiterer Schlüsselaspekt, der in der Ära großer Sprachmodelle an Bedeutung gewinnt. Insbesondere Modelle, die auf komplexen neuronalen Netzwerken basieren, sind oft als „black box“ bekannt. Dies bedeutet, dass es schwer nachvollziehbar ist, warum ein bestimmter Text generiert wurde oder welche internen Gewichtungen und Muster zu einer bestimmten Entscheidung geführt haben.
Die Herausforderung der Erklärbarkeit wird besonders kritisch, wenn es um den Einsatz solcher Modelle in sensiblen Anwendungsbereichen geht, wie etwa in der Medizin, im Rechtswesen oder in der Ethik. In diesen Bereichen ist es entscheidend, dass Entscheidungen nachvollziehbar sind, um Vertrauen und Akzeptanz zu gewinnen.
Um die Erklärbarkeit zu verbessern, müssen Forschende Methoden entwickeln, um die Entscheidungsfindung komplexer Modelle besser zu verstehen. Dies kann die Entwicklung von Erklärungstechniken umfassen, die es ermöglichen, die internen Entscheidungsprozesse von Modellen wie ChatGPT nachzuvollziehen. Solche Techniken könnten auf Visualisierungen, Aufschlüsselungen von Gewichtungen und Einflüssen bestimmter Eingaben basieren.

Ein vielversprechender Ansatz zur Verbesserung der Erklärbarkeit könnte auch darin bestehen, Modelle zu entwickeln, die von Natur aus interpretierbarer sind. Obwohl komplexe neuronale Netze beeindruckende Leistungen erbringen können, sind sie oft schwer verständlich. Modelle mit einer höheren Erklärbarkeit könnten in Anwendungsbereichen eingesetzt werden, in denen die Nachvollziehbarkeit der Entscheidungen von entscheidender Bedeutung ist.
Die Ära großer Sprachmodelle bringt zweifellos viele Möglichkeiten und Potenziale mit sich, die die menschliche Kommunikation und Kreativität revolutionieren können. Dennoch müssen wir diese Technologien mit Bedacht einsetzen und die damit verbundenen Herausforderungen ernst nehmen.

Es ist von entscheidender Bedeutung, dass Beteiligte in Wissenschaft, Entwicklung und Industrie, die große Sprachmodelle wie ChatGPT verwenden, sich ihrer Verantwortung bewusst sind. Dies schließt die Verpflichtung zur Förderung von Reproduzierbarkeit und Erklärbarkeit ein. Nur wenn wir diese Prinzipien einhalten, können wir sicherstellen, dass die Ergebnisse und Anwendungen dieser Modelle transparent, verlässlich und ethisch vertretbar sind.

Insgesamt müssen wir in der wissenschaftlichen Gemeinschaft und darüber hinaus eine offene Diskussion über die Herausforderungen und Chancen führen, die mit großen Sprachmodellen verbunden sind. Dieser Diskurs sollte die Entwicklung von Best Practices, Ethikrichtlinien und Gesetzen zur Regulierung dieser Technologien unterstützen.
Die Ära großer Sprachmodelle hat das Potenzial, die Art und Weise, wie wir mit Text und Sprache interagieren, grundlegend zu verändern. Doch dieser Fortschritt bringt auch erhebliche Herausforderungen mit sich, insbesondere in Bezug auf Reproduzierbarkeit und Erklärbarkeit. Diese Herausforderungen sollten als Chancen betrachtet werden, die es zu bewältigen gilt, um sicherzustellen, dass wir die Vorteile dieser Technologien verantwortungsbewusst nutzen.
Die Förderung von Reproduzierbarkeit und Erklärbarkeit sollte zu einem zentralen Anliegen in der KI-Forschung und -Entwicklung werden. Indem wir transparente Praktiken etablieren, offene Diskussionen führen und innovative Lösungen entwickeln, können wir sicherstellen, dass große Sprachmodelle wie ChatGPT nicht nur leistungsfähig, sondern auch vertrauenswürdig und ethisch vertretbar sind.

Zur einfacheren Lesbarkeit wurden die Quell- und Literaturverweise entfernt.

Thomas Otmar Arnold: Herausforderungen in der Forschung: Mangelnde Reproduzierbarkeit und Erklärbarkeit, in KI:Text – Diskurse über KI-Textgeneratoren; herausgegeben von Gerhard Schreiber und Lukas Ohly; De Gruyter, Berlin, 2024

DOI https://doi.org/10.1515/9783111351490
https://creativecommons.org/licenses/by-nc-nd/4.0

1. Vorbemerkung

Die Digitalisierung verändert unsere Gesellschaft und stellt sie vor enorme Herausforderungen. Das haben wir in den vorangegangenen Kapiteln bereits vielfach gesehen. Nicht zuletzt, wenn man davon ausgeht, dass die Digitale Transformation ihrem Wesen nach mehr ist, als eine technologische bzw. betriebliche Lösung. Denn dann erfordert sie ein auf sie passendes Verständnis von Verantwortung, um die entfesselten, beschleunigten Kräfte der Digitalisierung so gut es geht zu kanalisieren und sowohl für die Wirtschaft, als insbesondere auch für die Gesellschaft produktiv zu nutzen. Aus der Perspektive von Unternehmen kommt dabei der Begriff der Corporate Digital Responsibility (CDR) ins Spiel, in dessen Zusammenhang die Verantwortung von Unternehmen unter den Bedingungen der Digitalisierung diskutiert wird. Denn die Digitalisierung zieht auch eine Veränderung der häufig unter dem Label der Corporate Social Responsibility (CSR) verorteten Unternehmensverantwortung nach sich und erfordert entsprechende praktische Lösungen. Gerade in Unternehmen, aber auch darüber hinaus mit Blick auf die Gesellschaft, ist durch diese Veränderungsdynamik immer auch die IT-Sicherheit herausgefordert, die als Garant für die notwendige Stabilität des insgesamt noch fragilen Systems einer digitalisierten Gesellschaft fungiert.
Digitale Ethik indes geht über den Fokus der Corporate Digital Responsibility hinaus. Bereits im vierten Kapitel haben wir festgestellt: Wenn nun eine Digitale Ethik das Ziel verfolgt, Menschen zu einem angemessenen Umgang mit den digitalen Technologien und deren Auswirkungen zu befähigen; wenn es darum geht, Probleme der Digitalität zu erkennen, Lösungen zu entwickeln sowie ethische Dilemmata zu sehen und zu beurteilen, dann schwingen ethische Fragestellungen in der IT-Sicherheit immer auch in die Digitale Ethik hinein.

2. Was Digitale Ethik sein kann

Ethik ist die Reflexion der Moral, die ihrerseits als faktisch gelebtes Wertesystem einer Gemeinschaft verstanden werden kann. Das heißt Ethik hinterfragt die in einer Gemeinschaft geltenden (moralischen) Regeln und unterzieht sie einer kritischen ethischen Bewertung. In letzter Konsequenz fragt die Ethik nach dem guten Leben und mithin danach, wie man handeln soll, damit man dieses gute Leben erreichen kann, und zwar in Gemeinschaft mit anderen. Es geht also letztlich immer auch darum, wie die Gesellschaft aussehen soll, in der wir leben wollen und wie wir diese Gesellschaft aufrechterhalten können. Das gilt auch für die Gesellschaft unter den Bedingungen der Digitalität. Denn die Digitale Transformation verändert unsere Gesellschaft und führt zu neuen Herausforderungen, die unter ethischer Perspektive zu betrachten sind. Digitale Ethik, so könnte man folglich aus einer lebensweltlichen Perspektive sagen, fragt danach, wie unsere digitalisierte Gesellschaft aussehen soll, so dass ein gutes Leben in ebendieser Gesellschaft verwirklicht werden kann.

Was aber ist ein gutes Leben in der sogenannten „Digitalen Gesellschaft“ bzw. grundlegender, was ist eine gute Digitale Gesellschaft? Und wie soll ich mit den Anforderungen und Problemen, die diese Gesellschaft mit sich bringt nicht nur in technologischer, sondern eben auch in ethischer Hinsicht adäquat umgehen? Aus Perspektive der Cybersecurity kann man zuspitzen: Wie können die digitalisierte Gesellschaft und ihre Teilbereiche vor Angriffen auf ihre IT-Strukturen geschützt und diesbezüglich weiterentwickelt werden?
Ein markantes Beispiel dafür ist die Sorge vor Wahlmanipulationen durch ausländische Dienste, die unter Umständen einen signifikanten Einfluss auf den Ausgang einer Wahl haben können, etwa indem sie über die Verbesserung bzw. Verschlechterung der Wahlchancen einer Partei oder einer Person in das politische Kräftefeld eingreifen. So können sie sogar in die kommende Amtsperiode hineinwirken, was letztlich wiederum für die Entwicklung der Gesellschaft insgesamt relevant ist. Die zahllosen strittigen Diskussionen um die Unterstützung des US-amerikanischen Expräsidenten Trump durch den russischen Präsidenten Putin sind ein prominenter Beleg dafür. Auch Deutschlands Demokratie und ihre Wahlen bleiben nicht verschont von Hackerangriffen. „Das reicht von der IT in den Parlamenten über die Rechner der Politiker und ganz wichtig, auch die IT der Medien und nicht zuletzt der Bürger. Und alle diese Systeme können einen Einfluss auf den Ausgang der Wahl haben.“

Weder auf die technologischen, noch auf die ethischen Herausforderungen, die mit dem Schutz der Digitalen Gesellschaft und ihren Teilbereichen verbunden sind, wird es eine einzige oder gar einfache Antwort geben. Zumal in komplexen modernen Gesellschaften mit ihren Pluralitäten und Diversitäten. Viel wichtiger wird es aus ethischer Perspektive sein, (sich) einen offenen Zugang zu einem Diskurs zu ver/schaffen, in dem die virulenten ethischen Fragen, die die Digitale Gesellschaft aufwirft, verhandelt werden können. Um in diesem Diskurs bestehen zu können, und nicht der Meinungsmache selbsternannter oder vermeintlicher Autoritäten anheim zu fallen, braucht es ein Bewusstsein für ethische Problemlagen, aber auch für die Vielfalt von Wertehaltungen, die darin vertreten sind. Es braucht die Kompetenz, kritische Sachverhalte zu erkennen und ethisch begründet einschätzen und gegebenenfalls auch vertreten zu können. Doch das ist eine bisweilen unbequeme und aufreibende Angelegenheit, die persönliches Engagement erfordern kann.

„Faulheit und Feigheit sind die Ursachen, warum so ein großer Teil der Menschen […] gerne zeitlebens unmündig bleiben, und warum es anderen so leicht wird, sich zu deren Vormündern aufzuwerfen. Es ist so bequem, unmündig zu sein.“ Das stellt der Philosoph der Aufklärung, Immanuel Kant, schon im 18. Jahrhundert fest und fordert: „Habe den Mut, dich deines eigenen Verstandes zu bedienen!“ Gerade die Digitale Gesellschaft mit ihren Verführungen und Versprechungen erfordert im Sinne Kants ein besonderes Maß an Mut zum eigenständigen Denken und Handeln. Ein aufgeklärter Umgang mit der Digitalisierung, bei man sich die Mühe macht, sich seines eigenen Verstandes zu bedienen und die Digitalität in unseren diversen Lebensbereichen kritisch zu beleuchten, anstatt ihre Produkte unterhinterfragt zu nutzen, kann eine zentrale Forderung einer Digitalen Ethik sein. Einerseits geht es darum, der Versuchung einfacher Antworten auf komplexe Fragestellungen zu widerstehen. Andererseits muss es auch darum gehen, sich nicht in der Komplexität der Herausforderungen zu verlieren und handlungsfähig zu bleiben.
Angesichts der Vielzahl der ethisch relevanten Fragen, die die Digitale Transformation bzw. die Digitale Gesellschaft mit sich bringen, wird es unmöglich sein, eindeutige und abschließende Bewertungen zu einzelnen Themen und Sachverhalten zu geben. Insofern kann die Klärung und Reflexion der eigenen Werte eine notwendige Orientierung geben. Eine begründbare Werteorientierung kann man die Basis sein, auf der man eine eigene belastbare Haltung entwickeln und mit der man der digitalen Welt begegnen kann. Die Entwicklung einer wertebasierten Orientierung und einer daraus abgeleiteten Haltung kann eine weitere zentrale Forderung einer Digitalen Ethik sein.

Wenngleich man die Digitale Ethik auch als eine Bereichsethik verstehen kann, in der allgemeine ethische Erkenntnisse mit bereichsspezifischem Wissen verbunden werden, sind die Herausforderungen der Digitalität und ihre Wirkungen auf unsere Welt so tiefgreifend, dass viele grundsätzliche Fragen der Ethik tangiert sind und unter den Bedingungen der Digitalität überprüft, teilweise ergänzt und neu bewertet werden müssen. Insofern geht die Digitale Ethik über eine Bereichsethik hinaus. Im Folgenden sollen drei bedeutsame Aspekte, die im Kontext der Digitalen Ethik auftauchen und die zugleich grundsätzlichen Charakter haben, benannt und kurz angerissen werden.

3. Drei grundlegende Aspekte der Digitalen Ethik

Von der aktuellen Diskussion um die ethischen Herausforderungen, die die Digitale Gesellschaft mit sich bringt, sind sehr viele Lebensbereiche betroffen. Entsprechend umfangreich ist die Liste an Aspekten, die man in diesem Kapitel behandeln könnte. Letztlich könnte man diese Liste auch immer weiter ergänzen, je nachdem welche Perspektive man einnimmt und wie detailliert und ausdifferenziert man vorgehen möchte. Insofern können die nachfolgenden Aspekte einer Digitalen Ethik nur einen exemplarischen Charakter haben und sie erheben nicht den Anspruch vollständig oder abschließend zu sein. Gleichwohl scheinen sie besonders dafür geeignet zu sein, ethische Konfliktlinien aufzuzeigen und das Problembewusstsein zu schärfen.

3.1. Strukturierung

Die digitale Welt ist keine bloße in sich und für sich abgeschlossene Sphäre, sondern sie hat auch konkrete und spürbare Auswirkungen auf die physische Welt in der wir als körperliche Wesen leben. Bekannte Beispiele etwa sind algorithmische Berechnungen, die unser Handeln oder unsere Möglichkeiten in der echten Welt beeinflussen, sei es im beruflichen oder privaten Bereich. Man denke beispielsweise an die Optimierung von Fahrtstrecken bei Speditionen, deren Fahrerinnen bei Abweichungen von der Wegstrecke oder bei Zeitüberschreitungen sanktioniert werden. Oder man denke an die Algorithmen basierte Berechnung der Kreditwürdigkeit, die sowohl auf dem bisherigem – in Daten hinterlegten – Konsumverhalten beruht, aber auch auf sozioökonomischen Daten aus der Nachbarschaft, in der man lebt und von deren Struktur auf die eigene Kreditwürdigkeit geschlossen wird. Es handelt sich hierbei um eine Verwobenheit der digitalen Welt, in der Daten aus der physischen Welt verarbeitet werden, mit der physischen Welt, in der Berechnungen aus der digitalen Welt strukturgebend wirksam werden. Und zwar, wie an den beiden Beispielen gezeigt, auch zum unmittelbaren Vor- oder Nachteil von Individuen. Vorstrukturierungen der physischen Welt, die aus der digitalen Welt kommen, können wir uns kaum noch entziehen. Nicht zuletzt in der Verwobenheit von physischer und digitaler Welt liegt ein wesentliches Charaktermerkmal der Digitalen Gesellschaft. Mit diesen Aspekten sind in der Folge auch Fragen der Gerechtigkeit und der Verantwortung verbunden. Wie gerecht sind solche Strukturen, mithin also: wie gerecht ist diese Gesellschaft? Gibt es Gruppen, die bevorzugt und oder benachteiligt werden? Und wer ist verantwortlich für die Gestaltung der Strukturen und deren Ausprägungen in der physischen Lebenswelt, die bisweilen massiv in unser individuelles sowie gemeinschaftliches Leben eingreifen können? Sollte man sich solchen Strukturen und auch grundlegenden Diensten – wie etwa dem Onlinebanking – überhaupt noch entziehen können bzw. entziehen dürfen? Immerhin wird die Flut der Apps auf unseren Smartphones zunehmend größer und der Druck von Anbietern, die ihre Kunden in die Onlinewelt drängen, wird schleichend immer überwältigender. Sicher fallen jedem Restaurants oder Bars ein, in denen die Speisekarte nur noch via QR Code auf dem Handy einsehbar ist, um nur ein Beispiel von vielen aufzuzeigen. Muss man sich unhinterfragt auf solche Entwicklungen und Nötigungen aus der digitalen Welt einlassen? Oder soll es aus ethischer Sicht die Möglichkeit der Digital Detox geben und ein Recht auf eine analoge Welt? Immerhin gibt es Stimmen, die davon ausgehen, dass dieser digitaler Entzug gar nicht mehr möglich und sinnvoll ist, weil die herrschenden digitalen Strukturen nach der digitalen Entgiftung sowieso wieder dominieren und auf uns einwirken. Damit wäre letztlich jeder selbst für den Umgang und die Nutzung digitaler Geräte und Anwendungen verantwortlich – und damit auch für die Teilhabe oder Selbstausgrenzung aus dem gemeinschaftlichen Leben. Aber kann das ethisch wünschenswert sein? Wenn es nun eine Aufgabe der IT-Sicherheit ist, digitale erzeugte Strukturen zu schützen, so liegt dahinter die ethische Frage, ob das, was geschützt werden soll, überhaupt schützenswert ist. Wenn wir hier weiterdenken, kommen wir zu Fragen der individuellen Verantwortung. Beispielsweise ob eine Expertin der IT-Sicherheit nur für die korrekte technische Umsetzung ihres Auftrags verantwortlich ist, oder ob sie nicht doch das, was sie tut, auch unter sehr grundlegender ethischer Perspektive verantworten, mindestens aber reflektieren und bewerten, müsste.

3.2 Zugang

In seinem Vortrag bei einem wissenschaftlichen Fachgespräch an der Berliner Hochschule für Technik im Juni 2021 diskutiert der brasilianische Philosoph Luiz Carlos Bombassaro ein grundlegendes Thema der Digitalen Ethik wie folgt: „Beleuchten wir nun das Thema der Ungleichheit beim Zugang zur digitalen Welt. Betrachtet man zunächst die wirtschaftliche und technologische Ungleichheit, so stellt man fest, dass es zunächst einmal eine tiefe Kluft zwischen den verschiedenen Regionen der Welt gibt. In Fall der Digitalen Transformation müssen wir nicht nur den sozioökonomischen Unterschied berücksichtigen, sondern auch den Unterschied in Bezug auf Bildung und technologische Produktion. Wir haben also einen abgrundtiefen Unterschied zwischen denen, die Zugang zur digitalen Welt haben, und denen, die keinen Zugang dazu haben. Wenn wir nun aber nur die Gruppe derjenigen nehmen, die Zugang haben, stellen wir auch fest, dass sie nicht in gleicher Weise und auf gleichem Niveau Zugang haben. Es gibt große technologische Unterschiede und oft sind auch die Kosten des Zugangs zur digitalen Welt unverhältnismäßig hoch. So kostet beispielsweise eine Internetverbindung für jemanden, der in einer Metropole in den USA lebt, viel weniger als für jemanden, der im Landesinneren von Afrika lebt. Entsprechend kann der Prozess der Digitalisierung selbst auch dazu führen, dass sich die Ungleichheit vergrößert. Somit kann das Problem der Ungleichheit des Zugangs sowohl eine Ursache als auch eine Folge von noch größerer Ungleichheit sein. Die These von der Chancengleichheit beim Zugang und der Nutzung der Vorteile der digitalen Welt ist angesichts der wirtschaftlichen und technologischen Unterschiede nicht haltbar. Wir haben also ein Problem zu lösen: Die Förderung des Zugangs zur digitalen Bildung bei denjenigen, die durch wirtschaftliche und soziale Bedingungen weniger begünstigt sind. Ich glaube, das ist es, worauf Regierungen, Unternehmen, Universitäten, Schulen und Gemeinden auf der ganzen Welt ihre Projekte und Aktionen ausrichten sollten.“ Der Zugang zum Internet und die damit verbundene Teilhabe an der digitalen Welt haben eine sehr grundlegende Bedeutung für die Behebung von Ungleichheiten und zur Herstellung von Gerechtigkeit in der digitalen Gesellschaft – sei diese national oder global gedacht. Zunächst einmal hat man als Bürgerin eines Staates eine bestimmte Nationalität und ein Heimatland. Doch mit der digitalen Gesellschaft werden nationale Grenzen transzendiert. „Das Internet ist ein Werkzeug, das eine Art von Weltbürgerschaft ermöglicht.“ Diese Einschätzung verweist auf die besondere Qualität des transnationalen Miteinanders, das durch die Digitalität und den digitalen Raum gesehen wird. Wie brisant und von grundlegend ethischer Relevanz damit der Zugang zu diesem Digitalen Raum ist, kommt in der Forderung nach dem „Internetzugang als Menschenrecht“ sowie der damit verbundenen Diskussion um Zensur und Meinungsfreiheit im Internet zum Ausdruck. Dass der Zugang zum Internet und damit zur Digitalen Welt sehr anfällig für Angriffe, Manipulationen und gar Zerstörung ist und damit in den grundsätzlichen Schutzbereich der Cybersecurity fällt versteht sich von selbst.

3.3. Bildung

In Zusammenhang mit dem Zugang zum Internet und der daraus resultierenden Frage nach der Gerechtigkeit in der Digitalen Gesellschaft steht die Frage der Bildung. Als Bildung kann man die Formung des Menschen bezeichnen, die notwendig und wünschenswert ist, um das jeweils gesellschaftsspezifische Menschsein zu realisieren. Damit ist gemeint, dass jede Gesellschaft eine Vorstellung eines ihr gemäßen Zusammenlebens hat, für das die Menschen in dieser Gesellschaft entsprechend gebildet sein müssen. Es geht also um die Formung des Menschen hin zu einem Mitglied einer wünschenswerten Gesellschaft. Dafür braucht es bestimmte erwünschte geistige, physische, soziale und kulturelle Eigenschaften und Fähigkeiten der Menschen, um ebendiese Gesellschaft zu erhalten. Insofern ist Bildung als abhängig von einer betrachteten Gesellschaft zu verstehen.
Es liegt im Wesen unserer modernen pluralistischen Gesellschaft, dass es in vielen Feldern umstritten ist, was das Wünschenswerte ist. Dennoch gibt es auch hier feststehende Werte, die als unumstößlich gelten. So ist beispielsweise Pluralität ein konstitutiver Grundwert einer modernen pluralistischen Gesellschaft an sich, da er ja die pluralistische Gesellschaft überhaupt erst ermöglicht – das klingt trivial, ist es aber nicht. Weitere unumstößliche Werte kann man aus den im Grundgesetz garantierten Grundrechten ablesen. Gleich im ersten Artikel des Grundgesetzes für die Bundesrepublik Deutschland ist die Würde des Menschen als unantastbar verbrieft und damit als einer der höchsten Werte in unserer Gesellschaft ausgewiesen. Es ist diese Würde des Menschen, die wir bereits im ersten Kapitel als das eigentliche Schutzgut der IT-Sicherheit ausgemacht haben und auf die sich in unserer Gesellschaft letztlich alle weiteren Schutzgüter die IT-Sicherheit zurückführen lassen.
Wenn wir nun die Digitale Gesellschaft im Blick haben, stellt sich die Frage, was Bildung in der digitalen Gesellschaft bedeutet und wie sie erreicht werden kann. Versteht man die Digitale Gesellschaft gewissermaßen als digitalen Zwilling (also als eine Art Kopie der analogen Gesellschaft im digitalen Raum) der nationalen Gesellschaft, dann dürften in hohem Maße die Werte der nationalen Gesellschaft in ihr adaptiert sein. Und Bildung würde auf diese Werte abzielen.
Geht man indes davon aus, dass die Digitale Gesellschaft transnational ist, also die Grenzen der Nationalstaaten überschreitet, dann können kulturell unterschiedliche Vorstellungen von Bildung – die von den nationalen Gesellschaften abhängen – kollidieren. Oder es entsteht im Laufe der Zeit eine neue, eigene Vorstellung davon, was Bildung in der Digitalen Gesellschaft ist. Damit sind wir wieder zu der Frage zurückgekehrt, was die wünschenswerte Digitale Gesellschaft ist und wie die Menschen die in ihr leben, geformt (also gebildet) werden müssen, um ebendiese Gesellschaft hervorzubringen bzw. zu erhalten.
Mit Blick auf die kritische Beobachtung und Reflexion der Entwicklungen in dieser Gesellschaft wird es nicht hinreichend sein, die Bildung und Formung nur auf die Anwendungskompetenzen digitaler Tools zu richten. Es wird mindestens genauso wichtig sein, ein Mindestmaß an Wissen über die damit einhergehenden Zusammenhänge und ethischen Herausforderungen zu haben. Die „Gebildeten“ in der Digitalen Gesellschaft brauchen ein Verständnis davon, womit sich Digitale Ethik befasst.
Für die sogenannten Digital Natives, die jungen Leute, die um die Jahrtausendwende geboren und mit dem Internet aufgewachsen sind, ist das Internet bereits eine neue Sozialisierungsinstanz, die sie auf ihre gesellschaftliche Rolle mitvorbereitet und formt. Doch nur, weil sie einen sehr geübten Umgang mit der Digitalität und ihren Anwendungen haben, bedeutet das nicht, dass diese in die Digitalität eingeborenen Menschen deshalb die digitale Welt und die digitalisierte Gesellschaft, in der sie leben, besser verstehen, als digitale „Einwanderer“ aus früheren Generationen. In die digitale Gesellschaft hineingeboren zu sein bedeutet nicht automatisch, dass man als digital Eingeborener ohne weiteres in der Lage ist, verantwortlich in und mit der digitalen Welt zu agieren. Das gilt nicht minder für Digital Natives, die sich in der IT-Sicherheit engagieren und durch ihre Arbeit die digitale Gesellschaft schützen. Es braucht folglich ein Wissen um (Digitale) Ethik allgemein und in dem Bereich der Cybersecurity ein Wissen um Ethik in der IT-Sicherheit.

4. Einige Themen der Digitalen Ethik

Die IT-Sicherheit bietet Schutz gegen Angriffe auf die digitale Sphäre unserer Gesellschaft. Am unmittelbarsten wird das wohl durch die IT-Sicherung des politischen Systems gegen Angriffe aus dem In- und Ausland deutlich. Doch auch die Abwehr von Cyberattacken auf Unternehmen oder Institutionen dient letztlich der Stabilisierung unseres gesellschaftlichen – und damit auch wirtschaftlichen, politischen, wissenschaftlichen etc. – Systems. Kurzum, in allen Bereichen, in denen digitale Technogien eingesetzt werden, ist auch die IT-Sicherheit gefragt, um Schaden abzuwehren bzw. entsprechende Angriffe in weiser und professioneller Voraussicht möglichst vorab zu verhindern. Da Technologien und gesellschaftliche Entwicklungen miteinander verwoben sind, schwingen immer auch ethische Fragen mit; Fragen, die je nach Bereich mehr oder weniger brisant sind. So ergeben sich Themen, die unter dem Dach der Digitalen Ethik diskutiert werden und die auch die IT-Sicherheit in unterschiedlichem Maße betreffen können.
Neben den bisher in diesem Kapitel entwickelten Forderungen und den identifizierten grundlegenden Aspekten einer Digitalen Ethik werden zahlreiche konkrete Themen und Entwicklungen unter ihrer Überschrift diskutiert. Zusätzlich zu den grundlegenden ethischen Fragen hinsichtlich der Datensouveränität und des Datenschutzes bringen spezifische technologische Entwicklungen häufig spezifische ethische Konfliktfälle und Fragen mit sich. Einige solcher virulenten und kontrovers diskutierten Themen sind nachfolgend genannt und ihr jeweils spezifischer Konfliktpunkt betont.

4.1. Autonome Fahrzeuge

Ein spezifischer Punkt, an dem sich die kritischen Diskussionen entfachen, ist der Frage nach der Verantwortung im Falle eines Unfalls. Wer haftet, wenn ein Fahrzeug, dass durch Algorithmen gesteuert wird, einen Unfall baut. Sehr brisant ist dabei die Abwägung des Schadens, der im Falle des Falles minimiert werden soll. Wenn ein Unfall mit Personenschäden unausweichlich ist: Soll das Fahrzeug dann eher in die Gruppe mit Seniorinnen am Straßenrand oder auf das einzelne Kind, das plötzlich auf die Straße springt, steuern? Es steht hier der Wert des Menschen im Zentrum und die Frage, ob man individuelle Menschen mit je unterschiedlichen Werten versehen darf, so dass der Algorithmus den Wagen in die Menschengruppe mit dem geringsten Wert steuert. Denn dadurch würde (rechnerisch) der unausweichliche Schaden minimiert.

4.2. Mensch-Maschine-Interaktion

Brisante ethische Herausforderungen entzünden sich leicht an der unmittelbaren Schnittstelle zwischen Menschen und Maschinen. Das ist dann der Fall, wenn ein Roboter als Ersatz für einen anderen Menschen, mit dem eine Person in einem bestimmten Zusammenhang interagieren würde, dient. Roboter in der Pflege sind ein vieldiskutiertes Beispiel für eine Mensch-Maschine-Interaktion. Unsere Gesellschaft altert und mit der Anzahl älterer Menschen steigt auch der Bedarf an Pflege in unterschiedlichem Ausmaß. In Zeiten knappen und schlecht bezahlten Pflegepersonals können Roboter wertvolle Dienste bei der Pflege leisten. Wie steht es aus ethischer Perspektive dabei um die Selbstbestimmung der Patienten und wie weit darf die Bevormundung durch einen Roboter gehen? Kann eine pflegebedürftige Person, die rund um die Uhr von einem Roboter betreut wird, auf die Einnahme der festgelegten Medikamente verzichten, die der Roboter ihr andient? Beispielsweise wenn sie ein Medikament ablehnt und dafür bewusst gesundheitliche Nachteile in Kauf nehmen würde. Man kann darüber hinaus auch grundsätzlich infrage stellen, ob es mit der Würde und Selbstachtung eines Menschen vereinbar ist, von einem Roboter gepflegt zu werden. Moralische Kontroversen wirft auch der Einsatz Sexrobotern auf. Am ehesten findet diese Mensch-Maschine-Interaktion Zustimmung, wenn es sich um medizinische Zwecke bzw. zur Unterstützung körperlich beeinträchtigter Personen handelt. Doch sollte die intime Liaison mit einem Roboter auch ohne medizinischen Befund eine gesellschaftliche Legitimität erfahren? Vor allem dann, wenn die Maschinen zunehmend menschenähnlicher gestaltet werden können, wodurch die Nutzerinnen Gefühle für die Roboter entwickeln könnten. Oder wenn sie umgekehrt sogar den Robotern Gefühle ihnen gegenüber unterstellen würden. Müsste man überdies den Robotern eine Moral einprogrammieren, so dass sie sich bei bestimmten Praktiken verweigern würden?
In die Kategorie Mensch-Maschine-Interaktion fallen auch Kampfroboter, die in unterschiedlichen Graden an Autonomie für Kampf- und Kriegszwecke eingesetzt werden können. Sogenannte LAWS (Letale autonome Waffensysteme) könnten dabei selbständig Ziele ausmachen und bekämpfen, ohne dass eigene Soldatinnen in Gefahr kämen. Der Mensch würde in diesem Falle die Steuerung abgeben, was Vorteile bei der Reaktionsgeschwindigkeit bringen könnte. Doch damit gäbe er auch Kontrolle aus der Hand. Allerdings wäre ein Roboter emotionslos und würde bei „moralisch guter“ Programmierung frei von beispielsweise Angst oder Hass agieren. So würde der Roboter womöglich völkerrechtliche Regeln besser einhalten, als Menschen dies in einer kriegerischen Extremsituation könnten.

4.3. Algorithmen in der Medizin

Durch die Digitalisierung und Auswertung des Gesundheitszustands sowie von Verhaltensweisen von Patientinnen, können Algorithmen basierte Systeme Ärzte und Ärztinnen bei der Behandlung unterstützen. So kann die Auswertung der Patientendaten beispielsweise bei der Diagnosestellung helfen. Eine Datenrepräsentation des Patienten (ein digitaler Zwilling) könnte auch eine Art digitale Fernüberwachung des Patienten ermöglichen, womit dessen Gesundheitszustand kontrolliert und gesteuert werden könnte. In ökonomischer Hinsicht könnten sich daraus erhebliche Kosten-Nutzen Vorteile ergeben. Allerdings würde dadurch die Möglichkeit unterlaufen, ein beziehungsorientiertes Arzt-Patienten-Verhältnis herzustellen, das den Menschen als Ganzes, mit eigener Geschichte und eigenen Werten erfasst, für das keine berechenbare Lösung sinnvoll ist.

4.4. Games

Computerspiele sind aus der digitalen Welt nicht wegzudenken, sie gehören von Anfang an dazu. Auch wenn Spielen eine zutiefst menschliche Eigenschaft ist, gegen die grundsätzlich nichts einzuwenden ist, werden digitale Games vor allem mit zwei Problemen in Verbindung gebracht. Zum einen ist es die vielfach explizit dargestellte und im Spiel ausgeübte Gewalt, die für moralische Empörung sorgt. Zum anderen ist es der Sog bis hin zu einer Abhängigkeit und Weltentfremdung, in die Computerspiele ihre Spielerinnen ziehen können und die sogar zu einer Kostenfalle werden können. Gerade die Verlagerung des sozialen Lebens der Spielerinnen in die virtuelle Welt, in der sie unter Umständen neue Identitäten ausformen und eine höhere Anerkennung erfahren können, als sie es aus ihren sozialen Gemeinschaften in der physischen Welt kennen, birgt ein immenses Suchtpotenzial mit Realitätsflucht. Das ist ein Phänomen, dessen Tolerierbarkeit unter ethischer Perspektive geprüft werden muss, zumal auch positive Effekte, wie beispielsweise die Schulung strategischen Denkens oder die Entwicklung von virtueller Kooperationskompetenz, dagegenstehen.

4.5. Fake News

Fake News werden ihrem Wesen nach in manipulativer Weise dafür eingesetzt, das öffentliche Meinungsbild zu beeinflussen. Es handelt sich dabei um eine bewusste strategische Platzierung von gefälschten Informationen und nicht um eine versehentliche Falschmeldung aufgrund eines journalistischen Fehlers. Fake News imitieren den Stil echter Nachrichten und können sehr schnell und kostengünstig über die Sozialen Netzwerke verbreitet werden; sie dienen der Desorganisation und Propaganda. Digitale Filterblasen und Echokammern, in denen sich die Nutzerinnen der digitalen Welt bewegen, verstärken den Effekt der Meinungsmache bis hin zu falschen Gewissheiten, die auf das Handeln in der physischen Welt durchschlagen. Artikel 5 des Grundgesetztes für die Bundesrepublik Deutschland verbrieft die Meinungsfreiheit als Grundrecht der Bürgerinnen und Bürger. Fake News indes fordern dieses Grundrecht heraus. Denn man könnte argumentieren, dass Fake News die Meinung ihrer Absender widerspiegeln, was ebenso wie die Übernahme dieser Ansichten durch andere Menschen durch die Meinungsfreiheit gedeckt sein sollte. Gleichwohl sorgen die Fake News gezielt für Unsicherheit und sie sind dazu angetan, den öffentlichen Frieden und das demokratische System zu unterlaufen. In diesem Zusammenhang zeigt sich die Bedeutung der Bildung in der digitalen Gesellschaft, wie bereits weiter oben diskutiert.

4.6. Online-Gewalt

Auch Cyber-Mobbing hat wie Fake News eine bewusste und gezielt schädigende Absicht. Wie bei Mobbing in der physischen Welt werden auch beim Cyber-Mobbing einzelne Personen durch Beleidigungen, Bloßstellungen und Demütigungen drangsaliert. Im Gegensatz zum Mobbing in der physischen Welt haben die Opfer keine geschützten Rückzugsräume. Gerade bei jüngeren Nutzerinnen und Digital Natives mit ihrem Always-on der mobilen Endgeräte und ihren zahlreichen Apps für Social Media, kann digitales Mobbing zu einer immensen Belastung werden. Die digitalen Angriffe auf die Person sind quasi allgegenwärtig. Durch die Asymmetrie der Macht zwischen Täter und Opfer wird die Belastung noch verstärkt. Denn für die Täter bietet das Internet einen hohen Schutz und die Möglichkeit ihre Identität zu verschleiern. Das Opfer hingegen ist den Angriffen offen ausgesetzt und hat kein offensichtliches Gegenüber, dem es Paroli bieten könnte. Ein einfaches Ausschalten der Endgeräte ist dabei keine Lösung.
In eine ähnliche Richtung geht die Hate Speech. Auch in der physischen Welt gibt es Hassreden, die gegen bestimmte Individuen oder Personengruppen (Migranten, Frauen, Homosexuelle etc.) gerichtet sind und diese diskreditieren wollen. Doch auch hier potenziert das Internet die Reichweite und bisweilen auch die Schärfe der Verleumdungen, wodurch die Grenzen des Sagbaren verschoben werden. Indem der Hass von Menschen im Internet ausgelebt wird und damit auch Ideologien und extreme politische Stimmungsmache betrieben wird, wird der Diskurs und der Zusammenhalt in der offenen Gesellschaft vergiftet. Beispiele sind die Beschimpfungen, denen Feuerwehrleute, Sanitäter oder auch Polizisten bei Ihren Einsätzen ausgesetzt sind. So wurden auch bei der Flutkatastrophe im Sommer 2021, bei der viele Menschen ums Leben kamen und noch mehr Menschen ihr Hab und Gut verloren, Hasstiraden gegen Helfer vor Ort digital verbreitet. Darin kann man, wie der Deutschlandfunk berichtet, nichts weniger als einen Angriff auf das Gemeinwohl erkennen.
Schließlich sei noch der Shitstorm als Form der Online-Gewalt genannt, der nicht pauschal wie die Hassrede gegen bestimmte Gruppen oder Systeme gerichtet ist, sondern der sich als Reaktion auf ein echtes oder vermeintliches Fehlverhalten einer Person im Internet entlädt. Diese Person kann innerhalb von Minuten zum Ziel unzähliger digitaler Attacken und Beleidigungen werden, auch durch Menschen, die diese Person gar nicht kennt.
Den Formen der Online-Gewalt ist gemein, dass Opfer exponiert und massiv attackiert werden. Die Täter indes agieren weitgehend anonym und beziehen sich im Zweifel auf ihr Grundrecht zur freien Meinungsäußerung, auch wenn ihr Verhalten gegenüber dem Opfer oftmals entwürdigend ist. Es ist eine Herausforderung an unsere Gemeinschaft, aber auch an die Individuen, solchen Dynamiken entgegenzutreten und – gerade auch in der digitalen Welt – verantwortlich zu handeln und Haltung zu zeigen.

5. Ein ganz kurzer Ausblick: Cybersecurity-Ethik

Die Digitale Ethik bietet ein Dach, unter dem zahlreiche spezifische Fragestellungen angesiedelt sind, die sich mit ethischen und moralischen Herausforderungen, die die Digitale Transformation mit sich bringt, befassen. Die ausgewählten und in diesem Kapitel skizzierten Themen sind exemplarisch dafür. Die weitere Liste ist lang und wächst mit der Entwicklung digitaler Technologien weiter.
Unter dem Dach der Digitalen Ethik kann man auch die Cybersecurity Ethik ansiedeln, die als Ethik der IT-Sicherheit mit spezifischen Fragefeldern, Zugängen und Bewertungsmodalitäten ethische Probleme im Kontext der IT-Sicherheit untersucht und Hilfestellungen gibt. Es kann helfen, die Cybersecurity Ethik zunächst als eine Bereichsethik aufzufassen. Zur Erinnerung: Das Besondere an der Idee von Bereichsethiken ist, dass ethische Aspekte auch mit fachlichen Aspekten des Bereichs verquickt werden. Das bedeutet, dass im spezifischen Bereich der Cybersecurity ethische Problemlagen vor einem Hintergrund aus ethischen und fachlichen Kriterien der IT-Sicherheit bewertet werden. Dafür ist ein transdisziplinäres Zusammenwirken von Experten und Expertinnen aus Wissenschaft und Praxis in den Disziplinen der Ethik und IT-Sicherheit, aber auch in angrenzenden Disziplinen, sinnvoll und notwendig.
Die Begriffe Digitale Ethik oder noch spezifischer Cybersecurity Ethik sollen dabei nicht vortäuschen, dass es die Digitale Ethik bzw. die Cybersecurity Ethik als ein einziges ethisches Konzept gäbe, mit dem man checklistenartig einen problematischen Sachverhalt prüfen und das Ergebnis ablesen oder berechnen könnte. Dennoch gibt es grundlegende Fragefelder und Herausforderungen für die Ethik, die man stärker als andere dem Bereich der IT-Sicherheit zuordnen könnte und die sich laufend weiterentwickeln. Diese sind beispielsweise mit den Begriffen von Überwachung, Privatheit, Eigentum in der digitalen Welt oder der Cyber-Kriegsführung verbunden. Eher operative Fragefelder sind beispielsweise mit den Vorstellungen eines sogenannten ethischen Hackens oder eines responsible Disclosure verbunden, um nur einige zu nennen. Diese und weitere Themen, die in der digitalisierten Welt virulent sind, verdienen mit Blick auf die Cybersecurity eine vertiefte Betrachtung.
Noch steckt die Cybersecurity-Ethik in den Kinderschuhen und noch sucht sie ihr Profil. Doch wenngleich sie noch nicht eigenständig etabliert ist, so hat sich allein während der Entstehung dieses Buches gezeigt, dass sie weiter an Aufmerksamkeit gewinnt und einer weiteren Ausdifferenzierung bedarf.

Zur einfacheren Lesbarkeit wurden die Quell- und Literaturverweise entfernt.

Matthias Schmidt: Ethik in der IT-Sicherheit (2. erweiterte Auflage); 2023

https://pressbooks.pub/itethik/
https://creativecommons.org/licenses/by-sa/4.0/