06/2026
1 Einleitung
Künstliche Intelligenz (KI) ist zu einem viel diskutierten Thema geworden und findet zunehmend Anwendung in verschiedenen Bereichen der Gesellschaft. Aktuelle Trends und Entwicklungen deuten auf ein neues Leistungsniveau hin, das sich aus den aufkommenden Konzepten der KI-Agenten und der agentischen KI ergibt. Während KI-Agenten (d. h. eine Einzelagenten-Architektur) in der Lage sind, spezifische, enger definierte Aufgaben auszuführen (z. B. ein Chatbot im Kundenservice, der mit einer Wissensdatenbank verbunden ist), ist die Vernetzung mehrerer KI-Agenten in agentischen KI-Systemen (d. h. einer Multi-Agenten-Struktur) darauf ausgelegt, umfassendere, komplexere Aufgaben zu übernehmen, wobei sie manchmal als persönliche Assistenten fungieren, die in der Lage sind, eine Vielzahl alltäglicher Aufgaben zu erledigen. Da sie mit relativer technischer Autonomie agieren, sollen sie komplexe Ziele mit minimalem bis gar keinem menschlichen Eingriff verfolgen.
Man kann sich beispielsweise ein Szenario vorstellen, in dem ein KI-System eigenständig Konzertkarten kauft, eine Zugfahrt zum Veranstaltungsort bucht, ein Hotel reserviert und Freunde darüber informiert, dass alle Vorbereitungen abgeschlossen sind. Oder ein KI-System im medizinischen Bereich, das autonom Arzttermine entsprechend dem Gesundheitszustand des Patienten koordiniert. Solche Fälle verdeutlichen: Während KI-Agenten und agentische KI-Systeme bei der Lösung komplexer Aufgaben leistungsstark sind, benötigen sie nahezu uneingeschränkten Zugriff auf sensible personenbezogene Daten wie Namen, Geburtsdaten, Gesundheitsdaten, Kreditkarteninformationen und sogar private Kommunikation, was bereits die ethischen Implikationen dieser Systeme berührt, etwa in Bezug auf Datenschutz und Transparenz. Ihre Fähigkeit, mit einem hohen Mass an technischer Autonomie und mit minimalem bis gar keinem menschlichen Eingriff zu handeln, unterstreicht sowohl ihr enormes Potenzial als auch ihre Ambivalenz und wirft Fragen hinsichtlich Verantwortung, Fairness und Nichtschädigung auf. Einerseits versprechen sie, alltägliche Belastungen zu verringern, indem sie mühsame administrative oder repetitive Aufgaben übernehmen und dadurch Zeit sparen. Andererseits werfen der Grad an Autonomie und der umfassende Datenzugriff erhebliche ethische Bedenken auf.
Trotz zunehmender technischer Forschung zu KI-Agenten und agentischer KI ist die ethische Auseinandersetzung mit diesen Entwicklungen – trotz erster Überlegungen – nach wie vor weitgehend unterentwickelt. Ihre Auswirkungen auf die menschliche Autonomie, die Handlungsfähigkeit sowie den umfassenden Zugriff auf personenbezogene Daten verstärken klassische ethische Fragen im Bereich der KI, darunter Transparenz, Fairness und Verantwortung. In diesem Beitrag bauen wir auf den Grundsätzen der UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz auf, wobei wir uns an der von Jobin et al. vorgestellten Struktur der am häufigsten diskutierten Prinzipien orientieren, um zu untersuchen, inwiefern KI-Agenten und agentische KI mit bestehenden ethischen Grundsätzen in Beziehung stehen. Ziel dieser Arbeit ist es daher, eine erste ethische Perspektive auf diese neu entstehenden Systeme zu bieten, potenzielle Risiken und Herausforderungen aufzuzeigen und weitere Diskussionen und Forschungen anzuregen. Auf diese Weise leistet sie auch einen Beitrag zur normativen Reflexion über diese neuartigen Systeme, mit dem Ziel, deren verantwortungsvolle Entwicklung und Einsatz ethisch zu leiten.
2 KI-Agenten und agentische KI
Viele KI-Systeme wurden für spezifische Kontexte entwickelt. So kann beispielsweise ein KI-System in der Radiologie bei der Interpretation von Bilddaten helfen, während ein anderes in der Industrie defekte Komponenten identifizieren kann. Diese eng definierten Anwendungen werden nun durch KI-Agenten und agentische KI erweitert.
In ihrer Arbeit unterscheiden Sapkota et al. konzeptionell zwischen den Begriffen KI-Agent und agentische KI und bieten damit eine klarere Unterscheidung zum Verständnis der neuesten Entwicklungen in der KI-Forschung, die häufig anzutreffen sind. Laut Sapkota et al. „sind KI-Agenten typischerweise als Ein-Entitäts-Systeme konzipiert, die zielgerichtete Aufgaben ausführen, indem sie externe Werkzeuge nutzen, sequentielles Denken anwenden und Echtzeitinformationen integrieren, um klar definierte Funktionen zu erfüllen“. Ein KI-Agent – strukturell als Einzelagent-Architektur konfiguriert – zeichnet sich daher durch ein gewisses Mass an Handlungsfähigkeit aus (im Sinne von Misselhorn in einem graduellen und multidimensionalen Verständnis, wobei grundlegende Handlungsfähigkeit lediglich Intelligenz und Autonomie in einem schwachen Sinne (nicht in persönlicher oder moralischer Hinsicht) voraussetzt, wodurch die intrinsische Dynamik von KI-Systemen betont wird und diese als handlungsfähig wahrgenommen werden können, was Fragen der Verantwortung neu definiert), Aufgabenspezifität sowie Reaktionsfähigkeit und Anpassungsfähigkeit. Im Gegensatz zu klassischer generativer KI und grossen Sprachmodellen (LLMs) ist ein KI-Agent nicht darauf beschränkt, Texte, Bilder oder Videos auf der Grundlage von Trainingsdaten zu erzeugen, sondern kann über APIs auf externe Informationen zugreifen und Tools bedienen. Beispiele für solche KI-Agenten sind LLMs, die für den Kundensupport mit Wissensdatenbanken verbunden sind, oder autonome Terminplanungsassistenten. Diese Systeme können bei spezifischen Aufgaben helfen, z. B. ist im Kundensupport ein LLM-basierter Chatbot mit Datenbanken oder Ticketingsystemen verbunden und kann auf der Grundlage dieser Informationen Antworten geben, oder ein Terminplanungsassistent kann automatisch Termine in einem Kalender vereinbaren. Ihr Handlungsspielraum bleibt jedoch relativ klar definiert, und ihr Mass an Handlungsfähigkeit ist nach wie vor begrenzt.
Über diese Einzelagenten-Architektur hinaus gibt es die Multi-Agenten-Architektur, die Sapkota et al. unter dem Begriff „Agentic AI“ zusammenfassen. Diese Systeme „bestehen aus mehreren spezialisierten Agenten, die innerhalb eines übergeordneten Arbeitsablaufs koordinieren, kommunizieren und Teilaufgaben dynamisch zuweisen, um ein gemeinsames Ziel oder gemeinsame Ziele zu erreichen“. Mit anderen Worten: Mehrere KI-Agenten werden kombiniert, um komplexere Ziele zu verfolgen. Laut Acharya et al. „stellen Agentic AIs einen qualitativen Sprung in der Entwicklung der künstlichen Intelligenz dar, definiert durch ihre Fähigkeit, in einer sich verändernden und unkontrollierten Situation komplexe Ziele zu setzen und diese durch die autonome Verwaltung ihrer Ressourcen zu verfolgen“. Diese Beschreibung hebt im Vergleich zu einem KI-System mit einem einzigen Agenten mindestens drei neue Dimensionen und Fähigkeiten der agentischen KI hervor: erhöhte Komplexität, verbesserte Anpassungsfähigkeit und ein gesteigertes Mass an Handlungsfähigkeit, was innerhalb dieses komplexen Netzwerks einzelner Agenten unter anderem Fragen der Transparenz und Verantwortung neu und mit erhöhter Dringlichkeit aufwirft.
Erstens bedeutet erhöhte Komplexität, dass agentische KI-Systeme nicht mehr auf eine einzige spezifische Aufgabe beschränkt sind. Stattdessen sind sie miteinander vernetzt und in der Lage, in komplexeren Szenarien zu assistieren. Zweitens ermöglicht eine verbesserte Anpassungsfähigkeit diesen Systemen, sich effektiver an neue Kontexte anzupassen. Während einzelne KI-Agenten sich bereits bis zu einem gewissen Grad anpassen können, ermöglicht die Kombination mehrerer Agenten innerhalb der agentischen KI noch mehr Anpassungsfähigkeit und Dynamik. Drittens weisen agentische KI-Systeme eine gesteigerte Handlungsfähigkeit auf. Während KI-Agenten bereits innerhalb ihrer eng definierten Aufgaben mit relativer technischer Autonomie agieren konnten, erweitert die agentische KI dies noch weiter. Anstatt sich für spezifische Anwendungsfälle auf verschiedene KI-Tools zu verlassen, können Nutzer Aufgaben an ein agentisches KI-System delegieren, das selbstständig die geeigneten Werkzeuge auswählt und Aktionen mit minimalem bis gar keinem menschlichen Eingriff ausführt. Zusammen ermöglichen diese drei Fähigkeiten – höhere Komplexität, Anpassungsfähigkeit und Handlungsfähigkeit – agentischen KI-Systemen, bei einem noch breiteren Spektrum an Aufgaben und Domänen zu assistieren.
Es ist klar, dass KI-Agenten und Agentic AI zwar konzeptionell voneinander unterschieden werden können und sich in Umfang und Komplexität unterscheiden, dennoch bestimmte Merkmale gemeinsam haben: Beide handeln zielgerichtet, arbeiten mit relativer Autonomie, wählen die benötigten Werkzeuge aus und interagieren in unterschiedlichem Masse mit ihrer Umgebung. Infolgedessen lassen sich diese neuen Fähigkeiten und ihre Auswirkungen auf die Mensch-Technik-Beziehungen entlang mindestens dreier Dimensionen beschreiben, wie an verschiedenen Stellen in unserem Beitrag deutlich wird: Es ist (1) die weitreichende Handlungsfähigkeit von KI-Agenten und agentischen KI-Systemen, die (2) zu einem verstärkten Einfluss auf die menschliche Autonomie führt und (3) im Vergleich zu traditionellen KI-Systemen eine noch tiefere Verflechtung zwischen Mensch und Technologie zur Folge hat. Diese Erweiterung der Fähigkeiten und des Anwendungsbereichs wirft drängende ethische Fragen auf, die wir im folgenden Abschnitt hervorheben werden.
3 Ethische Perspektiven
Neuartige KI-Systeme in Form von KI-Agenten und agentischer KI zeichnen sich im Vergleich zu traditionellen KI-Systemen vor allem durch eine weitreichende Handlungsfähigkeit, einen verstärkten Einfluss auf die menschliche Autonomie und eine intensivere Verflechtung zwischen Mensch und Technologie aus. Diese Eigenschaften bedeuten, dass sowohl das positive Potenzial als auch die damit verbundenen Risiken dieser Systeme im Vergleich zu denen traditioneller KI verstärkt sind, die typischerweise in sehr eng definierten Bereichen und mit stärkerem menschlichem Eingriff operieren. Es ist daher unerlässlich, diese neuen Systeme unter dem Blickwinkel etablierter ethischer Grundsätze in der KI zu untersuchen. Die folgenden Unterabschnitte skizzieren mehrere zentrale ethische Fragen, die in diesem Zusammenhang aufkommen.
Als Ausgangspunkt stützen wir uns auf die Grundsätze der Empfehlung der UNESCO zur Ethik der künstlichen Intelligenz. In diesem Dokument definierte die UNESCO die Werte und Grundsätze, die „in erster Linie von allen Akteuren im Lebenszyklus des KI-Systems respektiert und, wo erforderlich und angemessen, durch Änderungen bestehender sowie die Ausarbeitung neuer Gesetze, Vorschriften und Unternehmensrichtlinien gefördert werden sollten“. Diese Grundsätze basieren auf mehreren Kernwerten, wie Menschenrechte und Menschenwürde, die Erhaltung der Umwelt und des Ökosystems, Vielfalt und Inklusion sowie Frieden und Gerechtigkeit. Um diese zugrunde liegenden Werte operativer und umsetzbarer zu machen, hat die UNESCO sie in den folgenden zehn Grundsätzen zusammengefasst: (1) Verhältnismässigkeit und Nichtschaden, (2) Sicherheit und Schutz, (3) Fairness und Nichtdiskriminierung, (4) Nachhaltigkeit, (5) Recht auf Privatsphäre und Datenschutz, (6) menschliche Kontrolle und Entscheidungsfindung, (7) Transparenz und Erklärbarkeit, (8) Verantwortung und Rechenschaftspflicht, (9) Bewusstsein und Kompetenz, (10) Multi-Stakeholder-Ansatz, adaptive Governance und Zusammenarbeit.
Zur besseren Übersichtlichkeit haben wir diese zehn Prinzipien zu einer Struktur aus fünf Kernprinzipien zusammengefasst und uns dabei auf Jobin et al. gestützt, die diese als die im Diskurs zur KI-Ethik am häufigsten diskutierten Prinzipien identifiziert haben: (1) Transparenz, (2) Gerechtigkeit und Fairness, (3) Nichtschädigung, (4) Verantwortung und (5) Datenschutz. Aufbauend auf diesen Prinzipien – und unter Einbeziehung der übrigen UNESCO-Prinzipien in verwandte Kategorien – untersuchen wir, inwiefern sie nach wie vor gelten und durch das Aufkommen von KI-Agenten und agentischer KI in Frage gestellt werden könnten. Diese Arbeit zielt darauf ab, potenzielle Problemfelder zu identifizieren und als Ausgangspunkt für eine vertiefte ethische Reflexion über diese neuen und verstärkten Herausforderungen zu dienen, die diese Systeme mit sich bringen. Methodisch orientiert sich diese Arbeit an einem spezifischen Ansatz der angewandten Ethik (konkrete Ethik) und stützt sich dabei auf das breite reflexive Gleichgewicht als Leitmethode. Im Rahmen dieses evaluativen Ansatzes werden konkrete Problemkonstellationen, moralische Urteile und Intuitionen, ethische Prinzipien und Kriterien, rechtliche Rahmenbedingungen sowie weitere Hintergrundinformationen in einen kritischen Dialog miteinander gebracht. Ziel ist es, zu einer Form der Gleichgewichts-Lösung zu gelangen, in der eine Vermittlung zwischen unterschiedlichen Interessen, Werten und moralischen Vorstellungen erreicht wird. Das Ergebnis dieses Prozesses kann dann produktiv genutzt werden, indem es in Governance-Strukturen umgesetzt wird.
3.1 Transparenz
Transparenz ist eines der am häufigsten hervorgehobenen Prinzipien in KI-Leitlinien. Transparenz ist jedoch ein vielschichtiger Begriff, dessen Bedeutung je nach Disziplin variiert. In Anlehnung an Felzmann et al. lässt sich Transparenz entlang dreier Dimensionen verstehen: als Tugend, als Beziehung und als System. In diesem Sinne bedeutet Transparenz, dass ein KI-System seine „Abläufe, sein Verhalten, seine Absichten oder Überlegungen“ offenlegt, stets in Bezug auf diejenigen, die diese Offenheit interpretieren und darauf reagieren müssen, und stets innerhalb eines bestimmten Kontexts oder Systems. Die Forderung nach Transparenz in KI-Systemen – oft unter dem Begriff „erklärbare KI“ gefasst – hat sich in der Praxis als äusserst herausfordernd erwiesen, eine Schwierigkeit, die gemeinhin unter dem Begriff des „Black-Box“-Problems diskutiert wird.
Für KI-Agenten wird das Problem der Transparenz aus mindestens drei Perspektiven noch komplexer: (1) das KI-System selbst, (2) die Tiefe und Breite seines Eingriffs und (3) seine Adressaten.
Erstens wird Transparenz in Bezug auf das KI-System selbst zunehmend schwieriger, wenn das System komplexe, mehrstufige Operationen mit Hilfe externer Werkzeuge ausführt oder – im Falle von agentischer KI – wenn es aus mehreren interagierenden Agenten besteht. Durch die Aufteilung von Aufgaben in kleinere Schritte, die von verschiedenen spezialisierten Systemen über mehrere Phasen hinweg ausgeführt werden, wird das System als Ganzes noch komplexer und weniger nachvollziehbar. Dies hat Auswirkungen auf die Frage der menschlichen Aufsicht und die Möglichkeiten für Bewusstsein und Kompetenz. Denn wenn völlige Undurchsichtigkeit herrscht, wie können Menschen in der Praxis überhaupt sinnvoll in solche Systeme eingreifen? Da KI-Agenten und agentische KI-Systeme ein höheres Mass an Handlungsfähigkeit, systemischer Vernetzung und technischer Autonomie besitzen, wird die Frage, ob ein Mensch im Loop, am Loop oder ausserhalb des Loops bleibt, im Vergleich zu traditionellen KI-Systemen noch dringlicher. Diese Frage nach der Rolle des Menschen schliesst – zumindest auf der Ebene der Kontrolle – jeden Ansatz aus, der den Menschen aus dem Kreislauf herausnimmt. Wie genau die Rolle des Menschen jedoch gestaltet werden sollte, hängt vom Einzelfall und dem spezifischen Kontext ab. Daher erscheint grundsätzlich ein risikobasierter Ansatz, wie er im EU-KI-Gesetz eingeführt wurde, sinnvoll. Auf konzeptioneller Ebene besteht das zentrale Anliegen darin, dass der Mensch die Kontrolle behält oder dass eine sinnvolle menschliche Kontrolle gewährleistet ist. Dazu gehören unter anderem partizipatives Design, Situationsbewusstsein sowie Überwachungskontrolle und Risikoanalyse und -management. Damit wird deutlich: Je mehr Handlungsfähigkeit und technische Autonomie diese Systeme besitzen, desto entscheidender wird die Beteiligung – insbesondere der Betroffenen.
Zweitens erhöht der Einsatz von APIs und externen Tools – über die das System mit einer Vielzahl anderer Systeme interagiert – sowohl die Tiefe als auch die Breite seines Eingriffs. Um sinnvolle Unterstützung zu leisten, muss ein KI-Agent oder ein agentisches KI-System umfassenden Zugriff auf Daten und Tools haben, mit relativer technischer Autonomie arbeiten und im Namen des Nutzers handeln. Dies macht es jedoch zunehmend schwieriger nachzuvollziehen, welche Agenten miteinander kommunizieren, welche Systeme zur Aufgabe beigetragen haben, woher bestimmte Informationen stammen und, im Falle eines Fehlers, wo die Ursache des Problems liegt (im Algorithmus eines Agenten, in der Interaktion zwischen Agenten, in den Trainingsdaten oder in extern verbundenen Datenquellen). Eine weitere Frage betrifft das Wissen des Nutzers darüber, welche KI-Agenten, entwickelt von welchen Unternehmen, mit Sitz in welchen Ländern und unter welcher Rechtshoheit an der Erledigung der Aufgabe beteiligt waren. Die Tatsache, dass viele KI-Agenten und agentische KI-Systeme von weltweit verteilten privaten Unternehmen entwickelt werden, hat erhebliche Auswirkungen auf die Datenhoheit, sowohl auf individueller Ebene als auch auf staatlicher Ebene.
Drittens ergeben sich ethische Bedenken auch aus der Perspektive der Empfänger, die mit diesen Systemen interagieren. Apples Anruf-Screening-Funktion liefert ein anschauliches Beispiel: Ein virtueller Agent fängt eingehende Anrufe ab, um Spam herauszufiltern. Der Agent tritt mit dem Anrufer in Kontakt, fragt nach dessen Namen und dem Grund des Anrufs, bevor er ihm mitteilt, dass er prüfen wird, ob der gewünschte Empfänger verfügbar ist. Dies wirft eine wichtige Frage auf, insbesondere angesichts der im Vergleich zu früheren KI-Technologien höheren technischen Autonomie und Handlungsfähigkeit solcher Systeme: Inwiefern sind diese Systeme in menschliche Interaktionen eingebettet, und ist dem Anrufer klar, dass er mit einem KI-System interagiert, insbesondere vor dem Hintergrund der Fortschritte bei synthetischen Sprachtechnologien? Natürlich berühren diese Fragen auch das Thema Vertrauen.
Zusammenfassend wird deutlich, dass Transparenz sowohl immer komplexer als auch noch unverzichtbarer wird. Um dies anzugehen, bedarf es eines ethischen und technischen Diskurses über die Möglichkeiten und Grenzen erklärbarer KI in Bezug auf KI-Agenten und agentische KI. Insbesondere ist eine sorgfältige Abwägung hinsichtlich einer sinnvollen menschlichen Kontrolle und der Rolle des Menschen in der Führung erforderlich (z. B. durch Protokollierung oder Überwachungs-Dashboards, partizipatives Design usw.), da Überwachungsmechanismen in komplexen Multi-Agenten-Umgebungen immer schwieriger aufrechtzuerhalten sind.
3.2 Gerechtigkeit und Fairness
Eine weitere äusserst wichtige ethische Dimension, die eng mit Transparenz verbunden ist, sind Gerechtigkeit und Fairness. Die Diskussion über potenzielle Verzerrungen in KI-Systemen und deren Auswirkungen auf Fairness und Diskriminierung ist gut etabliert; diese Bedenken werden nun im Kontext von KI-Agenten und agentischer KI noch verstärkt.
Diese Verstärkung resultiert zum Teil aus verminderter Transparenz, wird jedoch noch stärker durch die weitreichende Handlungsfähigkeit dieser Systeme vorangetrieben. Wenn KI-Agenten oder agentische KI-Systeme technisch autonom agieren, kann die menschliche Aufsicht eingeschränkt sein. Folglich ist die Fähigkeit des Menschen, potenzielle Verzerrungen zu erkennen, im Vergleich zu traditionellen KI-Anwendungen noch weiter eingeschränkt. Bei hohem Automatisierungsgrad bemerken Nutzer möglicherweise gar nicht, wenn ein KI-System bestimmte marginalisierte Gruppen systematisch benachteiligt, während es andere begünstigt. Beispielsweise könnte ein KI-Agent, der zur Vorauswahl von Bewerbungen eingesetzt wird, Kandidaten automatisch ablehnen, bevor ein Personalverantwortlicher sie überhaupt prüft. Ist der Auswahlprozess des Systems voreingenommen, gelangen bestimmte Bewerber möglicherweise nie zur Prüfung durch einen Menschen – was auch Fragen darüber aufwirft, wer überhaupt in Betracht gezogen wird. Infolgedessen kann sich der Personalverantwortliche kein umfassendes Bild machen oder die abgelehnten Kandidaten prüfen, da diese automatisch herausgefiltert und über ihre Ablehnung informiert wurden. Mit der Erweiterung der Fähigkeiten des Systems und seinem immer umfassenderen Einsatz wird die Gewährleistung von Fairness immer dringlicher und unterstreicht die ethische Bedeutung der Erklärbarkeit von KI-Systemen sowie einer Überprüfung der in diesen Systemen verankerten Werte.
Fairnessrisiken erstrecken sich auch auf die Nutzer selbst, die benachteiligt werden können, wenn ihre Präferenzen oder Eigenschaften nicht mit den im System kodierten Werten übereinstimmen. KI-Agenten könnten Nutzer implizit zu bestimmten Entscheidungen hinlenken – oder sie sogar manipulieren – oder sich weigern, Handlungen auszuführen, die im Widerspruch zu ihren programmierten Zielen stehen. Betrachten wir zum Beispiel einen KI-basierten Finanzassistenten, der sich weigert, eine Spende an eine bestimmte Wohltätigkeitsorganisation zu bearbeiten, weil sein programmiertes Ziel darin besteht, Einsparungen zu maximieren, oder weil er die Ziele dieser Organisation implizit abwertet. Dies wirft die ethische Frage auf, wer die Werte von KI-Agenten oder agentenbasierten KI-Systemen definiert und wie diese Werte die Fähigkeiten und Grenzen des Systems prägen.
Ein weiterer Aspekt, der eng mit der Frage nach Fairness und Gerechtigkeit verbunden ist, betrifft die Nachhaltigkeit und die Umweltauswirkungen von KI-Systemen. Diese Themen gewinnen insbesondere bei Multi-Agenten-Systemen an Bedeutung, die mehrstufige Operationen ausführen, miteinander interagieren und auf externe Tools zurückgreifen. Aufgrund ihrer komplexeren Architektur und ihres breiteren Aufgabenspektrums verbrauchen diese Systeme wahrscheinlich noch mehr Energie, sowohl während des Trainings als auch im Betrieb. Zudem erfordern Spitzentechnologien ständig leistungsfähigere Hardware, was die Nutzungszyklen der Hardware verkürzt und zu mehr Elektronikschrott beitragen kann.
Darauf aufbauend erstrecken sich Fragen der Gerechtigkeit auch auf die Frage, wer zu welchem Zeitpunkt im Lebenszyklus der KI beteiligt ist. Dazu gehört beispielsweise die Ausbeutung von Click-Workern, die unter schlechten Arbeitsbedingungen – oft für einen minimalen Lohn und ohne angemessene psychologische Unterstützung – zum Training von KI-Systemen beitragen, obwohl sie eine für die KI-Entwicklung unverzichtbare Aufgabe erfüllen. Es ist entscheidend, einen partizipativen Ansatz zu verfolgen – damit der Mensch die Oberhand behält und eine sinnvolle menschliche Kontrolle ausgeübt werden kann –, um ein breites Spektrum an Perspektiven in den Diskurs einzubeziehen und die Aufmerksamkeit auf Ungleichheiten und Benachteiligungen zu lenken.
Insgesamt zeigt die Diskussion über Fairness und Gerechtigkeit, dass bestehende Probleme von KI-Systemen durch das Aufkommen von KI-Agenten und agentischer KI noch verstärkt werden können. Je umfangreicher ihre Handlungsfähigkeit, ihr Einfluss auf die menschliche Autonomie und der Grad der Verflechtung zwischen Menschen und technologischen Systemen ist, desto dringlicher wird es, wertorientierte Gestaltungsprinzipien zu prüfen und zu verankern, auch wenn ein allgemeiner, globaler Konsens schwer oder unmöglich zu erreichen sein mag. Wichtig ist, dass dies weder ein Plädoyer für einen „Laissez-faire“-Ansatz ist, der alles zulässt, noch für eine Regulierung, die so restriktiv ist, dass das System seinen praktischen Nutzen verliert. Vielmehr unterstreicht es die Notwendigkeit einer gesellschaftlichen Aushandlung darüber, welche Werte diese Systeme über ihren gesamten Lebenszyklus hinweg leiten sollten und welche Arten von Aufgaben angemessen an KI-Agenten oder agentische KI delegiert werden können.
3.3 Nichtschädigung
Der Grundsatz der Nichtschädigung steht in engem Zusammenhang mit dem vorangegangenen Kapitel, da die Frage des Schadens Schnittstellen zu anderen ethischen Themen aufweist, die wir in diesem Beitrag behandeln, wie Fairness, Voreingenommenheit und Diskriminierung sowie die in KI-Systemen verankerten Werte. Weitere Fragen zu Verantwortung oder Datenschutz werden in späteren Unterabschnitten ausführlicher erörtert. Hier konzentrieren wir uns darauf, grundlegender über das Schadenspotenzial von KI-Agenten und agentischer KI nachzudenken.
Diese Systeme verfügen – insbesondere aufgrund ihrer weitreichenden Handlungsfähigkeit und ihrer fortgeschrittenen Fähigkeiten zur Erfüllung einer Vielzahl von Aufgaben – über ein erhöhtes Potenzial, Schaden zu verursachen, was sich auf Sicherheit und Schutz auswirkt. Einerseits kann Schaden unbeabsichtigt sein, wie in den zuvor erörterten Fällen von Voreingenommenheit und Diskriminierung. Auch Missbrauch oder übermässiges Vertrauen seitens der Nutzer können Schaden verursachen, beispielsweise wenn Nutzer die Fähigkeiten der Systeme überschätzen oder ihnen übermässiges Vertrauen entgegenbringen. Über den individuellen Schaden hinaus stellen sich Fragen zu den gesellschaftlichen Auswirkungen des breiten Zugangs zu persönlichen KI-Assistenten in Form von agentischen KI-Systemen, die im Namen der Nutzer kommunizieren und komplexe Aufgaben verwalten. So könnte beispielsweise ein Terminassistent der Minimierung von Wartezeiten Priorität einräumen und dabei unbeabsichtigt Routinetermin bei chronisch kranken Patienten so weit auseinanderlegen, dass die Abstände zwischen den Behandlungen medizinisch nicht mehr angemessen sind. Insgesamt unterstreicht das Potenzial von Agentic AI, Arbeitsplätze, Verwaltung und sogar das Justizsystem zu verändern, die Notwendigkeit empirischer Untersuchungen und fortlaufender ethischer Reflexion. Andererseits könnte dieser Schaden auch beabsichtigt sein: Die Systeme könnten absichtlich so programmiert werden, dass sie Schaden anrichten, oder von einem böswilligen Angreifer infiltriert werden. Ihre Fähigkeit, sich kontextuell anzupassen und aus mehreren Werkzeugen auszuwählen, verstärkt in Verbindung mit ihrer Komplexität und mangelnden Transparenz potenzielle Risiken weiter, beispielsweise bei risikoreichen und militärischen Anwendungen. Dies zeigt erneut die Bedeutung klassischer ethischer Fragen hinsichtlich menschlicher Aufsicht und Kontrolle.
Zusammenfassend lässt sich sagen, dass der klassische ethische Imperativ der Nichtschädigung durch das Aufkommen dieser Systeme noch verstärkt wird. Ihre Integration in soziale und organisatorische Arbeitsabläufe und Routinen sowie ihre hohe Vernetzung bedeuten, dass das Schadenspotenzial erheblich ist und eine sorgfältige Aufsicht sowie eine verantwortungsvolle Gestaltung erfordert.
3.4 Verantwortung und Rechenschaftspflicht
Eine der wichtigsten Fragen im Zusammenhang mit dem Einsatz von KI-Agenten und agentischer KI betrifft die Verantwortung. Dieses Thema wird besonders deutlich aufgrund der breiteren Differenzierung der Aufgaben, die diese Systeme ausführen können. Wenn sie Aufgaben übernehmen, die Auswirkungen auf die reale Welt haben, wird die Frage, wer die Verantwortung trägt und wer rechenschaftspflichtig und haftbar ist, entscheidend.
Selbst relativ geringfügige Vorfälle verdeutlichen diese Herausforderung. Beispielsweise könnte ein KI-Agent einen Tisch in einem Restaurant reservieren, der Nutzer erscheint jedoch nicht, oder ein KI-Agent könnte eine Konzertkarte kaufen, versäumt es jedoch aufgrund eines Integrationsfehlers, den Kalender des Nutzers zu aktualisieren, wodurch der Nutzer die Veranstaltung verpasst. In solchen Fällen ist es nicht einfach zu bestimmen, wer rechenschaftspflichtig ist und wer die daraus resultierenden Kosten trägt. Diese Frage wird in Kontexten mit hohem Risiko oder in Situationen mit erhöhter Anfälligkeit, wie im Gesundheitswesen, im Finanzwesen oder im Rechtsbereich, noch dringlicher.
Aktuelle Forschungsarbeiten untersuchen neue Rahmenbedingungen für Verantwortung und Haftung in KI-Systemen im Allgemeinen. Im Hinblick auf KI-Agenten und agentische KI wird diese Frage jedoch aufgrund ihrer weitreichenden Handlungsfähigkeit noch dringlicher. Da diese Systeme speziell darauf ausgelegt sind, mit minimalem menschlichem Eingriff zu arbeiten, kann die Verantwortung diffus werden; verstärkt wird dies durch einen Mangel an Transparenz (einschliesslich der Unsicherheit darüber, wie sich ein maschinelles Lernsystem im Laufe der Zeit entwickelt) und die Komplexität agentischer KI-Systeme. Daher betrifft eine zentrale Frage, wie Verantwortung in Systemen mit weitreichender Handlungsfähigkeit und insbesondere in Multi-Agenten-Systemen sinnvoll zugewiesen werden kann, damit im Schadensfall keine Verantwortungslücken entstehen. Da diese Systeme relativ autonom arbeiten, ist es unerlässlich, den Punkt zu bestimmen, an dem die Verantwortung wechselt – und wie sowohl rechtlich als auch technisch ein Handlungsspielraum festgelegt werden kann, innerhalb dessen diese Systeme operieren dürfen. Eine Möglichkeit zur Differenzierung bestünde in der Einführung von Automatisierungsstufen, analog zu den SAE-Stufen der Fahrautomatisierung (SAE J3016), die in der Diskussion über autonomes Fahren etabliert wurden, sodass die Verantwortung je nach Automatisierungsgrad entsprechend verlagert oder verteilt wird. Insgesamt ist es unerlässlich, dass Hersteller nicht von ihrer Produkthaftung befreit werden: Lernsysteme können zum Zeitpunkt ihrer Einführung nicht als vollständig ausgereift betrachtet werden, sondern müssen – aufgrund ihrer dynamischen Natur – kontinuierlich weiterentwickelt, evaluiert, überwacht und verbessert werden. Dies beinhaltet beispielsweise eine Verpflichtung seitens der Hersteller, Updates bereitzustellen, und – je nach Kontext – entweder seitens der Hersteller oder der Nutzer, deren Installation sicherzustellen. In diesem Zusammenhang können frühere Arbeiten zu Wirtschaftsethik und sozialer Unternehmensverantwortung nützliche Erkenntnisse liefern.
Insgesamt ist es entscheidend, dass KI-Agenten und agentische KI – mit weitreichender Handlungsfähigkeit, erweiterten Auswirkungen auf die menschliche Autonomie und einer zunehmenden Verflechtung zwischen Mensch und Technologie – sorgfältig in diese Diskussionen über Verantwortung und Haftung einbezogen werden. Die Festlegung klarer Grenzen, sei es für Hersteller, Betreiber oder Nutzer, ist unerlässlich, um eine ethische Aufsicht und verantwortungsvolle Governance zu gewährleisten.
3.5 Datenschutz
Der Datenschutz ist ein weiteres ethisches Anliegen von entscheidender Bedeutung, das sich auf mindestens zwei Ebenen stellt: (1) die Verarbeitung und Kontrolle von Daten und (2) die Art der verarbeiteten Daten.
Der erste Aspekt – die Datenverarbeitung – ist für Big-Data- und KI-Systeme im Allgemeinen relevant. Einerseits werden Daten für das Modelltraining benötigt; andererseits werden Daten verarbeitet, damit das System beispielsweise Texte generieren, Risikobewertungen berechnen oder Empfehlungen aussprechen kann. Wie diese Daten verarbeitet werden, wo sie gespeichert werden und ob sie gelöscht werden können, ist oft unklar. In agentenbasierten KI-Systemen, die Daten zwischen mehreren Agenten austauschen, wird es noch undurchsichtiger, den Überblick darüber zu behalten, wo und wie Daten verarbeitet und gespeichert werden. Es ist zudem ungewiss, ob und in welchem Umfang externe Tools oder Schnittstellen diese Daten verarbeiten oder speichern. In diesem Sinne ist Datenschutz, wie bereits erörtert, eng mit Transparenz verbunden. Bestehende Ansätze, die im Kontext von Big Data entwickelt wurden – wie Datenhoheit und Datenagenten – stossen in diesem Zusammenhang möglicherweise an ihre Grenzen und würden sowohl eine ethische als auch eine technische Bewertung erfordern.
Der zweite Aspekt betrifft die Art der benötigten Daten. Damit ein KI-Agent oder ein agentisches KI-System sinnvolle Unterstützung leisten kann, muss es umfassenden Zugriff auf personenbezogene Daten haben (z. B. Name, Geburtsdatum, Adresse, Gesundheitsdaten, Kreditkarteninformationen, Kalendereinträge, persönliche Chats und E-Mails). Dies wirft wichtige ethische Fragen auf: Sind hochsensible Daten angemessen geschützt? Fordert das System eine Bestätigung des Nutzers an, bevor es personenbezogene Informationen weitergibt? Wie bestimmt es, welche Daten unter welchen Umständen offengelegt werden dürfen? Beispielsweise muss ein Telefonagent, der eine Arztpraxis anruft, möglicherweise das Geburtsdatum eines Patienten angeben, um einen Termin zu vereinbaren, sollte diese Informationen jedoch niemals an einen Spam-Anrufer weitergeben. Ebenso muss das System beurteilen, ob eine Anfrage, wie die Verarbeitung und Speicherung von Kreditkarteninformationen, legitim ist (z. B. für eine Hotelbuchung) oder nicht. Hier wird deutlich, wie Datenschutz mit Verantwortung und Haftung verknüpft ist, da Fragen aufkommen, was passiert, wenn Daten versehentlich weitergegeben werden oder Unbefugte darauf zugreifen.
Angesichts der raschen Verbreitung und der wachsenden Nutzerbasis grosser Sprachmodelle ist es wahrscheinlich, dass der Einsatz von KI-Agenten und agentischer KI weiter zunehmen wird. Der Datenschutz birgt in diesem Zusammenhang erhebliche Risiken, was die Notwendigkeit klarer Regeln und technischer Schutzmassnahmen unterstreicht. Richtlinien sollten regeln, wie Daten behandelt werden, wie Nutzer die Kontrolle über ihre Informationen behalten können und welche Sicherheitsmassnahmen zum Schutz sensibler Daten und damit der Nutzer umgesetzt werden müssen (z. B. zur Wahrung ihrer Autonomie, Würde, Integrität und Schutzbedürftigkeit).
4 Diskussion
Die Überprüfung zentraler ethischer Grundsätze hat gezeigt, dass klassische ethische Grundsätze für KI auch auf KI-Agenten und agentische KI zutreffen. Diese Grundsätze sind jedoch noch kritischer und dringlicher geworden, da sowohl die potenziellen Vorteile als auch die Risiken durch diese Systeme verstärkt werden. Daher werden im folgenden Abschnitt die ethischen Implikationen in Bezug auf die drei oben genannten Merkmale – (1) weitreichende Handlungsfähigkeit, (2) erhebliche Auswirkungen auf die menschliche Autonomie und (3) tiefe Verflechtung von Mensch und Technologie – reflektiert und erste Schritte hin zu einem Governance-Ansatz für KI-Agenten und agentische KI skizziert.
Erstens zeichnen sich diese neuen Systeme durch weitreichende Handlungsfähigkeit aus. Da KI-Agenten und agentische KI-Systeme darauf ausgelegt sind, komplexe Aufgaben mit minimalem oder gar keinem menschlichen Eingriff auszuführen, benötigen sie mehr Kapazitäten für eigenständiges Handeln. Um als Assistenten effektiv agieren zu können, benötigen sie nahezu uneingeschränkten Zugriff auf personenbezogene Daten und Informationen. Dies wirft jedoch bereits potenzielle ethische Herausforderungen auf, beispielsweise in Bezug auf Gerechtigkeit und Fairness, wenn das System voreingenommene Entscheidungen trifft oder Schaden verursacht – was unmittelbar mit der Frage zusammenhängt, was erweiterte Handlungsfähigkeit für Verantwortung und Haftung bedeutet. Um dieser zunehmenden Dynamik gerecht zu werden, ist es notwendig, technische Lösungen zu implementieren, die ethische Prinzipien direkt in die Entwicklung und Anwendung von KI-Agenten und agentischer KI einbetten, gemäss dem Konzept von „Ethics by Design“ (mit dem in Unterabschnitt 3.2 formulierten Vorbehalt bezüglich wertorientierten Designs und dem Ziel, einen möglichst breiten Konsens über Werte zu erreichen). Konkrete Beispiele für technische Lösungen sind Sandboxing-Ansätze, bei denen solche Systeme nur mit Testumgebungen interagieren und somit keinen direkten Schaden anrichten können, sowie KI-Agenten, die andere KI-Agenten überwachen (Guardian-Agenten). Insbesondere bei technischen Lösungen wie Guardian-Agenten entsteht jedoch das Problem einer unendlichen Regression: Wer überwacht die Guardian-Agenten selbst? Die Einführung weiterer Agenten würde zu einer paradoxen Situation führen, in der ein Agent einen Agenten überwacht, der wiederum einen anderen Agenten überwacht. Dies verdeutlicht, dass auch im Bereich der technischen Lösungen neuartige, innovative und sichere Ansätze erforderlich sind. Insgesamt müssen diese Systeme technisch robust sein, einschliesslich Schutzmassnahmen gegen böswillige Angriffe, regelmässiger Updates und einer fortlaufenden Bewertung. Die inhärente Dynamik dieser Systeme bedeutet nicht, dass sich die Hersteller zurückziehen können; im Gegenteil, die Hersteller sind nun besonders verpflichtet, diese dynamischen Systeme kontinuierlich weiterzuentwickeln, zu bewerten und zu überwachen. Um solche technischen Massnahmen voranzutreiben, ist wahrscheinlich eine Kombination aus freiwilligen Brancheninitiativen und regulatorischen Rahmenbedingungen erforderlich. Anreize könnten Unternehmen dazu ermutigen, proaktiv ethische Schutzmassnahmen zu implementieren, während rechtliche Massnahmen die Einhaltung von Mindeststandards gewährleisten. Das richtige Gleichgewicht zwischen Unter- und Überregulierung zu finden, wird entscheidend sein, um den praktischen Nutzen dieser Systeme zu erhalten und gleichzeitig ihre verantwortungsvolle Anwendung sicherzustellen.
Zweitens hat sich gezeigt, dass diese Systeme einen starken Einfluss auf die menschliche Autonomie ausüben (verstanden als die Fähigkeit des verkörperten menschlichen Subjekts, relativ selbstbestimmt zu handeln). Einerseits übertragen Menschen diesen Systemen bewusst ein gewisses Mass an Autonomie: Sie sollen über relative technische Autonomie verfügen, damit sie Aufgaben relativ unabhängig in ihrem Namen ausführen können. Doch über diese freiwillige und funktionale Übertragung hinaus wird die menschliche Autonomie weiter eingeschränkt, da die Undurchsichtigkeit von KI-Systemen (insbesondere im Fall von agentischer KI) Transparenz und Erklärbarkeit erschwert und dadurch fundierte Entscheidungsfindung und verantwortungsvolle Aufsicht zunehmend erschwert. Aus dieser Perspektive stellt sich auch die Frage, ob und auf welche Weise Manipulationen durch solche Systeme erkannt und verhindert werden können. Die drängende Frage bleibt: Wie kann eine sinnvolle menschliche Kontrolle gewährleistet werden, damit der Mensch das Kommando behält? Um dies anzugehen, ist die Beteiligung verschiedener Interessengruppen über den gesamten Lebenszyklus des Systems hinweg erforderlich. Darüber hinaus sind Aufklärung und öffentliches Bewusstsein über die Chancen und Risiken von KI-Agenten und agentischer KI unerlässlich. Angesichts ihrer leichten Zugänglichkeit und ihres beträchtlichen Potenzials ist zu erwarten, dass diese Systeme – ähnlich wie LLMs – ein rasantes Wachstum erleben werden. Eine verantwortungsvolle Nutzung hängt daher auch vom Wissen und Bewusstsein der Nutzer selbst ab. Zumindest benötigen Nutzer ein grundlegendes Verständnis dafür, wie diese Systeme funktionieren und welche Auswirkungen sie auf die Autonomie des Nutzers haben können. Sobald die Betreiber oder Nutzer in die Lage versetzt sind, Kontrolle auszuüben, ist es ebenso wichtig – analog zu den Pflichten der Hersteller –, dass sie ihre Verantwortlichkeiten wahrnehmen (z. B. Überwachung, Installation von Updates, …). In diesem Sinne könnte man sagen: Je grösser die Handlungsfähigkeit dieser Systeme und ihre Auswirkungen auf die menschliche Autonomie sind, desto umfangreicher müssen die erforderliche Beteiligung und die Anstrengungen zur menschlichen Kontrolle sein.
Schliesslich hat sich gezeigt, dass die Verflechtung zwischen Menschen und diesen Systemen besonders wichtig zu berücksichtigen ist. Dementsprechend besteht Bedarf an weiterer ethischer, rechtlicher und sozialer (ELSI) Forschung sowie an interdisziplinärem Diskurs über den gesamten Lebenszyklus von KI-Agenten und agentischer KI. Einerseits sollten laufende Entwicklungsprozesse von Risikobewertungen begleitet werden, um aufkommende Trends frühzeitig zu erkennen, langfristige gesellschaftliche und ethische Auswirkungen zu bewerten und Leitlinien für einen verantwortungsvollen Einsatz bereitzustellen. Andererseits ist ein breiter, partizipativer, interdisziplinärer Dialog erforderlich, um die gesellschaftlichen Bereiche zu bestimmen, in denen KI-Agenten und agentische KI-Systeme operieren sollten, die Zwecke, für die sie eingesetzt werden, sowie die Leitwerte, die sie verkörpern sollten. Auf diese Weise kann dazu beigetragen werden, die Verflechtung zwischen Menschen und KI-Systemen zu entwirren, die entsteht, wenn KI-Agenten und agentische KI-Systeme zunehmend umfangreiche und komplexe Aufgaben übernehmen, von denen einige höchst persönlicher Natur sind. Insbesondere im Hinblick auf Verantwortung und Haftung ist eine präzise Abgrenzung erforderlich (analog beispielsweise zu den SAE-Stufen), um eine Diffusion der Verantwortlichkeit zu verhindern. Menschen dürfen nicht aussen vor gelassen werden; vielmehr müssen sie die Kontrolle behalten. Dies erfordert die Berücksichtigung spezifischer Kontexte und konkreter Anwendungsfälle, die beispielsweise durch einen risikobasierten Ansatz bewertet werden können.
Letztendlich besteht das Ziel darin, die erheblichen Vorteile von KI-Agenten und agentischer KI zu nutzen und gleichzeitig sicherzustellen, dass diese Systeme auf verantwortungsvolle und ausgewogene Weise eingesetzt werden.
5 Einschränkungen
Unsere Arbeit weist drei wesentliche Einschränkungen auf.
Erstens befasste sich unsere Analyse mit ethischen Prinzipien auf einer hohen Ebene, ohne tiefer auf jedes einzelne Prinzip und dessen Platz im breiteren ethischen Diskurs einzugehen. Wir haben zudem unseren Umfang begrenzt und die Prinzipien gruppiert, was bedeutet, dass einige Prinzipien, die ebenso relevant sein könnten und potenziell durch diese neuartigen Systeme in Frage gestellt werden, hier nicht behandelt wurden. Im weiteren Sinne erlaubte es unsere deduktive Methodik nicht, neue ethische Prinzipien zu identifizieren, die sich aus einem induktiven Ansatz ergeben könnten, der speziell auf KI-Agenten und agentische KI zugeschnitten ist.
Die zweite Einschränkung betrifft den Zeitpunkt der Veröffentlichung dieses Artikels. Die Entwicklung von KI-Agenten und agentischer KI befindet sich noch in einem frühen Stadium, was bedeutet, dass sich sowohl die technischen Fähigkeiten als auch die ethische Reflexion rund um diese Systeme erst gerade zu entfalten beginnen. Daher ist unsere Analyse zwangsläufig theoretischer Natur und konnte keine empirischen Daten einbeziehen.
Drittens haben wir nicht näher auf die Bedeutung eingegangen, die KI-Agenten und agentische KI für die Transformation des menschlichen Selbstverständnisses haben könnten. Dies umfasst auch Fragen zur hybriden Handlungsfähigkeit und zur möglichen Entwicklung einer posthumanen Ethik. Zukünftige Forschung müsste den Blickwinkel in diese Richtung erweitern, denn je mehr KI-Agenten und agentische KI-Systeme zum Einsatz kommen, desto wichtiger wird es, diese Systeme mit einem Kompass zu steuern, der auf Bildung basiert (die auf Sensibilität für Unterschiede und Toleranz gegenüber Mehrdeutigkeit abzielt und innerhalb einer Gemeinschaft praktiziert wird).
Insgesamt war es nicht das Ziel dieses Beitrags, einen umfassenden Überblick zu geben, sondern vielmehr erste Perspektiven und Fragen aufzuzeigen, die als Anstoss für weitere ethische Forschung in diesem sich rasch entwickelnden Feld dienen können.
6 Schlussfolgerung
Der Umfang dieses Artikels bestand darin, eine erste Untersuchung darüber zu liefern, wie sich die jüngsten Entwicklungen bei KI-Agenten und agentischen KI-Systemen auf etablierte ethische Prinzipien beziehen. Wir gehen diese Aufgabe auf der Grundlage etablierter ethischer Prinzipien an, die von der UNESCO vorgeschlagen und in einer Struktur zusammengefasst wurden, die auf den laut Jobin et al. am häufigsten diskutierten ethischen Prinzipien basiert: Transparenz, Gerechtigkeit und Fairness, Nichtschädigung, Verantwortung und Rechenschaftspflicht sowie Privatsphäre.
Zusammenfassend zeigt unsere Analyse, dass diese Prinzipien für KI-Agenten und agentische KI-Systeme nach wie vor von grosser Relevanz sind, sodass die Steuerung dieser neuen Systeme nicht bei Null beginnen muss. Aufgrund ihrer weitreichenden Handlungsfähigkeit, die einen grösseren Einfluss auf die menschliche Autonomie hat und im Vergleich zu traditionellen KI-Systemen zu einer noch tieferen Verflechtung zwischen Mensch und Technologie führt, gewinnen ethische Fragen jedoch noch an Bedeutung und Dringlichkeit.
Überlegungen zur Steuerung von KI-Agenten und agentischer KI müssen diese Eigenschaften zwangsläufig berücksichtigen. Je grösser die Handlungsfähigkeit dieser Systeme ist, desto wichtiger ist es, dass der Mensch letztlich die Kontrolle behält. Dies erfordert technische Robustheit, eine breite Beteiligung und Aufklärung verschiedener Interessengruppen, mehr ELSI-Forschung sowie klare rechtliche Rahmenbedingungen, die Hersteller zur Rechenschaft ziehen und sicherstellen, dass die Systeme während ihres gesamten Lebenszyklus kontinuierlich weiterentwickelt, bewertet, überwacht und verbessert werden. Fragen der Verantwortung und Haftung müssen klar abgegrenzt werden; hier könnte ein risikobasierter Ansatz, differenziert nach Automatisierungsstufen, hilfreich sein, um eine Verwässerung der Verantwortung zu verhindern.
Mit diesem Beitrag bieten wir eine erste Bestandsaufnahme darüber, wie ethische Prinzipien betroffen sind, und möchten zu weiterer ethischer Reflexion und Forschung über KI-Agenten und agentische KI anregen. Diese Systeme bergen beträchtliches Potenzial, da sie eine breite Palette von Aufgaben autonom bewältigen und sowohl im Alltag als auch im beruflichen Kontext Entlastung bieten. Gleichzeitig stellen sie, wie wir gezeigt haben, neue und dringende Herausforderungen für etablierte ethische Prinzipien dar. Die Förderung ethischer Untersuchungen ist daher unerlässlich, um die verantwortungsvolle Entwicklung, den Einsatz und die Überwachung von KI-Agenten und agentischer KI zu lenken.
Zur einfacheren Lesbarkeit wurden die Literatur- und Quellverweise entfernt.
Übersetzung Boris Wanzeck, Swiss Infosec AG
Hahn, M., Tretter, M. & Dabrock, P. in Ethical perspectives on AI Agents and Agentic AI. AI Ethics 6, 218 (2026).
https://doi.org/10.1007/s43681-026-01027-0
http://creativecommons.org/licenses/by/4.0/
Dem Text wurden Hyperlinks hinzugefügt.
KI-Governance, Security und Privacy
Unsere KI-, Governance-, Datenschutz- und Security-Spezialisten begleiten Sie bei der Erstellung der übergeordneten firmeninternen KI-Vorgaben, bei der Abwicklung von KI-Projekten, bei der Klärung von Einzelfragen und der Durchführung unabhängiger Audits. Ebenfalls unterstützen sie Organisationen in ihrer Rolle als Nutzer/Betreiber, Anbieter oder Entwickler von KI-Systemen sowohl nach Schweizer Recht als auch gemäss dem EU-AI Act.
Kontaktieren Sie uns und erfahren Sie in einem unverbindlichen Beratungsgespräch, was unsere Spezialistinnen und Spezialisten für Sie tun können: +41 41 984 12 12, infosec@infosec.ch