Warum die Kennzeichnung synthetischer Experten zwar notwendig, aber zum Schutz des Verbrauchervertrauens nicht ausreichend ist
10/2026
Jüngste Fortschritte in der generativen KI haben es ermöglicht, äußerst realistische virtuelle Experten für den Einsatz in der kommerziellen Überzeugungsarbeit zu erschaffen. In der Werbung lassen sich synthetische Gesichter oder Stimmen mittlerweile immer müheloser so gestalten, dass sie Ärzten, Professoren und anderen Autoritätspersonen ähneln. Zu den folgenreichsten davon zählen synthetische Experten, die hier als KI-generierte Werbeträger definiert werden, deren Überzeugungskraft darauf beruht, erkennbare Merkmale professioneller Fachkompetenz zu simulieren, selbst wenn kein entsprechender menschlicher Experte hinter der Botschaft steht. Im Gegensatz zu fiktiven Figuren oder virtuellen Influencern sind synthetische Experten überzeugend, weil sie so gestaltet sind, dass sie professionell glaubwürdig genug erscheinen, um sozial erlernte Urteile darüber zu aktivieren, wer sachkundig, vertrauenswürdig und qualifiziert ist, ein Produkt zu empfehlen. Diese Entwicklung wirft ein Problem auf, das über gewöhnliche Bedenken hinsichtlich irreführender Behauptungen hinausgeht. Wenn das Erscheinungsbild und die Darstellung von Fachkompetenz algorithmisch erzeugt werden können, reagieren Verbraucher möglicherweise nicht nur auf das Gesagte, sondern auch auf einen sorgfältig konstruierten Eindruck davon, wer spricht. Der zunehmende Einsatz von KI-generierten Werbeträgern erfordert daher eine genauere Betrachtung der Frage, wie Vertrauen, Glaubwürdigkeit und Authentizität in digital vermittelten Werbeumgebungen ausgehandelt werden.
Ein aktuelles Beispiel für diese Herausforderung findet sich im jüngsten Vorschlag der koreanischen Kartellbehörde, ihre Richtlinien zur Werbeprüfung dahingehend zu überarbeiten, dass eine Offenlegungspflicht gilt, wenn KI-generierte virtuelle Figuren in Empfehlungen und Werbeaussagen eingesetzt werden. Dies deutet auf ein wachsendes regulatorisches Interesse daran hin, ob Verbraucher den Status des Sprechers in KI-vermittelten Werbeaussagen erkennen können. Der Vorschlag ist von Bedeutung, da er anerkennt, dass Verbraucher synthetische Experten möglicherweise mit echten Fachleuten verwechseln und auf dieser Grundlage Entscheidungen treffen, die sie andernfalls nicht treffen würden. Dieser Artikel nimmt diese regulatorische Entwicklung als Ausgangspunkt und argumentiert, dass die Kennzeichnung synthetischer Experten sowohl notwendig als auch gerechtfertigt ist – als Mindestvoraussetzung für die Transparenz der Quelle. Gleichzeitig wird dargelegt, dass eine Offenlegung allein nicht ausreicht, um das Vertrauen der Verbraucher zu schützen. Synthetische Experten überzeugen nicht nur, weil ihre Künstlichkeit verborgen bleibt. Sie überzeugen auch, weil sie die visuellen und symbolischen Signale reproduzieren, durch die Fachkompetenz gesellschaftlich anerkannt wird. Das Problem besteht daher nicht lediglich darin, ob Verbraucher darüber informiert werden, dass ein Werbeträger künstlich ist, sondern darin, ob eine solche Offenlegung die Glaubwürdigkeitseffekte simulierter Autorität sinnvoll untergräbt.
Synthetische Experten und die Simulation von Fachkompetenz
Synthetische Experten sollten von den fiktiven Figuren oder virtuellen Influencern unterschieden werden, die derzeit in der modernen Werbung eingesetzt werden. Ihre Überzeugungskraft beruht darauf, dass sie professionell glaubwürdig genug erscheinen, um gesellschaftlich vertraute Urteile über Fachkompetenz auszulösen. In der alltäglichen Kommunikation stützen sich die Rezipienten auf paralinguistische Hinweise (z. B. Aussehen, Tonfall, Alter und Fachvokabular), wenn sie beurteilen, ob ein Sprecher vertrauenswürdig oder kompetent wirkt. Generative KI kann diese Hinweise mittlerweile mit bemerkenswerter Präzision nachbilden, was es Werbetreibenden ermöglicht, Figuren zu konstruieren, die nicht nur eine Botschaft vermitteln, sondern Autorität selbst verkörpern. Es geht dabei nicht nur um die Wahrhaftigkeit einer Werbeaussage, sondern um die strategische Erfindung einer glaubwürdigen Quelle.
Dieses Quellenproblem ist besonders wichtig in der Empfehlungswerbung, wo die Überzeugungskraft oft ebenso sehr von der wahrgenommenen Identität des Empfehlenden abhängt wie vom Inhalt der Empfehlung selbst. Verbraucher interpretieren Empfehlungen routinemäßig anhand von Annahmen darüber, wer spricht, über welches Wissen diese Person verfügt und ob die Empfehlung auf echtem Fachwissen oder Erfahrung beruht. Ein Arzt, der beispielsweise ein gesundheitsbezogenes Produkt empfiehlt, hat ein anderes Überzeugungsgewicht als ein gewöhnlicher Verbraucher oder ein fiktiver Sprecher, da berufliche Autorität als Abkürzung für Glaubwürdigkeit dient. Aus dieser Perspektive ist die Kennzeichnung künstlicher Experten normativ notwendig, da sie ein Mindestmaß an Transparenz über den Status des Sprechers wiederherstellt und dazu beiträgt, die Voraussetzungen für ein fundierteres Verbraucherurteil zu erhalten.
Die Grenzen einer einfachen Offenlegung
Doch das Vorhandensein einer Kennzeichnung garantiert nicht, dass Verbraucher ihre Urteile revidieren. Die Überzeugungsforschung hat seit langem gezeigt, dass sich das Publikum bei der Bewertung von Botschaften auf heuristische Hinweise stützt, insbesondere in schnelllebigen oder visuell reichhaltigen Umgebungen, in denen Hinweise auf die Glaubwürdigkeit der Quelle das Urteil beeinflussen können, bevor die Betrachter die Überzeugungsquelle vollständig reflektieren. In solchen Situationen kann eine Offenlegung zwar formal vorhanden, kognitiv jedoch schwach sein, weil sie zu kurz, zu klein, schlecht platziert oder vom synthetischen Experten selbst überschattet ist. Ihre Unzulänglichkeit kann sich auf mehreren Ebenen bemerkbar machen. Verbraucher könnten den Hinweis übersehen, ihn zwar wahrnehmen, aber seine Bedeutung nicht verstehen, ihn zwar verstehen, sich dabei aber weiterhin auf Hinweise auf fachliche Autorität verlassen oder Transparenz erhalten, ohne dass eine klarere Rechenschaftspflicht für die Behauptung besteht. Diese Sorge ist besonders wichtig in der Videowerbung, wo rein textbasierte Kennzeichnungen möglicherweise weniger auffällig sind als die Stimme, das Erscheinungsbild und das professionelle Umfeld eines synthetischen Experten, was darauf hindeutet, dass in risikoreichen Kontexten prominentere visuelle oder verbale Hinweise erforderlich sind. Die regulatorische Frage lautet daher nicht nur, ob eine Offenlegung vorliegt, sondern ob sie die Überzeugungskraft der simulierten Autorität sinnvoll unterbrechen kann.
Selbst wenn Zuschauer einen Hinweis bemerken, verschwindet die Überzeugungskraft synthetischer Fachkompetenz möglicherweise nicht. Dies liegt daran, dass Glaubwürdigkeitsurteile nicht allein durch bewusste Bewertungen faktischer Informationen gebildet werden, sondern auch durch vertraute visuelle und symbolische Hinweise, die die Interpretation auch nach dem Erkennen der Künstlichkeit weiterhin prägen. In gesundheitsbezogener Werbung beispielsweise kann eine Figur, die wie ein Arzt aussieht und klingt, auch dann noch die Aura professioneller Autorität bewahren, wenn sie als synthetisch gekennzeichnet ist. Das Problem besteht also nicht einfach darin, dass das Publikum den Hinweis möglicherweise übersieht, sondern darin, dass der Hinweis allein möglicherweise nicht ausreicht, um die umfassendere Kommunikationskraft simulierter Fachkompetenz zu neutralisieren. In solchen Fällen bleibt Transparenz zwar notwendig, sollte aber nicht mit einer vollständigen Lösung für das Problem des Verbrauchervertrauens verwechselt werden.
Diese Einschränkung ist von Bedeutung, da sich die Kernfrage nicht darauf beschränkt, ob Verbraucher wissen, dass ein Werbeträger künstlich ist. Die Offenlegung betrifft den Status des Sprechers, nicht jedoch die soziale Grundlage seiner Autorität. Ein synthetischer Experte kann als KI-generiert erkannt werden und dennoch überzeugend bleiben, wenn er die Signale erfolgreich nachahmt, anhand derer Fachwissen üblicherweise abgeleitet wird. Die tiefgreifendere Sorge besteht also darin, dass generative KI es ermöglicht, den Anschein professioneller Glaubwürdigkeit von der Ausbildung, der Zugehörigkeit und der öffentlichen Rechenschaftspflicht zu trennen, die Fachwissen normalerweise seine soziale Legitimität verleihen.
Synthetische Experten simulieren Fachkompetenz ohne Rechenschaftspflicht
Die Bedeutung der von der koreanischen Kartellbehörde vorgeschlagenen Änderung geht über die Offenlegung als formale regulatorische Anforderung hinaus. Ihre weitreichendere Bedeutung liegt darin, dass sie die Aufmerksamkeit auf ein tiefer liegendes Problem der KI-gestützten Werbung lenkt: Synthetische Experten können Autorität ausstrahlen, ohne den Formen der Rechenschaftspflicht unterworfen zu sein, die Fachwissen normalerweise vertrauenswürdig machen. In der herkömmlichen Expertenkommunikation hängt die Glaubwürdigkeit nicht nur vom Inhalt einer Botschaft ab, sondern auch von einem gesellschaftlich anerkannten Sprecher, dessen Autorität vermutlich auf Ausbildung, Zugehörigkeit, beruflichen Normen und der Möglichkeit öffentlicher Kontrolle beruht. Synthetische Experten stören dieses Verhältnis, indem sie Kompetenz ohne Verantwortung vermitteln. Was diese Entwicklung so bedeutsam macht, ist nicht nur, dass hinter der Empfehlung möglicherweise kein tatsächlicher Experte steht, sondern dass Fachwissen selbst nun als überzeugender Oberflächeneffekt gestaltet werden kann.
Generative KI ermöglicht es Werbetreibenden, erkennbare Merkmale von Fachwissen zusammenzustellen, ohne dass zwangsläufig eine Verbindung zu einer tatsächlich qualifizierten Person besteht. Dies ist von Bedeutung, da die Kommunikation von Experten traditionell auf einer Verbindung zwischen Repräsentation und Verantwortung beruht. Die Empfehlung eines Arztes hat nicht nur deshalb Überzeugungskraft, weil sie glaubwürdig klingt, sondern weil sie als von einem echten Fachmann stammend verstanden wird, der zumindest grundsätzlich identifiziert, bewertet und zur Rechenschaft gezogen werden kann. Synthetische Experten schwächen diese Verbindung, indem sie Fachwissen in eine Reihe reproduzierbarer oberflächlicher Hinweise umwandeln. In diesem Sinne imitieren sie Experten nicht bloß. Sie verändern die kommunikative Grundlage, auf der Fachwissen beurteilt wird.
Aus diesem Grund kann eine wirksame Reaktion auf synthetische Experten sich nicht allein auf Offenlegung stützen. Regulatorische Transparenz bleibt notwendig, sollte jedoch durch Schutzmaßnahmen ergänzt werden, die die Glaubwürdigkeit und Rechenschaftspflicht synthetischer Fachkompetenz gewährleisten. Dazu können deutlichere Offenlegungsformate in risikoreichen Kontexten, eine klarere Identifizierung des für die Behauptung verantwortlichen Werbetreibenden oder der Organisation, Einschränkungen für synthetische Persönlichkeiten, die Erfahrungsberichte in der ersten Person abgeben, sowie eine strengere Überprüfung gehören, wenn in der Gesundheits- oder Finanzwerbung fachliche Autorität genutzt wird. Auch KI-Kompetenz bleibt wichtig, da das Publikum nicht nur verstehen muss, ob ein Gesicht, eine Stimme oder eine Persona künstlich erzeugt wurde, sondern auch, wie synthetische Medien visuelle, stimmliche und symbolische Hinweise nutzen, um Autorität zu simulieren und Vertrauen zu schaffen. Der Schutz des Verbrauchervertrauens erfordert daher nicht nur Kennzeichnungsvorschriften, sondern auch umfassendere Bemühungen zur Stärkung des kritischen Urteilsvermögens in KI-vermittelten Werbeumgebungen.
Fazit
In diesem Artikel wurde dargelegt, dass synthetische Experten eine Herausforderung darstellen, die sich nicht auf falsche Behauptungen oder unzureichende Offenlegung reduzieren lässt. Als Meinungsbeitrag sollte diese Argumentation eher als konzeptionelle und normative Sorge verstanden werden und nicht als direkter empirischer Beweis dafür, dass alle synthetischen Experten auch nach der Offenlegung weiterhin überzeugend wirken. Die Offenlegung bleibt eine notwendige Grundvoraussetzung für die Transparenz der Quellen, kann jedoch nicht vollständig berücksichtigen, wie synthetische Experten die visuellen, stimmlichen und symbolischen Signale reproduzieren, durch die Fachkompetenz gesellschaftlich anerkannt wird. Das tiefer liegende Problem ist die wachsende Fähigkeit generativer KI, den Anschein von Fachkompetenz von der Rechenschaftspflicht zu trennen, die Fachkompetenz normalerweise glaubwürdig macht. Wie der Änderungsvorschlag der koreanischen Kartellbehörde nahelegt, ist die Offenlegung ein wichtiger erster Schritt, muss jedoch mit einer umfassenderen Auseinandersetzung mit Glaubwürdigkeit, Rechenschaftspflicht und KI-Kompetenz einhergehen.
Zukünftige Forschungsarbeiten sollten untersuchen, ob das „Deepfake-Arzt-Problem“ ein Beispiel für einen umfassenderen Wandel in der KI-vermittelten Kommunikation ist, in der soziale Legitimität zunehmend durch synthetische Persönlichkeiten statt durch reale menschliche Akteure vermittelt wird. In Spielumgebungen können KI-generierte Charaktere beeinflussen, wie Nutzer Identität, Autorität und Authentizität interpretieren. Bei der Zusammenarbeit zwischen Mensch und KI können gezielt gestaltete Signale von Kompetenz und Selbstvertrauen das Vertrauen in künstliche Partner und Entscheidungshilfesysteme beeinflussen. Im Zusammenhang mit Social Bots und sozialen Medien sind weitere Untersuchungen erforderlich, um zu verstehen, wie automatisierte Persönlichkeiten Glaubwürdigkeit und sozialen Einfluss erzeugen, ohne dass eine entsprechende menschliche Rechenschaftspflicht besteht. Zusammengenommen deuten diese Kontexte darauf hin, dass das „Deepfake-Arzt-Problem“ kein isoliertes Problem in der Werbung ist, sondern Teil eines umfassenderen Wandels in der Art und Weise, wie Fachwissen, Vertrauen und Legitimität in der KI-vermittelten Kommunikation dargestellt werden.
Übersetzung Boris Wanzeck, Swiss Infosec AG
Zur einfacheren Lesbarkeit wurden die Literatur- und Quellverweise entfernt.
Kim D and Han Y (2026) The deepfake doctor problem: why labeling synthetic experts is necessary but insufficient for protecting consumer trust. Front. Commun. 11:1856259.
doi: 10.3389/fcomm.2026.1856259
https://creativecommons.org/licenses/by/4.0
KI-Governance, Security und Privacy
Unsere KI-, Governance-, Datenschutz- und Security-Spezialisten begleiten Sie bei der Erstellung der übergeordneten firmeninternen KI-Vorgaben, bei der Abwicklung von KI-Projekten, bei der Klärung von Einzelfragen und der Durchführung unabhängiger Audits. Ebenfalls unterstützen sie Organisationen in ihrer Rolle als Nutzer/Betreiber, Anbieter oder Entwickler von KI-Systemen sowohl nach Schweizer Recht als auch gemäss dem EU-AI Act.
Kontaktieren Sie uns und erfahren Sie in einem unverbindlichen Beratungsgespräch, was unsere Spezialistinnen und Spezialisten für Sie tun können: +41 41 984 12 12, infosec@infosec.ch