10/2025
Einleitung
Stellen Sie sich folgende Situation vor: Eine alleinlebende Seniorin beschließt, in ihrer Privatwohnung einen intelligenten Spiegel zu installieren, der mit Funktionen wie Sprachbefehlen und Gesundheitsüberwachung ausgestattet ist, um ihr zu helfen, länger und unabhängiger zu Hause zu leben. Anfangs genoss die Frau den Komfort, den ihr der neu installierte intelligente Spiegel bot, und da sie ihn von einem bekannten Unternehmen gekauft hatte, vertraute sie dem Gerät auch. Eines Tages jedoch bemerkte die Frau ungewöhnliche Aktivitäten. Zunächst vermutete sie, dass die Kamera des Spiegels ohne ihre Zustimmung aktiviert worden war, war sich jedoch nicht sicher, da sie unter Gedächtnisverlust litt und dachte, dass sie sich vielleicht nur verwirrt hatte. Einige Tage später begann der Smart Mirror, unangemessene und aufdringliche Nachrichten anzuzeigen, wodurch sie sich in ihrem eigenen Zuhause unwohl und verletzt fühlte. Später wurde sie sexuell belästigt und körperlich bedroht, was sie in Angst und Schrecken versetzte und tief traumatisierte. Dies wurde durch das Versäumnis ermöglicht, grundlegende Datenschutz- und Sicherheitsmaßnahmen zu implementieren, wodurch Hacker die Kontrolle über ihren Smart Mirror erlangen konnten.
Dieses Szenario verdeutlicht, dass intelligente Spiegel zwar wie andere Technologien und Geräte dazu beitragen können, die allgemeine Lebensqualität älterer Menschen zu verbessern, indem sie ihre Gesundheit, ihr Wohlbefinden und ihre Vernetzung mit der breiteren Gemeinschaft fördern, jedoch auch ernsthafte rechtliche und regulatorische Herausforderungen sowie andere potenzielle Probleme in Bezug auf Design und Interaktivität mit sich bringen. In diesem Kapitel sollen diese Herausforderungen aus der Perspektive des Datenschutzes untersucht werden. Das Hauptziel des Kapitels ist es, einen Beitrag zum interdisziplinären Diskurs über intelligente Spiegel zu leisten und eine tiefere Integration von Recht und Technologie in diesem Zusammenhang zu ermöglichen.
Zunächst gibt dieses Kapitel einen Überblick über Smart Mirrors, um die technologischen Grundlagen zu verstehen, für die das Gesetz gilt. Anschließend werden verschiedene Datenschutzprobleme im Zusammenhang mit Smart Mirrors untersucht, darunter Fragen der Einwilligung und Transparenz, Sicherheitslücken und der potenzielle Missbrauch personenbezogener Daten. Anschließend wird beschrieben, wie Datenschutzvorschriften auf Smart Mirrors angewendet werden könnten, und es wird eine Taxonomie der wichtigsten zu berücksichtigenden Faktoren vorgestellt. In Abschnitt 6 wird speziell die Rolle des eingebauten Datenschutzes (Data Protection by Design, DPbD) untersucht und dabei betont, wie wichtig es ist, die Einhaltung der Vorschriften von Anfang an in die Entwicklung und den Einsatz von Smart Mirrors einzubeziehen.
1. Smart-Spiegel
Smart Mirrors sind hochentwickelte elektronische Geräte, die mit mehreren fortschrittlichen Funktionen ausgestattet sind. Sie sind mit dem Internet verbunden und können mit anderen IoT-Geräten (Internet of Things) zusammenarbeiten, wodurch ihre Funktionalität und Integration in intelligente Ökosysteme verbessert wird. Zu den wichtigsten Komponenten von Smart Mirrors gehören Kameras, Mikrofone und interaktive Bildschirme. Diese Komponenten ermöglichen eine Reihe von Funktionen, von der Gesichtserkennung bis hin zu berührungs- oder gestenbasierten Interaktionen zur Steuerung von Smart Mirrors. Darüber hinaus können Smart Mirrors als Plattformen für verschiedene Anwendungen dienen und den Benutzern ein anpassbares und interaktives Erlebnis bieten. Die Möglichkeit der Sprachinteraktion sorgt für zusätzlichen Komfort und Nutzen und macht Smart Mirrors zu einem vielseitigen Werkzeug in modernen Smart Homes und Umgebungen.
Intelligente Spiegel können älteren Menschen zahlreiche Vorteile bieten, indem sie Technologie in einen vertrauten Gegenstand integrieren, der in fast jedem Haushalt zu finden ist. Erstens können sie zur Gesundheitsüberwachung eingesetzt werden, indem sie beispielsweise die Vitalparameter einer Person wie Herzfrequenz, Blutdruck und Temperatur überwachen, was zu einer personalisierten Pflege führen kann. Sie können auch Medikamentenerinnerungen anzeigen und so sicherstellen, dass ältere Menschen ihre verschriebenen Medikamente rechtzeitig einnehmen. Sie können Fitness und Wellness unterstützen, indem sie beispielsweise geführte Trainingsroutinen, Trainingsprogramme sowie Ernährungsberatung anbieten. Eine weitere Anwendung eines intelligenten Spiegels im Kontext des aktiven betreuten Wohnens (AAL) ist die Korrektur der Körperhaltung. Darüber hinaus können intelligente Spiegel mit integrierten Kameras und Kommunikationsfunktionen Videoanrufe ermöglichen, sodass ältere Menschen mit Familie und Freunden in Verbindung bleiben können. Dies kann das Gefühl der Isolation verringern und soziale Interaktion ermöglichen. Durch die Integration mit Kalendern können intelligente Spiegel Erinnerungen an Arzttermine, gesellschaftliche Veranstaltungen und andere wichtige Termine bereitstellen. Mit Spracherkennungstechnologie ausgestattete Smart Mirrors können ältere Menschen dabei unterstützen und anleiten, andere Smart-Home-Geräte zu steuern oder Informationen zu suchen, ohne dass komplexe Schnittstellen erforderlich sind. Durch die Integration in Notfallalarmsysteme können Smart Mirrors bei Stürzen oder gesundheitlichen Notfällen schnell Benachrichtigungen oder Alarme an Pflegekräfte oder Rettungsdienste senden. Schließlich kann die Emotionserkennung Gesichtsausdrücke analysieren, um die Stimmung der älteren Person zu bestimmen, und dann auf der Grundlage der erkannten Emotionen personalisiertes Feedback oder Vorschläge geben.
Smart Mirrors verfügen über verschiedene Technologien, um effektiv zu funktionieren und die oben beschriebenen Anwendungen anzubieten. Die spezifischen Merkmale und Funktionen eines Smart Mirrors können je nach Hersteller, Modell und Betriebssystem variieren, aber einige der häufig verwendeten Schlüsseltechnologien umfassen (1) integrierte Touchscreen-Displays, über die Benutzer mit der Benutzeroberfläche des Spiegels interagieren können, (2) Kameras und Sensoren, die in vielen Fällen eine Gesichtserkennung für personalisierte Benutzererlebnisse ermöglichen, (3) Mikrofone und Spracherkennung (4) WLAN und Bluetooth, (5) Sensoren zur Gesundheitsüberwachung wie Herzfrequenzmesser und (6) maschinelles Lernen und andere Arten von KI, mit denen der Spiegel Benutzer identifizieren und ihre Erfahrung personalisieren kann. Wichtig ist, dass die Technologie im Zusammenhang mit intelligenten Spiegeln rasch voranschreitet und daher möglicherweise Augmented-Reality-Technologie (AR) integriert werden kann, um mit intelligenten Spiegeln noch immersivere und interaktivere Erfahrungen zu ermöglichen. Es ist auch möglich, dass die Anpassungs- und Personalisierungsmöglichkeiten intelligenter Spiegel sowie ihre Integration mit anderen Smart-Home-Geräten zunehmen werden.
2. Eigenschaften von Smart Mirrors
Smart Mirrors lassen sich mit Smartphones und anderen Smart Devices vergleichen, da sie ähnliche Technologien und Funktionen enthalten. Es ist jedoch wichtig zu erkennen, dass es bestimmte Besonderheiten gibt, die Smart Mirrors als eigenständige Technologie charakterisieren. Im Gegensatz zu Smartphones werden Smart Mirrors in der Regel an einer Wand befestigt und können trotz ihrer Beweglichkeit nicht als mobile oder tragbare Geräte klassifiziert werden. Smart Mirrors verfügen in der Regel nicht über Sensoren wie Gyroskope und Beschleunigungsmesser, können jedoch mit passiven Sensoren zur Erkennung von Bewegung und Temperatur ausgestattet sein.
Ein Smart Speaker mag zwar mit einem Smart Mirror vergleichbar sein, jedoch basiert er in erster Linie auf Sprachinteraktion und verfügt nicht über die interaktiven Bildschirme, die für Smart Mirrors charakteristisch sind. Es ist auch erwähnenswert, dass Smart Speaker potenziell mit Smart-Spiegel-Schnittstellen verbunden werden und diese steuern können, was eine Verlagerung des rechtlichen Fokus vom Gerät selbst auf die Art der Interaktion erfordert, die es ermöglicht, insbesondere auf den interaktiven Dienst, der in der Regel von einem privaten Unternehmen (d. h. dem Dienstanbieter) über den KI-Assistenten bereitgestellt wird. Diese Verlagerung unterstreicht, wie wichtig es ist, die technischen und ontologischen Besonderheiten dieser Technologien in sich weiterentwickelnden rechtlichen Rahmenbedingungen zu berücksichtigen.
Eine weitere Technologie, mit der Smart Mirrors verglichen werden können, sind Überwachungskameras. Denn Smart Mirrors haben mit Überwachungskameras gemeinsam, dass sie dynamische Bilder der Umgebung und der darin befindlichen Personen aufnehmen können. Ein entscheidender Unterschied liegt jedoch in ihrem Verwendungszweck, der sich auf ihre Konstruktion und Platzierung auswirkt. Überwachungskameras sind in erster Linie für Sicherheitszwecke konzipiert, um bestimmte Arten von Bildern an bestimmten Orten und unter bestimmten Bedingungen aufzunehmen, und unterliegen besonderen Datenschutzbeschränkungen. Darüber hinaus werden Sicherheitskameras oft in mehreren Einheiten eingesetzt und sind in der Regel beweglich, während die in einen Smart Mirror eingebaute Kamera in der Regel eine einzelne, fest installierte Komponente ist. Dennoch ist es denkbar, dass Smart Mirrors mit mehreren beweglichen Kameras ausgestattet oder mit anderen Kameras verbunden werden könnten, die im Raum positioniert sind.
Mobile Geräte wie Smartphones und Smartwatches sind persönliche Geräte, die in der Regel auf einer Eins-zu-Eins-Interaktion und einem Datenverarbeitungsparadigma mit dem Besitzer basieren. Im Gegensatz dazu sind Smart Mirrors für die Interaktion mit mehreren Personen ausgelegt und können potenziell auch Dritte erfassen, die nicht direkt an der Interaktion beteiligt sind, wie beispielsweise Minderjährige oder Gäste, die sich im Raum aufhalten. Darüber hinaus erfordern Smartphones und ähnliche mobile Geräte eine direkte Interaktion mit dem Benutzer, während Smart Mirrors eine indirekte Interaktion über Vermittler ermöglichen, beispielsweise Ärzte, die Behandlungen über den Spiegel durchführen. Im Gegensatz zu Smart Speakern, die ausschließlich auf Sprachinteraktion basieren, bieten Smart Mirrors sowohl Audio- als auch Videointeraktion.
Smart Mirrors lassen sich außerdem mit Smart-TVs, Laptops und Tablet-Geräten wie dem Apple iPad vergleichen. Sie unterscheiden sich jedoch von Smart-TVs, bei denen es sich um eine passive Interaktion handelt, bei der Live-Programme oder Videos ohne direkte Benutzerinteraktion gezeigt werden und der Benutzer lediglich über eine Fernbedienung oder eine Sprachschnittstelle Inhalte auswählt. Tablets und Laptops weisen aufgrund ihrer interaktiven Touchscreen- en (im Falle von Tablets) und ihrer allgemeinen Funktionalität Ähnlichkeiten mit Smart Mirrors auf. Allerdings fungieren weder Laptops noch Tablets als interaktive, spiegelähnliche Kameras (obwohl sie dies potenziell könnten). Darüber hinaus sind Laptops und Tablets persönliche, mobile Geräte, im Gegensatz zu den stationären Smart Mirrors.
Die einzigartigen Funktionen von Smart Mirrors – Interaktion mit mehreren Benutzern, direkte Interaktion, Möglichkeit zur Erfassung von Umstehenden, Umgebungsempfindlichkeit und kombinierte audiovisuelle Schnittstelle – heben sie deutlich von anderen intelligenten Geräten ab. Diese Eigenschaften erfordern einen differenzierten Ansatz in Bezug auf technische, rechtliche und ethische Überlegungen, um sicherzustellen, dass die Rahmenbedingungen für ihre Nutzung den Besonderheiten dieser innovativen Technologien gerecht werden. Dennoch ist zu bedenken, dass diese Unterschiede mit der vollständigen Entwicklung von IoT-Umgebungen möglicherweise an Bedeutung verlieren werden. Smart Mirrors werden wahrscheinlich zu Endgeräten innerhalb einer großen, einheitlichen, vernetzten Benutzeroberfläche werden, die es den Benutzern ermöglicht, die intelligente Umgebung und die verbundenen Smart Devices nahtlos zu steuern und mit ihnen zu interagieren.
3. Datenschutzbedenken im Zusammenhang mit Smart-Spiegeln
Der Einsatz von Smart Mirrors wirft eine Vielzahl rechtlicher Fragen auf, die in erster Linie auf die umfangreiche Erfassung, Verarbeitung und Weitergabe verschiedener Arten von Daten durch diese miteinander verbundenen Geräte zurückzuführen sind. Eine zentrale Herausforderung im Zusammenhang mit IoT-Geräten wie intelligenten Spiegeln dreht sich um Datenschutzfragen. Ein damit verbundenes rechtliches Problem ist die Datensicherheit, wobei die Vernetzung eines intelligenten Spiegels das Risiko von Datenverstößen erhöht. Die Einbindung von KI in diese Geräte verkompliziert die Rechtslage zusätzlich und wirft Bedenken hinsichtlich der Transparenz bestimmter KI-Algorithmen, die in intelligenten Spiegeln eingesetzt werden, sowie der möglichen Einbeziehung von Vorurteilen in diese Geräte auf. Dies zeigt sich in den verschiedenen Vorschriften, die für diese Geräte gelten, darunter die DSGVO, die KI-Verordnung und das Gesetz zur Cyberresilienz. Diese Vorschriften müssen in Kombination berücksichtigt werden, wenn es um Fragen geht, die sich aus der Interaktion mit intelligenten Spiegeln ergeben, obwohl der Schwerpunkt dieses Artikels hauptsächlich auf der DSGVO liegt.
Genauer gesagt ergeben sich die Datenschutzprobleme im Zusammenhang mit Smart-Mirror-Technologien aus deren Fähigkeit, passiv umfangreiche personenbezogene Daten zu erfassen, darunter detaillierte Ganzkörpervideos, Sprachaufzeichnungen, Gesundheitsdaten, biometrische Informationen, Nutzerpräferenzen und Verhaltensmuster. Aufgrund ihrer besonderen Eigenschaften unterscheiden sich Smart Mirrors von anderen Technologien durch ihre Fähigkeit, umfangreiche audiovisuelle biometrische Daten und Verhaltensmuster, Gewohnheiten und einzigartige Bewegungen zu erfassen. Diese Fähigkeit erhöht das Ausmaß der mit ihrer Nutzung verbundenen Datenschutzbedenken erheblich. Wie bei anderen intelligenten Technologien verstehen Einzelpersonen oft nicht vollständig das Ausmaß der Datenerfassung durch intelligente Spiegel, da es schwierig ist, die Überwachungsfähigkeiten dieser vielseitigen Geräte auf eine Weise zu vermitteln, die ihre Leistungsfähigkeit klar kommuniziert. Dies gilt insbesondere für diejenigen Nutzer, wie z. B. ältere Erwachsene, die in der Regel weniger über grundlegende digitale Kenntnisse verfügen. Diese Datenerfassung, die als inhärent invasiv angesehen werden kann, kann sogar potenziell die Wahrnehmung der Identität einer Person nach außen verändern, ohne dass diese davon Kenntnis hat und ihre Zustimmung dazu gegeben hat. Dieser Prozess kann die Fähigkeit der Person beeinträchtigen, ihre eigene Erzählung über ihre persönliche Identität zu konstruieren, da die zur Analyse verwendeten Informationen möglicherweise nicht zugänglich sind oder auf eine Weise aggregiert werden, die nicht mit ihrer Selbstwahrnehmung übereinstimmt. Darüber hinaus können Dienstleister oder Dritte diese Daten für Zwecke wie gezieltes Marketing oder diskriminierende Praktiken nutzen. Beispielsweise könnten Versicherungsgesellschaften die von intelligenten Spiegeln gesammelten Gesundheitsdaten nutzen, um die Prämien auf der Grundlage der wahrgenommenen Gesundheitsrisiken anzupassen, oder Arbeitgeber könnten persönliche Gewohnheiten analysieren, um Entscheidungen über Einstellungen oder Beförderungen zu treffen. Allen erörtert, wie IoT-Technologien wie intelligente Spiegel aufgrund ihrer invasiven und ständigen Überwachungsmöglichkeiten, die sie als „schädliche Überwachung” bezeichnet, ernsthafte Bedenken hinsichtlich der Überwachung aufwerfen. Sie hebt außerdem das Problem der „schädlichen Erinnerung” hervor, bei dem diese Technologien eine dauerhafte und potenziell unendliche Aufzeichnung des Lebens einer Person erstellen. Diese fortwährende Datenerfassung kann zu erheblichen Verletzungen der Privatsphäre führen, da sie im Laufe der Zeit detaillierte persönliche Informationen erfasst und speichert, wodurch es möglich wird, die Aktivitäten, Verhaltensweisen und Vorlieben einer Person lange nach dem Ereignis zu rekonstruieren und zu untersuchen. Allerdings schrieb Allen zu einer Zeit, als diese Technologien noch rein theoretischer Natur waren und das erste Smartphone gerade erst auf den Markt gekommen war. Daher muss bedacht werden, inwieweit die aktuellen technologischen Fortschritte im Bereich des IoT Allens Bedenken übertreffen und zu weiteren und viel invasiveren Eingriffen in die Privatsphäre des Einzelnen führen könnten.
Wie oben erläutert, können Smart Mirrors KI-Algorithmen wie beispielsweise zur Gesichtserkennung verwenden, wodurch das Potenzial für eine unfaire Behandlung aufgrund individueller Merkmale oder Gruppenzugehörigkeiten steigt. Mittlerweile ist allgemein bekannt, dass ein KI-Algorithmus, der auf historischen Daten trainiert wurde, unbeabsichtigt Vorurteile widerspiegeln kann, die in den Trainingsdaten vorhanden sind, wodurch Rassismus, Sexismus, Behindertenfeindlichkeit und andere Ungerechtigkeiten verstärkt werden können. Wenn die Trainingsdaten beispielsweise überwiegend auf eine bestimmte demografische Gruppe ausgerichtet sind (z. B. junge, weiße, weibliche Nutzer), kann der Smart Mirror unverhältnismäßig viele Inhalte oder sogar medizinische Behandlungen empfehlen, die diesen Merkmalen entsprechen (anstatt z. B. älteren, schwarzen, männlichen Nutzern). Diese Gefahr ähnelt derjenigen, die von anderen Technologien ausgeht. Aufgrund ihrer besonderen Eigenschaften könnten Smart Mirrors jedoch zum primären Endgerät in einer IoT-Umgebung werden. Ihre Fähigkeit zur direkten Interaktion mit dem Nutzer in Verbindung mit verschiedenen interaktiven Audio- und Videofunktionen erhöht ihr Potenzial für Eingriffe in die Privatsphäre erheblich.
Darüber hinaus können intelligente Spiegel, wenn sie mit komplexen KI-Algorithmen betrieben werden, an Transparenz und Erklärbarkeit mangeln, was es für Benutzer schwierig macht, ihre Funktionsweise zu verstehen. Nach der Definition von Nicholson Price ist „Black-Box-Medizin“ „die Verwendung undurchsichtiger Berechnungsmodelle zur Entscheidungsfindung im Gesundheitswesen“. Während „Black-Box-Medizin“ enorme Möglichkeiten in Bezug auf Prognosen, Diagnosen und Behandlungsempfehlungen bietet, wirft sie ernsthafte rechtliche Bedenken in Bezug auf Fragen wie Datenschutz und Verantwortlichkeit auf. Erklärbare KI ist ein sich entwickelndes Gebiet, das sich darauf konzentriert, Methoden und Ansätze zum Verständnis von Algorithmen anzubieten, die als Black Boxes funktionieren. Es bleibt jedoch noch viel zu tun, insbesondere was das Verständnis komplexer Modelle und die schwierige Abwägung zwischen Erklärbarkeit und Modellleistung angeht.
Während das Black-Box-Konzept von vielen intelligenten Geräten mit KI-Systemen geteilt wird, unterscheiden sich die intelligenten Spiegel von aufgrund ihres Zwecks und ihrer Architektur erheblich von anderen „Black-Box“-Technologien. Sie fungieren als eine Art „Stargate“, an dem KI-Tools und -Ergebnisse, Nutzer (insbesondere Patienten), Dienstleister und Vermittler (wie Ärzte und Heilpraktiker) zusammenkommen. Vermittler spielen eine Rolle bei der Interpretation der Ergebnisse des Algorithmus und der Anwendung der richtigen Ergebnisse für den Nutzer. Wenn beispielsweise ein Arzt Diagnoseergebnisse interpretiert, die aus einer algorithmischen Analyse der Verhaltensdaten eines Patienten abgeleitet wurden, sollte er nicht einfach die Ausgabe des Algorithmus validieren. Stattdessen sollte er diese Ergebnisse mit anderen empirischen medizinischen Daten vergleichen, um eine umfassende endgültige Diagnose zu erstellen. Daher sollte die Architektur von Smart Mirrors so gestaltet sein, dass Interpreten die Ergebnisse des Algorithmus verstehen und an die spezifischen Bedürfnisse und Eigenschaften des Nutzers anpassen können, anstatt einfach nur die Ergebnisse der KI zu akzeptieren. Dieser Interpretationsprozess kann sich nicht allein auf Profiling stützen, das auf statistischen statt auf kausalen Methoden basiert. Daher ist die digitale Kompetenz der Interpreten ein entscheidendes Element im Designprozess, insbesondere innerhalb der sogenannten Black Box.
Felzmann et al. erklären, dass im Zusammenhang mit KI-basierten Technologien wie Smart Mirrors sowohl prospektive als auch retrospektive Transparenz dringend erforderlich ist. Prospektive Transparenz informiert die Nutzer von Anfang an über die Datenverarbeitung und die allgemeine Entscheidungsfindung des Systems und dient somit als Mechanismus zur Rechenschaftslegung, während retrospektive Transparenz nachträgliche Erklärungen und Begründungen für bestimmte Entscheidungen liefert und die einzelnen Schritte der Datenverarbeitung detailliert darlegt.
Bei intelligenten Spiegeln ist es notwendig, prospektive Transparenz zu erreichen, um beispielsweise Umstehende, die ebenfalls von der Sensortechnologie erfasst werden könnten, klar zu informieren und sicherzustellen, dass sie verstehen, wie ihre Daten erfasst und verwendet werden. Darüber hinaus entspricht dies den obligatorischen Informationspflichten, die in den unten näher erläuterten verbindlichen gesetzlichen Anforderungen festgelegt sind. Informationspflichten sollten jedoch nicht zu einer weiteren legalistischen Liste von Elementen verkommen, denen die Nutzer zustimmen, ohne sie zu lesen. Stattdessen sollten sie benutzerfreundlich und verständlich gestaltet sein und die Nutzer Schritt für Schritt – auch auf Anfrage – anleiten, unabhängig von ihrem Bildungshintergrund oder ihrem digitalen Kenntnisstand. Dieser Ansatz sollte den Nutzern helfen, die Komplexität der Datenerfassung zu verstehen, einschließlich der Gründe, warum das System bestimmte Daten für bestimmte Prozesse benötigt, wie die Daten erfasst, gespeichert und gesichert werden, wie lange die Daten aufbewahrt werden und warum, wer Zugriff auf die Daten hat und warum, sowie anderer relevanter Details. Die Gewährleistung rückwirkender Transparenz ist auch für Auditzwecke erforderlich, damit Nutzer und Regulierungsbehörden die Entscheidungsprozesse dieser Systeme verstehen und ihnen vertrauen können. Die Umsetzung dieser Lösungen durch Design wird die Nutzer in die Lage versetzen, ihr Recht auf Zugang zu Informationen auf Anfrage, in Echtzeit und ohne die Notwendigkeit von Offline-Vermittlern auszuüben.
Eine weitere Sorge betrifft die Rolle der automatisierten individuellen Entscheidungsfindung, bei der kein Mensch involviert ist. Intelligente Spiegel, die in AAL verwendet werden, können KI-Algorithmen zur Gesundheitsüberwachung oder Diagnose enthalten. Wenn diese Algorithmen nicht ausreichend genau oder zuverlässig sind, besteht die Gefahr, dass falsche Gesundheitsbewertungen oder Diagnosen abgegeben werden. Dieses Problem hat Auswirkungen, die über die Haftung hinausgehen. Hier gibt es zusätzliche Bedenken darüber, was es bedeutet, Nutzer, Pflegekräfte, Ärzte und andere relevante Interessengruppen „aus dem Kreislauf“ zu nehmen, wenn es um Entscheidungen über Gesundheit und Wohlbefinden geht.
Wie oben erwähnt, müssen professionelle Vermittler befähigt werden, die Ergebnisse der KI kritisch zu bewerten, bevor sie auf der Grundlage dieser Ergebnisse handeln, insbesondere im Gesundheitswesen. Ein wirksames „Human-in-the-Loop”-Protokoll erfordert, dass Vermittler algorithmische Ergebnisse auf der Grundlage der verwendeten Methoden und Kriterien, der Trainingsdatenbank und der berücksichtigten spezifischen Korrelationen bewerten. Um dieses Maß an granularer Transparenz zu erreichen, müssen KI-Systeme so konzipiert sein, dass sie rückwirkende Untersuchungen des Entscheidungsprozesses ermöglichen, ähnlich wie bei einer mehrschichtigen Blockchain.
Während Smart Mirrors in Krankenhäusern, Pflegeeinrichtungen oder öffentlichen Räumen wie Fitnessstudios eingesetzt werden können, sind viele Smart Mirrors für den Einsatz zu Hause konzipiert, einem Bereich, der traditionell einem sehr hohen Maß an rechtlichem Schutz unterliegt. Crabtree und Rodden haben die Komplexität des Zuhauses als sozialen Raum diskutiert, der durch vielfältige Praktiken und Routinen gekennzeichnet ist. In ihrer Arbeit betonen sie, dass die Einbindung von Computern in diesen Kontext eine gründliche Überlegung darüber erfordert, was „angemessen” ist. Für intelligente Spiegel bedeutet dies, dass Hersteller oder Dienstleister die Funktionen des Geräts unter Berücksichtigung der spezifischen Umgebung sorgfältig gestalten müssen. Beispielsweise kann ein im Badezimmer installierter intelligenter Spiegel intimere Bilder aufnehmen als ein im Wohnzimmer platzierter Spiegel, während ein intelligenter Spiegel im Wohnzimmer möglicherweise mehr private Gespräche aufzeichnet. Daher müssen Art, Qualität und Menge der sensiblen Daten, die das Gerät erfassen kann, genau geprüft werden. In der Praxis bedeutet dies, dass eine gründliche Datenschutz-Folgenabschätzung (DSFA) durchgeführt werden muss, um diese Aspekte sorgfältig zu berücksichtigen und die Datenverarbeitung auf ein Minimum zu reduzieren.
Die Löschung von Daten im Zusammenhang mit Smart Mirrors stellt eine weitere Herausforderung dar, da die Komplexität von KI-Systemen und die Art und Weise, wie Daten in ihnen miteinander verflochten sind, dies zu einer Herkulesaufgabe machen. Ginart et al. erklären: „Bei vielen Standard-ML-Modellen besteht die einzige Möglichkeit, die Daten einer Person vollständig zu entfernen, darin, das gesamte Modell anhand der verbleibenden Daten von Grund auf neu zu trainieren, was aus rechnerischer Sicht oft nicht praktikabel ist.“ Um diese Herausforderungen zu bewältigen, sind ausgefeilte Techniken wie maschinelles Verlernen (machine unlearning) unerlässlich, das grob als „Entfernen der Einflüsse von Trainingsdaten aus einem trainierten Modell“ beschrieben werden kann.
Das Thema „Maschinelles Verlernen“ fällt in den Bereich der bereits hervorgehobenen Black-Box-Problematik, insbesondere im Hinblick auf die Rechte der betroffenen Personen, ihre Daten zu kontrollieren. Die Komplexität des Problems nimmt zu, wenn sich die Anfrage einer betroffenen Person auf bestimmte Arten von Daten oder bestimmte personenbezogene Informationen bezieht. Datenverantwortliche müssen in der Lage sein, diese Anfragen zu bearbeiten und ihre Systeme entsprechend zu gestalten. Die Nichtbeachtung dieser berechtigten Anfragen verletzt die Rechte der betroffenen Personen und verstößt gegen das Gesetz. Daher sollten IoT-Geräte, insbesondere Smart Mirrors, so konzipiert sein, dass Benutzer direkt auf der interaktiven Plattform auf ihre Daten zugreifen und diese selektiv löschen können, ähnlich wie ein Browser es Benutzern ermöglicht, ihren Browserverlauf zu löschen. Diese Überlegungen sind besonders relevant für Smart Mirrors, die für Gesundheitszwecke eingesetzt werden, da sie hochsensible Informationen verarbeiten, die ein hohes Maß an Datenschutz erfordern.
Die Verwendung von Smart Mirrors mit schwachen Sicherheitsfunktionen kann zu einer Reihe von Problemen führen, darunter Hacking, Spionage und Belästigung. Smart Mirrors können Echtzeitinformationen über das Geschehen im Haus sowie archiviertes Bildmaterial liefern, was für Cyberkriminelle sehr attraktive Informationen sind. Hacker könnten über das Mikrofon direkt mit den Bewohnern des Hauses sprechen. Dies könnte zu verbalen Angriffen und Drohungen führen. Wie oben erläutert, können intelligente Spiegel, die im AAL-Kontext verwendet werden, auch Risiken für die körperliche Sicherheit ihrer Benutzer darstellen, beispielsweise wenn sie zu einer falschen Diagnose oder einer falschen Verabreichung von Medikamenten führen.
Es ist wichtig, die Sensibilität der von intelligenten Spiegeln gesammelten Daten und die mit dem Diebstahl oder Missbrauch dieser Daten verbundenen Risiken hervorzuheben. Wenn es zu Verstößen in Datenbanken mit biometrischen Daten kommt, kann dies weitreichende Auswirkungen auf das Leben einer Person haben. Im Gegensatz zu Passwörtern oder Sozialversicherungsnummern, die nach einem Verstoß geändert werden können, gibt es fast keine Möglichkeit, einen Verstoß im Zusammenhang mit biometrischen Daten zu beheben, die „einzigartig und unveränderlich“ sind. Gestohlene Gesichtsdaten könnten beispielsweise von Personen mit böswilliger Absicht genutzt werden, um sich als jemand anderes auszugeben, selbst Jahre nach dem ursprünglichen Verstoß.
Neben Gefahren für Einzelpersonen gibt es auch Gefahren für die Öffentlichkeit, die entstehen können, wenn Smart Mirrors „schlecht konzipiert oder ohne Rücksicht auf die Sicherheit betrieben werden“. Beispielsweise kann kritische Infrastruktur anfällig für Angriffe werden, wenn sie über ein gemeinsames Netzwerk mit einem kompromittierten Smart Mirror verbunden ist. Mit anderen Worten: Die Verbreitung von IoT-Geräten wie Smart Mirrors vergrößert die Angriffsfläche kritischer Infrastruktur und bietet Cyberangreifern neue Einstiegspunkte, um Schwachstellen auszunutzen und sich unbefugten Zugriff zu verschaffen.
4. Datenschutzverordnung und Smart-Spiegel
a. Ein Überblick über die Datenschutz-Grundverordnung (DSGVO)
Eine alte Rechtsmaxime lautet: „ubi societas, ibi jus“ – wo Gesellschaft ist, da ist auch Recht. Diese lateinische Maxime lässt sich heutzutage in etwa so aktualisieren: „Wo personenbezogene Daten sind, da ist auch die DSGVO.“ Damit soll gesagt werden, dass Smart Mirrors fast immer die Anwendung der DSGVO erfordern, da jedes technologische Gerät, das personenbezogene Daten verarbeitet (sammelt, speichert, abruft, analysiert, löscht und in irgendeiner Weise nutzt), im Allgemeinen in ihren Anwendungsbereich fällt.
Smart Mirrors müssen, wie alle digitalen Geräte, die personenbezogene Daten erfassen, einen klaren und legitimen Zweck für die Verarbeitung haben. Die Hersteller sollten die beabsichtigten Verwendungszwecke der Daten angeben und für jede Verarbeitungsaktivität eine Rechtsgrundlage schaffen. Die für die Datenverarbeitung Verantwortlichen sollten Smart Mirrors so konzipieren, dass eine übermäßige Datenerhebung vermieden wird und Daten nicht länger als nötig gespeichert werden. Darüber hinaus sollten Smart Mirrors über Mechanismen verfügen, um Daten zu löschen oder zu anonymisieren, wenn sie für den angegebenen Zweck nicht mehr benötigt werden. Verarbeitet der Smart Mirror besondere Kategorien personenbezogener Daten (z. B. biometrische Daten für die Gesichtserkennung), ist es erforderlich, die ausdrückliche Einwilligung der Nutzer einzuholen, sofern nicht eine der anderen Ausnahmen in Artikel 9 gilt.
Hier stellt sich eine wichtige Frage in Bezug auf Minderjährige und Personen mit verminderter geistiger Fähigkeit oder eingeschränkter Entscheidungsfähigkeit, auch wenn diese nur vorübergehend ist (oft ältere Erwachsene oder Menschen mit Behinderung). Diese Sorge erstreckt sich auch auf diejenigen, denen eine angemessene digitale Bildung fehlt. Diese Faktoren können das vollständige Verständnis einer Person für Konzepte der Verarbeitung personenbezogener Daten (einschließlich sensibler Daten) und die möglichen Folgen von Datenverarbeitungsmissbrauch behindern. Die Gültigkeit und Wirksamkeit einer solchen Einwilligung wird nach wie vor kontrovers diskutiert, sodass alternative Rechtsgrundlagen für die Datenverarbeitung geprüft werden müssen. Ein Ansatz könnte darin bestehen, die Einwilligung des Patienten durch die Einwilligung der Angehörigen praktisch zu unterstützen. Dieses Szenario wird jedoch in der DSGVO nicht ausdrücklich behandelt und ist nach der Verordnung möglicherweise nicht gültig. Dies unterstreicht die Notwendigkeit einer sorgfältigen Prüfung und möglicherweise neuer Rahmenbedingungen, um diese schutzbedürftigen Bevölkerungsgruppen zu schützen und gleichzeitig die gesetzlichen Standards einzuhalten.
Andererseits sind Hersteller von Smart Mirrors verpflichtet, den Nutzern transparente Informationen über die Verarbeitung ihrer personenbezogenen Daten zur Verfügung zu stellen, wie z. B. Angaben zu den Arten der erhobenen Daten, den Zwecken der Verarbeitung und der Identität des für die Verarbeitung Verantwortlichen. Smart Mirrors müssen über robuste Sicherheitsmaßnahmen verfügen, um unbefugten Zugriff, Offenlegung, Änderung oder Zerstörung von Daten zu verhindern. Wichtig ist, dass Nutzer das Recht haben, auf ihre von Smart Mirrors verarbeiteten personenbezogenen Daten zuzugreifen, und dass sie bei unrichtigen oder unvollständigen Daten eine Berichtigung verlangen können.
Wenn Smart Mirrors Algorithmen oder automatisierte Entscheidungsprozesse verwenden, die erhebliche Auswirkungen auf Einzelpersonen haben, haben die Nutzer das Recht, die Logik hinter solchen Prozessen zu erfahren und die Entscheidung anzufechten, zumindest wenn bestimmte Bedingungen erfüllt sind. Wenn personenbezogene Daten außerhalb der EU/des EWR übertragen werden, müssen die Hersteller von Smart Mirrors die Einhaltung der DSGVO-Bestimmungen in Bezug auf internationale Datenübertragungen sicherstellen, z. B. durch die Verwendung von Standardvertragsklauseln oder andere geeignete Garantien. Schließlich müssen Hersteller von intelligenten Spiegeln einen „Privacy by Design“-Ansatz verfolgen und Datenschutzmaßnahmen in den Entwicklungsprozess integrieren, worauf weiter unten näher eingegangen wird.
b. Wichtige Faktoren bei der Anwendung der DSGVO auf Smart Mirrors
Obwohl allgemein davon ausgegangen wird, dass die DSGVO im Zusammenhang mit Smart Mirrors Anwendung finden könnte, wurde in der bisherigen Literatur noch nicht ausreichend untersucht, inwiefern sich Smart Mirrors von anderen Technologien unterscheiden und welche Auswirkungen dies auf die Anwendung der DSGVO hat. Diese Bewertung ist notwendig, um zu beurteilen, ob spezifische technologische Unterschiede die Anwendung unterschiedlicher Datenschutzvorschriften erfordern, um etwaige Regulierungslücken zu identifizieren, die geschlossen werden müssen.
Wie oben erläutert, unterscheiden sich die Kameras in Smart Mirrors ontologisch von Überwachungskameras. Im Gegensatz zu Überwachungskameras, die passiv sind, ist die Videokomponente in Smart Mirrors aktiv und für die interaktive Nutzung durch den Benutzer konzipiert. Darüber hinaus können Smart Mirrors zusätzliche visuelle Elemente wie Infrarot-, Wärmebild- und Augmented-Reality-Filter integrieren. Das zentrale Element, das Smart Mirrors von Kameras und anderen Geräten unterscheidet, ist jedoch der technologische und interaktive Zweck, für den sie entwickelt und eingesetzt werden, was sich wiederum auf die von ihnen durchgeführte Datenverarbeitung auswirkt.
Tatsächlich können Smart Mirrors für eine Vielzahl von Zwecken eingesetzt werden, darunter E-Health-Behandlungen, Fitness, Bekleidung und Kosmetik. Diese Zwecke beeinflussen die spezifischen Interaktionen mit den Nutzern und die damit verbundene Datenverarbeitung, einschließlich der Arten von Daten, die verarbeitet werden oder potenziell zugänglich sind. Beispielsweise hat ein Smart Mirror, der gemäß dem einleitenden Fall in dem privaten Wohnzimmer des Benutzers zur allgemeinen Gesundheitsüberwachung aufgestellt ist, einen anderen Zweck und eine andere Art der Datenverarbeitung als ein Smart Mirror, der in einem Fitnessstudio zur Anleitung bei körperlichen Übungen aufgestellt ist. Ebenso hat ein Smart Mirror, der in einem Krankenhaus zur therapeutischen Unterstützung – sei es psychologisch oder physisch – installiert ist, andere Auswirkungen auf die betroffenen Daten und die Privatsphäre der Patienten. Hier ist es wichtig zu beachten, dass die beabsichtigte Verwendung ebenso wie der tatsächliche Ort, an dem das Gerät installiert ist, Auswirkungen auf den Datenschutz und die Privatsphäre hat. Das heißt, es ist die spezifische Kombination aus beabsichtigter Verwendung und Raum, die das spezifische Datenschutzregime für Smart Mirrors sowie die Besonderheiten in Bezug auf die Privatsphäre der Nutzer bestimmt.
Wir stellen fest, dass auch der rechtliche Status des Nutzers eine wichtige Rolle bei der Bestimmung der allgemein geltenden Rechtsvorschriften spielt. Tatsächlich macht es einen enormen Unterschied für die Anwendung des Rechts, ob es sich bei dem Nutzer um einen Patienten, einen Arbeitnehmer oder einen Verbraucher handelt. Weitere detaillierte Aspekte des rechtlichen Status des Nutzers sind sein Alter und seine geistigen Fähigkeiten. Diese Merkmale wirken sich auf wichtige Fragen aus, wie beispielsweise die Gültigkeit der Einwilligung und die Art der Vertragsbeziehungen. Beispielsweise erfordern Minderjährige und Personen mit eingeschränkten geistigen Fähigkeiten besondere Überlegungen hinsichtlich der Einwilligung nach Aufklärung und der Durchsetzbarkeit von Vereinbarungen. Ebenso können sich die rechtlichen und ethischen Verantwortlichkeiten gegenüber älteren Nutzern erheblich von denen gegenüber jüngeren Erwachsenen unterscheiden. Diese Aspekte sollten im Rahmen des vorläufigen Prüfungsverfahrens zur Datenschutz-Folgenabschätzung und des anschließenden Design-Implementierungsprozesses sorgfältig berücksichtigt werden.
Erschwerend kommt hinzu, dass es für die Anwendung des Gesetzes einen Unterschied macht, ob es sich bei dem Dienstleister um ein Krankenhaus, ein Forschungsinstitut, einen Fachmann (z. B. einen Psychiater) oder ein kommerzielles Unternehmen handelt. Mit anderen Worten: Der Status des für die Datenverarbeitung Verantwortlichen – und insgesamt der beteiligten Rechtssubjekte – spielt eine wichtige Rolle bei der Bestimmung der Art der anwendbaren Regelung, sowohl in Bezug auf den Datenschutz als auch auf die allgemeinen rechtlichen Auswirkungen. So gelten beispielsweise für eine Gesundheitsdienstleistung, die von einem Universitätslabor zu Forschungszwecken erbracht wird, andere rechtliche Anforderungen als für eine Gesundheitsdienstleistung, die von einem Krankenhaus zu Pflegezwecken erbracht wird. Der Unterschied betrifft beispielsweise die Art und den Umfang der Einwilligung nach Aufklärung sowie die Regelung für die sekundäre Verwendung der personenbezogenen Daten. Wenn eine dieser Leistungen die Vermittlung durch einen Dritten, beispielsweise einen Allgemeinarzt, beinhaltet, hat diese Beziehung außerdem die Anwendung spezifischer berufsethischer Pflichten hinsichtlich der Vertraulichkeit zwischen Patient und Arzt zur Folge. Diese Pflichten müssen sich in der Verantwortung des Arztes für die Wahrung des Berufsgeheimnisses sowie in der durchgängigen kryptografischen Gestaltung der Kommunikationsübertragung, der Datenübertragung, der sicheren Speicherung und der Zugänglichkeit widerspiegeln (keine anderen Personen als die Nutzer und der Arzt oder Personen mit einer Vollmacht dürfen sich in diese Daten einloggen).
Wie bereits beschrieben, scheinen Smart Mirrors bestimmte technologische, interaktive und datenverarbeitungsbezogene Besonderheiten aufzuweisen, die dieses Gerät/diese Plattform von anderen Smart Devices unterscheiden. Daher lassen sich die Elemente, die Smart Mirrors charakterisieren und die für die Festlegung der anzuwendenden spezifischen Rechts- und Datenschutzvorschriften von Bedeutung sein könnten, wie folgt klassifizieren: Standort, Nutzungskontext, Nutzerstatus, Status des Dienstleisters, Vorhandensein von Vermittlern und Art der Datenerhebung (z. B. biometrische Daten). Jedes dieser Elemente wird im Folgenden erläutert.
Der Standort bezieht sich zunächst auf die allgemeine Umgebung, in der sich der Smart Mirror befindet. Diese kann öffentlich, öffentlich zugänglich (kommerziell) oder privat sein. Zu den öffentlichen Standorten gehören alle Orte, die für die breite Öffentlichkeit zugänglich sind, wie Behörden, Plätze, Flughäfen, Bahnhöfe oder Krankenhäuser. Derzeit handelt es sich hierbei noch um ein theoretisches Beispiel, aber es ist denkbar, dass öffentliche Räume in naher Zukunft mit interaktiven intelligenten Spiegeln für verschiedene Dienste ausgestattet werden. Dazu könnten die Bereitstellung von Touristeninformationen in Smart Cities oder die Unterstützung beim Einchecken in Krankenhäusern gehören.
Öffentlich zugängliche (kommerzielle) Orte umfassen Geschäfte, Clubs und private Einrichtungen, die für die Öffentlichkeit zugänglich sind, wie Restaurants oder bestimmte öffentliche Einrichtungen wie Krankenhäuser. Innerhalb dieser Umgebungen gelten weitere Unterklassifizierungen, die sich nach dem jeweiligen Standort des Smart Mirrors richten. Zu diesen Unterklassifizierungen gehören offene Umgebungen wie Hotellobbys, Fitnessstudios oder Räume in Restaurants, in denen jeder, der sie betritt, erfasst wird, ohne dies vermeiden zu können; temporäre private Umgebungen wie Hotelzimmer oder Umkleidekabinen in Geschäften, die von Personen für einen bestimmten Zweck und für eine begrenzte Zeit privat genutzt werden; und sensible Umgebungen wie Umkleideräume in Fitnessstudios und Clubs oder medizinische oder professionelle Räume, die von Nutzern zum spezifischen Zweck der Inanspruchnahme einer primären Dienstleistung, wie z. B. einer medizinischen Behandlung oder psychologischer Betreuung, betreten werden. In diesen Fällen bieten Smart Mirrors eine sekundäre Dienstleistung, die die berufliche Tätigkeit unterstützt, wie z. B. die Unterstützung bei der körperlichen Rehabilitation.
Zu privaten Orten zählen Wohnungen oder andere persönliche Räume. In diesen Umgebungen bieten Smart Mirrors einen Service, der vom Nutzer angefordert oder vereinbart wurde. Wie öffentlich zugängliche Umgebungen können auch private Umgebungen entsprechend dem spezifischen Standort, an dem der Smart Mirror aufgestellt ist, weiter unterteilt werden. In zugänglichen Umgebungen wie Küchen oder Wohnzimmern können unbeabsichtigt Dritte (z. B. Gäste oder Mitbewohner) erfasst werden, während in vertraulicheren Umgebungen wie Badezimmern, Schlafzimmern oder begehbaren Kleiderschränken die Nutzer in der Regel intime und besonders sensible Aktivitäten ausführen. Je nach Situation können diese Umgebungen auch von Dritten betreten werden.
Aufgrund dieser Eigenschaften stellen private Umgebungen eine doppelte Rechts- und Datenschutzbeziehung dar. Die primäre Beziehung besteht zwischen dem Nutzer und dem Dienstleister. Zusätzlich kann eine weitere Beziehung Vermittler innerhalb des über den Smart Mirror angebotenen Dienstes einbeziehen (z. B. Live- oder Fernunterstützung durch Fachleute für psychologische Therapien). Jeder Dritte (z. B. unterstützende Psychiater, Cloud-Dienst, professioneller Trainer), der im Auftrag oder auf Rechnung des Datenverantwortlichen Daten erhebt, stellt entweder eine vertragliche Beziehung zwischen dem Datenverantwortlichen und dem Dritten (Datenverarbeiter) und eine sekundäre Beziehung zwischen dem Nutzer und dem Dritten hinsichtlich der Transparenzpflicht und der potenziellen direkten zivilrechtlichen Haftung dar.
Zweitens bezieht sich der Verwendungskontext auf den spezifischen Zweck, für den das Gerät aufgestellt und genutzt wird, was sich auf die Zwecke der Datenverarbeitung auswirkt. Dies umfasst die jeweilige Funktion, für die der Smart Mirror vorgesehen ist, sei es für den persönlichen Gebrauch, für kommerzielle Anwendungen oder für öffentliche Dienste. Der Verwendungskontext wirkt sich unabhängig vom Standort direkt auf den Datenschutz und die Rechtsordnung aus, obwohl letztere ein relevantes rechtliches Kriterium darstellen kann. Beispielsweise sollten Smart Mirrors für medizinische Zwecke derselben Rechtsordnung (Medizinprodukte) unterliegen, unabhängig davon, ob sie sich in einer privaten Umgebung oder in einer öffentlich zugänglichen Umgebung befinden. Andererseits können sich Smart Mirrors, die für einen bestimmten Zweck konzipiert sind oder eine bestimmte Dienstleistung erbringen (z. B. kosmetische Filter, Ernährungsberatung), hinsichtlich der für sie geltenden Rechtsordnung unterscheiden, je nach Standort (Privathaushalt oder Geschäft) und der Dienstleistung selbst (Genehmigungen, Offenlegungspflichten, hygienisch-sanitäre Standards und Pflichten usw.).
Drittens betrifft der Benutzerstatus die Person, die mit dem intelligenten Spiegel interagiert. Je nach Situation kann diese Person unterschiedliche Rechtsstellungen haben. Beispielsweise kann die Person sowohl Nutzer als auch betroffene Person und möglicherweise auch Patient sein. Die Person kann auch Eigentümer des Geräts, minderjährig oder geistig eingeschränkt sein. In anderen Fällen kann die Person Verbraucher, Dritter, Fachmann oder sogar Mitarbeiter sein. Diese rechtlichen Status können sich in einem komplexen Szenario überschneiden, je nach Situation, Standort und Zweck des intelligenten Spiegels.
Viertens muss im Zusammenhang mit dem Status als Dienstleister festgestellt werden, ob es sich bei der Einrichtung um den Hersteller, den Datenverantwortlichen oder eine Kombination dieser Rollen handelt. Der Dienstanbieter kann als private Einrichtung, als öffentliche Einrichtung oder im Rahmen einer öffentlich-privaten Partnerschaft zur Erbringung öffentlicher Dienstleistungen tätig sein. Jedes dieser Szenarien bringt je nach der konkreten Situation unterschiedliche rechtliche und ethische Überlegungen mit sich. Beispielsweise kann ein Forschungslabor, das ausgewählten Patienten im Rahmen eines psychologischen Blindversuchs diese Dienstleistung erbringt (bei dem die Probanden den Zweck ihrer Teilnahme und der Datenverarbeitung nicht genau kennen), anderen Regelungen unterliegen als ein Forschungslabor, das die Dienstleistung zum Testen eines E-Health-Dienstes ausschließlich zu Forschungszwecken erbringt.
Zwischenhändler sind Unternehmen oder Einzelpersonen, die an der Erbringung der Dienstleistung beteiligt sind. Diese Kategorie lässt sich unterteilen in erstens direkte Zwischenhändler wie Ärzte, Fachleute, Forscher oder Praktiker, die in Echtzeit oder nachträglich, physisch oder aus der Ferne mit der Plattform oder den erbrachten Dienstleistungen interagieren, um den Nutzer bei der Nutzung der Dienstleistung zu unterstützen, zu begleiten, anzuleiten oder anderweitig zu helfen. Zweitens indirekte Vermittler: Personen wie Cloud-Dienstleister, Cybersicherheitsdienstleister, technische oder administrative Wartungsfachleute, die mit dem Dienst interagieren oder auf andere Weise auf die personenbezogenen Daten des Nutzers zugreifen können. Drittens Hilfskräfte: Personen wie Pflege- und Reinigungspersonal, Assistenten, Techniker usw., die die Vermittler direkt oder indirekt unterstützen können. Aus Sicht des Datenschutzes können die Vermittler als Datenverarbeiter angesehen werden, obwohl sie als gemeinsame Datenverantwortliche betrachtet werden können, da sie gemeinsam die Zwecke der Datenverarbeitung festlegen.
Schließlich hängen spezifische Überlegungen zur Datenerfassung von der Art, dem Standort und dem Zweck der intelligenten Spiegel ab. Die damit verbundene Datenverarbeitung kann eine Vielzahl von personenbezogenen Daten umfassen, die in verschiedene Kategorien unterteilt werden können, wie z. B. Gesundheitsdaten, psychologische Daten, Gesichtserkennungsinformationen, biometrische Daten, Metadaten, IoT-Daten (Metadaten und nicht personenbezogene Daten) und Daten von Dritten. Jede Kategorie hat ihre eigenen Auswirkungen auf den Datenschutz und die Sicherheit – oder in Kombination mit anderen spezifischen Vorschriften, wie z. B. biometrische Daten im Rahmen des KI-Gesetzes und nicht personenbezogene Daten im Rahmen des Datenschutzgesetzes –, die eine sorgfältige Handhabung erfordern, um die Einhaltung der einschlägigen Vorschriften zu gewährleisten und die Privatsphäre der Nutzer zu schützen.
c. Die Rolle des „eingebauten Datenschutzes“ im Zusammenhang mit Smart Mirrors
Datenschutz durch Technikgestaltung (Data Protection by Design, DPbD) bezeichnet einen Ansatz, bei dem rechtliche und regulatorische Aspekte von Anfang an in den Entwurfs- und Entwicklungsprozess von Produkten oder Systemen, wie beispielsweise Smart Mirrors, integriert werden. Durch die Anwendung eines DPbD-Ansatzes stellen Datenverantwortliche sicher, dass Smart Mirrors den gesetzlichen und regulatorischen Anforderungen entsprechen, Risiken mindern, die Rechte der Nutzer schützen und den verantwortungsvollen und ethischen Einsatz von Technologie fördern. Diese proaktive, zukunftsorientierte Rechtsstrategie zielt nicht darauf ab, die Datenverarbeitung zu stoppen, sondern sie auf sozial wünschenswerte Weise zu verbessern und zu gestalten. DPbD hat seine Wurzeln in den Konzepten der Privacy Enhancing Technologies (PETs) und Privacy by Design (PbD). PETs umfassen eine Reihe von technologiebasierten Lösungen, die darauf abzielen, den Schutz personenbezogener Daten innerhalb der Informations- und Kommunikationstechnologien (IKT) zu verbessern, wobei die Verschlüsselung ein klassisches Beispiel ist. Während sich PETs ausschließlich auf technologische Maßnahmen konzentrieren (und in letzter Zeit kritisiert wurden), erstreckt sich DPbD auch auf organisatorische Praktiken, die darauf ausgerichtet sind, die gesetzlichen Anforderungen zu erfüllen, wie beispielsweise die Durchführung von Datenschutz-Folgenabschätzungen (DSFAs).
Die Einführung der DSGVO verwandelte PbD von einem theoretischen Rahmen in eine verbindliche gesetzliche Vorgabe, die als „Datenschutz durch Technikgestaltung“ (Data Protection by Design, DPbD) bekannt ist und in Artikel 25 ausdrücklich festgelegt ist. Diese Bestimmung schreibt vor, dass Systeme von Anfang an so konzipiert werden müssen, dass sie den Datenschutzgrundsätzen entsprechen, wodurch die Datenerhebung minimiert und potenzielle Datenschutzrisiken gemindert werden. Artikel 25 kann als „Rückgrat“ der DSGVO angesehen werden, da ein Verstoß gegen eine Bestimmung der DSGVO, wie beispielsweise gegen einen der Kernprinzipien in Artikel 5, gleichzeitig einen Verstoß gegen Artikel 25 darstellen kann, was erhebliche Strafen nach sich zieht.
Einerseits spiegelt sich DPbD in einem verbindlichen, schwarz auf weiß festgeschriebenen Gesetz (der DSGVO) wider, das Sanktionen androht. Andererseits erlaubt die EU den regulierten Unternehmen, die gesetzlichen Anforderungen durch die Einführung verschiedener architektonischer Komponenten zu erfüllen, die das menschliche Verhalten entweder einschränken oder lenken. In diesem Zusammenhang ist es wichtig, die wachsende Bedeutung der Koregulierung zu erkennen, da Regulierungsbehörden und Branchenakteure gemeinsam Standards festlegen und durchsetzen, um die Einhaltung der Vorschriften zu gewährleisten und die Privatsphäre der Nutzer zu schützen. Es lässt sich argumentieren, dass sich im Bereich der Spitzentechnologien wie intelligenten Spiegeln eine fortschrittlichere Form der Regulierung herausbildet. Dieser Regulierungsansatz schafft einen Ausgleich zwischen der Notwendigkeit rechtlicher Stabilität und der Notwendigkeit, sich anzupassen, weiterzuentwickeln und schnell auf ein zunehmend digitales Umfeld zu reagieren. Diese dynamische Form der Regulierung stellt sicher, dass die rechtlichen Rahmenbedingungen robust und dennoch flexibel bleiben und den rasanten Fortschritten und Herausforderungen moderner technologischer Innovationen gerecht werden können.
Aus praktischer Sicht können DPbD-Strategien Risikomanagement, die Implementierung starker Datenverschlüsselungs- und Anonymisierungsmethoden zum Schutz sensibler Informationen, die Festlegung klarer Protokolle für den Zugriff, die Speicherung und die Weitergabe von Daten sowie die Gewährleistung einer transparenten Kommunikation über Datenerfassungspraktiken umfassen. Die Einholung einer ausdrücklichen und wirklich informierten Einwilligung der Nutzer – wobei sicherzustellen ist, dass die bereitgestellten Informationen vollständig verständlich sind – ist ebenfalls von wesentlicher Bedeutung. Darüber hinaus sind die Auswahl der für den Nutzer am besten geeigneten und schützendsten Rechtsgrundlage sowie die Wahrung der Transparenz während des gesamten Prozesses wichtig, um Vertrauen aufzubauen und sicherzustellen, dass die Nutzer sich voll und ganz darüber im Klaren sind, wie ihre Daten verwendet werden.
Es werden derzeit neue methodische Ansätze entwickelt, um den spezifischen Herausforderungen des visuellen Datenschutzes im Zusammenhang mit AAL zu begegnen. So haben beispielsweise Siddharth Ravi et al. eine umfassende Übersicht über den aktuellen Stand der Technik im Bereich der visuellen Datenschutztechniken erstellt, die speziell auf AAL zugeschnitten sind. Ihre Arbeit stellt eine neuartige Taxonomie zur Klassifizierung dieser Methoden vor und bietet einen strukturierten Rahmen, um die vielfältigen Datenschutzprobleme, die mit videobasierten Überwachungssystemen in AAL-Umgebungen verbunden sind, besser zu verstehen und anzugehen. Diese Taxonomie kategorisiert nicht nur bestehende Techniken, sondern hebt auch Bereiche für weitere Forschung und Entwicklung hervor und ebnet den Weg für robustere und effektivere Strategien zum Schutz der Privatsphäre.
Letztendlich wird empfohlen, dass Entwickler und Dienstleister von Smart Mirrors alle oben genannten Aspekte berücksichtigen, um potenzielle Gefahren, rechtliche, ethische und praktische Auswirkungen sowie die Bedürfnisse und Schwachstellen der Nutzer zu bewerten. Diese Bewertung sollte den beabsichtigten Zweck, den Standort, die Art der Nutzer und die beteiligten Zwischenhändler berücksichtigen. Angesichts der einzigartigen Merkmale von Smart Mirrors, darunter KI-Systeme, IoT-Verbindungen und verschiedene Interessengruppen, die mit den Nutzern interagieren, sollte jede DPIA außerdem eine Bewertung der Auswirkungen auf die grundlegenden Menschenrechte (FHRIA) und eine vorläufige Ethikprüfung umfassen. Diese Bewertungen sollten die potenziellen kurz- und langfristigen Auswirkungen auf bestimmte Nutzergruppen wie Patienten, ältere Menschen und Menschen mit Behinderungen bewerten.
5. Fazit
Intelligente Spiegel bieten im Zusammenhang mit aktivem betreutem Wohnen zahlreiche Vorteile, wie z. B. personalisierte Erinnerungen, Gesundheitsüberwachung, Echtzeit-Warnmeldungen und die Förderung sozialer Kontakte, um Sicherheit, Unabhängigkeit und Engagement zu verbessern. Diese Geräte bieten zwar erhebliche Vorteile, bringen jedoch auch eine Vielzahl rechtlicher und regulatorischer Herausforderungen mit sich, die einer sorgfältigen Prüfung bedürfen. In diesem Kapitel wurden diese Herausforderungen mit besonderem Schwerpunkt auf dem Datenschutz untersucht, wobei ein Überblick über die Datenschutzbedenken im Zusammenhang mit intelligenten Spiegeln sowie die relevanten rechtlichen Rahmenbedingungen gegeben und die Besonderheiten von intelligenten Spiegeln hervorgehoben wurden.
Um zu verstehen, wie Gesetze wie die DSGVO auf Smart Mirrors anzuwenden sind, ist es unerlässlich, die Schlüsselelemente zu klassifizieren, die diese Geräte definieren. Zu diesen Elementen gehören der physische Standort des Smart Mirrors, der Kontext, in dem er verwendet wird (z. B. Privathaushalt, öffentliche Einrichtung, Gesundheitswesen), der Status des Benutzers (z. B. Erwachsener, Minderjähriger, Patient), der Status des Dienstleisters (z. B. Hersteller, Drittanbieter), die Beteiligung von Zwischenhändlern an der Datenverarbeitung sowie die Art und Sensibilität der erfassten Daten (z. B. biometrische Daten, persönliche Gesundheitsinformationen). Jeder dieser Faktoren spielt eine wichtige Rolle bei der Festlegung der geltenden gesetzlichen Anforderungen und der Gewährleistung der Einhaltung von Datenschutzbestimmungen. Es ist auch von entscheidender Bedeutung, rechtliche Überlegungen in die Konzeption und Entwicklung dieser Technologien einzubeziehen, um von Anfang an die Einhaltung der Datenschutzgesetze sicherzustellen. Zu den wichtigsten Schritten gehören die Durchführung gründlicher Datenschutz-Folgenabschätzungen, um potenzielle Risiken für die Privatsphäre der Nutzer zu identifizieren, die Implementierung robuster Datenverschlüsselungs- und Anonymisierungstechniken zum Schutz sensibler Informationen sowie die Festlegung klarer Protokolle für den Zugriff, die Speicherung und die Weitergabe von Daten. Darüber hinaus sind die Einholung der ausdrücklichen Zustimmung der Nutzer und die Bereitstellung transparenter Informationen über die Datenerfassungspraktiken unerlässlich, um Vertrauen aufzubauen und sicherzustellen, dass die Nutzer umfassend darüber informiert sind, wie ihre Daten verwendet werden. Durch die proaktive Berücksichtigung dieser rechtlichen Aspekte können Entwickler intelligente Spiegel entwickeln, die nicht nur innovative Funktionen bieten, sondern auch die Privatsphäre der Nutzer schützen und Vorschriften wie die DSGVO und den sich ständig weiterentwickelnden EU-Besitzstand einhalten.
Zur einfacheren Lesbarkeit wurden die Literatur- und Quellverweise entfernt.
Übersetzung Boris Wanzeck, Swiss Infosec AG
Colonna, L., Riva, G.M. (2025). Smart Mirrors and Data Protection Regulation. In: Salah, A.A., Colonna, L., Florez-Revuelta, F. (eds) Privacy-Aware Monitoring for Assisted Living. Intelligent Systems Reference Library, vol 270. Springer, Cham.