Fachartikel Swiss Infosec AG Archive - Seite 21 von 40

05/2022 – Fachartikel Swiss Infosec AG

Was bezweckt der AI Act?
Sind Schweizer Unternehmen von der neuen EU-Verordnung betroffen?
Was sind «AI-Systeme»? Wie erfolgt deren Kategorisierung? Welchen Anforderungen unterliegen sie?
- Begriff «AI-Systeme
- Anwendungsbereich
- Stufensystem für AI-Anwendungen
Welche Sanktionen sind möglich?
Frist und Ausblick

Die EU will als erste Institution den Einsatz von «Artificial Intelligence» (kurz: «AI», deutsch: Künstliche Intelligenz) regulieren und damit einen internationalen Standard setzen. Faktisch ist unser Alltag von Algorithmen und AI-Anwendungen bestimmt. AI hat das Potenzial, die heutige Technologie auf ein neues Level zu bringen, ist aber oft schwer zu verstehen oder zu kontrollieren. Automatisierte Entscheidungssysteme können im Extremfall Personen in Gefahr bringen oder bei der Vergabe von Jobs, Studienplätzen oder in der medizinischen Versorgung zu unfairen Entscheidungen führen. Die Betroffenen wissen häufig weder wie ein System darüber entscheidet noch wie der genaue Vorgang abläuft, oder welche Daten als Grundalge verwendet werden. Folglich ist es für Betroffene schwer oder gar unmöglich, gegen Entscheidungen vorzugehen.

Der AI Act soll hier Abhilfe schaffen und die Grundrechte von Personen besser schützen wie auch das Vertrauen der Gesellschaft in AI-Anwendungen stärken. In der Folge müssen sich Unternehmen künftig um ihre AI Compliance kümmern.

Was bezweckt der AI Act?

Der AI Act bezweckt die Schaffung eines einheitlichen Rechtsrahmens für die Entwicklung, Vermarktung und Nutzung von AI, die den Werten der EU entsprechen. Der freie grenzüberschreitende Verkehr von AI-basierten Waren und Dienstleistungen soll gewährleistet, und EU Mitgliedstaaten sollen daran gehindert werden, die Entwicklung, Vermarktung und Nutzung von AI-Systemen in einer Weise voranzutreiben, die nicht im AI Act vorgesehen sind. Dabei geht es um den Schutz von Allgemeininteressen wie Gesundheit, Sicherheit und Grundrechte.

Sind Schweizer Unternehmen von der neuen EU-Verordnung betroffen?

Der AI Act wird auch Auswirkungen auf die Schweiz haben. Die Verordnung ist anwendbar, wenn ein AI-System innerhalb der EU eingesetzt oder dessen Output in der EU «verwendet» wird. Dies trifft zum Beispiel zu, wenn Schweizer Unternehmen ihre Systeme anderen Unternehmen, öffentlichen Stellen oder Personen innerhalb der EU zugänglich machen, oder, wenn eine in der Schweiz von einem AI-basierten System getroffene Prognose, Empfehlung oder Entscheidung innerhalb der EU «verwendet» wird.

Was sind «AI-Systeme»? Wie erfolgt deren Kategorisierung? Welchen Anforderungen unterliegen sie?

1. Begriff «AI-Systeme»

Die Definition von «AI-Systemen» ist weit gefasst und umfasst unter anderem die Bereiche des maschinellen Lernens, der Experten- und Logistiksysteme, die Bayessche Schätz-, Such- und Optimierungsmethoden sowie weitere statistische Ansätze, die oft bei automatisierten Entscheidungsfindungen hinterlegt sind.

2. Anwendungsbereich

Der AI Act ist anwendbar auf:

Anbieter, die AI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob diese Anbieter in der EU oder in einem Drittland ansässig sind,
Nutzer von AI-Systemen mit Sitz in der EU sowie
Anbieter und Nutzer von AI-Systemen, die in einem Drittland ansässig sind, wenn der von dem System erzeugte Output in der EU «verwendet» wird.

3. Stufensystem für AI-Anwendungen

Der AI Act folgt einem risikobasierten Ansatz ganz nach dem Credo «je höher das Risiko einer Nutzungsart eines AI, desto strenger die Regeln». Die AI-Anwendungen werden demnach in vier Risikokategorien eingeteilt:

Unacceptable risk: AI-Anwendungen in dieser Kategorie werden gänzlich verboten, da sie eine «klare Bedrohung» darstellen (z.B. «Social Scoring», Gesichtserkennungssysteme im öffentlichen Raum zur biometrischen Identifizierung von Personen im Bereich der Strafverfolgung).
High risk: Im AI Act werden vorwiegend AI-Systeme dieser Kategorie reguliert. Dabei handelt es sich um «potenziell bedrohliche» AI-Anwendungen. Diese werden nicht verboten, müssen aber für die Zulassung auf dem EU-Markt strengen Voraussetzungen genügen. Die Einstufung als «high risk» bezieht sich nicht nur auf die ausgeführte Tätigkeit des AI-Systems, sondern auch auf den Zweck, für den das System verwendet wird. Es handelt sich um AI-Anwendungen, die in grundrechtssensiblen Bereichen Entscheidungen über Menschen treffen. Darunter fallen

private und öffentliche Dienstleistungen (z.B. Bewertung der Kreditwürdigkeit, wodurch Personen die Möglichkeit verwehrt wird, ein Darlehen zu erhalten),
Sicherheitskomponenten in der kritischen Infrastruktur (z.B. in der Verkehrssteuerung, Energieversorgung), in denen das Leben und die Gesundheit von Personen gefährdet werden kann,
Sicherheitskomponenten von Produkten (z.B. AI-Anwendungen für roboterassistierte Operationen),
Anwendungen im Bildungswesen (z.B. Software für die Prüfungsbewertung oder für den Prüfungszugang),
Anwendungen im Berufsleben (z.B. zur Auswertung von Lebensläufen) oder
Systeme zur Unterstützung der Strafverfolgungsbehörden sowie
Systeme in der Justizverwaltung.

«High risk» AI-Anwendungen unterliegen erhöhten Anforderungen. Vorgänge für die Rückverfolgbarkeit von Ergebnissen sind zu protokollieren und mit allen erforderlichen Informationen über das System sowie seinen Zweck zu dokumentieren. Überdies sind Risikobewertungs- und Risikominderungssysteme zu implementieren. Eine hohe Qualität der in das System einzuspeisenden Datensätze ist zu gewährleisten. Zur Minimierung von Risiken sind klare und angemessene Informationen für die Nutzer sowie eine angemessene menschliche Aufsicht bereitzustellen.

Limited risk: Der AI Act sieht für diese Anwendungen weitestgehend keine Regulierung vor, um innovationsfreundliche Bedingungen zu schaffen. Er sieht lediglich bestimmte Transparenzpflichten vor (z.B. Chatbots, Deep Fakes), wonach dem Nutzer solcher Systeme bewusst sein muss, dass er mit einer AI interagiert.
Minimal risk: Der Grossteil von AI-Anwendungen wird in diesen Bereich eingestuft und im Entwurf überhaupt nicht erfasst (z.B. Videospiele, Suchalgorithmen oder Spamfilter).

Welche Sanktionen sind möglich?

Es drohen Bussgelder bis zu EUR 30 Millionen oder 6% des weltweiten Jahresumsatzes.

Frist und Ausblick

Der AI Act wird voraussichtlich noch 2022 in Kraft treten, wobei eine zweijährige Frist für die Entwicklung von Standards und Governance-Strukturen geplant ist, bevor sie 2024 vollständig umgesetzt wird.

Gerne beantworten wir Ihre Fragen oder helfen Ihnen bei der Umsetzung interner Prozesse für die Einhaltung des neuen EU AI Acts.

Swiss Infosec AG; 29.04.2022
Kompetenzzentrum Datenschutz

Was sind Endpoints?

Endpoints (deutsch Endpunkte) sind IT-Geräte, die in der Regel Teil der IT-Infrastruktur eines Unternehmens sind und am Unternehmensnetzwerk angeschlossen sind. Folgende Geräte können bspw. als Endpunkt verstanden: stationäre PCs und Laptops, Smartphones und Tablets aber auch IoT-Geräte.

Was ist Endpoint Management?

Unter Endpoint Management wird die zentrale Verwaltung von Endpunkten verstanden. Die Verwaltung umfasst einerseits generelle IT-Aktivitäten wie die Inventarisierung oder das Patching von Geräten und andererseits sicherheitstechnische Aktivitäten wie die Anwendung und Steuerung von Sicherheitsrichtlinien eines Gerätes. Im Zusammenhang mit Endpoint Management wird häufig auch von Mobile Device Management (MDM) gesprochen und gemeint. Genaugenommen ist MDM jedoch nur ein Teil des Endpoint Managements. Das Mobile Device Management beschränkt sich auf mobile Geräte, z.B. Smartphones und derer Verwaltung. Mit dem zunehmenden Gebrauch von Smartphones wurde ersichtlich, dass das Mobile Device Management nicht mehr Anforderungen wie Bring-Your-Own-Device (BYOD) und Datensicherheit vollumfänglich gerecht werden konnte. Dies läutete die Geburtsstunde des Enterprise Mobility Managements ein. EMM kombiniert MDM mit mobile Application Management (MAM). Das MAM setzt auf Container, die Apps und Daten sicher isolieren.

Sicherheitsrelevante Aspekte

Einen pragmatischen Einstieg in die Welt der sicheren Endpunkteverwaltung liefert das BSI in seinem Community Draft für einen Mindeststandard für Mobile Device Management, wenn auch der Standard «Mindeststandard für Enterprise Mobility Management» heissen sollte. Obwohl der Standard auf die Integration von Mobiltelefonen fokussiert, eignet er sich sehr gut zur Schaffung einer Ausgangslage für den sicheren Betrieb von Endpunkten generell.

Der Standard des BSI definiert folgende funktionale Anforderungen:

Berechtigungsmanagement: Über das MDM-System sollen Zugriffsrechte unterschiedlichen Benutzergruppen oder Rollen zugeordnet werden können.

Erkennung von kompromittierten Endpunkten: Endpunkte, welche gerootet, gejailbreaked oder anderweitig kompromittiert sind, sollen rasch detektiert und von der IT-Infrastruktur ausgeschlossen werden.

Verteilung von Applikationen: Anwendungen sollen zentral verteilt und entfernt werden können.

Umgehung der Steuerungsmechanismen: Die Mechanismen zur Steuerung des Endpunktes (ggf. durch einen MDM-Client) dürfen durch den Benutzer nicht deaktiviert oder umgangen werden können.

Protokollierung: Die vorgenommenen Einstellungen auf einem Endpunkt müssen chronologisch aufgezeichnet werden und abrufbar bzw. wiederherstellbar sein. Ein Administrator soll den aktuellen Status der vorhandenen Einstellungen auf einem Endpunkt abfragen können (Device Audit). Zudem sollen sicherheitsrelevante Ereignisse des Endpoints aufgezeichnet und ausgewertet werden. Hierfür wird der Begriff Endpoint Detection and Response (EDR) verwendet.

Nebst den funktionalen Anforderungen sind ebenso nicht-funktionale Anforderungen im Standard des BSI definiert:

Dokumentation: Das Endpunktmanagement soll vollständig und nachvollziehbar dokumentiert sein. Dabei sollen Informationen über den verwalteten Endpunkt und dessen Konfiguration festgehalten sein und wie dieser Endpunkt mit dessen Umsystemen, z.B. internen und externen Diensten wie (Azure) Active Directory und Push Notifications, interagieren darf.

Support: Die Supportleistungen des MDM-Betreibers sollen dem jeweiligen Einsatzszenario über den gesamten Lebenszyklus des Endpunktes entsprechen. Dies beginnt bei der Inbetriebnahme eines Gerätes, geht über die Fernwartung und endet bei der Dekommissionierung des Endpunktes.

Aktualisierung: Das MDM-System soll regelmässig mit neuen Updates und Patches versorgt werden. So sollen neue Funktionalitäten einerseits im MDM-System aber auch auf den Endpunkten, die bspw. durch neue Betriebssystemupdates verfügbar sind, angesteuert werden können.

Dies ist lediglich eine destillierte Übersicht der sicherheitsrelevanten Anforderungen an das Endpoint Management. Die Vielfalt an Geräten und deren Funktionalitäten, die fehlende Einsicht in die Sicherheit von Systemen, Apps und Diensten und die zunehmende Vernetzung in einem hybriden (sprich Home-Office und Geschäftsbüros) und mobilen Arbeitsumfeld liefern genug Komplexität, um sich als Unternehmen darüber den Kopf zu zerbrechen und um sich als Angreifer die Hände zu reiben in Anbetracht der weitläufigen Angriffsfläche.

Quellen

Gerne beantworten wir Ihre Fragen und unterstützen Sie bei der Gewährleistung des sicheren Betriebs von Endpoints in Ihrer Organisation sowie bei generellen Fragen zur IT-Sicherheit.

Fachteam IT-Sicherheit; 01.04.2022

Kategorie: Fachartikel Swiss Infosec AG

EU Artificial Intelligence Act – Was müssen Schweizer Unternehmen beachten?