Zum Hauptinhalt springen
Blog

EU AI Act: Herausforderungen und Chancen der Europäischen KI Verordnung

Lesen Sie unseren Blog, um die Auswirkungen des europäischen KI-Gesetzes auf die KI-Akteure zu verstehen. Darin geben der KI-Experte Kevin Geis und Britta Chiaia von ASC Einblicke in den verantwortungsvollen Einsatz von KI bei ASC.

 

Übersicht

Was ist das Europäische KI-Gesetz

Die Europäische KI-Verordnung (engl. European Artifical Intelligence Act) ist ein von der Europäischen Union entworfener Rechtsrahmen, der die Nutzung und Entwicklung von künstlicher Intelligenz (KI) in den Mitgliedstaaten sowohl für Anbieter aus der EU (Provider) als auch für Nutzer regeln soll. 

Ziel ist es, eine Balance zwischen der Unterstützung technologischer Neuerungen und dem Schutz von Grundrechten sowie europäischer Bürger zu finden. Um dies zu erreichen, kategorisiert das Gesetz KI-Systeme nach Risikostufen und legt entsprechende Anforderungen zur Risikominimierung fest. 

Dazu gehören entsprechende Regelungen zur Transparenz, Datenqualität und Rechenschaftspflicht der Betreiber von KI-Systemen. Ziel des Gesetzes ist es, das Vertrauen in KI-Technologien zu erhöhen, indem es ethische Standards festlegt und eine nachhaltige Entwicklung in der Branche fördert.

Die Verordnung wird voraussichtlich im Mai 2024 in Kraft treten.

Risikokategorien nach dem europäischen KI-Gesetz

Das Gesetz klassifiziert KI-Systeme nach ihrem Risikograd und legt entsprechende Anforderungen an Transparenz, Datenqualität und Überwachung fest.

Kevin Geis, Experte für künstliche Intelligenz am KI Regionalzentrum Unterfranken der Hochschule Aschaffenburg, erläutert, dass die meisten Vorgaben für die Kategorie mit hohem Risiko gelten werden. Obwohl sie nicht vollständig verboten ist, müssen bestimmte, noch nicht festgelegte Bedingungen erfüllt werden.

KI-Anwendungen mit hohem Risikopotenzial müssen vor ihrem Einsatz strenge Bewertungsverfahren durchlaufen. Dazu gehören eine gründliche Dokumentation, menschliche Aufsicht, zuverlässiges Datenmanagement und spezifische Transparenzmaßnahmen, um die Nutzer über KI-Interaktionen zu informieren.

Die Hochrisikokategorien, zu denen kritische Infrastrukturen, wie das Gesundheitswesen, Verkehrswesen, Bildungswesen, die Arbeitswelt, Strafverfolgungsbehörden und öffentliche Versorgungseinrichtungen gehören, müssen strenge Compliance-Standards einhalten, um ihre Sicherheit, Transparenz und Zuverlässigkeit zu gewährleisten. Falls es zu einer Missachtung oder einem Missbrauch der Vorschriften  kommt, kann mit schwerwiegenden Folgen gerechnet werden.

Um sicherzustellen, dass die Vorschriften eingehalten werden, ist es wichtig, die KI regelmäßig zu überwachen und darüber Bericht zu erstatten. Besonderes Augenmerk gilt dabei der Minimierung von Risiken wie Voreingenommenheit, Diskriminierung und Verletzung der Privatsphäre. Damit soll sichergestellt werden, dass diese Technologien verantwortungsvoll eingesetzt werden, um die Rechte der Nutzer zu schützen und das Vertrauen der Öffentlichkeit in die Fortschritte der KI zu erhalten.

Zusammengefasst geht KI-Experte Kevin Geis von folgenden Anforderungen aus, die allerdings bisher noch nicht von offizieller Stelle bestätigt sind:

  • CE-Kennzeichnung durch externe Prüfung erforderlich 
  • Grundlegende Anforderungen müssen erfüllt werden, die noch zu definieren sind
    • Diese Anforderungen beziehen sich auf die Datenverwaltung, technische Dokumentation, Aufbewahrung von Aufzeichnungen, Transparenz, Bereitstellung von Informationen für die Nutzer, die Überwachung, Zuverlässigkeit, Genauigkeit und Sicherheit.
  • Anbieter müssen ein Risikomanagementsystem etablieren, welches die Risiken über den gesamten Lebenszyklus des KI-Systems dokumentiert und verwaltet, sowohl bei bestimmungsgemäßer Verwendung als auch im Falle verantwortungsvoll absehbarer Fehlanwendungen.

Regulierung für Anbieter vor und nach der Markteinführung

Das Risikomanagement wird bei der Umsetzung des EU-KI-Gesetzes eine entscheidende Rolle spielen. Auch wenn die genauen Details noch nicht festgelegt sind, deutet Kevin Geis darauf hin, dass es zwei verschiedene Phasen des Risikomanagements geben wird: eine Phase vor der Markteinführung und eine Phase nach der Markteinführung für die Anbieter von KI-Systemen. 

Vor der Markteinführung eines KI-Systems müssen die Anbieter eine gründliche Risikobewertung durchführen, um potenzielle Risiken im Zusammenhang mit dem Einsatz ihrer Technologie zu identifizieren und zu mindern. Wichtig ist die Erfüllung der Systemanforderungen in Bezug auf Datenschutz, Schutz der Privatsphäre und Sicherheit. Auch die Auswirkungen auf die Grundrechte müssen bewertet werden.

Evaluierung vor der Markteinführung

  • Registrierung in einer Datenbank
  • KI-Qualitätsmanagementsystem
  • Technische Dokumentation
  • Aufbewahrung der generierten Protokolle
  • Die Bewertung erfolgt nach einer "internen Kontrolle - Selbstzertifizierung" gemäß standardisierten Kriterien.

Nach der Markteinführung sind die Anbieter verpflichtet, die Leistung und die Auswirkungen ihrer KI-Systeme kontinuierlich zu überwachen und die Risikobewertungen und Risikominderungsmaßnahmen bedarfsgerecht zu aktualisieren. Durch diese ständige Überwachung können unvorhergesehene Risiken, die während des Betriebs auftreten, frühzeitig erkannt und sichergestellt werden, dass die KI-Systeme während ihres gesamten Lebenszyklus sicher, effizient und ethisch vertretbar sind.

Umsetzung nach der Markteinführung 

  • Aufbau und Dokumentation eines Systems zur Überwachung nach dem Markteintritt
  • Sammlung und Aktualisierung der relevanten Daten
  • Überwachung und Meldung neuer Risiken, schwerwiegender Zwischenfälle oder Funktionsstörungen
  • Obligatorische Berichterstattung
  • vom Anwender zum Anbieter
  • vom Anbieter an eine nationale Marktüberwachungsbehörde (MSA) 

Vom Nutzer zum Anbieter

Die Implementierungsmethode macht den Unterschied

Gemäß dem KI-Experten Kevin Geis wird jemand zum Anbieter von KI-Systemen, wenn er oder sie nicht nur bestehende KI-Technologien nutzt, sondern auch eigene KI-Lösungen entwickelt, anpasst oder anbietet, wie z. B. individuelle GPT-Modelle. Dazu gehört nicht nur die Schaffung neuer KI-Modelle, sondern auch die wesentliche Veränderung bestehender Systeme, um sie für bestimmte Anwendungen oder Dienstleistungen zu nutzen.  

Sobald ein Unternehmen KI-Systeme entwickelt, die anderen zur Nutzung angeboten werden, sei es durch Verkauf, Lizenzierung oder auf andere Weise, wird es zum Anbieter. Diese Rolle bringt zusätzliche Verantwortlichkeiten mit sich, wie die Einhaltung regulatorischer Anforderungen, die Gewährleistung von Transparenz und die Bewertung der Risiken, die mit der Bereitstellung von KI-Systemen verbunden sind.  

Kevin Geis betont jedoch, dass dieser Punkt viel Raum für Interpretationen lässt und genauere Definitionen erforderlich sind. 

Die Rolle der Technologie in einer regulierten Zukunft

Eine Chance für Innovation

Das europäische KI-Gesetz ist ein entscheidender Schritt hin zu einem verantwortungsvollen Umgang mit KI. Für Unternehmen bietet es nicht nur Compliance-Richtlinien, sondern auch eine Grundlage für Innovationen. Indem es einen klaren Rahmen schafft, ermutigt das EU-KI-Gesetz Unternehmen, vertrauenswürdige und ethische KI-Lösungen zu entwickeln.

ASC entwickelt keine eigenen KI-Technologien, sondern passt bestehende Lösungen wie Recording Insights an. Unser Hauptaugenmerk liegt dabei darauf, die Sicherheit unserer Kunden bei der Nutzung von KI-Technologie zu gewährleisten, sagt ASC Produktmanagerin Britta Chiaia.

Das Engagement von ASC für verantwortungsvolle KI im Rahmen der Recording Insights Compliance-Lösung zeigt sich unter anderem in der Wahl der Microsoft Azure Infrastruktur und der KI-Dienste.

"Die Sicherheit der Kundendaten ist Teil der Microsoft Azure KI-Regulierung, die eine verschlüsselte Speicherung und eine klare Zusicherung, dass kein Training mit Kundendaten durchgeführt wird, gewährleistet", erklärt Britta Chiaia, ASC Produktmanagerin.

Bei der Gestaltung einer Zukunft, in der KI sicher und effizient zum Nutzen der Gesellschaft eingesetzt werden kann, spielt die Technologie eine Schlüsselrolle. ASC-Lösungen zeigen, wie Aufzeichnungs- und Analysetechnologien nicht nur die Einhaltung von Vorschriften erleichtern, sondern auch das Kundenerlebnis verbessern.

On-Demand: Webinar-Aufzeichnung mit KI-Experten

In unserem jüngsten Webinar "Herausforderungen und Chancen des Europäischen AI Acts" zeigen Britta Chiaia und Kevin Geis wie KI-Technologien eingesetzt werden können, um die Einhaltung von Vorschriften zu gewährleisten und gleichzeitig das Risiko zu minimieren. Durch die Überprüfung von Haftungsausschlüssen, die automatische Anrufkategorisierung und die Identifizierung sensibler Informationen bietet KI eine zuverlässige Compliance-Lösung.

Sprecher und Webinar-Inhalte:

  • Verantwortungsvoller Einsatz von KI-Technologien
  • Potenzial zur effektiven Erfüllung von Compliance-Anforderungen und zur Nutzung neuer Chancen
  • Die Bedeutung der richtigen Tools und eines umfassenden Verständnisses der Vorschriften, um Risiken zu minimieren und die Wettbewerbsfähigkeit zu steigern
European union flag
European union flag against parliament in Brussels, Belgium