Was müssen Unternehmen in Zukunft beachten beim EU AI Act? Ein Thema, das vielen Unternehmen gerade unter den Nägeln brennt und deswegen verdient es auch eine ganze Podcastfolge von Datendurst. Host Tim Ebner hat diesmal Sirke Reimann von VIER zu Gast, einer Kundenservice Software aus Deutschland, die Lösung mit Künstlicher Intelligenz verbindet. Anwendungsbeispiele sind die Zählerstandablesung bei Energieunternehmen, wobei dr Prozess dann vollautomatisch am Telefon durchgeführt wird oder auch das Briefing von Service-Agenten durch die Künstliche Intelligenz.

Sirke ist Chief Information Security Officer und damit bei VIER zuständig für Informationssicherheit, Datenschutz und Compliance.

Wer mehr über das Thema KI und EU AI Act erfahren möchte, kann jeden Freitag bei VIER TV reinschauen.

Die beiden Experten tauchen gleich tief ins Thema ein:

Schon 2019 hat die EU damit begonnen, eine KI-Verordnung zu erstellen, das Ergebnis ist der EU AI Act, der im März 2024 verabschiedet wurde und bis 2026 von allen Unternehmen umgesetzt sein soll.

Das Ziel des EU AI Acts ist es, die Bevölkerung vor unethischen Entscheidungen der KI zu schützen, beispielsweise vor Schaden oder der Verletzung der Menschenwürde.

So gut das klingt – es bringt jede Menge Bürokratie mit sich!

Den EU AI Act erfüllen müssen einige Parteien: Anbieter, die KI-Systeme unter ihrem Namen auf den Markt bringen (dabei ist noch unklar, ob es Dienstleister oder Kunden sind), Importeure von KI-Systemen, Händler und teilweise auch die User der Systeme.

Dabei gibt es 4 Risikogruppen, denen verschiedene Anforderungen gestellt werden:

- Keine oder minimale Risiken

Das sind Systeme, die keinen Einfluss auf das Leben haben, beispielsweise KI in Spamfiltern oder Spielen. Hier gibt es freiwillige, aber nicht verpflichtende Anforderungen.

- Begrenzte Risiken

Hierzu gehören LLMs und generierende Systeme, das Ziel ist hierbei, eine Transparenz herzustellen, sodass User erkennen, welche Elemente mit KI generiert wurden.

- Hohe Risiken

Diese Systeme haben das Potential, Menschen einen Schaden zuzufügen, beispielsweise im Personalwesen, in Bildungseinrichtungen, bei finanziellen Leistungen und auch im Strafvollzug. Hier gehen die Anforderungen über Risikomanagement und Qualitätsmanagement hinaus, eine Rückverfolgbarkeit der Entscheidungen muss möglich sein sowie eine Resistenz gegen Manipulation.

- Inakzeptable Risiken

Hierzu gehören KI-Systeme, die gegen die Menschenwürde verstoßen, beispielsweise durch Social Scoring oder Identifizierungssysteme.

Der Wert des EU AI Acts liegt darin, dass niemand durch KI-Systeme nachteilig behandelt werden soll und somit auch das Vertrauen in KI steigen kann. Als Bevölkerung werden wir geschützt. Gleichzeitig gibt es zurzeit noch viele Unsicherheiten in der Formulierung, der Definition von KI-Systemen und es werden sich Geschäftsfelder aus der EU wegentwickeln müssen. Dafür müssen Prozesse und Strukturen geschaffen werden, der Aufwand ist noch nicht abschätzbar.

Zum Schluss geht es in der Folge noch darum, wie der EU AI Act den Technologiemarkt verändern wird.

Zur Website von VIER: https://www.vier.ai

Zum Blog über den EU AI Act von VIER:

https://www.vier.ai/unternehmen/blog/eu-ai-act-teil1/

https://www.vier.ai/unternehmen/blog/eu-ai-act-teil2/

VIER TV zum EU AI Act: