Verantwortungsvoller Einsatz von Künstlicher Intelligenz: Die europäische KI-Verordnung (AI Act)

Richtig angewandt kann Künstliche Intelligenz (KI) einen großen Nutzen für Unternehmen, Beschäftigte und Kundschaft stiften. Gleichzeitig erfordert der verantwortungsvolle Einsatz von KI, dass die Systeme fair und transparent arbeiten und neben den Chancen auch die potenziellen Risiken bekannt sind.

Die KI-Verordnung der Europäischen Union (AI Act) schafft einen rechtlichen Rahmen für den verantwortungsvollen Einsatz von Künstlicher Intelligenz. Ziel der Verordnung ist es, über verbindliche Regelungen die Produktsicherheit von KI-Systemen zu gewährleisten und somit eine vertrauenswürdige KI zu gestalten, die europäischen Werten entspricht. KI-Systeme sollen sicher, transparent, ethisch, nicht-diskriminierend, umweltfreundlich und unter menschlicher Aufsicht entwickelt und eingesetzt werden. Die Verordnung fördert die Wettbewerbsfähigkeit der EU, unterstützt Innovationen und ist weltweit das erste transnationale KI-Regelwerk ihrer Art. (2)

Eckpunkte der europäischen KI-Verordnung

Die Verordnung unterscheidet verschiedene Risikogruppen für KI-Systeme und legt klare Vorschriften je Risikogruppe fest. Das Risiko beschreibt die Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens. Systeme mit unvertretbarem Risiko, wie z. B. Anwendungen, die Emotionen von Beschäftigten am Arbeitsplatz ableiten, sind grundsätzlich verboten. Systeme mit hohem Risiko müssen strenge Sicherheitsvorschriften erfüllen, bevor sie in der europäischen Union vertrieben und eingesetzt werden dürfen. Dies betrifft z. B. KI-Modelle, die ohne menschliche Aufsicht über die Einstellung oder betriebliche Weiterbildung von Beschäftigten entscheiden können. Bei diesen Anwendungen müssen Anbieter*innen und Betreiber*innen verschiedenen Dokumentations- und Transparenzpflichten nachkommen. Modelle mit geringem Risiko unterliegen geringeren Anforderungen: sie müssen Transparenzpflichten gegenüber Nutzer*innen erfüllen, wie zum Beispiel über die Interaktion mit einem Chatbot statt einer natürlichen Person informieren oder KI-generierte Inhalte als solche kennzeichnen. Die meisten aktuell genutzten KI-Anwendungen fallen unter die KI-Systeme mit minimalem oder keinem Risiko, wie KI-gestützte Spamfilter in Mailprogrammen. Sie unterliegen keinen Vorschriften.

Durch das Amt für künstliche Intelligenz und die nationalen Marktüberwachungsbehörden wird die Einhaltung des EU AI Act überwacht und sichergestellt. (1)

Grundsätzlich gilt: Der Einsatz von KI in der Arbeitswelt muss menschzentriert erfolgen. KI kann, großen Nutzen stiften, erfordert jedoch einen verantwortungsvollen Einsatz. Beschäftigte sollen entlastet, vor Überwachung geschützt und die Mensch-Maschine-Interaktion ergonomisch gestaltet werden. Ziel ist es, das Vertrauen in KI-Systeme zu stärken, damit sie ihr volles Potenzial entfalten können. Der AI Act trägt dazu bei, die Privatsphäre und Persönlichkeitsrechte der Nutzenden zu schützen und Diskriminierung zu verhindern, damit KI-Systeme fair und gerecht eingesetzt werden können.

Das Qualifizierungsangebot “KI und Verantwortung”

Um sicherzustellen, dass alle Beteiligten optimal auf den verantwortungsvollen Einsatz von KI vorbereitet sind, stellen wir unser innovatives Qualifizierungskonzept (iQK) vor, das gezielt die notwendigen Kenntnisse vermittelt und für einen verantwortungsvollen Umgang mit KI sensibilisiert.

Im Workshop „KI & Verantwortung“ erhalten die Teilnehmenden eine kompakte Einführung zu Künstlicher Intelligenz, Informationen zum aktuellen Stand von KI in Europa mit Blick auf den EU AI-Act und einen Input zu ethischen Prinzipien für die Entwicklung digitaler Systeme. Das Thema Bias in Daten, also mögliche Verzerrungen in KI- Systemen, steht im Fokus und wird interaktiv am Beispiel einer Recruiting-Software vertieft. Ziel ist es, ein kritisches Bewusstsein für den verantwortungsvollen Einsatz von KI im Arbeitskontext zu entwickeln. 

Für mehr Informationen, kontaktieren Sie uns gerne. 

 

Verwendete Quellen: 

(1) Europäische Kommission (2025): Marktüberwachungsbehörden nach dem KI-Gesetz. https://digital-strategy.ec.europa.eu/de/policies/market-surveillance-authorities-under-ai-act (abgerufen am 19.05.2026)

(2) Lernende Systeme – Die Plattform für Künstliche Intelligenz (Hrsg., 2024): KI-Kompakt „AI Act der Europäischen Union – Regeln für vertrauenswürdige KI“, https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf  (abgerufen am 28.10.2024)