Verantwortungsvoller Einsatz von Künstlicher Intelligenz: Die europäische KI-Verordnung (AI Act)
Richtig angewandt, kann Künstliche Intelligenz (KI) einen großen Nutzen für Unternehmen, Beschäftigte und Kundschaft stiften. Gleichzeitig erfordert der verantwortungsvolle Einsatz von KI, dass die Systeme fair und transparent arbeiten und neben den Chancen auch die potenziellen Risiken bekannt sind.
Die KI-Verordnung der Europäischen Union (AI Act) schafft einen rechtlichen Rahmen für den verantwortungsvollen Einsatz von Künstlicher Intelligenz. Ziel der Verordnung ist es, über verbindliche Regelungen die Produktsicherheit von KI-Systemen zu gewährleisten und somit eine vertrauenswürdige KI zu gestalten, die europäischen Werten entspricht. KI-Systeme sollen sicher, transparent, ethisch, nicht-diskriminierend, umweltfreundlich und unter menschlicher Aufsicht entwickelt und eingesetzt werden. Die Verordnung fördert die Wettbewerbsfähigkeit der EU, unterstützt Innovationen und ist weltweit das erste transnationale KI-Regelwerk ihrer Art. (1)
Eckpunkte der europäischen KI-Verordnung
Die Verordnung unterscheidet verschiedene Risikogruppen für KI-Systeme und legt klare Vorschriften je Risikogruppe fest. Das Risiko beschreibt die Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens. Systeme mit unvertretbarem Risiko, wie z. B. Anwendungen, die Emotionen von Beschäftigten am Arbeitsplatz ableiten, sind grundsätzlich verboten. Systeme mit hohem Risiko müssen strenge Sicherheitsvorschriften erfüllen, bevor sie in der europäischen Union vertrieben und eingesetzt werden dürfen. Dies betrifft z. B. KI-Modelle, die ohne menschliche Aufsicht über die Einstellung oder betriebliche Weiterbildung von Beschäftigten entscheiden können. Bei diesen Anwendungen müssen Anbieter*innen und Betreiber*innen verschiedenen Dokumentations- und Transparenzpflichten nachkommen. Modelle mit geringem Risiko unterliegen geringeren Anforderungen: sie müssen Transparenzpflichten gegenüber Nutzer*innen erfüllen, wie zum Beispiel über die Interaktion mit einem Chatbot statt einer natürlichen Person informieren oder KI-generierte Inhalte als solche kennzeichnen. Die meisten aktuell genutzten KI-Anwendungen fallen unter die KI-Systeme mit minimalem oder keinem Risiko, wie KI-gestützte Spamfilter in Mailprogrammen. Sie unterliegen keinen Vorschriften. Die Risikobewertung der KI-Anwendungen wird jedoch von den Anbietern der Systeme selbst vorgenommen. Welche Behörde die Kontrolle der Selbsteinstufung durch die Anbieter vornehmen wird und wie die Verfolgung bei Verstößen aussehen wird, steht aktuell noch nicht fest.
Grundsätzlich gilt: Der Einsatz von KI in der Arbeitswelt muss menschzentriert erfolgen. KI kann, großen Nutzen stiften, erfordert jedoch einen verantwortungsvollen Einsatz. Beschäftigte sollen entlastet, vor Überwachung geschützt und die Mensch-Maschine-Interaktion ergonomisch gestaltet werden. Ziel ist es, das Vertrauen in KI-Systeme zu stärken, damit sie ihr volles Potenzial entfalten können. Der AI Act trägt dazu bei, die Privatsphäre und Persönlichkeitsrechte der Nutzenden zu schützen und Diskriminierung zu verhindern, damit KI-Systeme fair und gerecht eingesetzt werden können.
Das Qualifizierungsangebot “KI und Verantwortung”
Um sicherzustellen, dass alle Beteiligten optimal auf den verantwortungsvollen Einsatz von KI vorbereitet sind, stellen wir unser innovatives Qualifizierungskonzept (iQK) vor, das gezielt die notwendigen Kenntnisse und Kompetenzen vermittelt.
Das iQK “KI und Verantwortung” behandelt die ethischen Auswirkungen automatisierter Entscheidungsfindung. Wir untersuchen die Datengrundlagen von KI-Systemen und diskutieren potenzielle Verzerrungen. Der Workshop beleuchtet den Automation Bias und regulatorische Aspekte, die bei der Gestaltung von und dem Umgang mit KI eine Rolle spielen. Ziel ist es, ein kritisches Bewusstsein für den verantwortungsvollen Einsatz von KI im Arbeitskontext zu entwickeln.
Für mehr Informationen, kontaktieren Sie uns gerne.
Verwendete Quellen:
(1) Lernende Systeme – Die Plattform für Künstliche Intelligenz (Hrsg., 2024): KI-Kompakt „AI Act der Europäischen Union – Regeln für vertrauenswürdige KI“, https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf (Stand 28.10.2024)
(2) Hessen Trade & Invest GmbH (Hrsg., 2024): KIckstart für die intelligente Produktion. Wie produzierende Unternehmen Künstliche Intelligenz als Motor für Innovation und Wertschöpfung nutzen. https://redaktion.hessen-agentur.de/publication/2024/4333_KIckstartFuerDieIntelligenteProduktion.pdf (Stand 28.10.2024)
