Welche ethischen Prinzipien gilt es bei der Entwicklung digitaler Systeme zu beachten?

Die Nutzung digitaler Systeme und KI-Anwendungen ist aus unserem alltäglichen sowie beruflichen Leben nicht mehr wegzudenken. Vieles, was früher auf dem Papier lief, ist heute digital und erfordert damit gänzlich neue Digitalkompetenzen von den Nutzer*innen (Meinel 2020). Doch wer legt fest was ein digitales System oder eine KI-Anwendung kann? Darauf lässt sich leicht antworten, dass es die Entwickler*innen der jeweiligen digitalen Systeme und KI-Anwendungen sind.

Wer also ein digitales System erstellt, der hat die vollumfängliche Macht und kann sich alles erlauben? So einfach ist es dann doch nicht. Bestimmte ethische Prinzipien bei der Entwicklung digitaler Systeme sollten befolgt werden. Allein aus dem Grund, weil Entwickler*innen zum Ziel haben, dass ihre Systeme Anwendung finden. Letztlich tragen die Entwickler*innen digitaler Systeme die Verantwortung für die Art und Weise, wie Informationen erzeugt, verarbeitet und verteilt werden (Floridi 2013).

Ethische Prinzipien für vertrauenswürdige KI

Durch die Berücksichtigung ethischer Prinzipien bei der Entwicklung digitaler Systeme kann sichergestellt werden, dass es sich beim Endprodukt um ein System handelt, welchem alle Nutzer*innen vertrauen können. Eine Expertengruppe, die sich im Auftrag der Europäischen Union 2018 mit Ethik-Leitlinien für eine vertrauenswürdige KI befasst hat, stellt heraus, welche Prinzipien angewandt werden müssen, damit von einer vertrauenswürdigen KI gesprochen werden kann:

• Die menschliche Autonomie muss beim Einsatz der KI gewahrt bleiben,
• die KI muss sicher und widerstandsfähig gegen äußere Angriffe sein,
• sie muss die Privatsphäre ihrer Nutzenden schützen,
• sie muss gegenüber den Ergebnissen, zu welchen man mit ihr gelangt, transparent sein
• und sie muss fair sein und darf einzelne Personengruppen nicht diskriminieren (HEG-KI 2019).

Um eine nachhaltige Implementierung ethischer Prinzipien bei der Entwicklung digitaler Systeme zu erreichen, sollten diese den Entwickler*innen bereits in der Ausbildung vermittelt werden (Huchler et al. 2020). Huchler et al. (2020) haben vier Kriterien aufgestellt, nach denen eine sinnvolle Mensch-Maschine- Interaktion im Arbeitskontext stattfinden soll (siehe Abbildung 1). Durch den Schutz des Einzelnen sollen die Daten und Gesundheit der Nutzer*innen geschützt sowie die Vielfaltssensibilität und Diskriminierungsfreiheit sichergestellt werden. Vertrauenswürdigkeit digitaler Systeme und KI-Anwendungen erfordert qualitativ hochwertige Daten, Transparenz durch Erklärbarkeit und Widerspruchsfreiheit sowie klare Regelungen zu Verantwortung, Haftung und Systemvertrauen. Sinnvolle Arbeitsteilung in digitalen Systemen und KI-Anwendungen setzt voraus, dass diese den Nutzer*innen Entlastung und Unterstützung bieten, ihnen Handlungsträgerschaft sowie Situationskontrolle überlassen und durch Adaptivität, Fehlertoleranz sowie Individualisierbarkeit geprägt sind. Förderliche Arbeitsbedingungen durch digitale Systeme und KI-Anwendungen umfassen ausreichende Handlungs- und Gestaltungsräume für eine reichhaltige Arbeit, Lern- und Erfahrungsförderlichkeit sowie eine Stärkung von Kommunikation, Kooperation und sozialer Einbindung.

 

Abbildung 1: Kriterien Mensch-Maschine Interaktion im Arbeitskontext

Quelle: eigene Darstellung nach Huchler et al. (Hrsg.). (2020)

 

Generell sollte dem potentiellen Missbrauch durch digitale Systeme vorgebeugt werden (IEEE 2019). Menschenrechte und das Wohlbefinden der Nutzer*innen sollten an höchster Stelle stehen und nicht durch die Anwendung geschädigt oder in irgendeiner Form eingeschränkt werden (IEEE 2019). Die Datenverarbeitung von KI-Anwendungen soll sichtbar gemacht werden, sodass für alle Nutzer*innen direkt ersichtlich ist, was mit den eigenen Daten geschieht und dass diese nicht missbraucht werden (Council of Europe 2020). Ein konsequent transparenter Umgang mit Daten schafft Vertrauen bei den Nutzer*innen. Somit ist klar, auch digitale Systeme und KI-Anwendungen müssen menschzentriert sein. Die Würde des Menschen ist auch in der digitalen Welt unantastbar.

Ethische Prinzipien und verantwortungsvoller Umgang mit KI in ZUKIPRO

In ZUKIPRO wird sich mit den Themen rund um den vertrauensvollen Umgang mit KI und ethischen Prinzipien in der Entwicklung von digitalen Systemen im neuen Qualifizierungskonzept „KI und Verantwortung“ befasst. Dabei handelt es sich um einen 2,5 bis 3 stündigen Workshop, in dem spielerisch betrachtet wird, wie ein Bias, also ein Vorurteil, in Daten erkannt werden kann oder was es mit dem AI-Act der EU auf sich hat. Denn nicht nur Entwickler*innen sollten darauf achten, ob es sich bei ihren KI-Anwendungen um vertrauensvolle Systeme handelt, auch Nutzer*innen sollten verantwortungsvoll mit diesen umgehen können. Der Online-Workshop wird ab dem Frühjahr 2026 angeboten. Weitere Infos dazu unter: https://www.zukipro.de/ki-und-verantwortung/

 

Quellen: 

Council of Europe. (2020). Guidelines on artificial intelligence and data protection. https://www.coe.int/en/web/data-protection/news/-/asset_publisher/7oll6Oj8pbV8/content/new-guidelines-on-artificial-intelligence-and-personal-data-protection

Floridi, L. (2013). The ethics of information. Oxford University Press.

HEG-KI, Hochrangige Expertengruppe für künstliche Intelligenz. (2019). Ethik-Leitlinien für eine vertrauenswürdige KI. Veröffentlichungsamt der Europäischen Union. https://op.europa.eu/de/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1

Huchler et al. (Hrsg.). (2020). Kriterien für die menschengerechte Gestaltung der Mensch-Maschine-Interaktion bei Lernenden Systemen – Whitepaper aus der Plattform Lernende Systeme, München.

IEEE, Global Initiative on Ethics of Autonomous and Intelligent Systems. (2019). Ethically aligned design: A vision for prioritizing human wellbeing with autonomous and intelligent systems (Version 2). IEEE Standards Association. https://standards.ieee.org/wp-content/uploads/import/documents/other/ead_v2.pdf

Meinel, C. (2020). Digitale Kompetenzen und Schulbildung. In: Friedrichsen, M., Wersig, W. (Hrsg.) Digitale Kompetenz. Synapsen im digitalen Informations- und Kommunikationsnetzwerk S.29-35. Springer Gabler, Wiesbaden. https://doi.org/10.1007/978-3-658-22109-6_4

 

Autor und Ansprechpartner: Tristan Schady, Institut für Technologie und Arbeit e.V.