Der Mensch als letzte Instanz – reicht das?

Ich möchte euch heute von einem spannenden ZUKIPRO-Beratungsfall aus einer Branche erzählen, die im Rhein-Main-Gebiet stark vertreten ist: der Gaming-Branche.

Die Gaming-Branche ist sehr schnelllebig und sieht sich derzeit durch KI mit neuen Herausforderungen konfrontiert. Im konkreten Beratungsfall – von dem ich Euch aktuell nur anonymisiert berichten darf – hat sich das darin gezeigt, dass sich die Kolleg*innen des Betriebsrats bereits im Voraus viele spannende Gedanken gemacht haben, wie sie mit dem Thema KI umgehen wollen.

Auf uns zugekommen sind die Kolleg*innen, um Unterstützung bei der Verhandlung einer Rahmenbetriebsvereinbarung zur Regelung von KI zu bekommen. Die Geschäftsführung dieses Unternehmens steht dem Thema KI recht offen gegenüber. Sie betrachten KI als eine Zukunftstechnologie, sagen, man dürfe den Anschluss nicht verlieren, müsse die Chancen nutzen und einen verantwortungsvollen Umgang mit der Technologie finden. Gleichzeitig hat man aber auch gemerkt, dass der Geschäftsführung bewusst ist, dass das ganze Thema aus Sicht der Interessenvertretung komplexer ist, als es auf den ersten Blick scheint. Die vermeintlichen Chancen stehen den mahnenden Risiken gegenüber. Einfach, weil man in jeglichen Kreativbranchen sieht, was für Gefahren mit generativer KI einhergehen.

Innerhalb der Belegschaft des Unternehmens gibt es unterschiedliche Lager bezüglich des Einsatzes von KI. Die Storyteller, also diejenigen, die sich den Spielaufbau und dessen Handlung überlegen, lehnen den Einsatz strikt ab. Ihre Befürchtung: die Arbeit könnte ihnen komplett von der KI abgenommen werden. Die Qualität der Geschichten würde zwar leiden, aber das würde sich für das Unternehmen immer noch rechnen. Bei den Beschäftigten, die für die Entwicklung von Charakteren zuständig sind und gestalterisch arbeiten, lautet der Tenor: Wir lehnen die Nutzung generativer KI aus moralischen und ethischen Gründen ab, da sie immer mit Urheberrechtsverletzungen einhergeht. Bei beiden Gruppen spielte immer auch das Berufsethos mit in die Ablehnung hinein: Man will keine KI-generierten austauschbaren Geschichten schreiben oder Standardcharaktere entwerfen. Dann gibt es im Unternehmen aber noch die sogenannten Tester. Diese betrachten den Einsatz von KI beim Testen von neuen Spielen als eine Chance, von der sie sich nicht zuletzt auch eine Arbeitserleichterung erhoffen.

Diese unterschiedlichen Haltungen zum Einsatz von KI hat der Betriebsrat nun versucht in einer Betriebsvereinbarung zu bündeln, mit einer Geschäftsführung als Gegenüber, die diesem Thema aufgeschlossen entgegentritt. Ein erstes Zwischenergebnis ist das „HumanTouch“-Konzept gewesen, dass als „menschliche Nachbearbeitung“ übersetzt wurde. Im konkreten Fall bedeutet das, dass immer, wenn eine KI-Anwendung zum Einsatz kommt, das Ergebnis nochmal von Hand überarbeitet werden muss. Außerdem muss – wie im Rahmen der KI EU-Verordnung, dem AI Act, vorgeschrieben – gekennzeichnet werden, dass KI benutzt worden ist.

In der weiteren Diskussion haben wir festgestellt, wie schwierig die Definition des „HumanTouch“ im konkreten Arbeitsalltag ist. Wie lässt sich sicherstellen, dass KI-generierte Inhalte nochmal von einem Menschen überarbeitet worden sind? Was macht überhaupt den menschlichen Aspekt eines kreativen Produktes aus? Ihr ahnt es vielleicht schon: unsere Überlegungen drifteten immer mehr ins philosophische ab. Irgendwann war klar, dass wir bei diesen Fragen mit den uns verfügbaren Mitteln an unsere Grenzen zu stoßen drohen. Sorry für den Cliffhanger, aber da die Betriebsvereinbarung wie gesagt noch nicht abgeschlossen ist, muss die Erzählung an dieser Stelle leider enden.

Stattdessen möchte ich noch auf die „menschliche Nachbearbeitung oder Letztentscheidung“ eingehen. Auch im bereits erwähnten AI Act der EU spielt das Thema eine wichtige Rolle. Doch ähnlich wie beim „HumanTouch“-Konzept bewegt sich auch die Idee der menschlichen Letztentscheidung auf einem schmalen Grat zwischen Schutzaspekt und formaler Hülle.

Es gibt viele Branchen, in denen auf die menschliche Letztentscheidung gepocht wird, wo die Realität aber zeigt, dass das schlichtweg nicht umsetzbar ist. Nehmen wir das Beispiel einer automatisierten Fallbearbeitung bei Versicherungen. Dort werden KI-Systeme eingesetzt, um zu prüfen, ob ein Schadensfall gestattet wird oder nicht. Häufig wird vom KI-System lediglich ein Vorschlag ausgegeben: sind die Voraussetzungen erfüllt, wird der Schaden übernommen, sind die Voraussetzungen nicht erfüllt, wird der Schaden nicht übernommen. Das Problem ist nur: Für die Sachbearbeiter*innen ist überhaupt nicht mehr nachvollziehbar, wie das System zu der Entscheidung gekommen ist. Vermutlich werden sie auch nicht die Zeit haben, das Ergebnis noch einmal selbstständig zu prüfen und sich gegebenenfalls dafür zu rechtfertigen, sich gegen den Vorschlag des Systems entschieden zu haben. Wie soll da das Prinzip der menschlichen Letztentscheidung funktionieren? Erst recht, wenn man den Aspekt des sogenannten Automation bias berücksichtigt. Damit beschreibt die Forschung, dass Menschen KI-Systemen eine vermeintliche Objektivität zuschreiben. Das hat zur Folge, dass wir Ergebnisse von Maschinen als korrekt und neutral bewerten – und letztlich dazu neigen, eher der Entscheidung des Systems zuzustimmen.

Aus unserer Perspektive ist es daher wichtig, das Prinzip der menschlichen Letztentscheidungen nicht unwidersprochen zu akzeptieren. Wir fordern vielmehr, dass die Menschen mit allen Ressourcen ausgestattet sein müssen, um die Entscheidung des KI-Systems plausibel nachvollziehen und bewerten zu können. Dazu gehört auch, dass es keinen Zeitdruck geben darf, um das Ergebnis des Systems zu prüfen. Genauso wie es keinen Rechtfertigungsdruck geben darf, wenn man sich anders als die Maschine entschieden hat. Etwaige Haftungs- und Verantwortungsfragen dürfen nicht auf einzelne Beschäftigte übertragen werden, sondern es muss klar sein, die Verantwortung liegt immer beim Unternehmen. Der Vorteil: der Mensch besitzt das notwendige Wissen und entscheidet vor jeder Aktion, ob und wie eine KI angewendet wird und hat damit die maximale Kontrolle. Der Nachteil: das Prozedere ist langsam und lässt sich nur schwer skalieren. Die Frage ist nur: ist das wirklich ein Nachteil?