26. Februar 2025

Einleitung: KI und Vertrauen

Über 50% der Schweizerinnen benutzen bereits KI unterstützte Systeme und dies mit grosser Zufriedenheit, wenn man dem Digitalbarometer 2024 der Mobiliar Glauben schenken mag. Je höher der Bildungsstand, desto positiver die Einstellung gegenüber KI.

Es sollte daher angenommen werden, dass besonders grosse Unternehmen souverän und offen die eigene Kompetenz beim Einsatz von KI Systemen betonen und dies auch bei Bewerbungen potenzieller Fachkräfte so handhaben.

Nicht nur, aber besonders von Führungskräften wird erwartet, dass sie eine vertrauensvolle und loyale Beziehung sowohl zu ihren Mitarbeitenden als auch zur Organisation aufbauen und erhalten. Sie sollten unter anderem regelmässig und ehrlich über Ziele, Entscheidungen und Veränderungen informieren und Entscheidungen jederzeit klar begründen können.

Einsatz von KI in Schweizer Unternehmen: Realität und Erwartungen

Da der Aufbau von Vertrauen Wechselseitigkeit bedingt, erwarte ich auch, dass mir der Ablauf des Bewerbungsprozesses angemessen transparent gemacht wird. Das Unternehmen des Schweizer SMI die Nutzung KI-unterstützter Systeme mehrheitlich (noch) nicht offen kommunizieren, könnte mit internen Bedenken zu tun haben — die aber nicht schwerwiegend genug zu sein scheinen, dass sie auf die Nutzung verzichten.

Nicht nur, aber besonders häufig setzen grosse Schweizer Unternehmen KI-unterstützte Systeme bei der Vorselektierung von Bewerbungen ein. Angesichts der grossen Mengen, die bei ihnen eingehen, erscheint dies durchaus zweckmässig. Warum sie dies den Bewerberinnen beim Einreichen nicht aktiv mitteilen, erscheint dagegen fragwürdig. Denn es gibt einleuchtende Gründe dafür.

KI-Systeme als Gatekeeper in der Personalauswahl

Ein KI-unterstütztes System wie zum Beispiel Workday Talent Management kann nicht einfach wie ein neues Werkzeug für die Tabellenverarbeitung behandelt werden, was in dem Fall für den Bewerber irrelevant wäre.

Tatsächlich wird damit ein Wissenssystem als Gatekeeper eingesetzt, das über den Zugang zu den Personen bestimmt, die ihre Bewerbungen bisher prüften – Personalentwickler, fachliche Vorgesetzte und zukünftige Teammitglieder.

Ein solches Gatekeeper-Wissenssystem bietet Funktionen, automatisiert, also ganz allein über eine Bewerbung zu entscheiden und wurde dazu mit Informationen und Inhalten trainiert, die zum überwiegenden Teil ausserhalb des Unternehmens, meist in den USA, erworben, eingegeben und verarbeitet wurden.

Ein Kritikpunkt an diesen Systemen ist deshalb auch, dass sie sich schlecht an die spezielle Kultur eines Schweizer Unternehmens anpassen lassen. Die Trainingsdaten der externen KI-gestützten Talentmanagement-Systeme wie Workday, SAP SuccessFactors, Cornerstone oder Avature sind nichtschweizerisch und nicht dem Unternehmen entnommen.

Fehlende Transparenz: Warum informieren Unternehmen Bewerberinnen nicht?

Da es derzeit noch nicht als selbstverständlich angenommen werden kann, dass ich als Bewerberin davon ausgehe, dass KI-unterstützte Systeme meine Bewerbung automatisiert prüfen und ggf. ablehnen, erscheint mir begründet, das die Verantwortlichen des Unternehmens diese beim Start ausdrücklich darauf hinweisen. Das würde nicht nur Vertrauen (in das eigene System) und Ehrlichkeit (gegenüber der Bewerberin) zeigen, sondern sie auch darauf hinweisen, ihre Dokumente so aufzubereiten, dass die KI-Systeme sie möglichst gut verarbeiten können.

Leider ist das bei den SMI Unternehmen, die ich untersucht habe, nicht der Fall. Ganz im Gegenteil weist keines der von mir untersuchten Unternehmen aktiv auf die Verwendung von KI-unterstützten Systemen hin. Und das weder in der Darstellung des Bewerbungsprozesses noch beim Start der Online Bewerbung, die aber fast immer als einzige Option angezeigt wird.

Oft werden Datenverarbeitung und -weitergabe, sowie Hinweise zu automatisierten Entscheidungen hinter Disclaimern oder Datenschutzerklärungen verborgen, die zu einem PDF, einer Webseite oder einem Modal Window, in dem der Text steht, führen.

Bei mehr als einem Drittel der im SMI gelisteten Unternehmen ist die aktive Zustimmung zu diesen zudem nicht Pflichtfeld, sondern nur als Link unten auf der Webseite zu entdecken. Die Zustimmung könnte auf eine unterschiedliche Verwendung der Daten hinweisen, zum Beispiel wenn diese länger in einem sogenannten Talentpool gespeichert werden oder persönliche Daten ins Ausland weitergegeben werden. Natürlich auch auf eine unterschiedliche rechtliche Interpretation, ob eine ausdrückliche Zustimmung der Bewerberin überhaupt notwendig ist. Wahrscheinlicher aber erscheint, dass das Vorgehen aufgrund der technischen Vorgaben der genutzten Plattformen festgelegt ist.

Disclaimer Link im Beispiel der Workday Talent Management Software

Bei Unternehmen, die die Workday Talent Management Plattform nutzen gibt es jeweils nur einen Link unter dem Formular oder oft nur im Footer.

Beispiel SAP SuccessFactors

Bei der SAP Plattform dagegen ist eine aktive Zustimmung immer notwendig, die Datenschutzerklärung wird mir über einen Textlink zugänglich gemacht, den ich anklicken muss, um weiter zu kommen. Habe ich das einmal verstanden, wird mir der Text in einem winzigen Fenster eingeblendet und ich kann ihm über ebenso kleine Buttons zustimmen. Das angebotene Ausdrucken des Textes hat bei meinen Versuchen nie funktioniert.

Das ist natürlich aus Benutzersicht unnötig umständlich. Etwas irritierend wirkt dabei auch die Verknüpfung des Begriffs Nutzungsbedingungen mit der Datenschutzerklärung:

Terms of Use: Read and accept the data privacy statement.

Der fehlende, souveräne Umgang mit KI

In den Texten der Datenschutzerklärungen selbst sind dann wiederum nur bei einem Drittel der Unternehmen Passagen zu finden, die eine mögliche automatisierte Entscheidung gemäss Artikel 21 DSG thematisiert.

Für mich ein nicht gerade souveräner Umgang, insbesondere wenn diese Unternehmen KI-unterstützte Systeme als Zukunft, Innovationstreiber und Schaffer einer Vielzahl neuer Berufe ansehen. Auf diese Weise implementiert wirkt das eher wie ein unsicheres Schweigen über Plattformen, deren Funktionsweise ihnen vielleicht selbst nicht in allen Teilen nachvollziehbar erscheint.

Ein souveräner Umgang dagegen wird beim Start einer Bewerbung Hinweise enthalten, die mich deutlich darauf hinweisen, dass zur Selektion auch KI-Systeme eingesetzt werden.

Beispiel mit KI-Badge und Zustimmung zu Nutzungsbedingungen.

Beispiel mit Hinweis als Klartext und Verlinkung zur vollständigen Erklärung.

Unternehmen, deren Zweifel noch überwiegen oder die gar nicht planen, KI-Systeme einzusetzen, oder die KI Funktionen ihres Systems nicht nutzen, könnten dies dagegen offensiv beim Einreichen der Bewerbung mitteilen, zum Beispiel so: