Künstliche Intelligenz verändert die Personalarbeit rasant. Von der Kandidatenauswahl über den Mitarbeitersupport bis hin zu Leistungsanalysen und der Personalplanung verspricht KI mehr Effizienz und bessere Entscheidungsprozesse. Doch während viele Unternehmen sich beeilen, KI-gestützte HR-Tools einzuführen, ist einer überraschend großen Zahl von ihnen nicht bewusst, dass die Aufsichtsbehörden diese Entwicklung genau im Auge behalten.
Die Europäische Union hat viele KI-Anwendungen im HR-Bereich im Rahmen des EU AI Act als „hochrisikobehaftet“ eingestuft und damit unter die strengsten Regelungen für den Einsatz von KI gestellt. Für HR-Verantwortliche stellt sich daher nicht mehr die Frage, ob KI eingesetzt werden soll, sondern wie sie verantwortungsvoll eingesetzt werden kann.
KI im HR: Echter Fortschritt oder nur ein weiterer Technologietrend?
Es besteht kein Zweifel, dass KI einen erheblichen Mehrwert für HR bieten kann. Richtig eingesetzt kann sie administrative Aufgaben reduzieren, den Zugang zu Informationen verbessern, die Personalplanung unterstützen und Mitarbeitenden helfen, schneller relevante Ressourcen zu finden.
Gleichzeitig bringt KI jedoch Risiken mit sich, die im Beschäftigungskontext besonders sensibel sind. Entscheidungen zu Rekrutierung, Beförderung, Leistungsbeurteilung, Vergütung oder Kündigung können direkte Auswirkungen auf die berufliche Zukunft und den Lebensunterhalt von Menschen haben.
Deshalb argumentieren viele Experten, dass KI menschliche Entscheidungen unterstützen, aber nicht ersetzen sollte. Die effektivsten HR-Technologien sind wahrscheinlich jene, die menschliches Urteilsvermögen erweitern, statt es vollständig zu automatisieren.
Der regulatorische Rahmen könnte Sie überraschen
Viele HR-Professionals sind mit der DSGVO vertraut. Deutlich weniger kennen den EU AI Act.
Der EU AI Act ist eine EU-Verordnung über künstliche Intelligenz, die am 1. August 2024 in Kraft getreten ist. Es handelt sich um die erste umfassende KI-Regulierung eines großen Gesetzgebers und sie führt einen risikobasierten Ansatz für KI-Systeme ein. Für HR besonders relevant: KI-Systeme in Bereichen wie Rekrutierung, Bewerberbewertung, Mitarbeiterbeurteilung, Beförderungsentscheidungen und Workforce Management gelten in der Regel als „hochrisikobehaftet“. Das bedeutet, dass Organisationen und Softwareanbieter zusätzliche Anforderungen in Bezug auf Transparenz, Governance, Dokumentation, menschliche Aufsicht und Bias-Mitigation erfüllen müssen.
Zwar deutet eine kürzlich auf EU-Ebene erzielte politische Einigung darauf hin, dass bestimmte Fristen für die Einhaltung der Vorschriften für KI-Systeme mit hohem Risiko möglicherweise bis Dezember 2027 verlängert werden könnten, doch ist diese Verlängerung noch nicht offiziell verabschiedet und bedarf noch der Zustimmung des Europäischen Parlaments und des Rates sowie der Veröffentlichung im Amtsblatt. Bis dahin gilt der derzeitige Rechtsrahmen gemäß dem EU-KI-Gesetz, einschließlich wichtiger Meilensteine wie:
- Februar 2025: Verbot verbotener KI-Praktiken und Einführung von KI-Kompetenzpflichten
- August 2025: Regeln für allgemeine KI-Modelle (GPAI)
- August 2026: Kernpflichten für Hochrisiko-KI-Systeme, einschließlich vieler HR-Anwendungsfälle
Eine Verlängerung bis 2027 bleibt daher vorläufig und ist rechtlich noch nicht bindend.
Die Schweiz verfolgt einen etwas anderen Ansatz. Statt einer eigenen, EU-ähnlichen KI-Verordnung setzt der Bundesrat auf einen prinzipienbasierten Rahmen, der auf bestehender Gesetzgebung und internationalen Standards aufbaut. Das Ziel bleibt jedoch identisch: Grundrechte schützen, Vertrauen stärken und den verantwortungsvollen Einsatz von KI sicherstellen.
Die Nichteinhaltung der Vorschriften ist mit erheblichen finanziellen und reputationsbezogenen Risiken verbunden. Nach dem EU AI Act können Verstöße gegen verbotene KI-Praktiken zu Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes führen (je nachdem, welcher Betrag höher ist), während Verstöße gegen Verpflichtungen im Zusammenhang mit hohen Risiken Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes nach sich ziehen können. Über die finanziellen Sanktionen hinaus müssen Organisationen zudem mit einer verstärkten behördlichen Überwachung und möglichen Einschränkungen bei der Nutzung nicht konformer Systeme rechnen.
Einige KI-Anwendungen im HR-Bereich werfen bereits regulatorische Fragen auf
Einer der bemerkenswertesten Aspekte des EU AI Act ist, dass einige KI-Anwendungen, die in den letzten Jahren aktiv beworben wurden, inzwischen als problematisch oder in bestimmten Fällen als verboten gelten. Beispiele hierfür sind:
- KI-Systeme, die versuchen, die Emotionen eines Bewerbenden in einem Video-Interview zu analysieren.
- Tools, die Persönlichkeitsmerkmale, emotionale Zustände oder Verhaltensmerkmale aus Gesichtsausdrücken, Stimme oder biometrischen Daten ableiten.
- Automatisierte Recruiting-Systeme, die Bewerbende ohne echte menschliche Aufsicht ablehnen oder ranken.
- KI-gestützte Mitarbeiterüberwachung, die kontinuierlich Produktivität, Verhalten oder Leistung bewertet und direkte Auswirkungen auf Personalentscheidungen hat.
Auch wenn nicht alle diese Anwendungen vollständig verboten sind, fallen viele in die Kategorie „hochrisikobehaftet“ und unterliegen strengen Anforderungen hinsichtlich Transparenz, Bias-Kontrolle, Dokumentation und menschlicher Aufsicht.
Die regulatorische Richtung wird immer klarer: KI kann Entscheidungen unterstützen, aber Organisationen bleiben verantwortlich dafür, dass Entscheidungen, die Mitarbeitende und Bewerbende betreffen, fair, nachvollziehbar und letztlich unter menschlicher Verantwortung getroffen werden.
Was Organisationen und Softwareanbieter tun sollten
Fortschrittliche Organisationen ergreifen bereits konkrete Maßnahmen:
- Verstehen, in welchen Prozessen KI Entscheidungen über Mitarbeitende oder Bewerbende beeinflusst.
- Sicherstellen, dass Menschen weiterhin die Verantwortung für Personalentscheidungen tragen.
- Mehr Transparenz von Softwareanbietern über die Funktionsweise von KI-Modellen einfordern.
- HR-Teams im Umgang mit KI entsprechend schulen.
- KI-Governance in bestehende Datenschutz- und DSGVO-Compliance-Strukturen integrieren.
Ebenso sollten Softwareanbieter KI-Governance-Frameworks implementieren, ihre KI-Anwendungsfälle dokumentieren, potenzielle Vorurteile überwachen, Audit-Trails führen und sicherstellen, dass Kunden nachvollziehen können, wie KI-generierte Ergebnisse entstehen.
Was in der Realität passiert?
Die Realität ist gemischt.
Einige Anbieter haben massiv in verantwortungsvolle KI-Praktiken, Governance-Strukturen und menschliche Kontrollmechanismen investiert. Andere konzentrieren sich primär darauf, schnell neue KI-Funktionen einzuführen, um mit den Markterwartungen Schritt zu halten.
Teilweise werden KI-Funktionen als vollständig automatisierte Entscheidungsinstrumente vermarktet, obwohl regulatorisch zunehmend erwartet wird, dass menschliches Urteilsvermögen im Zentrum bleibt. Wie so oft bei technologischen Trends schreitet Innovation schneller voran als Governance.
Dies stellt HR-Verantwortliche vor eine Herausforderung. Bei der Bewertung von HR-Technologie ist die wichtigste Frage möglicherweise nicht mehr: „Was kann die KI?“, sondern vielmehr: „Wie ist die KI reguliert und ist ihr Einsatz rechtlich zulässig?“
Fazit
Künstliche Intelligenz hat enormes Potenzial, HR-Prozesse und das Mitarbeitererlebnis zu verbessern. Doch HR betrifft immer Menschen, und Entscheidungen mit Einfluss auf deren Karriere erfordern Transparenz, Fairness und Verantwortung.
Organisationen, die den größten Nutzen aus KI ziehen, werden wahrscheinlich nicht diejenigen sein, die am schnellsten automatisieren, sondern jene, die Innovation mit verantwortungsvoller Governance verbinden und sicherstellen, dass KI ein Werkzeug zur Unterstützung menschlicher Entscheidungen bleibt und kein Ersatz dafür. Mit der fortschreitenden Regulierung in Europa entwickelt sich verantwortungsvolle KI zunehmend nicht nur zu einer ethischen Anforderung, sondern zu einem strategischen Erfolgsfaktor.
