Personalmanagement mittels KI-basiertem Ranking

Use Case Beschreibung

Die Software wird im Personalmanagement bzw. in der Personaleinsatzplanung eingesetzt. Bei der Besetzung offener Projektstellen wird eine Liste geeigneter Mitarbeitender auf Basis einer Ähnlichkeitssuche des Anforderungsprofils des Personalbedarfs zum Kandidatenprofil (Rolle, Skills, Tätigkeiten, Erfahrungen) mithilfe von Embedding-Modellen aus einer Datenbank generiert und den Staffing-Verantwortlichen zur finalen Auswahl vorgelegt. Zusätzlich kommen LLMs zum Einsatz, um kurze Beschreibungen der Mitarbeiterprofile zu erstellen.

Rechtliche Einordnung

• KI-System nach AI Act.
• Heimat Software ist Anbieter nach Art. 2 Abs. 1 lit. A.
• Hochrisiko-System nach Anhang III Nr. 4 lit. b KI-VO, auch wenn Entscheidungen nur vorbereitet werden.    
• Automatisierte Rangliste: Vorschlagslogik beeinflusst Auswahl stark; selbst bei menschlicher Entscheidung bleibt das System maßgeblich entscheidungsleitend.
• Keine Rückausnahme: Art. 6 Abs. 3 Unterabs. 3 KI-VO: Anhang III: KI-Systeme gelten als hochriskant, wenn sie Profiling natürlicher Personen vornehmen.
• Profiling-Definition (KI-VO Art. 3 Nr. 52): automatisierte Verarbeitung personenbezogener Daten zur Bewertung persönlicher Aspekte (z. B. Arbeitsleistung, Interessen).

Besondere Herausforderungen

• Um nicht unter die Hochrisiko-Anforderungen zu fallen wäre eine Umsetzung des Scorings ohne KI denkbar. Die Qualität des Rankings wäre dabei allerdings wahrscheinlich schlechter.
• Es könnten trotzdem KI-Technologien (z. B. LLMs) eingesetzt werden, um das Ranking zu erklären oder zusammenzufassen. Aufgrund der Rückausnahmen besteht jedoch auch in diesem Fall die Möglichkeit, unter die Hochrisiko-Anforderungen zu fallen.