Künstliche Intelligenz im Bewerbermanagement

Ein aktueller Bericht der britischen Datenschutzbehörde ICO untersucht, wie Künstliche Intelligenz im Bewerbermanagement genutzt wird. Konkret geht es um den Einsatz von KI-gestützten Tools, die für das Sourcing, die Vorauswahl und die Auswahl von Kandidaten verwendet werden. Dazu analysierte die ICO Datenschutzpraktiken und die Auswirkungen auf die Rechte der Betroffenen und stellte sowohl positive Entwicklungen als auch gravierende Schwächen fest. Die Erkenntnisse sind für Unternehmen in Mecklenburg-Vorpommern besonders relevant, da sie helfen können, Compliance-Risiken zu minimieren und Vertrauen aufzubauen.

Ergebnisse des Berichts

Im folgenden geben wir Ihnen eine Übersicht über die zentralen Untersuchungsergebnisse hinsichtlich der Nutzung von künstlicher Intelligenz im Bewerbermanegement.

Datenminimierung und Zweckbindung

Viele KI-Systeme sammelten mehr persönliche Daten, als für die Entwicklung und den Betrieb ihrer Systeme erforderlich waren. Häufig wurden Daten aus sozialen Netzwerken oder Jobportalen „gescraped“ und ohne Zustimmung der Betroffenen weiterverwendet. Auch die Speicherung erfolgte oft länger als notwendig.

• Empfehlung: Unternehmen sollten sicherstellen, dass sie nur die minimal notwendigen Daten für den Rekrutierungsprozess erheben und verarbeiten. Alle Datenverarbeitungen müssen einem klar definierten Zweck entsprechen, wie in der Datenschutz-Grundverordnung klar geregelt ist.

Bias und Fairness

Ein zentraler Kritikpunkt war die potenzielle Diskriminierung durch Algorithmen. Einige Tools filterten beispielsweise Kandidaten basierend auf geschätzten demografischen Merkmalen wie Geschlecht oder ethnischer Zugehörigkeit. Diese Schätzungen waren oft fehlerhaft und wurden ohne Zustimmung oder Kenntnis der Betroffenen genutzt.

• Empfehlung: Unternehmen sollten ihre KI-Modelle regelmäßig auf Fairness und mögliche Diskriminierung testen. Direkte Erhebung freiwilliger demografischer Daten kann eine verlässlichere Grundlage für Bias-Kontrollen bieten.

Transparenz

Die Audits zeigten, dass sowohl Anbieter als auch Nutzer oft unzureichend über die Funktionsweise und die Datenverarbeitung der Tools informierten. Betroffene wussten häufig nicht, wie ihre Daten verarbeitet wurden oder wie KI-Algorithmen Entscheidungen beeinflussten.

• Empfehlung: Unternehmen sollten Betroffene klar und verständlich über die Nutzung von KI informieren, einschließlich der Datenflüsse, Algorithmenlogik und Zweck der Verarbeitung. Transparente Prozesse stärken das Vertrauen und sind eine Grundvoraussetzung der Datenschutz-Grundverordnung (DSGVO).

Rollen und Verantwortlichkeiten

Viele Anbieter klassifizierten sich fälschlicherweise als Datenverarbeiter und nicht als Verantwortliche, was zu unklaren vertraglichen Regelungen führte. In einigen Fällen wurden die datenschutzrechtlichen Pflichten komplett auf die Nutzer der Tools abgewälzt.

• Empfehlung: Unternehmen sollten ihre Rollen als Verantwortliche oder Auftragsverarbeiter klar definieren und vertraglich festlegen. Die korrekte Zuordnung ist entscheidend für die Einhaltung der DSGVO.

Sicherheitsmaßnahmen

Zahlreiche Schwächen wurden bei der Datensicherheit festgestellt, darunter unzureichende Zugriffskontrollen und mangelhafte Sicherungen gegen Cyberangriffe. Besonders problematisch war die zentrale Speicherung großer Mengen persönlicher Daten, die ein attraktives Ziel für Angreifer darstellen.

• Empfehlung: Technische und organisatorische Sicherheitsmaßnahmen wie Verschlüsselung, Zugriffsbeschränkungen und regelmäßige Sicherheitsprüfungen sollten implementiert werden, um Datenverluste zu vermeiden.

Handlungsempfehlungen für Unternehmen in Mecklenburg-Vorpommern

1. Datenschutz-Folgenabschätzungen (DPIAs) KI-Tools, die mit personenbezogenen Daten arbeiten, erfordern fast immer eine Datenschutz-Folgenabschätzung. Unternehmen sollten Risiken für die Rechte und Freiheiten von Betroffenen frühzeitig identifizieren und geeignete Schutzmaßnahmen umsetzen.
2. Training und Schulung Personaler und Entscheidungsträger sollten in der Nutzung und Interpretation von KI-Tools geschult werden. Menschliche Überprüfungen der KI-Ausgaben sind unverzichtbar, um Verzerrungen oder Fehler zu erkennen und zu korrigieren.
3. Verträge und Verantwortlichkeiten Stellen Sie sicher, dass alle Vereinbarungen mit KI-Anbietern klare Vorgaben zur Datennutzung, Sicherheitsmaßnahmen und Verantwortlichkeiten enthalten. Prüfen Sie regelmäßig die Einhaltung dieser Vereinbarungen.
4. Langfristige Überwachung KI-Modelle verändern sich durch neue Daten und Anpassungen. Es ist wichtig, die Genauigkeit, Fairness und Sicherheitsmaßnahmen kontinuierlich zu überwachen, insbesondere nach Updates oder Änderungen.
5. Kandidatenrechte respektieren Unternehmen sollten sicherstellen, dass Betroffene ihre Rechte, wie das Recht auf Auskunft und Widerspruch, einfach ausüben können. KI-Ausgaben, die rechtlich oder faktisch erhebliche Auswirkungen auf Kandidaten haben, dürfen nicht ohne menschliche Kontrolle genutzt werden.

Künstliche Intelligenz im Bewerbermanagement – Fazit

Der ICO-Bericht unterstreicht die Notwendigkeit strenger Datenschutzstandards, wenn Künstliche Intelligenz im Bewerbermanagement eingesetzt wird. Für Unternehmen in Deutschland bieten die Empfehlungen eine wertvolle Orientierung, um Risiken zu minimieren, rechtliche Anforderungen zu erfüllen und das Vertrauen von Kandidaten und Mitarbeitern zu stärken. Eine verantwortungsvolle Nutzung von KI kann nicht nur den Rekrutierungsprozess verbessern, sondern auch einen Wettbewerbsvorteil schaffen.

Setzen auch Sie KI-Tools zur Bewerbeauswahl ein? – Nehmen Sie mit uns Kontakt auf, um Ihren Rekrutierungsprozess nicht nur fachlich, sondern auch in Bezug auf Datenschutzanforderungen sicher zu gestalten.