Algorithmen für Bewerbungen

Algorithmen für Bewerbungen

04/2021

 

Das Bücherregal im Hintergrund hat Einfluss darauf, ob Du den Job bekommst

Die Datenjournalist:innen des Bayerischen Rundfunk haben zusammen mit Report München eine algorithmenbasierte Bewerbungssoftware eines Münchener Startups getestet – und zeigen die Schwächen des Systems. Die Idee des Startups Retorio: Eine Software soll anhand eines kurzen Videos über die Job-Bewerbung urteilen und dabei besonders objektiv und fair sein. Laut der Firma sollen Stimme, Sprache, Gestik und Mimik analysiert und ein verhaltensbasiertes Persönlichkeitsprofil erstellt werden. Soweit die Theorie.

Die Datenanalyse des Bayerischen Rundfunks zeigte, dass man den Bewerbungserfolg in diesem System mit Veränderungen von Äußerlichkeiten beeinflussen konnte. Hierzu führten die Journalist:innen verschiedene Experimente mit der Software von Retorio durch.

 

Mehrere hundert Testvideos produziert

Für die Tests engagieren die Reporter:innen eine Schauspielerin. Mit ihr nehmen sie Videos auf, mit der sie die Versprechen des Herstellers überprüfen werden. Dabei wird immer der gleiche Text vorgetragen, in der gleichen Tonlage und Geschwindigkeit, doch mal trägt die Schauspielerin keine Brille, mal eine Brille und mal ein Kopftuch. Mit Brille schätzt das System sie weniger gewissenhaft ein, mit Kopftuch offener. Die Ergebnisse unterscheiden sich deutlich. Als Gegenprobe produzieren sie Videos, in denen die Schauspielerin im gleichbleibenden Outfit vorträgt, hierbei bleiben die Ergebnisse laut BR „weitgehend stabil“.

Das Unternehmen Retorio sagt dazu gegenüber dem BR:

„Wie in einem normalen Bewerbungsgespräch auch, fließen solche Faktoren ebenso in die Bewertung mit ein. Das alles erfolgt ohne Nachfrage, ohne irgendeinen Druck, wie er etwa in einer Gesprächssituation entstehen kann.“

Das Unternehmen hat die Software nach eigenen Angaben mit dem so genannten Big-5-Model trainiert. 2.500 Menschen haben demnach 12.000 Videos angeschaut und diese nach den Kriterien „Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus“ bewertet.

 

Äußeres und der Hintergrund beeinflussen die Ergebnisse

In einem weiteren Versuch mit zehn „Bewerbungskandidat:innen“ wird jeweils ein Faktor verändert. So wird zum Beispiel der Hintergrund ausgetauscht oder die Tonspur. Bei einem Video montieren die BR-Journalist:innen ein Bild im Bilderrahmen ins Video. Das verändert die Ergebnisse: Die Person wird unter anderem als offener und gewissenhafter beurteilt. Noch stärker wirkt ein hineinmontiertes Bücherregal auf diese Werte. Bei einem Bewerber mit einem Bücherregal im Hintergrund wurde dieser plötzlich nicht mehr als „zurückhaltend“ sondern als „lebhaft“ vom System eingestuft.

Bei einer Veränderung der Tonspur hingegen blieben die Werte nahezu unverändert. Veränderungen brachten auch eine simple Korrektur der Helligkeit eines Videos oder der Einsatz eines Sepia-Filters. Allerdings unterschieden sich die Ergebnisse von Bewerber zu Bewerber. Insgesamt produzierten die Journalist:innen mehrere hundert Videos, um die KI zu testen. Der Bayerische Rundfunk konnte die Ergebnisse allerdings nicht gezielt manipulieren:

Sich zum Beispiel absichtlich in ein helles Zimmer zu setzen und damit extrovertierter eingestuft zu werden, funktioniert nicht. Bei den Proband*innen haben wir jeweils mehrere Helligkeits- bzw. Sättigungs-Stufen ausprobiert. Ebenso wie beim Hintergrund sind auch bei den Helligkeitsveränderungen die Abweichungen nicht systematisch, sondern können sich bei den verschiedenen Testpersonen ganz unterschiedlich auswirken.

In jedem Fall lassen die Ergebnisse den Einsatz eines solchen Systems bei der Personalauswahl ungeeignet erscheinen.

 

Netzpolitik.org; Markus Reuter; 19.02.2021

https://netzpolitik.org/2021/algorithmen-fuer-bewerbungen-das-buecherregal-im-hintergrund-hat-einfluss-darauf-ob-du-den-job-bekommst/

http://creativecommons.org/licenses/by-nc-sa/4.0/

 

Gerne beantworten wir Ihre Fragen und unterstützen Sie bei der Einhaltung von Schweizer Datenschutz und DSGVO.  

Swiss Infosec AG; 24.03.2021

Kompetenzzentrum Datenschutz, +41 41 984 12 12, infosec@infosec.ch

 

datenschutz

 

Datenschutz


Datenschutz greift auch in unsere Lebensprozesse ein

Datenschutz ist allgegenwärtig und begleitet uns im Berufsalltag wie auch im Privatleben. Erfahren Sie bei uns alles über Beratung, Ausbildung und Services im Fachbereich Datenschutz und wie wir Sie als erfahrene Datenschutzspezialisten unterstützen können.

Kontaktieren Sie uns, denn wir wissen, welche Daten wie zu schützen sind!

Wir beraten Sie gerne. +41 41 984 12 12, infosec@infosec.ch

Mehr lesen

 

Hinweis zur Verwendung von Cookies
Um unsere Webseite für Sie optimal zu gestalten und fortlaufend verbessern zu können, verwenden wir Cookies. Sie können die Verwendung von Cookies annehmen oder ablehnen. Weitere Informationen hierzu erhalten Sie in unserer Datenschutzerklärung