Bias und Fairness in KI

Switch to English

Bias & Fairness

Algorithmischer Entscheidungs-
systeme

Algorithmischer Entscheidungssysteme

Beachte bitte, dass diese Lerneinheit als Desktop-Version konzipiert wurde.

Für ein optimales Lernerlebnis empfehlen wir die Durchführung an einem Laptop oder PC.
Erlange mit Hilfe dieser Seite ein umfassendes
anwendungsorientiertes Verständnis zu Bias & Fairness in KI-Systemen.  


Für ein optimales Lernerlebnis:
Stelle den Seitenzoom auf 50 % ein.

01

Grundlagen

Lerne die Grundlagen zu den Konzepten „Bias“ und „Fairness“ in KI-Systemen kennen.

02

Online-Kurse

Vertiefe die Grundlagen anhand praxisnaher Übungsaufgaben.

03

Fallstudie

Wende deine neu erlernten Fähigkeiten in einer Fallstudie aus der Praxis an.

Willkommen ZU dIEser
kostenlosen Lerneinheit

Möchtest du verstehen, welchen Einfluss Bias einer algorithmischen Entscheidung auf Wirtschaft und Gesellschaft haben kann?

Möchtest du erfahren, welche Arten von Bias es gibt und was eigentlich mit algorithmischer Fairness gemeint ist?

Möchtest du verstehen, wie du Bias und Fairness in KI-Systemen untersuchen, erfassen und verringern kannst?

Dann bist du HIER genau richtig!

Dann bist du HIER genau richtig!


Warum ist es wichtig, sich mit Bias & Fairness in KI-Systemen genauer auseinanderzusetzen?

Bias in algorithmischen Entscheidungen betrifft Menschen bereits heute in großem Maße!
Klicke dich durch die Slideshow und erfahre mehr!
Wenn Künstliche Intelligenz (KI) Schlagzeilen macht...
dann allzu oft aufgrund von Problemen mit Bias und daraus resultierenden unfairen, diskriminierenden Entscheidungen.

Klicke auf den rechten Pfeil, um einige der berüchtigten Schlagzeilen der letzten Jahre zu lesen.
Amazon: Der Bewerbungsroboter diskriminiert Frauen
Im Jahr 2014 entwickelte Amazon einen Algorithmus, der ein Ranking der eingehenden Bewerbungen erstellen soll. 2018 kam heraus, dass der Bewerbungsroboter Frauen diskriminiert. Der Algorithmus wurde mit Daten von bereits eingestellten Bewerber*innen trainiert und sollte so lernen, welche Eigenschaften Amazon bevorzugt. Jedoch wurden in den vergangenen Jahren überwiegend Männer eingestellt.
Lies mehr über diese Schlagzeile.
Studie findet geschlechts- und hauttypspezifischen Bias in Software zur Gesichtsanalyse
Die Ergebnisse einer Studie zeigen, dass einige bekannte KI-Systeme zur Gesichtserkennung wesentlich schlechter das Geschlecht einer Person bestimmen, wenn es sich um Frauen handelt, vor allem Frauen mit dunklem Hauttyp. Die Untersuchung zeigt eine Fehlerquote von 0,8 Prozent bei hellhäutigen Männern und 34,7 Prozent bei dunkelhäutigen Frauen.
Lies mehr über diese Schlagzeile.
US-Justiz: Algorithmen benachteiligen systematisch Afroamerikaner*innen
In den USA wurde jahrelang eine Software namens COMPAS eingesetzt, die anhand verschiedener Faktoren das Rückfallrisiko von Angeklagten berechnen soll. Allerdings zeigt sich, dass COMPAS abhängig von der Ethnie unterschiedliche Fehler macht. So werden Afroamerikaner*innen häufiger mit einem zu hohen Risiko einer erneuten Straffälligkeit eingeschätzt.
Lies mehr über diese Schlagzeile.
KI-Systeme können starke Auswirkungen auf Wirtschaft und Gesellschaft haben!
Im Zweifel können KI-Systeme uns und unserer Gesellschaft schaden. KI-Systeme müssen daher unter Berücksichtigung der Fairness konzipiert, entwickelt und überwacht werden.

Daher wollen wir dir im Detail erklären, wie es passieren kann, dass ein KI-System unfaire Entscheidungen treffen kann.
Previous slide
Next slide
Zu den Grundlagen

Warum ist es wichtig, sich mit Bias & Fairness in KI-Systemen genauer auseinanderzusetzen?

Bias in algorithmischen Entscheidungen betrifft Menschen bereits heute in großem Maße!
Klicke dich durch die Slideshow und erfahre mehr!
Wenn Künstliche Intelligenz (KI) Schlagzeilen macht...
dann allzu oft aufgrund von Problemen mit Bias und daraus resultierenden unfairen, diskriminierenden Entscheidungen.

Klicke auf den rechten Pfeil, um einige der berüchtigten Schlagzeilen der letzten Jahre zu lesen.
Amazon: Der Bewerbungsroboter diskriminiert Frauen
Im Jahr 2014 entwickelte Amazon einen Algorithmus, der ein Ranking der eingehenden Bewerbungen erstellen soll. 2018 kam heraus, dass der Bewerbungsroboter Frauen diskriminiert. Der Algorithmus wurde mit Daten von bereits eingestellten Bewerber*innen trainiert und sollte so lernen, welche Eigenschaften Amazon bevorzugt. Jedoch wurden in den vergangenen Jahren überwiegend Männer eingestellt.
Lies mehr über diese Schlagzeile.
Studie findet geschlechts- und hauttypspezifischen Bias in Software zur Gesichtsanalyse
Die Ergebnisse einer Studie zeigen, dass einige bekannte KI-Systeme zur Gesichtserkennung wesentlich schlechter das Geschlecht einer Person bestimmen, wenn es sich um Frauen handelt, vor allem Frauen mit dunklem Hauttyp. Die Untersuchung zeigt eine Fehlerquote von 0,8 Prozent bei hellhäutigen Männern und 34,7 Prozent bei dunkelhäutigen Frauen.
Lies mehr über diese Schlagzeile.
US-Justiz: Algorithmen benachteiligen systematisch Afroamerikaner*innen
In den USA wurde jahrelang eine Software namens COMPAS eingesetzt, die anhand verschiedener Faktoren das Rückfallrisiko von Angeklagten berechnen soll. Allerdings zeigt sich, dass COMPAS abhängig von der Ethnie unterschiedliche Fehler macht. So werden Afroamerikaner*innen häufiger mit einem zu hohen Risiko einer erneuten Straffälligkeit eingeschätzt.
Lies mehr über diese Schlagzeile.
KI-Systeme können starke Auswirkungen auf Wirtschaft und Gesellschaft haben!
Im Zweifel können KI-Systeme uns und unserer Gesellschaft schaden. KI-Systeme müssen daher unter Berücksichtigung der Fairness konzipiert, entwickelt und überwacht werden.

Daher wollen wir dir im Detail erklären, wie es passieren kann, dass ein KI-System unfaire Entscheidungen treffen kann.
Previous slide
Next slide
Zu den Grundlagen

Hast du noch Fragen oder Anregungen?
Wir freuen uns über jede Rückmeldung.

Nur mit deinem Feedback können wir unsere Lerneinheit gezielt weiterentwickeln.

In unserer Lerneinheit kombinieren wir theoretische Wissensvermittlung mit praktischen Übungen. 

Die Bearbeitungszeit benötigt inklusive
praxisnaher Übungen etwa 90 Minuten.

Los geht's

In unserer Lerneinheit kombinieren wir theoretische Wissensvermittlung mit praktischen Übungen. 

Die Bearbeitungszeit benötigt inklusive
praxisnaher Übungen etwa 90 Minuten.

Los geht's