Glossar
Bias
Eine Verzerrung in Daten oder Systemen, die dazu führt, dass Ergebnisse bestimmte Gruppen benachteiligen oder schief abbilden.
Praxisbeispiele
Gender-Bias in Bewerbungsalgorithmen
Ein Unternehmen trainiert ein Bewerbungssystem auf historischen Einstellungsdaten — in denen Frauen in technischen Positionen unterrepräsentiert waren. Das Modell lernt, männliche Bewerber höher zu gewichten, ohne dass dies explizit programmiert wurde. Der Bias entsteht aus den Daten, nicht aus einer Absicht.
Repräsentations-Bias in KI-Bilderzeugung
Wird ein Bildgenerator gebeten, »eine Ärztin« darzustellen, erzeugt er möglicherweise überproportional helle Hautfarben und westliche Merkmale — weil das Trainingsmaterial nicht divers genug war. Das Bild spiegelt gesellschaftliche Schieflage wider und verstärkt sie.
Quellen
Verwandte Begriffe
Weiter von hier: Im Wissens-Hub finden Sie den Überblick, in Aktuelles die laufenden Debatten und auf der Themenseite Medienkompetenz die größere Einordnung.