Through a systematic literature review, this paper explores how some AI algorithms are biased, a situation that represents a major ethical and social risk, given that automated systems actively participate in a variety of decisions. It also discusses how the lack of diversity in AI development teams and training datasets increases the likelihood of bias. In addition, it highlights the ethical and social implications of these biases in different contexts, such as in the workplace, where automated hiring tools discriminate against female candidates, or in medicine, where diagnoses are less...

Anhand einer systematischen Literaturrecherche wird in diesem Papier untersucht, wie einige KI-Algorithmen voreingenommen sind, eine Situation, die ein großes ethisches und soziales Risiko darstellt, da automatisierte Systeme aktiv an einer Vielzahl von Entscheidungen beteiligt sind. Es wird auch erörtert, wie der Mangel an Vielfalt in KI-Entwicklungsteams und Trainingsdatensätzen die Wahrscheinlichkeit von Voreingenommenheit erhöht. Darüber hinaus werden die ethischen und sozialen Auswirkungen dieser Voreingenommenheit in verschiedenen Kontexten beleuchtet, z. B. am Arbeitsplatz, wo...