Die Psychosen der Künstlichen Intelligenz

ISBN-13: 9783689045531 / Niemiecki / Miękka / 204 str.

Carl Whittaker

Opis

Die Psychosen der Künstlichen Intelligenz bezeichnen spielerisch eine Reihe von Fehlfunktionen und unvorhersehbaren Verhaltensweisen, die bei KI-Systemen auftreten können. Diese Phänomene sind besorgniserregend, da sie zu schwerwiegenden und oft unerwarteten Konsequenzen führen können. Solche "Psychosen" treten auf, wenn KI-Systeme aufgrund von unvollständigen, fehlerhaften oder voreingenommenen Daten trainiert werden, was zu falschen Entscheidungen und unangemessenen Verhaltensweisen führt. Ein prominentes Beispiel für eine solche Fehlfunktion ist das Verstärken bestehender Vorurteile. Wenn eine KI auf Daten trainiert wird, die historische oder gesellschaftliche Vorurteile enthalten, kann sie diese Vorurteile unbewusst übernehmen und weiter verstärken. Dies kann zu diskriminierenden Entscheidungen führen, etwa bei der Kreditvergabe, der Einstellung von Mitarbeitern oder im Strafjustizsystem. Solche Verzerrungen können Minderheiten und marginalisierte Gruppen systematisch benachteiligen, wodurch bestehende Ungleichheiten weiter zementiert werden. Ein weiteres Beispiel sind sicherheitskritische Fehlfunktionen. In Bereichen wie der medizinischen Diagnose, der autonomen Fahrzeugsteuerung oder der industriellen Automation können Fehlentscheidungen schwerwiegende Folgen haben. Ein autonomes Fahrzeug, das eine Fußgängerin falsch identifiziert und nicht rechtzeitig stoppt, oder ein medizinisches System, das eine Krankheit nicht korrekt diagnostiziert, kann lebensgefährliche Konsequenzen nach sich ziehen. Um diese und andere Probleme zu erkennen und zu eliminieren, ist ein interdisziplinärer Ansatz erforderlich. Techniken zur Fehlererkennung und Fehlerbehebung werden ausführlich erläutert. Dies umfasst unter anderem die Verwendung fortschrittlicher Algorithmen zur Anomalieerkennung sowie die Implementierung von Überwachungssystemen, die die Leistung der KI in Echtzeit analysieren. All dies und viele weitere Elemente der KI-Forschung stellt der Autor umfassend vor. Carl Whittaker ist der Autor des im Dezember 2023 erschienen Grundlagenwerks "Die Psychologie der Künstlichen Intelligenz" (ISBN: 978-3-911075-93-0)