Vorurteile in LLMs
Heute habe ich auf dem Weg zurück von der Arbeit die aktuelle Folge vom Podcast KI verstehen vom Deutschlandfunk gehört. Eigentlich ging es in der aktuellen Folge um KI in der Forschung. Was mir dabei in Erinnerung geblieben ist, war die Aussage, dass LLMs ja auch Biases – also Vorurteile – hätten und das auch ein Problem wäre. Da schwang mit, dass ein LLM eigene Vorurteile entwickeln könnte.
Das halte ich für falsch.
Vorurteile sind menschlich
LLMs werden mit Daten trainiert, die von uns Menschen erzeugt wurden. Darin sind natürlich auch unsere menschlichen Vorurteile enthalten. Das bedeutet für mich: LLMs haben per se keine eigenen Biases, sondern machen unsere menschlichen Vorurteile sichtbar.
Macht es das besser? Sicher nicht, aber KI macht es auch nicht schlimmer.