Wenn KI-Modelle auf unbalancierten, unvollständigen oder fehlerhaften Daten trainiert werden, kann das schwerwiegende Folgen für das errechnete Ergebnis haben. Bestehende Ungleichheiten können erlernt und damit noch vergrößert werden. Eine hohe Qualität der Datengrundlage ist daher unerlässlich, jedoch schwierig zu erreichen. "Ich fürchte, Daten sind nie perfekt," sagt Prof. Naumann. "Das ist eine Wunschvorstellung[.]. Nicht nur sollen sie relevant und vollständig sein, sondern es gibt noch viele weitere Eigenschaften. Sie sollten zum Beispiel aktuell sein, sie sollten glaubwürdig sein, verständlich, konsistent. Datenqualität kann man in vielen verschiedenen Dimensionen messen."

Um die Qualität dieser Daten zu erhöhen, gibt es daher auch verschiedene Ansätze. "Eine Möglichkeit besteht darin, die Trainingsdaten vor ihrer Verwendung zu bereinigen," erklärt Dr. Harmouch. Hier werden zum Beispiel weitere Datensätze hinzugefügt, die ein Ungleichgewicht ausgleichen. Mitunter kommen hier auch synthetische Daten zum Einsatz, die etwa im Anwendungsfall eines Einstellungsprozesses gleichzeitig den Datenschutz gewährleisten: "Wenn wir ein KI-Modell nicht mit Personaldaten füttern wollen, können wir statt diesen qualitativ hochwertige synthetische Daten generieren, die die gewünschte Stichprobe von Kandidaten für eine bestimmte Position simulieren."

Die gesamte Folge gibt es zu hören unter http://podcast.hpi.de/72-new-episode.

Falls Sie Interesse an einem Interview zum Thema "Datenqualität und KI" haben, melden Sie sich bitte bei presse@hpi.de.

Fundiertes Wissen über die digitale Welt, anschaulich und verständlich erklärt – das bietet der Wissenspodcast "Neuland" mit Experten des Hasso-Plattner-Instituts (HPI) unter: https://podcast.hpi.de, bei iTunes und Spotify. Einmal im Monat sprechen sie bei Neuland über aktuelle und gesellschaftlich relevante Digitalthemen, ihre Forschungsarbeit und über Chancen und Herausforderungen digitaler Trends und Entwicklungen.