Warum mehr Daten nicht immer bessere Modelle ergeben

Die häufigste Annahme über KI in der Kapitalanlage lautet: wer mehr Daten hinzufügt, erhält bessere Vorhersagen. In der Praxis gilt das Gegenteil häufig. Eine zusätzliche Datenquelle erhöht die Trefferquote nur dann, wenn sie ein Signal trägt, das im bestehenden Datensatz noch nicht enthalten ist. Enthält sie nur Variationen des bisherigen Rauschens, verschlechtert sie das Ergebnis.

Signal und Rauschen

Ein Modell lernt, indem es Strukturen aus Daten extrahiert. Strukturen sind das Signal; alles übrige ist Rauschen. Wer eine neue Datenquelle hinzufügt, erhöht gleichzeitig Signal und Rauschen — das Verhältnis entscheidet. Eine Sentiment-Datenbank, die Nachrichtenmeldungen auswertet, kann ein neues Signal tragen. Dieselbe Datenbank, ausgeweitet auf Social-Media-Posts, bringt oft nur Rauschen, weil die Sprache dort lauter, aber nicht trennschärfer wird.

Die Frage ist nicht, wieviel Daten ein Modell hat, sondern wieviel Signal pro Dateneinheit.

Diminutive Erträge

Ab einer bestimmten Menge an Daten sinkt der Grenzertrag jeder zusätzlichen Beobachtung. Das ist kein technisches Versagen, sondern ein statistischer Effekt: die wichtigsten Strukturen werden früh gelernt, was übrig bleibt, sind Feinheiten, die oft instabil sind. Wer das Modell weiter trainiert, lernt zunehmend Eigenheiten der Vergangenheit statt allgemeingültige Muster.

Was das für die Redaktion bedeutet

Die Beiträge hier prüfen Verfahren nicht nach der Menge der verarbeiteten Daten, sondern nach dem, was sie an Erklärungskraft hinzufügen. Ein Modell, das mit dreissig Quellen arbeitet, ist nicht automatisch besser als eines mit fünf — es ist nur teurer. Die Frage, die wir stellen, lautet deshalb: welches Signal trägt die zusätzliche Quelle, und lässt es sich von anderen Quellen trennen?