Fehlschluss · Schwere 2/3
Datenfischen
Aus vielen durchsuchten Variablen, Untergruppen oder Auswertungsvarianten wird nur der eine „signifikante“ Zusammenhang berichtet, der bei so vielen Versuchen zufällig erwartbar war.
Wer genug Auswertungen durchprobiert, findet fast sicher irgendeinen auffälligen Zusammenhang, rein durch Zufall. Berichtet man dann nur diesen Treffer, wirkt er wie eine Entdeckung. Das betrifft Studien ebenso wie politische Datenanalysen, Umfragen mit vielen Untergruppen oder Gutachten im Auftrag. Glaubwürdig sind Ergebnisse, deren Hypothese vorher feststand und die sich in neuen Daten bestätigen.
Beispiel
„Unsere Auswertung zeigt: In Bezirken mit Gratis-Kindergarten wählen Frauen zwischen 35 und 39 häufiger unsere Partei.“ – nach Durchsuchen von 200 Kombinationen aus Alter, Geschlecht und Maßnahmen.
So geht es besser
Offenlegen, wie viele Auswertungen gemacht wurden, Hypothesen vorab festlegen und auffällige Ergebnisse an neuen Daten überprüfen.