Normalitätstest
Prüft eine Stichprobe mit den Tests von Shapiro–Wilk, Kolmogorow–Smirnow (einschließlich Lilliefors-Korrektur) und Anderson–Darling auf Normalverteilung und erstellt zusätzlich ein Histogramm und einen Q–Q-Plot.
Der Inhalt ist unter der Creative Commons Namensnennung / Weitergabe unter gleichen Bedingungen 3.0 (nicht portiert) lizenziert. Dies bedeutet, dass Sie diesen Inhalt unter den gleichen Lizenzbedingungen frei weitergeben oder ändern dürfen, jedoch mit Zuordnung zum Entwickler indem Sie einen Hyperlink auf Ihrer Webseite zu dieser Arbeit https://de.planetcalc.com/11020/ platzieren. Des Weiteren ändern Sie bitte keine Verweise auf das Originalwerk (falls vorhanden) das in diesem Inhlat vorhanden ist.
Dieser Online-Rechner prüft, ob eine Stichprobe mit einer Normalverteilung vereinbar ist. Er berechnet die Tests von Shapiro–Wilk, Kolmogorow–Smirnow (einschließlich der Lilliefors-Korrektur) und Anderson–Darling und erstellt außerdem ein Histogramm mit Normalverteilungskurve sowie einen Q–Q-Plot der Normalverteilung.
Formeln und etwas Theorie finden Sie unter dem Rechner.
Was genau getestet wird
Die Normalverteilung (Normalgesetz, Gauß-Verteilung) ist eine stetige Verteilung mit der Dichte
wobei der Erwartungswert,
die Standardabweichung und
ist. Ihr Graph ist eine symmetrische Glockenkurve mit dem Zentrum
. Einen separaten Rechner für die Dichte und die Verteilungsfunktion der Normalverteilung finden Sie hier: Normalverteilung.
Angenommen, wir wiegen dasselbe Kalibriergewicht zwanzigmal. Die Anzeigen der Waage schwanken leicht: 999,8 g, 1000,1 g, 1000,0 g und so weiter. Wir können annehmen, dass der zufällige Fehler der Waage normalverteilt ist. Aber zwanzig Zahlen zeigen uns nicht die Verteilung selbst — sie zeigen nur, wie stark die Beobachtungen ihr widersprechen.
Daher formulieren wir die Nullhypothese : Die Stichprobe stammt aus einer Normalverteilung. Die Alternativhypothese
besagt das Gegenteil. Beim klassischen Kolmogorow–Smirnow-Test mit vorgegebenen Parametern ist die Hypothese enger: Geprüft wird die konkrete Verteilung
, nicht irgendeine Normalverteilung.
Jeder Test liefert eine Teststatistik und einen p-Wert. Der p-Wert ist die Wahrscheinlichkeit, bei zutreffender eine ebenso starke oder noch stärkere Abweichung von der Normalverteilung zu erhalten wie in unserer Stichprobe. Er ist nicht die Wahrscheinlichkeit, dass die Hypothese der Normalverteilung zutrifft.
Aber wie erhalten wir aus einer einzigen Zahl — der Teststatistik — eine Wahrscheinlichkeit? Dafür müssen wir die Nullverteilung der Statistik kennen, also die Verteilung ihrer Werte bei zutreffender . Stellen Sie sich vor, wir ziehen viele neue Stichproben desselben Umfangs
aus einer Normalverteilung und berechnen jedes Mal die Statistik erneut. Dann bestimmen wir den Anteil der Werte, die der Normalverteilung mindestens ebenso stark widersprechen wie der Wert unserer Stichprobe. Dieser Anteil ist der p-Wert.
Die Richtung der Ungleichung hängt vom Test ab: Beim Shapiro–Wilk-Test sind kleine -Werte verdächtig, bei Kolmogorow–Smirnow und Anderson–Darling dagegen große
- und
-Werte. Wir können daher nicht einfach für jede Statistik die Fläche rechts von ihr unter einer gewöhnlichen Normalverteilungskurve nehmen. Jede Statistik hat ihre eigene Nullverteilung, die von
abhängt; bei Kolmogorow–Smirnow außerdem davon, ob die Parameter aus der Stichprobe geschätzt wurden. In der Praxis simuliert der Rechner keine Tausende von Stichproben: Er verwendet exakte Formeln, sofern verfügbar, und veröffentlichte Approximationen der Nullverteilungen, wenn eine exakte Berechnung zu schwierig ist. Für jeden Test wird unten angegeben, wie der p-Wert bestimmt wird.
Anschließend wird der p-Wert mit dem gewählten Signifikanzniveau verglichen:
- Ist
, wird die Hypothese der Normalverteilung abgelehnt. Unter den gewählten Bedingungen ist die Abweichung zu groß, um sie für eine plausible Zufallsschwankung zu halten.
- Ist
, wird die Hypothese der Normalverteilung nicht abgelehnt. Sie ist damit aber nicht bewiesen: Eine Abweichung kann vorhanden sein, und die Stichprobe kann einfach zu klein sein, um sie zu erkennen.
Was bedeutet das in der Praxis? Wenn und
gilt, wird die Normalverteilung abgelehnt. Bei
bedeutet dies nicht eine Wahrscheinlichkeit von 91 % für Normalverteilung. Es bedeutet nur, dass solche oder noch stärkere Abweichungen bei zutreffender Nullhypothese recht häufig vorkommen.
Stichprobenmittel und zwei Standardabweichungen
Für eine Stichprobe berechnet der Rechner das Stichprobenmittel
und die korrigierte Stichprobenstandardabweichung
wobei der Stichprobenumfang ist. Der Divisor
wird in den Tests von Lilliefors und Anderson–Darling verwendet.
Für die Normalverteilungskurve über dem Histogramm verwendet der Rechner die Maximum-Likelihood-Schätzung von :
Somit unterscheiden sich und
durch ihre Divisoren:
und
. Der Rechner zeigt beide Werte an. Bei großem
verschwindet der Unterschied fast, bei kleinen Stichproben sollte man ihn nicht unter den Teppich kehren.
Shapiro–Wilk-Test
Der Shapiro–Wilk-Test wurde speziell zur Prüfung auf Normalverteilung entwickelt. Zuerst werden die Werte der Stichprobe geordnet: . Anschließend wird die folgende Statistik berechnet1
wobei die geordneten Stichprobenwerte,
das Stichprobenmittel und
Koeffizienten sind, die vom Stichprobenumfang abhängen und aus den Eigenschaften der Ordnungsstatistiken einer Normalverteilung gewonnen werden.
Der Zähler vergleicht die geordnete Stichprobe mit dem für normale Daten erwarteten Muster, der Nenner misst ihre Gesamtstreuung. Die Werte von liegen zwischen null und eins; kleine
-Werte deuten auf eine Abweichung von der Normalverteilung hin. Die Entscheidung wird jedoch nicht anhand einer willkürlichen Schwelle wie „
bedeutet normal“ getroffen, sondern anhand des p-Werts.
Da Abweichungen von der Normalverteilung kleinen -Werten entsprechen, ist der p-Wert hier der linke Rand der Nullverteilung:
wobei der für unsere Stichprobe berechnete Wert ist. Zum Beispiel bedeutet
, dass bei zutreffender
nur 1 % der Stichproben desselben Umfangs einen ebenso kleinen oder noch kleineren
-Wert liefern.
Der Rechner wendet diesen Test bei an. Die exakte Nullverteilung von
ist sehr unhandlich, daher wird die Approximation von Royston verwendet:
wird mit einem Logarithmus und von
abhängigen Koeffizienten auf eine Normalskala transformiert, mit der dann die Wahrscheinlichkeit des linken Rands berechnet wird.2 Bei
zeigt die Testzeile einen Strich, während die übrigen Prüfungen weiterhin ausgeführt werden.
Kolmogorow–Smirnow-Test und Lilliefors-Korrektur
Die empirische Verteilungsfunktion ist der Anteil der Beobachtungen, die nicht überschreiten:
wobei gleich eins ist, wenn die Bedingung erfüllt ist, und sonst gleich null;
ist der Stichprobenumfang.
Der Kolmogorow–Smirnow-Test (KS-Test) vergleicht die empirische Funktion mit der theoretischen Verteilungsfunktion der Normalverteilung
:
Hier ist der größte vertikale Abstand zwischen den beiden Verteilungsfunktionen, und
bedeutet, dass das Maximum über alle möglichen
gebildet wird. Je größer
ist, desto stärker ist die Abweichung.
Und hier gibt es einen wichtigen Unterschied. Woher kommen Erwartungswert und Standardabweichung für ?
- Die Parameter sind im Voraus bekannt. Dann werden die vorgegebenen
und
verwendet; dies ist der klassische Kolmogorow–Smirnow-Test. Beispielsweise kann die technische Spezifikation eines Geräts einen Fehler mit Erwartungswert 0 und Standardabweichung 0,1 g vorschreiben. Wir prüfen genau dieses Modell, statt es an neue Messungen anzupassen. Bei
verwendet der Rechner einen exakten p-Wert, bei größeren Stichproben numerische Approximationen.
- Die Parameter werden aus derselben Stichprobe geschätzt. Anstelle von
und
setzen wir
und
ein. In diesem Fall wird der Lilliefors-Test angewendet. Die Statistik
sieht gleich aus, aber ihre Verteilung unter der Nullhypothese ist anders, und damit auch der p-Wert.3 Der gewöhnliche Kolmogorow–Smirnow-p-Wert darf nach einer Parameteranpassung nicht verwendet werden — diese Rechnung wäre den Daten gegenüber zu nachsichtig.
Bei beiden Varianten sind große -Werte verdächtig, daher wird der rechte Rand der Nullverteilung verwendet:
wobei die beobachtete maximale Abweichung zwischen den Verteilungsfunktionen ist. Die Nullverteilungen sind jedoch unterschiedlich. Beim klassischen Test sind die Parameter
und
festgelegt. Beim Lilliefors-Test werden die Parameter für jede hypothetische normalverteilte Stichprobe erneut geschätzt, und der Abstand
fällt gewöhnlich kleiner aus — schließlich wird die Kurve gerade an diese Stichprobe angepasst. Derselbe Zahlenwert
kann daher in den beiden Modi unterschiedliche p-Werte ergeben.
Mit anderen Worten: Die Lilliefors-Korrektur verändert nicht die Zahl selbst, sondern die Art, aus dieser Zahl eine Entscheidung zu gewinnen. Der Rechner berechnet den Lilliefors-Test bei
; sein rechter Rand und der p-Wert werden mit analytischen Approximationen bestimmt.
Anderson–Darling-Test
Der Anderson–Darling-Test vergleicht ebenfalls eine Stichprobe mit einer theoretischen Verteilung, gewichtet aber deren Ränder stärker. Für eine Normalverteilung mit aus der Stichprobe geschätztem Erwartungswert und geschätzter Standardabweichung lautet die Statistik
wobei die geordneten Stichprobenwerte,
die Verteilungsfunktion der Normalverteilung mit den Parametern
und
und
der Stichprobenumfang ist.
Vor der Berechnung des p-Werts wird die Statistik entsprechend dem Stichprobenumfang korrigiert:
Der Rechner zeigt in der Tabelle das ursprüngliche , bestimmt den p-Wert aber aus der korrigierten Statistik. Große
-Werte sprechen gegen die Normalverteilung, daher wird wieder der rechte Rand benötigt:
Die Nullverteilung von ist keine Normalverteilung. Dafür wird die stückweise Approximation von Stephens verwendet: Je nachdem, in welchem Intervall
liegt, approximiert eine von fünf Formeln die gesuchte Wahrscheinlichkeit.4 Der Test wird bei
berechnet.
Histogramm mit Normalverteilungskurve
Ein Histogramm zeigt, wie sich die Beobachtungen auf Intervalle verteilen. Der Rechner stellt es in Einheiten der Dichte dar: Die Höhe eines Balkens ist
wobei die Anzahl der Beobachtungen im Intervall,
der Stichprobenumfang und
die Intervallbreite ist. Daher ist die Fläche jedes Balkens gleich dem Anteil der Beobachtungen in diesem Intervall, und die Gesamtfläche des Histogramms ist eins. Dadurch kann die Dichte der Normalverteilung
darübergelegt werden — beide Größen verwenden dieselbe Skala.
Ein Beispiel: Wenn 4 von 20 Messungen in ein Intervall der Breite 0,4 g fallen, beträgt die Balkenhöhe . Seine Fläche ist
, das Intervall enthält also 20 % der Stichprobe.
Die Intervallbreite wird automatisch nach der Regel von Freedman–Diaconis gewählt:
wobei der Interquartilsabstand und
und
das erste und dritte Quartil der Stichprobe sind. Wenn diese Breite nicht bestimmt werden kann, etwa bei einem Interquartilsabstand von null, wird die Anzahl der Intervalle als
gewählt.5
Worauf sollten Sie achten? Auf deutliche Asymmetrie, mehrere getrennte Gipfel, große Lücken und Ausreißer. Aber verlangen Sie keine perfekte Glocke: Eine kleine Stichprobe aus einer strengen Normalverteilung kann ein recht schiefes Histogramm liefern. Auch der Zufall hat ein Recht auf Unebenheiten.
Q–Q-Plot der Normalverteilung
Ein Q–Q-Plot (Quantil-Quantil-Plot) vergleicht Quantile der Stichprobe mit den Quantilen einer theoretischen Verteilung. Für den Q–Q-Plot der Normalverteilung stellt der Rechner die Punkte
dar, wobei die inverse Verteilungsfunktion der Standardnormalverteilung und
die geordnete Stichprobe ist. Die Wahrscheinlichkeiten
heißen Plotting-Positionen: Sie geben an, welchem theoretischen Quantil die
-te kleinste Beobachtung zugeordnet wird.
Diese Formel ist die Regel des schwedischen Statistikers Gunnar Blom.6 Warum die merkwürdigen Zahlen 0,375 und 0,25? Die einfachste Wahl würde für die letzte Beobachtung
ergeben, und das entsprechende Quantil der Normalverteilung
wäre unendlich — einen solchen Punkt kann man nicht zeichnen. Bloms Positionen bleiben von null und eins entfernt, sind symmetrisch um
und approximieren die erwarteten Positionen der Ordnungsstatistiken einer normalverteilten Stichprobe gut.
Beispielsweise ergeben sich bei die Werte
,
,
und
. Das Minimum wird also etwa dem Quantil bei 14,7 % zugeordnet und das Maximum dem Quantil bei 85,3 %, nicht einem unendlichen Punkt am Ende der Verteilung.
Die Referenzgerade verläuft durch die entsprechenden ersten und dritten Quartile der theoretischen Quantile und der Stichprobenquantile. Diese Wahl ist robuster gegenüber Ausreißern als eine Gerade, die nur auf Erwartungswert und Standardabweichung beruht.
So lesen Sie den Plot:
- Punkte nahe der Geraden — keine ernsthaften visuellen Widersprüche zur Normalverteilung. Eine exakte Übereinstimmung ist natürlich nicht erforderlich.
- Eine gleichmäßige Krümmung — die Verteilung kann asymmetrisch sein.
- Eine S-förmige Abweichung — die Ränder der Stichprobe unterscheiden sich von denen der Normalverteilung: Sie sind stärker oder schwächer ausgeprägt.
- Einzelne Punkte weit außerhalb des allgemeinen Musters — mögliche Ausreißer.
- Stufen — die Daten enthalten viele wiederholte Werte oder die Größe ist von Natur aus diskret.
Der Q–Q-Plot ist besonders nützlich, wenn ein Histogramm von der Wahl der Intervalle abhängt. Er ersetzt die Tests nicht, hilft aber zu verstehen, wie genau sich die Daten von normalverteilten Daten unterscheiden.
Rechenbeispiel
Wir behalten die 20 Standardwerte des Rechners bei — fiktive Messungen einer Größe nahe 5. Wir wählen und den Modus, der die Parameter aus der Stichprobe schätzt. Dann erhalten wir folgende Ergebnisse:
| Test | Teststatistik | p-Wert | Entscheidung |
|---|---|---|---|
| Shapiro–Wilk | 0.911875 | Normalverteilung wird nicht abgelehnt | |
| Lilliefors | 0.840087 | Normalverteilung wird nicht abgelehnt | |
| Anderson–Darling | 0.819790 | Normalverteilung wird nicht abgelehnt |
Alle p-Werte liegen deutlich über 0,05. Diese Daten liefern daher keine Gründe, die Normalverteilung abzulehnen. Das ist nicht dasselbe wie die Aussage, die Zahlen seien nachweislich normalverteilt. Die Standardwerte können gelöscht werden; sie dienen nur zur Veranschaulichung.
Was ist, wenn ein Test die Normalverteilung ablehnt und die beiden anderen nicht? Das ist kein Grund für eine Abstimmung mit zwei Stimmen gegen eine. Die Tests reagieren unterschiedlich empfindlich auf Asymmetrie, Verteilungsränder und andere Abweichungen; außerdem gelten für sie unterschiedliche Beschränkungen des Stichprobenumfangs. Betrachten Sie den Q–Q-Plot, das Histogramm und die Art der Daten. Die zusammenfassende Zeile des Rechners meldet nur, ob mindestens ein anwendbarer Test die Normalverteilung ablehnt; sie ist eine Zusammenfassung der Ergebnisse, kein vierter Test mit eigenem p-Wert.
Anwendungsbedingungen
- Die Beobachtungen müssen unabhängig sein. Wenn jede Messung von der vorherigen abhängt, können gewöhnliche p-Werte irreführend sein. Bei Zeitreihen muss zuerst ihre Struktur berücksichtigt werden.
- Der Stichprobenumfang ist wichtig. Bei kleinem
kann ein Test eine tatsächliche Abweichung von der Normalverteilung übersehen. Bei sehr großem
kann er die Normalverteilung wegen einer Abweichung ablehnen, die für Ihre Aufgabe praktisch unerheblich ist. Betrachten Sie p-Werte daher zusammen mit den Grafiken und gesundem Menschenverstand.
- Die Tests haben numerische Grenzen. In diesem Rechner ist Shapiro–Wilk bei
anwendbar, Lilliefors bei
und Anderson–Darling bei
. Der klassische Kolmogorow–Smirnow-Test erfordert im Voraus festgelegte
und
. Einige p-Werte werden mit Approximationen berechnet, wie in den Hinweisen der Ergebnistabelle angegeben.
- Identische Werte sind nicht geeignet. Wenn die gesamte Stichprobe aus einer einzigen wiederholten Zahl besteht, ist die Standardabweichung null und es existiert keine angepasste Normalverteilung. Der Rechner meldet in diesem Fall einen Fehler.
- Löschen Sie Ausreißer nicht nur für einen ansprechenden p-Wert. Prüfen Sie zuerst, ob ein Ausreißer ein Mess- oder Eingabefehler ist. Wenn die Beobachtung echt ist, verändert ihr Löschen die ursprüngliche Aufgabe.
- Die Ablehnung der Normalverteilung ist nicht das Ende der Analyse. Eine Transformation der Daten, ein anderes Verteilungsmodell oder nichtparametrische Methoden können helfen. Zur Schätzung eines Erwartungswerts bei großer Stichprobe hilft häufig der zentrale Grenzwertsatz. Sein Zusammenhang mit Konfidenzintervallen wird im Artikel Berechnung von Konfidenzintervallen erläutert.
-
NIST/SEMATECH. e-Handbook of Statistical Methods. Abschnitt „Anderson-Darling and Shapiro-Wilk tests“. NIST ↩
-
Royston P. Remark AS R94: A Remark on Algorithm AS 181: The W-test for Normality. Applied Statistics, 1995, vol. 44, pp. 547–551. DOI ↩
-
Dallal G. E., Wilkinson L. An Analytic Approximation to the Distribution of Lilliefors’ Test Statistic for Normality. The American Statistician, 1986, vol. 40, pp. 294–296. DOI ↩
-
Stephens M. A. EDF Statistics for Goodness of Fit and Some Comparisons. Journal of the American Statistical Association, 1974, vol. 69, pp. 730–737. DOI ↩
-
Freedman D., Diaconis P. On the Histogram as a Density Estimator:
Theory. Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete, 1981, vol. 57, pp. 453–476. DOI ↩
-
Blom G. Statistical Estimates and Transformed Beta-Variables. New York: John Wiley & Sons, 1958. ↩
Kommentare