Prof. Dr.-Ing. Rüdiger Lehmann

Improved critical values for extreme normalized and studentized residuals in Gauss-Markov models

Dokumente und Dateien

Hinweis

Bitte nutzen Sie beim Zitieren immer folgende Url:

http://nbn-resolving.de/urn:nbn:de:bsz:520-qucosa-148651

Kurzfassung in Englisch

We investigate extreme studentized and normalized residuals as test statistics for outlier detection in the Gauss-Markov model possibly not of full rank. We show how critical values (quantile values) of such test statistics are derived from the probability distribution of a single studentized or normalized residual by dividing the level of error probability by the number of residuals. This derivation neglects dependencies between the residuals. We suggest improving this by a procedure based on the Monte Carlo method for the numerical computation of such critical values up to arbitrary precision. Results for free leveling networks reveal significant differences to the values used so far. We also show how to compute those critical values for non‐normal error distributions. The results prove that the critical values are very sensitive to the type of error distribution.

Kurzfassung in Deutsch

Wir untersuchen extreme studentisierte und normierte Verbesserungen als Teststatistik für die Ausreißererkennung im Gauß-Markov-Modell von möglicherweise nicht vollem Rang. Wir zeigen, wie kritische Werte (Quantilwerte) solcher Teststatistiken von der Wahrscheinlichkeitsverteilung einer einzelnen studentisierten oder normierten Verbesserung abgeleitet werden, indem die Irrtumswahrscheinlichkeit durch die Anzahl der Verbesserungen dividiert wird. Diese Ableitung vernachlässigt Abhängigkeiten zwischen den Verbesserungen. Wir schlagen vor, diese Prozedur durch Einsatz der Monte-Carlo-Methode zur Berechnung solcher kritischen Werte bis zu beliebiger Genauigkeit zu verbessern. Ergebnisse für freie Höhennetze zeigen signifikante Differenzen zu den bisher benutzten Werten. Wir zeigen auch, wie man solche Werte für nicht-normale Fehlerverteilungen berechnet. Die Ergebnisse zeigen, dass die kritischen Werte sehr empfindlich auf den Typ der Fehlerverteilung reagieren.

weitere Metadaten

übersetzter Titel
(Deutsch)
Verbesserte kritische Werte für extreme normierte und studentisierte Verbesserungen in Gauß-Markov-Modellen
Schlagwörter
(Deutsch)
Ausreißererkennung, Gauß-Markov-Modell, Hypothesentest
Schlagwörter
(Englisch)
Outlier detection, Gauss–Markov model, Hypothesis testing
DDC Klassifikation510
RVK KlassifikationZI 9075
RVK KlassifikationZI 9080
Beteiligte Institution(en) 
HochschuleHTW Dresden
FakultätFakultät Geoinformation
Institution(en) 
InstitutionSpringer Verlag
DokumententypArtikel
SpracheEnglisch
Erstveröffentlichungjahr der Druckausgabe2012
Veröffentlichungsdatum (online)06.08.2014
persistente URNurn:nbn:de:bsz:520-qucosa-148651
QuelleJournal of Geodesy 86.2012,12, S. 1137-1146, ISSN 0949-7714
DOI10.1007/s00190-012-0569-0
Externe Referenzhttp://dx.doi.org/10.1007/s00190-012-0569-0
Erstveröffentlichung bei Springer in "Journal of Geodesy"

Hinweis zum Urheberrecht

Diese Website ist eine Installation von Qucosa - Quality Content of Saxony!
Sächsische Landesbibliothek Staats- und Universitätsbibliothek Dresden