Błąd średniokwadratowy

Błąd średniokwadratowy, średni błąd kwadratowy, MSE (od ang. mean square error) estymatora ${\hat {\theta }}$ nieobserwowanego parametru $\theta$ definiowany jest jako:

$\operatorname {MSE} ({\hat {\theta }})=\operatorname {E} (({\hat {\theta }}-\theta )^{2})$

MSE jest wartością oczekiwaną kwadratu „błędu”, czyli różnicy między estymatorem a wartością estymowaną. Błąd średniokwadratowy spełnia tożsamość:

$\operatorname {MSE} ({\hat {\theta }})=\operatorname {D^{2}} ({\hat {\theta }})+(\operatorname {b} ({\hat {\theta }}))^{2},$

gdzie:

$\mathrm {D} ^{2}({\hat {\theta }})$ – wariancja estymatora ${\hat {\theta }},$

$b({\hat {\theta }})=E[({\hat {\theta }})]-\theta$ – obciążenie estymatora.

Obciążenie estymatora jest różnicą między wartością oczekiwaną estymatora a wartością szacowanego parametru.

Przykładowo można założyć, że:

$X_{1},\dots ,X_{n}\sim \operatorname {N} (\mu ,\sigma ^{2}),$

czyli jest to próba losowa o liczności $n$ z populacji o rozkładzie normalnym. Najczęściej używane estymatory $\sigma ^{2}$ to:

${\frac {1}{n}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}{\text{ oraz }}{\frac {1}{n-1}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2},$

gdzie:

${\overline {X}}=(X_{1}+\ldots +X_{n})/n$

jest średnią z próby. Pierwszy z tych estymatorów to estymator największej wiarygodności, który jest obciążony (to znaczy jego obciążenie jest niezerowe), ma jednak mniejszą wariancję od drugiego, który jest nieobciążony. Mniejsza wariancja w pewien sposób kompensuje obciążenie i średni błąd kwadratowy obciążonego estymatora jest nieco mniejszy niż nieobciążonego.

Niekiedy, zamiast błędu średniokwadratowego, korzysta się z RMSE (od ang. root mean square error), czyli średniej kwadratowej błędów, który jest po prostu pierwiastkiem kwadratowym z MSE.

Zobacz też

• odchylenie standardowe

Bibliografia

• Jacek Koronacki, Jan Mielniczuk: Statystyka dla studentów kierunków technicznych i przyrodniczych. Warszawa: WNT, 2006, s. 155 i 156. ISBN 83-204-3242-1.