Ortalama Kareler Hatası ve Artık Kareler Toplamı

31

Vikipedi tanımlarına bakarak:

Ortalama Kare Hatası (MSE)
Kalan Kareler Toplamı (RSS)

Bana öyle geliyor ki

MSE = \frac{1}{N-} RSS = \frac{1}{N-} Σ (f_{ben} - y_{ben})^{2}

$\text{MSE} = \frac{1}{N} \text{RSS} = \frac{1}{N} \sum (f_i -y_i)^2$

burada örnek sayısıdır ve bizim . $N$ $f_i$ $y_i$

Ancak, Wikipedia makalelerinden hiçbiri bu ilişkiden bahsetmiyor. Niye ya? Bir şey mi kaçırıyorum?

residuals mse

— alay etmek
kaynak

6

Bunun yararsız ve düşmanca göründüğünü biliyorum, ama bariz olduğu için bundan bahsetmiyorlar. Ayrıca, burada biraz dikkatli olmak istiyorsun. Genellikle, gerçek ampirik çalışmalarda bir MSE ile karşılaştığınızda, , bölünmez, fakat , bölünür; burada , bazı regresyon modelinde sağ taraf değişkenlerin sayısıdır (kesişme dahil).

R S S

$RSS$

N

$N$

R S S

$RSS$

N - K

$N-K$

K

$K$

— Bill,

10

@Bill: Evet, tam olarak Vikipedi ile bağlantılı makalelere yol açan bir ilişki türüdür. Özgürlüklerin derecesiyle ilgili düşünceniz, bunun açıkça belli olmadığını ve kesinlikle söylemeye değer bir şey olduğunu gösteriyor.

— bluenote10

2

@Bill: Kabul, ancak barizlik çok özneldir. İstatistik / makine öğrenen gri alan, gösterim cehennemiyle doludur ve bu nedenle açık olması iyidir.

— rnoodle

30

Aslında Vikipedi'de Ortalama kare hata Regresyon bölümünde söz edilir :

Regresyon analizinde, ortalama kare hata terimi bazen hata varyansının tarafsız tahminine atıfta bulunmak için kullanılır: artık karelerin toplamı serbestlik derecelerinin sayısına bölünür.

Ayrıca burada bazı bilgileri de bulabilirsiniz: İstatistiklerdeki hatalar ve artıklar Bu, ortalama kareler hatası ifadesinin farklı durumlarda farklı anlama gelebileceğini söylüyor, bu bazen zor.

— whenov
kaynak

4

Ancak, Kare Erros (SSE) ve Kalıntı Kareler (RSS) toplamının bazen değişmeden kullanıldığını ve okurların kafasını karıştırdığını unutmayın. Örneğin , lineer regresyon hakkında daha fazla bilgi için bu URL’yi kontrol edin: https://365datascience.com/sum-squares/ .

İstatistiksel açıdan kesinlikle konuşursak, Hatalar ve Kalıntılar tamamen farklı kavramlardır. Hatalar esas olarak gerçek gözlemlenen örnek değerler ile öngörülen değerler arasındaki farkı ifade eder ve çoğunlukla Kök anlamına gelir Karekök Hatalar (RMSE) ve Ortalama Absollute Hataları (MAE) gibi istatistik ölçümlerinde kullanılır. Aksine, artıklar yalnızca bağımlı değişkenler ve doğrusal regresyondan elde edilen tahminler arasındaki farkları ifade eder.

— Dr.CYY
kaynak

0

MSE'nin RMSE'nin yüzdesi olduğunu düşünürsek, bunun doğru olduğunu sanmıyorum. Örneğin, tahminler ve gözlemlerle ilgili bir dizi örneklenmiş veriye sahipsiniz, şimdi doğrusal bir regresyon yapmaya çalışıyorsunuz: Observation (O) = a + b X Prediction (P). Bu durumda, MSE, O ve P arasındaki kare farkının toplamıdır ve örneklem büyüklüğü N'ye bölünür.

Ancak, doğrusal regresyonun nasıl performans gösterdiğini ölçmek istiyorsanız, Ortalama Kare Kalıntısını (MSR) hesaplamanız gerekir. Aynı durumda, ilk önce gerçek gözlem değerleri ile lineer regresyondan elde edilen tahmin edilen gözlemler arasındaki kareler arasındaki farkların toplamına karşılık gelen Artık Kareler Toplamı (RSS) hesaplanırdı. Sonra, RSS için N-2'ye bölünür . MSR'yi al.

Basitçe söylemek gerekirse, örnekte MSE, RSS / N kullanılarak tahmin edilemez, çünkü RSS bileşeni artık MSE'yi hesaplamak için kullanılan bileşen için aynı değildir.

— Dr.CYY
kaynak

1

Bu cevabı anlamıyorum.

— Michael R. Chernick

Bahsedilen örneklenmiş tahmin örneğine ve gözlemlenen veri değerlerine dayanarak, doğrusal regresyon oluşturulmuştur: Gözlem (O) = a + b X Tahmin (P) (a, b sırasıyla kesişme ve eğimdir). Bu durumda, MSE = Σ (OP) ^ 2 / n, ki burada Σ (OP) ^ 2, Kare Erros (SSE) toplamı ve n, örneklem büyüklüğüdür. Ancak, Ortalama Kare Kalıntıları (MSR) = Σ (OO´) ^ 2 / n-2, Σ (OO) ^ 2, Kalan Toplam Kareler (RSS) ve O = a + b X P. MSR değerine eşittir ve RSS, genellikle lineer regresyonun genel önemini test etmek için kullanılır. Ayrıca not edin, SSE = Sistematik Erros (SE) + RSS, burada SE = Σ (PO´) ^ 2

— Dr.CYY