“Doymuş” bir model nedir?

Doymuş bir modelimiz olduğunu söylediğimizde ne kastedilmektedir?

Doymuş bir model, veri noktaları kadar tahmini parametrelerin bulunduğu modeldir. Tanım olarak, bu mükemmel bir uyum sağlayacak, ancak varyansı tahmin etmek için hiçbir bilginiz kalmayacağından istatistiksel olarak çok az fayda sağlayacak.

Örneğin, 6 veri noktanız varsa ve verilere 5. dereceden bir polinom sığdırdıysa, doymuş bir modele sahip olacaktınız (bağımsız değişkeninizin 5 gücünün her biri için bir parametre artı sabit terim için bir parametre).

Doymuş bir model, temelde sadece verileri enterpolasyon ettiği noktaya göre aşırı ölçülen bir modeldir. Görüntü sıkıştırma ve yeniden yapılandırma gibi bazı ayarlarda, bu mutlaka kötü bir şey değildir, ancak öngörülü bir model oluşturmaya çalışıyorsanız çok sorunludur.

Kısacası, doymuş modeller, gürültü tarafından asıl verilerden daha fazla itilen aşırı değişkenlik tahmin edicilerine yol açmaktadır.

Bir düşünce deneyi olarak, doymuş bir modeliniz olduğunu ve verilerde gürültü olduğunu hayal edin, sonra modele her seferinde farklı bir ses farkına vararak birkaç yüz kez takmayı ve ardından yeni bir nokta öngörmeyi hayal edin. Hem formunuz hem de tahmininiz için her seferinde radikal olarak farklı sonuçlar elde etme olasılığınız yüksektir (ve polinom modeller özellikle bu konuda berraktır); Başka bir deyişle, zinde ve öngörücünün varyansı oldukça yüksektir.

Buna karşılık, doygun olmayan bir model (eğer makul bir şekilde oluşturulmuşsa), farklı gürültü gerçekleştirmeleri altında bile birbirleriyle daha uyumlu olan uyarlar verir ve öngörücünün varyansı da azalır.

Bir model, sadece ve sadece veri noktalarına sahip olduğu kadar çok parametreye sahipse doyurulur (gözlemler). Veya aksi takdirde, doymamış modellerde serbestlik dereceleri sıfırdan büyüktür.

Bu, temel olarak, bu modelin işe yaramaz olduğu anlamına gelir, çünkü verileri ham verilerden daha temel olarak tanımlamaz (ve verileri öncelikli olarak tanımlamak genellikle bir model kullanmanın arkasındaki fikirdir). Ayrıca, doymuş modeller (zorunlu olmamakla birlikte) (işe yaramaz) mükemmel bir uyum sağlayabilir, çünkü verileri enterpolasyon eder veya yinelerler.

Örneğin, bazı veriler için bir model olarak ortalamayı ele alalım. Ortalamayı kullanarak yalnızca bir veri noktanız varsa (örneğin, 5) (yani, 5; ortalamanın yalnızca bir veri noktası için doymuş bir model olduğunu unutmayın) hiç yardımcı olmaz. Ancak, ortalamayı (ör. 6) model olarak kullanmak için iki veri noktanız varsa (örneğin, 5 ve 7), orijinal verilerden daha temel bir açıklama sağlar.

Daha önce herkesin söylediği gibi, bu kadar çok parametreniz var, yani sizin veri noktalarınız var. Yani, uygunluk testinde iyilik yok. Ancak bu, "tanım gereği", modelin herhangi bir veri noktasına mükemmel şekilde uyabileceği anlamına gelmez. Belirli veri noktalarını tahmin edemeyen bazı doymuş modellerle çalışma deneyiminizi size söyleyebilirim. Oldukça nadir, ancak mümkün.

Diğer bir önemli husus, doymuşun işe yaramaz demek olmadığıdır. Örneğin, insanın bilişinin matematiksel modellerinde, model parametreleri teorik bir arka plana sahip olan belirli bilişsel süreçlerle ilişkilidir. Bir model doygunsa, sadece belirli parametreleri etkilemesi gereken manipülasyonlarla odaklanmış deneyler yaparak yeterliliğini test edebilirsiniz. Teorik tahminler parametre tahminlerinde gözlenen farklılıklarla (veya eksikliklerle) eşleşirse, modelin geçerli olduğu söylenebilir.

Örnek: Örneğin bilişsel işlem için diğeri motor tepkileri için iki parametre setine sahip bir model düşünün. Şimdi, katılımcıların cevap verebilme yeteneğinin bozulduğu (biri iki yerine sadece bir el kullanabilirler) ve diğer durumda da hiçbir bozulma olmadığını gösteren iki koşulu deney yaptığınızı hayal edin. Model geçerliyse, her iki koşul için parametre tahminlerindeki farklılıklar yalnızca motor yanıt parametreleri için gerçekleşmelidir.

Ayrıca, bir modelin doymamış olmasına rağmen, hala tanımlanamayabileceğini unutmayın; bu, farklı parametre değerlerinin kombinasyonlarının, herhangi bir model uyumluluğunu tehlikeye atan aynı sonucu ürettiği anlamına gelir.

Genel olarak bu konular hakkında daha fazla bilgi edinmek istiyorsanız, şu makalelere bakmak isteyebilirsiniz:

Bamber, D. ve Van Santen, JPH (1985). Bir model kaç parametreye sahip olabilir ve hala test edilebilir olabilir? Matematiksel Psikoloji Dergisi, 29, 443-473.

Bamber, D. ve Van Santen, JPH (2000). Bir Modelin Test Edilebilirliği ve Tanımlanabilirliği Nasıl Değerlendirilir? Matematiksel Psikoloji Dergisi, 44, 20-40.

şerefe

Yarı olasılıklı bir model için AIC'yi hesaplamanız gerekirse de kullanışlıdır. Dağılımın tahmini, doymuş modelden gelmelidir. AIC hesaplamasındaki doymuş modelden tahmin edilen dağılımla uydurduğunuz LL'yi bölebilirsiniz.

SEM (ya da yol analizi) bağlamında, doymuş bir model ya da sadece tanımlanmış bir model, serbest parametre sayısının varyans ve benzersiz kovaryans sayısına tam olarak eşit olduğu bir modeldir. Örneğin, aşağıdaki model doymuş bir modeldir, çünkü 3 * 4/2 veri noktası (varyanslar ve benzersiz kovaryanslar) ve ayrıca tahmin edilecek 6 serbest parametre vardır: