Merkezi limit teoremi: ortalamalar neden çan eğrisine yaklaşır
Merkezi limit teoremi, yeterince büyük örneklemlerde ortalamaların kaynak dağılım ne olursa olsun yaklaşık normal dağıldığını söyler. Örnek ve sınırlar.
Merkezi limit teoremi nedir?
Merkezi limit teoremi (central limit theorem), bağımsız ve aynı dağılımdan gelen gözlemlerin ortalamasının, gözlem sayısı büyüdükçe kaynak dağılım ne olursa olsun yaklaşık normal dağılıma yöneldiğini söyleyen istatistik teoremidir. Tek tek veriler çarpık, sivri ya da düzensiz dağılsa bile, bunlardan tekrar tekrar alınan örneklerin ortalamaları çan eğrisi biçimine yaklaşır.
Teoremin pratikte değeri, ham verinin dağılımını bilmeden bile ortalama hakkında olasılık hesapları yapmaya izin vermesidir. İstatistiksel çıkarımın büyük kısmı bu sayede çalışır.
Nasıl çalışır?
Süreci adım adım düşünmek kolaylaştırır:
- Kaynak veriden belirli büyüklükte bir örneklem çekilir ve ortalaması hesaplanır.
- Bu işlem çok kez tekrarlanır; elde edilen ortalamalar yeni bir veri kümesi oluşturur.
- Bu ortalamaların dağılımı (örneklem dağılımı) incelenir: merkezi gerçek ortalamaya yakındır, biçimi çan eğrisine benzer ve yayılımı standart sapmanın örneklem büyüklüğünün kareköküne bölünmesiyle bulunan standart hatadır.
Örneklem büyüdükçe ortalamaların dağılımı normale daha çok benzemesi ve daha dar hale gelmesi beklenir. Dar olması, büyük örneklemin ortalamayı daha kesin tahmin ettiği anlamına gelir.
Örnek: çarpık sipariş tutarları
Örneğin bir mağazanın sipariş tutarlarını düşünün: çoğu sipariş küçük, çok az sayıda sipariş çok büyüktür. Tutarların kendi dağılımı belirgin biçimde sağa çarpıktır, normal değildir.
Ancak her gün rastgele seçilmiş siparişlerin ortalamasını hesaplayıp bu günlük ortalamaları grafikte topladığınızda, çarpıklık büyük ölçüde kaybolur ve çan biçimli bir dağılım ortaya çıkar. Bu nedenle ortalama sipariş tutarı için güven aralığı kurmak ya da dönemlerin ortalamasını karşılaştırmak, tutarlar normal olmasa da makul bir yaklaşımdır.
Kendiniz nasıl deneyebilirsiniz?
Teoremi bir simülasyonla görmek en kolay yoldur. R'da çarpık bir dağılım olan üstel dağılımdan örnekler çekilip ortalamaları toplanabilir:
ortalamalar <- replicate(tekrar, mean(rexp(n))) hist(ortalamalar)
Burada tekrar, ortalama sayısını; n ise her örneklemin büyüklüğünü belirler. n küçükken histogram hâlâ çarpıktır. n büyüdükçe histogram simetrikleşir ve çana benzer. Aynı deneyi başka bir dağılımla (örneğin zar atışı) yaparak teoremin kaynak dağılımdan bağımsız olduğunu gözlemleyebilirsiniz.
Teoremin koşulları ve sınırları
Ölçüt: Gözlemlerin bağımsızlığı. Koşul sağlandığında: ortalamalar normale yaklaşır. İhlal edilirse: zaman serilerindeki otokorelasyon ya da kümelenmiş veride etkin örneklem büyüklüğü düşer ve yaklaşım bozulur.
Ölçüt: Örneklem büyüklüğü. Yeterince büyükse: yaklaşım iyidir. Küçükse: özellikle kaynak dağılım çok çarpıksa yaklaşım zayıf kalır. Gereken büyüklük kaynak dağılımın biçimine bağlıdır, tek bir sihirli sayı yoktur.
Ölçüt: Kaynak dağılımın varyansı. Sonlu varyans varsa: teorem geçerlidir. Çok ağır kuyruklu dağılımlarda: ortalamanın normale yaklaşması yavaşlar ya da gerçekleşmez.
Teorem ortalama ve toplam için geçerlidir; medyan, en büyük değer gibi başka istatistikler için aynı biçimde işlemez.
Nerede kullanılır?
Güven aralığı ve ortalamalar için z ve t testleri teoreme dayanır. Kalite kontrolde ortalama kontrol grafikleri, tek tek ölçümler tam normal olmasa da örneklem ortalamalarının normale yakın davranmasından yararlanır. A/B testlerinde dönüşüm oranı farkı için kurulan normal yaklaşım da aynı mantığa sahiptir. Anket ve kamuoyu araştırmalarında örneklemden elde edilen ortalama ve oranlar için hata payı hesabı bu teoremin sonucudur.
Bu yüzden istatistiğe yeni başlayanlar için teorem, 'neden örneklemden bütün hakkında konuşabiliyoruz?' sorusunun en önemli cevabıdır.
Mindset programlarında merkezi limit teoremi
'Veri Bilimi için İstatistik Eğitimi' örneklem dağılımları ve merkezi limit teoremini ayrı bir modülde, normal dağılımın ardından ve güven aralığından önce işler. 'Hipotez Testi ve İstatistiksel Çıkarım' teoremin dayandığı çıkarım çerçevesini iş kararlarına uygular; 'R İle Matematiksel ve İstatistiksel Veri Analizi' olasılık dağılımları ve simülasyon başlığıyla teoremin R'da gözlemlenmesine imkân verir.
'İstatistiksel Süreç Kontrolü (SPC)' programı örneklem ortalamalarına dayalı kontrol grafiklerini kullanan kalite ve üretim ekipleri için uygundur.
İlgili Mindset programı
Veri Bilimi için İstatistik Eğitimi
Sık sorulan sorular
Merkezi limit teoremi için veri normal olmak zorunda mı?
Hayır, teoremin asıl gücü budur. Kaynak veri çarpık ya da normal olmayan bir dağılımdan gelse bile, yeterince büyük örneklemlerin ortalamaları yaklaşık normal dağılır. Koşul, gözlemlerin bağımsız olması ve dağılımın sonlu varyansa sahip olmasıdır.
Örneklem ne kadar büyük olmalı?
Tek bir geçerli sayı yoktur. Kaynak dağılım simetrikse küçük örneklemler de yeterli olabilir; çok çarpık ya da uç değerleri bol bir dağılımda daha büyük örneklem gerekir. Emin olmak için simülasyonla ya da örneklem dağılımının histogramıyla kontrol etmek en güvenli yoldur.
Büyük sayılar yasası ile merkezi limit teoremi aynı şey midir?
Değildir. Büyük sayılar yasası örneklem ortalamasının örneklem büyüdükçe gerçek ortalamaya yaklaştığını söyler. Merkezi limit teoremi ise ortalamanın bu etrafta nasıl dağıldığını, yani yaklaşık normal bir biçim aldığını açıklar. Biri hedefe yakınlığı, diğeri sapmanın şeklini anlatır.
Standart hata merkezi limit teoremiyle nasıl ilişkilidir?
Teorem, örneklem ortalamalarının yayılımının, standart sapmayı örneklem büyüklüğünün kareköküne bölerek bulunan standart hata ile ölçüldüğünü verir. Güven aralıkları ve testler bu standart hatayı kullanır. Bu yüzden örneklemi büyütmek kesinliği aynı oranda değil, yalnızca karekök kadar artırır.