Korelasyon mu Regresyon mu? İlişkiyi Ölçmek ile İlişkiyi Modellemek
Karşılaştırma

Korelasyon mu Regresyon mu? İlişkiyi Ölçmek ile İlişkiyi Modellemek

Hazırlayan: Mindset Institute EditörlüğüGüncellendi: 5 dk okuma

Korelasyon "bu iki değişken birlikte hareket ediyor mu?" sorusuna, regresyon "biri değişince öteki ne kadar değişir ve bunu tahmin edebilir miyim?" sorusuna yanıt verir. Hangisini seçeceğiniz, verinizden ne öğrenmek istediğinize bağlıdır.

Bir bakışta

  1. Korelasyon tek bir sayıyla ilişkinin yönünü ve gücünü özetler; değişkenler arasında taraf seçmez. Reklam ile satış arasındaki korelasyon, satış ile reklam arasındakiyle aynıdır.
  2. Regresyon bir değişkeni sonuç, diğerlerini açıklayıcı olarak ayırır ve bir denklem kurar. Eğim, açıklayıcı değişkendeki bir birimlik artışın sonuçta ortalama ne kadar değişiklikle birlikte geldiğini gösterir.
  3. Güçlü korelasyon büyük etki demek değildir; küçük eğimli bir ilişki de çok tutarlı olabilir. Gücü korelasyon katsayısı, büyüklüğü regresyon eğimi anlatır.
  4. İkisi de nedensellik kanıtlamaz. Regresyon denklemi neden-sonuç ilişkisini değil, veride görülen ortalama ilişkiyi özetler; nedensellik için tasarım gerekir.

Aynı veriye iki farklı soru

Korelasyon ve regresyon çoğu zaman aynı veri üzerinde, hatta aynı rapor içinde kullanılır; ikisi de iki ya da daha çok sayısal değişken arasındaki ilişkiyle ilgilenir. Bu yüzden birbirinin yerine kullanılabilecek iki ad gibi görünürler. Oysa sordukları soru farklıdır.

Korelasyon analizi, iki değişkenin birlikte ne ölçüde ve hangi yönde değiştiğini tek bir katsayıyla özetler. Katsayı eksi birden artı bire uzanan bir ölçektedir: sıfıra yakın değer doğrusal bir ilişki görülmediğini, uçlara yakın değer güçlü bir birlikteliği anlatır; işaret yönü gösterir. Regresyon analizi ise bir değişkeni sonuç, yani bağımlı değişken olarak seçer ve onu bir ya da daha çok açıklayıcı değişkenle ilişkilendiren bir denklem kurar. Bu denklemle hem ilişkinin büyüklüğü yorumlanır hem de yeni gözlemler için tahmin yapılır.

Kısaca korelasyon ilişkiyi ölçer, regresyon ilişkiyi modeller.

Temel farklar ölçüt ölçüt

  • Sorduğu soru: Korelasyon, iki değişken birlikte hareket ediyor mu ve bu ne kadar güçlü / Regresyon, açıklayıcı değişken değiştiğinde sonuç ortalama ne kadar değişir.
  • Değişkenlerin rolü: Korelasyon, simetriktir; hangi değişkenin önce yazıldığı fark etmez / Regresyon, yönlüdür; sonucu ve açıklayıcıları siz seçersiniz, yer değiştirirseniz farklı bir denklem çıkar.
  • Çıktı: Korelasyon, birimsiz tek bir katsayı / Regresyon, sabit terim, eğimler, bunların belirsizliği, uyum ölçüleri ve artıklar.
  • Birim: Korelasyon, ölçü biriminden bağımsızdır; satışı adetle ya da tutarla ölçmek katsayıyı değiştirmez / Regresyon, eğim değişkenlerin birimiyle yorumlanır.
  • Değişken sayısı: Korelasyon, temelde ikili ilişkiye bakar; çok değişkende ikili katsayılardan oluşan bir matris kurulur / Regresyon, birden çok açıklayıcıyı aynı anda modele alıp her birinin diğerleri sabitken ilişkisini ayırabilir.
  • Tahmin: Korelasyon, tahmin üretmez / Regresyon, yeni değerler için tahmin ve tahmin aralığı verir.

Tek açıklayıcılı doğrusal regresyonda iki yöntem birbirine bağlanır: Pearson korelasyon katsayısının karesi, modelin R kare değerine eşittir ve eğimin işareti korelasyonun işaretiyle aynıdır. Ancak eğimin büyüklüğü katsayıdan değil, iki değişkenin yayılımından da etkilenir.

Güç ile büyüklük neden karıştırılmamalı?

Korelasyon katsayısı noktaların bir doğru etrafında ne kadar sıkı toplandığını anlatır; doğrunun ne kadar dik olduğunu anlatmaz. Bir satış ekibinde müşteri ziyareti ile sipariş arasındaki ilişki çok tutarlı olabilir ama her ek ziyaret siparişte küçük bir artışla birlikte geliyorsa, yönetim için asıl soru "ilişki var mı" değil "ek bir ziyaret ne kadar değer üretir" sorusudur. Bu sorunun yanıtı regresyon eğimidir.

Tersi de olur: eğim büyük ama noktalar dağınıksa, ortalama ilişki önemli olsa bile tek tek tahminler güvenilmez olur. Bu durumda korelasyon düşük, tahmin aralıkları geniş çıkar. Karar verirken ikisini birlikte okumak gerekir: korelasyon ya da R kare ilişkinin ne kadar tutarlı olduğunu, eğim ise etkinin ne kadar büyük olduğunu söyler.

Birim değişikliği de bu ayrımı gösterir. Satışı adet yerine koli olarak ölçmek korelasyon katsayısını değiştirmez, ama eğimin sayısal değerini değiştirir. Bu yüzden iki farklı raporda eğimleri karşılaştırmadan önce birimlerin aynı olduğundan emin olmak gerekir; katsayıları karşılaştırmak ise birimden bağımsızdır.

Analizde iki yöntemin sırası

Uygulamada korelasyon ve regresyon çoğu zaman aynı çalışmanın ardışık basamaklarıdır.

  • Önce saçılım grafiği çizilir. İlişkinin doğrusal olup olmadığı, aykırı gözlemler ve gruplar gözle görülür; ne korelasyon ne de doğrusal regresyon eğri bir ilişkiyi doğru özetler.
  • Ardından korelasyon katsayısı ya da çok değişkende korelasyon matrisi hesaplanır. Hangi değişkenlerin birlikte hareket ettiği ve açıklayıcıların birbirine fazla benzeyip benzemediği burada görülür.
  • Sonra sonuç değişkeni seçilir ve regresyon modeli kurulur. Eğimler, belirsizlikleri ve uyum ölçüleri yorumlanır.
  • Son olarak artıklar incelenir: artıkların belirli bir desen göstermemesi, modelin varsayımlarının makul olduğunu gösterir. Desen varsa model ya da değişken seçimi gözden geçirilir.

Açıklayıcı değişkenler kendi aralarında güçlü korelasyon gösteriyorsa, regresyonda her birinin ayrı etkisini ayırmak zorlaşır. Korelasyon matrisi bu sorunu modeli kurmadan önce haber verir.

Şekil 1

Korelasyon ilişkiyi haber verir, regresyon onu modele dönüştürür

  1. Saçılım grafiğiDoğrusallık, aykırı gözlem ve gruplar gözle kontrol edilir
  2. KorelasyonKatsayı ya da matrisle birlikte hareket eden değişkenler bulunur
  3. Regresyon modeliSonuç seçilir; eğim, belirsizlik ve uyum yorumlanır
  4. Artık kontrolüDesen varsa model ya da değişken seçimi gözden geçirilir
Artıklarda desen görülürse model yeniden kurulur
Kaynak: sayfa içeriğiMindset Institute

Hangi durumda hangisi?

Korelasyon yeterlidir: • Keşif aşamasında, çok sayıda değişken arasından birlikte hareket edenleri hızlıca görmek istediğinizde. • İki ölçümün tutarlılığına baktığınızda; örneğin iki farklı anketteki memnuniyet sorularının birlikte değişip değişmediği. • Değişkenler arasında doğal bir sonuç ve açıklayıcı ayrımı yoksa; boy ile kilo ilişkisini betimlemek gibi.

Regresyon gerekir: • Bir sonucu tahmin etmek istediğinizde; gelecek dönem talebi ya da bir müşterinin harcaması gibi. • Etkinin büyüklüğünü sayısal olarak ifade etmeniz gerektiğinde; fiyat değişikliğiyle birlikte satışın ortalama ne kadar değiştiği gibi. • Birden çok etkeni aynı anda dikkate almanız gerektiğinde; reklam harcamasının etkisini mevsim ve fiyat sabitken görmek gibi.

Sıralı ya da doğrusal olmayan ama tek yönlü ilişkilerde Pearson yerine Spearman sıra korelasyonu, ikili sonuçlarda doğrusal regresyon yerine lojistik regresyon gibi uygun türler seçilir.

Sık yapılan hatalar

Korelasyon ve regresyonu birlikte kullanan raporlarda aynı hatalar tekrar eder.

  • Yüksek korelasyonu "büyük etki" diye sunmak; büyüklük eğimle anlatılır.
  • Regresyonda sonucu ve açıklayıcıyı yer değiştirip aynı denklemi bekleme; iki yönün denklemi farklıdır.
  • Saçılım grafiğine bakmadan katsayı raporlamak; tek bir aykırı gözlem katsayıyı büyük ölçüde değiştirebilir.
  • Regresyon denklemini verinin gözlendiği aralığın dışında tahmin için kullanmak.
  • Eğimi neden-sonuç diye yorumlamak; gözlemsel veride ortak bir üçüncü etken iki değişkeni birlikte hareket ettirebilir.
Şekil 2

Güç, büyüklük ve yön ayrı ayrı okunmalıdır

Sık yapılan
Doğrusu
Yüksek korelasyonu büyük etki diye sunmak
Etkinin büyüklüğünü eğimle anlatmak
Değişkenlerin yerini değiştirip aynı denklemi beklemek
Sonuç değişkenini baştan bilinçli seçmek
Grafiğe bakmadan katsayı raporlamak
Önce saçılım grafiğiyle aykırıları görmek
Gözlenen aralığın dışında tahmin yapmak
Tahmini verinin kapsadığı aralıkla sınırlamak
Kaynak: sayfa içeriğiMindset Institute

Mindset programlarında korelasyon ve regresyon

Veri Bilimi için İstatistik Eğitimi, tanımlayıcı istatistiklerden ve dağılımlardan başlayıp hipotez testlerine ve ayrı bir modülde korelasyon ve regresyona ilerler. Raporlarındaki ilişkileri doğru yorumlamak isteyen analistler ve modellemeye geçmeden istatistik temelini sağlamlaştırmak isteyen veri bilimi adayları için uygundur.

İstatistiği iş kararlarında kullanmak isteyen ve teknik altyapısı sınırlı olan yöneticiler için İstatistik Temelleri programı, modellemeye daha derin girmek isteyenler için İstatistiksel Modelleme eğitimi ayrı seçeneklerdir.

İlgili Mindset programı

Veri Bilimi için İstatistik Eğitimi

Sık sorulanlar

Sık sorulan sorular

Korelasyon katsayısı anlamlı değilse regresyon kurmaya gerek var mı?

İkili doğrusal ilişkide korelasyon anlamlı değilse, tek açıklayıcılı doğrusal regresyonun eğimi de anlamlı çıkmaz; ikisi aynı testin farklı yüzüdür. Ancak ilişki eğriyse ya da başka bir değişken etkiyi maskeliyorsa, çok değişkenli ya da doğrusal olmayan bir model ilişkiyi ortaya çıkarabilir. Saçılım grafiği bu ayrımı yapmanın en hızlı yoludur.

R kare ile korelasyon katsayısı aynı şey mi?

Tek açıklayıcılı doğrusal regresyonda R kare, Pearson korelasyon katsayısının karesine eşittir; ancak karesi alındığı için ilişkinin yönünü göstermez. Birden çok açıklayıcı olduğunda R kare, sonucun tüm açıklayıcılarla birlikte ne kadar açıklandığını anlatır ve tek bir ikili korelasyonla karşılanamaz.

Excel'de ikisi de yapılabilir mi?

Evet. Excel'de korelasyon katsayısı hazır işlevlerle ya da veri analizi eklentisiyle, basit ve çoklu doğrusal regresyon da aynı eklentiyle hesaplanabilir. Regresyon çıktısında katsayıların yanında standart hata, anlamlılık değerleri ve R kare de verilir. Değişken sayısı arttığında ya da analiz düzenli olarak tekrarlanacaksa R veya Python, adımları kayıt altında tutan daha esnek bir çalışma sağlar.

Kategorik değişkenlerle korelasyon ya da regresyon yapılabilir mi?

Regresyona kategorik açıklayıcılar kukla değişkenler olarak eklenebilir; böylece örneğin bölgeler arasındaki ortalama fark modelde görülür. Sonuç değişkeni kategorikse lojistik regresyon gibi uygun modeller kullanılır. Korelasyon tarafında iki kategorik değişkenin ilişkisi için Pearson katsayısı yerine çapraz tablolar ve uygun ilişki ölçüleri tercih edilir.

Makine öğrenmesindeki regresyon ile istatistikteki regresyon farklı mı?

Yöntem aynı kökten gelir ama amaç farklılaşabilir. İstatistikte regresyon çoğu zaman katsayıları yorumlamak ve belirsizliği raporlamak için kurulur. Makine öğrenmesinde regresyon, sayısal bir sonucu tahmin eden model ailesinin adıdır ve başarı daha çok yeni veride tahmin hatasıyla ölçülür.

Korelasyon ve Regresyon Farkı: Hangisi Ne Zaman?