Regresi Linear

Regresi Linear #

Regresi linear adalah salah satu metode paling mendasar dalam machine learning dan statistika. Ia mendekati hubungan antara masukan (fitur) dan keluaran (target) dengan “garis” atau “bidang” untuk memprediksi nilai dan memahami hubungan variabel.

Mengapa dipelajari? #

  • Sederhana dan mudah ditafsirkan
  • Mudah diimplementasikan dan ringan dihitung
  • Berguna untuk prediksi dan interpretasi
  • Dasar bagi banyak metode lanjut (Ridge/Lasso, GLM, neural network, dll.)

Apa yang bisa dilakukan? #

  • Prediksi: mis., prediksi penjualan dari iklan; nilai ujian dari waktu belajar
  • Analisis hubungan: koefisien menunjukkan perubahan keluaran per perubahan unit pada masukan
  • Menilai pentingnya fitur: mengenali variabel yang berpengaruh

Yang akan dipelajari di bagian ini #

  1. Kuadrat terkecil — cara menyesuaikan garis terbaik ke data
  2. Ridge dan Lasso — regularisasi untuk melawan overfitting
  3. Regresi robust (mis., Huber) — menangani data yang kotor dan outlier

Ringkasan #

  • Regresi linear itu “sederhana namun sangat berguna”.
  • Meski sederhana, sangat banyak digunakan di praktik.
  • Konsepnya bermanfaat untuk model lanjutan (pohon keputusan, SVM, neural network).