Ringkasan

1. Dasar-Dasar Regresi Logistik

#

Konsep Dasar:

#

• Regresi Logistik adalah metode statistik untuk memodelkan hubungan antara variabel dependen biner dengan satu atau lebih variabel independen.
• Output dari model adalah probabilitas bahwa observasi termasuk dalam kelas positif.

Regresi Logistik vs. Regresi Linear:

#

• Cocok untuk masalah klasifikasi biner, sementara Regresi Linear untuk masalah regresi.
• Menggunakan fungsi logistik (sigmoid) untuk membatasi output antara 0 dan 1.

2. Implementasi Regresi Logistik menggunakan Python

#

Langkah Implementasi:

#

• Persiapan Data: Memuat dan mempersiapkan data untuk pelatihan dan pengujian.
• Inisialisasi Model: Menggunakan library seperti scikit-learn untuk membuat model Regresi Logistik.
• Pelatihan Model: Menyesuaikan parameter model pada data pelatihan.
• Evaluasi Model: Menggunakan data pengujian untuk mengukur kinerja model.

3. Fungsi Loss

#

Cross-Entropy Loss:

#

• Fungsi loss umum untuk Regresi Logistik.
• Mengukur perbedaan antara distribusi probabilitas prediksi dan distribusi probabilitas sebenarnya.

Tujuan Pelatihan:

#

• Minimalkan nilai fungsi loss untuk meningkatkan akurasi model pada data pengujian.

4. Evaluasi Model

#

Metrik Evaluasi:

#

• Akurasi (Accuracy): Persentase prediksi yang benar.
• Presisi (Precision): Kemampuan model memprediksi dengan benar dari yang diprediksi positif.
• Recall (Sensitivitas): Kemampuan model mengidentifikasi semua instance positif yang sebenarnya.
• F1 Score: Keseimbangan antara presisi dan recall.
• Area di Bawah Kurva ROC (AUC-ROC): Menilai kemampuan model untuk membedakan antara kelas positif dan negatif.

Kesimpulan:

Materi ini mencakup dasar-dasar Regresi Logistik, implementasi menggunakan Python, pemahaman fungsi loss, dan metrik evaluasi untuk mengukur kinerja model. Penting untuk memahami dan menyesuaikan model dengan baik untuk memastikan hasil yang optimal pada tugas klasifikasi.