Ensemble learning merupakan pendekatan machine learning yang menggabungkan beberapa model untuk menghasilkan prediksi. Salah satu metode dalam pendekatan ini adalah boosting, yaitu membangun model secara berurutan untuk memperbaiki kesalahan prediksi model sebelumnya. Pada masalah regresi, Gradient Boosting membentuk model secara bertahap dengan mengoptimalkan fungsi kerugian berdasarkan kesalahan prediksi. Metode ini mampu mempelajari hubungan nonlinier dan interaksi antarvariabel sehingga dapat diterapkan pada berbagai permasalahan prediksi (Lainder & Wolfinger, 2022).

Ensemble learning merupakan pendekatan machine learning yang menggabungkan beberapa model untuk menghasilkan prediksi. Salah satu metodenya adalah bagging (Bootstrap Aggregating), yaitu membangun model dari sejumlah sampel bootstrap yang diambil dari data pelatihan, kemudian menggabungkan hasil prediksi model-model tersebut. Breiman (1996) menjelaskan bahwa bagging dapat meningkatkan kestabilan prediksi dengan menggabungkan hasil dari sejumlah model yang dibangun pada sampel bootstrap. Pada regresi, hasil prediksi umumnya digabungkan dengan menghitung rata-rata prediksi dari seluruh model.

Perkembangan teknologi pengolahan data mendorong pemanfaatan machine learning untuk membantu proses klasifikasi dan pengambilan keputusan. Salah satu metode yang dapat digunakan adalah Decision Tree, yaitu metode pembelajaran terawasi (supervised learning) yang membentuk aturan prediksi melalui pemisahan data berdasarkan variabel prediktor. Metode ini memiliki keunggulan karena hasil pemodelannya dapat divisualisasikan dalam bentuk pohon sehingga lebih mudah dipahami dan diinterpretasikan. Dalam bidang kesehatan, Decision Tree dapat diterapkan untuk mengklasifikasikan kondisi kanker payudara ke dalam kategori jinak (benign) dan ganas (malignant) berdasarkan karakteristik sel. Mellina dkk. (2024) membahas penerapan algoritma Decision Tree untuk prediksi kanker payudara, sedangkan Munir dkk. (2024) membandingkan algoritma Naive Bayes dan Decision Tree dalam klasifikasi penyakit kanker payudara. Pada praktikum ini, dataset BreastCancer dari package mlbench digunakan untuk membangun model Classification Tree. Tahapan analisis diawali dengan pemeriksaan dan penanganan missing value menggunakan package mice, kemudian data dibagi menjadi data training dan testing. Selanjutnya, model dibangun dan divisualisasikan, serta dilakukan analisis variable importance untuk mengetahui variabel yang berperan dalam klasifikasi. Kinerja model dievaluasi menggunakan confusion matrix, kemudian dilakukan penentuan Complexity Parameter (CP) terbaik dan pruning untuk menyederhanakan struktur pohon. Model setelah pruning dievaluasi kembali menggunakan confusion matrix, kurva Receiver Operating Characteristic (ROC), dan nilai Area Under the Curve (AUC) untuk mengetahui kemampuan model dalam membedakan kategori jinak dan ganas

Feature enginering merupakan salah satu tahapan krusial dalam pengembangan model machine learning (Guyon et al., 2006; Kuhn & Johnson, 2013). Proses ini melibatkan transformasi data mentah menjadi fitur-fitur yang dapat merepresentasikan pola mendasar dari data dengan lebih baik, sehingga meningkatkan kinerja model prediktif (Bengio et al., 2013; Domingos, 2012). Kualitas fitur yang digunakan sangat memengaruhi kemampuan model untuk mempelajari hubungan yang kompleks dalam data dan membuat prediksi yang akurat (Hastie et al., 2009; James et al., 2013).

Mengoptimalisasi R Studio dalam Analisis Data Eksploratif untuk membangun wawasan Mendalam melalui Pendekatan Statistik dan Visualisasi