K-Nearest Neighbors (KNN): Menguasai Konsep Dasar dan Pemahaman Algoritma “Tetangga Terdekat”

Dalam pengembangan sistem kecerdasan buatan (Artificial Intelligence), kita sering mencari algoritma yang tidak hanya akurat tetapi juga intuitif untuk dipahami. Salah satu algoritma klasifikasi dan regresi yang paling sederhana sekaligus tangguh dalam ranah supervised machine learning adalah K-Nearest Neighbors (KNN).

Bagi Anda yang sedang merintis blog AI dan pemanfaatannya di dunia keuangan, menguasai konsep dasar KNN merupakan langkah awal yang sangat penting. Mari kita bedah tuntas cara kerja, metrik perhitungan, hingga kelebihan dan kekurangan algoritma ini secara mendalam!

Filosofi Dasar: “Birds of a Feather Flock Together”

Prinsip kerja KNN didasarkan pada sebuah pepatah kuno: “burung dengan bulu yang sama cenderung berkumpul bersama”. Dalam istilah teknis, algoritma ini bekerja dengan asumsi bahwa data yang memiliki karakteristik mirip akan selalu berada di ruang atau area geometris yang saling berdekatan.

Secara historis, dasar-dasar konsep KNN pertama kali dirintis oleh Evelyn Fix dan Joseph Hodges pada tahun 1951 dalam riset non-parametris untuk militer Amerika Serikat. Teori ini kemudian diperluas oleh Thomas Cover dan Peter Hart pada tahun 1967 lewat jurnal terkenal mereka mengenai klasifikasi pola tetangga terdekat. Hingga kini, KNN menjadi salah satu algoritma fundamental yang wajib dipelajari oleh setiap praktisi data.

Mengapa KNN Disebut sebagai “Lazy Learner”?

Tidak seperti model klasifikasi lain (seperti SVM atau Logistic Regression) yang sibuk membangun model matematika rumit selama fase pelatihan, KNN memiliki pendekatan yang sangat berbeda. KNN dikategorikan sebagai “Lazy Learning” (pembelajar malas) atau “Instance-Based/Memory-Based Learning”.

• Tanpa Waktu Pelatihan (Zero Training Time): Fase pelatihan KNN secara harfiah hanyalah menyimpan seluruh dataset latih ke dalam memori komputer. Model tidak melakukan kalkulasi apa pun untuk menarik garis batas keputusan saat data dimasukkan.
• Komputasi Saat Prediksi (Inference Phase): Semua proses perhitungan jarak dan analisis data baru ditunda hingga ada kueri atau data baru yang meminta prediksi. Konsekuensinya, proses prediksi KNN membutuhkan daya komputasi dan memori penyimpanan yang sangat besar seiring bertambahnya jumlah data.

Bagaimana KNN Mengambil Keputusan?

Ketika sebuah data baru dimasukkan ke dalam sistem, KNN akan memetakan posisi data tersebut dan mencari sejumlah K tetangga terdekat di sekelilingnya. Cara penentuan hasil akhir bergantung pada tugas yang diberikan:

1. Kasus Klasifikasi (Memprediksi Kategori)

Untuk menentukan label kategori (misalnya memprediksi apakah saham akan “Beli” atau “Jual”), KNN menggunakan sistem Voting Mayoritas (Majority Vote) atau Voting Pluralitas (Plurality Vote) dari tetangga terdekatnya.

• Majority Voting: Digunakan dalam klasifikasi biner (dua kategori), di mana salah satu kategori harus menang mutlak dengan suara di atas 50%.
• Plurality Voting: Digunakan dalam klasifikasi multi-kelas (lebih dari dua kategori). Sebagai contoh, jika terdapat 4 kategori keputusan, sebuah kelas dapat ditetapkan hanya dengan memenangkan suara terbanyak di antara tetangganya (misalnya >25%), tanpa harus menyentuh angka 50%.

2. Kasus Regresi (Memprediksi Nilai Kontinu)

Apabila digunakan untuk memprediksi angka kontinu (seperti estimasi berat badan atau harga saham), KNN akan menghitung nilai rata-rata (mean) dari parameter kueri target dari tetangga terdekatnya sebagai hasil akhir prediksi.

4 Metrik Pengukuran Jarak dalam KNN

Kunci utama akurasi KNN terletak pada ketepatan dalam mendefinisikan “jarak” geometris antar data. Ada empat jenis metrik perhitungan jarak yang paling sering digunakan:

1. Euclidean Distance: Metrik paling populer yang mengukur jarak dalam bentuk garis lurus komparatif antara dua titik data. Metrik ini hanya berlaku pada vektor bernilai riil.
2. Manhattan Distance: Sering disebut sebagai taxicab distance atau city block distance. Metrik ini menghitung nilai absolut selisih koordinat antar titik layaknya rute mobil yang harus melintasi jaringan jalan raya berbentuk kotak-kotak.
3. Minkowski Distance: Formula generalisasi yang menggabungkan konsep Euclidean dan Manhattan. Metrik ini menggunakan parameter variabel p. Jika kita mengatur nilai p=1, perhitungannya menjadi Manhattan; jika p=2, rumusnya berubah menjadi Euclidean.
4. Hamming Distance: Disebut juga sebagai overlap metric. Metrik ini sangat cocok digunakan pada vektor boolean atau teks/karakter string dengan panjang yang sama untuk mengidentifikasi letak ketidakcocokan antar variabel.

Seni Menentukan Nilai “K” yang Optimal

Menentukan jumlah tetangga (K) dalam algoritma KNN adalah sebuah seni keseimbangan (balancing act). Nilai K yang salah akan berdampak langsung pada kualitas prediksi model Anda:

• Nilai K Terlalu Rendah (misal K = 1): Model akan menjadi sangat tidak stabil karena terlalu sensitif terhadap data pencilan (outliers) dan gangguan (noise). Kondisi ini menghasilkan model dengan high variance dan low bias, yang memicu terjadinya overfitting (model terlalu menghafal data latih).
• Nilai K Terlalu Tinggi: Prediksi model akan menjadi terlalu halus (smooth) karena merata-ratakan nilai dari area lingkungan yang terlalu luas. Hal ini menghasilkan model dengan low variance dan high bias, yang berujung pada kondisi underfitting (model tidak mampu menangkap pola data).

Strategi Memilih Nilai K:

1. Gunakan Bilangan Ganjil: Selalu pilih angka ganjil (seperti K=3, K=5) untuk menghindari hasil voting yang seimbang atau seri (ties) pada klasifikasi.
2. Aturan Akar Kuadrat: Cara termudah untuk acuan awal adalah dengan menghitung akar kuadrat dari total jumlah sampel data Anda (N​).
3. Cross-Validation: Gunakan teknik validasi silang (cross-validation) untuk menguji berbagai variasi nilai K guna menemukan performa akurasi terbaik dengan tingkat kesalahan (error rate) paling minim.

Kelebihan dan Kekurangan KNN

Sebelum menerapkan algoritma ini, penting bagi Anda untuk memahami kelebihan serta keterbatasan teknisnya:

Kelebihan:

• Sangat Sederhana: Sangat mudah dipahami, ditulis dalam kode pemrograman, dan diimplementasikan oleh pemula.
• Sifatnya Adaptif: Model langsung menyesuaikan diri begitu ada data latih baru yang dimasukkan tanpa perlu melakukan pelatihan ulang dari nol.
• Minim Parameter: Hanya membutuhkan parameter nilai K dan jenis metrik jarak.

Kekurangan:

• Masalah Skalabilitas: Boros ruang penyimpanan memori dan waktu komputasi karena harus mempertahankan seluruh data mentah di dalam memori aktif.
• Sensitif terhadap Dimensi Tinggi (Curse of Dimensionality): Kinerja KNN akan menurun drastis apabila dataset memiliki terlalu banyak kolom/fitur. Jarak antar-titik menjadi bias dan melebar di ruang multi-dimensi, membuat akurasi prediksi anjlok.

Pemanfaatan KNN dalam Dunia Saham dan Finansial

Di sektor keuangan, kesederhanaan dan keandalan KNN menjadikannya pilihan menarik untuk berbagai analisis:

• Prakiraan Pasar Saham: Membantu memprediksi arah pergerakan harga instrumen keuangan dengan melihat kesamaan pola indikator teknikal historis.
• Penilaian Risiko Kredit: Digunakan oleh lembaga perbankan untuk memprediksi kelayakan kredit calon debitur berdasarkan tingkat kemiripan profil keuangan dengan nasabah historis.
• Rekomendasi Aset: Membantu mesin rekomendasi menyarankan diversifikasi portofolio investasi atau produk keuangan yang sesuai untuk investor.

Dengan pemahaman komprehensif mengenai cara kerja proksimitas pada KNN ini, Anda kini siap membangun dasar sistem klasifikasi AI yang intuitif dan adaptif.