Langsung ke konten utama

Machine Learning: K Nearest Neighbor (KNN) dengan R untuk Mendeteksi Fraud Kartu Kredit (Credit Card Fraud)

K Nearest Neighbor (KNN)

Halo teman-teman, berjumpa lagi dengan situs belajar dan berbagi jokoding.com. Setelah kita kemarin mengula bersama mengenai salah satu model dalam machine learning berjenis supervised learning, yaitu support vector machine (SVM), kita akan lanjut membahas mengenai model machine learning lain yang diistilahkan dengan K Nearest Neighbor (KNN model).

K Nearest Neighbor (KNN) merupakan salah satu model machine learning yang berjenis supervised learning yang biasanya digunakan dalam pengklasifikasian dan regresi. Mirip dengan algoritma SVM, hanya saja di dalam KNN ini prinsip dasar yang kita gunakan dalam mengklasifikasikan data berfokus pada sebuah amatan baru berdasarkan kemiripan menurut ukuran jarak atau kita istilahkan dengan distance similarity.

Misalkan kita memiliki sekumpulan data yang awalnya telah terkelompokkan dalam dua kelas dan satu atau beberapa amatan baru yang belum terklasifikasikan ke kelas mana. Maka, berdasarkan pencirian dua kelas tersebut, kita kemudian mencari satu atau beberapa amatan yang memiliki ciri terdekat dengan amatan baru yang berasal dari kedua kelas itu. Kemudian kita hitung kedekatannya menurut jarak, bisa jarak euclidian, jarak Manhattan (Manhattan distance), jarak Hamming, jarak Minkowski, atau bisa jadi rumus jarak yang lain, kemudian kita tentukan amatan baru tersebut masuk ke kelas mana. Untuk lebih memperdalam pemahaman, kita coba dengan visualisasi dengan kasus misalkan klasifikasi foto anjing dan kucing.

Terdapat data baru (warna kuning) untuk diklasifikasikan

Sebuah foto diketahui belum dapat diidentifikasikan apakah foto tersebut merupakan foto anjing atau kucing. Tetapi, kita sebelumnya telah memiliki sejumlah foto anjing (bulatan biru tua) dan foto kucing (bulatan biru muda) di atas. Masing-masing amatan (bulatan) mengandung data ciri-ciri spesifik mengenai anjing dan kucing.

Dalam algoritma KNN, kita kemudian menentukan beberapa amatan yang kemungkinan merupakan amatan terdekat dengan data foto yang belum teridentifikasi tadi. Misalkan kita memiliki sebanyak 6 tetangga terdekat baik dari foto yang mencirikan anjing maupun kucing. Pemilihan tetangga sebanyak 6 inilah yang dinotasikan sebagai K - 6 sekaligus menjadi dasar penamaan K Nearest Neighbor (KNN).

Dimisalkan kita memilik 6 amatan tetangga terdekat amatan baru
Setelah menentukan tetangga, kita kemudian menentukan jarak setiap tetangga terdekat tadi terhadap amatan atau foto belum teridentifikasi apakah dia merupakan foto anjing atau kucing. Metode penentuan jarak ini bermacam-macam sebagaimana keterangan sebelumnya, namun dalam kasus kita ini misalkan menggunakan jarak euclidian dan kita notasikan sebagai d. Setelah kita hitung seluruh d dari kedua kelompok amatan yang mencirikan foto anjing dan kucing, berikutnya adalah menentukan kesamaan data foto belum teridentifikasi tadi masuk ke kelompok foto anjing dan kucing.

Caranya adalah kita mencari tahu, kelompok mana yang nilai d nya paling banyak yang dekat dengan amatan atau foto belum teridentifikasi. Bila dari penghitungan foto belum teridentifikasi ternyata paling paling banyak dekat dengan foto kucing, maka foto belum teridentifikasi itu masuk kelompok foto kucing. Begitu pula bila ternyata sebaliknya.

Proses KNN dalam menentukan klasifikasi terhadap data baru

Itu sekilas mengenai teori dasar dalam memahami algoritma KNN. Berikutnya kita akan mencoba melakukan pemodelan KNN dengan menggunakan R. Adapun kasus yang kita angkat dalam praktikum kali ini adalah fraud kartu kredit (credit card fraud). Pengertian dasar fraud sendiri banyak kita dapatkan di internet, intinya fraud ini merupakan bentuk ketidaknormalan, penyimpangan, atau bahkan yang lebih ekstrem, yaitu tindak penipuan atau kecurangan. Credit card fraud ini merupakan tindak penipuan yang menggunakan atau berkedok kartu kredit oleh oknum tidak bertanggungjawab demi meraup keuntungan pribadi. Data credit card fraud ini saya peroleh dari situs Kaggle kemudian untuk mempersingkat lama pemodelan, kita pangkas hanya 1.000 amatan saja mengingat dalam proses klasifikasi KNN ini butuh waktu yang lama tergantung dengan dimensi data yang digunakan. Teman-teman dapat mengunduh datanya terlebih dulu pada tautan berikut. Setelah itu, pemodelan KNN dapat mengikuti beberapa code berikut:

Code:

#Install dan aktivasi package
install.packages("kknn")
install.packages("caret")
library(kknn)
library(caret)

#Import  Data
library(readxl)
fraud <- read_excel("C:/Users/Joko Ade/Downloads/fraud.xlsx")
dataku <- fraud[-1]
attach(dataku)

#Mengubah Class bertipe factor
dataku$Class <- as.factor(dataku$Class)

#Melihat Struktur Data
str(dataku)

Hasil:

tibble [1,000 x 30] (S3: tbl_df/tbl/data.frame)
 $ V1    : num [1:1000] -1.36e+13 1.19e+14 -1.36e+14 -9.66e-01 -1.16e+14 ...
 $ V2    : num [1:1000] -7.28e-02 2.66e-01 -1.34e+14 -1.85e-01 8.78e-01 ...
 $ V3    : num [1:1000] 2.54e+14 1.66e-01 1.77e+14 1.79e+14 1.55e+12 ...
 $ V4    : num [1:1000] 1.38e+14 4.48e-01 3.80e-01 -8.63e-01 4.03e-01 ...
 $ V5    : num [1:1000] -0.3383 0.06 -0.5032 -0.0103 -0.4072 ...
 $ V6    : num [1:1000] 4.62e-01 -8.24e-02 1.80e+14 1.25e+14 9.59e-02 ...
 $ V7    : num [1:1000] 0.2396 -0.0788 0.7915 0.2376 0.5929 ...
 $ V8    : num [1:1000] 0.0987 0.0851 0.2477 0.3774 -0.2705 ...
 $ V9    : num [1:1000] 3.64e-01 -2.55e-01 -1.51e+14 -1.39e+14 8.18e-01 ...
 $ V10   : num [1:1000] 0.0908 -0.167 0.2076 -0.055 0.7531 ...
 $ V11   : num [1:1000] -5.52e-01 1.61e+14 6.25e-01 -2.26e-01 -8.23e-01 ...
 $ V12   : num [1:1000] -6.18e-01 1.07e+14 6.61e-02 1.78e-01 5.38e-01 ...
 $ V13   : num [1:1000] -9.91e-01 4.89e-01 7.17e-01 5.08e-01 1.35e+13 ...
 $ V14   : num [1:1000] -3.11e-01 -1.44e-01 -1.66e-01 -2.88e-01 -1.12e+14 ...
 $ V15   : num [1:1000] 1.47e+14 6.36e-01 2.35e+14 -6.31e-01 1.75e-01 ...
 $ V16   : num [1:1000] -4.70e-01 4.64e-01 -2.89e+14 -1.06e+13 -4.51e-01 ...
 $ V17   : num [1:1000] 2.08e-01 -1.15e-01 1.11e+14 -6.84e-01 -2.37e-01 ...
 $ V18   : num [1:1000] 2.58e-02 -1.83e-01 -1.21e-01 1.97e+14 -3.82e-02 ...
 $ V19   : num [1:1000] 4.04e-01 -1.46e-01 -2.26e+14 -1.23e+13 8.03e-01 ...
 $ V20   : num [1:1000] 0.2514 -0.0691 0.525 -0.208 0.4085 ...
 $ V21   : num [1:1000] -0.01831 -0.22578 0.248 -0.1083 -0.00943 ...
 $ V22   : num [1:1000] 0.27784 -0.63867 0.77168 0.00527 0.79828 ...
 $ V23   : num [1:1000] -0.11 0.101 0.909 -0.19 -0.137 ...
 $ V24   : num [1:1000] 6.69e-02 -3.40e-01 -6.89e-01 -1.18e+14 1.41e-01 ...
 $ V25   : num [1:1000] 0.129 0.167 -0.328 0.647 -0.206 ...
 $ V26   : num [1:1000] -0.189 0.126 -0.139 -0.222 0.502 ...
 $ V27   : num [1:1000] 0.13356 -0.00898 -0.05535 0.06272 0.21942 ...
 $ V28   : num [1:1000] -0.0211 0.0147 -0.0598 0.0615 0.2152 ...
 $ Amount: num [1:1000] 149.62 2.69 378.66 123.5 69.99 ...
 $ Class : Factor w/ 2 levels "0","1": 1 1 1 1 1 1 1 1 1 1 ...

Code:

#Membuat matriks korelasi
knnku <- dataku[,-c(1,30)]
corr_knn <- cor(knnku)

#Mengurangi dimensi dari matriks korelasi
library(reshape2)
melt_corr <- melt(corr_knn)

#Membuat Visualisasi Matriks Korelasi Multi Variabel
#ggplot() untuk memformat template visualisasi
#geom_text() untuk menampilkan nilai dalam hal ini korelasi
library(ggplot2)
ggplot(data = melt_corr, aes(x=Var1, y = Var2, fill = value)) +
  geom_tile(aes(fill = value), colour = "white") +
  scale_fill_gradient(low = "white", high = "steelblue") +
  geom_text(aes(Var2, Var1, label = round(value,2)), size = 1.5)

Hasil:

Matrik korelasi variabel independen

Code:

#Partisi Data
inTrain <- createDataPartition(y=dataku$Class, p = 0.80, list = F)
train <- dataku[inTrain,]
test <- dataku[-inTrain,]

#Pemodelan K Nearest Neighbor
#kmax bisa diatur sesuai kemungkinan
kn <- train.kknn(Class~., data = train, kmax = 10)

#Ringkasan Model KNN
kn

Hasil:

Call:
train.kknn(formula = Class ~ ., data = train, kmax = 10)

Type of response variable: nominal
Minimal misclassification: 0.002496879
Best kernel: optimal
Best k: 6

Terlihat bahwa dari K mulai 1 sampai Kmax 10, nilai K terbaik adalah sebesar 6, jadi jumlah tetangga terbaik terhadap amatan baru sebanyak 6 dari masing-masing kelompok

Code:

#Plot Model KNN dengan k terbaik 6
plot(kn)
text(6, 0.00255, c("Nilai K terbaik"), col = "red")


Hasil:

Plot mendapatkan K terbaik, K = 6 memiliki kecuraman tajam terhadap K = 1,2,3,4,5

Code:

#Prediksi dengan Train
p4 <- predict(kn, train)
head(train$Class)
head(p4)

#Akurasi Prediksi train
confusionMatrix(p4, train$Class, mode = "everything")

Hasil:

Confusion Matrix and Statistics

          Reference
Prediction   0   1
         0 799   2
         1   0   0
                                         
               Accuracy : 0.9975         
                 95% CI : (0.991, 0.9997)
    No Information Rate : 0.9975         
    P-Value [Acc > NIR] : 0.6767         
                                         
                  Kappa : 0              
                                         
 Mcnemar's Test P-Value : 0.4795         
                                         
            Sensitivity : 1.0000         
            Specificity : 0.0000         
         Pos Pred Value : 0.9975         
         Neg Pred Value :    NaN         
              Precision : 0.9975         
                 Recall : 1.0000         
                     F1 : 0.9988         
             Prevalence : 0.9975         
         Detection Rate : 0.9975         
   Detection Prevalence : 1.0000         
      Balanced Accuracy : 0.5000         
                                         
       'Positive' Class : 0

Terdapat misklasifikasi sebanyak 2 amatan

Akurasi model KNN dengan train dataset 99,75 persen. Hasil ini sangat baik.

Code:

#Prediksi dengan Test
predtestknn <- predict(kn, test)

#Akurasi prediksi Test
confusionMatrix(predtestknn, test$Class, mode = "everything")

Hasil:

Confusion Matrix and Statistics

          Reference
Prediction   0   1
         0 199   0
         1   0   0

Terlihat pada tabel korkondansi tidak ada yang salah klasifikasi (misclassification)
                                     
               Accuracy : 1          
                 95% CI : (0.9816, 1)
    No Information Rate : 1          
    P-Value [Acc > NIR] : 1          
                                     
                  Kappa : NaN        
                                     
 Mcnemar's Test P-Value : NA         
                                     
            Sensitivity :  1         
            Specificity : NA         
         Pos Pred Value : NA         
         Neg Pred Value : NA         
              Precision :  1         
                 Recall :  1         
                     F1 :  1         
             Prevalence :  1         
         Detection Rate :  1         
   Detection Prevalence :  1         
      Balanced Accuracy : NA         
                                     
       'Positive' Class : 0

Terlihat pada test dataset diperoleh akurasi 100 persen. Sebuah hasil yang sangat baik.

Demikian sekilas pembahasan kita mengenai K Nearest Neighbor (KNN) dengan R. Ikuti terus unggahan selanjutnya, selamat memahami dan mempraktikkan!.

Komentar

Postingan populer dari blog ini

Mencari P - Value dan Titik Kritis Uji F, Uji t, Uji Chi Square, dan Uji Z Normal dengan R

Mencari nilai p-value dan titik kritis Bagi teman-teman yang pernah mengenal statistika, pasti familier dengan istilah p-value dan titik kritis. P-value biasanya didefinisikan sebagai probabiltas atau peluang maksimal yang diamati dari hasil uji statistik, bahasa gampangnya adalah besarnya kesalahan penelitian berdasarkan uji statistik. Sebagai contoh sederhana, dari 100 orang dengan nama masing-masing dan diklasifikasikan ke dalam gender nama perempuan dan nama laki-laki, didapatkan nilai p-value uji statistiknya sebesar 0,05 atau 5%. Itu artinya, dari 100 orang, ada kemungkinan sebanyak 5 orang yang namanya salah klasifikasi. Dari namanya terdeteksi sebagai nama perempuan, padahal aktualnya yang bersangkutan bergender laki-laki. Sedangkan titik kritis atau titik uji adalah nilai batas pengujian hipotesis statistik, apakah masuk dalam wilayah tolak hipotesis, ataukah gagal menolaknya. Titik ini berkaitan erat dengan nilai p-value . Kalau biasanya kita mendapatkan kedua nilai ini da...

Cara Mendowload dan Install R serta RStudio di Windows (Step by Step)

Cara Download dan Install R serta R Studio di Windows Halo teman-teman, mohon maaf karena beberapa waktu ini, blog ini sempat vakum dari unggahan. Kali ini saya akan coba berbagai mengenai bagaimana cara mengunduh ( download ) dan menginstal ( install ) program R sekaligus R Studio khususnya di Windows. Unggahan kali ini sedikit terbalik karena semestinya saya unggah terlebih dahulu pertama kali di blog ini, namun bukan masalah, mengingat kemarin ada beberapa pihak yang meminta untuk menerangkap bagaimana tahapan mengunduh dan instalasi R dan R Studio, jadinya saya dahulukan pada unggahan ini sebelum pembahasan mengenai Data Mining , Data Science , atau bahasan Big Data kita terlampau jauh. Baik, kita akan mulai dengan bagaimana mengunduh R dan R Studio melalui mesin pencari Google. R dan R Studio ini memang beberapa waktu terakhir ini booming , apalagi dengan munculnya konsep mengenai Big Data , Data Modelling, Data Mining, dan Data Science serta Data Visualization . Sebenarnya, men...

Analisis Tipologi Klassen (Klassen Typology) dan Visualisasi Spasialnya dengan R

Tipologi Klassen dan visualisasinya dengan R Halo teman-teman, sebelumnya kita telah membahas tentang analisis Shift Share dan Location Quotient (LQ) dengan menggunakan R. Kali ini, kita akan membahas mengenai satu lagi alat analisis yang sebenarnya merupakan alat analisis tiga serangkai dari SS dan LQ, yaitu analisis Tipologi Klassen. Dalam penelitian ekonomi kewilayahan, ketiga analisis ini seringkali digunakan, baik dalam rangka melihat perkembangan dan transformasi struktur ekonomi suatu wilayah maupun melihat keunggulan kompetitif dan keunggulan komparatif wilayah satu dengan wilayah lainnya dengan mengacu wilayah referensi. Terlebih dulu, sebelum melakukan visualisasi spasial menggunakan fungsi plot(), ada baiknya kita bahas terlebih dahulu mengenai Tipologi Klassen itu sendiri. Tipologi Klassen merupakan teknik pengelompokan sektor, subsektor, lapangan usaha, atau komoditas tertentu di wilayah analisis berdasarkan pertumbuhan nilai tambah wilayah analisis terhadap nasional atau...