Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Pemodelan Regresi Probit (Probit Regression) dengan R

Regresi Probit dengan R

Halo teman-teman, setelah kita sebelumnya belajar dan berbagi bagaimana cara pemodelan regresi logistik biner atau yang biasa disebut sebagai logit, kali ini kita akan melangkah satu senti mengulas sekaligus mempraktikkan bagaimana pemodelan regresi Probit dengan R.

Regresi probit ini harus kita ulas supaya kita semua dapat mengetahui dengan jelas dimana perbedaan antaran logistik biner dan probit. Saya pun awalnya juga bingung mengenai perbedaan kedua jenis model ini. Sebab, selain referensi yang terbatas, banyak yang mengulas perbedaannya yang justru kalau saya simpulkan malah tidak ada perbedaan nyata dan jelas antara kedua model ini.

Baik, setelah sekian lama mempelajari kedua model ini, akhirnya saya sampai pada benang merah sebagai aspek pembeda logit dan probit. Sebagaimana ketika kita baca berdasarkan referensi pada umumnya, regresi logistik biner sebuah model statistik yang digunakan untuk memprediksi peluang terjadinya (sukses atau gagal) variabel dependen yang kita gunakan. Adapun variabel dependen tersebut berskala kategorik (non numerik) baik nominal maupun ordinal. Dan yang paling penting, regresi logistik ini dibangkitkan mengikuti distribusi logistik (eksponensial).

Sedangkan regresi porbit juga sama, ia merupakan model yang digunakan untuk memprediksi peluang terjadinya (sukses atau gagal) variabel dependen dan bertipe data nominal atau ordinal. Hanya saja, model ini dibangkitkan mengikuti distribusi normal standar kumulatif (cummulative normal standard distribution).

Aspek lain yang bisa memperjelas penggunaan kedua model ini adalah pada jenis kasusnya. Khusus penggunaan probit, biasanya sangat relevan digunakan ketika tujuan penelitian, percobaan, atau risetnya bersifat targetting pada level tertentu dinyatakan sukses.

Sebagai contoh, misalkan kita akan membuat antivirus Covid-19 jenis baru yang kita ekstrak dari zat yang berbeda. Kita kemudian ingin mengetahui, seberapa besar dosis antivirus Covid-19 jenis baru tersebut untuk mencapai efektivitas menyembuhkan pasien mencapai 70%?

Jenis penelitian dengan target-target seperti inilah yang relevan menggunakan regresi probit.

Itu sekilas mengenai bagaimana kita memutuskan menggunakan logit atau probit dan apa saja perbedaannya. Selanjutnya, sebagaimana adat istiadat kita, kita akan coba mempraktikan pemodelan regresi probit dengan R. Sebelumnya, kita perlu unduh dulu datanya, biar teman-teman bisa bandingkan hasilnya, kita pakai data yang sebelumnya kita gunakan di model regresi logistik biner, datanya bisa didapatkan di sini. Setelah datanya telah ada, kita coba menggunakan beberapa code berikut untuk pemodelan probit.

Code:

#Mengimport data monotaroid
library(readxl)
mntaro <- read_excel("C:/Users/Joko Ade/Downloads/mntaro.xlsx")
dataku <- mntaro

#melihat ringkasan data
summary(dataku)

Hasil:

   Reviu             Harga            BarangSiap       Terjual          lnHarga      
 Min.   :0.00000   Min.   :    2200   Min.   :1.000   Min.   :0.0000   Min.   : 7.696  
 1st Qu.:0.00000   1st Qu.:   61600   1st Qu.:1.000   1st Qu.:0.0000   1st Qu.:11.028  
 Median :0.00000   Median :  179300   Median :2.000   Median :0.0000   Median :12.097  
 Mean   :0.01002   Mean   :  626028   Mean   :1.984   Mean   :0.1964   Mean   :12.138  
 3rd Qu.:0.00000   3rd Qu.:  619300   3rd Qu.:2.000   3rd Qu.:0.0000   3rd Qu.:13.336  
 Max.   :1.00000   Max.   :19910000   Max.   :3.000   Max.   :1.0000   Max.   :16.807

Code:

#mengubah tipe data di dalam data frame
dataku$Terjual <- as.factor(dataku$Terjual)
dataku$Reviu <- as.factor(dataku$Reviu)
dataku$lnHarga <- as.numeric(dataku$lnHarga)
dataku$BarangSiap <- as.factor(dataku$BarangSiap)

#mengattach data frame supaya lebih praktis
attach(dataku)

#Regresi Probit atau Normit
probit1 <- glm(Terjual~lnHarga+Reviu+BarangSiap, family = binomial(link = "probit"))
summary(probit1)

Hasil:

Call:
glm(formula = Terjual ~ lnHarga + Reviu + BarangSiap, family = binomial(link = "probit"))

Deviance Residuals:
    Min       1Q   Median       3Q      Max  
-1.4702  -0.4812  -0.4213  -0.3470   2.5213  

Coefficients:
            Estimate Std. Error z value Pr(>|z|)    
(Intercept) -0.13582    0.59072  -0.230   0.8181    
lnHarga     -0.10426    0.04883  -2.135   0.0327 *  
Reviu1       0.16797    0.62533   0.269   0.7882    
BarangSiap2  0.13712    0.19859   0.690   0.4899    
BarangSiap3  1.35248    0.19944   6.781 1.19e-11 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for binomial family taken to be 1)

    Null deviance: 494.37  on 498  degrees of freedom
Residual deviance: 393.34  on 494  degrees of freedom
AIC: 403.34

Number of Fisher Scoring iterations: 5

Code:

#Uji Wald Parsial
library(lmtest)
coeftest(probit1)

#Uji Wald Simultan
waldtest(probit1)

Hasil:

z test of coefficients:

             Estimate Std. Error z value  Pr(>|z|)    
(Intercept) -0.135824   0.590720 -0.2299   0.81815    
lnHarga     -0.104260   0.048829 -2.1352   0.03274 *  
Reviu1       0.167971   0.625327  0.2686   0.78823    
BarangSiap2  0.137118   0.198591  0.6905   0.48991    
BarangSiap3  1.352485   0.199444  6.7813 1.191e-11 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Wald test

Model 1: Terjual ~ lnHarga + Reviu + BarangSiap
Model 2: Terjual ~ 1
  Res.Df Df      F    Pr(>F)    
1    494                        
2    498 -4 23.698 < 2.2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Code:

#Uji Kebaikan Suai
#H0 Model Fit
library(ResourceSelection)
hoslem.test(probit1$y, fitted(probit1), g = 10)

Hasil:

    Hosmer and Lemeshow goodness of fit (GOF) test

data:  probit1$y, fitted(probit1)
X-squared = 3.1692, df = 8, p-value = 0.9233

Code:

#Melihat Pseudo R Square
library(fmsb)
NagelkerkeR2(probit1)
pR2(probit1)

Hasil:

$N
[1] 499

$R2
[1] 0.291546

fitting null model for pseudo-r2
         llh      llhNull           G2     McFadden         r2ML         r2CU
-196.6677699 -247.1850965  101.0346532    0.2043704    0.1832925    0.2915460

Code:

#Rasio Odds
exp(coef(probit1))

Hasil:

(Intercept)     lnHarga      Reviu1 BarangSiap2 BarangSiap3
  0.8729966   0.9009908   1.1829018   1.1469634   3.8670215

Terlihat bahwa odds rationya sedikit lebih kecil dari model logit

Code:

#prediksi tabel korkondansi
corcond2 <- table(true = Terjual, pred = round(fitted(probit1)))
(corcond2[1,1]+corcond2[2,2])/(corcond2[1,1]+corcond2[1,2]+corcond2[2,1]+corcond2[2,2])*100

Hasil:

    pred
true   0   1
   0 365  36
   1  54  44

[1] 81.96393

Dari hasil ini kita dapat simpulkan bahwa model logit dan probit memiliki hasil yang relatif sama. Namun, yang perlu ditekankan adalah seperti ulasan sebelumnya, kalau probit itu khusus untuk kasus dengan targetting, sedangkan logit tidak. Oke, jangan lupa share dan komen bila ada pertanyaan, dan jangan lupa untuk terus mengikuti artikel-artikel berbasis praktik dengan R berikutnya. Selamat mempraktikkan!

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s