Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Pemodelan Regresi Tobit (Tobit Regression) dengan R

Regresi Tobit

Halo teman-teman, mari kita belajar dan berbagi lagi. Setelah kita sebelumnya membahas mengenai regresi logistik atau logit serta regresi probit atau normit, kali ini kita akan beranjak ke model pengembangan dari logistik berikutnya, yaitu regresi Tobit atau regresi Tobin-Probit.

Seringkali, kita mungkin masih ada yang kebingungan membedakan antara regresi logistik, probit, dan tobit ini. Penyebabnya karena masih terbatasnya referensi atau begitu banyaknya referensi sehingga membuat kesimpulan kita belum tepat untuk mempertajam perbedaan di antara ketiga model tersebut.

Saya pun awalnya juga bingung mengenai ketiga bentuk regresi ini, namun dengan menelaah dari beragam sumber, saya mendapat beberapa kesimpulan yang semoga saja dapat memperjelas perbedaan ketiganya kepada teman-teman pembaca blog ini. Sebagai disclaimer, apa yang saya simpulkan ini dapat mengandung kesalahan, dan untuk itu kalau ada teman-teman yang mau memperbaiki atau menambahkan disilakan komentar saja untuk kemudian saya update penjelasannya.

Baik, jadi perbedaan antara regresi logistik, probit, dan tobit itu pertama dari aspek variabel dependennya. Dalam regresi logistik, variabel dependennya kategorik atau terlabelisasi, misalkan Puas dan Tidak Puas, kalau variabel dependen di model probit sama dengan logistik hanya saja jenis penelitiannya adalah targetting serta diturunkan dari distribusi kumulatif normal standar, misalkan tujuannya untuk melihat sebesarapa besar dosis vaksin yang diperlukan agar pasien yang sembuh mencapai 70 persen, ada target dalam penelitiannya. Sedangkan kalau regresi tobit, itu variabel dependennya memiliki sensor atau cutting point atau threshold tertentu, yang lebih valid berdasarkan yang saya baca dari jurnal-jurnal, variabel dependen tobit ini bentuknya numerik namun ia terlabelisasi secara implisit, misalkan variabel dependennya bernilai 0, 2, 3, 4, 5, 3, 4, 5, 6, 7, 5, 4, 6, 2, 2, dan 1. Berdasarkan teori, ternyata nilai 4 menentukan seseorang itu dikatakan kurang baik dan yang lebih dari sama dengan 4 dikatakan baik. Maka dalam regresi tobit yang menjadi sensor cutting pointnya adalah 4. Dalam menentukan cutting point beberapa sumber yang saya pelajari ada yang berdasarkan pada sebaran data dari variabel dependennya. Sensosr atau cutting point ditentukan oleh sebaran data yang terpenggal atau terpotong sebagaimana data yang akan kita gunakan dalam praktikum pemodelan tobit kali ini.

Kapan menggunakan regresi Tobit?

Jelas, alasan yang pertama karena tadi, ada semacam teori yang menjadi dasar cutting point yang secara implisit melabelisasi variabel dependennya yang numerik. Alasan berikutnya, menurut Tobin (1958), regresi Tobit ini mampu mengakomodir nilai-nilai amatan yang mengandung 0 (nol), misalkan untuk data-data pengeluaran untuk konsumsi rumah tangga. Kendati demikian, sebetulnya terdapat kelemahan dalam model Tobit ini. Menurut Deaton (1998) dalam studinya mendapatkan simpulan bahwa model Tobit ini menghasilkan penduga parameter regresi yang cenderung bias ke atas, sedangkan pemodelan Ordinary Least Square (OLS) menghasil penduga parameter regresi yang cenderung bias ke bawah.

Baiklah, itu sekilas teori dan definisi mengenai regresi Tobit. Selanjutnya mari kita coba untuk mempraktikkan pemodelan Tobit menggunakan R dengan terlebih dahulu menyiapkan datanya yang bisa teman-teman unduh pada tautan berikut. Setelah datanya telah siap, saatnya kita memulai pemodelan regresi Tobit dengan menggunakan alur code berikut:

Code:

#Menginstal dan aktivasi package untuk pemodelan Tobit
install.packages("VGAM")
library(VGAM)


#Mengimport data
library(readxl)
dataku <- read_excel("C:/Users/Joko Ade/Downloads/tobit.xlsx")

#Melihat ringkasan data
summary(dataku)

#melihat Struktur Data
str(dataku)

Hasil:

      id              read            math           prog                apt       
 Min.   :  1.00   Min.   :28.00   Min.   :33.00   Length:200         Min.   :352.0  
 1st Qu.: 50.75   1st Qu.:44.00   1st Qu.:45.00   Class :character   1st Qu.:575.5  
 Median :100.50   Median :50.00   Median :52.00   Mode  :character   Median :633.0  
 Mean   :100.50   Mean   :52.23   Mean   :52.65                      Mean   :640.0  
 3rd Qu.:150.25   3rd Qu.:60.00   3rd Qu.:59.00                      3rd Qu.:705.2  
 Max.   :200.00   Max.   :76.00   Max.   :75.00                      Max.   :800.0  

tibble [200 x 5] (S3: tbl_df/tbl/data.frame)
 $ id  : num [1:200] 1 2 3 4 5 6 7 8 9 10 ...
 $ read: num [1:200] 34 39 63 44 47 47 57 39 48 47 ...
 $ math: num [1:200] 40 33 48 41 43 46 59 52 52 49 ...
 $ prog: chr [1:200] "vocational" "vocational" "general" "general" ...
 $ apt : num [1:200] 352 449 648 501 762 658 800 613 531 528 ...

Code:

#Mengattach data
attach(dataku)

#Melihat histogram sebaran variabel dependen atau Y
hist(apt, breaks = 100)
#Dari sebaran data Y didapatkan bahwa sensor datanya di angka 800 sehinnga bisa menggunakan Regresi Tobit

Hasil:

Visualisasi sebaran variabel dependen untuk menentukan sensor atau cutting point

Code:

#Model Tobit
tobit <- vglm(apt ~ read + math + prog, tobit(Upper = 800))

#Melihat ringkasan model
summary(tobit)
AIC(tobit)

#menghitung RSE
k=length(coef(tobit))-1
SSE=sum(residuals(tobit)**2)
n=length(residuals(tobit))
sqrt(SSE/(n-(1+k)))

#Melihat R Square Model
fityhat <- fitted(tobit)[,1]
R <- with(dataku, cor(fityhat, apt))
Rsquare <- R^2
Rsquare

Hasil:

Call:
vglm(formula = apt ~ read + math + prog, family = tobit(Upper = 800))
Coefficients:
                Estimate Std. Error z value Pr(>|z|)    
(Intercept):1  209.55956   32.54590   6.439 1.20e-10 ***
(Intercept):2    4.18476    0.05235  79.944  < 2e-16 ***
read             2.69796    0.61928   4.357 1.32e-05 ***
math             5.91460    0.70539   8.385  < 2e-16 ***
proggeneral    -12.71458   12.40857  -1.025 0.305523    
progvocational -46.14327   13.70667  -3.366 0.000761 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Names of linear predictors: mu, loglink(sd)
Log-likelihood: -1041.063 on 394 degrees of freedom
Number of Fisher scoring iterations: 5
No Hauck-Donner effect found in any of the estimates

AIC: [1] 2094.126

RSE: [1] 47.1248

R square: [1] 0.6122606

Code:

#Model OLS
ols <- lm(apt ~ read + math + prog)

#Melihat ringkasan model OLS
summary(ols)
AIC(ols)

Hasil:

Call:
lm(formula = apt ~ read + math + prog)

Residuals:
     Min       1Q   Median       3Q      Max
-161.463  -42.474   -0.707   43.180  181.554

Coefficients:
               Estimate Std. Error t value Pr(>|t|)    
(Intercept)     242.735     30.140   8.054 7.80e-14 ***
read              2.553      0.583   4.379 1.95e-05 ***
math              5.383      0.659   8.169 3.84e-14 ***
proggeneral     -13.741     11.744  -1.170 0.243423    
progvocational  -48.835     12.982  -3.762 0.000223 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 62.38 on 195 degrees of freedom
Multiple R-squared:  0.6127,    Adjusted R-squared:  0.6048
F-statistic: 77.13 on 4 and 195 DF,  p-value: < 2.2e-16

AIC: [1] 2227.788

RSE: [1] 62.38

Dari hasil pemodelan Tobit kita bandingkan dengan regresi OLS, terlihat bahwa nilai koefisien keduanya relatif mirip termasuk variabel-variabel yang signifikannya. Hanya saja untuk penggunaan data kita ini, nilai AIC dan RSE model Tobit terlihat lebih baik karena lebih kecil daripada model OLS. Meski di beberapa jurnal tentang perbandingan model Tobit dan OLS, saya dapatkan simpulan bahwa OLS lebih baik dibandingkan Tobit karena menghasilkan Mean Square Error (MSE) lebih  kecil daripada model regresi Tobit.

Demikian ulasan kita terkait model regresi Tobit dengan R. Semoga sedikit banyak bermanfaat bagi kita semua. Jangan lupa share dan komentar bila ada pertanyaan dan terus simak unggahan menarik berikutnya. Selamat mempraktikkan!

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s