Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta
Posting Komentar

Regresi Linier Berganda: Backward, Foreward, dan Stepwise Selection dengan R

Regresi Linier Berganda foreward, backward, stepwise selection

Setelah membahas mengenai bagaimana cara mendapatkan nilai p-value dan normalisasi data (bisa dibaca di sini), kali ini kita akan mempelajari bersama tentang modelling yang akhir-akhir ini merupakan bahasan terpenting dalam data mining, yaitu regresi linier berganda (multiple linear regression model).

Model ini sangat terkenal dan masih banyak digunakan oleh para peneliti di berbagai bidang. Keunggulan model ini selain kemudahan, kita dapat menjelaskan adanya pengaruh langsung atau direct effect dari variabel independen (variabel bebas) terhadap variabel dependennya (variabel terikat).

Bahasan regresi linier berganda sendiri secara komprehensif dan praktiknya secara lengkap telah saya ulas dan rinci dalam buku berikut. Kali ini, kita akan mempertajam ulasan yaitu bagaimana cara memodelkan regresi linier berganda dengan menggunakan 3 metode seleksi, yaitu backward selection, foreward selection, dan satu lagi yaitu stepwise selection. Backward selection adalah metode seleksi variabel independen ke dalam model dengan memasukkan seluruh variabel independen tersebut ke dalam model kemudian dilakukan eliminasi variabel independen satu per satu berdasarkan nilai Akaike Selection Criteria (AIC) dan signifikansi parsialnya. Foreward selection adalah kebalikan dari backward, metode ini dilakukan dengan mengasumsikan variabel dependen hanya dipengaruhi oleh intersep model saja, kemudian satu per satu variabel independennya dimasukkan ke dalam model sekaligus melakukan eliminasi variabel berdasarkan nilai AIC dan signifikansi parsialnya terhadap model. Sedangkan stepwise selcetion adalah kombinasi antara backward dan foreward selection.

Tiga jenis metode seleksi model ini sendiri sebenarnya telah tersedia di aplikasi olah data dan model seperti SPSS, Eviews, STATA, Minitab, SAS, atau lainnya. Tapi, bagaimana dengan penerapannya di R?

Sebelumnya, kita perlu menyiapkan datanya untuk mempraktikannya. Data yang kita gunakan kali ini merupakan data riil yang bersumber dari Badan Pusat Statistik (BPS) Provinsi Jawa Timur (laman situsnya dapat teman-teman cek di: jatim.bps.go.id) dengan referensi tahun 2020. Datanya dapat teman-teman unduh pada link berikut. Setelah datanya diunduh, mari kita praktikkan bersama 3 metode seleksi model regresi linier menggunakan beberapa code berikut:

Code:

#Mengimport Data ke R
library(readxl)
datakemiskinan <- read_excel("C:/Users/Joko Ade/Downloads/datakemiskinan.xlsx")
#Sesuai letak penyimpanan file

#Melihat Struktur Data
str(datakemiskinan)

Hasil:

tibble [38 x 4] (S3: tbl_df/tbl/data.frame)
 $ JB   : num [1:38] 2 7 4 4 6 3 16 5 14 6 ...
 $ Rls  : num [1:38] 7.61 7.55 7.56 8.34 7.5 8.08 7.43 6.67 6.49 7.42 ...
 $ Tpt  : num [1:38] 2.28 4.45 4.11 4.61 3.82 5.24 5.49 3.36 5.12 5.34 ...
 $ Kemis: num [1:38] 80.8 86.7 81.1 76.4 108.5 ...

Code:

#Melihat Statistik Deskriptif Data
summary(datakemiskinan)

Hasil:

      JB              Rls              Tpt             Kemis       
 Min.   : 0.000   Min.   : 4.860   Min.   : 2.280   Min.   :  8.09  
 1st Qu.: 2.250   1st Qu.: 7.200   1st Qu.: 4.210   1st Qu.: 76.88  
 Median : 6.000   Median : 7.695   Median : 5.185   Median :120.77  
 Mean   : 6.658   Mean   : 8.061   Mean   : 5.624   Mean   :116.29  
 3rd Qu.:10.250   3rd Qu.: 9.220   3rd Qu.: 6.593   3rd Qu.:163.31  
 Max.   :20.000   Max.   :11.370   Max.   :10.970   Max.   :265.56 

Code:

#attach data untuk kemudahan
attach(datakemiskinan)

#Uji Linieritas dengan Ramsey's Test
library(lmtest)
resettest(Kemis~JB+Rls+Tpt, power = 2, type = "regressor")
#p-value > 0,05 berarti cocok untuk regresi linier

Hasil:

    RESET test

data:  Kemis ~ JB + Rls + Tpt
RESET = 0.2541, df1 = 3, df2 = 31, p-value = 0.8578

Code:

#Pemodelan Stepwise Regression
model_intersep <- lm(Kemis~1)

#Pemodelan dengan Seluruh Variabel Bebas Masuk
model_seluruh <- lm(Kemis~., data = datakemiskinan)

#BACKWARD SELECTION
modelbw <- step(model_intersep, direction = 'backward', scope = formula(model_seluruh), trace = T)
modelbw

#Melihat Proses Pemilihan Model Stepwise
modelbw$anova

#Model Terpilih Stepwise
modelbw$coefficients

#Ringkasan Model
summary(modelbw)

Hasil:

Call:
lm(formula = Kemis ~ 1)

Coefficients:
(Intercept)  
      116.3 

  Step Df Deviance Resid. Df Resid. Dev      AIC
1      NA       NA        37   190425.1 325.7383


(Intercept)
   116.2924

Call:
lm(formula = Kemis ~ 1)

Residuals:
     Min       1Q   Median       3Q      Max
-108.202  -39.417    4.473   47.020  149.268

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)   116.29      11.64   9.993 4.68e-12 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 71.74 on 37 degrees of freedom

Code:

#FOREWARD SELECTION
modelfw <- step(model_intersep, direction = 'forward', scope = formula(model_seluruh), trace = T)
modelfw

#Melihat Proses Pemilihan Model Stepwise
modelfw$anova

#Model Terpilih Stepwise
modelfw$coefficients

#Ringkasan Model
summary(modelfw)

Hasil:

Start:  AIC=325.74
Kemis ~ 1

       Df Sum of Sq    RSS    AIC
+ Rls   1     79464 110961 307.22
+ JB    1     60660 129766 313.16
<none>              190425 325.74
+ Tpt   1      5085 185340 326.71

Step:  AIC=307.22
Kemis ~ Rls

       Df Sum of Sq    RSS    AIC
+ JB    1     32586  78375 296.00
+ Tpt   1     30437  80524 297.03
<none>              110961 307.21

Step:  AIC=296
Kemis ~ Rls + JB

       Df Sum of Sq   RSS    AIC
+ Tpt   1     13350 65025 290.91
<none>              78375 296.00

Step:  AIC=290.91
Kemis ~ Rls + JB + Tpt

Call:
lm(formula = Kemis ~ Rls + JB + Tpt)

Coefficients:
(Intercept)          Rls           JB          Tpt  
    316.459      -38.328        4.308       14.244

   Step Df Deviance Resid. Df Resid. Dev      AIC
1       NA       NA        37  190425.14 325.7383
2 + Rls -1 79464.47        36  110960.67 307.2151
3  + JB -1 32585.52        35   78375.15 296.0037
4 + Tpt -1 13349.87        34   65025.27 290.9079

(Intercept)         Rls          JB         Tpt
 316.458537  -38.328484    4.308341   14.243944

Call:
lm(formula = Kemis ~ Rls + JB + Tpt)

Residuals:
    Min      1Q  Median      3Q     Max
-81.215 -32.314  -3.185  26.152  87.904

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  316.459     44.865   7.054 3.82e-08 ***
Rls          -38.328      7.061  -5.428 4.77e-06 ***
JB             4.308      1.513   2.847  0.00744 **
Tpt           14.244      5.391   2.642  0.01237 *  
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 43.73 on 34 degrees of freedom
Multiple R-squared:  0.6585,    Adjusted R-squared:  0.6284
F-statistic: 21.86 on 3 and 34 DF,  p-value: 4.566e-08

Code:

#STEPWISE SELECTION
modelstep <- step(model_intersep, direction = 'both', scope = formula(model_seluruh), trace = T)
modelstep

#Melihat Proses Pemilihan Model Stepwise
modelstep$anova

#Model Terpilih Stepwise
modelstep$coefficients

#Ringkasan Model
summary(modelstep)

Hasil:

Start:  AIC=325.74
Kemis ~ 1

       Df Sum of Sq    RSS    AIC
+ Rls   1     79464 110961 307.22
+ JB    1     60660 129766 313.16
<none>              190425 325.74
+ Tpt   1      5085 185340 326.71

Step:  AIC=307.22
Kemis ~ Rls

       Df Sum of Sq    RSS    AIC
+ JB    1     32586  78375 296.00
+ Tpt   1     30437  80524 297.03
<none>              110961 307.22
- Rls   1     79464 190425 325.74

Step:  AIC=296
Kemis ~ Rls + JB

       Df Sum of Sq    RSS    AIC
+ Tpt   1     13350  65025 290.91
<none>               78375 296.00
- JB    1     32586 110961 307.21
- Rls   1     51390 129766 313.16

Step:  AIC=290.91
Kemis ~ Rls + JB + Tpt

       Df Sum of Sq    RSS    AIC
<none>               65025 290.91
- Tpt   1     13350  78375 296.00
- JB    1     15499  80524 297.03
- Rls   1     56354 121380 312.63

Call:
lm(formula = Kemis ~ Rls + JB + Tpt)

Coefficients:
(Intercept)          Rls           JB          Tpt  
    316.459      -38.328        4.308       14.244 

   Step Df Deviance Resid. Df Resid. Dev      AIC
1       NA       NA        37  190425.14 325.7383
2 + Rls -1 79464.47        36  110960.67 307.2151
3  + JB -1 32585.52        35   78375.15 296.0037
4 + Tpt -1 13349.87        34   65025.27 290.9079

(Intercept)         Rls          JB         Tpt
 316.458537  -38.328484    4.308341   14.243944

 Call:
lm(formula = Kemis ~ Rls + JB + Tpt)

Residuals:
    Min      1Q  Median      3Q     Max
-81.215 -32.314  -3.185  26.152  87.904

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  316.459     44.865   7.054 3.82e-08 ***
Rls          -38.328      7.061  -5.428 4.77e-06 ***
JB             4.308      1.513   2.847  0.00744 **
Tpt           14.244      5.391   2.642  0.01237 *  
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 43.73 on 34 degrees of freedom
Multiple R-squared:  0.6585,    Adjusted R-squared:  0.6284
F-statistic: 21.86 on 3 and 34 DF,  p-value: 4.566e-08

Interpretasi: berdasarkan 3 metode seleksi model di atas, terlihat bahwa pemodelan dengan stepwise selection adalah metode yang relatif lebih baik dibandingkan yang lainnya.

Uji asumsi normalitas residual model dapat dilihat caranya di sini.

Uji asumsi non-multikolinearitas variabel independen dapat dilihat caranya di sini.

Uji asumsi non-autokorelasi residual model dapat dilihat caranya di sini.

Uji asumsi homoskedastisitas residual model dapat dilihat caranya di sini.

Oke, demikian sedikit ulasan bagaimana kita menerapkan 3 jenis metode seleksi variabel pemodelan  regresi dalam R. Jangan lupa untuk share, tanya-tanya di kolom komentar, dan menyimak unggahan berikutnya. Semoga bermanfaat.

Label:

Komentar

Posting Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun
Posting Komentar
Baca selengkapnya

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan
Posting Komentar
Baca selengkapnya

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s
Posting Komentar
Baca selengkapnya