 |
| Regresi Linier Berganda foreward, backward, stepwise selection |
Setelah membahas mengenai bagaimana cara mendapatkan nilai p-value dan normalisasi data (bisa dibaca di sini), kali ini kita akan mempelajari bersama tentang modelling yang akhir-akhir ini merupakan bahasan terpenting dalam data mining, yaitu regresi linier berganda (multiple linear regression model).
Model ini sangat terkenal dan masih banyak digunakan oleh para peneliti di berbagai bidang. Keunggulan model ini selain kemudahan, kita dapat menjelaskan adanya pengaruh langsung atau direct effect dari variabel independen (variabel bebas) terhadap variabel dependennya (variabel terikat).
Bahasan regresi linier berganda sendiri secara komprehensif dan praktiknya secara lengkap telah saya ulas dan rinci dalam buku berikut. Kali ini, kita akan mempertajam ulasan yaitu bagaimana cara memodelkan regresi linier berganda dengan menggunakan 3 metode seleksi, yaitu backward selection, foreward selection, dan satu lagi yaitu stepwise selection. Backward selection adalah metode seleksi variabel independen ke dalam model dengan memasukkan seluruh variabel independen tersebut ke dalam model kemudian dilakukan eliminasi variabel independen satu per satu berdasarkan nilai Akaike Selection Criteria (AIC) dan signifikansi parsialnya. Foreward selection adalah kebalikan dari backward, metode ini dilakukan dengan mengasumsikan variabel dependen hanya dipengaruhi oleh intersep model saja, kemudian satu per satu variabel independennya dimasukkan ke dalam model sekaligus melakukan eliminasi variabel berdasarkan nilai AIC dan signifikansi parsialnya terhadap model. Sedangkan stepwise selcetion adalah kombinasi antara backward dan foreward selection.
Tiga jenis metode seleksi model ini sendiri sebenarnya telah tersedia di aplikasi olah data dan model seperti SPSS, Eviews, STATA, Minitab, SAS, atau lainnya. Tapi, bagaimana dengan penerapannya di R?
Sebelumnya, kita perlu menyiapkan datanya untuk mempraktikannya. Data yang kita gunakan kali ini merupakan data riil yang bersumber dari Badan Pusat Statistik (BPS) Provinsi Jawa Timur (laman situsnya dapat teman-teman cek di: jatim.bps.go.id) dengan referensi tahun 2020. Datanya dapat teman-teman unduh pada link berikut. Setelah datanya diunduh, mari kita praktikkan bersama 3 metode seleksi model regresi linier menggunakan beberapa code berikut:
Code:
#Mengimport Data ke R
library(readxl)
datakemiskinan <- read_excel("C:/Users/Joko Ade/Downloads/datakemiskinan.xlsx")
#Sesuai letak penyimpanan file
#Melihat Struktur Data
str(datakemiskinan)
Hasil:
tibble [38 x 4] (S3: tbl_df/tbl/data.frame)
$ JB : num [1:38] 2 7 4 4 6 3 16 5 14 6 ...
$ Rls : num [1:38] 7.61 7.55 7.56 8.34 7.5 8.08 7.43 6.67 6.49 7.42 ...
$ Tpt : num [1:38] 2.28 4.45 4.11 4.61 3.82 5.24 5.49 3.36 5.12 5.34 ...
$ Kemis: num [1:38] 80.8 86.7 81.1 76.4 108.5 ...
Code:
#Melihat Statistik Deskriptif Data
summary(datakemiskinan)
Hasil:
JB Rls Tpt Kemis
Min. : 0.000 Min. : 4.860 Min. : 2.280 Min. : 8.09
1st Qu.: 2.250 1st Qu.: 7.200 1st Qu.: 4.210 1st Qu.: 76.88
Median : 6.000 Median : 7.695 Median : 5.185 Median :120.77
Mean : 6.658 Mean : 8.061 Mean : 5.624 Mean :116.29
3rd Qu.:10.250 3rd Qu.: 9.220 3rd Qu.: 6.593 3rd Qu.:163.31
Max. :20.000 Max. :11.370 Max. :10.970 Max. :265.56
Code:
#attach data untuk kemudahan
attach(datakemiskinan)
#Uji Linieritas dengan Ramsey's Test
library(lmtest)
resettest(Kemis~JB+Rls+Tpt, power = 2, type = "regressor")
#p-value > 0,05 berarti cocok untuk regresi linier
Hasil:
RESET test
data: Kemis ~ JB + Rls + Tpt
RESET = 0.2541, df1 = 3, df2 = 31, p-value = 0.8578
Code:
#Pemodelan Stepwise Regression
model_intersep <- lm(Kemis~1)
#Pemodelan dengan Seluruh Variabel Bebas Masuk
model_seluruh <- lm(Kemis~., data = datakemiskinan)
#BACKWARD SELECTION
modelbw <- step(model_intersep, direction = 'backward', scope = formula(model_seluruh), trace = T)
modelbw
#Melihat Proses Pemilihan Model Stepwise
modelbw$anova
#Model Terpilih Stepwise
modelbw$coefficients
#Ringkasan Model
summary(modelbw)
Hasil:
Call:
lm(formula = Kemis ~ 1)
Coefficients:
(Intercept)
116.3
Step Df Deviance Resid. Df Resid. Dev AIC
1 NA NA 37 190425.1 325.7383
(Intercept)
116.2924
Call:
lm(formula = Kemis ~ 1)
Residuals:
Min 1Q Median 3Q Max
-108.202 -39.417 4.473 47.020 149.268
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 116.29 11.64 9.993 4.68e-12 ***
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 71.74 on 37 degrees of freedom
Code:
#FOREWARD SELECTION
modelfw <- step(model_intersep, direction = 'forward', scope = formula(model_seluruh), trace = T)
modelfw
#Melihat Proses Pemilihan Model Stepwise
modelfw$anova
#Model Terpilih Stepwise
modelfw$coefficients
#Ringkasan Model
summary(modelfw)
Hasil:
Start: AIC=325.74
Kemis ~ 1
Df Sum of Sq RSS AIC
+ Rls 1 79464 110961 307.22
+ JB 1 60660 129766 313.16
<none> 190425 325.74
+ Tpt 1 5085 185340 326.71
Step: AIC=307.22
Kemis ~ Rls
Df Sum of Sq RSS AIC
+ JB 1 32586 78375 296.00
+ Tpt 1 30437 80524 297.03
<none> 110961 307.21
Step: AIC=296
Kemis ~ Rls + JB
Df Sum of Sq RSS AIC
+ Tpt 1 13350 65025 290.91
<none> 78375 296.00
Step: AIC=290.91
Kemis ~ Rls + JB + Tpt
Call:
lm(formula = Kemis ~ Rls + JB + Tpt)
Coefficients:
(Intercept) Rls JB Tpt
316.459 -38.328 4.308 14.244
Step Df Deviance Resid. Df Resid. Dev AIC
1 NA NA 37 190425.14 325.7383
2 + Rls -1 79464.47 36 110960.67 307.2151
3 + JB -1 32585.52 35 78375.15 296.0037
4 + Tpt -1 13349.87 34 65025.27 290.9079
(Intercept) Rls JB Tpt
316.458537 -38.328484 4.308341 14.243944
Call:
lm(formula = Kemis ~ Rls + JB + Tpt)
Residuals:
Min 1Q Median 3Q Max
-81.215 -32.314 -3.185 26.152 87.904
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 316.459 44.865 7.054 3.82e-08 ***
Rls -38.328 7.061 -5.428 4.77e-06 ***
JB 4.308 1.513 2.847 0.00744 **
Tpt 14.244 5.391 2.642 0.01237 *
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 43.73 on 34 degrees of freedom
Multiple R-squared: 0.6585, Adjusted R-squared: 0.6284
F-statistic: 21.86 on 3 and 34 DF, p-value: 4.566e-08
Code:
#STEPWISE SELECTION
modelstep <- step(model_intersep, direction = 'both', scope = formula(model_seluruh), trace = T)
modelstep
#Melihat Proses Pemilihan Model Stepwise
modelstep$anova
#Model Terpilih Stepwise
modelstep$coefficients
#Ringkasan Model
summary(modelstep)
Hasil:
Start: AIC=325.74
Kemis ~ 1
Df Sum of Sq RSS AIC
+ Rls 1 79464 110961 307.22
+ JB 1 60660 129766 313.16
<none> 190425 325.74
+ Tpt 1 5085 185340 326.71
Step: AIC=307.22
Kemis ~ Rls
Df Sum of Sq RSS AIC
+ JB 1 32586 78375 296.00
+ Tpt 1 30437 80524 297.03
<none> 110961 307.22
- Rls 1 79464 190425 325.74
Step: AIC=296
Kemis ~ Rls + JB
Df Sum of Sq RSS AIC
+ Tpt 1 13350 65025 290.91
<none> 78375 296.00
- JB 1 32586 110961 307.21
- Rls 1 51390 129766 313.16
Step: AIC=290.91
Kemis ~ Rls + JB + Tpt
Df Sum of Sq RSS AIC
<none> 65025 290.91
- Tpt 1 13350 78375 296.00
- JB 1 15499 80524 297.03
- Rls 1 56354 121380 312.63
Call:
lm(formula = Kemis ~ Rls + JB + Tpt)
Coefficients:
(Intercept) Rls JB Tpt
316.459 -38.328 4.308 14.244
Step Df Deviance Resid. Df Resid. Dev AIC
1 NA NA 37 190425.14 325.7383
2 + Rls -1 79464.47 36 110960.67 307.2151
3 + JB -1 32585.52 35 78375.15 296.0037
4 + Tpt -1 13349.87 34 65025.27 290.9079
(Intercept) Rls JB Tpt
316.458537 -38.328484 4.308341 14.243944
Call:
lm(formula = Kemis ~ Rls + JB + Tpt)
Residuals:
Min 1Q Median 3Q Max
-81.215 -32.314 -3.185 26.152 87.904
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 316.459 44.865 7.054 3.82e-08 ***
Rls -38.328 7.061 -5.428 4.77e-06 ***
JB 4.308 1.513 2.847 0.00744 **
Tpt 14.244 5.391 2.642 0.01237 *
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 43.73 on 34 degrees of freedom
Multiple R-squared: 0.6585, Adjusted R-squared: 0.6284
F-statistic: 21.86 on 3 and 34 DF, p-value: 4.566e-08
Interpretasi: berdasarkan 3 metode seleksi model di atas, terlihat bahwa pemodelan dengan stepwise selection adalah metode yang relatif lebih baik dibandingkan yang lainnya.
Uji asumsi normalitas residual model dapat dilihat caranya di sini.
Uji asumsi non-multikolinearitas variabel independen dapat dilihat caranya di sini.
Uji asumsi non-autokorelasi residual model dapat dilihat caranya di sini.
Uji asumsi homoskedastisitas residual model dapat dilihat caranya di sini.
Oke, demikian sedikit ulasan bagaimana kita menerapkan 3 jenis metode seleksi variabel pemodelan regresi dalam R. Jangan lupa untuk share, tanya-tanya di kolom komentar, dan menyimak unggahan berikutnya. Semoga bermanfaat.