Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Regresi Linier Tertimbang (Weighted Linear Regression) dengan R

Regresi linier tertimbang

Acapkali, model regresi linier yang kita terbentuk mengalami gangguan heteroskedastisitas. Namun jangan khawatir, kali ini kita akan membahas mengenai regresi linier tertimbang (Weighted Least Square Regression) atau biasa diistilahkan WLS.

WLS merupakan salah satu model yang mampu mengakomodir adanya gangguan heteroskedastisitas. Gangguan heteroskedastisitas menyebabkan beberapa hal, yaitu penaksir Ordinary Least Square (OLS) tidak efisien baik dalam sampel kecil maupun sampel besar. Jika tetap Anda gunakan, maka akan berdampak pada varians penaksir parameter koefisien regresi akan underestimate (terlampau kurang dari parameter) atau overestimate (terlampau lebih besar daripada parameter).

Di satu sisi, adanya heteroskedastisitas menyebabkan estimator tidak bias, tetapi karena standar errornya yang mengalami bias, maka menyebabkan variansnya bisa lebih sangat sekali atau sangat besar. Oleh karena itulah, terlanggarnya asumsi homoskedasitisitas mengakibatkan uji F signifikan tetapi pada saat Anda periksa uji t model Anda, tidak ada variabel Anda yang signifikan (uji t tidak menentu). Jadi jangan kaget jika model yang peroleh hasil uji F-nya signifikan tetapi tidak ada satupun variabel yang signifikan.
 
Menurut Greene (2004), cara ampuh yang dapat digunakan untuk mengatasi gangguan heteroskedastisitas residual model adalah memakai metode Weighted Least Square (WLS) yang penaksirannya memberikan pembobot bersifat Least Square atau diistilahkan pula Generalized Least Square (GLS).

Lantas, bagaimana penerapan model WLS dengan R? Untuk mempraktikkannya, kali ini kita coba menggunakan data generate manual dan kita cek uji asumsi heteroskedastisitas residual modelnya dengan menggunakan package lmtest. Adapun code yang bisa diikuti adalah sebagai berikut:

Code:
#Membuat data secara manual
df <- data.frame(lamapendidikan=c(1, 1, 2, 2, 2, 3, 4, 4, 4, 5, 5, 5, 6, 6, 7, 8),
                 pendapatan=c(48, 78, 72, 70, 66, 92, 93, 75, 75, 80, 95, 97, 90, 96, 99, 99))

#Mengattach data untuk kepraktisan
attach(df)

#Model Regresi Linier Sederhana OLS
modelols <- lm(pendapatan ~ lamapendidikan)

#Rangkuman Model
summary(modelols)

Hasil:
Call:
lm(formula = pendapatan ~ lamapendidikan, data = df)
Residuals:
    Min      1Q  Median      3Q     Max
-17.967  -5.970  -0.719   7.531  15.032
Coefficients:
               Estimate Std. Error t value Pr(>|t|)    
(Intercept)      60.467      5.128  11.791 1.17e-08 ***
lamapendidikan    5.500      1.127   4.879 0.000244 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 9.224 on 14 degrees of freedom
Multiple R-squared:  0.6296,    Adjusted R-squared:  0.6032
F-statistic:  23.8 on 1 and 14 DF,  p-value: 0.0002438

Code:
#Plot Residual dan Nilai Fitted
plot(fitted(modelols), resid(modelols), xlab='Fitted Values', ylab='Residuals')

#Menambah garis horisontal
abline(0,0)

Hasil:

Visualisasi 1

Code:
#Aktikan package Uji Asumsi Homoskedastisitas
library(lmtest)

#Uji Breusch-Pagan
bptest(modelols)

Hasil:

    studentized Breusch-Pagan test

data:  modelols
BP = 3.9597, df = 1, p-value = 0.0466

Interpretasi: karena nilai p-valuenya < 0,05 maka residual model terganggu heteroskedastisitas
 
Code:
#Membuat Penimbang
wt <- 1 / lm(abs(modelols$residuals) ~ modelols$fitted.values)$fitted.values^2

#Membentuk Regresi Linier Baru Tertimbang (Weigthed Regression)
wls_model <- lm(pendapatan ~ lamapendidikan, data = df, weights=wt)

#Rangkuman Model Regresi Tertimbang
summary(wls_model)
 
Hasil:

Call:
lm(formula = pendapatan ~ lamapendidikan, data = df, weights = wt)
Weighted Residuals:
    Min      1Q  Median      3Q     Max
-2.0167 -0.9263 -0.2589  0.9873  1.6977
Coefficients:
               Estimate Std. Error t value Pr(>|t|)    
(Intercept)     63.9689     5.1587  12.400 6.13e-09 ***
lamapendidikan   4.7091     0.8709   5.407 9.24e-05 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 1.199 on 14 degrees of freedom
Multiple R-squared:  0.6762,    Adjusted R-squared:  0.6531
F-statistic: 29.24 on 1 and 14 DF,  p-value: 9.236e-05

Terlihat bahwa WLS dapat menurunkan Residual standard eror dari 9,224 menjadi 1,199 dan sekaligus meningkatkan R Square modelnya dari 62% menjadi 67%. Oke, demikian sedikit ulasan mengenai cara memodelkan regresi dengan pembobot atau regresi tertimbang dengan R. Jangan lupa share, dan tentunya jangan lupa untuk terus mengikuti unggahan-unggahan berikut yang lebih komprehensif dan kompleks. Selamat mencoba.

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s