Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Uji Non-Autokorelasi dengan R

Uji non-autokorelasi dengan R

Asumsi non-autokorelasi atau non-korelasi serial merupakan salah satu asumsi yang diharuskan terpenuhi dalam pemodelan regresi linier. Artikel sebelumnya bisa dicek di sini. Pendeteksian adanya gangguan asumsi ini adalah adanya korelasi serial di antara residual ke-t dengan residual ke-(t - 1) atau sebelumnya. Karena korelasi serial ini menyangkut dirinya sendiri pada saat t dan sebelumnya, maka biasanya gangguan asumsi ini terjadi pada model-model runtun waktu (time series). Sedangkan, gangguan asumsi ini relatif jarang ditemukan pada data-data cross section. Namun, untuk tetap waspada terhadap gangguan pelanggaran asumsi ini, maka uji non-autokorelasi tetap perlu dilakukan terhadap residual model data cross section.

Secara matematis, nilai statistik uji DW sendiri dirumuskan sebagai berikut:

Statistik uji DW dan penyederhanaanya

Keterangan rumus statistik uji DW

Berdasarkan penjabaran uji DW di atas, disimpulkan bahwa bila nilai DW itu mendekati 2 atau nilai p-value ujinya lebih dari alpha penelitian, maka disimpulkan residual model terbebas dari gangguan autokorelasi serial atau memenuhi asumsi non-autokorelasi.

Mengapa residual model linier harus memenuhi asumsi non-autokorelasi? Ya supaya estimasi yang dihasilkan bersifat Best Liniear Unbiased Estimator (BLUE). Sebab, bila tidak bersifat BLUE, bila model tersebut kita gunakan untuk kebutuhan prediksi akan berisiko bias sehingga tidak akurat.

Pada praktiknya, uji asumsi non-autokorelasi menggunakan uji Durbin-Watson atau DW-test. Uji ini merupakan uji formal yang biasa kita temukan di dalam aplikasi olah dan pemodelan data, seperti SPSS, Eviews, dan SAS. Namun, bagaimana di R? Apakah uji asumsi ini juga dapat diterapkan? Dapat teman-teman.

Dengan menggunakan package lmtest dan mengaktifkannya melalui fungsi library(), kita dapat "memanggil" dan mengeksekusi uji asumsi DW ini terhadap model yang telah kita dapatkan. Adapun code yang dapat teman-teman gunakan adalah sebagai berikut:

Code:

#Install dan aktifkan package lmtest
install.packages("lmtest")
library(lmtest)

#Mengenerate Dataset
x1 <- c(8, 7, 9, 3, 6, 8, 9, 2, 9, 8, 4, 4, 6, 10)
y <- c(5, 4, 7, 2, 5, 6, 8, 3, 5, 7, 2, 2, 3, 9)
df <- data.frame(x1, y)

#Melihat sekilas dataset
head(df)

Hasil:

  x1 y
1  8 5
2  7 4
3  9 7
4  3 2
5  6 5
6  8 6

Code:

#Pemodelan Regresi Linier Sederhana
model <- lm(y~x1, data = df)

#Melihat ringkasan pemodelan regresi linier berganda
summary(model)

Hasil:

Call:
lm(formula = y ~ x1, data = df)
Residuals:
     Min       1Q   Median       3Q      Max
-1.73476 -0.89163  0.05322  0.96009  1.84120
Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  -0.4343     0.9209  -0.472    0.646    
x1            0.7966     0.1301   6.121 5.17e-05 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 1.187 on 12 degrees of freedom
Multiple R-squared:  0.7574,    Adjusted R-squared:  0.7372
F-statistic: 37.46 on 1 and 12 DF,  p-value: 5.171e-05

Code:

#uji Non-Autokorelasi atau Korelasi Serial
dwtest(model)

Hasil:

    Durbin-Watson test
data:  model
DW = 2.1723, p-value = 0.6416
alternative hypothesis: true autocorrelation is greater than 0

Interpretasi: karena nilai DW mendekati 2 atau nilai p-value nya lebih besar dari alpha 0,05 (misal alpha penelitian 0,05), disimpulkan bahwa residual model memnuhi asumsi non-autokorelasi atau terbebas dari gangguan korelasi serial.

Oke, demikian sedikit ulasan bagaimana kita menerapkan uji non-autokorelasi DW dengan R. Jangan lupa untuk share, tanya-tanya di kolom komentar, dan menyimak unggahan berikutnya. Semoga bermanfaat.

Referensi: Nursiyono, Joko Ade dan Pray P.H. Nadeak. 2021. Data Mining: Analisis Regresi dengan R Studio. Binjai: Miranda Novelia.

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s