Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Transformasi Logaritma dan Box-Cox Data dengan R

Transformasi logaritma dan Box - Cox

Kalau di bahasan sebelumnya, kita telah belajar bersama bagaimana cara melakukan transformasi data dengan 3 metode, kali ini saya akan berbagi bagaimana kita menerapkan transformasi dengan 2 metode lagi, yaitu logaritma dan Box-Cox. Dua jenis transformasi ini sering sekali dipakai dalam menghilangkan efek pencilan atau outlier dalam data.

Selain menghilangkan atau setidaknya meminimalisir efek pencilan, transformasi juga bermanfaat untuk menyeragamkan interpretasi pemodelan. Manfaat ini bisa dicapai apabila satuan masing-masing data yang kita pakai berbeda-beda sehingga membuat range datanya juga bisa jadi berbeda dan bahkan sangat melebar.

Kali ini untuk mempraktikan transformasi data log dan Box-Cox dengan R, kita akan mengenerate atau membuat data dummy secara manual saja. Kemudian teman-teman dapat mempraktikannya menggunakan beberapa code berikut ini:

Code:

#Mengenerate data manual
x1 <- c(10, 12, 20, 30, 18, 26, 25, 18, 16, 17, 19, 20, 11, 16, 0, 17, 0, 18, 19, 10)

#Melihat deskriptif data dengan histogram
hist(x1, main = "Data variabel X1", xlab = "sebaran data X1")

Hasil:

Visualisasi 1

Code:

#Transformasi logaritma
#Membuat fungsi transformasi log
translog <- function(x){
  log(x)
}

#Penerapan tranformasi log ke data x1
translog_x1 <- lapply(x1, translog)

#melihat data hasil transformasi log
unlist(translog_x1)

#karena ada data yang nilainya 0, maka transformasinya adalah log(data + 1)
trslog <- function(x){
  log(x + 1)
}

#Penerapan transformasi log (data + 1)
trslog_x1 <- lapply(x1, trslog)

#Melihat data hasil transformasi log(data + 1)
trflogdata <- as.numeric(unlist(trslog_x1))

#Melihat histogram setelah transformasi log
hist(trflogdata, main = "Data transformasi log(x1 + 1)", xlab = "Sebaran data")

Hasil:

Visualisasi 2

Code:

#TRANSFORMASI BOX-COX
#install dan aktivasi package MASS
install.packages("MASS")
library(MASS)

b <- boxcox(lm((x1+1)~1))

#Mendapatkan Lambda Eksak variabel x1
lambda <- b$x[which.max(b$y)]
lambda

#Membuat fungsi transformasi Box-Cox berdasarkan nilai Lambda
tfboxcox <- function(x){
  (x^lambda - 1)/lambda
}

#Menerapkan fungsi transformasi Box-Cox ke data
x1_box <- as.numeric(data.frame(lapply(x1, tfboxcox)))

#Melihat Data hasil transformasi Box-Cox
x1_box

#Melihat histogram data hasil tranformasi Box-Cox
hist(x1_box, main = "Data transformasi Box-Cox", xlab = "Sebaran data")

Hasil:

[1] 11.4412230 14.3168972 26.4770933 42.7487856 23.3527787 36.1223678 34.4889075 23.3527787 20.2807207
[10] 21.8099011 24.9087047 26.4770933 12.8691452 20.2807207 -0.8684211 21.8099011 -0.8684211 23.3527787
[19] 24.9087047 11.4412230

Visualisasi 3

Oke, demikian sedikit ulasan bagaimana kita melakukan transformasi logaritma dan Box-Cox data dengan R. Jangan lupa untuk share, tanya-tanya di kolom komentar yang tersedia, dan tentunya terus menyimak setiap unggahan terbaru dalam blog ini. Selamat mempraktikkan!

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s