Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Exploratory Data Analysis (EDA) dengan R

Exploratory Data Analysis (EDA) dengan R

Berjumpa lagi teman-teman, pada pembahasan sebelumnya kita telah menguliti sekilas tentang model-model machine learning, khususnya yang bertipe supervised learning. Kali ini kita akan sejenak break, kita akan mengulas mengenai Exploratory Data Analysis atau yang biasa kita singkat EDA.

Pada bangku-bangku sekolah hingga mungkin perkuliahan, mungkin kita akan bertemu materi statistika dengan topik memvisualisasikan data, mendapatkan ukuran pemusatan (rata-rata, median, dan modus), menghitungan ukuran penyebaran data, uji hipotesis data yang kemudian diistilahkan dengan statistik inferensia, dan yang tidak kalah penting kita akan menemukan data-data pencilan atau data yang ekstrem, atau data yang anomali. Proses itu semua pada dasarnya merupakan gerbang yang mengantar kita pada pembahasan Exploratory Data Analysis (EDA).

Dalam pengertiannya, EDA merupakan aktivitas mengeksplorasi data, mulai dari menemukan pola atau perilaku data, menghitung ukuran-ukuran data, mulai ukuran pemusatan, ukuran penyebaran, ukuran kemencengan, mendeteksi adanya data anomali atau pencilan (outlier), melakukan uji bivariate dan uji multivariate atau uji hipotesis yang kemudian diistilahkan statistik inferensia, serta proses memvisualisasikan data sehingga memiliki insight yang baik dan bermanfaat bagi penggunanya. Dari pengertian tersebut, setidaknya ada 2 poin utama Exploratory Data Analysis (EDA), yaitu statistik deskriptif dan statistik inferensia yang meliputi analisis univariate dan analisis multivariate.

Dalam praktikum kali ini, kita akan mencoba melakukan EDA menggunakan data diamonds yang tertanam dalam package ggplot2(). Sebagai awalan kita akan melakukan analisis deskriptif dahulu dengan melihat sebaran data, misalkan sebaran data harga dengan histogram dilanjutkan dengan membuat scatter plot variabel carat menurut harga dan clarity, box plot, dan membuat matriks korelasi.

Pada tahapan analisis inferensianya, kita menggunakan uji signifikansi matriks korelasi multivariate untuk variabel bertipe numerik sebagai ajang praktik analisis inferensianya. Sedangkan pada tahapan akhir, kita coba mengecek apakah di dalam data terdapat missing data atau tidak. Untuk melakukan praktik, teman-teman dapat mengikuti beberapa code berikut:

Code:

#Install dan Aktivasi Package
install.packages("tidyverse")
library(tidyverse)

#Import Data yang tertanam dalam ggplot2()
data("diamonds")

#Melihat Sekilas Data
names(diamonds)
head(diamonds)

Hasil:

[1] "carat"   "cut"     "color"   "clarity" "depth"   "table"   "price"   "x"       "y"       "z"

# A tibble: 6 x 10
  carat cut       color clarity depth table price     x     y     z
  <dbl> <ord>     <ord> <ord>   <dbl> <dbl> <int> <dbl> <dbl> <dbl>
1  0.23 Ideal     E     SI2      61.5    55   326  3.95  3.98  2.43
2  0.21 Premium   E     SI1      59.8    61   326  3.89  3.84  2.31
3  0.23 Good      E     VS1      56.9    65   327  4.05  4.07  2.31
4  0.29 Premium   I     VS2      62.4    58   334  4.2   4.23  2.63
5  0.31 Good      J     SI2      63.3    58   335  4.34  4.35  2.75
6  0.24 Very Good J     VVS2     62.8    57   336  3.94  3.96  2.48

Code:

#Ringkasan Data
summary(diamonds)

Hasil:

    carat               cut        color        clarity          depth           table           price      
 Min.   :0.2000   Fair     : 1610   D: 6775   SI1    :13065   Min.   :43.00   Min.   :43.00   Min.   :  326  
 1st Qu.:0.4000   Good     : 4906   E: 9797   VS2    :12258   1st Qu.:61.00   1st Qu.:56.00   1st Qu.:  950  
 Median :0.7000   Very Good:12082   F: 9542   SI2    : 9194   Median :61.80   Median :57.00   Median : 2401  
 Mean   :0.7979   Premium  :13791   G:11292   VS1    : 8171   Mean   :61.75   Mean   :57.46   Mean   : 3933  
 3rd Qu.:1.0400   Ideal    :21551   H: 8304   VVS2   : 5066   3rd Qu.:62.50   3rd Qu.:59.00   3rd Qu.: 5324  
 Max.   :5.0100                     I: 5422   VVS1   : 3655   Max.   :79.00   Max.   :95.00   Max.   :18823  
                                    J: 2808   (Other): 2531                                                  
       x                y                z         
 Min.   : 0.000   Min.   : 0.000   Min.   : 0.000  
 1st Qu.: 4.710   1st Qu.: 4.720   1st Qu.: 2.910  
 Median : 5.700   Median : 5.710   Median : 3.530  
 Mean   : 5.731   Mean   : 5.735   Mean   : 3.539  
 3rd Qu.: 6.540   3rd Qu.: 6.540   3rd Qu.: 4.040  
 Max.   :10.740   Max.   :58.900   Max.   :31.800

Code:

#Visualisasi Data
#Histogram
ggplot(data = diamonds, aes(x = price)) +
  geom_histogram(fill = "steelblue", color = "white", bins = 30) +
  ggtitle("Histogram Sebaran Harga")

Hasil:

Histogram variabel harga (price)

Code:

#Scatter Plot
ggplot(data = diamonds, aes(x = carat, y = price, color = clarity)) +
  geom_point() +
  ggtitle("Scatter Plot Variabel Carat Menurut Harga dan Clarity")

Hasil:
Scatter plot variabel carat menurut harga (price) dan clarity

Code:

#Boxplot
ggplot(data = diamonds, aes(x = carat, y = price, color = clarity)) +
  geom_boxplot(fill = "steelblue") +
  ggtitle("Box Plot Variabel Carat Menurut Harga dan Clarity")

Hasil:

Box plot variabel carat menurut harga dan clarity

Code:

#Matriks Korelasi
install.packages("reshape2")
library(reshape2)
corrku <- cor(diamonds[,-c(2:4)])
melt_corr <- melt(corrku)
ggplot(data = melt_corr, aes(x = Var1, y = Var2, fill = value)) +
  geom_tile(aes(fill = value), colour = "white") +
  scale_fill_gradient(low = "white", high = "steelblue") +
  geom_text(aes(Var1, Var2, label = round(value, 2)), size = 5)

Hasil:

Matriks korelasi antar variabel numerik

Code:

install.packages("psych")
library(psych)
pairs.panels(diamonds[,-c(2:4)])

Hasil:

Visualisasi matriks korelasi bentuk lain

Code:

#Menguji Signifikansi Matriks Korelasi
library(Hmisc)
cortest_m <- rcorr(corrku, type = c("pearson", "spearman"))
meltk_cortest <- melt(cortest_m$P)
ggplot(na.omit(meltk_cortest), aes(x = Var1, y = Var2, fill = value)) +
  geom_tile(aes(fill = round(value, 5))) +
  scale_fill_gradient(low = "steelblue", high = "white") +
  geom_text(aes(Var1, Var2, label = round(value, 10)), size = 2)

Hasil:

Uji signifikansi matriks korelasi

Demikian sedikit ulasan kita mengenai Exploratory Data Analysis (EDA) dengan menggunakan R. Ikuti terus unggahan berikutnya. Selamat memahami dan mempraktikkan!

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s