Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta
Posting Komentar

Data Manipulation: Mengubah Data Harian menjadi Data Bulanan, Triwulanan, dan Tahunan dengan R

Mengubah data harian menjadi data periode bulanan, triwulanan, dan tahunan

Halo teman-teman, berjumpa kembali dengan blog sederhana ini. Setelah membahas mengenai visualisasi menggunakan Gephi, kita coba balik lagi menggunakan R dan membahas visualisasi data runtun waktu (time series data).

Data runtun waktu atau time series merupakan salah satu jenis data yang paling diminati banyak penelitian. Sebab, dengan menggunakan data runtun waktu, selain kita dapat mempelajari pola sebuah data, kita dapat pula melakukan prediksi atau peramalan beberapa waktu ke depan atau beberapa waktu ke belakang menggunakan pola dari data tersebut. Kendati demikian, dalam pemodelan menggunakan runtun waktu atau time series ini biasa rentan sekali terganggu oleh asumsi autokorelasi atau korelasi serial antar residual antar waktu amatan.

Kali ini kita akan mencoba belajar bagaimana melakukan manipulasi data atau istilah kerennya data manipulation menggunakan 2 jenis package yang kalau di Python, mirip dengan package pandas, yaitu package lubridate dan dplyr. Inti perbedaan dari kedua package ini, kalau lubridate adalah package untuk manipulasi pada aspek waktu atau periode dari sebuah data, sedangkan package dplyr biasanya digunakan untuk melakukan manipulasi salah satunya pada aspek agregasi data atau pivot data.

Data manipulation merupakan sebuah proses mengubah struktur data agar lebih mudah dibaca dan lebih terorganisir untuk disajikan atau digunakan pada proses berikutnya

Untuk praktikum menggunakan dua package ini, saya telah menyiapkan data periode harian jumlah penerbangan komersil yang tercatat secara realtime di Bandar Udara Juanda Surabaya di Sidoarjo Jawa Timur selama 2019. Data ini saya peroleh dengan menggunakan teknik web scraping menggunakan R. Bagi teman-teman yang ingin belajar mengenai web scraping dengan R dapat mengunjungi tautan berikut. Adapun data yang saya siapkan tersebut bisa teman-teman unduh terlebih dahulu pada tautan berikut dan setelah itu kita akan melakukan data manipulation menggunakan beberapa code berikut ini:

#Instal dan Aktivasi package
library(lubridate)
library(dplyr)

#Import data
library(readxl)
terbang <- read_excel("C:/Users/Joko Ade/Downloads/terbang.xlsx")
head(terbang, 10)

## # A tibble: 10 x 2
##    periode             penerbangan
##    <dttm>                    <dbl>
##  1 2019-01-01 00:00:00      128717
##  2 2019-01-02 00:00:00      162303
##  3 2019-01-03 00:00:00      169310
##  4 2019-01-04 00:00:00      173386
##  5 2019-01-05 00:00:00      161288
##  6 2019-01-06 00:00:00      156172
##  7 2019-01-07 00:00:00      163601
##  8 2019-01-08 00:00:00      163535
##  9 2019-01-09 00:00:00      167080
## 10 2019-01-10 00:00:00      172335

#Melihat Struktur data awal
str(terbang)

## tibble [365 x 2] (S3: tbl_df/tbl/data.frame)
##  $ periode    : POSIXct[1:365], format: "2019-01-01" "2019-01-02" "2019-01-03" ...
##  $ penerbangan: num [1:365] 128717 162303 169310 173386 161288 ...

#Mengubah tipe periode menjadi date
terbang$periode <- as.Date(terbang$periode)

#Melihat hasil ubah struktur
str(terbang)

## tibble [365 x 2] (S3: tbl_df/tbl/data.frame)
##  $ periode    : Date[1:365], format: "2019-01-01" "2019-01-02" "2019-01-03" ...
##  $ penerbangan: num [1:365] 128717 162303 169310 173386 161288 ...

#Deskriptif data
summary(terbang)

##     periode            penerbangan    
##  Min.   :2019-01-01   Min.   :120212  
##  1st Qu.:2019-04-02   1st Qu.:175300  
##  Median :2019-07-02   Median :190876  
##  Mean   :2019-07-02   Mean   :189019  
##  3rd Qu.:2019-10-01   3rd Qu.:203062  
##  Max.   :2019-12-31   Max.   :230409

#Menampilkan Histogram 
hist(terbang$penerbangan, main = "Histogram Sebaran Jumlah Penerbangan \nBandar Udara Juanda Selama 2019",
     xlab = "Jumlah Penerbangan", ylab = "Frekuensi")
plot of chunk unnamed-chunk-4
Histogram

#Plot data harian
plot(ts(terbang$penerbangan, start = 2019, frequency = 365),
     main = "Jumlah Penerbangan Non-Komersil Harian \nBandar Udara Juanda Selama 2019",
     ylab = "Jumlah Penerbangan", xlab = "Periode")
plot of chunk unnamed-chunk-4
Plot data harian

#Mengubah data harian menjadi data mingguan
terbang$minggu <- floor_date(terbang$periode, "week")
terbang %>%
  group_by(minggu) %>%
  summarize(jumlah = sum(penerbangan))

## # A tibble: 53 x 2
##    minggu      jumlah
##    <date>       <dbl>
##  1 2018-12-30  795004
##  2 2019-01-06 1139166
##  3 2019-01-13 1123597
##  4 2019-01-20 1150497
##  5 2019-01-27 1143284
##  6 2019-02-03 1130726
##  7 2019-02-10 1167594
##  8 2019-02-17 1188634
##  9 2019-02-24 1213346
## 10 2019-03-03 1189471
## # ... with 43 more rows

#Visualisasi data mingguan
w <- terbang %>%
  group_by(minggu) %>%
  summarize(jumlah = sum(penerbangan))
plot(ts(w$jumlah, start = 2019, frequency = 53),
     main = "Jumlah Penerbangan Non-Komersil Mingguan \nBandar Udara Juanda Selama 2019",
     ylab = "Jumlah Penerbangan", xlab = "Periode")
plot of chunk unnamed-chunk-5
Plot data mingguan

#Mengubah data harian menjadi bulanan
terbang$bulan <- floor_date(terbang$periode, "month")
terbang %>%
  group_by(bulan) %>%
  summarize(jumlah = sum(penerbangan))

## # A tibble: 12 x 2
##    bulan       jumlah
##    <date>       <dbl>
##  1 2019-01-01 5030796
##  2 2019-02-01 4687711
##  3 2019-03-01 5480727
##  4 2019-04-01 5568775
##  5 2019-05-01 5939960
##  6 2019-06-01 6141644
##  7 2019-07-01 6527801
##  8 2019-08-01 6525953
##  9 2019-09-01 6096469
## 10 2019-10-01 6005009
## 11 2019-11-01 5510504
## 12 2019-12-01 5476661

#Visualisasi data mingguan
m <- terbang %>%
  group_by(bulan) %>%
  summarize(jumlah = sum(penerbangan))
plot(ts(m$jumlah, start = 2019.1, frequency = 12),
     main = "Jumlah Penerbangan Non-Komersil Bulanan \nBandar Udara Juanda Selama 2019",
     ylab = "Jumlah Penerbangan", xlab = "Periode")
plot of chunk unnamed-chunk-6
Plot data bulanan

#Mengubah data bulanan menjadi data triwulanan
terbang %>%
  mutate(quarter = paste(quarters(periode), year(periode)), year = year(periode)) %>%
  group_by(quarter, year, .add = T) %>%
  summarise(jumlah = sum(penerbangan)) %>%
  arrange(year)

## `summarise()` has grouped output by 'quarter'. You can override using the `.groups` argument.

## # A tibble: 4 x 3
## # Groups:   quarter [4]
##   quarter  year   jumlah
##   <chr>   <dbl>    <dbl>
## 1 Q1 2019  2019 15199234
## 2 Q2 2019  2019 17650379
## 3 Q3 2019  2019 19150223
## 4 Q4 2019  2019 16992174

#Visualisasi data
x <- terbang %>%
  mutate(triwulan = paste(quarters(periode), year(periode)), tahun = year(periode)) %>%
  group_by(triwulan, tahun, .add = T) %>%
  summarise(jumlah = sum(penerbangan)) %>%
  arrange(tahun)

## `summarise()` has grouped output by 'triwulan'. You can override using the `.groups` argument.

x[-2]

## # A tibble: 4 x 2
## # Groups:   triwulan [4]
##   triwulan   jumlah
##   <chr>       <dbl>
## 1 Q1 2019  15199234
## 2 Q2 2019  17650379
## 3 Q3 2019  19150223
## 4 Q4 2019  16992174

plot(ts(x$jumlah, start = 2020, frequency = 4), type = "l", col = "blue",
     main = "Jumlah Penerbangan Non-Komersil Triwulanan \nBandar Udara Juanda Selama 2019",
     ylab = "Jumlah Penerbangan", xlab = "Periode")
plot of chunk unnamed-chunk-7
Plot data triwulanan

#Mengubah data bulanan menjadi data tahunan
terbang %>%
  mutate(tahun = paste(year(periode)), tahun = year(periode)) %>%
  group_by(tahun, .add = T) %>%
  summarise(jumlah = sum(penerbangan))

## # A tibble: 1 x 2
##   tahun   jumlah
##   <dbl>    <dbl>
## 1  2019 68992010

Demikian sekilas bagaimana kita melakukan data manipulation menggunakan R menggunakan package lubridate dan dplyr. Selamat memahami dan mempraktikkan!

Label:

Komentar

Posting Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun
Posting Komentar
Baca selengkapnya

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan
Posting Komentar
Baca selengkapnya

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s
Posting Komentar
Baca selengkapnya