Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Data-Data


Kumpulan data-data

Unggahan ini saya buat tersendiri agar teman-teman lebih mudah dalam mencari data yang akan digunakan dalam setiap praktikum olah data dan modelling data. Data-data yang saya berikan dapat berupa data asli dengan sumber tertentu, atau dapat berupa data dummy atau buatan saya sendiri untuk kemudahan. Jadi, sebelum praktikum olah data dan modelling, teman-teman dapat mengunduh data-data ini terlebih dulu. Oiya, adakalanya format data yang saya bagikan bisa berbeda dengan yang lain karena menyesuaikan dengan konfigurasi alat pengolah data yang kita pakai. Data-data itu adalah sebagai berikut:

Data CSV:

1. Data praktikum import data csv (di sini) sumber: Google Trends

Data XLSX (Excel):

1. Data praktikum import data excel (di sini) sumber: Badan Pusat Statistik Provinsi Jawa Timur 2019 dalam miliar rupiah

2. Data praktikum COUNTIF dengan R (di sini) sumber: Hasil olah Sentimen data Twitter

3. Data Laju Pertumbuhan Ekonomi Jawa Timur year on year dan cummulative to cummulative Triwulan I-2011 sampai Triwulan IV - 2021 (di sini) sumber: jatim.bps.go.id

4. Data praktikum Normalisasi Data menggunakan data Jumlah Sampah (Jsam) dan Jumlah Bank Sampah (Jbs) (di sini) Kabupaten/Kota di Jawa Timur Tahun 2020, sumber: Kementerian Lingkungan Hidup Jawa Timur

5. Data praktikum model regresi dengan 3 metode seleksi, data Kemiskinan, Rata-rata Lama Sekolah, Tingkat Pengangguran Terbuka (TPT), Jumlah Bencana Alam Kabupaten/Kota di Jawa Timur 2020 (di sini), sumber: Badan Pusat Statistik Provinsi Jawa Timur dan Badan Penanggulanan Bencana Alam

6. Data Histori Jumlah Pendaftar Sekolah Tinggi Kedinasan, Polstat STIS, PKN STAN, IPDN, STMKG, STIN, dan lain-lain tahun 2021 (di sini), sumber: Badan Kepegawaian Negara

7. Data praktikum data wrangling dan data preprocessing dengan R (di sini), sumber: IMDB

8. Data praktikum visualisasi Diagram Sankey, Data Ekspor-Impor Indonesia (di sini), sumber: bps.go.id

9. Data praktikum visualisasi Diagram Chord, Data Tabel Input-Output Jawa Timur 2016 (di sini), sumber: jatim.bps.go.id

10. Data praktikum regresi logistik biner (logit) (di sini), sumber: monotaro.id

11. Data praktikum regresi Tobit (di sini), sumber: stats.oarc.ucla.edu

12. Data praktikum regresi Robust (di sini), sumber: IMDB

13. Data praktikum model Geograpically Weighted Regression (GWR) (di sini), sumber: Profil Kesehatan Provinsi Jawa Timur 2020, Kementerian Pertanian 2020

14. Data praktikum model Autoregressive Integrated Moving Average (ARIMA) (di sini), sumber: Badan Pusat Statistik Provinsi Jawa Timur 2021

15. Data praktikum model SARIMAX (di sini), sumber: Badan Pusat Statistik Provini Jawa Timur 2016-2021, jatim.bps.go.id

16. Data praktikum Supervised Machine Learning: Naive Bayes Classifier (di sini), sumber: data dummy

17. Data praktikum Survival Analysis (di sini), sumber: data dummy 

18. Data praktikum Support Vector Machine (SVM) (di sini), sumber: UCI Wicoxsin University

19. Data praktikum K Nearest Neighbor (KNN) (di sini), sumber: Kaggle

20. Data praktikum Shift Share Analysis dan Location Quotient (LQ) (di sini), sumber: German Classification of Economic Activities WZ2008 for the city Goettingen and Germany regarding the years 2008 - 2017.

21. Data praktikum Analisis Tipologi Klassen (di sini), sumber: hasil olah PDRB Jawa Timur

22. Data praktikum Analisis Kuadran Tipologi Klassen (di sini), sumber: hasil olah PDRB Jawa Timur 2021

23. Data praktikum One Way Analysis of Variance (ANOVA Satu Arah) (di sini)

24. Data praktikum machine learning unsupervised learning Hierarchy Clustering (di sini), sumber: grindosaur_com

25. Data praktikum machine learning unsupervised learning: Fuzzy C Means Clustering (di sini), sumber: bps.go.id

26. Data praktikum machine learning supervised learning: Artificial Neural Network (ANN) (di sini), sumber: iqair.com

27. Data  praktikum Autoregressive Integrated and Moving Average (ARIMA) dengan Intervensi Pulse dan Step Function atau Intervention Analysis (di sini), sumber: Badan Pusat Statistik Republik Indonesia bps.go.id

28. Data jumlah penerbangan harian selama 2019 untuk praktikum package lubridate untuk agregasi data menurut waktu (di sini), sumber: flightradar

29. Data praktikum machine learning supervised learning: Decision Tree (di sini), sumber: dummy

30. Data tweets tentang rencana kebijakan pemerintah menaikkan harga tiket masuk Candi Borobudur tahun 2022 (di sini), sumber: Twitter

31. Data tweets tentang respon masyarakat Twitter terhadap kebijakan naiknya harga listrik (di sini), sumber: Twitter

32. Data tweets tentang kondisi Jalur Pantai Utara Jawa (Pantura) yang sepi sebagai dampak pembangunan jalan tol Trans Jawa, (di sini), sumber: Twitter

Data SPSS (SAV):

1. Data praktikum import data SPSS (di sini) sumber: https://www.cdc.gov/healthyyouth/data/shpps/data.htm

Data Notepad (.TXT)

1. Data praktikum import data dari notepad berekstensi *txt (di sini) sumber: data dummy

2. Data praktikum stopwords Bahasa Indonesia (di sini), sumber: jokoding.com

Data dari hasil olah SAS (.sas7bdat)

1. Data praktikum import data dari hasil olah program SAS (*sas7bdat) (di sini) sumber: http://www.principlesofeconometrics.com/sas.htm

Data Peta Spasial (RGDAL, SHP)

1. Data Spasial Jawa Timur (di sini)



Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s