Langsung ke konten utama

Natural Language Processing (NLP) Penerapan Stopwords Bahasa Indonesia dengan R: Topik Sepinya Jalur Pantura Akibat Adanya Tol Trans Jawa

Natural Language Processing : Stopwords Bahasa Indonesia dengan R Halo teman-teman, berjumpa lagi dengan blog sederhana ini. Pada pembahasan sebelumnya, kita telah bersama belajar penerapan stemming teks yang merupakan bagian dari Natural Language Processing (NLP) menggunakan R. Pada perjumpaan kali ini, kita akan melanjutkan perjuangan kita berbagi ilmu mengenai NLP, tepatnya adalah penerapan stopwords Bahasa Indonesia dengan R. Perlu diketahui bahwa di dalam NLP, untuk menambah keluasan dan mempertajam analisis teks, proses stemming teks saja belum cukup. Kita juga perlu membersihkan teks yang relatif atau mutlak tidak bermakna di dalam analisis teks. Biasanya teks yang dieliminasi dalam NLP merupakan kata penghubunga atau konjungsi, atau kata yang berupa ekspresi yang bercampur di dalam data teks, misalkan ekspresi tertawa "wkwk", ekspresi penolakan "gak, nggak, tidak, atau gk", bahasa asing (selain Indonesia), atau juga kata-kata yang tidak memenuhi kaidah ta

Eksplorasi Data: Filter, Subset, Transpose dengan Pandas Python (Step by Step)

Eksplorasi data dengan Python

Halo teman-teman, kita bertemu kembali untuk berbagi mengenai pemanfaatan Python dengan GUI Jupyter Notebook di blog sederhana ini. Pada unggahan sebelumnya, kita telah bersama-sama belajar dan berbagi mengenai bagaimana melakukan download, instalasi Python Jupyter Notebook, import data Excel ke dalam Python serta bagaimana melakukan import data berekstensi CSV dalam Python, maka kali ini kita akan melanjutkan berbagi mengenai bagaimana kita menggunakan fungsi filter dan transpose data dengan package Pandas.

Di era Data Science, Big Data, dan maraknya penggunaan Machine Learning, kita akan dihadapkan pada istilah-istilah baru, salah satunya adalah data wrangling. Data wrangling merupakan sebuah proses tak terpisahkan dalam olah hingga analisis data. Aktivitas ini selain meliputi bagaimana kita memanajemen sebuah data, juga meliputi bagaimana kita menciptakan transformasi-transformasi untuk membentuk data turunan atau subset dari data utama (induk). Transformasi dari sebuah data utama secara umum dilakukan dengan cara menggabungkan data-data yang ada, memecah data dari gabungan variabel menjadi variabel yang terpisah, memecah data menjadi sebuah variabel yang berdiri sendiri, atau mengekstraksi data menjadi subset data-data baru yang merupakan bagian dari data utama.

Kalau di R, proses data wrangling biasanya menggunakan package dplyr, tetapi di dalam Python, kita dalam melakukan data wrangling menggunakan package Pandas. Kedua package yang menurut saya sama-sama powerfull untuk dalam data processing.

Baik, itu sekilas pengantar kita kali ini. Selanjutnya kita akan mencoba mempraktikkan bagaimana melakukan salah satu data wrangling menggunakan fungsi-fungsi Filter dan transpose data menggunakan Pandas. Data yang akan kita gunakan kali ini merupakan data sederhana saja alias dummy data. Yaitu data mengenai nilai tes Biologi dan Fisika berdasarkan nama grup (di sini). Data-data lain bisa teman-teman generate sendiri atau bisa juga menggunakan data-data yang tersedia dalam blog ini. Data tersebut bisa dipilih saja sesuai kebutuhan (silakan klik di sini).

Setelah datanya telah disiapkan, kita dapat melakukan proses filter dan transpose data memakai package Pandas dengan beberapa code berikut:

#Aktivasi package pandas
import pandas as pd

#Import data csv
df = pd.read_csv("C:\\Users\\56848\\data\\datanilai.csv", sep = ",")

df

Data awal hasil import

df.describe()

Statistik deskriptif dari data

df.info()

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 5 entries, 0 to 4
Data columns (total 4 columns):
 #   Column        Non-Null Count  Dtype 
---  ------        --------------  ----- 
 0   nomor         5 non-null      int64 
 1   grup          5 non-null      object
 2   nilaibiologi  5 non-null      int64 
 3   nilaifisika   5 non-null      int64 
dtypes: int64(3), object(1)
memory usage: 288.0+ bytes
#Filter data hanya untuk Grup A saja
dfA = df[df.grup == "A"]
dfA 
Filter grup A saja

#Filter data hanya untuk Grup A atau C saja
dfAC = df[(df.grup == "A")|(df.grup == "C")]
dfAC

Filter grup A atau C

 #Filter data hanya untuk Grup A dan nilai Fisikanya > 70
dfAFis = df[(df.grup == "A")&(df.nilaifisika > 70)]
dfAFis

Filter grup A yang nilai fisikanya lebih 70

 #Memanggil data dengan nilai Fisika tidak sama dengan 88 atau selain nilai 88
df[df.nilaifisika != 88]

Filter yang nilai fisikanya selain 88

 #Memanggil data yang grupnya D (cara lain)
df[df["grup"].str.contains("D")]

Filter grup yang mengandung string "D"

 #Memanggil data dengan nilai Biologinya > 70 dan < 95
df[(df['nilaibiologi'] > 70)&(df['nilaibiologi'] < 95)]

Filter yang nilai Biologinya lebih dari 70 dan kurang dari 95

 #Menjadikan kolom nomor sebagai indeks supaya lebih baik
dfin = df.set_index('nomor')
dfin

menjadikan kolom nomor sebagai indeks data

#Memanggil baris 1 sampai 3 untuk seluruh kolom
#Indeks dalam Python dimulai dari 0
dfin.iloc[0:3,]

Memanggil data baris 1 sampai 3 untuk seluruh kolom

#Memanggil baris 3 sampai 4 untuk seluruh kolom
dfin.iloc[2:4,0:3]

Memanggil data baris 3 sampai 4 untuk seluruh kolom

#Memanggil baris 3 sampai 4 untuk kolom 2 (nilai biologi)
dfin.iloc[2:4,1:2]

Memanggil data baris 3 sampai 4 untuk kolom 2 (nilai Biologi)

#Memanggil baris 3 sampai 4 untuk kolom 2 sampai 3
dfin.iloc[2:4,1:3]

Memanggil data baris 3 sampai 4 untuk kolom 2 sampai 3

#Melakukan transpose data dfin
dfin.transpose()

Melakukan transpose data

Demikian sedikit ulasan mengenai bagaimana kita melakukan eksplorasi awal terhadap data dengan menggunakan Python.Selamat memahami dan mempraktikkan!

Komentar

Postingan populer dari blog ini

Pemodelan Autoregressive Integrated Moving Average (ARIMA Model) dengan R

ARIMA dengan R Jumpa lagi teman-teman, sebelumnya saya mohon maaf karena kemarin tidak sempat membuat unggahan terbaru di blog ini. Baik, sebelumnya kita telah mengulas tentang pemodelan Geographically Weigthed Regression (GWR) dengan R. Kali ini, kita akan melanjutkan belajar bersama mengenai pemodelan yang tak asing lagi dan populer hingga kini, yaitu pemodelan Autoregressive Integrated Moving Average (ARIMA). Kita akan membahas ARIMA secara langsung tanpa membahas AR dan MA secara tersendiri mengingat pada dasarnya ARIMA adalah model perpaduan antara model AR dengan order p , MA dengan order q dan aspek differencing dengan order d . Artinya, ketika kita mendengar istilah AR(1), maka sebenarnya itu adalah ARIMA(1, 0, 0), ketika kita mendengar ARI(1,1), maka aslinya itu ARIMA(1, 1, 0), atau bila mendengar MA(3), itu sebenarnya ARIMA(0, 0, 3) atau IMA(2,1) sebenarnya adalah ARIMA(0, 2, 1). Data runtun waktu atau time series merupakan salah satu jenis data yang hingga kini banyak digun

Machine Learning: Memahami Reinforcement Learning

Reinforcement Learning Halo teman-teman, pada pembahasan sebelumnya, kita telah berusaha memahami mengenai supervised learning dan unsupervised learning . Sebelum lanjut ke pemodelan statistik selanjutnya, ada baiknya kita membahas tentang satu lagi jenis algoritma machine learning yang akhir-akhir ini banyak digunakan dalam membentuk artificial intelligence (AI), yaitu algoritma reinforcement learning . Kita ke pengertian berdasarkan studi literatur daring ( online ) dulu teman-teman. Saya coba mengambil salah satu pengertian reinforcement learning, misalkan dari situsnya Algoritma, menyatakan bahwa reinforcement learning merupakan algoritma yang diterapkan untuk pembelajaran mesin ( machine learning ) sedemikian rupa sehingga dapat menentukan aksi yang tepat dan pada akhirnya sebuah program dapat bekerja secara otomatis memberikan hasil atau putusan yang benar. Lebih lanjut dalam situs algoritma mengangkat sebuah perumpamaan reinforcement learning dengan menggunakan proses penugasan

Machine Learning: Perbedaan Supervised Learning dan Unsupervised Learning

Perbedaan supervised learning dan unsupervised learning Halo teman-teman, kemarin kita telah mengawali bahasan mengenai salah satu anggota dari Machine Learning sekaligus merupakan contoh dari algoritma supervised learning , yaitu Naive Bayes Classifier (NBC). Akhir-akhir ini, dunia sains data dihebohkan dengan berbagai istilah statistik yang berkaitan erat dengan komputasi atau komputasi statistik, yaitu supervised learning dan unsupervised learning . Sebenarnya ada lagi istilah baru dan cukup makin sulit menyederhanakan definisinya, yaitu reinforcement learning , tapi khusus reinforcement learning nanti akan kita bahas tersendiri karena kita mulai bersinggungan dengan Artificial Intelligence atau kecerdasan buatan. Jujur, saya mengakui bahwa tidak semua dari kita memiliki latar belakang apalagi pakar teknologi informasi (IT). Sehingga, bila kita cermati bahasan-bahasan atau istilah komputasi statistik, sains data, atau data engineering , kita mungkin akan sejenak loading , bahkan s