Melatih Mesin Menulis Lirik Lagu
Bisakah mesin menulis lagu seindah lagu Linkin Park?
Pembukaan
Jarvis dan Friday merupakan Artificial Intelligence (AI) ciptaan Tony Stark yang kita cintai 3000. Kedua AI tersebut dibangun dengan Natural Language Processing (NLP).
NLP memungkinkan komputer dapat mengerti bahasa manusia. Banyak aplikasi dunia nyata yang mengimpelmentasikan NLP seperti pada Chatbot Rinna, pendeteksian email spam atau bukan spam pada aplikasi email, dan fitur quick reply dari Gmail.
Di artikel ini, saya akan mencoba mengaplikasikan NLP dan melatih mesin untuk menulis lirik lagu berdasarkan lagu-lagu dari Linkin Park.
Tl;dr
Tepat 2 tahun yang lalu, vokalis dari band rock Linkin Park, Chester Bennington ditemukan meninggal gantung diri di rumahnya. Saya sangat menghormati Chester, karena Chester merupakan salah satu contoh nyata kalau masa lalu seseorang tidak menentukan masa depan mereka.
Suara dan lagu ciptaan Chester telah menyelamatkan banyak orang mungkin termasuk saya.
Saat mendengar berita kematiannya, saya merasa terpukul. Hanya mendengarkan semua lagunya lewat Joox yang bisa saya lakukan. Selain itu saya memilih untuk tidak melakukan apa-apa hari itu.
Saya ingin memberikan tribute kepada Chester seperti layaknya fans yang lain, sayangnya bernyanyi bukanlah bidang yang saya tekuni. Musik bukan sesuatu yang saya pahami. Jadi yang saya lakukan hanya berusaha terus belajar dan selalu percaya suatu hari saya akan dapat memberikan tribute kepada Chester.
Dan sekarang adalah hari tersebut. Bukan dalam bentuk musik, tapi sebuah mesin yang akan dilatih untuk meniru cara Chester dan Linkin Park menciptakan lagu.
Memang belum sempurna, tapi tidak ada yang bilang mesin ini akan berhenti latihan sampai sini saja kan? :)
Let’s Build It
Data yang akan digunakan dapat diunduh di sini. File tersebut berisikan lirik lagu Linkin Park dari album Hybrid Theory, Meteora, Minutes to Midnight, A Thousand Sun, Living Things, The Hunting Party dan One More Light
Model yang akan kita bangun akan menerima input berupa 50 karakter alphabet, lalu akan memprediksi karakter berikutnya hingga akhirnya tercipta kata-kata yang akan menjadi lirik lagu kita.
Seperti biasa, hal pertama yang dilakukan adalah mengimport semua library yang akan digunakan
from keras.models import Sequential, load_model
from keras.layers import Dense, Activation, LSTMimport numpy as npimport io
Kita akan menggunakan Keras untuk membangun Artificial Neural Network (ANN) kita. Selain itu juga kita akan menggunakan layer LSTM (Long Short-Term Memory) yang berguna agar ANN yang akan kita bangun dapat mengingat karakter sebelumnya.
SEQUENCE_LENGTH = 50Selanjutnya adalah mendeklarasikan konstanta batasan jumlah karakter yang akan kita gunakan dalam model. Konstanta ini juga menentukan jumlah input layer pada ANN yang akan kita bangun.
with io.open("lirik_lp.txt", 'r', encoding='utf8') as f:
lirik = f.read().lower()Lalu kita akan membaca data dari file sebelumnya dan menyimpannya di variabel lirik. Jangan lupa untuk memanggil fungsi .lower() untuk memastikan model yang kita bangun Case Insensitive.
chars = sorted(list(set(lirik)))
print(chars)Kita akan ekstrak karakter apa saja yang terdapat pada data latih lirik yang kita miliki. Ini untuk mempermudah merepresentasikan sebuah karakter sebagai sebuah vektor. Representasi karakter menjadi vektor ini dibutuhkan agar komputer dapat mengenal karakter tersebut. Pada dasarnya komputer hanya mengenal bilangan biner 0 dan 1.
Karakter yang kita miliki mencakup huruf a-z, angka 1–8, beberapa tanda baca serta beberapa huruf bukan inggris. Sampai sini kita bisa memutuskan untuk melakukan Data Cleaning dengan menghapus semua huruf bukan inggris dan tanda baca. Untuk artikel ini saya tidak akan menghapusnya untuk melihat seberapa hebat mesin yang akan dilatih dalam penggunaan tanda baca.
sequences = []
next_chars = []
for i in range(0, len(lirik) - SEQUENCE_LENGTH):
sequences.append(lirik[i: i + SEQUENCE_LENGTH])
next_chars.append(lirik[i + SEQUENCE_LENGTH])Di sini kita akan membangun dataset dari data yang kita miliki. Dataset yang akan dibangun memiliki 2 kolom, kalimat yang diketahui dan karakter selanjutnya dari kalimat tersebut.
char_to_index = dict((c, i) for i, c in enumerate(chars))
index_to_char = dict((i, c) for i, c in enumerate(chars))Setelah itu kita akan memetakan setiap karakter dengan indexnya dalam vektor begitu juga sebaliknya. Ini untuk memudahkan merubah kalimat menjadi vektor untuk diprediksi serta memudahkan dalam merubah hasil prediksi menjadi kalimat.
X = np.zeros((len(sequences), SEQUENCE_LENGTH, len(chars)), dtype=np.bool)
y = np.zeros((len(sequences), len(chars)), dtype=np.bool)
for i, sentence in enumerate(sequences):
for t, char in enumerate(sentence):
X[i, t, char_to_index[char]] = 1
y[i, char_to_index[next_chars[i]]] = 1Langkah terakhir adalah merubah dataset yang sudah kita bangun menjadi vektor agar komputer dapat mengenalinya. Dataset kita sudah siap untuk dilatih ke dalam model ANN.
model = Sequential()
model.add(LSTM(128, input_shape=(SEQUENCE_LENGTH, len(chars))))
model.add(Dense(len(chars), activation='softmax'))model.compile(loss='categorical_crossentropy', optimizer='adam')
model.summary()
Sebelum melatih ANN, kita harus mendefinisikan ANN yang akan dilatih terlebih dahulu.
Itulah ANN yang akan kita latih. Waktunya latihan!
model.fit(X, y, batch_size=128, epochs=50, verbose=1)Seperti pada artikel sebelumnya, untuk melatih ANN kita hanya perlu menambahkan satu baris tersebut. Tunggu beberapa menit. Saya butuh waktu kurang lebih 1 jam untuk melatih ANN tersebut. Setelah latihan selesai waktunya kita melakukan penulisan lirik lagu.
def get_highest_index(preds):
preds = np.asarray(preds).astype('float64')
return np.argmax(preds)Karena kita menggunakan fungsi aktivasi softmax, maka hasil prediksi merupakan array dari kemungkinan tiap karakter muncul. Jika semua kemungkinan dijumlahkan, maka hasilnya sama dengan 1.
Untuk mengetahui karakter yang paling cocok untuk kalimat yang kita masukkan adalah dengan mencari index kemungkinan terbesar. Itu merupakan fungsi dari get_highest_index.
generated = ''
sentence = "Blame me for my past, but I just want to see you\nI"
sentence = sentence.lower()
generated += sentence
print(generated, end='')
for i in range(400):
x = np.zeros((1, SEQUENCE_LENGTH, len(chars)))
for t, char in enumerate(sentence):
x[0, t, char_to_index[char]] = 1.predictions = model.predict(x, verbose=0)[0]
next_index = get_highest_index(predictions)
next_char = index_to_char[next_index]generated += next_char
sentence = sentence[1:] + next_charprint(next_char, end='')
Kita membutuhkan variabel generated untuk menyimpan lirik yang dihasilkan oleh ANN. Variabel sentence merupakan kalimat awal yang kita berikan kepada ANN dan selanjutnya ANN akan memprediksi karakter berikutnya hingga 400 karakter. Perlu diketahui, panjang sentence harus sama dengan konstanta SEQUENCE_LENGTH. Lirik yang dihasilkan adalah sebagai berikut:
Wow cukup bagus kan? Ada beberapa kata yang kacau seperti screat, tunsion, edg dll. Selain itu juga kita dapat melihat bahwa ANN yang kita bangun belum terlalu pintar dengan tanda baca, karena ada kurung buka yang tidak ia tutup.
Kita akan coba mengganti sentence dengan kalimat “I’m trying to tell you something to shut yourself ”.
Wow lumayan bagus ya.
Masih banyak pengembangan yang bisa dilakukan untuk model ini. Seperti menghapus kurung, kurung siku dan angka. Selain itu juga mungkin model ini akan lebih baik jika menggunakan arsitektur Seq2Seq.
Terakhir ada 2 pelajaran yang bisa kita dapatkan dari vokalis Linkin Park, Chester Bennington. Pertama seburuk apapun masa lalu kamu, tidak akan mengubah hak kamu untuk sukses di masa depan. So forgive your past and move on. Dan yang terakhir uang bisa membelikan kamu kebahagiaan, tapi menjadi bahagia belum tentu menyelesaikan masalah yang kamu punya kan?
Okay, stay positive and see you again next time :)
