Load Balancing & Auto Scale Server Kledo

Perusahaan teknologi mosok blog nya ngomongin bisnis, keuangan dan HR aja sih? 😀 Saat nya ngomong tentang yang berbau-bau teknologi, yuukkkk…

Inspirasi Film The Playlist a.k.a. Spotify

Tahun lalu sewaktu nonton film Spotify di Netflix, bikin aku semakin terobsesi dengan speed dan optimasi. Di film tersebut diceritakan kalo tim awal spotify ngejar streaming lagunya bisa secepat kilat terasa lokal, padahal data nya disimpan di cloud. Segilanya mereka, sampai-sampai mentok ga bisa dicepetin lagi karena keterbatasan protokol HTTP yang digunakan. Alhasil mereka secara “gila” membuat protokol transport network sendiri, yang bisa lebih cepet dari HTTP. Yah sekarang bisa kita rasakan, klik play button di spotify itu ga ada loading-loadingnya sama sekali. Ruar biasaaaa…

Apa tim hebat kledo perlu diganti jadi tim gila kledo? wkwkwkwk

Inspirasi Film Rise of Empires: Ottoman

Nhah kledo ini setelah dikisaran 50ribu pengguna, servernya mulai sering terasa lemot, kadang mati-mati. Optimasi dari sisi script ga semudah order Mixue, karena bersinggungan dengan data krusial dari customer-customer kledo. Kalo lemot gini, boro-boro bakalan ngejar speed kayak spotify gitu, yekann?

Perlu dilakukan sesuatu yang besar untuk membereskan ini, ga bisa business as usual lagi optimasi nya. Kalau inspirasi dari film Ottoman di Netflix itu, semacam menaklukkan Constantinopel, jangan cuman naklukin klan-klan kecil aja.

Nhah, nhah, nhah, hasil ngobrol dengan tim dari JogjaCamp, diputuskan untuk memulai menerapkan load balancing dan auto scale di web server kledo.

Apa itu load balancing?

Ceritanya gini, kalau dalam satu waktu banyak user yang akses kledo, padahal server hanya ada satu, mestinya ga kuat lah ya. Nhah, jadinya server nya di cloning ke beberapa server. Terusss, saat kita akses server kledo, itu nanti oleh si load balancer ini akan dipilihkan dan diarahkan ke salah satu server. Biasanya akan dipilihkan ke server yang load nya sedang rendah. Jadi pada akhirnya keseluruhan server akan menanggung beban yang kurang lebih sama, alias balance, makanya disebut load balancing.

Apa itu Auto Scale?

Ini bukan scaling gigi ya, bukan bukan.

Problem di kledo adalah saat diluar jam kantor, terutama malam hari, pengaksesnya sangat sedikit. Sedangkan di jam kantor, semua akuntan gas pol untuk input data dan analisa data di kledo. Nhah kalau dibuat server yang sedikit, nanti pas jam siang akan ga kuat servernya. Sebaliknya juga, jika servernya dibuat banyak, entar pas malam hari jadi mubazir servernya, karena yang kepake cuman sedikit.

Solusinya?

Make yang namanya auto scale ini. Jadinya, jumlah server nya akan mengembang dan mengempis sesuai kebutuhan. Misalnya malam hari pas sepi, servernya satu aja, tapi pas siang rame banget bisa sampe puluhan. Ya tergantung kebutuhan itu tadi.

Hasil Implementasi Load Balancing & Auto Scale nya?

Akibatnya pas banyak yang akses juga tetep lancar, pas dikit yang akses juga ga boros dibiaya server.

Sekian bulan coba mencoba dari sisi script dan servernya, akhirnya berhasil juga diimplementasikan. “Thanks tim JogjaCamp!”

Semenjak auto scale dan load balancing diimplementasikan, hampir belum pernah ada downtime lagi. Kecepatan akses juga terasa lebih stabil di jam-jam sibuk.

Aku sendiri sampe terpana-pana, bener-bener luar biasa ternyata impact-nya. Oh ya, ini untuk pertama kalinya aku menerapkan teknologi ini di real world.

Kesimpulan

Kalau udah punya aplikasi yang sudah diakses ribuan user, perlu segera mempertimbangkan penerapan load balancing dan auto scale ini. Sangat-sangat worth it, dijamin!