Dalam arsitektur komputasi modern, prioritisasi beban kerja atau workload prioritization menjadi fondasi penting untuk memastikan bahwa sumber daya komputasi yang terbatas dialokasikan secara optimal. Pada platform slot, sistem ini menentukan tugas mana yang mendapatkan akses prioritas ke slot eksekusi, bagaimana tugas prioritas rendah ditangani saat terjadi persaingan sumber daya, dan bagaimana keseimbangan antara efisiensi sumber daya dan performa kelas layanan dijaga. Artikel ini membahas Kajian sistem workload prioritization pada platform slot.
Memahami Model Prioritisasi Berbasis Slot
Pada intinya, workload prioritization pada platform slot beroperasi melalui model penjadwalan prioritas yang bersifat preemptive . Dalam model ini, sumber daya dialokasikan berdasarkan ketersediaan server, kapasitas, dan kelas prioritas tugas. Pendekatan berbasis slot mengkonfigurasi setiap server dengan sejumlah slot tertentu, dan sebuah tugas hanya dapat dikirim ke server jika ada slot yang tersedia. Setiap tugas menempati tepat satu slot, terlepas dari kebutuhan sumber daya atau prioritasnya, dan sumber daya server dialokasikan secara dinamis berdasarkan penggunaan aktual .
Model ini berbeda dari pendekatan konvensional yang mengandalkan perkiraan kebutuhan sumber daya yang diberikan pengguna. Karena perkiraan seringkali berlebihan, pendekatan berbasis slot mencegah pemborosan sumber daya sekaligus membatasi konsolidasi berlebihan dengan membatasi jumlah tugas per server .
Mekanisme Priority Eviction
Salah satu mekanisme paling kritis dalam workload prioritization adalah priority eviction. Ketika sistem dalam kondisi penuh dan tugas prioritas tinggi tiba, tugas yang sedang berjalan dengan prioritas terendah akan diusir atau dievict . Tugas prioritas tinggi segera dijadwalkan ke slot yang dibebaskan dan memulai eksekusinya, sementara tugas prioritas rendah yang dievict bergabung kembali ke antrian pusat.
Pilihan kebijakan eviction terbukti memiliki dampak signifikan terhadap performa sistem. Penelitian menunjukkan bahwa pemilihan kebijakan eviction yang tepat dapat meningkatkan response time hingga 29% . Tiga kebijakan eviction utama yang dievaluasi adalah :
-
RND (Random): Memilih tugas yang akan dievict secara acak dari kelas prioritas terendah
-
MRS (Most Recently Started): Mengevict tugas yang paling baru dimulai dari kelas prioritas terendah untuk meminimalkan eksekusi yang terbuang
-
LRS (Least Recently Started): Mengevict tugas yang paling lama berjalan dari kelas prioritas terendah
Temuan penting dari penelitian adalah bahwa eviction secara signifikan meningkatkan beban sistem, yang menyebabkan peningkatan response time yang substansial, terutama pada kelas prioritas rendah, karena eviction berulang .
Workload-Aware Slot Configuration
Inovasi penting dalam workload prioritization adalah pendekatan workload-aware yang mempertimbangkan karakteristik historis beban kerja untuk mengoptimalkan konfigurasi slot. Pendekatan WA²SC (Workload-Aware Slot Configuration and Scheduling) terdiri dari dua fase utama .
Pada fase pertama, sistem mengestimasi penggunaan CPU untuk setiap kelas prioritas menggunakan data historis. Estimasi ini mempertimbangkan faktor sensitivitas perlambatan (slowdown sensitivity factor) berdasarkan kelompok prioritas. Kelas produksi dengan δ=1.0 sangat sensitif terhadap perlambatan, sementara kelas gratis dengan δ=0.5 kurang sensitif .
Pada fase kedua, konfigurasi slot dipetakan ke lingkungan server heterogen. Server dengan core tercepat dikonfigurasi dengan slot “powerful” untuk mengakomodasi kelas produksi yang membutuhkan lebih banyak sumber daya. Hasilnya, tugas dari kelas produksi dijadwalkan ke slot paling powerful untuk memenuhi kebutuhan sumber daya yang tinggi .
Trade-off Antara Eviction dan Response Time
Salah satu temuan paling signifikan dalam kajian workload prioritization adalah trade-off mendasar antara eviction dan response time. Meskipun peningkatan jumlah slot membantu mengurangi jumlah eviction, peningkatan ini tidak selalu linear. Penelitian menunjukkan bahwa peningkatan jumlah slot dari 24 menjadi 32 per server tidak memberikan perbaikan yang signifikan dalam mengurangi eviction, tetapi justru meningkatkan eviction memori karena resource sharing yang ekstensif .
Memori eviction menjadi tantangan tersendiri karena tidak seperti CPU, penggunaan memori tidak dapat disesuaikan dengan kapasitas yang tersedia. Tugas tidak dapat melanjutkan eksekusi dengan kebutuhan memori yang tidak terpenuhi . Dalam sistem non-resume, baik priority eviction maupun memory eviction menyebabkan hilangnya progress eksekusi tugas pada saat eviction, yang semakin memperburuk efisiensi.
Pendekatan Alternatif: Slot Sharing
Untuk menghindari biaya eviction yang tinggi, pendekatan alternatif memungkinkan tugas prioritas tinggi berbagi slot dengan tugas prioritas rendah yang sudah berjalan . Dalam pendekatan ini, sumber daya yang terkait dengan satu slot digunakan secara bersamaan untuk dua atau lebih tugas. Mekanisme switching cerdas memungkinkan pemrosesan multiple tasks dalam slot yang sama.
Pendekatan ini memerlukan task profiling untuk menentukan karakteristik tugas dan mengidentifikasi tugas mana yang saling melengkapi untuk berbagi slot secara optimal . Workflow learning juga digunakan untuk memprediksi beban kerja di masa depan, membantu menghindari penempatan suboptimal yang dapat mengakibatkan resource contention dalam slot yang sama .
Queue-Based Fair Share dan Dynamic Prioritization
Pendekatan lain dalam workload prioritization adalah queue-based fair share, yang memungkinkan alokasi slot yang fleksibel per antrian sebagai alternatif dari prioritas absolut. Pendekatan ini menerapkan batas slot lunak (soft job slot limit) pada setiap antrian, mencegah satu antrian memonopoli sumber daya cluster .
Dalam model ini, administrator dapat mengonfigurasi rasio job slots yang didistribusikan di antara antrian. Ketika antrian bersaing, slot yang dialokasikan per antrian tetap dalam batas share yang dikonfigurasi. Namun, jika hanya satu antrian yang memiliki job, antrian tersebut dapat menggunakan semua sumber daya yang tersedia .
Model dynamic prioritization yang lebih canggih memperkenalkan konsep “spending rate” di mana pengguna menentukan seberapa banyak anggaran yang ingin mereka belanjakan untuk menjalankan job pada slot selama interval alokasi tertentu. Share kapasitas yang diberikan kepada pengguna sebanding dengan spending rate pengguna tersebut dan berbanding terbalik dengan spending rate semua pengguna lain . Pendekatan ini mendukung preemption dan work conservation, di mana pengguna hanya membayar untuk slot yang benar-benar mereka gunakan .
Kesimpulan
Kajian sistem workload prioritization pada platform slot menunjukkan bahwa efektivitasnya bergantung pada interaksi kompleks antara kebijakan eviction, konfigurasi slot, karakteristik beban kerja, dan trade-off antara efisiensi sumber daya dengan performa kelas layanan. Temuan kunci menunjukkan bahwa pemilihan kebijakan eviction yang tepat dapat meningkatkan response time hingga 29% , namun eviction yang berulang dapat secara signifikan meningkatkan beban sistem . Pendekatan workload-aware yang mengoptimalkan konfigurasi slot berdasarkan karakteristik historis beban kerja terbukti efektif dalam mengurangi eviction memori untuk kelas prioritas tinggi .
Ke depan, integrasi antara pendekatan berbasis slot, workload-aware configuration, dan dynamic prioritization berbasis pasar menawarkan potensi untuk menciptakan sistem prioritisasi yang lebih adaptif dan efisien. Platform slot modern perlu memilih kombinasi mekanisme yang sesuai dengan karakteristik beban kerja dan requirement layanan mereka untuk mencapai keseimbangan optimal antara utilisasi sumber daya dan performa.