Prinsip Parsimoni: Seni “bersederhana” untuk Mencapai Hasil Optimum

Penulis:  Prof. Madya Dr. Nurulkamal Masseran
Pensyarah Kanan
Jabatan Sains Matematik, Universiti Kebangsaan Malaysia

Dalam kehidupan kita sebagai manusia, kita semestinya mahukan yang terbaik dalam dalam semua perkara. Namun, dalam usaha untuk mencapai perkara yang terbaik, kita juga seringkali diingatkan dengan konsep “bersederhana”. Iaitu kita tidak boleh melampaui batas ataupun berlebih-lebihan dalam setiap perkara dan tindakan yang kita lakukan. Dalam masa yang sama, kita juga dilarang untuk bermalas-malasan, cuai ataupun melakukan suatu perkara secara ala kadar dan sambil lewa. Konsep “bersederhana” ini tanpa kita sedari, ianya membawa kestabilan dan keseimbangan dalam segenap aspek kehidupan manusia. Namun, yang menariknya, konsep “berserderhana” ini juga mendapat tempat dalam pelbagai disiplin bidang ilmu. Ianya boleh dijelaskan menerusi prinsip parsimoni (principle of parsimony). Prinsip parsimoni ini berkait rapat dengan falsafah panduan Pisau Cukur Occam (Occam’s razor) yang mula dipopularkan oleh ahli falsafah barat iaitu William of Ockham pada sekitar kurun ke-14. Panduan Pisau Cukur Occam menyatakan bahawa “Entities should not be multiplied beyond necessity” (Burgess,1998). Iaitu, ianya membawa makna bahawa suatu teori, konsep ataupun fenomena perlulah dijelaskan dengan ringkas dan tepat tanpa andaian-andaian yang rumit. Selari dengan itu, istilah “Pisau Cukur” tersebut hanyalah suatu metafora untuk menekan keperluan membuang (mencukur) andaian-andaian yang tidak perlu bagi tujuan memberikan penjelasan ringkas berkaitan suatu perkara. Walaupun prinsip parsimoni ini diguna pakai dalam pelbagai bidang ilmu, namun dalam artikel ini, kita hanya akan membincangkan skop penggunaannya dalam konteks disiplin ilmu statistik terutama berkaitan permodelan terhadap fenomena dunia nyata dan sistem kompleks.

Prinsip Parsimoni dalam Permodelan Statistik

Dalam era data raya pada masa kini, data dengan bilangan pemboleh ubah yang besar (berdimensi tinggi) umumnya boleh diperolehi dengan mudah. Senario ini menjadikan penganalisis data akan cenderung untuk menambah pelbagai pemboleh ubah dalam proses analisis dan permodelan data dengan harapan analisis yang dijalankan akan lebih komprehensif. Selain itu, era data raya ini juga datang bersama dengan teknologi komputer yang lebih canggih dan terkehadapan. Ini menjadikan pelbagai analisis statistik dengan menggunakan model-model yang kompleks boleh dijalankan dengan  mudah. Senario ini pula menjadikan sebahagian penganalisis data cenderung untuk menggunakan model statistik/matematik yang lebih kompleks dengan bilangan parameter yang besar dengan harapan untuk mencapai hasil ketepatan pemodelan yang tinggi. Kedua-dua senario ini umumnya akan menghasilkan model statistik yang kelihatan sempurna. Namun, jika tidak berhati-hati, ianya sebenarnya akan membawa kepada masalah yang besar, iaitu masalah terlebih-suai (overfitting). Ini kerana, model yang mengalami masalah terlebih-suai bukanlah model yang teguh. Ianya tidak akan mampu untuk mempelajari dan mengekstrak isyarat sebenar dalam data. Sebaliknya, model yang terlebih-suai akan sangat sensitif terhadap data hingar (noise) atau turun-naik rawak yang tidak mencerminkan isyarat sebenar dalam data (lihat Rajah 1). Implikasinya, model dengan masalah terlebih-suai akan kelihatan sempurna diperingkat analisis data, namun apabila ianya diuji dengan data dunia nyata, hasil peramalan akan mempunyai varians yang tinggi, sekaligus menggambarkan ketakpastian yang tinggi terhadap keputusan yang diperolehi.

Di sisi lain pula, jika penganalisis data terlalu cenderung untuk mendapatkan penyelesaian yang ringkas dengan model yang mudah pula, ianya juga akan membawa kepada masalah besar yang lain, iaitu masalah terkurang-suai (undefitting). Model yang terkurang-suai akan mengalami masalah kepincangan yang tinggi. Iaitu, ianya juga tidak dapat untuk mengecam isyarat sebenar dalam data (lihat Rajah 1). Oleh itu, di sini prinsip parsimoni memainkan peranan penting sebagai panduan untuk mencari model yang optimum yang mempunyai keseimbangan antara kekompleksan dan kepincangan yang dikenali sebagai konsep imbal-balas pincang-varians  (bias-variance tradeoff) (Vandekerckhove, Matzke & Wagenmakers 2015). Bagi tujuan tersebut, beberapa ukuran seperti R² terlaras, Kriteria Maklumat Akaike, Kriteria Maklumat Bayesan dan lain-lain boleh digunakan sebagai rujukan dalam mengenalpasti model yang sesuai. Namun, pada akhirnya penilaian berasaskan ilmu pengetahuan penganalisis data tetap memainkan peranan yang penting untuk membuat keputusan terhadap pemilihan model yang parsimoni dan optimum.

Model yang parsimoni dan optimum umumnya mempunyai tiga kelebihan yang utama iaitu:

i) Pengitlakan yang baik: Ianya akan mempunyai prestasi yang teguh dan konsisten apabila digunakan pada data lain yang belum pernah dicerap.

ii) Proses penghitungan yang lebih cekap: Dimensi pemboleh ubah yang lebih rendah dan juga bilangan parameter yang kurang akan menjadikan proses penghitungan dan pemodelan data lebih cekap dan efisien.

iii) Tafsiran yang lebih mudah: Model yang parsimoni akan menjadikan tafsiran terhadap keputusan analisis data lebih mudah untuk ditafsir dan diberikan makna.

Dari Statistik ke Pembelajaran Mesin dan Teknologi AI

Ideologi prinsip parsimoni juga memainkan peranan penting dalam keperluan bidang sains data dan pembelajaran mesin (Lin 2023). Sebagai contoh, saintis data kebiasaanya akan berurusan dengan set data yang berdimensi tinggi dengan puluhan, ratusan, malah mungkin ribuan lajur (pemboleh ubah). Dalam kebanyakan kes, saintis data memerlukan komputer yang berkapasiti tinggi untuk menguruskan data sebegini. Algoritma yang digunakan terhadap data sebegini juga akan menjadi kurang efisyen. Malahan, model yang terhasil juga kebiasaanya adalah model yang rumit dengan bilangan parameter yang besar. Namun, berasaskan prinsip parsimoni, permasalahan-permasalah ini dapat dipermudahkan dengan pelbagai kaedah. Antaranya menerusi:

i) Menurunkan dimensi atau numerositi data kepada bentuk yang lebih kecil menerusi kaedah seperti analisis komponen utama, analisis faktor, pemilihan fitur, pensampelan semula, dan lain-lain.

ii) Memampatkan dan membina semula fitur data menerusi kaedah seperti autoencoder.

iii) Memberikan penalti terhadap kekompleksan model menerusi teknik regularisasi (Lasso dan Ridge)

iv) Menggunakan teknik pemangkasan untuk mengurangkan kekompleksan model yang terhasil.

v) Dan banyak lagi.

Malah, kita sedia maklum bahawa rangkaian neural buatan yang menjadi engin utama dalam model AI umumnya mengandungi berbilion parameter untuk membolehkan teknologi AI berfungsi dengan baik. Selari dengan itu, model-model AI saban hari akan memerlukan ladang pelayan (server farms) yang semakin besar, bekalan tenaga dan air yang semakin tinggi, sekaligus membawa kepada kos operasi yang lebih besar dari semasa ke semasa. Di sinilah prinsip parsimoni memainkan peranan yang penting. Pembangunan teknologi AI pada masa hadapan mungkin bukan lagi sekadar mahukan menghasilkan model yang tepat. Penyelidik-penyelidik menghadapi cabaran untuk menghasilkan model lebih ringkas, namun masih mempunyai keupayaan yang jitu, pantas, dan cekap untuk membolehkan teknologi AI pada masa akan datang dapat digunakan dengan lebih efisien dengan kos operasi yang lebih murah. Teknik seperti pengkuantuman (Quantization) merupakan antara kaedah yang telah dikaji untuk mengurangkan jejak memori model dan beban penghitungan dalam model AI (Wang dan Spindler 2025). Antara pendekatan yang boleh dibuat adalah dengan menjelmakan data berketepatan-tinggi kepada format bit rendah (daripada 32-bit kepada 8-bit atau 4-bit). Ianya bertujuan untuk menjadikan teknologi AI lebih efisien dengan mengurangkan saiz fail, mempercepatkan masa respon, serta menjimatkan penggunaan tenaga.

Prinsip Parsimoni tidak Menafikan Kekompleksan

Walaupun prinsip parsimoni sangat berguna untuk mendapatkan suatu hasil yang lebih ringkas dan optimum, namun ianya hanyalah suatu panduan sahaja. Ianya bukanlah hukum yang mutlak yang terpakai dalam semua keadaan. Prinsip parsimoni tidaklah boleh digunakan sewenang-wenangnya atau secara membuta tuli dengan niat untuk mencapai suatu penyelesaian dengan mudah tanpa memahami dengan baik konteks data dan permasaalahan yang dihadapi. Selari dengan ungkapan, “simple doesn’t mean simplistic”. Ini kerana, sebahagian kes dan fenomena tertentu, kompleksan dan kerumitan kadang-kala memang tidak dapat dielakkan dan kita sememangnya akan memerlukan model dan persamaan matematik aras tinggi yang lebih rumit untuk menghuraikan fakta dan permasaalahan sebenar. Di sini, pada akhirnya kebijakan manusia tetap akan menjadi timbang tara yang memainkan peranan untuk mengatasi setiap permasalah yang dihadapi. Seperti ungkapan popular yang disebut oleh tokoh ahli fizik, Albert Einstein iaitu ” Everything should be made as simple as possible, but not simpler than that “.

[ARTIKEL LAIN PENULIS – Penaakulan Sebab-Musabab: Enjin Teknologi Pintar Masa Hadapan]
[ARTIKEL LAIN PENULIS – Peranan Jarak Dalam Memahami Tingkahlaku Data]
[ARTIKEL LAIN PENULIS – Dilema Data Pencil]
[ARTIKEL LAIN PENULIS – Mengapa Taburan Normal Begitu Popular?]
[ARTIKEL LAIN PENULIS- Taburan hukum-kuasa: Ketakseimbangan yang Teratur]
[ARTIKEL LAIN  PENULIS – Simulasi Monte Carlo: Merungkai Kerumitan menerusi Kerawakan]
Kredit foto utama-excelr

Rujukan:

Burgess, J. (1998). Occam’s razor and scientific method. The Philosophy of Mathematics Today. Clarendon Press, Oxford, 195-214.

Lin, J. (2023). Sparse models for machine learning. In Engineering Mathematics and Artificial Intelligence (pp. 107-146). CRC Press.

Vandekerckhove, J., Matzke, D., & Wagenmakers, E. J. (2015). 14 Model Comparison and the Principle of Parsimony. The Oxford handbook of computational and mathematical psychology, 300.

Wang, R., Spindler, L (2025). Model Quantization: Concepts, Methods, and Why It Matters. Available at: https://developer.nvidia.com/blog/model-quantization-concepts-methods-and-why-it-matters/