ZSTD, kependekan dari Zstandard, adalah algoritma kompresi lossless yang cepat dan efisien serta format file yang dikembangkan oleh Yann Collet di Facebook. Ini dirancang untuk memberikan rasio kompresi yang tinggi sambil mempertahankan kecepatan kompresi dan dekompresi yang cepat, sehingga cocok untuk skenario kompresi real-time dan kompresi kumpulan data yang besar.
Format ZSTD didasarkan pada kombinasi tahap entropi yang cepat dan tahap kompresi lossless yang kuat. Tahap entropi menggunakan Finite State Entropy (FSE) dan pengkodean Huffman, sedangkan tahap kompresi lossless menggunakan varian dari algoritma LZ77 yang disebut Zstandard Dictionary Compression (ZDIC).
Salah satu fitur utama ZSTD adalah kemampuannya untuk membuat dan memanfaatkan kamus selama kompresi. Kamus adalah kumpulan data yang dibagikan sebelumnya yang digunakan oleh kompresor dan dekompresor untuk meningkatkan rasio kompresi. ZSTD mendukung dua jenis kamus: kamus yang ditentukan konten dan kamus yang disediakan pengguna.
Kamus yang ditentukan konten secara otomatis dihasilkan oleh kompresor ZSTD berdasarkan data input. Kompresor menganalisis data untuk mengidentifikasi pola yang berulang dan membuat kamus yang mewakili pola-pola ini. Kamus kemudian digunakan selama kompresi untuk mengganti pola yang berulang dengan referensi ke kamus, menghasilkan rasio kompresi yang lebih tinggi.
Kamus yang disediakan pengguna, di sisi lain, dibuat oleh pengguna dan dapat dibagikan di antara beberapa file terkompresi. Kamus ini berguna saat mengompresi data yang serupa atau terkait, karena memungkinkan kompresor untuk memanfaatkan pengetahuan yang sudah ada sebelumnya tentang pola data. Kamus yang disediakan pengguna dapat secara signifikan meningkatkan rasio kompresi, terutama untuk file kecil atau file dengan struktur data yang umum.
ZSTD mendukung beberapa level kompresi, mulai dari 1 hingga 22, dengan level yang lebih tinggi menawarkan rasio kompresi yang lebih baik dengan mengorbankan kecepatan kompresi yang lebih lambat. Level kompresi default adalah 3, yang memberikan keseimbangan yang baik antara rasio kompresi dan kecepatan. ZSTD juga menyertakan level kompresi khusus yang disebut "ultra", yang menawarkan rasio kompresi tertinggi tetapi dengan peningkatan waktu kompresi yang signifikan.
Format ZSTD terdiri dari header yang diikuti oleh satu atau lebih frame terkompresi. Header berisi metadata tentang data terkompresi, seperti ID kamus, ukuran jendela, dan jumlah frame. Setiap frame terkompresi bersifat independen dan dapat didekompresi secara terpisah, memungkinkan dekompresi paralel dan akses acak ke data terkompresi.
Frame terkompresi dalam ZSTD menggunakan kombinasi blok literal dan blok urutan. Blok literal berisi data mentah yang tidak terkompresi, sedangkan blok urutan berisi referensi ke kamus atau data yang terlihat sebelumnya. Blok urutan dikodekan menggunakan pengkodean FSE atau Huffman untuk meminimalkan ukuran referensi.
ZSTD menggunakan beberapa teknik untuk meningkatkan efisiensi dan kecepatan kompresi. Salah satu teknik tersebut adalah penggunaan tabel hash untuk menemukan dengan cepat urutan yang cocok dalam kamus atau data yang terlihat sebelumnya. Tabel hash terus diperbarui saat kompresor memproses data input, memungkinkan pencarian potensi kecocokan yang efisien.
Teknik pengoptimalan lain yang digunakan oleh ZSTD adalah strategi pencocokan malas. Alih-alih segera mengkodekan kecocokan, kompresor terus mencari kecocokan yang lebih panjang. Jika kecocokan yang lebih panjang ditemukan, kompresor dapat memilih untuk mengkodekan kecocokan yang lebih panjang sebagai gantinya, menghasilkan rasio kompresi yang lebih baik.
ZSTD juga menyertakan mode cepat yang disebut "pencocokan jarak jauh" (LDM), yang memungkinkan deteksi kecocokan jarak jauh. LDM menggunakan tabel hash sekunder untuk menyimpan kecocokan yang berjauhan dalam data input. Dengan mempertimbangkan kecocokan jarak jauh ini, ZSTD dapat meningkatkan rasio kompresi untuk jenis data tertentu, seperti data yang sangat berulang atau periodik.
Selain kemampuan kompresinya, ZSTD juga menyediakan deteksi dan koreksi kesalahan melalui penggunaan checksum. Setiap frame terkompresi menyertakan checksum dari data yang tidak terkompresi, yang memungkinkan dekompresor untuk memverifikasi integritas data selama dekompresi. Jika kesalahan terdeteksi, ZSTD dapat mencoba memulihkannya dengan membuang frame yang rusak dan melanjutkan dengan frame berikutnya.
ZSTD telah mendapatkan adopsi yang luas karena kinerjanya yang mengesankan dan fleksibilitasnya. Ini digunakan dalam berbagai aplikasi, termasuk sistem penyimpanan data, mesin basis data, solusi cadangan, dan protokol transfer data. Banyak format file populer, seperti Zstandard Archive (ZSTD), Zstandard Seekable Format (ZST), dan Zstandard Dictionary Format (ZDICT), didasarkan pada kompresi ZSTD.
Salah satu keuntungan ZSTD adalah kompatibilitasnya dengan berbagai platform dan bahasa pemrograman. Implementasi referensi ZSTD ditulis dalam C dan sangat portabel, memungkinkannya digunakan pada berbagai sistem operasi dan arsitektur. Selain itu, ada banyak binding dan port ZSTD yang tersedia untuk bahasa pemrograman yang berbeda, sehingga mudah untuk mengintegrasikan kompresi ZSTD ke dalam aplikasi yang sudah ada.
ZSTD juga menyediakan alat antarmuka baris perintah (CLI) yang memungkinkan pengguna untuk mengompresi dan mendekompresi file menggunakan ZSTD. Alat CLI mendukung berbagai opsi dan parameter, seperti mengatur level kompresi, menentukan kamus, dan menyesuaikan penggunaan memori. Alat CLI sangat berguna untuk mengompresi dan mendekompresi file dalam batch atau lingkungan skrip.
Singkatnya, ZSTD adalah algoritma kompresi dan format file yang sangat efisien dan serbaguna yang menawarkan kecepatan kompresi dan dekompresi yang cepat, rasio kompresi yang tinggi, dan kemampuan untuk memanfaatkan kamus untuk meningkatkan kinerja. Kombinasi kecepatan dan efisiensi kompresinya membuatnya cocok untuk berbagai aplikasi, mulai dari kompresi real-time hingga kompresi kumpulan data yang besar. Dengan rangkaian fiturnya yang luas, kompatibilitas platform, dan adopsi yang terus meningkat, ZSTD telah menjadi pilihan populer untuk kompresi data di berbagai domain.
Kompresi file mengurangi redundansi sehingga informasi yang sama membutuhkan lebih sedikit bit. Batas atasnya ditentukan oleh teori informasi: untuk kompresi lossless, batasnya adalah entropi sumber (lihat teorema pengkodean sumber Shannon source coding theorem dan makalah aslinya tahun 1948 “A Mathematical Theory of Communication”). Untuk kompresi lossy, kompromi antara laju bit dan kualitas dijelaskan oleh teori rate–distortion.
Sebagian besar kompresor memiliki dua tahap. Pertama, sebuah model memprediksi atau mengekspos struktur dalam data. Kedua, sebuah coder mengubah prediksi tersebut menjadi pola bit yang hampir optimal. Keluarga pemodelan klasik adalah Lempel–Ziv LZ77 (1977) dan LZ78 (1978) mendeteksi substring berulang lalu memancarkan referensi alih-alih byte mentah. Di sisi pengodean, pengodean Huffman (lihat makalah aslinya 1952) memberikan kode lebih pendek untuk simbol yang lebih mungkin. Pengodean aritmetika dan range coding lebih halus lagi dan mendekati batas entropi, sementara Asymmetric Numeral Systems (ANS) modern mencapai rasio serupa dengan implementasi berbasis tabel yang cepat.
DEFLATE (dipakai oleh gzip, zlib, dan ZIP) menggabungkan LZ77 dengan pengodean Huffman. Spesifikasinya bersifat publik: DEFLATE RFC 1951, pembungkus zlib RFC 1950, dan format file gzip RFC 1952. Gzip dibingkai untuk streaming dan tidak menyediakan akses acak. Gambar PNG menstandarkan DEFLATE sebagai satu-satunya metode kompresi (maksimal jendela 32 KiB) menurut spesifikasi PNG “Compression method 0… deflate/inflate… at most 32768 bytes” dan W3C/ISO PNG 2nd Edition.
Zstandard (zstd): kompresor serbaguna modern yang dirancang untuk rasio tinggi dengan dekompresi sangat cepat. Formatnya didokumentasikan dalam RFC 8878 (serta cermin HTML-nya) dan spesifikasi referensi di GitHub. Seperti gzip, frame dasar tidak menargetkan akses acak. Salah satu keunggulan zstd adalah kamus: sampel kecil dari korpus Anda yang membuat banyak file kecil atau serupa terkompresi jauh lebih baik (lihat dokumentasi kamus python-zstandard dan contoh karya Nigel Tao). Implementasi menerima kamus “unstructured” maupun “structured” (diskusi).
Brotli: dioptimalkan untuk konten web (mis. font WOFF2, HTTP). Ia memadukan kamus statis dengan inti LZ+entropi mirip DEFLATE. Spesifikasinya adalah RFC 7932, yang juga menyebut jendela geser 2WBITS−16 dengan WBITS [10, 24] (1 KiB−16 B hingga 16 MiB−16 B) dan bahwa ia tidak memberikan akses acak. Brotli sering mengalahkan gzip pada teks web sambil tetap cepat saat decoding.
Kontainer ZIP: ZIP adalah arsip file yang dapat menyimpan entri dengan berbagai metode kompresi (deflate, store, zstd, dll.). Standar de facto-nya adalah APPNOTE PKWARE (lihat portal APPNOTE, salinan yang di-host, serta ringkasan LC ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 menargetkan kecepatan mentah dengan rasio sedang. Lihat halaman proyeknya (“extremely fast compression”) dan format frame. Cocok untuk cache in-memory, telemetri, atau jalur panas yang memerlukan dekompresi hampir secepat RAM.
XZ / LZMA mengejar kerapatan tinggi dengan waktu kompres yang relatif lambat. XZ adalah kontainer; pekerjaan berat biasanya dilakukan LZMA/LZMA2 (pemodelan mirip LZ77 + range coding). Lihat format .xz, spesifikasi LZMA (Pavlov), dan catatan kernel Linux tentang XZ Embedded. XZ biasanya lebih kecil dari gzip dan sering bersaing dengan codec modern yang berorientasi rasio tinggi, walau waktu enkodenya lebih lama.
bzip2 menggunakan Transformasi Burrows–Wheeler (BWT), move-to-front, RLE, dan pengodean Huffman. Biasanya lebih kecil daripada gzip namun lebih lambat; lihat manual resminya dan halaman manual (Linux).
Ukuran “jendela” penting. Referensi DEFLATE hanya bisa melihat ke belakang 32 KiB (RFC 1951) serta batas 32 KiB di PNG yang disebutkan di sini. Brotli memiliki jendela sekitar 1 KiB hingga 16 MiB (RFC 7932). Zstd menyetel jendela dan kedalaman pencarian lewat level (RFC 8878). Stream dasar gzip/zstd/brotli didesain untuk decoding sekuensial; format dasarnya tidak menjanjikan akses acak, meskipun kontainer (mis. indeks tar, framing berchunk, atau indeks khusus format) bisa menambahkannya.
Format di atas bersifat lossless: Anda bisa merekonstruksi byte yang sama persis. Codec media sering lossy: mereka membuang detail yang tak terlihat untuk mencapai bitrate lebih rendah. Pada gambar, JPEG klasik (DCT, kuantisasi, pengodean entropi) distandardisasi dalam ITU-T T.81 / ISO/IEC 10918-1. Di audio, MP3 (MPEG-1 Layer III) dan AAC (MPEG-2/4) menggunakan model persepsi dan transformasi MDCT (lihat ISO/IEC 11172-3, ISO/IEC 13818-7, dan ringkasan MDCT di sini). Lossy dan lossless dapat berdampingan (mis. PNG untuk aset UI; codec web untuk gambar/video/audio).
Teori Shannon 1948 · Rate–distortion · Pengodean Huffman 1952 · Pengodean aritmetika · Range coding · ANS. Format DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · Format XZ. Tumpukan BWT Burrows–Wheeler (1994) · manual bzip2. Media JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Intinya: pilih kompresor yang cocok dengan data dan batasan Anda, ukur pada input nyata, dan jangan lupakan keuntungan dari kamus dan framing yang cerdas. Dengan pasangan yang tepat Anda mendapat file lebih kecil, transfer lebih cepat, dan aplikasi lebih responsif tanpa mengorbankan kebenaran atau portabilitas.
Kompresi file adalah proses yang mengurangi ukuran file atau beberapa file, biasanya untuk menyimpan ruang penyimpanan atau mempercepat transmisi melalui jaringan.
Kompresi file berfungsi dengan mengidentifikasi dan menghilangkan redundansi dalam data. Ia menggunakan algoritma untuk mengkodekan data asli dalam ruang yang lebih kecil.
Dua jenis utama kompresi file adalah kompresi tanpa kehilangan (lossless) dan kompresi dengan kehilangan (lossy). Kompresi lossless memungkinkan file asli untuk dipulihkan dengan sempurna, sedangkan kompresi lossy memungkinkan pengurangan ukuran yang lebih signifikan dengan biaya beberapa kehilangan kualitas data.
Contoh populer dari alat kompresi file adalah WinZip, yang mendukung beberapa format kompresi termasuk ZIP dan RAR.
Dengan kompresi tanpa kehilangan, kualitas tetap tidak berubah. Namun, dengan kompresi dengan kehilangan, dapat terjadi penurunan kualitas yang cukup terlihat karena menghilangkan data yang kurang penting untuk mengurangi ukuran file lebih signifikan.
Ya, kompresi file aman dari segi integritas data, terutama dengan kompresi tanpa kehilangan. Namun, seperti file lainnya, file yang dikompresi bisa menjadi target malware atau virus, jadi selalu penting untuk memiliki perangkat lunak keamanan yang terpercaya.
Hampir semua jenis file dapat dikompresi, termasuk file teks, gambar, audio, video, dan file perangkat lunak. Namun, level kompresi yang dapat dicapai bisa sangat bervariasi di antara jenis file.
File ZIP adalah jenis format file yang menggunakan kompresi tanpa kehilangan untuk mengurangi ukuran satu atau lebih file. Beberapa file dalam sebuah file ZIP efektif digabungkan menjadi satu file, yang juga memudahkan berbagi.
Secara teknis, ya, meskipun pengurangan ukuran tambahan mungkin minimal atau bahkan kontraproduktif. Melakukan kompresi pada file yang sudah dikompresi terkadang bisa meningkatkan ukurannya karena metadata yang ditambahkan oleh algoritma kompresi.
Untuk melakukan dekompresi file, biasanya Anda memerlukan alat dekompresi atau unzipping, seperti WinZip atau 7-Zip. Alat-alat ini dapat mengekstrak file asli dari format yang dikompresi.