ZSTD, Zstandard'ın kısaltması, Facebook'ta Yann Collet tarafından geliştirilen hızlı ve verimli bir kayıpsız sıkıştırma algoritması ve dosya biçimidir. Hızlı sıkıştırma ve açma hızlarını korurken yüksek sıkıştırma oranları sağlamak üzere tasarlanmıştır, bu da onu gerçek zamanlı sıkıştırma senaryoları ve büyük veri kümelerinin sıkıştırılması için uygun hale getirir.
ZSTD biçimi, hızlı bir entropi aşaması ve güçlü bir kayıpsız sıkıştırma aşamasının birleşimine dayanır. Entropi aşaması Sonlu Durum Entropisi (FSE) ve Huffman kodlaması kullanırken, kayıpsız sıkıştırma aşaması Zstandard Sözlük Sıkıştırması (ZDIC) adı verilen LZ77 algoritmasının bir varyantını kullanır.
ZSTD'nin temel özelliklerinden biri, sıkıştırma sırasında bir sözlük oluşturma ve kullanma yeteneğidir. Sözlük, hem sıkıştırıcının hem de açıcının sıkıştırma oranlarını iyileştirmek için kullandığı önceden paylaşılan bir veri kümesidir. ZSTD iki tür sözlüğü destekler: içerik tanımlı sözlükler ve kullanıcı tarafından sağlanan sözlükler.
İçerik tanımlı sözlükler, ZSTD sıkıştırıcısı tarafından giriş verilerine göre otomatik olarak oluşturulur. Sıkıştırıcı, yinelenen kalıpları tanımlamak için verileri analiz eder ve bu kalıpları temsil eden bir sözlük oluşturur. Sözlük daha sonra sıkıştırma sırasında yinelenen kalıpları sözlüğe referanslarla değiştirmek için kullanılır ve bu da daha yüksek sıkıştırma oranlarıyla sonuçlanır.
Öte yandan, kullanıcı tarafından sağlanan sözlükler kullanıcı tarafından oluşturulur ve birden fazla sıkıştırılmış dosya arasında paylaşılabilir. Bu sözlükler, benzer veya ilgili verileri sıkıştırırken yararlıdır, çünkü sıkıştırıcının verilerin önceden var olan bilgisinden yararlanmasına olanak tanır. Kullanıcı tarafından sağlanan sözlükler, özellikle küçük dosyalar veya ortak veri yapılarına sahip dosyalar için sıkıştırma oranlarını önemli ölçüde artırabilir.
ZSTD, 1'den 22'ye kadar değişen birden fazla sıkıştırma seviyesini destekler; daha yüksek seviyeler, daha yavaş sıkıştırma hızı pahasına daha iyi sıkıştırma oranları sunar. Varsayılan sıkıştırma seviyesi, sıkıştırma oranı ve hız arasında iyi bir denge sağlayan 3'tür. ZSTD ayrıca en yüksek sıkıştırma oranını ancak sıkıştırma süresinde önemli bir artışla sunan "ultra" adlı özel bir sıkıştırma seviyesi içerir.
ZSTD biçimi, bir veya daha fazla sıkıştırılmış çerçeveden sonra gelen bir başlıktan oluşur. Başlık, sözlük kimliği, pencere boyutu ve çerçeve sayısı gibi sıkıştırılmış veriler hakkında meta veriler içerir. Her sıkıştırılmış çerçeve bağımsızdır ve ayrı ayrı açılabilir, bu da paralel açma ve sıkıştırılmış verilere rastgele erişim sağlar.
ZSTD'deki sıkıştırılmış çerçeveler, gerçek bloklar ve sıra bloklarının bir kombinasyonunu kullanır. Gerçek bloklar ham, sıkıştırılmamış veriler içerirken, sıra bloklar sözlüğe veya daha önce görülen verilere referanslar içerir. Sıra blokları, referansların boyutunu en aza indirmek için FSE veya Huffman kodlaması kullanılarak kodlanır.
ZSTD, sıkıştırma verimliliğini ve hızını artırmak için çeşitli teknikler kullanır. Bu tür bir teknik, sözlükte veya daha önce görülen verilerde eşleşen dizileri hızlı bir şekilde bulmak için bir karma tablosunun kullanılmasıdır. Karma tablosu, sıkıştırıcı giriş verilerini işledikçe sürekli olarak güncellenir ve potansiyel eşleşmelerin verimli bir şekilde aranmasına olanak tanır.
ZSTD tarafından kullanılan bir diğer optimizasyon tekniği de tembel eşleştirme stratejisidir. Sıkıştırıcı, bir eşleşmeyi hemen kodlamak yerine daha uzun eşleşmeler aramaya devam eder. Daha uzun bir eşleşme bulunursa, sıkıştırıcı bunun yerine daha uzun eşleşmeyi kodlamayı seçebilir ve bu da daha iyi sıkıştırma oranlarıyla sonuçlanır.
ZSTD ayrıca uzun mesafeli eşleşmelerin tespit edilmesine olanak tanıyan "uzun mesafe eşleşmesi" (LDM) adlı hızlı bir mod içerir. LDM, giriş verilerinde birbirinden uzak olan eşleşmeleri depolamak için ikincil bir karma tablo kullanır. Bu uzun mesafeli eşleşmeleri dikkate alarak ZSTD, son derece tekrarlı veya periyodik veriler gibi belirli veri türleri için sıkıştırma oranlarını iyileştirebilir.
Sıkıştırma yeteneklerine ek olarak ZSTD, sağlama toplamlarının kullanımıyla hata tespiti ve düzeltmesi de sağlar. Her sıkıştırılmış çerçeve, sıkıştırılmamış verilerin bir sağlama toplamını içerir ve bu da açıcının açma sırasında verilerin bütünlüğünü doğrulamasına olanak tanır. Bir hata tespit edilirse, ZSTD bozuk çerçeveyi atarak ve bir sonraki çerçeveyle devam ederek hatadan kurtulmaya çalışabilir.
ZSTD, etkileyici performansı ve esnekliği sayesinde geniş çapta benimsenmiştir. Veri depolama sistemleri, veritabanı motorları, yedekleme çözümleri ve veri aktarım protokolleri dahil olmak üzere çeşitli uygulamalarda kullanılır. Zstandard Arşivi (ZSTD), Zstandard Aranabilir Biçim (ZST) ve Zstandard Sözlük Biçimi (ZDICT) gibi birçok popüler dosya biçimi ZSTD sıkıştırmasına dayanır.
ZSTD'nin avantajlarından biri, çok çeşitli platformlar ve programlama dilleriyle uyumluluğudur. ZSTD'nin referans uygulaması C ile yazılmıştır ve son derece taşınabilirdir, bu da çeşitli işletim sistemleri ve mimarilerde kullanılmasına olanak tanır. Ek olarak, ZSTD için farklı programlama dilleri için çok sayıda bağlama ve bağlantı noktası mevcuttur ve bu da ZSTD sıkıştırmasını mevcut uygulamalara entegre etmeyi kolaylaştırır.
ZSTD ayrıca, kullanıcıların ZSTD kullanarak dosyaları sıkıştırmasına ve açmasına olanak tanıyan bir komut satırı arayüzü (CLI) aracı sağlar. CLI aracı, sıkıştırma seviyesini ayarlama, sözlüğü belirtme ve bellek kullanımını ayarlama gibi çeşitli seçenekleri ve parametreleri destekler. CLI aracı, özellikle toplu veya komut dosyası ortamlarında dosyaları sıkıştırmak ve açmak için kullanışlıdır.
Özetle, ZSTD, hızlı sıkıştırma ve açma hızları, yüksek sıkıştırma oranları ve performansı artırmak için sözlükleri kullanma yeteneği sunan son derece verimli ve çok yönlü bir sıkıştırma algoritması ve dosya biçimidir. Hız ve sıkıştırma verimliliği kombinasyonu, onu gerçek zamanlı sıkıştırmadan büyük veri kümelerinin sıkıştırılmasına kadar çok çeşitli uygulamalar için uygun hale getirir. Geniş özellik seti, platform uyumluluğu ve artan benimsenmesiyle ZSTD, çeşitli alanlarda veri sıkıştırma için popüler bir seçim haline geldi.
Dosya sıkıştırma, aynı bilgiyi daha az bit ile temsil etmek için fazlalıkları azaltır. Ne kadar küçülebileceğinizi belirleyen üst sınır bilgi teorisidir: kayıpsız sıkıştırmada limit kaynağın entropisidir (bkz. Shannon'ın kaynak kodlama teoremi source coding theorem ve 1948 tarihli “A Mathematical Theory of Communication”). Kayıplı sıkıştırmada bit hızı ile kalite arasındaki dengeyi rate–distortion teorisiaçıklar.
Çoğu sıkıştırıcı iki aşamalıdır. Önce bir model verideki yapıyı tahmin eder veya ortaya çıkarır. Ardından bir coder bu tahminleri neredeyse optimal bit kalıplarına çevirir. Klasik aile Lempel–Ziv'dir LZ77 (1977) ve LZ78 (1978) tekrarlanan alt dizileri bulup ham bayt yerine referans yazar. Kodlama tarafında Huffman kodlama (bkz.1952 makalesi) olasılığı yüksek sembollere daha kısa kodlar verir. Aritmetik kodlama ve range coding entropi sınırına daha da yaklaşır; modern Asymmetric Numeral Systems (ANS) ise tablo tabanlı uygulamalarla benzer oranlar elde eder.
DEFLATE (gzip, zlib, ZIP) LZ77 ile Huffman'ı birleştirir. Spesifikasyonlar açık: DEFLATE RFC 1951, zlib sarmalayıcısı RFC 1950ve gzip formatı RFC 1952. Gzip akış için tasarlandı ve rastgele erişim vaat etmez. PNG, tek sıkıştırma yöntemi olarak DEFLATE'i (32 KiB pencere) standartlaştırır; bkz.“Compression method 0…” ve W3C/ISO PNG 2nd Edition.
Zstandard (zstd): yüksek oranlar ve çok hızlı açma için tasarlanan yeni nesil genel kompresör. Format RFC 8878 (ayrıca HTML yansısı) ve referans dokümanı GitHub'daaçıklanmıştır. Gzip gibi temel çerçeve rastgele erişim hedeflemez. Zstd'nin süper gücü sözlüklerdir: korpusunuzdan küçük örnekler birçok küçük/benzer dosyayı ciddi biçimde küçültür (bkz.python-zstandard sözlük dokümanları ve Nigel Tao örneği). Uygulamalar “unstructured” ve “structured” sözlükleri destekler (tartışma).
Brotli: web içeriği (örn. WOFF2 fontlar, HTTP) için optimize edildi. Statik sözlük ile DEFLATE benzeri LZ+entropi çekirdeğini birleştirir. Spesifikasyon RFC 7932, ayrıca WBITS [10, 24] (1 KiB−16 B ile 16 MiB−16 B) aralığında 2WBITS−16 kayar pencere ve rastgele erişim sağlamadığınıbelirtir. Brotli çoğu web metninde gzip'i geçer ve hızlı çözülür.
ZIP konteyneri: ZIP, farklı sıkıştırma yöntemleri (deflate, store, zstd vb.) taşıyabilen bir arşivdir. De facto standart PKWARE APPNOTE'tur (bkz.APPNOTE portalı, barındırılan kopyave LC özetleri ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 mütevazı oranlarla ham hız hedefler. Proje sayfasına (“extremely fast compression”) ve frame formatınabakın. RAM hızına yakın dekompresyon gerektiren bellek içi cache'ler, telemetri veya sıcak yollar için ideal.
XZ / LZMA yüksek yoğunluk (yüksek oran) için daha yavaş sıkıştırmayı göze alır. XZ bir konteynerdir; asıl işi genelde LZMA/LZMA2 (LZ77 benzeri modelleme + range coding) yapar. .xz formatı, LZMA spesifikasyonu (Pavlov)ve Linux kernel notları XZ Embeddedile XZ genelde gzip'ten daha iyi sıkıştırır ve modern yüksek oranlı codec'lerle rekabet eder, fakat kodlama süresi uzundur.
bzip2, Burrows–Wheeler dönüşümünü (BWT), move-to-front'u, RLE'yi ve Huffman'ı kullanır. Genellikle gzip'ten küçük ama daha yavaştır; resmi kılavuza ve man sayfasınabakın.
“Pencere boyutu” önemlidir. DEFLATE referansları yalnızca 32 KiB geriye bakabilir (RFC 1951) ve PNG'nin 32 KiB sınırı burada belirtilir. Brotli yaklaşık 1 KiB ile 16 MiB arası pencereleri destekler (RFC 7932). Zstd pencereyi ve arama derinliğini seviyeler ile ayarlar (RFC 8878). gzip/zstd/brotli'nin temel akışları ardışık çözümeye göre tasarlanır; formatların kendileri rastgele erişim garantilemez, ancak konteynerler (tar indeksleri, parça bazlı çerçeveler, format spesifik indeksler) ekleyebilir.
Yukarıdaki formatlar kayıpsızdır: aynı baytları geri alırsınız. Medya codec'leri genellikle kayıplıdır: daha düşük bit hızları için algılanmayan detayları atarlar. Görsellerde klasik JPEG (DCT, kantizasyon, entropi kodlama) ITU-T T.81 / ISO/IEC 10918-1içinde standarttır. Seste MP3 (MPEG-1 Layer III) ve AAC (MPEG-2/4) algısal modeller ve MDCT dönüşümleri kullanır (bkz.ISO/IEC 11172-3, ISO/IEC 13818-7ve MDCT özeti burada). Kayıplı ve kayıpsız yöntemler birlikte kullanılabilir (ör. UI için PNG; web codec'leri görsel/video/ses için).
Teori Shannon 1948 · Rate–distortion · Kodlama Huffman 1952 · Aritmetik kodlama · Range coding · ANS. Formatlar DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · XZ format. BWT zinciri Burrows–Wheeler (1994) · bzip2 kılavuzu. Medya JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Özetle: verilerinize ve kısıtlarınıza uyan bir sıkıştırıcı seçin, gerçek girdiler üzerinde ölçün ve sözlükler ile akıllı çerçevelemenin kazançlarını unutmayın. Doğru eşleşme ile daha küçük dosyalar, daha hızlı transferler ve daha çevik uygulamalar elde eder, doğruluk veya taşınabilirlikten ödün vermezsiniz.
Dosya sıkıştırması, dosyanın boyutunu azaltma işlemidir, genellikle depolama alanını tasarruf etmek veya bir ağ üzerindeki iletimi hızlandırmak için kullanılır.
Dosya sıkıştırması, verilerdeki gereksiz bilgileri belirleyip çıkararak çalışır. İlk verileri daha küçük bir alanda kodlamak için algoritmalar kullanır.
Dosya sıkıştırmanın iki ana türü lossless (kayıpsız) ve lossy (kayıplı) sıkıştırmadır. Kayıpsız sıkıştırma, orijinal dosyanın mükemmel bir şekilde geri yüklenmesini sağlarken, kayıplı sıkıştırma, veri kalitesindeki bazı kayıpların maliyetine daha büyük ölçüde boyut küçültmeyi sağlar.
Popüler bir dosya sıkıştırma aracı örneği, ZIP ve RAR dahil olmak üzere birden fazla sıkıştırma formatını destekleyen WinZip'tir.
Kayıpsız sıkıştırma ile kalite değişmez. Ancak, kayıplı sıkıştırmada, dosya boyutunu daha da küçültmek için az önemli veriler çıkarıldığından kalitede belirgin bir azalma olabilir.
Evet, veri bütünlüğü açısından dosya sıkıştırması güvenlidir, özellikle kayıpsız sıkıştırmayla. Ancak, başka herhangi bir dosyada olduğu gibi, sıkıştırılmış dosyalar da zararlı yazılım veya virüsler tarafından hedef alınabilir, bu yüzden her zaman güvenilir bir güvenlik yazılımı bulundurmak önemlidir.
Neredeyse tüm dosya türleri sıkıştırılabilir, bu türler arasında metin dosyaları, resimler, ses, video ve yazılım dosyaları bulunur. Ancak, elde edilebilecek sıkıştırma seviyesi, dosya türlerine göre önemli ölçüde değişebilir.
ZIP dosyası, bir veya daha fazla dosyanın boyutunu azaltmak için kayıpsız sıkıştırmayı kullanan bir dosya formatı türüdür. ZIP dosyasındaki birden fazla dosya, tek bir dosyada etkili bir şekilde bir araya getirilir, bu da paylaşmayı kolaylaştırır.
Teknik olarak, evet, ancak ek boyut azaltma minimum veya hatta zararlı olabilir. Zaten sıkıştırılmış bir dosyayı sıkıştırmak, bazen sıkıştırma algoritması tarafından eklenen metadatanın neden olduğu boyut artışına neden olabilir.
Bir dosyayı açmak için genellikle bir açma veya açma aracına ihtiyacınız vardır, örneğin WinZip veya 7-Zip. Bu araçlar, sıkıştırılmış formatından orijinal dosyaları çıkarabilir.