PAX (Paketlenmiş Arşiv Formatı), dosya ve dizinleri arşivlemek ve sıkıştırmak için kullanılan bir dosya biçimidir. Başlangıçta Google tarafından geli ştirilmiş olup ZIP ve tar formatlarından alınan tekniklerin birleşimine dayanmaktadır. PAX, verimli sıkıştırma, dosyalara hızlı rastgele erişim ve özel meta veriler için genişletilebilirlik sağlamayı amaçlamaktadır.
Temel olarak bir PAX arşivi, arşivlenmiş dosyalar hakkında meta veriler içeren merkezi bir dizinden ve ardından sıkıştırılmış dosya verilerinden oluşur. Merkezi dizin, tüm dosyayı taramaya gerek kalmadan hızlı erişim için her zaman arşivin sonunda bulunur.
Merkezi dizindeki her dosya girişi, dosya yolu, boyutu, zaman damgası, CRC32 toplam kontrolü ve kullanılan sıkıştırma yöntemi gibi bilgiler içerir. Dosya yolu, ASCII olmayan dosya adlarını desteklemeye olanak tanıyan bir Unicode dizesi olarak saklanır. PAX, dosya yolları için UTF-8 kodlamasını kullanır.
Sıkıştırma için PAX, DEFLATE, Brotli ve Zstandard (zstd) dahil olmak üzere birden çok algoritmayı destekler. DEFLATE, ZIP ve gzip'de kullanılan algoritmayla aynı olan varsayılan yöntemdir. Sıkıştırma oranı ve hız arasında iyi bir denge sağlar. Brotli ve Zstandard, özellikle metin dosyaları gibi belirli veri türleri için daha iyi sıkıştırma oranları sunabilen, ancak daha yavaş sıkıştırma ve açma hızları pahasına daha yeni algoritmalardır.
PAX'taki sıkıştırılmış dosya verileri, her biri maksimum 1 MB sıkıştırılmamış boyuta sahip parçalar halinde saklanır. Bu parçalı depolama, belirli bir dosyayı çıkarmak için tüm arşivi işlemek yerine yalnızca gerekli parçaların bulunması ve sıkıştırılmasının açılması gerektiğinden dosyalara verimli rastgele erişim sağlar.
PAX'ın temel özelliklerinden biri, sağlam sıkıştırma desteğidir. Sağlam sıkıştırma ile arşiv, ayrı dosyalar koleksiyonu yerine tek bir sürekli veri akışı olarak ele alınır. Bu, sıkıştırıcının dosya sınırları boyunca yedeklilik ve kalıplar bulmasına olanak tanır ve potansiyel olarak daha yüksek sıkıştırma oranlarına neden olur. Ancak sağlam sıkıştırma, istenen dosyaya kadar tüm arşivin sıkıştırılması gerekebileceğinden tek tek dosyalara hızlı erişim yeteneğini etkileyebilir.
PAX ayrıca veri bozulmasını tespit etmek için bütünlük kontrolleri içerir. Merkezi dizindeki her dosya girişi, sıkıştırılmamış dosya verilerinin bir CRC32 toplam kontrolünü içerir. Dosyalar çıkarılırken PAX, sıkıştırılmış verilerin toplam kontrolünü hesaplar ve bütünlüğü doğrulamak için saklanan toplam kontrolle karşılaştırır. Ek olarak, PAX arşivleri kimlik doğrulama ve kurcalama tespiti sağlamak için isteğe bağlı bir dijital imza içerebilir.
Performansı artırmak için PAX, çok iş parçacıklı sıkıştırma ve açmayı destekler. Dosyalar paralel olarak sıkıştırılabilir ve arşive yazılabilir ve birden çok CPU çekirdeği kullanılabilir. Benzer şekilde, çıkarma sırasında birden çok dosya eşzamanlı olarak sıkıştırılabilir. Bu paralel işleme, çok çekirdekli sistemlerde arşivleme ve çıkarma işlemlerini önemli ölçüde hızlandırabilir.
PAX arşivleri, standart dosya özniteliklerinin ötesinde ek meta veriler de depolayabilir. Özel meta veriler, anahtar-değer çiftleri kullanılarak dosya ve dizinlere atanabilir. Bu meta veriler, dosya girişlerinin yanında merkezi dizinde saklanır. Özel meta verilere örnek olarak yazar bilgileri, dosya kategorileri veya uygulamaya özel veriler verilebilir.
Akış desteği, PAX'ın bir başka özelliğidir. Arşivler, tüm arşivin belleğe yüklenmesini gerektirmeden akış şeklinde oluşturulabilir ve çıkarılabilir. Bu, özellikle büyük arşivlerle uğraşırken veya sınırlı bellek kaynaklarıyla çalışırken faydalıdır. Akış, arşivlerin anında oluşturulmasına veya veriler bir ağ bağlantısı üzerinden alınırken işlenmesine olanak tanır.
Geriye dönük uyumluluk ve birlikte çalışabilirlik için PAX arşivleri bir yedek ZIP arşivi içerebilir. ZIP arşivi, PAX arşivinin sonuna eklenir ve aynı dosyaları geleneksel ZIP formatında içerir. Bu, PAX'ı desteklemeyen eski araçların arşivin ZIP bölümünden dosyaları yine de çıkarmasına olanak tanır.
PAX, verimliliği, esnekliği ve açık kaynaklı uygulaması sayesinde popülerlik kazanmıştır. Farklı platformlarda çeşitli arşivleme araçları ve kitaplıkları tarafından desteklenmektedir. libpax adlı referans uygulaması C ile yazılmıştır ve PAX arşivleri oluşturmak ve çıkarmak için düşük seviyeli bir API sağlar.
PAX'ın sınırlamalarından biri, yerel olarak şifrelemeyi desteklememesidir. Ancak şifreleme, PAX'ı diğer şifreleme teknikleriyle birleştirerek veya PAX formatına dayanan üçüncü taraf araçları kullanarak elde edilebilir.
Özetle, PAX (Paketlenmiş Arşiv Formatı), hızlı rastgele erişim, sağlam sıkıştırma, paralel işleme, özel meta veriler ve akış desteği gibi özellikler sunan çok yönlü ve verimli bir dosya arşivleme formatıdır. Sıkıştırma algoritmalarının, parçalı depolamanın ve genişletilebilirliğin birleşimi, onu dosyaları arşivlemek ve dağıtmak için çekici bir seçenek haline getirir.
Dosya sıkıştırma, aynı bilgiyi daha az bit ile temsil etmek için fazlalıkları azaltır. Ne kadar küçülebileceğinizi belirleyen üst sınır bilgi teorisidir: kayıpsız sıkıştırmada limit kaynağın entropisidir (bkz. Shannon'ın kaynak kodlama teoremi source coding theorem ve 1948 tarihli “A Mathematical Theory of Communication”). Kayıplı sıkıştırmada bit hızı ile kalite arasındaki dengeyi rate–distortion teorisiaçıklar.
Çoğu sıkıştırıcı iki aşamalıdır. Önce bir model verideki yapıyı tahmin eder veya ortaya çıkarır. Ardından bir coder bu tahminleri neredeyse optimal bit kalıplarına çevirir. Klasik aile Lempel–Ziv'dir LZ77 (1977) ve LZ78 (1978) tekrarlanan alt dizileri bulup ham bayt yerine referans yazar. Kodlama tarafında Huffman kodlama (bkz.1952 makalesi) olasılığı yüksek sembollere daha kısa kodlar verir. Aritmetik kodlama ve range coding entropi sınırına daha da yaklaşır; modern Asymmetric Numeral Systems (ANS) ise tablo tabanlı uygulamalarla benzer oranlar elde eder.
DEFLATE (gzip, zlib, ZIP) LZ77 ile Huffman'ı birleştirir. Spesifikasyonlar açık: DEFLATE RFC 1951, zlib sarmalayıcısı RFC 1950ve gzip formatı RFC 1952. Gzip akış için tasarlandı ve rastgele erişim vaat etmez. PNG, tek sıkıştırma yöntemi olarak DEFLATE'i (32 KiB pencere) standartlaştırır; bkz.“Compression method 0…” ve W3C/ISO PNG 2nd Edition.
Zstandard (zstd): yüksek oranlar ve çok hızlı açma için tasarlanan yeni nesil genel kompresör. Format RFC 8878 (ayrıca HTML yansısı) ve referans dokümanı GitHub'daaçıklanmıştır. Gzip gibi temel çerçeve rastgele erişim hedeflemez. Zstd'nin süper gücü sözlüklerdir: korpusunuzdan küçük örnekler birçok küçük/benzer dosyayı ciddi biçimde küçültür (bkz.python-zstandard sözlük dokümanları ve Nigel Tao örneği). Uygulamalar “unstructured” ve “structured” sözlükleri destekler (tartışma).
Brotli: web içeriği (örn. WOFF2 fontlar, HTTP) için optimize edildi. Statik sözlük ile DEFLATE benzeri LZ+entropi çekirdeğini birleştirir. Spesifikasyon RFC 7932, ayrıca WBITS [10, 24] (1 KiB−16 B ile 16 MiB−16 B) aralığında 2WBITS−16 kayar pencere ve rastgele erişim sağlamadığınıbelirtir. Brotli çoğu web metninde gzip'i geçer ve hızlı çözülür.
ZIP konteyneri: ZIP, farklı sıkıştırma yöntemleri (deflate, store, zstd vb.) taşıyabilen bir arşivdir. De facto standart PKWARE APPNOTE'tur (bkz.APPNOTE portalı, barındırılan kopyave LC özetleri ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 mütevazı oranlarla ham hız hedefler. Proje sayfasına (“extremely fast compression”) ve frame formatınabakın. RAM hızına yakın dekompresyon gerektiren bellek içi cache'ler, telemetri veya sıcak yollar için ideal.
XZ / LZMA yüksek yoğunluk (yüksek oran) için daha yavaş sıkıştırmayı göze alır. XZ bir konteynerdir; asıl işi genelde LZMA/LZMA2 (LZ77 benzeri modelleme + range coding) yapar. .xz formatı, LZMA spesifikasyonu (Pavlov)ve Linux kernel notları XZ Embeddedile XZ genelde gzip'ten daha iyi sıkıştırır ve modern yüksek oranlı codec'lerle rekabet eder, fakat kodlama süresi uzundur.
bzip2, Burrows–Wheeler dönüşümünü (BWT), move-to-front'u, RLE'yi ve Huffman'ı kullanır. Genellikle gzip'ten küçük ama daha yavaştır; resmi kılavuza ve man sayfasınabakın.
“Pencere boyutu” önemlidir. DEFLATE referansları yalnızca 32 KiB geriye bakabilir (RFC 1951) ve PNG'nin 32 KiB sınırı burada belirtilir. Brotli yaklaşık 1 KiB ile 16 MiB arası pencereleri destekler (RFC 7932). Zstd pencereyi ve arama derinliğini seviyeler ile ayarlar (RFC 8878). gzip/zstd/brotli'nin temel akışları ardışık çözümeye göre tasarlanır; formatların kendileri rastgele erişim garantilemez, ancak konteynerler (tar indeksleri, parça bazlı çerçeveler, format spesifik indeksler) ekleyebilir.
Yukarıdaki formatlar kayıpsızdır: aynı baytları geri alırsınız. Medya codec'leri genellikle kayıplıdır: daha düşük bit hızları için algılanmayan detayları atarlar. Görsellerde klasik JPEG (DCT, kantizasyon, entropi kodlama) ITU-T T.81 / ISO/IEC 10918-1içinde standarttır. Seste MP3 (MPEG-1 Layer III) ve AAC (MPEG-2/4) algısal modeller ve MDCT dönüşümleri kullanır (bkz.ISO/IEC 11172-3, ISO/IEC 13818-7ve MDCT özeti burada). Kayıplı ve kayıpsız yöntemler birlikte kullanılabilir (ör. UI için PNG; web codec'leri görsel/video/ses için).
Teori Shannon 1948 · Rate–distortion · Kodlama Huffman 1952 · Aritmetik kodlama · Range coding · ANS. Formatlar DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · XZ format. BWT zinciri Burrows–Wheeler (1994) · bzip2 kılavuzu. Medya JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Özetle: verilerinize ve kısıtlarınıza uyan bir sıkıştırıcı seçin, gerçek girdiler üzerinde ölçün ve sözlükler ile akıllı çerçevelemenin kazançlarını unutmayın. Doğru eşleşme ile daha küçük dosyalar, daha hızlı transferler ve daha çevik uygulamalar elde eder, doğruluk veya taşınabilirlikten ödün vermezsiniz.
Dosya sıkıştırması, dosyanın boyutunu azaltma işlemidir, genellikle depolama alanını tasarruf etmek veya bir ağ üzerindeki iletimi hızlandırmak için kullanılır.
Dosya sıkıştırması, verilerdeki gereksiz bilgileri belirleyip çıkararak çalışır. İlk verileri daha küçük bir alanda kodlamak için algoritmalar kullanır.
Dosya sıkıştırmanın iki ana türü lossless (kayıpsız) ve lossy (kayıplı) sıkıştırmadır. Kayıpsız sıkıştırma, orijinal dosyanın mükemmel bir şekilde geri yüklenmesini sağlarken, kayıplı sıkıştırma, veri kalitesindeki bazı kayıpların maliyetine daha büyük ölçüde boyut küçültmeyi sağlar.
Pop üler bir dosya sıkıştırma aracı örneği, ZIP ve RAR dahil olmak üzere birden fazla sıkıştırma formatını destekleyen WinZip'tir.
Kayıpsız sıkıştırma ile kalite değişmez. Ancak, kayıplı sıkıştırmada, dosya boyutunu daha da küçültmek için az önemli veriler çıkarıldığından kalitede belirgin bir azalma olabilir.
Evet, veri bütünlüğü açısından dosya sıkıştırması güvenlidir, özellikle kayıpsız sıkıştırmayla. Ancak, başka herhangi bir dosyada olduğu gibi, sıkıştırılmış dosyalar da zararlı yazılım veya virüsler tarafından hedef alınabilir, bu yüzden her zaman güvenilir bir güvenlik yazılımı bulundurmak önemlidir.
Neredeyse tüm dosya türleri sıkıştırılabilir, bu türler arasında metin dosyaları, resimler, ses, video ve yazılım dosyaları bulunur. Ancak, elde edilebilecek sıkıştırma seviyesi, dosya türlerine göre önemli ölçüde değişebilir.
ZIP dosyası, bir veya daha fazla dosyanın boyutunu azaltmak için kayıpsız sıkıştırmayı kullanan bir dosya formatı türüdür. ZIP dosyasındaki birden fazla dosya, tek bir dosyada etkili bir şekilde bir araya getirilir, bu da paylaşmayı kolaylaştırır.
Teknik olarak, evet, ancak ek boyut azaltma minimum veya hatta zararlı olabilir. Zaten sıkıştırılmış bir dosyayı sıkıştırmak, bazen sıkıştırma algoritması tarafından eklenen metadatanın neden olduğu boyut artışına neden olabilir.
Bir dosyayı açmak için genellikle bir açma veya açma aracına ihtiyacınız vardır, örneğin WinZip veya 7-Zip. Bu araçlar, sıkıştırılmış formatından orijinal dosyaları çıkarabilir.