USTAR (Unix Standard Tape Archive), Unix ve Unix benzeri işletim sistemlerinde dosyaları arşivlemek ve dağıtmak için kullanılan bir dosya biçimidir. Farklı Unix sistemleri arasında kolayca değiştirilebilen teyp arşivleri oluşturmak için standartlaştırılmış bir yöntem olarak 1980'lerde tanıtıldı. O zamandan beri USTAR biçimi, çeşitli platformlarda yazılım, veri ve diğer dosyaları paketlemek ve dağıtmak için yaygın olarak kullanılan bir standart haline geldi.
USTAR biçimi, manyetik bantlarda arşiv dosyaları oluşturmak için kullanılan daha önceki TAR (Tape Archive) biçiminin bir uzantısıdır. TAR biçimi, birden fazla dosyanın tek bir arşiv dosyasında birleştirilmesine izin vererek, büyük dosya koleksiyonlarını depolamayı ve aktarmayı kolaylaştırdı. Ancak orijinal TAR biçiminin, maksimum 99 karakterlik dosya adı uzunluğu ve maksimum 8 GB dosya boyutu gibi sınırlamaları vardı.
Bu sınırlamaları gidermek için USTAR biçimi, orijinal TAR biçimine göre bir geliştirme olarak geliştirildi. USTAR biçimi, daha uzun dosya adları (255 karaktere kadar), daha büyük dosya boyutları (8 EB veya 8 ekzabayta kadar) ve dosya özniteliklerini ve izinlerini depolamak için ek meta veri alanları desteği dahil olmak üzere çeşitli geliştirmeler getirdi.
Bir USTAR arşiv dosyası, arşivde depolanan bir dosya veya dizini temsil eden bir dizi dosya kaydından oluşur. Her dosya kaydı bir başlıktan ve gerçek dosya verilerinden oluşur. Başlık, dosyanın adı, boyutu, sahipliği, izinleri ve değişiklik zamanı gibi meta verileri içerir. Dosya verileri başlığı takip eder ve bitişik bir bayt bloğu olarak saklanır.
USTAR başlığı sabit bir 512 bayt boyutuna sahiptir ve birkaç alana bölünmüştür. Başlıktaki önemli alanlardan bazıları şunlardır:
1. Dosya adı: Dosya veya dizinin adını içeren, 255 karaktere kadar uzunluğunda, null ile sonlandırılmış bir dize.
2. Dosya modu: Dosyanın izinlerini ve mod bitlerini temsil eden 12 karakterli bir sekizlik sayı.
3. Sahip ve grup kimlikleri: Dosya ile ilişkili sayısal kullanıcı ve grup kimlikleri.
4. Dosya boyutu: Dosyanın boyutunu bayt cinsinden temsil eden 12 karakterli bir sekizlik sayı.
5. Değişiklik zamanı: Dosyanın son değişiklik zamanını 1 Ocak 1970'ten bu yana geçen saniye sayısı olarak temsil eden 12 karakterli bir sekizlik sayı.
6. Başlık toplam kontrolü: Hata tespiti için kullanılan 8 karakterli bir sekizlik sayı.
USTAR biçimi ayrıca sembolik bağlantılar, sabit bağlantılar ve aygıt dosyaları gibi özel dosya türleri için de destek içerir. Bu özel dosyalar, belirli başlık alanları kullanılarak temsil edilir ve çıkarma sırasında farklı şekilde işlenir.
Bir USTAR arşivi oluştururken, arşivleme yardımcı programı (örneğin `tar` komutu) belirtilen dosyaları ve dizinleri okur, her dosya için uygun başlıkları oluşturur ve başlıkları ve dosya verilerini tek bir arşiv dosyasında birleştirir. Sonuçtaki arşiv dosyası, boyutunu küçültmek için gzip veya bzip2 gibi çeşitli sıkıştırma algoritmaları kullanılarak sıkıştırılabilir.
Bir USTAR arşivinden dosya çıkarmak için, çıkarma yardımcı programı arşiv dosyasını sıralı olarak okur ve her dosya hakkında bilgi edinmek için başlıkları ayrıştırır. Ardından, başlıklarda depolanan meta verilere dayanarak gerekli dosyaları ve dizinleri oluşturur ve dosya verilerini uygun konumlara yazar.
USTAR biçimi yaygın olarak benimsenmiştir ve farklı işletim sistemlerinde çeşitli arşivleme ve sıkıştırma araçları tarafından desteklenmektedir. Dosyaları paketlemek ve dağıtmak için standartlaştırılmış ve taşınabilir bir yol sağlar, uyumluluk ve kullanım kolaylığı sağlar.
Ancak, USTAR biçiminin bazı sınırlamaları olduğunu belirtmekte fayda var. Örneğin, 255 karakterden uzun dosya adlarını veya 8 EB'den büyük dosya boyutlarını desteklemez. Ayrıca, güvenli dosya aktarımı ve depolama için gerekli olabilecek yerleşik şifreleme veya bütünlük doğrulama özellikleri yoktur.
Bu sınırlamalara rağmen, USTAR biçimi, basitliği, yaygın desteği ve Unix ve Unix benzeri işletim sistemlerinin geniş bir yelpazesiyle uyumluluğu nedeniyle dosyaları arşivlemek ve dağıtmak için popüler bir seçim olmaya devam etmektedir.
Özetle, USTAR arşiv biçimi, Unix ve Unix benzeri sistemlerde dosyaları paketlemek ve dağıtmak için standartlaştırılmış bir yol sağlayan TAR biçiminin bir uzantısıdır. Orijinal TAR biçimine kıyasla daha uzun dosya adlarını, daha büyük dosya boyutlarını ve ek meta verileri destekler. USTAR arşivleri, her biri dosya meta verilerini ve gerçek dosya verilerini içeren bir başlık içeren bir dizi dosya kaydından oluşur. Biçim, arşivleme ve sıkıştırma araçları tarafından yaygın olarak desteklenir ve genellikle yazılım dağıtımı ve veri alışverişi için kullanılır.
Dosya sıkıştırma, aynı bilgiyi daha az bit ile temsil etmek için fazlalıkları azaltır. Ne kadar küçülebileceğinizi belirleyen üst sınır bilgi teorisidir: kayıpsız sıkıştırmada limit kaynağın entropisidir (bkz. Shannon'ın kaynak kodlama teoremi source coding theorem ve 1948 tarihli “A Mathematical Theory of Communication”). Kayıplı sıkıştırmada bit hızı ile kalite arasındaki dengeyi rate–distortion teorisiaçıklar.
Çoğu sıkıştırıcı iki aşamalıdır. Önce bir model verideki yapıyı tahmin eder veya ortaya çıkarır. Ardından bir coder bu tahminleri neredeyse optimal bit kalıplarına çevirir. Klasik aile Lempel–Ziv'dir LZ77 (1977) ve LZ78 (1978) tekrarlanan alt dizileri bulup ham bayt yerine referans yazar. Kodlama tarafında Huffman kodlama (bkz.1952 makalesi) olasılığı yüksek sembollere daha kısa kodlar verir. Aritmetik kodlama ve range coding entropi sınırına daha da yaklaşır; modern Asymmetric Numeral Systems (ANS) ise tablo tabanlı uygulamalarla benzer oranlar elde eder.
DEFLATE (gzip, zlib, ZIP) LZ77 ile Huffman'ı birleştirir. Spesifikasyonlar açık: DEFLATE RFC 1951, zlib sarmalayıcısı RFC 1950ve gzip formatı RFC 1952. Gzip akış için tasarlandı ve rastgele erişim vaat etmez. PNG, tek sıkıştırma yöntemi olarak DEFLATE'i (32 KiB pencere) standartlaştırır; bkz.“Compression method 0…” ve W3C/ISO PNG 2nd Edition.
Zstandard (zstd): yüksek oranlar ve çok hızlı açma için tasarlanan yeni nesil genel kompresör. Format RFC 8878 (ayrıca HTML yansısı) ve referans dokümanı GitHub'daaçıklanmıştır. Gzip gibi temel çerçeve rastgele erişim hedeflemez. Zstd'nin süper gücü sözlüklerdir: korpusunuzdan küçük örnekler birçok küçük/benzer dosyayı ciddi biçimde küçültür (bkz.python-zstandard sözlük dokümanları ve Nigel Tao örneği). Uygulamalar “unstructured” ve “structured” sözlükleri destekler (tartışma).
Brotli: web içeriği (örn. WOFF2 fontlar, HTTP) için optimize edildi. Statik sözlük ile DEFLATE benzeri LZ+entropi çekirdeğini birleştirir. Spesifikasyon RFC 7932, ayrıca WBITS [10, 24] (1 KiB−16 B ile 16 MiB−16 B) aralığında 2WBITS−16 kayar pencere ve rastgele erişim sağlamadığınıbelirtir. Brotli çoğu web metninde gzip'i geçer ve hızlı çözülür.
ZIP konteyneri: ZIP, farklı sıkıştırma yöntemleri (deflate, store, zstd vb.) taşıyabilen bir arşivdir. De facto standart PKWARE APPNOTE'tur (bkz.APPNOTE portalı, barındırılan kopyave LC özetleri ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 mütevazı oranlarla ham hız hedefler. Proje sayfasına (“extremely fast compression”) ve frame formatınabakın. RAM hızına yakın dekompresyon gerektiren bellek içi cache'ler, telemetri veya sıcak yollar için ideal.
XZ / LZMA yüksek yoğunluk (yüksek oran) için daha yavaş sıkıştırmayı göze alır. XZ bir konteynerdir; asıl işi genelde LZMA/LZMA2 (LZ77 benzeri modelleme + range coding) yapar. .xz formatı, LZMA spesifikasyonu (Pavlov)ve Linux kernel notları XZ Embeddedile XZ genelde gzip'ten daha iyi sıkıştırır ve modern yüksek oranlı codec'lerle rekabet eder, fakat kodlama süresi uzundur.
bzip2, Burrows–Wheeler dönüşümünü (BWT), move-to-front'u, RLE'yi ve Huffman'ı kullanır. Genellikle gzip'ten küçük ama daha yavaştır; resmi kılavuza ve man sayfasınabakın.
“Pencere boyutu” önemlidir. DEFLATE referansları yalnızca 32 KiB geriye bakabilir (RFC 1951) ve PNG'nin 32 KiB sınırı burada belirtilir. Brotli yaklaşık 1 KiB ile 16 MiB arası pencereleri destekler (RFC 7932). Zstd pencereyi ve arama derinliğini seviyeler ile ayarlar (RFC 8878). gzip/zstd/brotli'nin temel akışları ardışık çözümeye göre tasarlanır; formatların kendileri rastgele erişim garantilemez, ancak konteynerler (tar indeksleri, parça bazlı çerçeveler, format spesifik indeksler) ekleyebilir.
Yukarıdaki formatlar kayıpsızdır: aynı baytları geri alırsınız. Medya codec'leri genellikle kayıplıdır: daha düşük bit hızları için algılanmayan detayları atarlar. Görsellerde klasik JPEG (DCT, kantizasyon, entropi kodlama) ITU-T T.81 / ISO/IEC 10918-1içinde standarttır. Seste MP3 (MPEG-1 Layer III) ve AAC (MPEG-2/4) algısal modeller ve MDCT dönüşümleri kullanır (bkz.ISO/IEC 11172-3, ISO/IEC 13818-7ve MDCT özeti burada). Kayıplı ve kayıpsız yöntemler birlikte kullanılabilir (ör. UI için PNG; web codec'leri görsel/video/ses için).
Teori Shannon 1948 · Rate–distortion · Kodlama Huffman 1952 · Aritmetik kodlama · Range coding · ANS. Formatlar DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · XZ format. BWT zinciri Burrows–Wheeler (1994) · bzip2 kılavuzu. Medya JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Özetle: verilerinize ve kısıtlarınıza uyan bir sıkıştırıcı seçin, gerçek girdiler üzerinde ölçün ve sözlükler ile akıllı çer çevelemenin kazançlarını unutmayın. Doğru eşleşme ile daha küçük dosyalar, daha hızlı transferler ve daha çevik uygulamalar elde eder, doğruluk veya taşınabilirlikten ödün vermezsiniz.
Dosya sıkıştırması, dosyanın boyutunu azaltma işlemidir, genellikle depolama alanını tasarruf etmek veya bir ağ üzerindeki iletimi hızlandırmak için kullanılır.
Dosya sıkıştırması, verilerdeki gereksiz bilgileri belirleyip çıkararak çalışır. İlk verileri daha küçük bir alanda kodlamak için algoritmalar kullanır.
Dosya sıkıştırmanın iki ana türü lossless (kayıpsız) ve lossy (kayıplı) sıkıştırmadır. Kayıpsız sıkıştırma, orijinal dosyanın mükemmel bir şekilde geri yüklenmesini sağlarken, kayıplı sıkıştırma, veri kalitesindeki bazı kayıpların maliyetine daha büyük ölçüde boyut küçültmeyi sağlar.
Popüler bir dosya sıkıştırma aracı örneği, ZIP ve RAR dahil olmak üzere birden fazla sıkıştırma formatını destekleyen WinZip'tir.
Kayıpsız sıkıştırma ile kalite değişmez. Ancak, kayıplı sıkıştırmada, dosya boyutunu daha da küçültmek için az önemli veriler çıkarıldığından kalitede belirgin bir azalma olabilir.
Evet, veri bütünlüğü açısından dosya sıkıştırması güvenlidir, özellikle kayıpsız sıkıştırmayla. Ancak, başka herhangi bir dosyada olduğu gibi, sıkıştırılmış dosyalar da zararlı yazılım veya virüsler tarafından hedef alınabilir, bu yüzden her zaman güvenilir bir güvenlik yazılımı bulundurmak önemlidir.
Neredeyse tüm dosya türleri sıkıştırılabilir, bu türler arasında metin dosyaları, resimler, ses, video ve yazılım dosyaları bulunur. Ancak, elde edilebilecek sıkıştırma seviyesi, dosya türlerine göre önemli ölçüde değişebilir.
ZIP dosyası, bir veya daha fazla dosyanın boyutunu azaltmak için kayıpsız sıkıştırmayı kullanan bir dosya formatı türüdür. ZIP dosyasındaki birden fazla dosya, tek bir dosyada etkili bir şekilde bir araya getirilir, bu da paylaşmayı kolaylaştırır.
Teknik olarak, evet, ancak ek boyut azaltma minimum veya hatta zararlı olabilir. Zaten sıkıştırılmış bir dosyayı sıkıştırmak, bazen sıkıştırma algoritması tarafından eklenen metadatanın neden olduğu boyut artışına neden olabilir.
Bir dosyayı açmak için genellikle bir açma veya açma aracına ihtiyacınız vardır, örneğin WinZip veya 7-Zip. Bu araçlar, sıkıştırılmış formatından orijinal dosyaları çıkarabilir.