NEWC, dosya ve dizin koleksiyonlarını verimli bir şekilde depolamak ve sıkıştırmak için tasarlanmış bir dosya arşivi biçimidir. 1993 yılında Eugene Roshal tarafından ZIP ve ARJ gibi mevcut arşiv biçimlerine göre bir geliştirme olarak geliştirilmiştir. Biçim, daha iyi sıkıştırma oranları, daha hızlı açma hızları ve veri kurtarma ve arşiv yönetimi için gelişmiş özellikler sağlamayı amaçlamaktadır.
Temel olarak NEWC biçimi, bir dizi dosya başlığı ve sıkıştırılmış dosya verisiyle takip edilen bir ana başlıktan oluşur. Ana başlık, NEWC imzası, sürüm numarası, toplam boyut ve dosya sayısı gibi arşiv hakkında meta veriler içerir. Her dosya başlığı, dosya adı, öznitelikler, zaman damgası, CRC32 toplam kontrolü, sıkıştırılmış ve sıkıştırılmamış boyutlar gibi bilgiler içerir.
NEWC, dosyaların bir araya getirildiği ve tek bir sürekli veri akışı olarak sıkıştırıldığı sağlam bir arşiv yapısı kullanır. Bu yaklaşım, birden fazla dosya arasında yedekliliklerden yararlanarak daha iyi sıkıştırma oranlarına olanak tanır. Ancak bu aynı zamanda tek bir dosyanın çıkarılmasının, o noktaya kadar tüm arşivi açmayı gerektirmesi anlamına gelir ve bu da ZIP gibi sağlam olmayan biçimlerden çıkarmaktan daha yavaş olabilir.
NEWC'de kullanılan sıkıştırma algoritması, Eugene Roshal'ın kendi uygulamasına dayanmaktadır ve Lempel-Ziv-Storer-Szymanski (LZSS) sıkıştırmasını Kısmi Eşleştirmeyle Tahmin (PPM) kullanarak istatistiksel modellemeyle birleştirir. LZSS, tekrarlanan dizileri daha önceki oluşumlarına referanslarla değiştiren sözlük tabanlı bir algoritmadır. PPM, yaklaşan semboller hakkında olasılıklı tahminler yapmak için giriş verilerinin bir modelini oluşturur ve bu da daha verimli entropi kodlamasına olanak tanır.
NEWC'nin temel özelliklerinden biri kurtarma kayıtlarına verdiği destektir. Bunlar, arşiv yapısı ve içeriği hakkında bilgi depolayan sıkıştırılmış verilerle iç içe geçmiş özel girişlerdir. Dosya bozulması durumunda, kurtarma kayıtları arşivin hasarlı bölümlerini yeniden oluşturmak ve sağlam dosyaları kurtarmak için kullanılabilir. Biçim ayrıca, veri kaybına karşı dayanıklılığı artırmak için ana başlık ve dosya başlıkları için yedeklilik içerir.
NEWC, arşivleri birden fazla birime bölmek için çeşitli yöntemler sağlar. Bu, büyük arşivleri birden fazla diskte depolamak veya boyut sınırlamaları olan ağlar üzerinden aktarmak için kullanışlıdır. Biçim, belirli bir boyutta birimler oluşturmayı ve ayrıca dosya listesini birim işaretleyicileri olarak kullanmayı destekler. Ayrıca çoklu birim arşivlerin bütünlük kontrolü ve kurtarma mekanizmaları da içerir.
Arşiv yönetimi açısından NEWC bir dizi özellik sunar. Mevcut bir arşiv içinde dosya eklemeyi, silmeyi ve güncellemeyi destekler. Dosya yorumları, ek meta verileri depolamak için tek tek girişlerle ilişkilendirilebilir. Biçim ayrıca CBC modunda AES algoritmasını kullanarak arşivlerin şifrelenmesine ve parola korumasına olanak tanır.
NEWC, yüksek sıkıştırma oranları ve hızlı açma hızları nedeniyle popülerlik kazanmıştır. Yazılım, ürün yazılımı güncellemeleri ve veri yedeklemeleri dağıtmak için yaygın olarak kullanılmaktadır. Biçim, WinRAR, 7-Zip ve PowerArchiver dahil olmak üzere çeşitli uygulamalar ve yardımcı programlar tarafından benimsenmiştir.
NEWC birçok avantaj sunarken, bazı sınırlamaları da vardır. Sağlam arşiv yapısı, sağlam olmayan biçimlere kıyasla rastgele erişimi ve kısmi çıkarmayı yavaşlatabilir. Tek bir sıkıştırma algoritmasına güvenmek, her tür veri için her zaman en iyi sonuçları vermeyebilir. Ayrıca, biçimin karmaşıklığı ve tescilli yapısı, bazı bağlamlarda benimsenmesini engellemiştir.
Bu zorluklara rağmen NEWC, önemli ve yaygın olarak kullanılan bir arşiv biçimi olmaya devam etmektedir. Verimliliği, sağlamlığı ve özellik seti, onu veri sıkıştırma ve arşivleme için değerli bir araç haline getirmektedir. Veri depolama ve aktarım ihtiyaçları artmaya devam ettikçe, NEWC biçimi dijital bilgilerin yönetilmesi ve korunmasında önemli bir rol oynamaya iyi bir konumdadır.
Dosya sıkıştırma, aynı bilgiyi daha az bit ile temsil etmek için fazlalıkları azaltır. Ne kadar küçülebileceğinizi belirleyen üst sınır bilgi teorisidir: kayıpsız sıkıştırmada limit kaynağın entropisidir (bkz. Shannon'ın kaynak kodlama teoremi source coding theorem ve 1948 tarihli “A Mathematical Theory of Communication”). Kayıplı sıkıştırmada bit hızı ile kalite arasındaki dengeyi rate–distortion teorisiaçıklar.
Çoğu sıkıştırıcı iki aşamalıdır. Önce bir model verideki yapıyı tahmin eder veya ortaya çıkarır. Ardından bir coder bu tahminleri neredeyse optimal bit kalıplarına çevirir. Klasik aile Lempel–Ziv'dir LZ77 (1977) ve LZ78 (1978) tekrarlanan alt dizileri bulup ham bayt yerine referans yazar. Kodlama tarafında Huffman kodlama (bkz.1952 makalesi) olasılığı yüksek sembollere daha kısa kodlar verir. Aritmetik kodlama ve range coding entropi sınırına daha da yaklaşır; modern Asymmetric Numeral Systems (ANS) ise tablo tabanlı uygulamalarla benzer oranlar elde eder.
DEFLATE (gzip, zlib, ZIP) LZ77 ile Huffman'ı birleştirir. Spesifikasyonlar açık: DEFLATE RFC 1951, zlib sarmalayıcısı RFC 1950ve gzip formatı RFC 1952. Gzip akış için tasarlandı ve rastgele erişim vaat etmez. PNG, tek sıkıştırma yöntemi olarak DEFLATE'i (32 KiB pencere) standartlaştırır; bkz.“Compression method 0…” ve W3C/ISO PNG 2nd Edition.
Zstandard (zstd): yüksek oranlar ve çok hızlı açma için tasarlanan yeni nesil genel kompresör. Format RFC 8878 (ayrıca HTML yansısı) ve referans dokümanı GitHub'daaçıklanmıştır. Gzip gibi temel çerçeve rastgele erişim hedeflemez. Zstd'nin süper gücü sözlüklerdir: korpusunuzdan küçük örnekler birçok küçük/benzer dosyayı ciddi biçimde küçültür (bkz.python-zstandard sözlük dokümanları ve Nigel Tao örneği). Uygulamalar “unstructured” ve “structured” sözlükleri destekler (tartışma).
Brotli: web içeriği (örn. WOFF2 fontlar, HTTP) için optimize edildi. Statik sözlük ile DEFLATE benzeri LZ+entropi çekirdeğini birleştirir. Spesifikasyon RFC 7932, ayrıca WBITS [10, 24] (1 KiB−16 B ile 16 MiB−16 B) aralığında 2WBITS−16 kayar pencere ve rastgele erişim sağlamadığınıbelirtir. Brotli çoğu web metninde gzip'i geçer ve hızlı çözülür.
ZIP konteyneri: ZIP, farklı sıkıştırma yöntemleri (deflate, store, zstd vb.) taşıyabilen bir arşivdir. De facto standart PKWARE APPNOTE'tur (bkz.APPNOTE portalı, barındırılan kopyave LC özetleri ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 mütevazı oranlarla ham hız hedefler. Proje sayfasına (“extremely fast compression”) ve frame formatınabakın. RAM hızına yakın dekompresyon gerektiren bellek içi cache'ler, telemetri veya sıcak yollar için ideal.
XZ / LZMA yüksek yoğunluk (yüksek oran) için daha yavaş sıkıştırmayı göze alır. XZ bir konteynerdir; asıl işi genelde LZMA/LZMA2 (LZ77 benzeri modelleme + range coding) yapar. .xz formatı, LZMA spesifikasyonu (Pavlov)ve Linux kernel notları XZ Embeddedile XZ genelde gzip'ten daha iyi sıkıştırır ve modern yüksek oranlı codec'lerle rekabet eder, fakat kodlama süresi uzundur.
bzip2, Burrows–Wheeler dönüşümünü (BWT), move-to-front'u, RLE'yi ve Huffman'ı kullanır. Genellikle gzip'ten küçük ama daha yavaştır; resmi kılavuza ve man sayfasınabakın.
“Pencere boyutu” önemlidir. DEFLATE referansları yalnızca 32 KiB geriye bakabilir (RFC 1951) ve PNG'nin 32 KiB sınırı burada belirtilir. Brotli yaklaşık 1 KiB ile 16 MiB arası pencereleri destekler (RFC 7932). Zstd pencereyi ve arama derinliğini seviyeler ile ayarlar (RFC 8878). gzip/zstd/brotli'nin temel akışları ardışık çözümeye göre tasarlanır; formatların kendileri rastgele erişim garantilemez, ancak konteynerler (tar indeksleri, parça bazlı çerçeveler, format spesifik indeksler) ekleyebilir.
Yukarıdaki formatlar kayıpsızdır: aynı baytları geri alırsınız. Medya codec'leri genellikle kayıplıdır: daha düşük bit hızları için algılanmayan detayları atarlar. Görsellerde klasik JPEG (DCT, kantizasyon, entropi kodlama) ITU-T T.81 / ISO/IEC 10918-1içinde standarttır. Seste MP3 (MPEG-1 Layer III) ve AAC (MPEG-2/4) algısal modeller ve MDCT dönüşümleri kullanır (bkz.ISO/IEC 11172-3, ISO/IEC 13818-7ve MDCT özeti burada). Kayıplı ve kayıpsız yöntemler birlikte kullanılabilir (ör. UI için PNG; web codec'leri görsel/video/ses için).
Teori Shannon 1948 · Rate–distortion · Kodlama Huffman 1952 · Aritmetik kodlama · Range coding · ANS. Formatlar DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · XZ format. BWT zinciri Burrows–Wheeler (1994) · bzip2 kılavuzu. Medya JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Özetle: verilerinize ve kısıtlarınıza uyan bir sıkıştırıcı seçin, gerçek girdiler üzerinde ölçün ve sözlükler ile akıllı çerçevelemenin kazançlarını unutmayın. Doğru eşleşme ile daha küçük dosyalar, daha hızlı transferler ve daha çevik uygulamalar elde eder, doğruluk veya taşınabilirlikten ödün vermezsiniz.
Dosya sıkıştırması, dosyanın boyutunu azaltma işlemidir, genellikle depolama alanını tasarruf etmek veya bir ağ üzerindeki iletimi hızlandırmak için kullanılır.
Dosya sıkıştırması, verilerdeki gereksiz bilgileri belirleyip çıkararak çalışır. İlk verileri daha küçük bir alanda kodlamak için algoritmalar kullanır.
Dosya sıkıştırmanın iki ana türü lossless (kayıpsız) ve lossy (kayıplı) sıkıştırmadır. Kayıpsız sıkıştırma, orijinal dosyanın mükemmel bir şekilde geri yüklenmesini sağlarken, kayıplı sıkıştırma, veri kalitesindeki bazı kayıpların maliyetine daha büyük ölçüde boyut küçültmeyi sağlar.
Popüler bir dosya sıkıştırma aracı örneği, ZIP ve RAR dahil olmak üzere birden fazla sıkıştırma formatını destekleyen WinZip'tir.
Kayıpsız sıkıştırma ile kalite değişmez. Ancak, kayıplı sıkıştırmada, dosya boyutunu daha da küçültmek için az önemli veriler çıkarıldığından kalitede belirgin bir azalma olabilir.
Evet, veri bütünlüğü açısından dosya sıkıştırması güvenlidir, özellikle kayıpsız sıkıştırmayla. Ancak, başka herhangi bir dosyada olduğu gibi, sıkıştırılmış dosyalar da zararlı yazılım veya virüsler tarafından hedef alınabilir, bu yüzden her zaman güvenilir bir güvenlik yazılımı bulundurmak önemlidir.
Neredeyse tüm dosya türleri sıkıştırılabilir, bu türler arasında metin dosyaları, resimler, ses, video ve yazılım dosyaları bulunur. Ancak, elde edilebilecek sıkıştırma seviyesi, dosya türlerine göre önemli ölçüde değişebilir.
ZIP dosyası, bir veya daha fazla dosyanın boyutunu azaltmak için kayıpsız sıkıştırmayı kullanan bir dosya formatı türüdür. ZIP dosyasındaki birden fazla dosya, tek bir dosyada etkili bir şekilde bir araya getirilir, bu da paylaşmayı kolaylaştırır.
Teknik olarak, evet, ancak ek boyut azaltma minimum veya hatta zararlı olabilir. Zaten sıkıştırılmış bir dosyayı sıkıştırmak, bazen sıkıştırma algoritması tarafından eklenen metadatanın neden olduğu boyut artışına neden olabilir.
Bir dosyayı açmak için genellikle bir açma veya açma aracına ihtiyacınız vardır, örneğin WinZip veya 7-Zip. Bu araçlar, sıkıştırılmış formatından orijinal dosyaları çıkarabilir.