PAX (Pre-Allocate eXtension) to otwartoźródłowy format skompresowanego archiwum opracowany przez Microsoft jako nowoczesna alternatywa dla istniejących formatów, takich jak ZIP, RAR i tar. Został zaprojektowany w celu rozwiązania ograniczeń i poprawy kompresji, wydajności, bezpieczeństwa i funkcjonalności obsługi archiwów w nowoczesnych systemach i urządzeniach.
Kluczowe cechy różniące format PAX obejmują ulepszoną kompresję przy użyciu nowoczesnych algorytmów, wydajny dostęp losowy do plików w archiwach, natywną obsługę wielowątkowości, rozszerzalne metadane, wbudowane szyfrowanie i sprawdzanie integralności oraz udokumentowaną otwartą specyfikację w celu zachęcenia do szerokiego przyjęcia i interoperacyjności.
Archiwa PAX używają rozszerzenia pliku .pax i mają wieloczęściową strukturę wewnętrzną składającą się z nagłówka, katalogu centralnego, skompresowanych bloków danych i stopki. Pozwala to na przechowywanie kluczowych informacji, takich jak zawartość archiwum, parametry kompresji i hasze integralności, oddzielnie od rzeczywistych skompresowanych danych pliku.
Nagłówek PAX zaczyna się od 4-bajtowego magicznego numeru (50 41 58 00 w szesnastkowym) w celu identyfikacji. Następnie zawiera pola dla wersji PAX, metody kompresji, metody szyfrowania, metody haszowania, rozmiaru bloku, liczby równoległych wątków kompresji i różnych flag. Nagłówek kończy się rozszerzalnymi metadanymi XML zawierającymi szczegóły dotyczące archiwum.
Po nagłówku znajduje się katalog centralny PAX. Zawiera on wpis dla każdego skompresowanego pliku/folderu w archiwum, przechowując pełną ścieżkę, atrybuty, rozmiary, przesunięcia bloków i hasze. Umieszczenie tego w jednym miejscu umożliwia wydajne wyświetlanie zawartości archiwum i losowy dostęp do poszczególnych plików bez skanowania skompresowanych danych.
Główna część archiwum PAX to seria skompresowanych bloków danych. Każdy blok ma mały nagłówek wskazujący nieskompresowany i skompresowany rozmiar, a następnie fragment danych pliku skompresowany za pomocą skonfigurowanego algorytmu. Domyślny rozmiar bloków to 1 MB, ale można go dostroić w nagłówku archiwum.
Skompresowane bloki danych są opcjonalnie szyfrowane, jeśli określono metodę szyfrowania. PAX obsługuje nowoczesne schematy szyfrowania, takie jak AES-256. Hasło archiwum jest używane do wygenerowania klucza, który szyfruje każdy blok niezależnie, umożliwiając wydajny dostęp losowy. W celu uwierzytelnienia PAX haszuje hasła za pomocą bezpiecznego KDF.
W celu kompresji PAX obsługuje różnorodne nowoczesne kodeki ogólnego przeznaczenia zoptymalizowane pod kątem szybkiej dekompresji: LZMA, LZ4, Brotli, Zstandard itp. Umożliwia również stosowanie preprocesorów w celu dalszej redukcji rozmiaru określonych typów plików (np. kodowanie Delta w plikach EXE/DLL, kodowanie E8E9 w kodzie x86). Kodeki i preprocesory są stosowane w potoku.
Aby umożliwić wydajną kompresję wielowątkową, pliki są dzielone na niezależnie skompresowane bloki, które mogą być przetwarzane przez równoległe wystąpienia kodeka. Kompresor PAX skaluje się automatycznie, aby wykorzystać wszystkie dostępne rdzenie procesora. Podobne partycjonowanie umożliwia równoległą dekompresję w celu szybszego wyodrębniania.
PAX zapewnia integralność danych i wykrywanie manipulacji poprzez przechowywanie haszy oryginalnych i skompresowanych danych. Archiwa zawierają hasz nagłówka w celu wykrycia obcięcia. Katalog centralny jest również haszowany, aby zapobiec manipulacji metadanymi pliku. Gnicie bitów w skompresowanych danych jest wykrywane przez haszowanie każdego bloku.
Na końcu archiwum PAX znajduje się stopka. Zawiera ona kopię pól nagłówka, przesunięcie/rozmiar katalogu centralnego i hasz całego archiwum. Stopka ma stały rozmiar i zawsze znajduje się na końcu pliku, co umożliwia łatwą lokalizację i weryfikację archiwów PAX.
Archiwa PAX można wydajnie aktualizować, modyfikując katalog centralny i dołączając zmienione bloki danych, zamiast przepisywać całe archiwa, jak w przypadku ZIP. Całe pliki można wstawiać, usuwać lub zastępować, aktualizując metadane i dodając/usuwając odpowiednie bloki. Archiwa można również szybko dołączać.
Aby złagodzić luki w zabezpieczeniach zip-slip, PAX wymaga jawnych ścieżek (bez przechodzenia ../) i zapobiega zapisywaniu poza katalogiem głównym ekstrakcji. Długie pola metadanych ZIP, które umożliwiały odmowę usługi, są ograniczone. Bomby kompresyjne są łagodzone poprzez limity współczynnika kompresji i użycia pamięci.
Znaczniki czasu plików w archiwach PAX używają standardowego 64-bitowego formatu obejmującego szeroki zakres dat z dokładnością do 1 sekundy. Obsługiwane są atrybuty uprawnień POSIX i list ACL systemu Windows. PAX może przechowywać alternatywne strumienie danych NTFS i rozwidlenia zasobów. Można również reprezentować dowiązania symboliczne i dowiązania twarde.
Otwartoźródłowy zestaw SDK PAX zapewnia proste interfejsy API do tworzenia, wyodrębniania, aktualizowania i weryfikowania archiwów PAX programowo. Obsługuje wszystkie szczegóły niskiego poziomu formatu PAX. Zestaw SDK jest dostępny w wielu językach, w tym C, C++, C#, Java, Python, JavaScript, Go i Rust.
Podsumowując, format archiwum PAX opiera się na fundamencie sprawdzonych formatów, takich jak ZIP, jednocześnie wprowadzając nowoczesne funkcje i optymalizacje - wydajną kompresję, wielowątkowość, dostęp losowy, bezpieczeństwo i otwartą specyfikację. Dzięki temu PAX jest idealny do szerokiego zakresu scenariuszy archiwizacji w dzisiejszych systemach.
Kompresja plików redukuje redundancję, dzięki czemu te same informacje wymagają mniej bitów. Górna granica jest wyznaczana przez teorię informacji: dla kompresji bezstratnej limitem jest entropia źródła (zobacz teoremę kodowania źródła Shannona source coding theorem oraz jego oryginalny artykuł z 1948 roku „A Mathematical Theory of Communication”). W kompresji stratnej kompromis między przepływnością a jakością opisuje teoria rate–distortion.
Większość kompresorów działa w dwóch etapach. Najpierw model przewiduje lub ujawnia strukturę danych. Następnie koder zamienia te przewidywania w niemal optymalne wzorce bitowe. Klasyczną rodziną modeli jest Lempel–Ziv LZ77 (1977) i LZ78 (1978) wykrywają powtarzające się podciągi i zamiast surowych bajtów emitują odwołania. Po stronie kodowania kodowanie Huffmana (zob. artykuł z 1952 r.) przypisuje krótsze kody symbolom bardziej prawdopodobnym. Kodowanie arytmetyczne i range coding są jeszcze precyzyjniejsze i zbliżają się do granicy entropii, a nowoczesne Asymmetric Numeral Systems (ANS) osiągają podobne wyniki dzięki szybkim implementacjom tablicowym.
DEFLATE (wykorzystywane przez gzip, zlib i ZIP) łączy LZ77 z kodowaniem Huffmana. Specyfikacje są publiczne: DEFLATE RFC 1951, wrapper zlib RFC 1950i format gzip RFC 1952. Gzip jest przeznaczony do strumieniowania i wprost nie oferuje dostępu losowego. Obrazy PNG standaryzują DEFLATE jako jedyną metodę kompresji (maks. okno 32 KiB) zgodnie ze specyfikacją „Compression method 0… deflate/inflate… at most 32768 bytes” oraz W3C/ISO PNG 2nd Edition.
Zstandard (zstd): nowszy uniwersalny kompresor zaprojektowany dla wysokich współczynników i bardzo szybkiej dekompresji. Format opisano w RFC 8878 (oraz lustrze HTML) i w specyfikacji referencyjnej na GitHubie. Podobnie jak gzip, podstawowa ramka nie celuje w dostęp losowy. Jednym z supermocy zstd są słowniki: niewielkie próbki z korpusu, które dramatycznie poprawiają kompresję wielu małych lub podobnych plików (zob.dokumentację słowników python-zstandard i przykład Nigela Tao). Implementacje akceptują zarówno słowniki „unstructured”, jak i „structured” (dyskusja).
Brotli: zoptymalizowane pod kątem treści webowych (np. fonty WOFF2, HTTP). Łączy statyczny słownik z jądrem LZ+entropia podobnym do DEFLATE. Specyfikacja to RFC 7932, które opisuje też okno 2WBITS−16 z WBITS w [10, 24] (1 KiB−16 B do 16 MiB−16 B) i stwierdza, że nie zapewnia dostępu losowego. Brotli często pokonuje gzip na tekstach webowych, jednocześnie szybko dekodując.
Kontener ZIP: ZIP to archiwum plików, które może przechowywać wpisy z różnymi metodami kompresji (deflate, store, zstd itd.). De facto standardem jest APPNOTE PKWARE (zob.portal APPNOTE, hostowaną kopięoraz omówienia LC ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 celuje w surową szybkość przy umiarkowanych współczynnikach. Zobacz stronę projektu („extremely fast compression”) oraz opis formatu ramek. Idealne do cache w pamięci, telemetrii lub wrażliwych ścieżek, gdzie dekompresja musi być prawie tak szybka jak RAM.
XZ / LZMA goni za wysoką gęstością (świetnymi współczynnikami) kosztem wolniejszej kompresji. XZ to kontener; ciężar pracy wykonują zwykle LZMA/LZMA2 (modelowanie podobne do LZ77 + range coding). Zobacz format .xz, specyfikację LZMA (Pavlov)oraz notatki jądra Linux o XZ Embedded. XZ zwykle kompresuje lepiej niż gzip i często konkuruje z nowoczesnymi kodekami wysokiego współczynnika, ale wymaga dłuższego kodowania.
bzip2 stosuje Transformację Burrowsa–Wheelera (BWT), move-to-front, RLE i kodowanie Huffmana. Zwykle daje mniejsze pliki niż gzip, ale działa wolniej; zobacz oficjalny podręcznik oraz stronę man (Linux).
Liczy się „rozmiar okna”. Odwołania w DEFLATE mogą sięgać tylko 32 KiB wstecz (RFC 1951) oraz limitu PNG 32 KiB opisanego tutaj. Brotli ma okno od ~1 KiB do 16 MiB (RFC 7932). Zstd dostraja okno i głębokość wyszukiwania poziomami (RFC 8878). Podstawowe strumienie gzip/zstd/brotli są projektowane do sekwencyjnego dekodowania; same formaty nie gwarantują dostępu losowego, choć kontenery (np. indeksy tar, ramek chunked lub indeksy specyficzne dla formatu) mogą go dodać.
Powyższe formaty są bezstratne: odtwarzają dokładnie te same bajty. Kodeki multimedialne często są stratne: odrzucają niewidoczne szczegóły, by osiągnąć niższe bitrate’y. W obrazach klasyczny JPEG (DCT, kwantyzacja, kodowanie entropijne) jest standaryzowany w ITU-T T.81 / ISO/IEC 10918-1. W audio MP3 (MPEG-1 Layer III) i AAC (MPEG-2/4) używają modeli percepcyjnych i transformacji MDCT (zob.ISO/IEC 11172-3, ISO/IEC 13818-7i przegląd MDCT tutaj). Metody stratne i bezstratne mogą współistnieć (np. PNG do UI, kodeki webowe dla obrazów/wideo/audio).
Teoria Shannon 1948 · Rate–distortion · Kodowanie Huffman 1952 · Kodowanie arytmetyczne · Range coding · ANS. Format DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · Format XZ. Stos BWT Burrows–Wheeler (1994) · podręcznik bzip2. Media JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Podsumowanie: wybierz kompresor dopasowany do danych i ograniczeń, mierz na prawdziwych próbkach i nie zapominaj o zyskach ze słowników oraz sprytnego ramek. Z odpowiednią parą uzyskasz mniejsze pliki, szybsze transfery i żwawsze aplikacje bez poświęcania poprawności czy przenośności.
Kompresja plików to proces, który zmniejsza rozmiar pliku lub plików, zazwyczaj w celu oszczędności miejsca na dysku lub przyspieszenia transmisji przez sieć.
Kompresja plików działa poprzez identyfikowanie i usuwanie nadmiarowej informacji w danych. Wykorzystuje algorytmy do kodowania oryginalnych danych w mniejszej przestrzeni.
Dwa główne typy kompresji plików to kompresja bezstratna i stratna. Kompresja bezstratna pozwala na idealne przywrócenie oryginalnego pliku, podczas gdy kompresja stratna umożliwia znaczniejsze zmniejszenie rozmiaru kosztem pewnej utraty jakości danych.
Popularnym przykładem narzędzia do kompresji plików jest WinZip, który obsługuje wiele formatów kompresji, w tym ZIP i RAR.
W przypadku kompresji bezstratnej, jakość pozostaje niezmieniona. Jednak przy kompresji stratnej może dojść do zauważalnego spadku jakości, ponieważ eliminuje ona mniej ważne dane, aby bardziej znacząco zmniejszyć rozmiar pliku.
Tak, kompresja plików jest bezpieczna pod względem integralności danych, zwłaszcza przy kompresji bezstratnej. Jednak, jak wszystkie pliki, skompresowane pliki mogą być celem dla złośliwego oprogramowania lub wirusów, dlatego zawsze ważne jest, aby mieć zainstalowane wiarygodne oprogramowanie zabezpieczające.
Prawie wszystkie typy plików można skompresować, w tym pliki tekstowe, obrazy, audio, wideo i pliki oprogramowania. Jednak poziom możliwej do osiągnięcia kompresji może znacznie różnić się w zależności od typu pliku.
Plik ZIP to typ formatu pliku, który wykorzystuje kompresję bezstratną do zmniejszenia rozmiaru jednego lub więcej plików. Wiele plików w pliku ZIP jest efektywnie grupowanych razem w jeden plik, co ułatwia również udostępnianie.
Technicznie tak, chociaż dodatkowe zmniejszenie rozmiaru może być minimalne lub nawet niekorzystne. Kompresowanie już skompresowanego pliku czasami może zwiększyć jego rozmiar z powodu metadanych dodawanych przez algorytm kompresji.
Aby rozpakować plik, zazwyczaj potrzebujesz narzędzia do dekompresji lub rozpakowywania, takiego jak WinZip czy 7-Zip. Te narzędzia mogą wyodrębnić oryginalne pliki z formatu skompresowanego.