Format archiwum ar SVR4 to format pliku używany do przechowywania kolekcji plików w jednym pliku archiwum. Został wprowadzony jako część systemu operacyjnego UNIX System V Release 4 (SVR4) pod koniec lat 80. Format ar jest nadal szeroko stosowany w wielu systemach UNIX i Linux do pakowania bibliotek oprogramowania, plików obiektów i innych kolekcji powiązanych plików.
Archiwum ar składa się z nagłówka globalnego, po którym następuje seria elementów archiwum. Każdy element archiwum reprezentuje jeden plik przechowywany w archiwum. Nagłówek globalny to prosta struktura 8-bajtowa, która identyfikuje plik jako archiwum ar i określa przesunięcie do pierwszego elementu archiwum.
Nagłówek globalny ma następujący format: - Bajty 0-1: Magiczny ciąg „!<arch>\n”, który identyfikuje plik jako archiwum ar - Bajty 2-3: Cztery znaki ASCII „\ ”, po których następują dwa bajty wypełnienia zależne od platformy, dzięki czemu nagłówek ma dokładnie 8 bajtów długości
Po nagłówku globalnym znajdują się poszczególne elementy archiwum. Każdy element archiwum składa się z nagłówka, po którym bezpośrednio następuje zawartość elementu. Nagłówek dla każdego elementu ma następujący format: - Bajty 0-15: Nazwa pliku, wyrównana do lewej i uzupełniona zerami - Bajty 16-27: Znak czasu modyfikacji pliku w postaci dziesiętnej - Bajty 28-33: Identyfikator właściciela w postaci dziesiętnej - Bajty 34-39: Identyfikator grupy w postaci dziesiętnej - Bajty 40-47: Tryb pliku w postaci ósemkowej - Bajty 48-57: Rozmiar pliku w bajtach w postaci dziesiętnej - Bajty 58-59: Ciąg „\ ”
Kilka ważnych rzeczy, o których należy pamiętać w przypadku nagłówków elementów: - Nazwa pliku jest ograniczona do 16 znaków. W przypadku dłuższych nazw można użyć specjalnego elementu rozszerzonej nazwy System V. - Znak czasu, identyfikatory właściciela/grupy i tryb pliku są w postaci dziesiętnej lub ósemkowej ASCII. Muszą być zakończone zerem, jeśli są krótsze niż szerokość ich pola. - Rozmiar pliku nie obejmuje rozmiaru samego nagłówka. - Każde pole nagłówka jest zakończone spacją lub bajtem zerowym, jeśli jest krótsze niż jego stała szerokość. Nie ma wypełnienia wyrównania między polami.
Zawartość każdego elementu archiwum następuje bezpośrednio po jego 60-bajtowym nagłówku bez dodatkowego wypełnienia. Dane pliku są przechowywane dokładnie tak, jak pojawiły się w oryginalnym pliku, bez kodowania ani kompresji.
W archiwach ar mogą pojawiać się specjalne elementy archiwum, aby zapewnić dodatkowe metadane: - „//”: Element tabeli symboli zawiera tabelę wyszukiwania nazw symboli używanych do łączenia plików obiektów. Ma specjalną nazwę „//” (ukośnik ukośnik spacja). - „/ ”: Tabela rozszerzonych nazw jest używana dla nazw plików dłuższych niż 16 bajtów. Jest nazwana ukośnikiem, po którym następuje wystarczająca liczba spacji, aby wypełnić do 16 bajtów. Rozszerzone nazwy są przechowywane jako lista ciągów zakończonych zerem w tym elemencie.
Aby przeanalizować archiwum ar, program najpierw odczytałby 8-bajtowy nagłówek globalny i zweryfikowałby magiczny ciąg archiwum. Następnie przeskanowałby dane archiwum, odczytując 60-bajtowy nagłówek dla każdego elementu. Pole rozmiaru pliku informuje program, ile bajtów należy odczytać dla zawartości tego elementu przed przejściem do następnego nagłówka.
Podczas tworzenia archiwum ar program wypisuje nagłówek globalny, a następnie nagłówek i zawartość dla każdego elementu archiwum, który ma zostać uwzględniony. Jeśli używane są rozszerzone nazwy, należy dodać element tabeli rozszerzonych nazw. Tabela symboli, jeśli jest dołączona, jest zwykle dodawana jako pierwszy element po nagłówku globalnym.
Format ar jest dość prosty, ale ma pewne ograniczenia. Nie obsługuje kompresji, szyfrowania ani innych zaawansowanych funkcji występujących w bardziej nowoczesnych formatach, takich jak tar lub ZIP. Ograniczenie nazwy do 16 znaków jest restrykcyjne, a schemat rozszerzonej nazwy jest nieco niezręczny. Niemniej jednak ar jest nadal szeroko stosowany ze względu na swoją prostotę, kompatybilność i przydatność do pakowania powiązanych plików, takich jak moduły kodu obiektowego, do plików biblioteki.
Pomimo swojego wieku format ar był nadal używany i ulepszany na przestrzeni lat: - Warianty BSD rozszerzyły ar o obsługę dłuższych nazw bez tabeli rozszerzonych nazw i większych rozmiarów plików. - Program GNU ar stał się de facto standardową implementacją i obsługuje różne rozszerzenia, zachowując jednocześnie kompatybilność. - Format ar jest wymaganym formatem wyjściowym dla plików obiektów używanych przez wiele kompilatorów i linkerów.
Podsumowując, format archiwum ar SVR4 to czcigodna, ale nadal szeroko stosowana specyfikacja do łączenia kolekcji plików w jeden większy plik. Jego prostota i kompatybilność przyczyniły się do jego długowieczności. Chociaż bardziej zaawansowane formaty są często preferowane do ogólnego archiwizowania i kompresji, ar pozostaje ważną częścią zestawu narzędzi w systemach typu Unix, szczególnie w przypadku rozwoju oprogramowania.
Kompresja plików redukuje redundancję, dzięki czemu te same informacje wymagają mniej bitów. Górna granica jest wyznaczana przez teorię informacji: dla kompresji bezstratnej limitem jest entropia źródła (zobacz teoremę kodowania źródła Shannona source coding theorem oraz jego oryginalny artykuł z 1948 roku „A Mathematical Theory of Communication”). W kompresji stratnej kompromis między przepływnością a jakością opisuje teoria rate–distortion.
Większość kompresorów działa w dwóch etapach. Najpierw model przewiduje lub ujawnia strukturę danych. Następnie koder zamienia te przewidywania w niemal optymalne wzorce bitowe. Klasyczną rodziną modeli jest Lempel–Ziv LZ77 (1977) i LZ78 (1978) wykrywają powtarzające się podciągi i zamiast surowych bajtów emitują odwołania. Po stronie kodowania kodowanie Huffmana (zob. artykuł z 1952 r.) przypisuje krótsze kody symbolom bardziej prawdopodobnym. Kodowanie arytmetyczne i range coding są jeszcze precyzyjniejsze i zbliżają się do granicy entropii, a nowoczesne Asymmetric Numeral Systems (ANS) osiągają podobne wyniki dzięki szybkim implementacjom tablicowym.
DEFLATE (wykorzystywane przez gzip, zlib i ZIP) łączy LZ77 z kodowaniem Huffmana. Specyfikacje są publiczne: DEFLATE RFC 1951, wrapper zlib RFC 1950i format gzip RFC 1952. Gzip jest przeznaczony do strumieniowania i wprost nie oferuje dostępu losowego. Obrazy PNG standaryzują DEFLATE jako jedyną metodę kompresji (maks. okno 32 KiB) zgodnie ze specyfikacją „Compression method 0… deflate/inflate… at most 32768 bytes” oraz W3C/ISO PNG 2nd Edition.
Zstandard (zstd): nowszy uniwersalny kompresor zaprojektowany dla wysokich współczynników i bardzo szybkiej dekompresji. Format opisano w RFC 8878 (oraz lustrze HTML) i w specyfikacji referencyjnej na GitHubie. Podobnie jak gzip, podstawowa ramka nie celuje w dostęp losowy. Jednym z supermocy zstd są słowniki: niewielkie próbki z korpusu, które dramatycznie poprawiają kompresję wielu małych lub podobnych plików (zob.dokumentację słowników python-zstandard i przykład Nigela Tao). Implementacje akceptują zarówno słowniki „unstructured”, jak i „structured” (dyskusja).
Brotli: zoptymalizowane pod kątem treści webowych (np. fonty WOFF2, HTTP). Łączy statyczny słownik z jądrem LZ+entropia podobnym do DEFLATE. Specyfikacja to RFC 7932, które opisuje też okno 2WBITS−16 z WBITS w [10, 24] (1 KiB−16 B do 16 MiB−16 B) i stwierdza, że nie zapewnia dostępu losowego. Brotli często pokonuje gzip na tekstach webowych, jednocześnie szybko dekodując.
Kontener ZIP: ZIP to archiwum plików, które może przechowywać wpisy z różnymi metodami kompresji (deflate, store, zstd itd.). De facto standardem jest APPNOTE PKWARE (zob.portal APPNOTE, hostowaną kopięoraz omówienia LC ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 celuje w surową szybkość przy umiarkowanych współczynnikach. Zobacz stronę projektu („extremely fast compression”) oraz opis formatu ramek. Idealne do cache w pamięci, telemetrii lub wrażliwych ścieżek, gdzie dekompresja musi być prawie tak szybka jak RAM.
XZ / LZMA goni za wysoką gęstością (świetnymi współczynnikami) kosztem wolniejszej kompresji. XZ to kontener; ciężar pracy wykonują zwykle LZMA/LZMA2 (modelowanie podobne do LZ77 + range coding). Zobacz format .xz, specyfikację LZMA (Pavlov)oraz notatki jądra Linux o XZ Embedded. XZ zwykle kompresuje lepiej niż gzip i często konkuruje z nowoczesnymi kodekami wysokiego współczynnika, ale wymaga dłuższego kodowania.
bzip2 stosuje Transformację Burrowsa–Wheelera (BWT), move-to-front, RLE i kodowanie Huffmana. Zwykle daje mniejsze pliki niż gzip, ale działa wolniej; zobacz oficjalny podręcznik oraz stronę man (Linux).
Liczy się „rozmiar okna”. Odwołania w DEFLATE mogą sięgać tylko 32 KiB wstecz (RFC 1951) oraz limitu PNG 32 KiB opisanego tutaj. Brotli ma okno od ~1 KiB do 16 MiB (RFC 7932). Zstd dostraja okno i głębokość wyszukiwania poziomami (RFC 8878). Podstawowe strumienie gzip/zstd/brotli są projektowane do sekwencyjnego dekodowania; same formaty nie gwarantują dostępu losowego, choć kontenery (np. indeksy tar, ramek chunked lub indeksy specyficzne dla formatu) mogą go dodać.
Powyższe formaty są bezstratne: odtwarzają dokładnie te same bajty. Kodeki multimedialne często są stratne: odrzucają niewidoczne szczegóły, by osiągnąć niższe bitrate’y. W obrazach klasyczny JPEG (DCT, kwantyzacja, kodowanie entropijne) jest standaryzowany w ITU-T T.81 / ISO/IEC 10918-1. W audio MP3 (MPEG-1 Layer III) i AAC (MPEG-2/4) używają modeli percepcyjnych i transformacji MDCT (zob.ISO/IEC 11172-3, ISO/IEC 13818-7i przegląd MDCT tutaj). Metody stratne i bezstratne mogą współistnieć (np. PNG do UI, kodeki webowe dla obrazów/wideo/audio).
Teoria Shannon 1948 · Rate–distortion · Kodowanie Huffman 1952 · Kodowanie arytmetyczne · Range coding · ANS. Format DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · Format XZ. Stos BWT Burrows–Wheeler (1994) · podręcznik bzip2. Media JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Podsumowanie: wybierz kompresor dopasowany do danych i ograniczeń, mierz na prawdziwych próbkach i nie zapominaj o zyskach ze słowników oraz sprytnego ramek. Z odpowiednią parą uzyskasz mniejsze pliki, szybsze transfery i żwawsze aplikacje bez poświęcania poprawności czy przenośności.
Kompresja plików to proces, który zmniejsza rozmiar pliku lub plików, zazwyczaj w celu oszczędności miejsca na dysku lub przyspieszenia transmisji przez sieć.
Kompresja plików działa poprzez identyfikowanie i usuwanie nadmiarowej informacji w danych. Wykorzystuje algorytmy do kodowania oryginalnych danych w mniejszej przestrzeni.
Dwa główne typy kompresji plików to kompresja bezstratna i stratna. Kompresja bezstratna pozwala na idealne przywrócenie oryginalnego pliku, podczas gdy kompresja stratna umożliwia znaczniejsze zmniejszenie rozmiaru kosztem pewnej utraty jakości danych.
Popularnym przykładem narzędzia do kompresji plików jest WinZip, który obsługuje wiele formatów kompresji, w tym ZIP i RAR.
W przypadku kompresji bezstratnej, jakość pozostaje niezmieniona. Jednak przy kompresji stratnej może dojść do zauważalnego spadku jakości, ponieważ eliminuje ona mniej ważne dane, aby bardziej znacząco zmniejszyć rozmiar pliku.
Tak, kompresja plików jest bezpieczna pod względem integralności danych, zwłaszcza przy kompresji bezstratnej. Jednak, jak wszystkie pliki, skompresowane pliki mogą być celem dla złośliwego oprogramowania lub wirusów, dlatego zawsze ważne jest, aby mieć zainstalowane wiarygodne oprogramowanie zabezpieczające.
Prawie wszystkie typy plików można skompresować, w tym pliki tekstowe, obrazy, audio, wideo i pliki oprogramowania. Jednak poziom możliwej do osiągnięcia kompresji może znacznie różnić się w zależności od typu pliku.
Plik ZIP to typ formatu pliku, który wykorzystuje kompresję bezstratną do zmniejszenia rozmiaru jednego lub więcej plików. Wiele plików w pliku ZIP jest efektywnie grupowanych razem w jeden plik, co ułatwia również udostępnianie.
Technicznie tak, chociaż dodatkowe zmniejszenie rozmiaru może być minimalne lub nawet niekorzystne. Kompresowanie już skompresowanego pliku czasami może zwiększyć jego rozmiar z powodu metadanych dodawanych przez algorytm kompresji.
Aby rozpakować plik, zazwyczaj potrzebujesz narzędzia do dekompresji lub rozpakowywania, takiego jak WinZip czy 7-Zip. Te narzędzia mogą wyodrębnić oryginalne pliki z formatu skompresowanego.