Das CPIO-Archivformat (Copy In and Out) ist ein Dateiformat, das zum Archivieren und Extrahieren von Dateien auf Unix- und Unix-ähnlichen Betriebssystemen verwendet wird. Es wurde ursprünglich in den frühen 1980er Jahren als Teil des Betriebssystems UNIX System V entwickelt und ist seitdem zu einem Standardformat für die Archivierung und Verteilung von Dateien auf verschiedenen Plattformen geworden.
Das CPIO-Format ist einfach und effizient konzipiert und ermöglicht die Erstellung von Archiven, die mehrere Dateien und Verzeichnisse enthalten. Es unterstützt sowohl binäre als auch ASCII-Dateiformate und ist somit mit einer Vielzahl von Systemen und Anwendungen kompatibel.
Ein CPIO-Archiv besteht aus einer Reihe von Dateiheadern, gefolgt von den Dateidaten. Jeder Dateiheader enthält Metadaten über die Datei, wie z. B. Name, Größe, Besitz, Berechtigungen und Änderungszeit. Die Dateidaten werden direkt nach dem Header gespeichert, und der nächste Dateiheader folgt den Daten.
Das CPIO-Headerformat hat sich im Laufe der Zeit weiterentwickelt, wobei verschiedene Versionen unterschiedliche Funktionen und Einschränkungen unterstützen. Die gängigsten Headerformate sind das binäre Headerformat und das ASCII-Headerformat, auch bekannt als das „neue“ Headerformat.
Das binäre Headerformat verwendet eine Struktur mit fester Größe, um die Metadaten der Datei zu speichern, wobei jedes Feld eine bestimmte Anzahl von Bytes belegt. Dieses Format ist kompakter und effizienter, aber aufgrund möglicher Endianness- und Ausrichtungsprobleme weniger portabel zwischen verschiedenen Systemen.
Das ASCII-Headerformat, das in SVR4 (System V Release 4) eingeführt wurde, verwendet eine Struktur variabler Länge mit ASCII-codierten Feldern, die durch Zeilenumbrüche getrennt sind. Dieses Format ist besser lesbar und portabler, aber weniger effizient in Bezug auf Speicherplatz und Verarbeitung.
Um ein CPIO-Archiv zu erstellen, wird der Befehl „cpio“ mit der Option „-o“ (Ausgabe) verwendet, gefolgt vom gewünschten Format und der Liste der einzuschließenden Dateien oder Verzeichnisse. Beispielsweise erstellt „cpio -o -H newc < file_list > archive.cpio“ ein Archiv im ASCII-Headerformat, liest die Liste der Dateien aus „file_list“ und schreibt das Archiv in „archive.cpio“.
Um Dateien aus einem CPIO-Archiv zu extrahieren, wird der Befehl „cpio“ mit der Option „-i“ (Eingabe) verwendet, gefolgt vom gewünschten Format und zusätzlichen Optionen. Beispielsweise extrahiert „cpio -i -d < archive.cpio“ die Dateien aus „archive.cpio“ und erstellt alle erforderlichen Verzeichnisse.
CPIO-Archive können verkettet werden, um größere Archive zu erstellen, die mehrere Dateisätze enthalten. Dies ist nützlich für die Verteilung von Softwarepaketen oder die Erstellung von Sicherungsarchiven. Um Archive zu verketten, füge einfach ein Archiv an ein anderes an, indem du einen Befehl wie „cat archive1.cpio archive2.cpio > combined.cpio“ verwendest.
CPIO-Archive können auch mit verschiedenen Komprimierungsalgorithmen wie gzip, bzip2 oder xz komprimiert werden, um ihre Größe zu reduzieren. Komprimierte Archive haben normalerweise eine Dateierweiterung, die die Komprimierungsmethode angibt, wie z. B. „.cpio.gz“ für gzip-komprimierte Archive.
Einer der Vorteile des CPIO-Formats ist seine Fähigkeit, Dateiberechtigungen, Besitz und Zeitstempel beizubehalten, wodurch es sich für die Erstellung exakter Replikate von Dateisystemen eignet. Es unterstützt jedoch keine Funktionen wie Verschlüsselung, Integritätsprüfungen oder mehrvolumige Archive, die in fortgeschritteneren Archivformaten wie tar verfügbar sind.
Trotz seiner Einfachheit wird das CPIO-Format seit Jahrzehnten in Unix- und Linux-Umgebungen weit verbreitet verwendet. Es wird oft in Verbindung mit anderen Tools wie „find“ oder „rpm“ verwendet, um Softwarepakete, Initramfs-Images oder Sicherungsarchive zu erstellen.
In den letzten Jahren wurde das CPIO-Format weitgehend durch modernere und funktionsreichere Archivformate wie tar und ZIP abgelöst. Es bleibt jedoch ein wichtiger Teil der Unix-Geschichte und wird immer noch in bestimmten Kontexten verwendet, insbesondere in eingebetteten Systemen und Low-Level-Systemtools.
Bei der Arbeit mit CPIO-Archiven ist es wichtig, sich der potenziellen Sicherheitsrisiken bewusst zu sein, die mit nicht vertrauenswürdigen Archiven verbunden sind. Das Extrahieren von Dateien aus einem Archiv kann möglicherweise vorhandene Dateien überschreiben oder Dateien mit unerwarteten Berechtigungen erstellen, was zu Sicherheitslücken führt. Es wird empfohlen, Archive in einer sicheren Umgebung zu extrahieren und den Inhalt sorgfältig zu prüfen, bevor sie verwendet werden.
Zusammenfassend lässt sich sagen, dass das CPIO-Archivformat eine einfache und effiziente Methode zum Archivieren und Extrahieren von Dateien auf Unix- und Unix-ähnlichen Systemen ist. Auch wenn ihm einige der erweiterten Funktionen moderner Archivformate fehlen, bleibt es in bestimmten Kontexten ein nützliches Werkzeug und ein bedeutender Teil der Unix-Geschichte. Das Verständnis des CPIO-Formats und seiner Verwendung kann für Systemadministratoren, Entwickler und Enthusiasten, die mit Unix-basierten Systemen arbeiten, wertvoll sein.
Die Dateikomprimierung reduziert Redundanzen, damit dieselben Informationen mit weniger Bits auskommen. Die Obergrenze wird von der Informationstheorie gesetzt: Bei verlustfreier Komprimierung bestimmt die Entropie der Quelle das Limit (siehe Shannons Source-Coding-Theorem und seinen ursprünglichen Aufsatz von 1948 „A Mathematical Theory of Communication“). Bei verlustbehafteter Komprimierung beschreibt die Rate-Distortion-Theorie den Kompromiss zwischen Bitrate und Qualität.
Die meisten Kompressoren arbeiten in zwei Phasen. Zuerst sagt ein Modell Struktur in den Daten voraus oder legt sie frei. Danach wandelt ein Coder diese Vorhersagen in nahezu optimale Bitmuster um. Eine klassische Modellfamilie ist Lempel–Ziv LZ77 (1977) und LZ78 (1978) entdecken wiederholte Teilstrings und geben Referenzen statt Rohbytes aus. Auf der Codierungsseite weist die Huffman-Codierung (den Originalartikel finden Sie 1952) wahrscheinlicheren Symbolen kürzere Codes zu. Arithmetische Codierung und Range Coding arbeiten noch feiner und rücken näher an die Entropiegrenze, während moderne Asymmetric Numeral Systems (ANS) ähnliche Raten mit tabellengesteuerten Implementierungen erreichen.
DEFLATE (verwendet von gzip, zlib und ZIP) kombiniert LZ77 mit Huffman-Codierung. Die Spezifikationen sind öffentlich: DEFLATE RFC 1951, der zlib-Wrapper RFC 1950und das gzip-Dateiformat RFC 1952. Gzip ist für Streaming ausgelegt und garantiert ausdrücklich keinen zufälligen Zugriff. PNG-Bilder standardisieren DEFLATE als einzige Komprimierungsmethode (mit maximal 32 KiB Fenster) laut der PNG-Spezifikation „Compression method 0… deflate/inflate… at most 32768 bytes“ und W3C/ISO PNG 2nd Edition.
Zstandard (zstd): ein neuer Allzweckkompressor für hohe Raten bei sehr schneller Dekompression. Das Format ist dokumentiert in RFC 8878 (und dem HTML-Spiegel) sowie der Referenzspezifikation auf GitHub. Wie gzip zielt der Basis-Frame nicht auf zufälligen Zugriff. Eine der Superkräfte von zstd sind Wörterbücher: kleine Proben aus Ihrem Korpus, die viele kleine oder ähnliche Dateien deutlich besser komprimieren (siehe python-zstandard Wörterbuch-Dokumentation und Nigel Taos Beispiel). Implementierungen akzeptieren sowohl „unstrukturierte“ als auch „strukturierte“ Wörterbücher (Diskussion).
Brotli: optimiert für Web-Inhalte (z. B. WOFF2-Fonts, HTTP). Es kombiniert ein statisches Wörterbuch mit einem DEFLATE-ähnlichen LZ+Entropie-Kern. Die Spezifikation ist RFC 7932, der auch ein Gleitfenster von 2WBITS−16 mit WBITS in [10, 24] (1 KiB−16 B bis 16 MiB−16 B) beschreibt und festhält, dass es keinen zufälligen Zugriff bereitstellt. Brotli schlägt gzip bei Webtext oft und dekodiert trotzdem schnell.
ZIP-Container: ZIP ist ein Datei-Archiv, das Einträge mit verschiedenen Komprimierungsmethoden (deflate, store, zstd usw.) speichern kann. Der De-facto-Standard ist PKWAREs APPNOTE (siehe APPNOTE-Portal, eine gehostete Kopieund die LC-Überblicke ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 zielt auf pure Geschwindigkeit bei moderaten Raten. Siehe die Projektseite („extremely fast compression“) und das Frame-Format. Ideal für In-Memory-Caches, Telemetrie oder Hot Paths, in denen Dekompression nahezu RAM-Geschwindigkeit erreichen muss.
XZ / LZMA strebt hohe Dichte (große Raten) mit relativ langsamer Kompression an. XZ ist ein Container; die Schwerarbeit leisten typischerweise LZMA/LZMA2 (LZ77-ähnliche Modellierung + Range Coding). Siehe .xz-Dateiformat, die LZMA-Spezifikation (Pavlov)und Linux-Hinweise zu XZ Embedded. XZ komprimiert meist besser als gzip und konkurriert oft mit modernen Hochratencodecs, braucht aber längere Encode-Zeiten.
bzip2 setzt auf die Burrows–Wheeler-Transformation (BWT), Move-to-Front, RLE und Huffman-Codierung. Typisch kleiner als gzip, aber langsamer; siehe das offizielle Handbuch und die Manpages (Linux).
Die „Fenstergröße“ zählt. DEFLATE-Referenzen können nur 32 KiB zurückblicken (RFC 1951) sowie das PNG-Limit von 32 KiB hier erläutert. Brotli deckt Fenster von etwa 1 KiB bis 16 MiB ab (RFC 7932). Zstd passt Fenster und Suchtiefe über die Level an (RFC 8878). Basis-Streams von gzip/zstd/brotli sind für sequentielles Dekodieren gebaut; die Grundformate versprechen keinen zufälligen Zugriff, obwohl Container (z. B. Tar-Indizes, Chunked Framing oder format-spezifische Indizes) ihn nachrüsten können.
Die oben genannten Formate sind verlustfrei: Sie rekonstruieren exakt dieselben Bytes. Medien-Codecs sind oft verlustbehaftet: Sie verwerfen unmerkliche Details, um niedrigere Bitraten zu erreichen. Bei Bildern ist klassisches JPEG (DCT, Quantisierung, Entropiecodierung) in ITU-T T.81 / ISO/IEC 10918-1standardisiert. In Audio nutzen MP3 (MPEG-1 Layer III) und AAC (MPEG-2/4) Wahrnehmungsmodelle und MDCT-Transformationen (siehe ISO/IEC 11172-3, ISO/IEC 13818-7und eine MDCT-Übersicht hier). Verlustbehaftet und verlustfrei können koexistieren (z. B. PNG für UI-Assets; Web-Codecs für Bilder/Video/Audio).
Theorie Shannon 1948 · Rate–distortion · Codierung Huffman 1952 · Arithmetische Codierung · Range Coding · ANS. Formate DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · XZ format. BWT-Stack Burrows–Wheeler (1994) · bzip2 manual. Medien JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Fazit: Wählen Sie einen Kompressor, der zu Ihren Daten und Randbedingungen passt, messen Sie auf echten Eingaben und vergessen Sie nicht die Gewinne durch Wörterbücher und clevere Frames. Mit der richtigen Kombination erhalten Sie kleinere Dateien, schnellere Übertragungen und reaktionsschnellere Apps – ohne Korrektheit oder Portabilität zu opfern.
Dateikompression ist ein Prozess, der die Größe einer Datei oder Dateien reduziert, normalerweise um Speicherplatz zu sparen oder die Übertragung über ein Netzwerk zu beschleunigen.
Die Dateikompression funktioniert, indem sie Redundanzen in den Daten identifiziert und entfernt. Sie verwendet Algorithmen, um die ursprünglichen Daten in einem kleineren Raum zu kodieren.
Die beiden primären Arten der Dateikompression sind verlustfreie und verlustbehaftete Kompression. Verlustfreie Kompression ermöglicht die perfekte Wiederherstellung der Originaldatei, während verlustbehaftete Kompression eine größere Größenreduktion ermöglicht, dies jedoch auf Kosten eines Qualitätsverlusts bei den Daten.
Ein populäres Beispiel für ein Dateikompressionstool ist WinZip, das mehrere Kompressionsformate unterstützt, darunter ZIP und RAR.
Bei verlustfreier Kompression bleibt die Qualität unverändert. Bei verlustbehafteter Kompression kann es jedoch zu einem spürbaren Qualitätsverlust kommen, da weniger wichtige Daten zur Reduzierung der Dateigröße stärker eliminiert werden.
Ja, die Dateikompression ist sicher in Bezug auf die Datenintegrität, insbesondere bei der verlustfreien Kompression. Wie alle Dateien können jedoch auch komprimierte Dateien von Malware oder Viren angegriffen werden. Daher ist es immer wichtig, eine seriöse Sicherheitssoftware zu haben.
Fast alle Arten von Dateien können komprimiert werden, einschließlich Textdateien, Bilder, Audio, Video und Softwaredateien. Das erreichbare Kompressionsniveau kann jedoch zwischen den Dateitypen erheblich variieren.
Eine ZIP-Datei ist ein Dateiformat, das verlustfreie Kompression verwendet, um die Größe einer oder mehrerer Dateien zu reduzieren. Mehrere Dateien in einer ZIP-Datei werden effektiv zu einer einzigen Datei gebündelt, was das Teilen einfacher macht.
Technisch ja, obwohl die zusätzliche Größenreduktion minimal oder sogar kontraproduktiv sein könnte. Das Komprimieren einer bereits komprimierten Datei kann manchmal deren Größe erhöhen, aufgrund der durch den Kompressionsalgorithmus hinzugefügten Metadaten.
Um eine Datei zu dekomprimieren, benötigen Sie in der Regel ein Dekompressions- oder Entzip-Tool, wie WinZip oder 7-Zip. Diese Tools können die Originaldateien aus dem komprimierten Format extrahieren.