POSIXアーカイブ形式は「ar」形式としても知られ、Unix系オペレーティングシステムでライブラリアーカイブを作成および管理するために使用されるファイル形式です。この形式はIEEEによってPOSIX.1-1988仕様で標準化され、それ以来さまざまなプラットフォームで広く採用されています。ar形式では、複数のファイルを1つのファイルにバンドルして、より簡単に保存、配布、管理できます。
POSIXアーカイブの構造は、グローバルヘッダーの後に一連のアーカイブメンバーが続きます。各メンバーは、アーカイブに追加されたファイルを表現します。グローバルヘッダーは、ファイルをarアーカイブとして識別する単純なASCII文字列です。文字「!<arch>\n」で構成され、ここで「\n」は改行文字を表します。このヘッダーは常にアーカイブファイルの先頭に存在します。
グローバルヘッダーに続いて、アーカイブには一連のファイルメンバーが含まれます。各メンバーはファイルヘッダーとファイルデータ自体で構成されています。ファイルヘッダーは、ファイル名、変更タイムスタンプ、所有者とグループのID、ファイルモード、サイズなどのファイルに関するメタデータを含む固定サイズの構造です。ヘッダーはスペースでパディングされ、60バイトの固定サイズが維持されます。
ファイルヘッダーはファイル名から始まり、ヌル終端ASCII文字列として格納されます。ファイル名は16文字に制限されており、実際のファイル名が長い場合は切り捨てられます。ファイル名が16文字未満の場合は、スペースでパディングされます。ファイル名の後に、ヘッダーにはファイルの変更タイムスタンプが含まれ、10進ASCII文字列として格納されます。タイムスタンプは、Unixエポック(1970年1月1日)からの秒数を表します。
次に、ファイルヘッダーには、10進ASCII文字列として格納されたファイルの所有者とグループのIDが含まれます。これらのIDは、ファイルのパーミッションと所有権の管理に使用されます。ファイルモードもヘッダーに8進ASCII文字列として格納され、ファイルのパーミッションとタイプを表します。モードは、ファイルが通常のファイル、ディレクトリ、シンボリックリンクであるか、または特別なパーミッションがあるかどうかを示します。
ファイルのサイズは、ヘッダーに10進ASCII文字列として格納され、ヘッダーに続くファイルデータ内のバイト数を示します。ファイルサイズが偶数でない場合は、ファイルデータにパディングの余分なバイトが追加されて、適切 なアライメントが確保されます。
ファイルヘッダーの後、実際のファイルデータがアーカイブに格納されます。データは、追加のフォーマットや圧縮なしでそのまま書き込まれます。ファイルサイズが奇数の場合は、アライメントを維持するためにパディングの余分なバイトが追加されます。
arアーカイブを作成するプロセスには、各メンバーファイルのファイルヘッダーとデータを1つのアーカイブファイルに連結することが含まれます。Unix系システムで一般的に見られるarユーティリティは、arアーカイブからファイルを作成、変更、抽出するために使用されます。アーカイブを作成する場合、arユーティリティはグローバルヘッダーを追加し、その後、各メンバーファイルのファイルヘッダーとデータを追加します。
arアーカイブからファイルを抽出するには、グローバルヘッダーを読み取ってアーカイブ形式を確認し、アーカイブをスキャンして目的のファイルメンバーを見つけます。arユーティリティはファイルヘッダーを読み取って、アーカイブ内のファイル名、サイズ、オフセットを特定します。次に、ヘッダーに格納されたサイズと位置情報に基づいてファイルデータが抽出されます。
ar形式の主なユースケースの1つは、スタティックライブラリアーカイブの作成です。スタティックライブラリは、コンパイル時に実行可能ファイルに直接リンクされるオブジェクトファイルのコレクションです。ar形式では、複数のオブジェクトファイルを1つのライブラリファイルにバンドルできます。このライブラリファイルは、他のオブジェクトファイルまたはライブラリとリンクして、最終的 な実行可能ファイルを作成できます。
ar形式は、ファイルデータ自体ではなく外部ファイルへの参照のみを含むシンアーカイブの作成もサポートしています。シンアーカイブは、アーカイブファイルのサイズを小さくし、大規模なファイルコレクションのより効率的な保存と配布を可能にするために役立ちます。
ar形式は広く使用され、サポートされていますが、いくつかの制限があります。固定サイズのファイルヘッダーは、ファイル名の長さとアーカイブに格納できる最大ファイルサイズを制限します。さらに、ar形式は組み込みの圧縮や暗号化を提供せず、特定のユースケースでは必要になる場合があります。
これらの制限にもかかわらず、POSIXアーカイブ形式はUnix系システムでファイルのコレクションをバンドルして管理するためのシンプルで効率的な方法です。標準化と幅広い採用により、スタティックライブラリを作成し、ソフトウェアパッケージを配布し、データをアーカイブするための信頼できる選択肢となっています。
要約すると、POSIXアーカイブ形式はUnix系オペレーティングシステムでライブラリアーカイブを作成および管理するために使用されるファイル形式です。グローバルヘッダーの後に一連のファイルメンバーが続き、それぞれにファイルヘッダーとファイルデータが含まれます。arユーティリティは、arアーカイブからファイルを作成、変更、抽出するために使用され、この形式は一般的にスタティックライブラリアーカイブを作成し、ファイルのコレクションをバンドルするために使用されます。いくつかの制限がありますが、ar形式はUnix系システムでファイルを管理するためのシンプルで広くサポートされている方法です。
ファイル圧縮は冗長性を減らすことで、同じ情報がより少ないビットで済むようにします。どこまで圧縮できるかの上限は情報理論によって定められています。可逆圧縮の場合、その限界はソースのエントロピーです(シャノンの ソース符号化定理 と彼の1948年の独創的な論文 「通信の数学的理論」を参照)。非可逆圧縮の場合、レートと品質のトレードオフは レート歪み理論によって捉えられます。
ほとんどの圧縮プログラムには2つの段階があります。まず、モデルがデータ内の構造を予測または公開します。 次に、コーダーがそれらの予測をほぼ最適なビットパターンに変換します。古典的なモデリング ファミリーはレンペル–ジブです。 LZ77 (1977) とLZ78 (1978)は、繰り返される部分文字列を検出し、生のバイトの代わりに参照を出力します。 コーディング側では、 ハフマン符号化 (元の論文 1952を参照)は、より可能性の高いシンボルに短いコードを割り当てます。 算術符号化 と 範囲符号化 は、エントロピー限界に近づけるためのよりきめ細かい代替手段であり、現代の 非対称数系(ANS) は、高速なテーブル駆動の実装で同様の圧縮を実現します。
DEFLATE(gzip、zlib、ZIPで使用)は、LZ77とハフマン符号化を組み合わせたものです。その仕様は公開されています: DEFLATE RFC 1951、zlibラッパー RFC 1950、およびgzipファイル形式 RFC 1952。Gzipはストリーミング用にフレーム化されており、明示的に ランダムアクセスを提供しようとはしません。PNG画像は、PNG仕様書によれば、DEFLATEを唯一の圧縮方法として標準化しています(最大32 KiBのウィンドウ)。 「圧縮方法0 … deflate/inflate… 最大32768バイト」 および W3C/ISO PNG第2版。
Zstandard (zstd): 非常に高速な 解凍で高い圧縮率を実現するために設計された、新しい汎用圧縮プログラムです。この形式は RFC 8878 ( HTMLミラーも参照)および参照仕様書 GitHubで文書化されています。gzipと同様に、基本フレームは ランダムアクセスを目的としていません。zstdのスーパーパワーの1つは辞書です。コーパスからの小さなサンプルで、多数の小さなファイルや類似のファイルで 圧縮を劇的に改善します( python-zstandard辞書ドキュメント および Nigel Taoの実例を参照)。実装は、「非構造化」と「構造化」の両方の辞書を受け入れます (ディスカッション)。
Brotli: ウェブコンテンツ(例:WOFF2フォント、HTTP)に最適化されています。静的辞書と DEFLATEのようなLZ+エントロピ ーコアを組み合わせます。仕様は RFC 7932で、2WBITS−16のスライディングウィンドウ(WBITSは[10, 24]、1 KiB−16 Bから 16 MiB−16 Bまで)と、 ランダムアクセスを試みないことも記されています。Brotliは、ウェブテキストでgzipをしばしば上回り、高速にデコードします。
ZIPコンテナ: ZIPは、さまざまな圧縮方法 (deflate、store、zstdなど)でエントリを保存できるファイルアーカイブです。事実上の標準はPKWAREのAPPNOTEです( APPNOTEポータル、 ホストされているコピー、およびLCの概要 ZIPファイル形式(PKWARE) / ZIP 6.3.3を参照)。
LZ4は、控えめな圧縮率で生の速度を目標としています。その プロジェクトページ (「非常に高速な圧縮」)と フレーム形式を参照してください。メモリ内キャッシュ、テレメトリ、または解凍がRAM 速度に近い必要があるホットパスに最適です。
XZ / LZMAは、比較的遅い圧縮で密度(優れた圧縮率)を追求します。XZはコンテナです。 重労働は通常、LZMA/LZMA2(LZ77のようなモデリング+範囲符号化)によって行われます。 .xzファイル形式、 LZMA仕様(Pavlov)、およびLinuxカーネルのメモ XZ Embeddedについてを参照してください。XZは通常、gzipを上回り、高圧縮率の最新コーデックとしばしば競合しますが、エンコード時間は遅くなります。
bzip2は、 Burrows–Wheeler変換(BWT)、move-to-front、RLE、およびハフマン符号化を適用します。通常、gzipよりも小さいですが遅いです。 公式マニュアル およびmanページ (Linux)を参照してください。
「ウィンドウサイズ」は重要です。DEFLATE参照は32 KiBしか遡れません (RFC 1951 およびPNGの32 KiBキャップ ここに記載)。Brotliのウィンドウは、約1 KiBから16 MiBの範囲です (RFC 7932)。Zstdは、レベルごとにウィンドウと検索深度を調整します (RFC 8878)。基本的なgzip/zstd/brotliストリームは、シーケンシャルデコード用に設計されています。基本形式は ランダムアクセスを約束しませんが、コンテナ(例:tarインデックス、チャンク化されたフレーミング、または形式固有のインデックス)でそれを階層化できます。
上記の形式は可逆です。正確なバイトを再構築できます。メディアコーデックはしばしば非可逆です。 より低いビットレートを達成するために、知覚できない詳細を破棄します。画像では、古典的なJPEG(DCT、量子化、エントロピー 符号化)は ITU-T T.81 / ISO/IEC 10918-1で標準化されています。音声では、MP3(MPEG-1 Layer III)とAAC(MPEG-2/4)は、知覚モデルとMDCT変換に依存しています( ISO/IEC 11172-3、 ISO/IEC 13818-7、およびMDCTの概要 こちらを参照)。非 可逆と可逆は共存できます(例:UIアセット用のPNG、画像/動画/音声用のWebコーデック)。
理論: シャノン 1948 · レート歪み · 符号化: ハフマン 1952 · 算術符号化 · 範囲符号化 · ANS. フォーマット: DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4フレーム · XZ形式. BWTスタック: Burrows–Wheeler (1994) · bzip2マニュアル. メディア: JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
結論:データと制約に合った圧縮プログラムを選択し、実際の入力で測定し、 辞書とスマートフレーミングによる利点を忘れないでください。適切な組み合わせで、 より小さなファイル、より速い転送、より軽快なアプリを手に入れることができます—正確さや移植性を犠牲にすることなく。
ファイルの圧縮は、ファイルやファイルのサイズを減らすプロセスで、通常はストレージスペースを節約したり、ネットワークを介した伝送を高速化するために使用されます。
ファイルの圧縮は、データの冗長性を識別して削除することで機能します。それはアルゴリズムを使用して、元のデータをより小さいスペースでエンコードします。
ファイルの圧縮の主要な2つのタイプはロスレス圧縮とロッシー圧縮です。ロスレス圧縮では、元のファイルを完全に復元することができますが、ロッシー圧縮ではデータ品質の若干の損失を伴うより大きなサイズの削減が可能になります。
ファイルの圧縮ツールの人気の例はWinZipで、ZIPとRARを含む複数の圧縮形式をサポートしています。
ロスレス圧縮では品質は変わりません。しかし、ロッシー圧縮では、それほど重要ではないデータを削除してファイルサイズをより大幅に削減するため、品質の低下が目立つことがあります。
はい、データの整合性の面では、特にロスレス圧縮ではファイルの圧縮は安全です。しかし、他のファイルと同様に、圧縮ファイルはマルウェアやウイルスの標的になる可能性があるため、常に信頼すること ができるセキュリティソフトウェアを用意しておくことが重要です。
ほぼすべてのタイプのファイルが圧縮可能であり、テキストファイル、画像、音声、動画、ソフトウェアファイルなどがあります。ただし、圧縮可能なレベルは、ファイルタイプによって大幅に異なることがあります。
ZIPファイルは、1つ以上のファイルのサイズを減らすためにロスレス圧縮を使用するファイル形式の一種です。ZIPファイルの中の複数のファイルは、実質的に1つのファイルにまとめられるため、共有も簡単になります。
技術的にははい、ですが、さらなるサイズ縮小は最小限で、あるいは逆効果となる可能性があります。既に圧縮されたファイルを圧縮すると、圧縮アルゴリズムによって追加されたメタデータにより、そのサイズが増えることがあります。
ファイルを解凍するには、通常、解凍ツールやアンジッパーといったツール、例えばWinZipや7-Zipが必要です。これらのツールは、圧縮形式から元のファイルを抽出することができます。