O PAX (Pre-Allocate eXtension) é um formato de arquivo compactado de código aberto desenvolvido pela Microsoft como uma alternativa moderna aos formatos existentes como ZIP, RAR e tar. Ele foi projetado para resolver limitações e melhorar a compactação, o desempenho, a segurança e a funcionalidade do manuseio de arquivos em sistemas e dispositivos modernos.
Os principais recursos diferenciadores do formato PAX incluem compactação aprimorada usando algoritmos modernos, acesso aleatório eficiente a arquivos dentro de arquivos, suporte nativo a multithreading, metadados extensíveis, criptografia interna e verificação de integridade e uma especificação aberta documentada para incentivar ampla adoção e interoperabilidade.
Os arquivos PAX usam a extensão de arquivo .pax e têm uma estrutura interna de várias partes que consiste em um cabeçalho, diretório central, blocos de dados compactados e um rodapé. Isso permite que informações importantes como o conteúdo do arquivo, parâmetros de compactação e hashes de integridade sejam armazenados separadamente dos dados do arquivo compactado real.
O cabeçalho PAX começa com um número mágico de 4 bytes (50 41 58 00 em hexadecimal) para identificação. Em seguida, contém campos para a versão PAX, método de compactação, método de criptografia, método de hash, tamanho do bloco, número de threads de compactação paralela e vários sinalizadores. O cabeçalho termina com metadados XML extensíveis fornecendo detalhes sobre o arquivo.
Seguindo o cabeçalho está o diretório central PAX. Ele contém uma entrada para cada arquivo/pasta compactado no arquivo, armazenando o caminho completo, atributos, tamanhos, deslocamentos de bloco e hashes. Ter isso em um só lugar permite listar com eficiência o conteúdo do arquivo e acesso aleatório a arquivos individuais sem escanear dados compactados.
A maior parte de um arquivo PAX é uma série de blocos de dados compactados. Cada bloco tem um pequeno cabeçalho indicando o tamanho descompactado e compactado, seguido por um pedaço de dados de arquivo compactado com o algoritmo configurado. Os blocos têm tamanho padrão de 1 MB, mas isso é ajustável no cabeçalho do arquivo.
Os blocos de dados compactados são criptografados opcionalmente se um método de criptografia for especificado. O PAX suporta esquemas de criptografia modernos como AES-256. A senha do arquivo é usada para derivar uma chave que criptografa cada bloco independentemente, permitindo acesso aleatório eficiente. Para autenticação, o PAX faz hash de senhas com um KDF seguro.
Para compactação, o PAX suporta uma variedade de codecs modernos de uso geral otimizados para descompactação rápida: LZMA, LZ4, Brotli, Zstandard, etc. Ele também permite pré-processadores para redução adicional de tamanho em tipos de arquivo específicos (por exemplo, codificação Delta em EXEs/DLLs, codificação E8E9 em código x86). Codecs e pré-processadores são aplicados em um pipeline.
Para permitir compactação multithread eficiente, os arquivos são particionados em blocos compactados independentemente que podem ser processados por instâncias de codec paralelas. O compressor PAX é dimensionado automaticamente para usar todos os núcleos de CPU disponíveis. O particionamento semelhante permite descompactação paralela para extração mais rápida.
O PAX fornece integridade de dados e detecção de adulteração armazenando hashes dos dados originais e compactados. Os arquivos carregam um hash de cabeçalho para detectar truncamento. O diretório central também é hash para evitar adulteração de metadados de arquivo. O bit rot em dados compactados é detectado fazendo hash de cada bloco.
No final de um arquivo PAX está o rodapé. Ele contém uma cópia dos campos do cabeçalho, o deslocamento/tamanho do diretório central e um hash de arquivo inteiro. O rodapé tem um tamanho fixo e está sempre no final do arquivo, permitindo fácil localização e verificação de arquivos PAX.
Os arquivos PAX podem ser atualizados com eficiência modificando o diretório central e anexando blocos de dados alterados, em vez de reescrever arquivos inteiros como o ZIP. Arquivos inteiros podem ser inseridos, removidos ou substituídos atualizando metadados e adicionando/removendo os blocos relevantes. Os arquivos também podem ser anexados rapidamente.
Para mitigar vulnerabilidades de zip-slip, o PAX requer caminhos explícitos (nenhuma travessia ../) e impede a gravação fora da raiz de extração. Campos de metadados ZIP longos que permitiam negação de serviço são restritos. Bombas de compactação são mitigadas por meio de limites na taxa de compactação e uso de memória.
Os carimbos de data/hora do arquivo em arquivos PAX usam um formato padrão de 64 bits que abrange uma ampla gama de datas com precisão de 1 segundo. Atributos para permissões POSIX e ACLs do Windows são suportados. O PAX pode armazenar fluxos de dados alternativos NTFS e bifurcações de recursos. Links simbólicos e links físicos também são representáveis.
O PAX SDK de código aberto fornece APIs simples para criar, extrair, atualizar e verificar arquivos PAX programaticamente. Ele lida com todos os detalhes de baixo nível do formato PAX. O SDK está disponível em várias linguagens, incluindo C, C++, C#, Java, Python, JavaScript, Go e Rust.
Em resumo, o formato de arquivo PAX se baseia na base de formatos comprovados como ZIP, ao mesmo tempo em que introduz recursos e otimizações modernas - compactação eficiente, multithreading, acesso aleatório, segurança e uma especificação aberta. Isso torna o PAX ideal para uma ampla gama de cenários de arquivamento nos sistemas atuais.
A compactação de arquivos reduz redundâncias para que as mesmas informações ocupem menos bits. O limite superior é definido pela teoria da informação: em compactação sem perdas, a fronteira é a entropia da fonte (veja o teorema de codificação de fonte de Shannon teorema de codificação de fonte e seu artigo original de 1948 “A Mathematical Theory of Communication”). Para compactação com perdas, o trade-off entre taxa e qualidade é capturado pela teoria taxa-distorção.
A maioria dos compressores tem duas etapas. Primeiro, um modelo prevê ou expõe estrutura nos dados. Depois, um codificador transforma essas previsões em padrões de bits quase ótimos. Uma família clássica é Lempel–Ziv LZ77 (1977) e LZ78 (1978) detectam substrings repetidas e emitem referências em vez de bytes brutos. Do lado da codificação Huffman (veja o artigo de 1952) dá códigos menores a símbolos mais prováveis. Codificação aritmética e codificação por intervalos chegam ainda mais perto do limite de entropia, enquanto Asymmetric Numeral Systems (ANS) modernos atingem taxas similares com implementações rápidas baseadas em tabelas.
DEFLATE (usado por gzip, zlib e ZIP) combina LZ77 com Huffman. As especificações são públicas: DEFLATE RFC 1951, wrapper zlib RFC 1950e formato gzip RFC 1952. O gzip é moldado para streaming e não tenta fornecer acesso aleatório. PNG padroniza DEFLATE como único método de compressão (janela máxima de 32 KiB) segundo “Compression method 0… deflate/inflate… at most 32768 bytes” e o W3C/ISO PNG 2nd Edition.
Zstandard (zstd): um compressor moderno de uso geral pensado para altas taxas e decompactação muito rápida. O formato está em RFC 8878 (e no espelho HTML) além da especificação de referência no GitHub. Assim como gzip, o frame básico não mira acesso aleatório. Um superpoder do zstd são dicionários: pequenas amostras do seu corpus que reduzem drasticamente muitos arquivos pequenos ou parecidos (consulte a documentação de dicionários do python-zstandard e o exemplo de Nigel Tao). Implementações aceitam dicionários “unstructured” e “structured” (discussão).
Brotli: otimizado para conteúdo web (ex.: fontes WOFF2, HTTP). Mistura um dicionário estático com um núcleo LZ+entropia parecido com DEFLATE. Sua especificação é RFC 7932, que também descreve uma janela 2WBITS−16 com WBITS em [10, 24] (1 KiB−16 B até 16 MiB−16 B) e diz que não fornece acesso aleatório. Brotli costuma superar gzip em texto web e ainda decodifica rápido.
Contêiner ZIP: ZIP é um arquivo que pode armazenar entradas com diversos métodos (deflate, store, zstd etc.). O padrão de fato é o APPNOTE da PKWARE (veja o portal APPNOTE, uma cópia hospedadae os resumos da LC ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 mira velocidade bruta com razões modestas. Consulte a página do projeto (“extremely fast compression”) e o formato de frame. Ideal para caches em memória, telemetria ou pipelines quentes que exigem decompactação quase na velocidade da RAM.
XZ / LZMA busca densidade (ótimas taxas) com compressão relativamente lenta. XZ é um contêiner; quem faz o serviço pesado é normalmente LZMA/LZMA2 (modelagem tipo LZ77 + range coding). Veja o formato .xz, a especificação LZMA (Pavlov)e notas do kernel Linux sobre XZ Embedded. XZ costuma comprimir melhor que gzip e rivaliza com codecs modernos de alta taxa, porém com tempos de codificação mais longos.
bzip2 usa Transformada de Burrows–Wheeler (BWT), move-to-front, RLE e Huffman. Geralmente gera arquivos menores que gzip, porém mais devagar; veja o manual oficial e as páginas man (Linux).
O “tamanho da janela” importa. Referências DEFLATE olham no máximo 32 KiB para trás (RFC 1951) e o limite de 32 KiB do PNG documentado aqui. Brotli cobre janelas de ~1 KiB a 16 MiB (RFC 7932). Zstd ajusta janela e profundidade de busca pelos níveis (RFC 8878). Streams básicos de gzip/zstd/brotli foram feitos para decodificação sequencial; os formatos não prometem acesso aleatório, embora contêineres (tar com índice, framing em blocos ou índices específicos) possam adicioná-lo.
Os formatos acima são sem perdas: recuperam exatamente os mesmos bytes. Codecs de mídia costumam ser com perdas: descartam detalhes imperceptíveis para atingir taxas mais baixas. Em imagens, o JPEG clássico (DCT, quantização, codificação entropia) é padronizado em ITU-T T.81 / ISO/IEC 10918-1. Em áudio, MP3 (MPEG-1 Layer III) e AAC (MPEG-2/4) usam modelos perceptuais e transformadas MDCT (veja ISO/IEC 11172-3, ISO/IEC 13818-7e a visão geral de MDCT aqui). As abordagens com e sem perdas podem coexistir (ex.: PNG para ativos de UI; codecs web para imagem/vídeo/áudio).
Teoria Shannon 1948 · Rate–distortion · Codificação Huffman 1952 · Codificação aritmética · Range coding · ANS. Formatos DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · Formato XZ. Pilha BWT Burrows–Wheeler (1994) · manual do bzip2. Mídia JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Em resumo: escolha um compressor que combine com seus dados e restrições, meça em entradas reais e não esqueça os ganhos de dicionários e framing inteligente. Com o par certo você obtém arquivos menores, transferências mais rápidas e apps mais responsivos sem sacrificar correção ou portabilidade.
A compressão de arquivos é um processo que reduz o tamanho de um arquivo ou arquivos, normalmente para economizar espaço de armazenamento ou acelerar a transmissão em uma rede.
A compressão de arquivos funciona identificando e removendo redundâncias nos dados. Ela usa algoritmos para codificar os dados originais em um espaço menor.
Os dois principais tipos de compressão de arquivos são a compressão sem perdas e a compressão com perdas. A compressão sem perdas permite que o arquivo original seja perfeitamente restaurado, enquanto a compressão com perdas permite uma redução de tamanho mais significativa com alguma perda de qualidade dos dados.
Um exemplo popular de uma ferramenta de compressão de arquivos é o WinZip, que suporta vários formatos de compressão, incluindo ZIP e RAR.
Com compressão sem perdas, a qualidade permanece inalterada. No entanto, com compressão com perdas, pode haver uma diminuição perceptível na qualidade, pois elimina dados menos importantes para reduzir significativamente o tamanho do arquivo.
Sim, a compressão de arquivos é segura em termos de integridade dos dados, especialmente com compressão sem perdas. No entanto, como qualquer arquivo, os arquivos comprimidos podem ser alvo de malware ou vírus, por isso, é sempre importante ter um software de segurança de boa reputação.
Quase todos os tipos de arquivos podem ser comprimidos, incluindo arquivos de texto, imagens, áudio, vídeo e arquivos de software. No entanto, o nível de compressão alcançável pode variar significativamente entre os tipos de arquivo.
Um arquivo ZIP é um tipo de formato de arquivo que usa compressão sem perdas para reduzir o tamanho de um ou mais arquivos. Vários arquivos em um arquivo ZIP são efetivamente agrupados em um único arquivo, o que também facilita o compartilhamento.
Tecnicamente, sim, embora a redução de tamanho adicional possa ser mínima ou até contraproducente. Comprimir um arquivo já comprimido pode às vezes aumentar seu tamanho devido aos metadados adicionados pelo algoritmo de compressão.
Para descomprimir um arquivo, geralmente você precisa de uma ferramenta de descompressão ou descompactação, como WinZip ou 7-Zip. Essas ferramentas podem extrair os arquivos originais do formato comprimido.