PAX (Pre-Allocate eXtension) là định dạng lưu trữ nén nguồn mở do Microsoft phát triển như một giải pháp thay thế hiện đại cho các định dạng hiện có như ZIP, RAR và tar. Định dạng này được thiết kế để giải quyết các hạn chế và cải thiện khả năng nén, hiệu suất, bảo mật và chức năng xử lý lưu trữ trên các hệ thống và thiết bị hiện đại.
Các tính năng khác biệt chính của định dạng PAX bao gồm khả năng nén nâng cao bằng các thuật toán hiện đại, truy cập ngẫu nhiên hiệu quả vào các tệp trong lưu trữ, hỗ trợ đa luồng gốc, siêu dữ liệu có thể mở rộng, mã hóa tích hợp và kiểm tra tính toàn vẹn, cũng như thông số kỹ thuật mở được ghi chép để khuyến khích áp dụng rộng rãi và khả năng tương tác.
Lưu trữ PAX sử dụng phần mở rộng tệp .pax và có cấu trúc nội bộ nhiều phần bao gồm tiêu đề, thư mục trung tâm, khối dữ liệu nén và chân trang. Điều này cho phép lưu trữ thông tin chính như nội dung lưu trữ, thông số nén và băm toàn vẹn riêng biệt với dữ liệu tệp nén thực tế.
Tiêu đề PAX bắt đầu bằng một số ma thuật 4 byte (50 41 58 00 ở dạng hex) để nhận dạng. Sau đó, nó chứa các trường cho phiên bản PAX, phương pháp nén, phương pháp mã hóa, phương pháp băm, kích thước khối, số luồng nén song song và nhiều cờ khác nhau. Tiêu đề kết thúc bằng siêu dữ liệu XML có thể mở rộng cung cấp thông tin chi tiết về lưu trữ.
Theo sau tiêu đề là thư mục trung tâm PAX. Thư mục này chứa một mục cho mỗi tệp/thư mục nén trong lưu trữ, lưu trữ đường dẫn đầy đủ, thuộc tính, kích thước, bù khối và băm. Việc có điều này ở một nơi cho phép liệt kê hiệu quả nội dung lưu trữ và truy cập ngẫu nhiên vào các tệp riêng lẻ mà không cần quét qua dữ liệu nén.
Phần lớn lưu trữ PAX là một loạt các khối dữ liệu nén. Mỗi khối có một tiêu đề nhỏ cho biết kích thước chưa nén và đã nén, theo sau là một phần dữ liệu tệp được nén bằng thuật toán được định cấu hình. Kích thước mặc định của các khối là 1 MB nhưng có thể điều chỉnh được trong tiêu đề lưu trữ.
Các khối dữ liệu nén được mã hóa tùy chọn nếu có chỉ định phương pháp mã hóa. PAX hỗ trợ các lược đồ mã hóa hiện đại như AES-256. Mật khẩu lưu trữ được sử dụng để tạo khóa mã hóa từng khối một cách độc lập, cho phép truy cập ngẫu nhiên hiệu quả. Để xác thực, PAX băm mật khẩu bằng KDF an toàn.
Để nén, PAX hỗ trợ nhiều codec đa năng hiện đại được tối ưu hóa để giải nén nhanh: LZMA, LZ4, Brotli, Zstandard, v.v. Nó cũng cho phép các bộ tiền xử lý để giảm kích thước hơn nữa trên các loại tệp cụ thể (ví dụ: mã hóa Delta trên EXE/DLL, mã hóa E8E9 trên mã x86). Codec và bộ tiền xử lý được áp dụng trong một đường ống.
Để kích hoạt nén đa luồng hiệu quả, các tệp được phân vùng thành các khối nén độc lập có thể được xử lý bởi các phiên bản codec song song. Bộ nén PAX tự động mở rộng để sử dụng tất cả các lõi CPU khả dụng. Phân vùng tương tự cho phép giải nén song song để trích xuất nhanh hơn.
PAX cung cấp tính toàn vẹn dữ liệu và phát hiện giả mạo bằng cách lưu trữ các băm của dữ liệu gốc và dữ liệu nén. Lưu trữ mang theo một băm tiêu đề để phát hiện sự cắt bớt. Thư mục trung tâm cũng được băm để ngăn chặn giả mạo siêu dữ liệu tệp. Sự mục nát bit trong dữ liệu nén được phát hiện bằng cách băm từng khối.
Ở cuối lưu trữ PAX là chân trang. Chân trang này chứa một bản sao của các trường tiêu đề, bù/kích thước của thư mục trung tâm và một băm toàn lưu trữ. Chân trang có kích thước cố định và luôn ở cuối tệp, cho phép định vị và xác minh dễ dàng các lưu trữ PAX.
Lưu trữ PAX có thể được cập nhật hiệu quả bằng cách sửa đổi thư mục trung tâm và thêm các khối dữ liệu đã thay đổi, so với việc ghi lại toàn bộ lưu trữ như ZIP. Toàn bộ tệp có thể được chèn, xóa hoặc thay thế bằng cách cập nhật siêu dữ liệu và thêm/xóa các khối có liên quan. Lưu trữ cũng có thể được nhanh chóng thêm vào.
Để giảm thiểu các lỗ hổng trượt zip, PAX yêu cầu các đường dẫn rõ ràng (không có ../ traversal) và ngăn chặn việc ghi bên ngoài gốc trích xuất. Các trường siêu dữ liệu ZIP dài cho phép từ chối dịch vụ bị hạn chế. Các quả bom nén được giảm thiểu thông qua các giới hạn về tỷ lệ nén và mức sử dụng bộ nhớ.
Dấu thời gian tệp trong lưu trữ PAX sử dụng định dạng 64 bit tiêu chuẩn bao gồm nhiều ngày với độ chính xác 1 giây. Các thuộc tính cho quyền POSIX và ACL Windows được hỗ trợ. PAX có thể lưu trữ các luồng dữ liệu thay thế NTFS và các nhánh tài nguyên. Symlink và hardlink cũng có thể biểu diễn được.
SDK PAX nguồn mở cung cấp các API đơn giản để tạo, trích xuất, cập nhật và xác minh lưu trữ PAX theo chương trình. Nó xử lý tất cả các chi tiết cấp thấp của định dạng PAX. SDK có sẵn bằng nhiều ngôn ngữ bao gồm C, C++, C#, Java, Python, JavaScript, Go và Rust.
Tóm lại, định dạng lưu trữ PAX dựa trên nền tảng của các định dạng đã được chứng minh như ZIP trong khi giới thiệu các tính năng và tối ưu hóa hiện đại - nén hiệu quả, đa luồng, truy cập ngẫu nhiên, bảo mật và thông số kỹ thuật mở. Điều này làm cho PAX trở nên lý tưởng cho nhiều tình huống lưu trữ trên các hệ thống ngày nay.
Nén tệp giảm độ dư thừa để cùng một lượng thông tin sử dụng ít bit hơn. Giới hạn trên được quyết định bởi lý thuyết thông tin: với nén không mất dữ liệu, giới hạn là entropy của nguồn (xem định lý mã nguồn của Shannon source coding theorem và bài báo gốc năm 1948 “A Mathematical Theory of Communication”). Với nén mất dữ liệu, sự đánh đổi giữa bitrate và chất lượng được mô tả bởi lý thuyết rate–distortion.
Hầu hết bộ nén có hai giai đoạn. Đầu tiên một mô hình dự đoán hoặc lộ ra cấu trúc trong dữ liệu. Sau đó một bộ mã biến các dự đoán đó thành mẫu bit gần tối ưu. Gia đình kinh điển là Lempel–Ziv LZ77 (1977) và LZ78 (1978) phát hiện chuỗi lặp rồi phát các tham chiếu thay vì byte thô. Ở phía mã hóa mã Huffman (bài gốc 1952) gán mã ngắn hơn cho ký hiệu có xác suất cao. Mã hóa số học và range coding tiến gần hơn nữa tới giới hạn entropy, trong khi Asymmetric Numeral Systems (ANS) hiện đại đạt được tỷ lệ tương tự với các bảng tra cứu nhanh.
DEFLATE (dùng bởi gzip, zlib, ZIP) kết hợp LZ77 và Huffman. Đặc tả đều mở: DEFLATE RFC 1951, lớp bọc zlib RFC 1950và định dạng gzip RFC 1952. Gzip được thiết kế cho streaming và không cung cấp truy cập ngẫu nhiên. PNG chuẩn hóa DEFLATE là phương pháp duy nhất (cửa sổ tối đa 32 KiB) theo đặc tả “Compression method 0…” và W3C/ISO PNG 2nd Edition.
Zstandard (zstd): bộ nén đa dụng mới cung cấp tỷ lệ cao và giải nén cực nhanh. Định dạng có trong RFC 8878 (cùng bản HTML) và đặc tả tham chiếu trên GitHub. Như gzip, frame cơ bản không nhắm tới truy cập ngẫu nhiên. Siêu năng lực của zstd là từ điển: mẫu nhỏ từ tập dữ liệu giúp hàng loạt tệp nhỏ/giống nhau nén tốt hơn (xem tài liệu python-zstandard và ví dụ của Nigel Tao). Triển khai hỗ trợ cả từ điển “unstructured” lẫn “structured” (thảo luận).
Brotli: tối ưu cho nội dung web (font WOFF2, HTTP). Kết hợp từ điển tĩnh và lõi LZ+entropy giống DEFLATE. Đặc tả là RFC 7932, mô tả cửa sổ 2WBITS−16 với WBITS [10, 24] (1 KiB−16 B tới 16 MiB−16 B) và rằng nó không cung cấp truy cập ngẫu nhiên. Brotli thường vượt gzip trên văn bản web và giải nén nhanh.
Vỏ chứa ZIP: ZIP là kho tệp có thể lưu nhiều phương pháp nén (deflate, store, zstd...). Chuẩn thực tế là APPNOTE của PKWARE (xem cổng APPNOTE, bản lưu trữvà tóm tắt của LC ZIP File Format (PKWARE) / ZIP 6.3.3).
LZ4 ưu tiên tốc độ tuyệt đối với tỷ lệ vừa phải. Xem trang dự án và định dạng frame. Lý tưởng cho cache trong RAM, telemetri hoặc đường nóng cần giải nén gần tốc độ bộ nhớ.
XZ / LZMA hướng đến mật độ cao (tỷ lệ tốt) với thời gian nén chậm hơn. XZ là vỏ chứa; công việc chính do LZMA/LZMA2 (mô hình LZ77 + range coding) đảm nhiệm. Xem định dạng .xz, đặc tả LZMA (Pavlov)và ghi chú kernel Linux về XZ Embedded. XZ thường nén tốt hơn gzip và cạnh tranh với codec hiện đại, nhưng mã hóa lâu hơn.
bzip2 dùng Biến đổi Burrows–Wheeler (BWT), move-to-front, RLE và Huffman. Thường nhỏ hơn gzip nhưng chậm hơn; xem hướng dẫn chính thức và trang man (Linux).
Kích thước “cửa sổ” rất quan trọng. Tham chiếu DEFLATE chỉ nhìn lại 32 KiB (RFC 1951) và giới hạn 32 KiB của PNG được nêu ở đây. Brotli hỗ trợ cửa sổ từ ~1 KiB đến 16 MiB (RFC 7932). Zstd điều chỉnh cửa sổ và độ sâu tìm kiếm theo level (RFC 8878). Dòng cơ sở của gzip/zstd/brotli hướng tới giải nén tuần tự; bản thân định dạng không hứa truy cập ngẫu nhiên, nhưng các vỏ chứa (tar có chỉ mục, framing theo khối, chỉ mục chuyên biệt) có thể bổ sung.
Các định dạng tr ên là lossless: bạn khôi phục đúng byte ban đầu. Codec media thường lossy: loại bỏ chi tiết khó nhận biết để giảm bitrate. Với ảnh, JPEG cổ điển (DCT, lượng tử hóa, mã entropy) được chuẩn hóa trong ITU-T T.81 / ISO/IEC 10918-1. Với âm thanh, MP3 (MPEG-1 Layer III) và AAC (MPEG-2/4) dùng mô hình cảm nhận và biến đổi MDCT (xem ISO/IEC 11172-3, ISO/IEC 13818-7và tổng quan MDCT tại đây). Lossy và lossless có thể cùng tồn tại (ví dụ PNG cho UI, codec web cho ảnh/video/audio).
Lý thuyết Shannon 1948 · Rate–distortion · Mã hóa Huffman 1952 · Mã số học · Range coding · ANS. Định dạng DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · định dạng XZ. Chuỗi BWT Burrows–Wheeler (1994) · hướng dẫn bzip2. Media JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
Tóm lại: hãy chọn bộ nén phù hợp dữ liệu và ràng buộc của bạn, đo trên dữ liệu thực và đừng quên lợi ích từ từ điển cùng cách đóng gói thông minh. Khi ghép đúng, bạn sẽ có tệp nhỏ hơn, truyền nhanh hơn và ứng dụng phản hồi hơn mà không hy sinh độ chính xác hay tính di động.
Nén file là quá trình giảm kích thước của một file hoặc các file, thường để tiết kiệm không gian lưu trữ hoặc tăng tốc độ truyền trên mạng.
Nén file hoạt động bằng cách xác định và loại bỏ sự trùng lặp trong dữ liệu. Nó sử dụng thuật toán để mã hóa dữ liệu gốc trong một không gian nhỏ hơn.
Hai loại chính của nén file là nén lossless và lossy. Nén lossless cho phép phục hồi hoàn toàn file gốc, trong khi nén lossy cho phép giảm kích thước đáng kể hơn nhưng có thể mất một phần chất lượng dữ liệu.
Một ví dụ phổ biến về công cụ nén file là WinZip, hỗ trợ nhiều định dạng nén bao gồm ZIP và RAR.
Với nén lossless, chất lượng không thay đổi. Tuy nhiên, với nén lossy, có thể có sự giảm chất lượng rõ rệt do nó loại bỏ dữ liệu ít quan trọng để giảm kích thước file đáng kể hơn.
Có, nén file an toàn về mặt tính toàn vẹn của dữ liệu, đặc biệt với nén lossless. Tuy nhiên, giống như bất kỳ file nào, file nén có thể bị mục tiêu bởi malware hoặc virus, vì vậy luôn quan trọng khi có phần mềm bảo mật uy tín.
Hầu như tất cả các loại file đều có thể được nén, bao gồm file văn bản, hình ảnh, audio, video và file phần mềm. Tuy nhiên, mức độ nén có thể thực hiện đáng kể có thể thay đổi giữa các loại file khác nhau.
ZIP file là một loại định dạng file sử dụng nén lossless để giảm kích thước của một hoặc nhiều file. Nhiều file trong một ZIP file effectively được gói lại thành một file duy nhất, điều này cũng giúp việc chia sẻ dễ dàng hơn.
Về mặt kỹ thuật, có, mặc dù việc giảm kích thước thêm có thể tối thiểu hoặc thậm chí phản tác dụng. Nén một file đã được nén đôi khi có thể tăng kích thước do metadata được thêm vào bởi thuật toán nén.
Để giải nén một file, bạn thường cần một công cụ giải nén hoặc giải nén, như WinZip hoặc 7-Zip. Những công cụ này có thể trích xuất các file gốc từ định dạng nén.