Извлечь файл SHAR

Без ограничений заданий. Размер файлов до 2.5ГБ. Бесплатно, вечно.

Все локально

Наш конвертер работает в вашем браузере, поэтому мы никогда не видим ваши данные.

Быстрый как молния

Нет необходимости загружать ваши файлы на сервер - преобразования начинаются мгновенно.

Безопасность по умолчанию

В отличие от других конвертеров, ваши файлы никогда не загружаются к нам.

Что такое формат SHAR?

Shell архив

Формат PAX (Packed Archive Format) — это формат файла, используемый для архивирования и сжатия файлов и каталогов. Изначально он был разработан Google и основан на сочетании методов из форматов ZIP и tar. PAX стремится обеспечить эффективное сжатие, быстрый произвольный доступ к файлам и расширяемость для пользовательских метаданных.

В основе архива PAX лежит центральный каталог, содержащий метаданные об архивированных файлах, за которым следуют сами сжатые данные файла. Центральный каталог всегда находится в конце архива для быстрого доступа без необходимости сканирования всего файла.

Каждая запись файла в центральном каталоге включает такую информацию, как путь к файлу, размер, временная метка, контрольная сумма CRC32 и используемый метод сжатия. Путь к файлу хранится как строка Unicode, что позволяет поддерживать имена файлов, не содержащие символы ASCII. PAX использует кодировку UTF-8 для путей к файлам.

Для сжатия PAX поддерживает несколько алгоритмов, включая DEFLATE, Brotli и Zstandard (zstd). DEFLATE — это метод по умолчанию, который является тем же алгоритмом, используемым в ZIP и gzip. Он обеспечивает хороший баланс между степенью сжатия и скоростью. Brotli и Zstandard — это более новые алгоритмы, которые могут обеспечивать более высокую степень сжатия, особенно для определенных типов данных, таких как текстовые файлы, за счет более низкой скорости сжатия и распаковки.

Сжатые данные файла в PAX хранятся в блоках, при этом каждый блок имеет максимальный несжатый размер 1 МБ. Такое блочное хранение обеспечивает эффективный произвольный доступ к файлам, поскольку для извлечения определенного файла необходимо найти и распаковать только необходимые блоки, а не обрабатывать весь архив.

Одной из ключевых особенностей PAX является поддержка сплошного сжатия. При сплошном сжатии архив рассматривается как один непрерывный поток данных, а не как набор отдельных файлов. Это позволяет компрессору находить избыточности и закономерности между границами файлов, что потенциально приводит к более высокой степени сжатия. Однако сплошное сжатие может повлиять на возможность быстрого доступа к отдельным файлам, поскольку может потребоваться распаковка всего архива до нужного файла.

PAX также включает проверки целостности для обнаружения повреждения данных. Каждая запись файла в центральном каталоге включает контрольную сумму CRC32 несжатых данных файла. При извлечении файлов PAX вычисляет контрольную сумму распакованных данных и сравнивает ее с сохраненной контрольной суммой для проверки целостности. Кроме того, архивы PAX могут включать необязательную цифровую подпись для обеспечения аутентификации и обнаружения несанкционированного доступа.

Для повышения производительности PAX поддерживает многопоточное сжатие и распаковку. Файлы можно сжимать и записывать в архив параллельно, используя несколько ядер ЦП. Аналогично, при извлечении несколько файлов можно распаковывать одновременно. Такая параллельная обработка может значительно ускорить операции архивирования и извлечения на многоядерных системах.

Архивы PAX также могут хранить дополнительные метаданные помимо стандартных атрибутов файла. Пользовательские метаданные можно назначать файлам и каталогам с помощью пар ключ-значение. Эти метаданные хранятся в центральном каталоге вместе с записями файлов. Примерами пользовательских метаданных могут быть информация об авторе, категории файлов или данные, зависящие от приложения.

Поддержка потоковой передачи — еще одна особенность PAX. Архивы можно создавать и извлекать в потоковом режиме, без необходимости загружать весь архив в память. Это особенно полезно при работе с большими архивами или при работе с ограниченными ресурсами памяти. Потоковая передача позволяет создавать архивы на лету или обрабатывать их по мере получения данных через сетевое соединение.

Для обратной совместимости и взаимодействия архивы PAX могут включать резервный архив ZIP. Архив ZIP добавляется в конец архива PAX и содержит те же файлы в традиционном формате ZIP. Это позволяет старым инструментам, которые не поддерживают PAX, по-прежнему извлекать файлы из части ZIP архива.

PAX приобрел популярность благодаря своей эффективности, гибкости и реализации с открытым исходным кодом. Он поддерживается различными инструментами и библиотеками архивирования на разных платформах. Эталонная реализация, называемая libpax, написана на C и предоставляет низкоуровневый API для создания и извлечения архивов PAX.

Одним из ограничений PAX является то, что он изначально не поддерживает шифрование. Однако шифрование можно реализовать, объединив PAX с другими методами шифрования или используя сторонние инструменты, основанные на формате PAX.

Подводя итог, PAX (Packed Archive Format) — это универсальный и эффективный формат архивирования файлов, который предлагает такие функции, как быстрый произвольный доступ, сплошное сжатие, параллельная обработка, пользовательские метаданные и поддержка потоковой передачи. Сочетание алгоритмов сжатия, блочного хранения и расширяемости делает его привлекательным выбором для архивирования и распространения файлов.

Сжатие файлов уменьшает избыточность, чтобы те же данные занимали меньше бит. Верхняя граница задаётся теорией информации: для без потерь пределом является энтропия источника (см. теорему кодирования источника Шеннона source coding theorem и его оригинальную статью 1948 года «A Mathematical Theory of Communication»). Для сжатия с потерями компромисс между битрейтом и качеством описывает теория rate–distortion.

Два столпа: моделирование и кодирование

Большинство компрессоров работают в два этапа. Сначала модель предсказывает или выявляет структуру данных. Затем кодер превращает эти предсказания в почти оптимальные шаблоны битов. Классическая семья моделей — Lempel–Ziv LZ77 (1977) и LZ78 (1978) находят повторяющиеся подстроки и излучают ссылки вместо сырых байтов. На стороне кодирования кодирование Хаффмана (см. статью 1952 года) назначает более короткие коды вероятным символам. Арифметическое кодирование и range coding ещё точнее приближаются к пределу энтропии, а современные Asymmetric Numeral Systems (ANS) дают схожие коэффициенты при табличных реализациях.

Что делают популярные форматы

DEFLATE (используют gzip, zlib, ZIP) сочетает LZ77 и Хаффмана. Спецификации открыты: DEFLATE RFC 1951, оболочка zlib RFC 1950и формат gzip RFC 1952. Gzip ориентирован на потоковую передачу и явно не обеспечивает произвольный доступ. PNG закрепляет DEFLATE как единственный метод (окно до 32 КиБ) согласно спецификации «Compression method 0…» и W3C/ISO PNG 2nd Edition.

Zstandard (zstd): современный универсальный компрессор с высокими коэффициентами и очень быстрой декомпрессией. Формат описан в RFC 8878 HTML-зеркале) и в референс-спеке на GitHub. Как и gzip, базовый фрейм не предполагает произвольного доступа. Главное преимущество zstd — словари: маленькие образцы корпуса, резко улучшающие сжатие множества крошечных или похожих файлов (см.документацию словарей python-zstandard и пример Nigela Tao). Реализации принимают «unstructured» и «structured» словари (обсуждение).

Brotli: оптимизирован для веб-контента (WOFF2, HTTP). Совмещает статический словарь и DEFLATE-подобное ядро LZ+энтропия. Спецификация — RFC 7932, где указано окно 2WBITS−16 с WBITS в [10, 24] и то, что формат не предоставляет произвольный доступ. Brotli часто превосходит gzip на веб-тексте и быстро декодируется.

Контейнер ZIP: ZIP — файловый архив, поддерживающий разные методы (deflate, store, zstd и др.). Де-факто стандарт — APPNOTE PKWARE (см.портал APPNOTE, размещённую копиюи обзоры LC ZIP File Format (PKWARE) / ZIP 6.3.3).

Скорость vs коэффициент

LZ4 ориентирован на максимальную скорость при умеренных коэффициентах. См. страницу проекта и формат фреймов. Подходит для кэшей в памяти, телеметрии и горячих путей, где декомпрессия должна быть почти со скоростью RAM.

XZ / LZMA гнётся за плотностью (высоким коэффициентом), но компрессует медленнее. XZ — контейнер; основную работу делают LZMA/LZMA2 (моделирование наподобие LZ77 + range coding). См.формат .xz, спецификацию LZMA (Павлов)и заметки ядра Linux про XZ Embedded. XZ обычно сжимает лучше gzip и соперничает с современными кодеками высокой плотности, но кодирует дольше.

bzip2 использует преобразование Бэрроуза–Уилера (BWT), move-to-front, RLE и Хаффмана. Обычно даёт файлы меньше, чем gzip, но медленнее; см.официальный мануал и man-страницу (Linux).

Окна, блоки и произвольный доступ

Важен размер окна. Ссылки DEFLATE смотрят максимум на 32 КиБ назад (RFC 1951) и ограничение PNG 32 КиБ здесь. Brotli поддерживает окна от ~1 КиБ до 16 МиБ (RFC 7932). Zstd настраивает окно и глубину поиска уровнями (RFC 8878). Базовые потоки gzip/zstd/brotli спроектированы для последовательного чтения; сами форматы не гарантируют произвольный доступ, хотя контейнеры (индексы tar, блочное фреймирование, форматные индексы) могут его добавить.

Lossless vs lossy

Форматы выше — lossless: можно восстановить те же байты. Медиа-кодеки часто lossy: они отбрасывают незаметные детали ради меньших битрейтов. Для изображений классический JPEG (DCT, квантование, энтропийное кодирование) стандартизован в ITU-T T.81 / ISO/IEC 10918-1. В аудио MP3 (MPEG-1 Layer III) и AAC (MPEG-2/4) используют перцепционные модели и MDCT (см.ISO/IEC 11172-3, ISO/IEC 13818-7и обзор MDCT здесь). Lossy и lossless могут сосуществовать (PNG для UI, веб-кодеки для изображений/видео/аудио).

Практические советы

  • Выбирайте под задачу. Текст и шрифты для веба brotli. Общие файлы и бэкапы zstd (быстрая декомпрессия и уровни для обмена временем на коэффициент). Сверхбыстрые каналы и телеметрия lz4. Максимальная плотность для долгосрочных архивов, если время кодирования приемлемо xz/LZMA.
  • Мелкие файлы? Тренируйте и поставляйте словари для zstd (доки) / (пример). Они значительно ужимают десятки маленьких похожих объектов.
  • Интероперабельность. При обмене множеством файлов используйте контейнер (ZIP, tar) плюс компрессор. APPNOTE для ZIP задаёт идентификаторы методов и возможности; смотрите PKWARE APPNOTE и обзоры LC здесь.
  • Мерьте на своих данных. Коэффициенты и скорости зависят от корпуса. Многие репозитории публикуют бенчмарки (например, README LZ4 ссылается на корпус Silesia здесь), но всегда проверяйте локально.

Ключевые источники (углубиться)

Теория Shannon 1948 · Rate–distortion · Кодирование Huffman 1952 · Арифметическое кодирование · Range coding · ANS. Форматы DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 frame · XZ format. Стек BWT Burrows–Wheeler (1994) · руководство bzip2. Медиа JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.

Итог: подбирайте компрессор под свои данные и ограничения, измеряйте на реальных входах и не забывайте о выгоде словарей и умного фрейминга. С удачной парой получите меньшие файлы, быстрые передачи и отзывчивые приложения без ущерба корректности и переносимости.

Часто задаваемые вопросы

Что такое сжатие файлов?

Сжатие файлов - это процесс, который уменьшает размер файла или файлов, обычно для экономии места на диске или ускорения передачи по сети.

Как работает сжатие файлов?

Сжатие файлов работает путем идентификации и удаления избыточности в данных. Оно использует алгоритмы для кодирования исходных данных в более маленьком пространстве.

Какие существуют типы сжатия файлов?

Два основных типа сжатия файлов: без потерь и с потерями. Сжатие без потерь позволяет восстановить исходный файл целиком, в то время как сжатие с потерями обеспечивает более значительное уменьшение размера за счет небольшой потери в качестве данных.

Приведите пример инструмента для сжатия файлов?

Популярным примером инструмента для сжатия файлов является WinZip, который поддерживает несколько форматов сжатия, включая ZIP и RAR.

Влияет ли сжатие файлов на качество файлов?

При сжатии без потерь качество остается неизменным. Однако при сжатии с потерями может быть заметное снижение качества, поскольку оно удаляет менее важные данные для более значительного уменьшения размера файла.

Безопасно ли сжатие файлов?

Да, сжатие файлов безопасно с точки зрения целостности данных, особенно при сжатии без потерь. Однако, как и любые файлы, сжатые файлы могут стать целью для вредоносного ПО или вирусов, поэтому всегда важно иметь надежное программное обеспечение безопасности.

Какие типы файлов можно сжимать?

Почти все типы файлов можно сжимать, включая текстовые файлы, изображения, аудио, видео и программные файлы. Однако уровень достижимого сжатия может значительно варьироваться в зависимости от типа файла.

Что такое ZIP-файл?

ZIP-файл - это тип формата файла, который использует сжатие без потерь для уменьшения размера одного или нескольких файлов. Несколько файлов в ZIP-файле фактически объединяются в один файл, что также упрощает обмен данными.

Могу ли я сжать уже сжатый файл?

Технически, да, хотя дополнительное уменьшение размера может быть минимальным или даже противопродуктивным. Сжатие уже сжатого файла иногда может увеличить его размер из-за метаданных, добавленных алгоритмом сжатия.

Как я могу распаковать файл?

Чтобы распаковать файл, обычно вам нужен инструмент для распаковки или разархивации, такой как WinZip или 7-Zip. Эти инструменты могут извлечь исходные файлы из сжатого формата.