জেডএসটিডি, জেডস্ট্যান্ডার্ডের সংক্ষিপ্ত রূপ, একটি দ্রুত এবং দক্ষ লসলেস কম্প্রেশন অ্যালগরিদম এবং ফাইল ফরম্যাট যা ফেসবুকে ইয়ান কলেট দ্বারা উন্নত করা হয়েছে। এটি দ্রুত কম্প্রেশন এবং ডিকম্প্রেশন গতি বজায় রাখার পাশাপাশি উচ্চ কম্প্রেশন অনুপাত প্রদানের জন্য ডিজাইন করা হয়েছে, যা এটিকে রিয়েল-টাইম কম্প্রেশন দৃশ্যনাট্য এবং বৃহৎ ডেটাসেটের কম্প্রেশনের জন্য উপযুক্ত করে তোলে।
জেডএসটিডি ফরম্যাট একটি দ্রুত এনট্রপি স্টেজ এবং একটি শক্তিশালী লসলেস কম্প্রেশন স্টেজের সমন্বয়ের উপর ভিত্তি করে। এনট্রপি স্টেজ ফিনাইট স্টেট এনট্রপি (এফএসই) এবং হাফম্যান কোডিং ব্যবহার করে, যখন লসলেস কম্প্রেশন স্টেজ জেডস্ট্যান্ডার্ড ডিকশনারি কম্প্রেশন (জেডডিক) নামে এলজেড৭৭ অ্যালগরিদমের একটি রূপ ব্যবহার করে।
জেডএসটিডির মূল বৈশিষ্ট্যগুলির মধ্যে একটি হল কম্প্রেশনের সময় একটি ডিকশনারি তৈরি এবং ব্যবহার করার ক্ষমতা। ডিকশনারি হল ডেটাের একটি প্রাক-শেয়ার করা সেট যা কম্প্রেসর এবং ডিকম্প্রেসর উভয়ই কম্প্রেশন অনুপাত উন্নত করতে ব্যবহার করে। জেডএসটিডি দুই ধরনের ডিকশনারি সমর্থন করে: কন্টেন্ট-সংজ্ঞায়িত ডিকশনারি এবং ব্যবহারকারী-প্রদত্ত ডিকশনারি।
কন্টেন্ট-সংজ্ঞায়িত ডিকশনারি স্বয়ংক্রিয়ভাবে ইনপুট ডেটার উপর ভিত্তি করে জেডএসটিডি কম্প্রেসর দ্বারা উৎপন্ন হয়। কম্প্রেসর পুনরাবৃত্তিমূলক প্যাটার্ন চিহ্নিত করতে এবং এই প্যাটার্নগুলিকে উপস্থাপন করে এমন একটি ডিকশনারি তৈরি করতে ডেটা বিশ্লেষণ করে। তারপর ডিকশনারিটি কম্প্রেশনের সময় পুনরাবৃত্তিমূ লক প্যাটার্নগুলিকে ডিকশনারির রেফারেন্স দ্বারা প্রতিস্থাপন করতে ব্যবহৃত হয়, যার ফলে উচ্চতর কম্প্রেশন অনুপাত পাওয়া যায়।
অন্যদিকে, ব্যবহারকারী-প্রদত্ত ডিকশনারি ব্যবহারকারী দ্বারা তৈরি করা হয় এবং একাধিক কম্প্রেসড ফাইলের মধ্যে শেয়ার করা যেতে পারে। এই ডিকশনারিগুলি একই রকম বা সম্পর্কিত ডেটা কম্প্রেস করার সময় দরকারী, কারণ এগুলি কম্প্রেসরকে ডেটা প্যাটার্নের পূর্ব-বিদ্যমান জ্ঞানকে কাজে লাগাতে দেয়। ব্যবহারকারী-প্রদত্ত ডিকশনারিগুলি কম্প্রেশন অনুপাতকে উল্লেখযোগ্যভাবে উন্নত করতে পারে, বিশেষ করে ছোট ফাইল বা সাধারণ ডেটা স্ট্রাকচারযুক্ত ফাইলের জন্য।
জেডএসটিডি একাধিক কম্প্রেশন স্তর সমর্থন করে, যা ১ থেকে ২২ পর্যন্ত, উচ্চতর স্তরগুলি ধীর কম্প্রেশন গতির বিনিময়ে আরও ভাল কম্প্রেশন অনুপাত অফার করে। ডিফল্ট কম্প্রেশন স্তর হল ৩, যা কম্প্রেশন অনুপাত এবং গতির মধ্যে একটি ভাল ভা রসাম্য প্রদান করে। জেডএসটিডিতে "আল্ট্রা" নামে একটি বিশেষ কম্প্রেশন স্তরও রয়েছে, যা সর্বোচ্চ কম্প্রেশন অনুপাত অফার করে তবে কম্প্রেশন সময়ে উল্লেখযোগ্য বৃদ্ধি ঘটে।
জেডএসটিডি ফরম্যাটে একটি হেডার থাকে যার পরে একটি বা একাধিক কম্প্রেসড ফ্রেম থাকে। হেডারে কম্প্রেসড ডেটার মেটাডেটা থাকে, যেমন ডিকশনারি আইডি, উইন্ডোর আকার এবং ফ্রেমের সংখ্যা। প্রতিটি কম্প্রেসড ফ্রেম স্বাধীন এবং পৃথকভাবে ডিকম্প্রেস করা যেতে পারে, যা সমান্তরাল ডিকম্প্রেশন এবং কম্প্রেসড ডেটার র্যান্ডম অ্যাক্সেসের অনুমতি দেয়।
জেডএসটিডিতে কম্প্রেসড ফ্রেমগুলি লিটারাল ব্লক এবং সিকোয়েন্স ব্লকের সমন্বয় ব্যবহার করে। লিটারাল ব্লকগুলিতে কাঁচা, অকম্প্রেসড ডেটা থাকে, যখন সিকোয়েন্স ব্লকগুলিতে ডিকশনারি বা পূর্বে দেখা ডেটার রেফারেন্স থাকে। রেফারেন্সের আকার কমাতে সিকোয়েন্স ব্লকগুলি এফএসই বা হাফম্যান কোডিং ব্যবহার করে এনকোড করা হয়।
জেডএসটিডি কম্প্রেশন দক্ষতা এবং গতি উন্নত করতে বেশ কয়েকটি কৌশল ব্যবহার করে। এমন একটি কৌশল হল ডিকশনারি বা পূর্বে দেখা ডেটাতে মিলিং সিকোয়েন্সগুলি দ্রুত সনাক্ত করতে একটি হ্যাশ টেবিল ব্যবহার করা। হ্যাশ টেবিলটি কম্প্রেসর ইনপুট ডেটা প্রক্রিয়াকরণ করার সাথে সাথে ক্রমাগত আপডেট করা হয়, যা সম্ভাব্য ম্যাচের দক্ষ লুকআপের অনুমতি দেয়।
জেডএসটিডি দ্বারা ব্যবহৃত আরেকটি অপ্টিমাইজেশন কৌশল হল লেজি ম্যাচিং কৌশল। একটি ম্যাচকে অবিলম্বে এনকোড করার পরিবর্তে, কম্প্রেসর দীর্ঘতর ম্যাচের জন্য অনুসন্ধান চালিয়ে যায়। যদি একটি দীর্ঘতর ম্যাচ পাওয়া যায়, তাহলে কম্প্রেসর দীর্ঘতর ম্যাচটিকে এনকোড করার পরিবর্তে এনকোড করতে বেছে নিতে পারে, যার ফলে আরও ভাল কম্প্রেশন অনুপাত পাওয়া যায়।
জেডএসটিডিতে "লং ডিস্ট্যান্স ম্যাচিং" (এলডিএম) নামে একটি দ্রুত মোডও রয়েছে, যা দীর্ ঘ-দূরত্বের ম্যাচগুলি স
ফাইল কম্প্রেশন অপ্রয়োজনীয় ডেটা কমিয়ে দেয় যাতে একই তথ্য কম বিট ব্যবহার করে। আপনি কতদূর যেতে পারবেন তার উপরের সীমা তথ্য তত্ত্ব দ্বারা নিয়ন্ত্রিত হয়: ক্ষতিহীন কম্প্রেশনের জন্য, সীমা হলো উৎসের এনট্রপি (শ্যানন-এর সোর্স কোডিং থিওরেম এবং তার আসল ১৯৪৮ সালের পেপার “যোগাযোগের একটি গাণিতিক তত্ত্ব”দেখুন)। ক্ষতিযুক্ত কম্প্রেশনের জন্য, হার এবং মানের মধ্যে ট্রেড-অফ রেট-ডিসটরশন তত্ত্ব দ্বারা ক্যাপচার করা হয়।
বেশিরভাগ কম্প্রেসারের দুটি পর্যায় থাকে। প্রথমত, একটি মডেল ডেটাতে কাঠামো ভবিষ্যদ্বাণী করে বা প্রকাশ করে। দ্বিতীয়ত, একটি কোডার সেই ভবি ষ্যদ্বাণীগুলিকে প্রায়-সর্বোত্তম বিট প্যাটার্নে পরিণত করে। একটি ক্লাসিক মডেলিং পরিবার হলো লেম্পেল-জিভ: LZ77 (১৯৭৭) এবং LZ78 (১৯৭৮) পুনরাবৃত্ত সাবস্ট্রিং শনাক্ত করে এবং কাঁচা বাইটের পরিবর্তে রেফারেন্স নির্গত করে। কোডিং দিকে, হাফম্যান কোডিং (আসল পেপারটি দেখুন ১৯৫২) বেশি সম্ভাব্য প্রতীকগুলির জন্য ছোট কোড বরাদ্দ করে। অ্যারিথমেটিক কোডিং এবং রেঞ্জ কোডিং হলো সূক্ষ্ম-দানাদার বিকল্প যা এনট্রপি সীমার কাছাকাছি চেপে ধরে, যেখানে আধুনিক অ্যাসিমেট্রিক নিউমেরাল সিস্টেম (ANS) দ্রুত টেবিল-চালিত বাস্তবায়নের মাধ্যমে অনুরূপ কম্প্রেশন অর্জন করে।
DEFLATE (gzip, zlib, এবং ZIP দ্বারা ব্যবহৃত) LZ77-কে হাফম্যান কোডিংয়ের সাথে একত্রিত করে। এর স্পেসিফিকেশনগুলি সর্বজনীন: DEFLATE RFC 1951, zlib র্যাপার RFC 1950, এবং gzip ফাইল ফরম্যাট RFC 1952. Gzip স্ট্রিমিংয়ের জন্য ফ্রেম করা হয়েছে এবং স্পষ্টভাবে র্যান্ডম অ্যাক্সেসের চেষ্টা করে না. PNG ছবিগুলি DEFLATE-কে তাদের একমাত্র কম্প্রেশন পদ্ধতি হিসাবে মানসম্মত করে (সর্বোচ্চ ৩২ KiB উইন্ডো সহ), PNG স্পেসিফিকেশন অনুযায়ী “কম্প্রেশন পদ্ধতি ০… ডিলেট/ইনফ্লেট… সর্বাধিক ৩২,৭৬৮ বাইট” এবং W3C/ISO PNG ২য় সংস্করণ.
Zstandard (zstd): একটি নতুন সাধারণ-উদ্দেশ্য কম্প্রেসার যা খুব দ্রুত ডিকম্প্রেশনের সাথে উচ্চ অনুপাতের জন্য ডিজাইন করা হয়েছে। ফরম্যাটটি RFC 8878 (এছাড়াও HTML মিরর) এবং রেফারেন্স স্পেসিফিকেশন GitHub-এ-এ নথিভুক্ত করা হয়েছে। Gzip-এর মতো, বেসিক ফ্রেম র্যান্ডম অ্যাক্সেসের লক্ষ্য রাখে না. zstd-এর অন্যতম সুপার পাওয়ার হলো অভিধান: আপনার কর্পাস থেকে ছোট নমুনা যা অনেক ছোট বা অনুরূপ ফাইলের উপর কম্প্রেশনকে নাটকীয়ভাবে উন্নত করে (দেখুন python-zstandard অভিধান ডক্স এবং নাইজেল টাও-এর ক াজ করা উদাহরণ)। বাস্তবায়নগুলি “অসংগঠিত” এবং “সংগঠিত” উভয় অভিধানই গ্রহণ করে (আলোচনা).
Brotli: ওয়েব সামগ্রীর জন্য অপ্টিমাইজ করা (যেমন, WOFF2 ফন্ট, HTTP)। এটি একটি স্ট্যাটিক অভিধানের সাথে একটি DEFLATE-এর মতো LZ+এনট্রপি কোর মিশ্রিত করে। স্পেসিফিকেশনটি হলো RFC 7932, যা ২WBITS−১৬-এর একটি স্লাইডিং উইন্ডো নোট করে যেখানে WBITS [১০, ২৪]-এর মধ্যে (১ KiB−১৬ B থেকে ১৬ MiB−১৬ B পর্যন্ত) এবং এটি র্যান্ডম অ্যাক্সেসের চেষ্টা করে না. Brotli প্রায়শই ওয়েব টেক্সটে gzip-কে পরাজিত করে এবং দ্রুত ডিকোড করে।
ZIP কন্টেইনার: ZIP একটি ফাইল আর্কাইভ যা বিভিন্ন কম্প্রেশন পদ্ধতি (deflate, store, zstd, ইত্যাদি) সহ এন্ট্রি সংরক্ষণ করতে পারে। ডি ফ্যাক্টো স্ট্যান্ডার্ড হলো PKWARE-এর APPNOTE (দেখুন APPNOTE পোর্টাল, একটি হোস্ট করা কপি, এবং LC ওভারভিউ ZIP ফাইল ফরম্যাট (PKWARE) / ZIP 6.3.3)।
LZ4 কাঁচা গতির লক্ষ্য রাখে পরিমিত অনুপাতের সাথে। এর প্রকল্প পৃষ্ঠা (“অত্যন্ত দ্রুত কম্প্রেশন”) এবং ফ্রেম ফরম্যাটদেখুন। এটি ইন-মেমরি ক্যাশে, টেলিমেট্রি, বা হট পাথের জন্য আদর্শ যেখানে ডিকম্প্রেশন প্রায় RAM গতির হতে হবে।
XZ / LZMA ঘনত্বের জন্য চাপ দেয় (দুর্দান্ত অনুপাত) তুলনামূলকভাবে ধীর কম্প্রেশনের সাথে। XZ একটি কন্টেইনার; ভারী উত্তোলন সাধারণত LZMA/LZMA2 (LZ77-এর মতো মডেলিং + রেঞ্জ কোডিং) দ্বারা করা হয়। দেখু ন .xz ফাইল ফরম্যাট, LZMA স্পেক (Pavlov), এবং লিনাক্স কার্নেল নোট XZ এমবেডেড-এ. XZ সাধারণত gzip-কে ছাড়িয়ে যায় এবং প্রায়শই উচ্চ-অনুপাতের আধুনিক কোডেকগুলির সাথে প্রতিযোগিতা করে, তবে ধীর এনকোড সময়ের সাথে।
bzip2 Burrows–Wheeler Transform (BWT), মুভ-টু-ফ্রন্ট, RLE, এবং হাফম্যান কোডিং প্রয়োগ করে। এটি সাধারণত gzip-এর চেয়ে ছোট কিন্তু ধীর; দেখুন অফিসিয়াল ম্যানুয়াল এবং ম্যান পেজ (লিনাক্স).
“উইন্ডো সাইজ” গুরুত্বপূর্ণ। DEFLATE রেফারেন্সগুলি কেবল ৩২ KiB পিছনে তাকাতে পারে (RFC 1951 এবং PNG-এর ৩২ KiB ক্যাপ এখানে উল্লেখ করা হয়েছে)। Brotli-এর উইন্ডো প্রায় ১ KiB থেকে ১৬ MiB পর্যন্ত বিস্তৃত (RFC 7932). Zstd স্তর দ্বারা উইন্ডো এবং অনুসন্ধানের গভীরতা টিউন করে (RFC 8878). বেসিক gzip/zstd/brotli স্ট্রিমগুলি অনুক্রমিক ডিকোডিংয়ের জন্য ডিজাইন করা হয়েছে; বেস ফরম্যাটগুলি র্যান্ডম অ্যাক্সেসের প্রতিশ্রুতি দেয় না, যদিও কন্টেইনারগুলি (যেমন, tar ইনডেক্স, চাঙ্কড ফ্রেমিং, বা ফরম্যাট-নির্দিষ্ট ইনডেক্স) এটি স্তর করতে পারে।
উপরের ফরম্যাটগুলি ক্ষতিহীন: আপনি সঠিক বাইটগুলি পুনর্গঠন করতে পারেন। মিডিয়া কোডেকগুলি প্রায়শই ক্ষতিযুক্ত: তারা কম বিটরেট হিট করার জন্য অদৃশ্য বিবরণ বাতিল করে। ছবিতে, ক্লাসিক JPEG (DCT, কোয়ান্টাইজেশন, এনট্রপি কোডিং) ITU-T T.81 / ISO/IEC 10918-1-এ মানসম্মত। অডিওতে, MP3 (MPEG-1 লেয়ার III) এবং AAC (MPEG-2/4) পারসেপচুয়াল মডেল এবং MDCT ট্রান্সফর্মের উপর নির্ভর করে (দেখুন ISO/IEC 11172-3, ISO/IEC 13818-7, এবং একটি MDCT ওভারভিউ এখানে)। ক্ষতিযুক্ত এবং ক্ষতিহীন সহাবস্থান করতে পারে (যেমন, UI সম্পদের জন্য PNG; ছবি/ভিডিও/অডিওর জন্য ওয়েব কোডেক)।
তত্ত্ব: শ্যানন 1948 · রেট-ডিসটরশন · কোডিং: হাফম্যান 1952 · অ্যারিথমেটিক কোডিং · রেঞ্জ কোডিং · ANS. ফরম্যাট: DEFLATE · zlib · gzip · Zstandard · Brotli · LZ4 ফ্রেম · XZ ফরম্যাট. BWT স্ট্যাক: Burrows–Wheeler (1994) · bzip2 ম্যানুয়াল. মিডিয়া: JPEG T.81 · MP3 ISO/IEC 11172-3 · AAC ISO/IEC 13818-7 · MDCT.
শেষ কথা: আপনার ডেটা এবং সীমাবদ্ধতার সাথে মেলে এমন একটি কম্প্রেসার চয়ন করুন, বাস্তব ইনপুটগুলিতে পরিমাপ করুন, এবং অভিধান এবং স্মার্ট ফ্রেমিং থেকে লাভগুলি ভুলে যাবেন না। সঠিক জুটির সাথে, আপনি পেতে পারেন ছোট ফাইল, দ্রুত স্থানান্তর, এবং আরও দ্রুত অ্যাপ — সঠিকতা বা পোর্টেবিল িটি ত্যাগ না করে।
ফাইল কম্প্রেশন হলো একটি প্রক্রিয়া যা একটি বা একাধিক ফাইলের সাইজ কমায়, সাধারণত স্টোরেজ স্পেস বাঁচাতে বা নেটওয়ার্কের মাধ্যমে দ্রুত ডেটা পাঠানোর জন্য।
ফাইল কম্প্রেশন ডেটাতে পুনরাবৃত্তি চিহ্নিত করে এবং অপ্রয়োজনীয় অংশ বাদ দিয়ে কাজ করে। এটি অ্যালগরিদম ব্যবহার করে মূল ডেটা-কে আরও ছোট আকারে এনকোড করে।
ফাইল কম্প্রেশনের দুটি প্রধান প্রকার হলো লসলেস এবং লসি কম্প্রেশন। লসলেস কম্প্রেশনে মূল ফাইলটি নিখুঁতভাবে পুনরুদ্ধার করা যায়, যেখানে লসি কম্প্রেশনে ডেটার গ ুণমানে কিছুটা ছাড় দিয়ে ফাইলের আকার আরও উল্লেখযোগ্যভাবে কমানো সম্ভব হয়।
ফাইল কম্প্রেশন সরঞ্জামের একটি জনপ্রিয় উদাহরণ হলো WinZip, যা ZIP এবং RAR সহ একাধিক কম্প্রেশন ফরম্যাট সমর্থন করে।
লসলেস কম্প্রেশনের ক্ষেত্রে ফাইলের মানে কোনো পরিবর্তন হয় না। তবে, লসি কম্প্রেশনে ফাইলের আকার আরও কমাতে কিছু কম-গুরুত্বপূর্ণ ডেটা বাদ দেওয়া হয়, ফলে ফাইলের মানে লক্ষণীয় পরিবর্তন হতে পারে।
হ্যাঁ, ডেটা অখণ্ডতার দিক থেকে ফাইল কম্প্রেশন নিরাপদ, বিশেষ করে লসলেস কম্প্রেশনের ক্ষেত্রে। তবে, যেকোনো ফাইলের মতোই, সংকুচিত ফাইলও ম্যালওয়্যার বা ভাইরাসের লক্ষ্য হতে পারে, তাই নির্ভরযোগ্য নি রাপত্তা সফটওয়্যার ব্যবহার করা জরুরি।
প্রায় সব ধরনের ফাইলই কম্প্রেস করা যায়, যেমন টেক্সট ফাইল, ছবি, অডিও, ভিডিও এবং সফটওয়্যার ফাইল। তবে, ফাইলের ধরন অনুযায়ী কম্প্রেশনের মাত্রা ভিন্ন হতে পারে।
ZIP ফাইল হলো একটি আর্কাইভ ফরম্যাট যা এক বা একাধিক ফাইলকে একটিমাত্র ফাইলে সংকুচিত করে রাখে। এটি ফাইল শেয়ার করা সহজ করে এবং স্টোরেজ বাঁচায়।
হ্যাঁ, técnicamente করা যায়, তবে ফাইলের আকার খুব বেশি কমবে না, এমনকি বেড়েও যেতে পারে। কারণ, প্রতিটি কম্প্রেশন প্রক্রিয়ায় কিছু অতিরিক্ত ডেটা (মেটাডেটা) যুক্ত হয়।
একটি ফাইল ডিকম্প্রেস করার জন্য আপনার একটি ডিকম্প্রেশন বা আনজিপিং টুল প্রয়োজন হবে, যেমন WinZip বা 7-Zip। এই টুলগুলো সংকুচিত ফাইল থেকে মূল ফাইলগুলো বের করে আনতে পারে।