Linear Regression

Introduction to Machine Learning IITM

5 chapters6 takeaways10 key terms5 questions

Overview

এই ভিডিওটি মেশিন লার্নিং মডেলের পারফরম্যান্স মূল্যায়নের জন্য দুটি প্রধান কৌশল নিয়ে আলোচনা করে: বুটস্ট্র্যাপিং এবং কে-ফোল্ড ক্রস-ভ্যালিডেশন। বুটস্ট্র্যাপিং ডেটার একটি বড় সেট থেকে রিপ্লেসমেন্ট সহ একাধিক সাব-স্যাম্পল তৈরি করে মডেলের ত্রুটি অনুমান করার একটি পদ্ধতি। অন্যদিকে, কে-ফোল্ড ক্রস-ভ্যালিডেশন ডেটা সেটকে একাধিক ভাগে ভাগ করে এবং মডেলের পারফরম্যান্সের একটি গড় অনুমান পেতে প্রতিটি ভাগকে একবার টেস্টিং ডেটা হিসাবে ব্যবহার করে। ভিডিওটি এই কৌশলগুলির সুবিধা, অসুবিধা এবং কখন কোনটি ব্যবহার করা উচিত তা ব্যাখ্যা করে।

How was this?

Save this permanently with flashcards, quizzes, and AI chat

Chapters

বুটস্ট্র্যাপিং হল রিপ্লেসমেন্ট সহ মূল ডেটা সেট থেকে একাধিক সাব-স্যাম্পল তৈরি করার একটি পদ্ধতি।
এই সাব-স্যাম্পলগুলি মূল ডেটা ডিস্ট্রিবিউশনের প্রতিনিধিত্ব করে বলে ধরে নেওয়া হয়।
প্রতিটি সাব-স্যাম্পলের উপর একটি মডেলকে প্রশিক্ষণ দেওয়া হয় এবং মূল ডেটা সেটের একটি অংশ (যা সাব-স্যাম্পলে ছিল না) ব্যবহার করে এর ত্রুটি অনুমান করা হয়।
একাধিক সাব-স্যাম্পল থেকে প্রাপ্ত ত্রুটির গড় মডেলের পারফরম্যান্সের একটি স্থিতিশীল এবং কম ভ্যারিয়েন্সযুক্ত অনুমান প্রদান করে।

বুটস্ট্র্যাপিং মডেলের পারফরম্যান্সের একটি নির্ভরযোগ্য অনুমান পেতে সাহায্য করে, বিশেষ করে যখন ডেটা সেটের আকার বড় হয়, কারণ এটি ডেটার ভিন্নতার প্রভাব কমিয়ে আনে।

একটি ক্লাসিফিকেশন মডেলের ত্রুটি অনুমান করার জন্য, ডেটা সেট থেকে রিপ্লেসমেন্ট সহ একাধিক সাব-স্যাম্পল (যেমন S1', S2') তৈরি করা হয়। প্রতিটি সাব-স্যাম্পলের উপর মডেলকে প্রশিক্ষণ দেওয়া হয় এবং মূল ডেটা সেটের বাকি অংশ ব্যবহার করে এর ত্রুটি পরীক্ষা করা হয়। এই ত্রুটিগুলির গড়ই হল বুটস্ট্র্যাপ এস্টিমেট।

বুটস্ট্র্যাপিং এস্টিমেটগুলি সাধারণত শুধুমাত্র মূল ডেটা সেট ব্যবহার করে প্রাপ্ত এস্টিমেটগুলির চেয়ে কম ভ্যারিয়েন্সযুক্ত হয়।
কম ভ্যারিয়েন্স মানে হল যে মডেলের পারফরম্যান্সের অনুমান ডেটা সেটের ছোটখাটো পরিবর্তনের প্রতি কম সংবেদনশীল।
এটি মডেলের পারফরম্যান্সের একটি আরও সামঞ্জস্যপূর্ণ এবং নির্ভরযোগ্য চিত্র প্রদান করে।

কম ভ্যারিয়েন্স নিশ্চিত করে যে মডেলের পারফরম্যান্সের মূল্যায়ন ডেটার নির্দিষ্ট বিন্যাসের উপর অতিরিক্ত নির্ভরশীল নয়, যা মডেলের সাধারণীকরণ ক্ষমতা সম্পর্কে আরও ভাল ধারণা দেয়।

যদি দুটি ডেটা সেট দেওয়া হয়, বুটস্ট্র্যাপিং পদ্ধতি ব্যবহার করে প্রাপ্ত পারফরম্যান্সের অনুমান, শুধুমাত্র একটি ডেটা সেটে প্রশিক্ষণ এবং পরীক্ষা করে প্রাপ্ত অনুমানের চেয়ে বেশি সামঞ্জস্যপূর্ণ হবে।

যখন ডেটা সেট ছোট হয়, তখন কে-ফোল্ড ক্রস-ভ্যালিডেশন একটি কার্যকর বিকল্প।
এই পদ্ধতিতে, ডেটা সেটকে 'k' সংখ্যক সমান ভাগে (ফোল্ড) ভাগ করা হয়।
প্রতিটি ফোল্ডকে একবার টেস্টিং ডেটা হিসাবে ব্যবহার করা হয়, যখন বাকি 'k-1' ফোল্ডকে ট্রেনিং ডেটা হিসাবে ব্যবহার করা হয়।
এই প্রক্রিয়াটি 'k' বার পুনরাবৃত্তি করা হয়, এবং প্রতিটি পুনরাবৃত্তির পারফরম্যান্স এস্টিমেটগুলির গড় নেওয়া হয়।

কে-ফোল্ড ক্রস-ভ্যালিডেশন ডেটার প্রতিটি অংশকে অন্তত একবার টেস্টিং ডেটা হিসাবে ব্যবহার করার সুযোগ দেয়, যা মডেলের পারফরম্যান্সের একটি সামগ্রিক এবং সুষম মূল্যায়ন প্রদান করে।

একটি ডেটা সেটকে ৫টি ফোল্ডে ভাগ করা হলে, প্রথমবার প্রথম ফোল্ড টেস্টিংয়ের জন্য এবং বাকি ৪টি ট্রেনিংয়ের জন্য ব্যবহৃত হবে। পরের বার দ্বিতীয় ফোল্ড টেস্টিংয়ের জন্য এবং বাকিগুলো ট্রেনিংয়ের জন্য ব্যবহৃত হবে, এভাবে ৫ বার পুনরাবৃত্তি করা হবে।

ফোল্ডের সংখ্যা 'k' নির্বাচন একটি গুরুত্বপূর্ণ বিষয়; সাধারণত 5 বা 10 ব্যবহার করা হয়।
ফোল্ড তৈরির প্রক্রিয়াটি গুরুত্বপূর্ণ, বিশেষ করে ডেটা সেটে ক্লাসগুলির ভারসাম্যহীনতা থাকলে।
স্ট্র্যাটিফাইড স্যাম্পলিং নিশ্চিত করে যে প্রতিটি ফোল্ডে মূল ডেটা সেটের মতো একই ক্লাস ডিস্ট্রিবিউশন বজায় থাকে।
খুব ছোট ফোল্ড তৈরি করা উচিত নয়, কারণ এতে প্রতিটি ফোল্ডে পর্যাপ্ত ডেটা নাও থাকতে পারে।

সঠিকভাবে 'k' নির্বাচন এবং স্ট্র্যাটিফাইড স্যাম্পলিং ব্যবহার করলে মডেলের পারফরম্যান্সের আরও সঠিক এবং নির্ভরযোগ্য অনুমান পাওয়া যায়, বিশেষ করে যখন ডেটা ইমব্যালান্সড থাকে।

যদি ডেটা সেটে ক্লাস A-এর ১০টি এবং ক্লাস B-এর ১০০টি ডেটা পয়েন্ট থাকে, তবে স্ট্র্যাটিফাইড স্যাম্পলিং নিশ্চিত করবে যে প্রতিটি ফোল্ডে ক্লাস A-এর ২টি এবং ক্লাস B-এর ২০টি ডেটা পয়েন্ট থাকবে (যদি k=5 হয়)।

বড় ডেটা সেটের জন্য বুটস্ট্র্যাপিং প্রায়শই ভাল কাজ করে।
ছোট ডেটা সেটের জন্য কে-ফোল্ড ক্রস-ভ্যালিডেশন সাধারণত বেশি উপযুক্ত।
ক্রস-ভ্যালিডেশনের একটি সুবিধা হল প্রতিটি ডেটা পয়েন্ট অন্তত একবার টেস্টিং সেটে ব্যবহৃত হয়।
বুটস্ট্র্যাপিং শুধুমাত্র ত্রুটি পরিমাপের জন্য নয়, অন্যান্য পরিসংখ্যানগত বৈশিষ্ট্য যেমন ভ্যারিয়েন্স অনুমান করার জন্যও ব্যবহার করা যেতে পারে।

কোন পদ্ধতিটি ব্যবহার করা হবে তা ডেটা সেটের আকার এবং নির্দিষ্ট সমস্যার উপর নির্ভর করে, এবং উভয় পদ্ধতিরই নিজস্ব সুবিধা রয়েছে যা মডেল মূল্যায়নে সহায়তা করে।

যদি আপনার কাছে লক্ষ লক্ষ ডেটা পয়েন্ট থাকে, তবে বুটস্ট্র্যাপিং একটি কার্যকর পদ্ধতি হতে পারে। কিন্তু যদি আপনার কাছে মাত্র কয়েকশ ডেটা পয়েন্ট থাকে, তবে ৫ বা ১০-ফোল্ড ক্রস-ভ্যালিডেশন একটি ভাল বিকল্প হবে।

Key takeaways

1মেশিন লার্নিং মডেলের পারফরম্যান্স মূল্যায়নের জন্য বুটস্ট্র্যাপিং এবং কে-ফোল্ড ক্রস-ভ্যালিডেশন দুটি গুরুত্বপূর্ণ কৌশল।
2বুটস্ট্র্যাপিং রিপ্লেসমেন্ট সহ ডেটা স্যাম্পলিংয়ের মাধ্যমে মডেলের ত্রুটির কম ভ্যারিয়েন্সযুক্ত অনুমান প্রদান করে।
3কে-ফোল্ড ক্রস-ভ্যালিডেশন ডেটা সেটকে ভাগ করে এবং প্রতিটি ভাগকে টেস্টিং ডেটা হিসাবে ব্যবহার করে মডেলের পারফরম্যান্সের একটি সামগ্রিক গড় অনুমান দেয়।
4বড় ডেটা সেটের জন্য বুটস্ট্র্যাপিং এবং ছোট ডেটা সেটের জন্য কে-ফোল্ড ক্রস-ভ্যালিডেশন সাধারণত বেশি উপযুক্ত।
5স্ট্র্যাটিফাইড স্যাম্পলিং ক্রস-ভ্যালিডেশনের সময় ক্লাস ডিস্ট্রিবিউশন বজায় রাখতে সাহায্য করে, যা আরও নির্ভরযোগ্য ফলাফল দেয়।
6বুটস্ট্র্যাপিং শুধুমাত্র ত্রুটি নয়, মডেলের অন্যান্য পরিসংখ্যানগত বৈশিষ্ট্য যেমন ভ্যারিয়েন্সও অনুমান করতে পারে।

Key terms

BootstrapSampling with replacementUnderlying distributionDiscrete distributionError estimationVariance reductionK-fold cross-validationStratified samplingLeave-One-Out (LOO)Jackknife

Test your understanding

1বুটস্ট্র্যাপিং পদ্ধতিতে রিপ্লেসমেন্ট সহ স্যাম্পলিং কেন গুরুত্বপূর্ণ?
2কীভাবে বুটস্ট্র্যাপিং মডেলের পারফরম্যান্স অনুমানে ভ্যারিয়েন্স কমাতে সাহায্য করে?
3কে-ফোল্ড ক্রস-ভ্যালিডেশন প্রক্রিয়াটি বর্ণনা করুন এবং এটি কখন ব্যবহার করা উচিত?
4স্ট্র্যাটিফাইড স্যাম্পলিং কেন ক্রস-ভ্যালিডেশনের জন্য একটি গুরুত্বপূর্ণ কৌশল?
5বুটস্ট্র্যাপিং এবং কে-ফোল্ড ক্রস-ভ্যালিডেশনের মধ্যে প্রধান পার্থক্যগুলি কী কী?