رگرسیون خطی ساده

رگرسیون خطی یکی از ساده‌ترین و پرکاربردترین روش‌های مدل‌سازی آماری است که برای بررسی رابطه بین یک متغیر وابسته (پاسخ) و یک یا چند متغیر مستقل (پیش‌بین) استفاده می‌شود. این روش در بسیاری از حوزه‌ها، از جمله اقتصاد، علوم اجتماعی، مهندسی و یادگیری ماشین، کاربرد دارد.

در این مدل، تنها یک متغیر مستقل (X) برای پیش‌بینی متغیر وابسته (Y) وجود دارد. معادله مدل به صورت زیر است:

Y = β_0 + β_1X + ε

که در آن β_0 عرض از مبدا و β_1 شیب خط رگرسیونی است و ε خطای مدل که نشان‌دهنده اختلاف بین مقدار واقعی و مقدار پیش‌بینی‌شده است.

مفروضات رگرسیون خطی

برای اینکه نتایج رگرسیون خطی معتبر باشند، باید فرضیات زیر برقرار باشند:

1. خطی بودن: رابطه بین متغیرهای مستقل و وابسته باید خطی باشد.
2. استقلال خطاها: خطاها باید از یکدیگر مستقل باشند.
3. هم‌واریانس (Homoscedasticity): واریانس خطاها باید ثابت باشد.
4. توزیع نرمال خطاها: خطاها باید توزیع نرمال داشته باشند.

کاربردهای رگرسیون خطی

• پیش‌بینی قیمت مسکن با توجه به ویژگی‌های آن
• تحلیل تأثیر تبلیغات بر میزان فروش
• پیش‌بینی نمرات دانشجویان بر اساس ساعات مطالعه
• مدل‌سازی روندهای اقتصادی

مثال

در اینجا یک مثال از رگرسیون خطی ساده را با استفاده از داده‌های فرضی برای پیش‌بینی نمرات دانشجویان بر اساس ساعات مطالعه می‌آوریم.

فرض کنید می‌خواهیم نمرات دانشجویان در یک آزمون را بر اساس تعداد ساعت‌های مطالعه پیش‌بینی کنیم.

برای پیدا کردن ضرایب رگرسیونی عرض از مبدأ و شیب خط، می‌توان از روش حداقل مربعات استفاده کرد. این روش به ما این امکان را می‌دهد که ضرایب رگرسیونی​ را به گونه‌ای انتخاب کرد که مجموع مربعات خطاها (تفاوت‌های بین مقادیر پیش‌بینی‌شده و واقعی) حداقل شود.

محاسبه ضرایب مدل

با استفاده از داده‌های موجود، می‌توانیم ضرایب رگرسیونی را به روش زیر محاسبه کرد:

1- محاسبه شیب خط

2- محاسبه عرض از مبدا

نتیجه مدل

مدل رگرسیون خطی به دست آمده به صورت زیر خواهد بود:

Y=46.51+4.91X

اگر یک دانشجو 8 ساعت مطالعه کند، پیش‌بینی نمره او به شکل زیر خواهد بود:

$$85.79$$

بنابراین، پیش‌بینی می‌شود که نمره این دانشجو حدوداً 85.79 باشد. در این مثال، با استفاده از رگرسیون خطی ساده توانستیم رابطه بین ساعات مطالعه و نمرات امتحان را مدل‌سازی کنیم و یک معادله خطی برای پیش‌بینی مقادیر جدید به دست آوریم.

نتیجه‌گیری

این مدل به ما کمک می‌کند که بتوانیم نمرات دانشجویان را بر اساس ساعات مطالعه پیش‌بینی کنیم. البته در دنیای واقعی، ممکن است نیاز به مدل‌های پیچیده‌تری باشد که متغیرهای بیشتری را در نظر بگیرند، اما این مثال نشان می‌دهد که رگرسیون خطی چقدر می‌تواند برای تحلیل و پیش‌بینی روابط بین متغیرها مفید باشد.