توضیحات
استنباط آماری مدل رگرسیونی
درمدلهای رگرسیون خطی، روشهای انقباضی یکی از راهحلها برای بهبود برآورد کمترین مربعات میباشد. در این پایاننامه، پس از معرفی مدل رگرسیون
خطی چندگانه و مسئله چندهمخطی، ابتدا به معرفی روشهای انقباضی پرداخته و سپس به برآوردیابی در مدلهای رگرسیونی خطی با خطاهای
خودبازگشتی به وسیله روش انقباضی لاسو میپردازیم. دو نوع برآوردگر لاسو سنتی و اصلاح شده را معرفی و خواص مجانبی آنها را مطالعه کردهایم.
الگوریتمی را جهت محاسبه این برآوردگرها ارایه داده و در پایان با ارایه دو مثال به مقایسه این برآوردگرها پرداختهایم.
کلید واژه: برآوردگرپیشگو، انقباض،مدل رگرسیونی با خطای خود بازگشتی، لاسو استنباط آماری مدل رگرسیونی
۸۰صفحه فایل ورد (Word) فونت ۱۴ منابع دارد
پس از پرداخت آنلاین میتوانید فایل کامل استنباط آماری مدل رگرسیونی را دانلود کنید
فهرست مطالب استنباط آماری مدل رگرسیونی
عنوان صفحه
فصل اول: مقدمات و تعاریف
۱-۱-رگرسیون خطی چندگانه و مسئله چند همخطی… ۲
۱-۴-۱-رفتار مجانبی ……. ۸
۱-۵-۵-۲-همگرایی در احتمال.. ۱۳
۱-۵-۵-۳-سازگاری با نرخ ریشه ام. ۱۳
۱-۵-۵-۴-همگرایی با احتمال یک….. ۱۴
۱-۵-۷-فرایند خودبازگشتی-میانگین متحرک…. ۱۴
۱-۵-۸-معیارهای انتخاب مدل.. ۱۵
اعتبارسنجی متقابل لایه. ۱۷
استنباط آماری مدل رگرسیونی
فصل دوم: برآوردگرهای لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی
۲-۱-مدل رگرسیون خطی با خطای سری زمانی… ۲۱
۲-۲-برآوردکمترین مربعات درمدل رگرسیونی باخطاهای خودبازگشتی میانگین متحرک…. ۲۲
۲-۳-برآورد کمترین مربعات پارامترها۲۴
۲-۵-برآوردیابی به روش لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی… ۲۸
۲-۶-خواص نظری برآوردگرهای لاسو. ۳۰
۲-۶-۱-خواص برآوردگر لاسو سنتی… ۳۱
۲-۶-۲-خواص برآوردگر لاسو اصلاح شده۳۵
فصل سوم: الگوریتم دستیابی به برآوردگرهای لاسو در مدل رگرسیون خطی با خطای خود بازگشتی
استنباط آماری مدل رگرسیونی
فصل چهارم: مثالهای کاربردی و شبیه سازی
مارتینگل و قضیه حد مرکزی مارتینگلها۵۶
واژه نامه فارسی به انگلیسی… ۶۱
واژه نامه انگلیسی به فارسی… ۶۶
استنباط آماری مدل رگرسیونی
فهرست جدول ها
عنوان صفحه
جدول۴-۱: نتایج شبیه سازی برای …………………………………………………………………………… ۵۱
جدول۴-۲: نتایج مثال واقعی………………………………………………………………………………………………………. ۵۳
LASSO: Least Absolute Shrinkage and Selection Operator
i.i.d: independent and identical distribution
MSE: Mean Square Error
CV: Cross Validation
GCV: Generalized Cross Validation
OLS: Ordinary Least Square
فصل اول
مقدمات و تعاریف
مقدمه :
در این فصل به تعاریف و مقدمات لازم از جمله مدل رگرسیون خطی چندگانه استاندارد، مفهوم چند همخطی، رگرسیون ریج، بریج، روش لاسو و … که در فصلهای بعد به آنها نیاز داریم، خواهیم پرداخت.
۱-۱-رگرسیون خطی چندگانه و مسئله چند همخطی
یک مدل رگرسیون که شامل بیش از یک متغیر مستقل باشد و نسبت به پارامترها خطی باشد را مدل رگرسیون خطی چندگانه می نامند. فرم کلی یک مدل رگرسیون خطی چندگانه استاندارد به صورت زیر میباشد:
| (۱-۱) |
که درآن متغیرهای تصادفی مستقل و هم توزیع با میانگین صفر و واریانس میباشد . بردار پارامترها، برای بردار متغیرهای مستقل و متغیر پاسخ میباشد. ماتریس را ماتریس طرح مینامیم.
هنگامی که بین متغیر های مستقل همبستگی وجود داشته باشد، می گوییم بین آنها چند همخطی وجود دارد. از آثار چند همخطی می توان به موارد زیر اشاره کرد:
الف : از آنجاییکه در این حالت اطلاعات مستقل در مورد هریک از متغیرهای مستقل وجود ندارد، لذا نمی توان اثرات جزئی متغیرهای مذکور روی متغیر وابسته را برآورد کرد .
ب : هنگامی که همبستگی شدید بین متغیرهای مستقل وجود داشته باشد، کوواریانس و واریانس ضرایب، بزرگتر برآورد خواهند شد .
ج : در حالتی که با چند همخطی شدید در مدل مواجه هستیم، پیش بینی های صورت گرفته از آن غیر قابل اعتماد خواهد بود. در این حالت پیش بینی ها براساس مدلی که دارای زیر مجموعه ای از متغیرهای مستقل مدل اصلی است، بهتر صورت می گیرد .
د : رابطه قوی بین دو یا چند متغیر مستقل سبب می شود که نتوان ماتریس را معکوس کرد. زیرا در این صورت ستون های ماتریس به هم وابسته هستند و در نتیجه ستون های نیز با هم وابسته هستند و پررتبه نیست.
همان طور که در قسمت ج گفتیم یکی از روش ها برای بهبود برآورد کمترین مربعات، زیر مجموعه منتخب می باشد که نتیجه گزینش بهترین زیر مجموعه رگرسیون می باشد . از روشهای زیر مجموعه منتخب میتوان به رگرسیون گام به گام، حذف پیشرو و انتخاب پسرو اشاره کرد. البته قابل ذکر است که زیر مجموعه منتخب خود دارای مشکل عدم استواری می باشد . به عنوان مثال با تغییر کوچک در داده ها مدل های خیلی متفاوتی را بوجود می آورد، که این امر درستی پیشبینی را کاهش می دهد.
معمولا می توان درستی پیش بینی را با انقباض تعدادی از ضرایب و یا با صفر قرار دادن آنها بهبود بخشید. روش پیشنهادی برای بهبود روش برآورد کمترین مربعات، رگرسیونهای انقباضی است. از جمله رگرسیون ریج[۱]، لاسو[۲]و بریج[۳]که به اختصار این روشها را توضیح میدهیم. برای توضیح بیشتر در مورد این روشها به سلیمانی(۱۳۹۲) مراجعه شود. استنباط آماری مدل رگرسیونی استنباط آماری مدل رگرسیونی استنباط آماری مدل رگرسیونی
۱-۲-رگرسیون ریج
رگرسیون ریج در سال ۱۹۶۲ برای اولین بار توسط هوئرل و کنارد[۴] معرفی شد. همان طور که می دانیم اساس و پایه برآوردگر کمترین مربعات یک رگرسیون خطی این است که وجود داشته باشد. دو دلیل وجود دارد که این معکوس وجود نداشته باشد : یکی ماتریس طرح پر رتبه ستونی نباشد و دیگری چند همخطی بودن می باشد. روش رگرسیون ریج یکی از بهترین و محبوب ترین گزینهها برای رفع این مشکل می باشد.
اضافه کردن ماتریس قطری به راهی آسان برای تضمین معکوس پذیری می باشد یعنی. ( یک ماتریس همانی می باشد). بنابراین برآوردگر رگرسیون ریج پارامتر به صورت زیر می باشد :
که می باشد .این برآوردگر را نیز میتوان با مینیمم کردن عبارت
نسبت به تحت شرط بدست آورد. یک پارامتر تنظیم کننده میباشد که میزان انقباض ضرایب را کنترل میکند.
بطور معادل با مینیمم کردن
نسبت به بدست میآید.
همانطور که میدانید، برآوردگر کمترین مربعات به صورت زیر میباشد:………………….. استنباط آماری مدل رگرسیونی
[۴]…………… استنباط آماری مدل رگرسیونی
بلافاصله بعد از پرداخت موفق میتوانید فایل کامل این پروژه را با سرعت و امنیت دانلود کنید
استنباط آماری مدل رگرسیونی
اولین نفر باشید که نقد و بررسی ارسال میکنید... “استنباط آماری مدل رگرسیونی با خطاهای خودبازگشتی به روش لاسو”
استنباط آماری مدل رگرسیونی با خطاهای خودبازگشتی به روش لاسو
استنباط آماری مدل رگرسيونی
قیمت : تومان150,000
نقد وبررسی
نقد بررسی یافت نشد...