Using Robust Ridge Regression Diagnostic Method to Handle Multicollinearity Caused High Leverage Points
DOI:
https://doi.org/10.25007/ajnu.v10n1a578الكلمات المفتاحية:
Multicollinearity, Outlier, Ridge Regression, Robust Regressionالملخص
Statistics practitioners have been depending on the ordinary least squares (OLS) method in the linear regression model for generation because of its optimal properties and simplicity of calculation. However, the OLS estimators can be strongly affected by the existence of multicollinearity which is a near linear dependency between two or more independent variables in the regression model. Even though in the presence of multicollinearity the OLS estimate still remained unbiased, they will be inaccurate prediction about the dependent variable with the inflated standard errors of the estimated parameter coefficient of the regression model. It is now evident that the existence of high leverage points which are the outliers in x-direction are the prime factor of collinearity influential observations. In this paper, we proposed some alternative to regression methods for estimating the regression parameter coefficient in the presence of multiple high leverage points which cause the multicollinearity problem. This procedure utilized the ordinary least squares estimates of the parameter as the initial followed by an estimate of the ridge regression. We incorporated the Least Trimmed Squares (LTS) robust regression estimate to down weight the effects of multiple high leverage points which lead to the reduction of the effects of multicollinearity. The result seemed to suggest that the RLTS give a substantial improvement over the Ridge Regression.
التنزيلات
المراجع
Rousseeuw. P ; Daniels. B.; Leroy. A. (1984). “Applying robust regression to insurance‘. Insurance: Mathematics and Economics 3 -67-72.
Ronald R. H. (2003). “Methods and Application of Linear Models”.
Peter J. Rousseeuw, Annick M. Leroy. (2003). “Robust Regression and Outlier Detection”.
Kutner N. N. (2004). “Applied Linear Regression Models”. (fourth edition).
Habshah M. and Marina Z. (2007). “A simulation study on ridge regression estimators in the presence of outliers and multicollinearity”. Jurnal Teknologi, 47(C) Dis. 59-74.
Roa T..; Shalabh H. (2008). “Linear Models and Generalization”. (Least Squares and Alternatives) (third edition).
Molina I., P., and Perez B. (2009). “Robust Estimation in Linear Regression Models with Fixed Effects”.
Siti M. Z.; Mohammad S. Z. and Mohammad I. AL-Banna B. I. (2012). “Weighted Ridge MM-Estimator in Robust Ridge Regression with Multicollinearity”. Pp. (124-129).
التنزيلات
منشور
كيفية الاقتباس
إصدار
القسم
الرخصة
بيان الحقوق الفكرية
حقوق التأليف
يوافق المؤلفون الذين ينشرون في هذه المجلة على المصطلحات التالية:
١. يحتفظ المؤلفون بحقوق الطبع والنشر ومنح حق المجلة في النشر الأول مع العمل المرخص له في نفس الوقت بموجب ترخيص المشاع الإبداعي [سيسي بي-نك-ند 4.0] الذي يسمح للآخرين بمشاركة العمل مع الإقرار بحقوق التأليف والنشر الأولي في هذه المجلة.
٢. يمكن للمؤلفين الدخول في ترتيبات تعاقدية إضافية منفصلة للتوزيع غير الحصري للنسخة المنشورة من المجلة من العمل (على سبيل المثال، نشرها في مستودع مؤسسي أو نشرها في كتاب) مع الإقرار بنسخة أولية نشر في هذه المجلة.
٣. يسمح للمؤلفين وتشجيعهم على نشر عملهم عبر الإنترنت (على سبيل المثال، في المستودعات المؤسسية أو على موقعهم على الويب) قبل وأثناء عملية التقديم، حيث يمكن أن يؤدي إلى التبادلات الإنتاجية، فضلا عن الاستشهاد المبكر والأكبر للعمل المنشورة ( انظر تأثير النفاذ المفتوح).
نقل حقوق الطبع والنشر
بيان الخصوصية
المجلة الأكاديمية لجامعة نوروز ملتزمة بحماية خصوصية مستخدمي موقع المجلة هذا. سيتم استخدام الأسماء والتفاصيل الشخصية وعناوين البريد الإلكتروني التي تم إدخالها في هذا الموقع الإلكتروني فقط للأغراض المعلنة لهذه المجلة ولن يتم إتاحتها لأطراف ثالثة بدون إذن المستخدم أو الإجراءات القانونية الواجبة. موافقة المستخدمين مطلوبة لتلقي الاتصالات من المجلة الأكاديمية لجامعة نوروز للأغراض المعلنة للمجلة. ويمكن توجيه الاستفسارات المتعلقة بالخصوص إلى [email protected]