مقدر جديد معدل من ليو لنموذج الانحدار العكسي الغاوسي للتعامل بفعالية مع البيانات الإيجابية متعددة التداخل A novel modified Liu estimator for the inverse Gaussian regression model to effectively handle multicollinear positive data

شارك:
المجلة: AIMS Mathematics، المجلد: 11، العدد: 3
DOI: https://doi.org/10.3934/math.2026293
تاريخ النشر: 2026-01-01
المؤلف: Ali T. Hammad وآخرون
الموضوع الرئيسي: طرق ونماذج إحصائية متقدمة

نظرة عامة

تقدم ورقة البحث مقدر ليو المعدل لنموذج الانحدار الغاوسي المعكوس (IGRM) بهدف معالجة التحديات الاستنتاجية التي تطرحها التعددية الخطية في البيانات متعددة المتغيرات التي تتميز بالانحراف الإيجابي. يعاني مقدر الاحتمالية القصوى (MLE)، على الرغم من كونه مثالياً في ظل الظروف المستقلة، من تضخم التباينات وتقديرات غير موثوقة للمعاملات عندما تكون المتغيرات التفسيرية مرتبطة بشكل كبير. يسعى المقدّر المقترح إلى تعزيز دقة معاملات الانحدار، مما يحسن الكفاءة الإحصائية.

تم إجراء تقييم شامل لمقدر ليو المعدل من خلال محاكاة مونت كارلو، والتي أظهرت تفوقه على MLE ومقدرات متحيزة أخرى عبر سيناريوهات مختلفة. بالإضافة إلى ذلك، أكدت تطبيقات العالم الحقيقي باستخدام بيانات طبية متعددة المتغيرات نتائج المحاكاة، مما يشير إلى أن المقدّر الجديد يقدم باستمرار نتائج أكثر استقرارًا وموثوقية. بينما يظهر مقدر ليو المعدل وعدًا في التخفيف من آثار التعددية الخطية، تعترف الورقة بحدوده، مثل الحساسية تجاه معلمات الانكماش وغياب التركيز على قضايا أخرى مثل القيم الشاذة والأبعاد العالية. قد تتضمن اتجاهات البحث المستقبلية تحسين المقدّر لمعالجة هذه التحديات الإضافية وتطوير تقنيات التحقق المتبادل لاختيار المعلمات المثلى.

مقدمة

تناقش مقدمة ورقة البحث نموذج الانحدار الغاوسي المعكوس (IGRM) كبديل قوي لنماذج الانحدار الخطي (LRM) للمتغيرات المستجيبة المستمرة التي تظهر انحرافًا إيجابيًا وتتوافق مع توزيع غاوسي معكوس. يعد IGRM مفيدًا بشكل خاص في مجالات متنوعة، بما في ذلك الهندسة الصناعية والعلوم الطبية والاقتصاد، حيث قد لا تنطبق الافتراضات الغاوسية التقليدية. تسلط الورقة الضوء على التقدمات الأخيرة في IGRM، مثل تطوير نماذج التدهور متعددة المتغيرات والتشخيصات الجديدة للتحقق من صحة النموذج، مما يبرز مرونته في تطبيقات مثل نمذجة العلاقة بين الهيكل والأنشطة الكمية (QSAR) وتحليلات الصحة العامة.

تتناول المقدمة أيضًا التحديات التي تطرحها التعددية الخطية بين المتغيرات التفسيرية، والتي يمكن أن تؤدي إلى تقديرات غير مستقرة للمعلمات وتقليل قابلية تفسير معاملات الانحدار. تستعرض تقنيات التقدير المتحيز، مثل الانحدار الجبهي ومقدر ليو، التي تم اقتراحها للتخفيف من هذه القضايا. تؤكد الورقة على الحاجة إلى أساليب مبتكرة لتعزيز أداء مقدر ليو في سياق IGRM، مما يؤدي إلى تقديم مقدر ليو المعدل ذو المعلمتين الجديد. يظهر أن هذا المقدّر الجديد يحسن الاستقرار والموثوقية في تقدير المعلمات، كما يتضح من المقارنات النظرية، ومحاكاة مونت كارلو، والتطبيقات العملية في البحث الطبي والبيولوجي. تحدد الأقسام اللاحقة من الورقة المنهجية، والمقارنات مع المقدرات الحالية، والتطبيقات الواقعية للمقدر المقترح.

طرق

تحدد هذه القسم المنهجية لنموذج الانحدار الغاوسي المعكوس (IGRM)، وهو إطار عمل متخصص لنموذج خطي عام (GLM) مصمم لتحليل المتغيرات المستجيبة غير السلبية والمائلة إيجابيًا التي تتماشى مع توزيع الغاوسي المعكوس (IG)، الممثل بـ IG(µ, τ). يتم إعطاء دالة كثافة الاحتمال لتوزيع IG بواسطة:

\[
f(y; \mu, \tau) = \frac{\tau}{\sqrt{2\pi y^3}} \exp\left(-\frac{\tau(y – \mu)^2}{2y\mu^2}\right), \quad y > 0, \tau > 0, \mu > 0.
\]

في هذا الإطار، يرتبط متوسط الاستجابة \( \mu_i = E(y_i) \) بالمؤشر الخطي \( \eta_i = x’_i \beta \) من خلال دالة ربط أحادية التزايد وقابلة للاشتقاق باستمرار \( g(\cdot) \). دالة الربط الكانونية هي تحويل المربع المعكوس، مما يؤدي إلى \( \mu_i = \frac{1}{x’_i \beta} \). يتم إجراء تقدير المعلمات باستخدام تقدير الاحتمالية القصوى (MLE)، مع تعريف دالة اللوغاريتم الاحتمالي لـ \( n \) ملاحظات مستقلة. تتطلب معادلات الدرجة، المستمدة من اللوغاريتم الاحتمالي، حلول عددية تكرارية بسبب عدم خطيتها، والتي يتم التعامل معها بكفاءة باستخدام خوارزمية تسجيل فيشر.

المقدر النهائي لمعاملات الانحدار هو:

\[
\beta_{IGMLE} = V^{-1} X’ \hat{W} \hat{e},
\]

حيث \( V = X’ \hat{W} X \) و \( \hat{W} = \text{diag}(\mu^3_i) \). يتم التعبير عن مصفوفة التباين الحدّي كـ \( \text{Cov}(\beta_{IGMLE}) = \tau V^{-1} \). علاوة على ذلك، يتم تحليل متوسط الخطأ التربيعي (MSE) وأقل متوسط خطأ تربيعي (MMSE) إلى مكونات التباين، مما يبرز دور التحلل الطيفي لمصفوفة \( X’ \hat{W} X \) في فهم هيكل التباين للمقدر.

مناقشة

في هذا القسم، يناقش المؤلفون مجموعة متنوعة من المقدرات المصممة لمعالجة التعددية الخطية في نموذج الانحدار الغاوسي المعكوس (IGRM). يبرزون قيود مقدرات الاحتمالية القصوى التقليدية (MLEs) بسبب التباينات المتضخمة الناتجة عن التعددية الخطية، مما يؤدي إلى تقديرات غير مستقرة للمعلمات. للتخفيف من هذه القضايا، يقترحون عدة تقنيات تقدير متحيزة، بما في ذلك مقدر الانحدار الجبهي الغاوسي المعكوس (IGRRE)، ومقدر ليو الغاوسي المعكوس (IGLE)، ومقدر ليو المعدل ذو المعلمة الواحدة (IGMOPLE). يتضمن كل مقدر معلمات انكماش لاستقرار التقديرات، حيث يظهر IGRRE و IGLE التقارب إلى MLEs تحت ظروف معينة.

يقدم المؤلفون مقدرًا جديدًا، وهو مقدر ليو المعدل ذو المعلمتين (IGMTPLE)، الذي يجمع بين مزايا الطرق السابقة بينما يظهر أداءً متفوقًا في تقليل متوسط الخطأ التربيعي (MSE). تكشف المقارنات النظرية أن IGMTPLE يتفوق باستمرار على المقدرات الأخرى من حيث MSE، خاصة تحت ظروف التعددية الخطية العالية. تختتم القسم بمناقشة حول اختيار معلمات الانكماش المثلى ونتائج محاكاة مونت كارلو التي تؤكد قوة IGMTPLE عبر ظروف تجريبية متنوعة، بما في ذلك حجم العينة ومستويات التعددية الخطية. تشير النتائج إلى أن IGMTPLE هو أداة واعدة لتحسين دقة التقدير في نماذج الانحدار المتأثرة بالتعددية الخطية.

Journal: AIMS Mathematics, Volume: 11, Issue: 3
DOI: https://doi.org/10.3934/math.2026293
Publication Date: 2026-01-01
Author(s): Ali T. Hammad et al.
Primary Topic: Advanced Statistical Methods and Models

Overview

The research paper introduces a modified Liu estimator for the inverse Gaussian regression model (IGRM) aimed at addressing the inferential challenges posed by multicollinearity in multivariate data characterized by positive skewness. The maximum likelihood estimator (MLE), while optimal under independent conditions, suffers from inflated variances and unreliable coefficient estimates when explanatory variables are highly correlated. The proposed estimator seeks to enhance the precision of regression coefficients, thereby improving statistical efficiency.

A comprehensive evaluation of the modified Liu estimator was conducted through Monte Carlo simulations, which demonstrated its superiority over the MLE and other biased estimators across various scenarios. Additionally, two real-world applications using multivariate medical data corroborated the simulation findings, indicating that the new estimator consistently delivers more stable and reliable results. While the modified Liu estimator shows promise in mitigating multicollinearity effects, the paper acknowledges its limitations, such as sensitivity to shrinkage parameters and a lack of focus on other issues like outliers and high dimensionality. Future research directions may involve refining the estimator to address these additional challenges and developing cross-validation techniques for optimal parameter selection.

Introduction

The introduction of the research paper discusses the inverse Gaussian regression model (IGRM) as a robust alternative to linear regression models (LRM) for continuous response variables that exhibit positive skewness and conform to an inverse Gaussian distribution. The IGRM is particularly advantageous in various fields, including industrial engineering, medical sciences, and economics, where traditional Gaussian assumptions may not hold. The paper highlights recent advancements in the IGRM, such as the development of multivariate degradation models and novel diagnostics for model validation, underscoring its versatility in applications like quantitative structure-activity relationship (QSAR) modeling and public health analytics.

The introduction also addresses the challenges posed by multicollinearity among explanatory variables, which can lead to unstable parameter estimates and reduced interpretability of regression coefficients. It reviews biased estimation techniques, such as ridge regression and the Liu estimator, which have been proposed to mitigate these issues. The paper emphasizes the need for innovative approaches to enhance the Liu estimator’s performance in the context of the IGRM, culminating in the introduction of a novel modified two-parameter Liu estimator. This new estimator is shown to improve stability and reliability in parameter estimation, as evidenced by theoretical comparisons, Monte Carlo simulations, and practical applications in medical and biological research. The subsequent sections of the paper outline the methodology, comparisons with existing estimators, and real-life applications of the proposed estimator.

Methods

The section outlines the methodology for the Inverse Gaussian Regression Model (IGRM), a specialized Generalized Linear Model (GLM) framework tailored for analyzing non-negative, positively skewed response variables that adhere to the Inverse Gaussian (IG) distribution, denoted as IG(µ, τ). The probability density function of the IG distribution is given by:

\[
f(y; \mu, \tau) = \frac{\tau}{\sqrt{2\pi y^3}} \exp\left(-\frac{\tau(y – \mu)^2}{2y\mu^2}\right), \quad y > 0, \tau > 0, \mu > 0.
\]

In this framework, the mean response \( \mu_i = E(y_i) \) is linked to the linear predictor \( \eta_i = x’_i \beta \) through a strictly monotonic and continuously differentiable link function \( g(\cdot) \). The canonical link function is the reciprocal square transformation, yielding \( \mu_i = \frac{1}{x’_i \beta} \). Parameter estimation is performed using Maximum Likelihood Estimation (MLE), with the log-likelihood function defined for \( n \) independent observations. The score equations, derived from the log-likelihood, necessitate iterative numerical solutions due to their nonlinearity, which are efficiently addressed using the Fisher scoring algorithm.

The final estimator for the regression parameters is given by:

\[
\beta_{IGMLE} = V^{-1} X’ \hat{W} \hat{e},
\]

where \( V = X’ \hat{W} X \) and \( \hat{W} = \text{diag}(\mu^3_i) \). The asymptotic covariance matrix is expressed as \( \text{Cov}(\beta_{IGMLE}) = \tau V^{-1} \). Furthermore, the Mean Squared Error (MSE) and Minimum Mean Squared Error (MMSE) are decomposed into variance components, highlighting the role of the spectral decomposition of the matrix \( X’ \hat{W} X \) in understanding the covariance structure of the estimator.

Discussion

In this section, the authors discuss various estimators designed to address multicollinearity in the Inverse Gaussian Regression Model (IGRM). They highlight the limitations of traditional Maximum Likelihood Estimators (MLEs) due to inflated variances caused by multicollinearity, leading to unstable parameter estimates. To mitigate these issues, they propose several biased estimation techniques, including the Inverse Gaussian Ridge Regression Estimator (IGRRE), Inverse Gaussian Liu Estimator (IGLE), and Inverse Gaussian Modified One-Parameter Liu Estimator (IGMOPLE). Each estimator incorporates shrinkage parameters to stabilize estimates, with the IGRRE and IGLE showing convergence to MLEs under specific conditions.

The authors introduce a novel estimator, the Inverse Gaussian Modified Two-Parameter Liu Estimator (IGMTPLE), which combines the advantages of previous methods while demonstrating superior performance in minimizing Mean Squared Error (MSE). Theoretical comparisons reveal that the IGMTPLE consistently outperforms other estimators in terms of MSE, particularly under high multicollinearity conditions. The section concludes with a discussion on the selection of optimal shrinkage parameters and the results of a Monte Carlo simulation that validates the robustness of the IGMTPLE across various experimental conditions, including sample size and multicollinearity levels. The findings suggest that the IGMTPLE is a promising tool for improving estimation accuracy in regression models plagued by multicollinearity.