Các mô hình tuyến tính với các lỗi phân phối độc lập và giống hệt nhau và cho các lỗi với tính không đồng nhất hoặc tự tương quan. Mô -đun này cho phép ước tính bằng bình phương tối thiểu [OLS], bình phương tối thiểu có trọng số [WLS], bình phương tối thiểu tổng quát [GLS] và bình phương nhỏ nhất khả thi với các lỗi AR [P] tự động tương quan. Xem tham chiếu mô -đun cho các lệnh và đối số.Ví dụ;
# Load modules and data
In [1]: import numpy as np
In [2]: import statsmodels.api as sm
In [3]: spector_data = sm.datasets.spector.load[]
In [4]: spector_data.exog = sm.add_constant[spector_data.exog, prepend=False]
# Fit and summarize OLS model
In [5]: mod = sm.OLS[spector_data.endog, spector_data.exog]
In [6]: res = mod.fit[]
In [7]: print[res.summary[]]
OLS Regression Results
==============================================================================
Dep. Variable: GRADE R-squared: 0.416
Model: OLS Adj. R-squared: 0.353
Method: Least Squares F-statistic: 6.646
Date: Tue, 08 Feb 2022 Prob [F-statistic]: 0.00157
Time: 18:23:05 Log-Likelihood: -12.978
No. Observations: 32 AIC: 33.96
Df Residuals: 28 BIC: 39.82
Df Model: 3
Covariance Type: nonrobust
==============================================================================
coef std err t P>|t| [0.025 0.975]
------------------------------------------------------------------------------
GPA 0.4639 0.162 2.864 0.008 0.132 0.796
TUCE 0.0105 0.019 0.539 0.594 -0.029 0.050
PSI 0.3786 0.139 2.720 0.011 0.093 0.664
const -1.4980 0.524 -2.859 0.008 -2.571 -0.425
==============================================================================
Omnibus: 0.176 Durbin-Watson: 2.346
Prob[Omnibus]: 0.916 Jarque-Bera [JB]: 0.167
Skew: 0.141 Prob[JB]: 0.920
Kurtosis: 2.786 Cond. No. 176.
==============================================================================
Notes:
[1] Standard Errors assume that the covariance matrix of the errors is correctly specified.
Các ví dụ chi tiết có thể được tìm thấy ở đây:
OLS
WLS
GLS
LS đệ quy
-
Lăn ls
Tài liệu kỹ thuật¶
Mô hình thống kê được giả định là
\ [Y = x \ beta + \ mu \], trong đó \ [\ mu \ sim n \ left [0, \ sigma \ right]. \], where \[\mu\sim N\left[0,\Sigma\right].\]
Tùy thuộc vào các thuộc tính của \ [\ sigma \], chúng tôi hiện có bốn lớp có sẵn:\[\Sigma\], we have currently four classes available:
GLS: bình phương tối thiểu nhất cho hiệp phương sai tùy ý \ [\ sigma \]\[\Sigma\]
OLS: bình phương tối thiểu cho I.I.D. Lỗi \ [\ sigma = \ textbf {i} \]\[\Sigma=\textbf{I}\]
WLS: bình phương tối thiểu có trọng số cho các lỗi dị hợp\[\text{diag}\left [\Sigma\right]\]
GLSAR: Các bình phương nhỏ nhất khả thi với các lỗi AR [P] tự động tương quan \ [\ sigma = \ sigma \ left [\ rho \ rears\[\Sigma=\Sigma\left[\rho\right]\]
Tất cả các mô hình hồi quy xác định các phương pháp tương tự và tuân theo cùng một cấu trúc, và có thể được sử dụng theo cách tương tự. Một số trong số chúng chứa các phương thức và thuộc tính cụ thể mô hình bổ sung.
GLS là siêu lớp của các lớp hồi quy khác ngoại trừ các đệ quy, rollingwls và rollingols.
Người giới thiệu¶
Tài liệu tham khảo chung cho các mô hình hồi quy:
D.C. Montgomery và E.A. PECK. Giới thiệu về phân tích hồi quy tuyến tính. lần 2. Ed., Wiley, 1992.
Tài liệu tham khảo kinh tế lượng cho các mô hình hồi quy:
R.Davidson và J.G. Mackinnon. Lý thuyết và phương pháp kinh tế học, Hồi Oxford, 2004.
W.Green. Phân tích kinh tế học, lần thứ 5, Pearson, 2003.
Thuộc tính¶
Sau đây là mô tả dài dòng hơn về các thuộc tính chủ yếu là phổ biến cho tất cả các lớp hồi quy
pinv_wexogarrayarrayP x N Moore-Penrose Pseudoinverse của ma trận thiết kế trắng. Nó xấp xỉ bằng \ [\ left [x^{t} \ sigma^{-1} x \ right]^{-1} x^{t} \ psi \], trong đó \ [\ psi \] sao cho \ [\ psi \ psi^{t} = \ sigma^{-1} \].\[\left[X^{T}\Sigma^{-1}X\right]^{-1}X^{T}\Psi\], where \[\Psi\] is defined such that \[\Psi\Psi^{T}=\Sigma^{-1}\].
CholsimgainvarrayarrayMa trận hình tam giác n x n trên \ [\ psi^{t} \] thỏa mãn \ [\ psi \ psi^{t} = \ sigma^{-1} \].\[\Psi^{T}\] that satisfies \[\Psi\Psi^{T}=\Sigma^{-1}\].
df_modelfloatfloatMức độ tự do mô hình. Điều này bằng P - 1, trong đó p là số lượng hồi quy. Lưu ý rằng việc chặn không được tính là sử dụng một mức độ tự do ở đây.
df_residfloatfloatMức độ tự do còn lại. Đây là N - P bằng nhau trong đó n là số lượng quan sát và P là số lượng tham số. Lưu ý rằng việc chặn được tính là sử dụng một mức độ tự do ở đây.
llffloatfloatGiá trị của hàm khả năng của mô hình được trang bị.
NobsfloatfloatSố lượng quan sát n
normalized_cov_paramsarrayarrayMột mảng p x p bằng \ [[x^{t} \ sigma^{-1} x]^{-1} \].\[[X^{T}\Sigma^{-1}X]^{-1}\].
SigmaarrayarrayMa trận hiệp phương sai n x\[\mu\sim N\left[0,\Sigma\right]\].
WexogarrayarrayMa trận thiết kế trắng \ [\ psi^{t} x \].\[\Psi^{T}X\].
WendogarrayarrayBiến phản ứng trắng \ [\ psi^{t} y \].\[\Psi^{T}Y\].
Tham chiếu mô -đun
Các lớp học mô hình
| Bình phương nhỏ nhất |
| Bình phương ít nhất |
| Có trọng số bình phương tối thiểu |
| Bình phương nhỏ nhất với cấu trúc hiệp phương sai AR |
| Ước tính các tham số AR [P] từ một chuỗi bằng cách sử dụng các phương trình Yule-Walker. |
| Tính toán công cụ ước tính tham số AP [P] của Burg. |
| Hồi quy lượng tử |
| Kiểu bình phương tối thiểu |
| Cuộn bình phương ít có trọng lượng |
| Lăn bình phương tối thiểu bình thường |
| Một việc thực hiện các quá trình sử dụng kernel Gaussian. |
| Phù hợp với mô hình hồi quy trung bình/phương sai Gaussian. |
| Cắt lát hồi quy nghịch đảo [thưa ngài] |
| Hướng dẫn Hessian Hessian [Tiến sĩ] |
| Ước tính phương sai trung bình được cắt lát [Lưu] |
Các lớp kết quả Lớp
Phù hợp với mô hình hồi quy tuyến tính trả về một lớp kết quả. OLS có một lớp kết quả cụ thể với một số phương pháp bổ sung so với lớp kết quả của các mô hình tuyến tính khác.
| Lớp này tóm tắt sự phù hợp của mô hình hồi quy tuyến tính. |
| Lớp kết quả cho một mô hình OLS. |
| Kết quả lớp học cho dự đoán. |
| Kết quả cho các mô hình ước tính bằng cách sử dụng chính quy |
| Phiên bản kết quả cho mô hình Quantreg |
| Lớp để giữ kết quả từ việc lắp mô hình bình phương tối thiểu đệ quy. |
| Kết quả từ hồi quy lăn |
| Kết quả lớp cho các mô hình hồi quy quy trình Gaussian. |
| Kết quả lớp cho một hồi quy giảm kích thước. |