北京工业大学，北京

收稿日期：2021年9月30日；录用日期：2021年10月15日；发布日期：2021年10月29日

摘要

目前，对于回归模型的主要关注点在于，通过描述响应变量分布更一般的特性，扩展具有可行性的(均值)回归模型。本文将利用expectile函数为基础，在贝叶斯的框架下，假设先验函数为正态分布，非对称广义高斯分布为似然分布，建立贝叶斯expectile回归模型，推导了贝叶斯expectile回归的估计方法。本文利用R语言对模型进行了数据模拟和实证分析，利用Metropolis-Hastings算法对目标后验函数进行抽样，从而得出参数的估计，结果表示贝叶斯expectile回归模型具有一定的可行性和准确性。本文还将贝叶斯expectile回归模型应用于美国人口调查工资数据(Berndt, 1991)，对数据进行了回归拟合并计算出置信区间，结果表明，职业、受教育年限等因素对工资存在显著的影响。

关键词

贝叶斯，expectile，非对称广义高斯分布，Metropolis-Hastings算法，R语言

Bayesian Statistical Inference of Expectile Regression Model

Jiao Jin^*, Siqing Guan^*, Lingyan Hu^*, Kaiqi Zhang^*, Yang Lv

Beijing University of Technology, Beijing

Received: Sep. 30^th, 2021; accepted: Oct. 15^th, 2021; published: Oct. 29^th, 2021

ABSTRACT

Currently, the main focus for regression models is to extend available (mean) regression models by describing more general properties of the distribution of the response variables. Under the framework of Bayes, based on the expectil, this paper builds the Bayesian expectile regression model which assumes that the prior function is normal distribution and the asymmetric generalized Gaussian distribution is likelihood distribution. Also, this paper deduces the estimation method of Bayesian expectile regression. This paper uses R language for data simulation and empirical analysis of the model where the Metropolis-Hastings algorithm is used to sample the target posterior function, so as to obtain the parameter estimation. The results show that the Bayesian expectile regression model has certain feasibility and accuracy. In this paper, the Bayesian expectile regression model is applied to the salary data of the United States Population Survey (Berndt, 1991), the confidence interval is calculated and the data is fitted by the regression. The results show that occupation, years of education and other factors have a significant impact on the salary.

Keywords:Bayes, expectile, Asymmetric Generalized Gaussian Distribution, Metropolis-Hastings Algorithm, R Language

Copyright © 2021 by author(s) and Hans Publishers Inc.

This work is licensed under the Creative Commons Attribution International License (CC BY 4.0).

http://creativecommons.org/licenses/by/4.0/

1. 引言

贝叶斯统计方法广泛应用于不同的领域，与很多已知的方法进行结合可以得到更好的模型，并不断对新模型进行改进和优化，例如，将贝叶斯方法和quantile回归进行结合(Yu和Moyeed (2001) [1] )。本文考虑将贝叶斯方法与expectile模型进行结合，由于抽样具有一定的难度，以及应用不够广泛，学者们至今对于贝叶斯和expectile回归结合的研究相对不多。抽样是贝叶斯统计学中重要的环节，由于目标函数(多为后验函数)复杂且不一定存在具体表达式，所以如何能够准确地从贝叶斯目标函数中抽样，是一直以来困扰学者们的问题。近年来，Markov链蒙特卡罗(MCMC)方法是相对比较主流简单的从后验分布中抽样的方法，其原理是为了对目标函数进行抽样，构建一个可以收敛到目标函数的Markov链的稳定分布，通过从这一稳定分布中抽样进而实现从目标函数中抽样。MCMC方法包括Metropolis-Hastings算法和Gibbs算法等。本文选择Metropolis-Hastings算法对后验函数进行抽样。

2. 数据来源与变量解释

利用贝叶斯expectile回归模型对1985年5月美国人口普查局对当前人口调查(为1991年Berndt随机抽取样本) [2]。

该数据集包含11个变量的534个观察值，用于研究工资的决定因素。解释变量包括年龄、潜在工作经验年限、教育程度、居住地区、性别、种族、部门、联盟、职业和婚姻状况信息。由于潜在工作年限 = 年龄 − 受教育年限 − 6，为减少变量的共线性，不考虑年龄作为解释变量。解释变量中受教育年限和潜在工作经验年限为数值型变量，其余为分类变量，其中种族、职业、部门为多分类变量。对于多分类变量，将其划分为0~1变量：当 $X_6=0$，$X_7=0$ 时，种族为“cauc”；当 $X_8=0$，$X_9=0$，$X_{10}=0$，$X_{11}=0$，$X_{12}=0$ 时，职业为商人或装配线工人；当 $X_{13}=0$，$X_{14}=0$ 时，部门为其他部门。具体变量解释见表1：

表1. 变量解释表

3. 研究方法

3.1. 贝叶斯expectile回归

建立贝叶斯expectile回归方程，假设回归方程为多元线性回归方程，表达式为：

$y_j=x_j\beta +{\epsilon }_j,$ (1)

其中样本数据容量为n， $x_j=\left(x_{j1},x_{j2},\cdots ,x_{jp}\right)$，$\beta$ 为未知参数， $\beta ={\left({\beta }_1,{\beta }_2,\cdots ,{\beta }_p\right)}^{\text{T}}$。误差项 ${\epsilon }_j$ 服从均值为0的分布且独立同分布。将模型用矩阵的形式表达：

$Y=X\beta +\epsilon$ (2)

其中 $X=\left(\begin{array}{cccc}{x}_{11}& x_{12}& \cdots & x_{1p}\\ x_{21}& x_{22}& \cdots & x_{2p}\\ ⋮& ⋮& & ⋮\\ x_{n1}& x_{n2}& \cdots & x_{np}\end{array}\right)$，$Y={\left(y_1,y_2,\cdots ,y_n\right)}^{\text{T}}$，$\epsilon ={\left({\epsilon }_1,{\epsilon }_2,\cdots ,{\epsilon }_n\right)}^{\text{T}}$，${\sigma }^2>0$ 未知。 $x_{j·}$ 表示第j次观测自变量的观测值； $y_j$ 表示在自变量 $x_{j·}$ 下因变量第j次的观测值。

除了一些众所周知的英文缩写，如IP、CPU、FDA，所有的英文缩写在文中第一次出现时都应该给出其全称。文章标题中尽量避免使用生僻的英文缩写。

3.1.1. 先验函数

假设先验函数服从正态分布，即 $\pi \left(\beta \right)~N\left({\mu }_{\beta },{\Sigma }_{\beta }\right)$，其中 ${\text{Σ}}_{\beta }>0$ 为常数，其概率密度函数为：

$\pi \left(\beta \right)=\frac{1}{\sqrt{2\pi }}\exp \left\{-{\left(\beta -{\mu }_{\beta }\right)}^{\text{T}}{\Sigma }_{\beta }^{-1}\left(\beta -{\mu }_{\beta }\right)\right\}$ (3)

3.1.2. 似然函数

非对称广义高斯分布概率密度函数完全由参数 $\alpha$，${\sigma }_a$，${\sigma }_b$ 决定，设 $\alpha =2$，${\sigma }_a=\frac{1}{\sqrt{1-\tau }}$，${\sigma }_b=\frac{1}{\sqrt{\tau }}$，取均值 $\mu =0$，$\epsilon$ 的概率密度函数为：

$f_{\tau }\left(\epsilon \right)=\{\begin{array}{l}\frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\exp -{\left(\frac{-\epsilon }{\sqrt{1-\tau }}\right)}^2,\epsilon <0\\ \frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\exp -{\left(\frac{\epsilon }{\sqrt{\tau }}\right)}^2,\epsilon \ge 0\end{array}$ (4)

通过expectile函数的损失函数 ${\rho }_{\tau }\left(u\right)=\left|\tau -I\left(u<0\right)\right|u^2$，可以将式(4)化为：

$f_{\tau }\left(\epsilon \right)=\{\frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\exp \left\{-{\rho }_{\tau }\left(\epsilon \right)\right\}$

那么 ${\epsilon }_j,j=1,2,\cdots ,n$ 的联合概率密度为：

$\begin{array}{c}L={\displaystyle \underset{j=1}{\overset{n}{\prod }}{f}_{\tau }\left({\epsilon }_j\right)}={\displaystyle \underset{j=1}{\overset{n}{\prod }}{f}_{\tau }\left(y_j-x_j\beta \right)}\\ ={\left[\frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\right]}^n\cdot \exp \left\{-{\displaystyle \underset{{\epsilon }_j<0}{\sum }{\left(\frac{-{\epsilon }_j}{\sqrt{1-\tau }}\right)}^2}-{\displaystyle \underset{{\epsilon }_j\ge 0}{\sum }{\left(\frac{{\epsilon }_j}{\sqrt{\tau }}\right)}^2}\right\}\\ ={\left[\frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\right]}^n\cdot \exp \left\{-{\displaystyle \underset{j=1}{\overset{n}{\sum }}{\rho }_{\tau }\left({\epsilon }_j\right)}\right\}\end{array}$ (5)

假设因变量 $y_j$ 服从非对称广义高斯分布，则似然函数根据式(5)可以写为：

$L\left(Y|\beta \right)={\left[\frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\right]}^n\cdot \exp \left\{-{\displaystyle {\sum }_{j=1}^n{\rho }_{\tau }\left(y_j-x_j\beta \right)}\right\}$ (6)

另 ${\epsilon }_j=y_j-x_j\beta$ 表示残差，其中 $\tau$ 是固定值， $\beta$ 是未知参数，需要通过抽样得到。

3.1.3. 先验函数

参数 $\beta$ 的后验函数分布密度与先验分布密度和似然函数的乘积成正比，表达式为：

$\pi \left(\beta |Y\right)\propto L\left(Y|\beta \right)\pi (\; \beta \; )$

由式(3)和式(6)可得：

$\begin{array}{c}\pi \left(\beta |X,Y\right)\propto \exp \left\{-{\displaystyle \underset{j=1}{\overset{n}{\sum }}{\rho }_{\tau }\left(y_j-x_j\beta \right)}\right\}\cdot \exp \left\{-{\left(\beta -{\mu }_{\beta }\right)}^{\text{T}}{\Sigma }_{\beta }^{-1}\left(\beta -{\mu }_{\beta }\right)\right\}\\ \propto \exp \left\{-{\displaystyle \underset{j=1}{\overset{n}{\sum }}{\rho }_{\tau }\left(y_j-x_j\beta \right)}-{\left(\beta -{\mu }_{\beta }\right)}^{\text{T}}{\Sigma }_{\beta }^{-1}\left(\beta -{\mu }_{\beta }\right)\right\}\end{array}$ (7)

3.2. Metropolis-Hastings算法

由式(7)可知，后验分布没有具体的表达式，因此不能用MCMC法进行直接抽样，由于Metropolis-Hastings算法适用于只知道后验分布正比于先验分布和似然函数的情况，因此本文选择Metropolis-Hastings算法进行样本抽样。Metropolis-Hastings方法是一般化的MCMC方法，它由Metropolis等人在1953年 [3] 提出了一种构造转移方法，Hastings随后对这个算法进行了进一步的扩展 [4]，形成了Metropolis-Hastings方法。

假设建议随机变量 $W^{\prime }~q\left({\omega }^{\prime }|\omega \right)$ 且通过 ${W^{\prime }}_t=W^{\left(t\right)}+K_t$ 产生，其中 $K_t$ 与 $W^{\left(t\right)}$ 独立，成为随即增量，服从某个关于0对称的固定的随机分布。此时的抽样方法称为随机游动MH抽样，建议分布 $q\left({\omega }^{\prime }|\omega \right)=q\left({\omega }^{\prime }-\omega \right)$。

利用Metropolis选择进行建议分布的选择，考虑对称的建议分布

$q\left(\omega |{\omega }^{\prime }\right)=q\left({\omega }^{\prime }|\omega \right)$

此时的接受率简化为：

$\alpha \left(\omega ,{\omega }^{\prime }\right)=\min \left\{1,\frac{\pi \left({\omega }^{\prime }|x\right)}{\pi \left(\omega |x\right)}\right\}$ (8)

因此建议分布为 $q\left({\omega }^{\prime }|\omega \right)=q\left(\left|\omega -{\omega }^{\prime }\right|\right)$。该方法的函数形式简单，抽样的过程直接，同时算法收敛，因其随机游走链趋向于高后验概率密度的区域。

对于贝叶斯expectile回归模型，式(8)为：

$\alpha \left(\beta ,{\beta }^{\prime }\right)=\min \left\{1,\frac{\pi \left({\beta }^{\prime }|Y\right)}{\pi \left(\beta |Y\right)}\right\}=\min \left\{1,\frac{\pi \left({\beta }^{\prime }\right)L\left(Y|{\beta }^{\prime }\right)}{\pi \left(\beta \right)L\left(Y|\beta \right)}\right\}$

其中 $\pi (\cdot )$ 表示先验函数， $L\left(\right)$ 表示似然函数，假设先验分布服从正态分布，即 $\pi \left(\beta \right)~N\left({\mu }_{\beta },{\Sigma }_{\beta }\right)$。假设u服从均匀分布即 $u~U\left(0,1\right)$，则

${\beta }^{\left(t+1\right)}=\{\begin{array}{l}{\beta }^{\prime },u\le \alpha \left(\beta ,{\beta }^{\prime }\right)\\ \beta ,u>\alpha \left(\beta ,{\beta }^{\prime }\right)\end{array}$

${{\beta }^{\prime }}_t={\beta }^{\left(t\right)}+K_t$，假设 $K_t~N\left(0,c{I}_n\right)$，那么 ${{\beta }^{\prime }}_t~N\left({\mu }_{{\beta }^{\left(t\right)}},c{I}_n\right)$，其中取均值的初始值为最小二乘估计值:

${\beta }^{\left(0\right)}=\underset{\beta }{\arg \min }\underset{j=1}{\overset{n}{{\displaystyle \sum }}}{\left(y_j-x_j^{\text{T}}\beta \right)}^2$

$K_t$ 的取值决定了建议分布选择的准确性， $K_t$ 是每一步游走的步长，不当的选择会减缓抽样速度以及导致接受率过大或过小。当接受概率过小时，随机游走几乎不会移动，要想随机游走整个可行域需要非常大的抽样次数，收敛范围不理想，容易产生一定的误差；当接受概率过大时，更新值接近于抽样值，随机游走步长过小，抽样次数同样需要很大。因此目标为选择合适的抽样次数和c来保证合适的接受率。

通常情况下，接受率在0.4~0.6之间为最佳，为保证抽样结果收敛，本文选择n次迭代并取后n/2次迭代结果的均值来估计参数 $\beta$。

$\bar{g}\left(\beta \right)=\frac{1}{n/2}{\displaystyle \underset{t=n/2+1}{\overset{n}{\sum }}g\left({\beta }^{(\; t\; )}\right)}$

4. 模型建立

4.1. 模拟数据

为了更全面的验证贝叶斯expectile回归模型的可行性和精度，利用R语言对不同样本容量，不同 $\tau$，不同分布下的随机误差产生样本数据，从而更准确的比较不同样本数据下贝叶斯expectile回归模型对于参数 $\beta$ 的估计效果。

模拟数据的设计如下：另模拟的数据模型为：

$y_j=x_j\beta +{\epsilon }_j$

其中 $\beta$ 服从多元高斯正态分布，为待估计的参数， ${\epsilon }_j$ 为独立同分布的残差项。为避免真值不同对估计产生的误差，设定相同的真值，相同的迭代次数；为避免随机游动Metropolis-Hastings算法中游走步长对估计产生的误差，选择固定的步长。根据估计值与真实值的误差和均方误差进行模型的准确性比较。

假设真值 $\beta ={\left(1.2,-1.35,0,-0.7\right)}^{\text{T}}$，迭代次数 $B=1000$，游走步长 $K_t~N\left(0,c{I}_n\right)$ 中c固定， $I_n$ 是单位矩阵。

1) 假设随机误差服从标准正态分布，即 ${\epsilon }_j~N\left(0,1\right)$，$\tau =0.5$，模拟数据研究不同样本容量n下模型的估计值，估计值与真实值的误差和均方误差，以及模型的接受率见表2：

表2. 不同样本容量下的模型比较

由表2可以看出，在固定随机误差分布和 $\tau$ 时，由于估计的偏差都在0附近且很小，MSE也很小。因此可以判断利用贝叶斯expectile模型估计得到的参数 $\beta$ 的估计值是比较稳定的，是比较趋于真实值的。对于 ${\beta }_i,i=1,2,3,4$，随着样本量的增加，MSE减小，这说明模型有效，模型的估计值更准确。对于样本容量为100的时候，接受率为0.704，接受率偏大。当接受率偏大时，需要更多的抽样次数才可以保证模型的准确性。

假设随机误差服从自由度为4的t分布，即 ${\epsilon }_j~t\left(4\right)$，样本容量n = 300，模拟数据研究不同 $\tau$ 下模型的估计值，估计值与真实值的误差和均方误差，以及模型的接受率见表3：

表3. 不同 $\tau$ 下的模型比较

由表3可以看出，在固定随机误差分布和样本容量时，估计的偏差都在0附近且很小，MSE也很小。因此可以判断利用贝叶斯expectile模型估计得到的参数 $\beta$ 的估计值是比较稳定的，是比较趋于真实值的。不同 $\tau$ 下的MSE相差不大，当 $\tau =0.2$ 时，参数估计的偏差最小，因此该情况下的模型估计相对更为准确。接受率处于0.4~0.6之间，为合适接受率，可以判断 $\tau$ 对模型的估计存在一定的影响。

假设样本容量n = 500， $\tau =0.8$，研究随机误差服从标准正态分布，t分布和非对称广义高斯分布下模型的估计值，估计值与真实值的误差和均方误差，以及模型的接受率见表4：

表4. 不同随机误差分布下的模型比较

其中 ${\epsilon }_j~AGGD$ 的密度函数为

$f_{\tau }\left({\epsilon }_j\right)=\{\begin{array}{l}\frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\exp -{\left(\frac{-{\epsilon }_j}{\sqrt{1-\tau }}\right)}^2,{\epsilon }_j<0\\ \frac{2\sqrt{\tau \left(1-\tau \right)}}{\sqrt{\pi }\left(\sqrt{\tau }+\sqrt{1-\tau }\right)}\exp -{\left(\frac{{\epsilon }_j}{\sqrt{\tau }}\right)}^2,{\epsilon }_j\ge 0\end{array}$

由表4可以看出，在固定 $\tau$ 和样本容量时，估计的偏差都在0附近且很小，MSE也很小。因此可以判断利用贝叶斯expectile模型估计得到的参数 $\beta$ 的估计值是比较稳定的，是比较趋于真实值的。不同随机误差分布下，参数的偏差和MSE存在一定差异，可以看出当随机误差服从非对称广义高斯分布时，偏差和MSE最小，因此该情况下的模型估计相对更为准确。当随机误差服从标准正态分布和t分布时，接受率处于0.4~0.6之间，为合适接受率；随机误差服从非对称广义高斯分布时，接受率小于略小于0.4，由3.3结论可以知道，应该增加样本容量以增加模型准确性。

因此可以得出结论，随机误差的分布对模型的估计存在较为显著的影响，当随机误差服从非对称广义高斯分布时，模型的准确性更高。

4.2. 实际数据分析

4.2.1 . 数据来源与变量解释

该数据集包含11个变量的534个观察值，用于研究工资的决定因素。解释变量包括年龄、潜在工作经验年限、教育程度、居住地区、性别、种族、部门、联盟、职业和婚姻状况信息。由于潜在工作年限 = 年龄 − 受教育年限 − 6，为减少变量的共线性，不考虑年龄作为解释变量。解释变量中受教育年限和潜在工作经验年限为数值型变量，其余为分类变量，其中种族、职业、部门为多分类变量。对于多分类变量，将其划分为0~1变量：当 $X_6=0$，$X_7=0$ 时，种族为“cauc”；当 $X_8=0$，$X_9=0$，$X_{10}=0$，$X_{11}=0$，$X_{12}=0$ 时，职业为商人或装配线工人；当 $X_{13}=0$，$X_{14}=0$ 时，部门为其他部门。具体变量解释见表5：

表5. 变量解释表

4.2.2 . 贝叶斯expectile回归模型

考虑因变量和自变量服从贝叶斯expectile回归模型，

$y_j=x_j\beta +{\epsilon }_j,j=1,2,3,\cdots ,534$

其中 $y_j$ 表示工资， $x_j$ 表示这个人的各项影响因素， $\beta$ 为未知待估参数， ${\epsilon }_j$ 是误差项。由数据模拟可知， ${\epsilon }_j$ 独立同分布于非对称广义高斯分布时，模型的准确性更高。其中expectile函数的损失函数 ：

${\rho }_{\tau }\left(u\right)=\left|\tau -I\left(u<0\right)\right|u^2$

由数据模拟的结论，取 $\tau =0.2$。

选择先验分布为正态分布，即 $\pi \left(\beta \right)~N\left({\mu }_{\beta },{\Sigma }_{\beta }\right)$，由式(3-8)可知后验分布函数为

$\pi \left(\beta |X,Y\right)\propto \exp \left\{-{\displaystyle \underset{j=1}{\overset{534}{\sum }}{\rho }_{\tau }\left(y_j-x_j\beta \right)}-{\left(\beta -{\mu }_{\beta }\right)}^{\text{T}}{\Sigma }_{\beta }^{-1}\left(\beta -{\mu }_{\beta }\right)\right\}$

利用随机游动MH抽样对数据进行抽样，其中取均值的初始值为最小二乘估计值：

${\beta }^{\left(0\right)}=\underset{\beta }{\arg \min }\underset{j=1}{\overset{534}{{\displaystyle \sum }}}{\left(y_j-x_j^{\text{T}}\beta \right)}^2$

迭代10,000次，取后5000次的平均值为贝叶斯expectile回归模型的参数估计值。不断调整c使得其接受率处于0.4~0.6之间。

4.2.3 . 回归结果

经过不断调整后，随机游动MH抽样的接受率等于0.4103，参数 $\beta$ 的最小二乘估计值、贝叶斯expectile回归函数估计及其95%置信区间的数据可以在表6中找到：

表6. 参数估计表

根据结果可知，贝叶斯expectile回归模型的估计值与初值非常接近，模型拟合度良好。对于一个给定的贝叶斯95%可信区间，其意义是参数真值有95%的概率落在这个区间内。根据参数β的置信区间，若置信区间包括0，则变量不显著。可以看出，各变量的置信区间都不包括0，这说明了潜在工作经验年限、教育程度、居住地区、性别、种族、工作部门、联盟工作、职业和婚姻状况都对工资有着显著的影响。

图1. 残差图

图2. 残差密度图

由图1的残差图可知，残差呈随机分布，无明显漏斗状，因此认为残差是等方差的。由图2残差密度图可以看出，残差近似于关于0对称的正态分布，这与假设残差服从均值为0的非对称广义高斯分布相吻合。由于残差越接近于0，模型的拟合度越高，模型越准确，参数的估计越精确。因此，由残差图和残差密度图可以判断出，大多数残差接近于0，贝叶斯expectile回归模型的准确率较高。

根据估计系数可以得出以下结论：

1) 受教育年限和潜在的工作年限与工资(美元/小时)成正比关系；

2) 南方地区工资比其他地区的工资低0.627 (美元/小时)；

3) 女性比男性的工资低1.975 (美元/小时)；

4) 在联盟工作的人工资比不在联盟工作的人高1.597 (美元/小时)；

5) 对于种族而言，其他种族的工资比种族属于“cauc”和西班牙的工资低0.856 (美元/小时)；属于西班牙种族的人均工资比其他种族和“cauc”的工资低0.742 (美元/小时)；

6) 对于职业而言，行政和管理人员的工资高于其他职业工资3.418 (美元/小时)；销售人员工资低于其他职业工资0.734 (美元/小时)；办公室文员的工资高于其他职业工资0.045 (美元/小时)；服务人员工资低于其他职业工资0.753 (美元/小时)；技术或专业工人工资高于其他职业工资2.156 (美元/小时)；

7) 对于工作部门而言，制造业或采矿业工资高于其他职业工资0.975 (美元/小时)；建设业工资高于其他职业工资0.377 (美元/小时)；

8) 已婚人士工资比未婚人士工资高0.258 (美元/小时)。

综上，贝叶斯expectile回归模型拟合度较好，参数估计的准确率较高。其中受教育年限越长，在联盟工作，潜在工作年限越长，工作部门属于制造业或采矿业，职位是行政和管理人员，种族属于“cauc”的其他地区已婚男性，相对拥有更高的工资。

5. 模型评价

1) 该方法用贝叶斯expectile回归模型进行了数据模拟和实证分析，有良好的可行性和准确性。

2) 在不同 $\tau$ 和不同随机误差分布的情况下，对模型进行数据模拟，可以得出模型良好可行性。

3) 通过计算估计参数的偏差和均方误差来评估模型，发现该模型有较强准确性。

4) 对于分类变量，给出了同因素下不同类别的差异比较；对于连续变量，给出了与工资的相关关系。可对真实情况有一定的参考。

6. 结论

本文结合了贝叶斯统计和expectile，提出了贝叶斯expectile回归模型。文章第三章和第四章从理论和数据模拟与实证研究，研究了该模型的可行性和准确性。具体来说，本文第三章利用正态分布作为先验函数，非对称广义高斯分布作为样本的似然函数，在Metropolis-Hastings抽样方法的背景下，对模型进行理论推导，给出了贝叶斯expectile的后验函数以及贝叶斯expectile回归模型的参数估计计算表达式。本文第四章从模拟数据和实证分析，证明了贝叶斯expectile回归模型给出的估计值与真实值误差较小。对于模拟数据，在真值、迭代次数与随机游走步长相同的情况下，且在不同样本容量、 $\tau$ 和随机误差分布的情况下，对模型进行数据模拟，可以得出模型具有可行性，通过计算估计参数的偏差和均方误差来估计模型的准确性。当随机误差服从t分布，样本容量固定的情况下， $\tau =0.\text{2}$ 时，模型参数的估计更准确；当样本容量固定， $\tau$ 固定的情况下，随机误差服从非对称广义高斯分布时，模型参数的估计更准确；当 $\tau$ 固定的情况下，随机误差服从标准正态分布时，样本容量越高，模型参数的估计更准确。对于实证分析，利用1985年5月美国人口普查局对当前人口调查的抽样结果，研究不同因素对工资的影响，对于连续变量，受教育年限和潜在工作年限与工资成正比；对于分类变量，在联盟工作，工作部门属于制造业或采矿业，职位是行政和管理人员，种族属于“cauc”，其他地区，已婚，男性，相对拥有更高的工资。

文章引用

金 娇,管思晴,扈灵嫣,张凯琦,吕 洋. Expectile回归模型的贝叶斯统计推断研究
Bayesian Statistical Inference of Expectile Regression Model[J]. 统计学与应用, 2021, 10(05): 929-939. https://doi.org/10.12677/SA.2021.105097

参考文献