☰
从线性模型说起:关于统计建模的一些思考
2026/10/21 2:37:04 网站建设 项目流程

温馨提示:若页面不能正常显示数学公式和代码,请阅读原文获得更好的阅读体验。

作者:连小白 (连享会)
邮箱:lianxhcn@163.com

  • Title: 从线性模型说起:关于统计建模的一些思考
  • Keywords: 统计建模, 线性回归, 条件分布, 分位数回归, 广义线性模型, OLS, GMM, MLE, 贝叶斯推断

提要:线性回归的线性结构体现在参数的组合方式,也可以对应曲线和曲面。本文以住房租金为例,串联条件均值、分位数、方差与条件分布,说明模型设定、OLS/GMM/MLE 估计及统计推断之间的联系,并讨论这些结果如何用于预测、因果解释与经济决策。


学过计量经济学导论、了解基本因果推断和 MLE 以后,我们通常已经掌握不少方法。但面对一个新的分析问题,仍然可能存在一些疑问:应该先设定模型,还是先选择估计方法?为什么有时只设定条件均值,有时又要假定完整分布?线性回归、GLM、MLE 和贝叶斯分析之间,怎样建立联系?

这篇推文面向已有上述基础、希望把分散知识连成整体的读者。我们以线性回归为线索,讨论建模中的三个层次:希望了解结果的什么特征,选择怎样的关系和概率假设,以及怎样利用样本开展估计与推断。

本文希望分享的核心观点是:分析目标应当贯穿模型设定、估计与推断的各项选择。我们可以先确定希望描述结果变量的哪个分布特征,再考虑与之相符的函数形式、概率设定和推断方法。

沿着这条思路,还需要分清模型设定、参数估计与因果识别各自解决的问题。只研究条件均值时,未必需要指定完整分布;若希望把变量之间的条件关系解释为某项干预带来的效果,还需要相应的研究设计和识别假设。OLS 或 MLE 提供的是利用样本估计参数的方法,不能替代这些依据。把这些层次区分清楚,才能判断一个模型提供了什么信息,以及这些信息能够支持什么结论。

以住房租赁为例。同一批住房数据,可以用于预测平均租金、评估低租金风险,也可以用于研究是否配置家具对租金的影响。几个问题都可能用到回归,但关心的对象和所需依据并不相同。

下面以这个例子贯穿讨论。yy 表示住房月租金,单位为元;xx 开头的变量表示面积、房龄等连续变量;DD 开头的变量表示虚拟变量,取 1 表示所述条件成立,取 0 表示不成立;uu 表示扰动项。分析对象暂定为已出租住房的签约月租金,后面再讨论这一选择对结论的限制。

1. 分析目标与建模对象

假设我们掌握一批住房的租金、面积、房龄和配置数据。若想预测某类住房的平均租金,需要描述平均水平与住房特征的关系;若想评估低租金风险,还需要了解平均水平周围的差异;若想判断添置家具是否划算,则要比较配置改变带来的租金变化与添置成本。同一份数据可以服务于不同问题,而这些问题要求模型提供的信息并不相同。

1.1 均值、尾部概率与干预效果

如果机构需要预测某类住房的平均租金,条件均值就是直接相关的对象。如果关心租金低于 4000 元的可能性,就需要相应的条件概率。如果要决定是否配置家具,则还需要了解配置家具这一干预会怎样改变结果。

希望回答的问题直接相关的分析对象
给定面积、房龄和配置,平均租金是多少?条件均值
给定这些特征,租金低于 4000 元的概率是多少?条件分布在相应门槛处的概率
为同类住房配置家具,会怎样改变租金?不同干预状态下的结果比较,需要因果识别

前两个问题关注给定住房特征后的结果分布,第三个问题还涉及改变住房配置的后果。即使准确知道家具组和无家具组的租金分布,也不一定能据此判断配置家具的效果。

分析目标也决定了所需信息的范围。预测均值不一定需要知道完整分布;计算某个尾部概率,需要对相应部分的分布有足够了解。完整分布包含更多信息,同时通常要求更多设定。

Shmueli (2010) 专门比较了解释性建模与预测性建模从目标定义到模型评价的差异。对于同一份数据,分析目标的变化,可以改变变量选择、模型构造和评价标准。

1.2 条件均值与条件分布

假设给定同一组住房特征,两种候选模型都给出平均租金 5000 元,但条件标准差分别为 500 元和 1000 元。在正态近似下,租金低于 4000 元的概率分别约为 2.3% 和 15.9%。均值相同,并不意味着低租金风险相同。

图 1:同一组住房特征下的两个候选正态分布,共用一组坐标。两者均值都为 5000 元,标准差分别为 500 元和 1000 元;各曲线在 4000 元左侧与横轴之间的面积,分别对应 2.3% 和 15.9% 的低租金概率。

用 ww 统记我们掌握的住房特征,可以把条件均值写为 m(w)=E⁡(y∣w)m(w)=E(y∣w)。在不同面积和房龄处,把这些均值连接起来,就形成回归曲线或曲面。曲面上的每个位置背后,仍然存在一个条件分布,具体住房的租金可以高于或低于该处均值。

为了看清这些分布怎样随面积变化,暂时把其他住房特征固定,只让面积 xx 变化。图 2 在 60、70、80、……、120 平方米处,分别画出一组租金散点及对应的条件密度曲线。

图 2:每个面积取值对应一列租金散点和一条竖向条件密度曲线。密度曲线以相应面积为基线向右展开,横向宽度表示密度大小,不表示面积变化。橙色实线连接条件均值,灰色虚线连接第 10 和第 90 百分位租金。本图采用 y∣x∼N(μ(x),σ2(x))y∣x∼N(μ(x),σ2(x)),其中 μ(x)=2000+50xμ(x)=2000+50x,σ(x)=400+10(x−60)σ(x)=400+10(x−60)。

从这幅图可以提出几种不同的问题。面积增加时,平均租金怎样变化?这是在研究条件期望 E⁡(y∣x)E(y∣x)。同一面积的住房之间,租金差异有多大,这种差异是否随面积改变?这对应条件方差 Var⁡(y∣x)Var(y∣x)。如果关心较便宜和较昂贵的住房,可以研究条件分位数 Q0.1(y∣x)Q0.1​(y∣x) 和 Q0.9(y∣x)Q0.9​(y∣x),也就是给定面积后的第 10 和第 90 百分位租金。

需要说明的是,这两个分位数分别是最便宜 10% 和最贵 10% 住房的分界点,并不是这两组住房各自的平均租金。若关心这两组的平均水平,研究的就是相应的尾部条件均值。

这些分布特征都可以与面积等变量建立回归关系。图 2 中,条件均值与两个条件分位数都随面积线性变化,条件标准差也随面积线性增加。均值、分位数和方差可以分别建模,不必都采用同一组模型项;对方差还可以使用对数形式,保证预测值为正。第 3.1 和 3.2 节将回到这幅图,进一步说明这些设定之间的关系。

温馨提示:若页面不能正常显示数学公式和代码,请阅读原文获得更好的阅读体验。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询