变分贝叶斯变量选择后恢复潜在结构:因子分析评估新框架
速览
该研究针对部分探索性因子分析,利用正则化变分近似进行贝叶斯变量选择,恢复加载结构。提出后选择评估框架,通过硬选择或软选择将收敛解转换为协方差模型,并推导自由度、绝对拟合指标和相对准则。引入尺度无关增益规则确定因子数,模拟显示该规则准确恢复真实维度,且在100项PID 5示例中验证了模型拟合优势。
AI 深度解读
背景
在心理测量、行为科学和社会科学中,因子分析(Factor Analysis)是探索潜在结构的主流工具。传统上,研究者需要在完全探索性(Exploratory Factor Analysis, EFA)和完全验证性(Confirmatory Factor Analysis, CFA)之间做出选择:EFA 允许所有项目自由加载到所有因子上,但缺乏先验约束;CFA 则强制指定每个项目只加载到特定因子上,对先验知识要求高。部分探索性因子分析(Partially Exploratory Factor Analysis, PEFA)作为折中方案,允许研究者对部分载荷进行弱指定(例如,已知某些项目属于某个因子,但其他项目可自由加载),从而更灵活地匹配实际理论建构。
然而,PEFA 的估计存在两个关键挑战:一是载荷结构(哪些项目加载到哪些因子)本身是未知的,需要从数据中推断;二是因子数量(Factor Number)也需要同时确定。近年来,基于变分贝叶斯(Variational Bayes)的变量选择方法被引入到部分验证性因子分析(Partially Confirmatory Factor Analysis, PCFA)中,通过 spike and slab 先验对未指定的载荷进行贝叶斯变量选择,从而自动恢复稀疏结构(称为 PCFA VA)。但该方法在收敛后,缺乏一套系统的后选择评估框架来评估模型拟合质量、选择最优因子数,以及比较不同规范下的结果。
本文正是针对这一空白,提出了一套完整的后选择评估框架,包括硬选择和软选择两种处理方式,导出自由度、绝对拟合指标(RMSEA、SRMR、CFI、TLI)和相对拟合标准(AIC、BIC、ELBO),并专门设计了用于确定因子数的无尺度增益规则(scale free gain rule with sustained drop guard)。通过模拟和真实数据(100 项 PID 5 问卷)验证了该框架的有效性。
核心内容
本文的核心贡献在于为 PCFA VA 方法提供了一套系统的后选择评估与因子数选择工具。具体技术路线如下:
1. 载荷结构的后处理:硬选择与软选择
PCFA VA 使用 spike and slab 先验对每个未指定的载荷估计一个包含概率(inclusion probability,即该载荷非零的后验概率)。收敛后,有两种方式将概率转化为可用于协方差结构建模的载荷模式:
- 硬选择(Hard Selection):设定一个阈值(通常为 0.5),将包含概率大于阈值的载荷视为“包含”(保留其估计值),小于阈值的视为“排除”(设为 0),从而得到一个稀疏的载荷矩阵。
- 软选择(Soft Selection):保留所有载荷的后验均值,但将包含概率作为权重,用于计算有效参数数量(effective parameter counts)。软选择不强制稀疏,而是通过权重反映不确定性。
2. 拟合诊断指标
基于硬选择或软选择后的载荷矩阵,可以重建隐含的协方差矩阵(模型隐含协方差)。然后计算:
- 绝对拟合指标:RMSEA(Root Mean Square Error of Approximation)、SRMR(Standardized Root Mean Square Residual)、CFI(Comparative Fit Index)、TLI(Tucker-Lewis Index)。这些指标评估模型与观测数据之间的差异程度。
- 相对拟合指标:AIC(Akaike Information Criterion)、BIC(Bayesian Information Criterion)、ELBO(Evidence Lower Bound,变分下界)。这些指标用于比较不同模型(不同因子数或不同载荷结构)的优劣。
文章推导了这些指标在硬选择和软选择两种情形下的自由度(degrees of freedom),因为有效参数数量会因载荷的稀疏性而改变,不能直接使用默认的自由度。
3. 因子数选择:无尺度增益规则
因子数选择是 PEFA 的核心难题之一。传统方法(如基于 AIC/BIC 的极小值选择)容易过度因子化(over-factoring),即选择过多的因子。本文提出了一种新的规则:无尺度增益规则(scale free gain rule),并辅以持续下降防护(sustained drop guard)。
具体做法:对于候选因子数 k(从 1 到某个最大可能值),计算从 k-1 到 k 时的增益(gain),例如 ELBO 的增量。增益被标准化为无尺度形式(即除以某个基准,使其不依赖于数据尺度)。然后,选择增益首次出现“持续下降”之前的因子数:即当增益序列从单调递增转为下降,且下降趋势持续至少若干步时,取下降前的峰值对应的因子数。该规则天然避免了原始标准(如直接取 ELBO 最大值)的过因子化问题。
4. 模拟研究
作者通过蒙特卡洛模拟验证了框架的性能:
- 绝对拟合指标(RMSEA、SRMR、CFI、TLI)能够成功追踪载荷恢复质量,并在因子数不足(under-factoring)时发出警告信号(例如 RMSEA 变高、CFI 变低)。
- 如果直接使用原始标准(如 ELBO 最大值或 BIC 最小值)来选择因子数,结果倾向于过度因子化(选择过多的因子)。
- 而本文提出的无尺度增益规则,无论使用 ELBO、AIC 还是 BIC 作为增益基础,均能准确恢复真实的因子数。其中,基于 ELBO 的增益规则最为稳健,即使在数据生成存在复杂结构时也表现良好。
5. 实证应用:100 项 PID 5 问卷
PID 5(Personality Inventory for DSM-5)是用于评估人格障碍维度特征的 100 项量表。本文将该量表应用于 PCFA VA 框架,并与一个已有的确认性 25 面模型(confirmatory 25 facet model)进行对比。结果显示:
- PCFA VA 模型的拟合优度全面优于确认性 25 面模型(RMSEA、SRMR、CFI、TLI 均更优)。
- 通过无尺度增益规则确定的因子数,在不同载荷规范(specification)下(即不同的先验指定方式)能够一致地恢复出主要的潜在结构,验证了方法的跨规范一致性。
关键要点
- **PCFA VA
