SPSSでステップワイズ回帰

SPSSでもステップワイズ回帰をやっておこうと思う。

重回帰分析

データは先のエントリと同じくCPS1985を使っている。
通常通り線形回帰のダイアログボックスを表示させる。

方法を「ステップワイズ法」にすればステップワイズ回帰になる。

REGRESSION
  /MISSING LISTWISE
  /STATISTICS COEFF OUTS R ANOVA SELECTION
  /CRITERIA=PIN(.05) POUT(.10)
  /NOORIGIN
  /DEPENDENT wage
  /METHOD=STEPWISE education experience age ethnicity region gender occupation sector union married.    

GUIからはできなかったと思うのだが、ANOVAのあとにSELECTIONを入れておくとACIやBICが出力できる。

赤池情報基準がAIC、Schwarzのベイズ基準がBICである。SPSSはR二乗値でモデルの選択を行っているようだ。AICはR二乗値と同じ結果を支持しているが、BICはモデル4を支持している。

IBMの解説ページ(英語)
https://www.ibm.com/support/knowledgecenter/en/SSLVMB_24.0.0/spss/tutorials/reg_cars_stepwise_01.html シンタックス(英語)
https://www.ibm.com/support/knowledgecenter/en/SSLVMB_24.0.0/spss/base/syn_regression_method.html

ロジステック回帰分析

ロジスティック回帰でもステップワイズ回帰はできるようだ。

方法のところを「強制投入法」から「変数減少法:尤度比」に変更するだけだ。
図では結婚を推定する変数の探索をする形になっている。

シンタックスは以下のようになる。

LOGISTIC REGRESSION VARIABLES married
 /METHOD=BSTEP  (LR) wage education experience age ethnicity region gender occupation sector union
 /CATEGORICAL ethnicity region gender occupation sector union
 /CRITERIA=PIN(.05) POUT(.10) ITERATE(20) CUT(.5).

変数減少法はBSTEP尤度比は(LR)である。 一部を強制投入法、一部をステップワイズ法で分析する場合、は以下のように投入法を行ごとに変更する。

/METHOD=ENTER  wage education
/METHOD=BSTEP  (LR) experience age ethnicity region gender occupation sector union

GUIで行う場合には、ブロック１で強制投入法をして、ブロック２で「変数減少法:尤度比」とすると同じようになる。

シンタックス(英語)
https://www.ibm.com/support/knowledgecenter/en/SSLVMB_23.0.0/spss/regression/syn_logistic_regression_method.html

ちなみにSPSSのフリーのクローンソフトウェアであるPSPPではステップワイズ回帰は実行できないようだ。