구조방정식 모형(SEM)의 이해: 탄생 배경, 역사적 계보, 그리고 PROCESS Macro 실전 가이드

현실의 사회 현상이나 인간의 심리는 복잡하게 얽혀 있습니다. 가령 ‘조직 성과’나 ’학업 성취’ 같은 지표들은 단 하나의 독립 변수로 설명되지 않으며, ‘만족도’, ‘동기’, ’자기효능감’처럼 눈에 직접 보이지 않는 추상적인 개념(잠재 변수)들을 포함하는 경우가 많습니다.

이러한 잠재 변수(Latent Variable) 간의 관계와 다중 경로를 오차를 통제하며 하나의 통합된 틀로 분석하는 통계 기법이 바로 구조방정식 모형(SEM, Structural Equation Modeling)입니다. 본 포스트에서는 SEM의 역사적 탄생 배경과 현대적 분화(CB-SEM vs PLS-SEM), 그리고 매개·조절 효과의 발전 경로를 추적하며 실무와 논문 작성에 유용한 PROCESS Macro Model 7 검증법까지 종합적으로 다뤄보겠습니다.

1. 구조방정식 모형(SEM)은 왜 탄생했는가?

1.1 단순 회귀분석의 한계 극복

초기 사회과학 연구는 독립 변수와 종속 변수가 1:1로 매칭되는 회귀분석에 의존했습니다. 그러나 현실에서는 다음과 같은 한계에 부딪혔습니다. 1. 추상적 개념 측정의 오차: 설문 문항(측정 변수)으로 심리 상태(잠재 변수)를 유추할 때 필연적으로 응답 오차가 발생하며, 회귀분석은 이 오차를 걸러내지 못해 왜곡된 계수를 도출합니다. 2. 다중 인과 경로 분석: 매개 변수가 여러 개이거나 경로가 꼬여 있는 인과관계를 단 한 번에 분석하기 어렵습니다.

SEM은 측정 변수들을 통해 잠재 개념을 뽑아내는 측정모형(Measurement Model)과 잠재 개념 간의 인과관계를 추정하는 구조모형(Structural Model)을 결합하여 이 문제를 해결했습니다.

2. SEM의 역사적 계보와 핵심 인물

구조방정식 모형은 크게 세 개의 학문적 흐름(심리측정학의 요인분석, 생물학의 경로분석, 계량경제학의 동시방정식)이 융합되어 태어났습니다.

graph TD
    Spearman[Charles Spearman <br> 1904, 요인분석 창안] --> CFA[측정모형 CFA 전통]
    Thurstone[L.L. Thurstone <br> 다요인 모델 확장] --> CFA
    
    Wright[Sewall Wright <br> 1921, 경로분석 창안] --> Structural[구조모형 전통]
    Econometrics[계량경제학 <br> 동시방정식/식별 문제] --> Structural
    
    CFA --> Joreskog[Karl Jöreskog <br> 1970, CFA+공분산 구조 통합]
    Structural --> Joreskog
    
    Joreskog --> CBSEM[CB-SEM <br> 공분산 기반 SEM]
    Wold[Herman Wold <br> 1982, PLS 경로모형 개척] --> PLSSEM[PLS-SEM <br> 분산 기반 예측형 SEM]
    
    style Spearman fill:#fffdf0,stroke:#d4af37
    style Wright fill:#fffdf0,stroke:#d4af37
    style Joreskog fill:#f0f8ff,stroke:#007acc,stroke-width:2px
    style Wold fill:#f0f8ff,stroke:#007acc,stroke-width:2px
    style CBSEM fill:#e8f5e9,stroke:#2e8b57
    style PLSSEM fill:#e8f5e9,stroke:#2e8b57

2.1 핵심 공헌자 요약

Charles Spearman & L. L. Thurstone: 인간의 지능 연구를 바탕으로 ’보이지 않는 일반 요인’과 ’다차원 잠재 차원’을 수학적으로 구현하여 측정모형의 기초를 세웠습니다.
Sewall Wright: 변수 간 간접 효과와 직접 효과를 선과 화살표로 표현하는 경로도(Path Diagram)를 설계했습니다.
Arthur Goldberger: 1971년 계량경제학(동시방정식)과 심리측정학(요인분석)이 동일한 수학적 기반을 가졌음을 입증하여 융합의 교량 역할을 수행했습니다.
Karl Jöreskog: 경로분석과 확인적 요인분석(CFA)을 공분산 행렬 모델링 하에서 완벽하게 통합하여 현대 CB-SEM(공분산 기반 SEM)의 장을 열고 통계 프로그램 LISREL을 공동 개발했습니다.
Herman Wold: 엄격한 정규성 가정과 대용량 표본 확보가 어려운 실무 데이터의 한계를 타파하고자, 결과 예측과 분산 극대화에 강한 PLS-SEM(부분최소제곱 구조방정식)을 개척했습니다.

3. CB-SEM vs PLS-SEM: 차이점 비교

구조방정식 모형은 분석 철학과 데이터 제약 조건에 따라 크게 두 갈래로 나뉩니다.

비교 항목	CB-SEM (공분산 기반)	PLS-SEM (분산 기반)
분석 목적	구축된 이론적 인과 모델의 적합성 검증	종속변수의 설명력(Variance Explained) 및 예측 극대화
추정 원리	데이터 공분산 구조를 모델이 최대한 재현	반복적 회귀분석 및 가중치 알고리즘
개념적 모델	공통요인(Common Factor) 모형	복합체(Composite) 모형
데이터 정규성	다변량 정규성 가정이 매우 엄격함	비모수적 접근으로 정규성 가정에 관대함
표본 크기	최소 150~200명 이상의 대규모 표본 지향	상대적으로 소규모 표본에서도 연산 가능
대표 소프트웨어	AMOS, LISREL, Mplus, R lavaan	SmartPLS, plspm, R seminr

4. 매개 및 조절 분석 기법의 발전사

SEM이 가지고 있는 이론적 완결성에도 불구하고, 일반 연구자들은 더욱 간편하게 다중 인과관계를 검증하길 원했습니다. 이 과정에서 OLS 회귀분석을 기반으로 한 매개·조절 분석이 비약적으로 발전해왔습니다.

4.1 Baron & Kenny (1986)의 고전 3단계 회귀분석

과거 매개 분석의 기본서로 군림했던 Baron & Kenny의 절차는 다음과 같이 3개의 회귀분석을 순차 실행하는 형식이었습니다.

[1단계] X -> Y 유의성 검증 (총효과 c 확인)
[2단계] X -> M 유의성 검증 (매개경로 a 확인)
[3단계] X와 M을 동시에 Y에 투입하여 M -> Y 유의성(b) 및 X -> Y 유의성(c') 검증
        (c'가 유의하면서 c보다 계수 값이 줄어들면 부분매개, c'가 0으로 완전히 무의해지면 완전매개)

고전 방식의 치명적 한계

간접효과 직접 검정 부재: 정작 가장 핵심인 간접 효과인 두 경로의 곱(\(a \times b\))이 진짜 통계적으로 유의미한지 계산하지 않고, 개별 경로의 유의성으로 간접 추론합니다.
총효과의 오류: 직접 효과와 간접 효과가 반대 방향으로 작동하여 서로 상쇄되는 경우(통제적 매개 등) 총효과 \(c\)가 유의하지 않게 나타나 1단계에서 분석이 강제 중단되는 치명적 한계가 발생합니다.
낮은 검정력: 간접효과의 곱 분포는 일반적으로 비대칭적인(정규성을 따르지 않는) 경향을 보이지만 이를 억지로 정규성 검정(Sobel test 등)하여 통과시키기 때문에 유효한 효과를 기각할 확률이 큽니다.

4.2 Preacher & Hayes (2004, 2008)의 가교와 부트스트래핑(Bootstrapping)

Preacher와 Hayes 교수는 간접효과 \(a \times b\)를 직접 곱한 지표의 통계적 신뢰구간을 무작위 복원추출법인 부트스트래핑을 통해 산출하도록 제안했습니다. 이로써 정규성 분포 가정의 족쇄에서 벗어난 정교한 간접효과 직접 검증이 표준 방법론으로 등극했습니다.

5. Andrew Hayes의 PROCESS Macro와 조건부 과정분석

오늘날 매개와 조절 변수가 복잡하게 결합된 모형을 검증하기 위한 글로벌 스탠다드는 PROCESS Macro입니다. Hayes 교수는 매개와 조절이 혼합된 구조를 조건부 과정분석(Conditional Process Analysis)으로 정의하고 다양한 템플릿(Model 번호)으로 표준화했습니다.

5.1 조절된 매개효과 (Model 7) 직관적 다이어그램

Model 7은 X가 M을 거쳐 Y로 가는 매개 경로 중, 앞부분(X -> M)을 조절 변수 W가 컨트롤(볼륨 제어)하는 형태입니다.

graph LR
    X[독립변수 X] -->|a1 경로| M[매개변수 M]
    M -->|b 경로| Y[종속변수 Y]
    
    W[조절변수 W] -.->|a3 상호작용 조절| X_M_Link[a1 경로 조절]
    X -->|c' 직접효과| Y
    
    style X fill:#e1f5fe,stroke:#01579b
    style M fill:#fff9c4,stroke:#f57f17
    style Y fill:#ffebee,stroke:#b71c1c
    style W fill:#e8f5e9,stroke:#1b5e20
    style X_M_Link fill:none,stroke:none

실생활 비유: “학업 스트레스(X)가 수면의 질(M)을 떨어뜨려 학업 소진(Y)을 일으키는데, 멘탈 관리 능력(조절변수 W)이 우수한 학생들은 스트레스를 받아도 수면의 질이 크게 훼손되지 않는다(앞 단계 매개 경로 감쇄).”

6. PROCESS Macro Model 7 실전 가이드 (SPSS & Python)

6.1 SPSS 문법 실행 명령

SPSS 대화상자를 이용해도 되지만, Syntax 창에 다음 명령어를 입력하여 실행하면 더 직관적으로 구동할 수 있습니다.

process y=organ_perf /x=job_auton /m=job_satis /w=sup_suppt 
    /model=7 
    /bootstrap=5000 
    /seed=12345 
    /plot=1 
    /longname=1.

/seed=12345: 부트스트래핑 분석은 복원 추출이므로 난수를 사용합니다. 시드를 고정해야 재분석 시 항상 동일한 결과가 도출되어 재현성이 담보됩니다.
/longname=1: 8자 이상의 긴 변수 이름을 사용할 수 있도록 지원합니다.

6.2 Python 회귀 모형으로 이해하는 작동 원리

Model 7이 내부적으로 어떻게 실행되는지 OLS 회귀식 구조를 Python 코드로 구현한 예시입니다.

import statsmodels.formula.api as smf

# 1단계: 매개변수(M) 예측 모델 (X와 W의 상호작용항 포함)
model_m = smf.ols("M ~ X + W + X:W", data=df).fit()

# 2단계: 종속변수(Y) 예측 모델
model_y = smf.ols("Y ~ X + M", data=df).fit()

# 3단계: 조절된 매개 지수(Index of Moderated Mediation) 도출
a3 = model_m.params["X:W"]  # 상호작용 효과 계수
b = model_y.params["M"]     # 매개 효과 계수
index_moderated_mediation = a3 * b
print(f"조절된 매개 지수: {index_moderated_mediation}")

7. 학위논문/학술지용 표준 결과표 작성 양식

PROCESS 분석이 완료되면 논문에 보고할 때 아래 3가지 표 패키지를 표준 규격으로 작성합니다.

표 1: 회귀분석 결과표 (상호작용 検證)

표 1. PROCESS Model 7 주요 회귀 계수 결과

종속변수	예측변수	\(B\)	\(SE\)	\(t\)	\(p\)	\(R^2\)	\(F\)
직무 만족(M)	상수항	2.314	0.412	5.61	.000	.252	33.25***
	직무 자율성(X)	0.410	0.052	7.88	.000
	상사의 지원(W)	-0.348	0.392	-0.88	.375
	직무 자율성 × 상사의 지원 (X×W)	0.207	0.061	3.39	.001
	\(\Delta R^2\) (상호작용항 투입)	0.047			.001
조직 성과(Y)	상수항	1.854	0.322	5.75	.000	.312	41.50***
	직무 자율성(X)	0.125	0.045	2.77	.006
	직무 만족(M)	0.512	0.058	8.82	.000

주. \(p < .05\), \(p < .01\), \(p < .001\).

표 2: 조절변수 수준별 조건부 간접효과 표

표 2. 상사의 지원 수준에 따른 직무 만족 매개 간접효과

상사의 지원 수준(W)	간접효과(Effect)	\(Boot SE\)	\(Boot LLCI\)	\(Boot ULCI\)	판정 결과
낮음 (-1 \(SD\))	0.038	0.019	0.005	0.081	유의함 (0 미포함)
평균 (Mean)	0.076	0.021	0.031	0.126	유의함 (0 미포함)
높음 (+1 \(SD\))	0.114	0.028	0.061	0.174	유의함 (0 미포함)

표 3: 최종 조절된 매개 지수 (최종 게이트)

표 3. 조절된 매개 지수(Index of Moderated Mediation) 결과

매개 경로	Index	\(Boot SE\)	\(Boot LLCI\)	\(Boot ULCI\)	판정 결과
직무 자율성 \(\rightarrow\) 직무 만족 \(\rightarrow\) 조직 성과	0.0757	0.021	0.0314	0.1256	통계적으로 유의함

📝 표준 해석 구문 (논문 인용 템플릿): > 상사의 지원이 직무 자율성과 조직 성과 간의 매개 과정에 미치는 조절된 매개효과를 검증하기 위해 Hayes(2013)의 PROCESS Macro Model 7을 활용하여 조건부 과정분석을 실시하였다. > 분석 결과, 직무 자율성과 상사의 지원의 상호작용 효과는 직무 만족에 유의한 정(+)의 영향을 주는 것으로 나타났다(\(B = 0.207, p = .001\)). > 조절변수인 상사의 지원 수준별 조건부 간접효과를 분석한 결과, 상사의 지원이 낮은 수준(-1SD), 평균 수준, 높은 수준(+1SD) 모두에서 부트스트랩 95% 신뢰구간[LLCI, ULCI]에 0을 포함하지 않아 간접효과가 유의했다. > 특히 상사의 지원이 커질수록 간접효과가 점차 증대되는 경향성(0.038 -> 0.076 -> 0.114)이 확인되었다. > 최종적으로 조절된 매개 지수(Index of Moderated Mediation)를 검증한 결과, 지수 값은 0.0757이었으며 부트스트랩 신뢰구간 [0.0314, 0.1256]에 0을 포함하지 않는 유의한 값으로 나타나 통계적으로 조절된 매개효과가 완벽히 성립함이 증명되었다.

맺음말

구조방정식 모형(SEM)은 인과관계 연구의 역사를 대변하는 거대한 도구입니다.

Sewall Wright가 관계의 그림(경로)을 그렸고, Karl Jöreskog가 공분산 분석 하에 측정과 인과 구조를 수학적으로 통합했으며, Andrew Hayes가 OLS 회귀분석 기반으로 일반 연구자가 쉽게 응용할 수 있는 PROCESS Macro 솔루션을 제공하여 통계의 접근성을 비약적으로 높였습니다.

자신의 연구 목적에 맞추어, 이론 검증 및 잠재변수의 오차 제어가 필요하다면 SEM을, 실무 모델 예측 및 신속하고 결합도 높은 매개/조절 검정이 목표라면 PROCESS Macro를 선택하여 데이터의 인사이트를 정교하게 이끌어내시기 바랍니다.