0. 핵심 결론: HTMT는 무엇이며 왜 중요한가?
구조방정식모형(SEM) 및 PLS-SEM을 활용하여 학술 논문이나 실무 연구를 수행할 때, 측정 도구의 신뢰성과 타당성을 검증하는 것은 가장 핵심적인 관문입니다. 그중에서도 판별타당도(Discriminant Validity)는 “이론적으로 서로 다른 두 개념이 실제 데이터에서도 명확히 구별되는가?”를 입증하는 절차입니다.
💡 HTMT(Heterotrait-Monotrait Ratio of Correlations)의 핵심 정의: ‘서로 다른 개념의 측정문항 간 상관관계(이종특성)’가 ‘동일한 개념 내부 측정문항 간 상관관계(동종특성)’에 비해 얼마나 큰지를 나타내는 비율입니다.
- 다른 개념의 문항끼리는 상관이 낮아야 하고 (이질성 확보 $ ightarrow$ 분자 축소)
- 같은 개념의 문항끼리는 상관이 높아야 합니다 (동질성 확보 $ ightarrow$ 분모 팽창)
- 👉 따라서 HTMT 수치가 낮을수록 두 구성개념이 헷갈리지 않고 명확히 구별(판별타당도 지지)됩니다.
0-1. HTMT 경험적 판정 기준표
| HTMT 값 범위 | 학술적 판정 및 해석 | 적용 상황 및 권장 지침 |
|---|---|---|
| $ ext{HTMT} $ | 엄격한 기준에서 판별타당도 강력 지지 | 개념 간 의미적 차이가 뚜렷해야 하는 일반적인 연구에 권장 (HTMT.85) |
| \(0.85 < ext{HTMT} \le 0.90\) | 조건부 수용 및 주의 구간 | 이론적으로 매우 인접하고 유사한 개념일 경우 선행연구 근거 제시 필요 (HTMT.90) |
| $ ext{HTMT} > 0.90\(** | **개념 중복 우려 (판별타당도 결여)** | 측정문항 내용 중복 점검, 불량 문항 제거 또는 단일 상위 개념 통합 검토 | | **\) ext{HTMT} pprox 1.00$ | 동일 개념 (구별 불가) | 두 잠재변수가 실질적으로 동일한 구성개념을 측정하고 있음 |
[ HTMT 판별타당도 해석 스펙트럼 ]
명확한 구별 (우수) 주의·조건부 수용 중복 및 결여 위험
0.00 ───────────────────── 0.85 ────────────────── 0.90 ───────────────────── 1.00+
보수적 임계선 (Pass) 이론적 근거 필요 문항 재검토 및 통합 필요1. 구조방정식(SEM) 기초와 판별타당도의 필요성
1-1. 잠재변수와 측정문항의 구조
설문조사를 통한 실증연구에서는 ‘직무소진(Burnout)’, ’조직몰입(Commitment)’처럼 눈에 보이지 않는 추상적 심리 개념을 직접 측정할 수 없습니다. 따라서 여러 개의 구체적인 설문 문항을 구성하여 간접 측정합니다.
- 잠재변수 (Latent Variable, 구성개념): 관측되지 않는 이론적 개념 (모형의 타원형 노드).
- 측정문항 (Observed Variable / Indicator): 설문지에 응답자가 직접 체크한 관측값 (모형의 사각형 노드).
graph LR
subgraph 측정모형 A [측정모형 A]
A1[문항 A1] --> A((직무소진))
A2[문항 A2] --> A
A3[문항 A3] --> A
A4[문항 A4] --> A
end
subgraph 측정모형 B [측정모형 B]
B1[문항 B1] --> B((이직의도))
B2[문항 B2] --> B
B3[문항 B3] --> B
B4[문항 B4] --> B
end
A == 구조모형 경로 (가설 검증) ==> B1-2. 반영적(Reflective) vs 형성적(Formative) 측정모델 (중요!)
⚠️ HTMT 적용 전 필수 확인: * 반영적 측정(Reflective): 잠재변수가 원인이고 문항이 결과인 모델 (예: 직무소진이 심해서 $ ightarrow$ 피로감을 느끼고 의욕이 저하됨). 문항 간 상관관계가 높아야 정상입니다. 👉 HTMT는 반드시 반영적 측정모델에만 적용합니다. * 형성적 측정(Formative): 문항들이 모여서 잠재변수를 정의하는 모델 (예: 음주량 + 흡연량 + 운동부족 $ ightarrow$ 건강위험도). 문항 간 상관이 낮아도 무방하며, HTMT 적용 대상이 아닙니다.
1-3. 판별타당도가 결여되었을 때 발생하는 치명적 비극
만약 ’직무소진’을 묻는 질문들과 ’이직의도’를 묻는 질문들의 표현이 너무 유사하여 응답자가 구별하지 못하고 비슷하게 응답했다면: 1. 잠재변수 간 상관계수가 비정상적으로 높아집니다. 2. 회귀/구조 경로 계수의 표준오차가 폭발하고 부호가 뒤집히는 다중공선성 왜곡이 발생합니다. 3. 독립변수가 종속변수에 미친 영향이 진짜 인과관계인지, 단순히 같은 질문을 반복해서 발생한 착시인지 증명할 수 없게 되어 연구 가설 전체가 기각되거나 붕괴됩니다.
2. 판별타당도 평가의 역사와 기존 4대 방법의 한계
timeline
title 판별타당도 평가 방법론의 역사적 발전
1959 : Campbell & Fiske : 다특성-다방법(MTMM) 행렬 제안 (이상적이나 현실 적용 난이도 극상)
1981 : Fornell & Larcker : AVE 제곱근과 상관계수 비교 기준 제시 (30년 이상 학계 표준으로 군림)
1990s : CFA 공분산 구조 검정 : 잠재상관 신뢰구간 검정 및 카이제곱 차이 검정 보편화
2015 : Henseler et al. : HTMT 비율 제안 (시뮬레이션을 통해 기존 Fornell-Larcker의 치명적 결함 입증)
2021 : Roemer et al. : HTMT2 제안 (부하량 비동질성을 기하평균 확장으로 보정한 개선판)2-1. 기존 검증 방법 4가지와 문제점
- Fornell-Larcker 기준 (\(\sqrt{AVE_A} > |r_{AB}|\)):
- 원리: 잠재변수가 자기 문항들을 설명하는 분산의 양(AVE)이 다른 변수와 공유하는 분산(상관 제곱)보다 커야 함.
- 치명적 한계: Henseler et al.(2015)의 몬테카를로 시뮬레이션 결과, 두 잠재변수가 실제로는 동일한 개념인데도 판별타당도 결여를 잡아내는 탐지율(Sensitivity)이 약 14.59%에 불과했습니다 (85% 이상의 불량 모형을 정상으로 오판 통과시킴).
- 교차부하량 (Cross-loadings) 검토:
- 원리: 특정 문항이 속한 주 요인의 부하량이 타 요인 부하량보다 커야 함.
- 치명적 한계: PLS-SEM의 가중치 추정 알고리즘 특성상 자고요인 부하량이 항상 높게 추정되므로, 판별타당도 결여 탐지율이 사실상 0%에 가까웠습니다.
- 잠재변수 상관계수 신뢰구간 검정 (\(\phi \pm 1.96 imes SE
e 1.0\)):
- 한계: 대표본 데이터에서는 잠재상관이 0.95~0.99에 달해도 표준오차가 극도로 작아져 “1.0을 포함하지 않는다”며 무조건 통과되는 표본 크기 민감성이 존재합니다.
- 카이제곱 (\(\chi^2\)) 차이검정 (비제약모형 vs \(\phi=1\) 제약모형):
- 한계: 잠재변수가 5~10개로 늘어나면 수십 개의 쌍을 일일이 제약하여 모형 적합도를 비교해야 하므로 연산과 보고가 비효율적입니다.
👉 결론: 기존 방법들의 낮은 민감도와 표본 편향을 극복하고, 95% 이상의 높은 판별타당도 탐지력을 제공하는 혁신적 척도로 HTMT가 표준으로 자리 잡았습니다.
3. HTMT(Heterotrait-Monotrait Ratio)의 수학적 원리와 공식
3-1. HTMT 공식
\[HTMT_{AB} = rac{\overline{r}_{AB}}{\sqrt{\overline{r}_{AA} imes \overline{r}_{BB}}}\]
- 분자 (\(\overline{r}_{AB}\), 이종특성 상관평균):
- 구성개념 A의 측정문항들과 구성개념 B의 측정문항들 간에 존재하는 모든 교차 상관계수들의 산술평균 (\(K_A imes K_B\) 개).
- 분모 (\(\sqrt{\overline{r}_{AA} imes \overline{r}_{BB}}\), 동종특성 상관평균의 기하평균):
- \(\overline{r}_{AA}\): A 문항들 내부 간 상관계수들의 산술평균 ($ rac{K_A(K_A-1)}{2}$ 개).
- \(\overline{r}_{BB}\): B 문항들 내부 간 상관계수들의 산술평균 ($ rac{K_B(K_B-1)}{2}$ 개).
💡 왜 분모에 단순 산술평균이 아닌 기하평균(\(\sqrt{a imes b}\))을 사용할까요?: 상관계수와 같은 비율 및 지수적 관계를 갖는 통계량에서는 두 집단의 스케일 차이에 따른 왜곡을 방지하고 균형 있는 중심 경향치를 도출하기 위해 기하평균을 적용합니다.
4. 3개 잠재변수 예제로 마스터하는 HTMT 3단계 수기 계산법
원리를 완벽히 체화하기 위해 3개의 잠재변수(각 4문항씩 총 12문항)로 구성된 피어슨 상관행렬 데이터를 바탕으로 단계별 계산을 수행합니다: * A (직무소진, Burnout): A1, A2, A3, A4 * B (이직의도, Turnover): B1, B2, B3, B4 * C (조직몰입, Commitment): C1, C2, C3, C4
[1단계] 동종특성(Monotrait) 상관평균 계산 (분모 재료)
- A 내부 상관 6개 쌍: \(0.71 + 0.68 + 0.70 + 0.73 + 0.69 + 0.72 = 4.23\) \[\overline{r}_{AA} = rac{4.23}{6} = \mathbf{0.705}\]
- B 내부 상관 6개 쌍: \(0.70 + 0.72 + 0.69 + 0.68 + 0.71 + 0.73 = 4.23\) \[\overline{r}_{BB} = rac{4.23}{6} = \mathbf{0.705}\]
- C 내부 상관 6개 쌍: \(0.74 + 0.71 + 0.72 + 0.73 + 0.70 + 0.75 = 4.35\) \[\overline{r}_{CC} = rac{4.35}{6} = \mathbf{0.725}\]
[2단계] 이종특성(Heterotrait) 상관평균 계산 (분자)
- A-B 간 교차 상관 16개 쌍: 합계 \(6.31 ightarrow \overline{r}_{AB} = rac{6.31}{16} = \mathbf{0.394}\)
- A-C 간 교차 상관 16개 쌍: 합계 \(5.31 ightarrow \overline{r}_{AC} = rac{5.31}{16} = \mathbf{0.332}\)
- B-C 간 교차 상관 16개 쌍: 합계 \(6.88 ightarrow \overline{r}_{BC} = rac{6.88}{16} = \mathbf{0.430}\)
[3단계] 최종 HTMT 비율 도출
\[HTMT_{AB} = rac{0.394}{\sqrt{0.705 imes 0.705}} = rac{0.394}{0.705} = \mathbf{0.559} < 0.85 \quad ( ext{통과!})\] \[HTMT_{AC} = rac{0.332}{\sqrt{0.705 imes 0.725}} = rac{0.332}{0.715} = \mathbf{0.464} < 0.85 \quad ( ext{통과!})\] \[HTMT_{BC} = rac{0.430}{\sqrt{0.705 imes 0.725}} = rac{0.430}{0.715} = \mathbf{0.601} < 0.85 \quad ( ext{통과!})\]
⚠️ 기존 강좌 자료의 오류 및 용어 혼용 바로잡기
- C 동종특성 평균 계산 오류 교정:
- 기존 일부 자료에서 C의 동종평균을 0.750으로 잘못 기재하였으나, \(4.35 / 6 = \mathbf{0.725}\)가 수학적으로 정확합니다.
- 이종특성 상관평균(\(0.394\))과 잠재변수 상관계수(\(0.441\))의 혼용 금지:
- \(0.394\)는 관측 문항 간 상관계수 16개의 단순 평균(HTMT의 분자 재료)이며, 구조방정식 모형에서 측정오차를 통제하고 추정한 ’잠재변수 간 상관계수’와는 아예 다른 수치입니다. 논문 표 작성 시 혼동하여 배치하면 안 됩니다.
5. HTMT 판정 기준과 부트스트래핑(Bootstrapping) 신뢰구간
단순히 점추정치(Point Estimate)가 0.84로 나왔다고 해서 무조건 안심할 수는 없습니다. 표본 추출의 우연성(오차)으로 인해 실제 모집단 비율이 0.85를 넘을 수 있기 때문입니다.
- 부트스트래핑 검정 원리:
- 5,000회 이상 복원 재표본 추출을 수행하여 HTMT의 95% 백분위수 신뢰구간(Bias-Corrected and Accelerated CI)을 도출합니다.
- 원 논문 기준: 신뢰구간에 숫자 1.00이 포함되지 않으면 통계적으로 두 개념이 비동일함($ ext{HTMT} e 1$)을 지지.
- 최신 실무 기준: 단순히 1.00을 피하는 것에 그치지 않고, 신뢰구간의 상한값(Upper Bound)이 0.85 또는 0.90 미만이어야 진정으로 안전한 판별타당도를 확보했다고 평가합니다.
6. R (semTools & lavaan) 실전 코드 및 시각화
R 환경에서는 semTools 패키지의 htmt() 함수를 사용하여 손쉽게 최신 HTMT2 및 절댓값 보정 비율을 산출할 수 있습니다.
# ==============================================================
# R 구조방정식 HTMT 판별타당도 실전 분석 스크립트
# ==============================================================
# 1. 필수 패키지 설치 및 로드
if (!requireNamespace("lavaan", quietly = TRUE)) install.packages("lavaan")
if (!requireNamespace("semTools", quietly = TRUE)) install.packages("semTools")
library(lavaan)
library(semTools)
# 2. 구조방정식 측정모형 정의 (3개 잠재변수 예제)
cfa_model <- '
Burnout =~ A1 + A2 + A3 + A4
Turnover =~ B1 + B2 + B3 + B4
Commitment =~ C1 + C2 + C3 + C4
'
# 3. CFA 모형 적합 (가상 데이터 df 기준)
# fit_cfa <- cfa(cfa_model, data = df, std.lv = TRUE)
# 4. HTMT 산출 (semTools 패키지)
# - absolute = TRUE: 음수 상관 상쇄 방지 (HTMT+)
# - htmt2 = TRUE: 비동질적 부하량을 보정한 최신 HTMT2 적용
# htmt_res <- htmt(model = cfa_model, data = df, absolute = TRUE, htmt2 = TRUE)
# print(round(htmt_res, 3))
cat("=== HTMT 판별타당도 산출 매트릭스 (출력 예시) ===
")
htmt_matrix <- matrix(
c(NA, 0.559, 0.464,
NA, NA, 0.601,
NA, NA, NA),
nrow = 3, byrow = TRUE,
dimnames = list(c("1. Burnout", "2. Turnover", "3. Commitment"),
c("1. Burnout", "2. Turnover", "3. Commitment"))
)
print(htmt_matrix, na.print = "-")🚨 주의: 역코딩(Reverse Coding) 필수: 프로그램이 음수 상관에 절댓값을 씌워준다고 해서 부정형 역문항을 역채점하지 않고 그대로 돌려도 된다는 뜻이 아닙니다. 역코딩을 누락하면 신뢰도(Cronbach’s \(lpha\), CR)가 훼손되므로 반드시 사전에 역채점을 완료해야 합니다.
7. 학술 논문 및 실무 보고서 작성 가이드
7-1. 연구방법론 및 연구결과 표준 서술 예시
- 연구방법론 파트: > “본 연구의 구성개념 간 판별타당도는 Henseler et al.(2015)이 제안한 이종특성-동종특성 상관비율(HTMT)을 적용하여 평가하였다. 잠재변수 간 명확한 판별성을 확보하기 위해 보수적 기준인 0.85를 적용하였으며, 5,000회 부트스트래핑을 통해 95% 신뢰구간을 함께 검토하였다.”
- 연구결과 파트: > “분석 결과, 모든 구성개념 쌍 간의 HTMT 점추정치는 0.464~0.601로 나타나 엄격한 판별 기준인 0.85를 모두 하회하였다. 또한 부트스트랩 95% 신뢰구간의 상한선 역시 0.85를 초과하지 않아 연구모형 내 모든 구성개념 간의 판별타당도가 양호하게 지지되었다(표 1 참조).”
7-2. 논문용 통합 결과 보고 표 양식
표 1. 신뢰도, 수렴타당도 및 판별타당도(HTMT) 분석 결과
| 구성개념 | Cronbach’s \(lpha\) | CR (합성신뢰도) | AVE | \(\sqrt{AVE}\) | 1. 직무소진 | 2. 이직의도 | 3. 조직몰입 |
|---|---|---|---|---|---|---|---|
| 1. 직무소진 | 0.892 | 0.925 | 0.704 | 0.839 | - | ||
| 2. 이직의도 | 0.885 | 0.921 | 0.706 | 0.840 | 0.559 | - | |
| 3. 조직몰입 | 0.898 | 0.930 | 0.724 | 0.851 | 0.464 | 0.601 | - |
(주. 대각선 굵은 글씨는 \(\sqrt{AVE}\) 값이며, 대각선 우측 상삼각은 HTMT 비율값임. 모든 HTMT 값이 0.85 미만으로 판별타당도 기준 충족)
8. HTMT 기준 초과 시 단계별 원인 진단 및 해결 절차
만약 특정 변수 쌍의 HTMT가 0.90을 초과했다면 문항을 무조건 삭제하기 전에 4단계 순서로 원인을 진단합니다:
flowchart TD
A[HTMT > 0.85 또는 0.90 기준 초과!] --> B{1. 역문항 코딩 누락인가?}
B -->|Yes| C[역채점 변환 후 재분석]
B -->|No| D{2. 이종 문항 간 질문 내용이 중복되는가?}
D -->|Yes| E[이론적 근거 바탕으로 중복 문항 1개 선별 제거]
D -->|No| F{3. 변수 내부 동종 문항 간 이질성이 큰가?}
F -->|Yes| G[요인부하량 낮은 불량 문항 제거로 분모 팽창]
F -->|No| H{4. 원래 동일한 2차 요인의 하위 차원인가?}
H -->|Yes| I[2차 요인 모형으로 통합 또는 단일 변수 병합]- 역문항 역채점 누락 점검: 가장 흔한 실수로, 상관이 음수로 꼬여 분자/분모 왜곡 발생.
- 이종 문항 간 의미 중복 (분자 팽창): 직무소진 문항(“일이 지친다”)과 이직의도 문항(“일이 지쳐서 그만두고 싶다”)의 내용이 겹치는 경우 중복 문항 정제.
- 동종 문항 간 이질성 (분모 축소): 한 잠재변수 내에서 따로 노는 불량 문항이 존재하면 동종평균(분모)이 작아져 HTMT가 치솟으므로 요인부하량이 0.6 미만인 문항 제거.
- 상위 개념 통합 (2차 요인 모형): 두 개념이 실질적으로 하나의 상위 개념(예: 감정소진, 탈인격화 $ ightarrow$ 직무소진의 하위차원)일 경우 2차 요인(Higher-order construct)으로 통합 모델링.
9. 실무 연구자를 위한 최종 분석·보고 체크리스트
📚 참고 문헌 및 공식 출처
| 구분 | 자료명 및 공식 도서 | 주요 내용 | 바로가기 |
|---|---|---|---|
| HTMT 원조 논문 | Henseler et al. (2015) | A new criterion for assessing discriminant validity in variance-based SEM, JAMS (HTMT 공식 최초 제안) | Springer 원문 |
| HTMT2 개선판 논문 | Roemer et al. (2021) | HTMT2—An improved criterion for assessing discriminant validity in SEM, IMDS | Emerald 원문 |
| SEM 타당도 최신 가이드 | Cheung et al. (2024) | Reporting reliability, convergent and discriminant validity with SEM: A review and best-practice recommendations | APJM 저널 |
| R SEM 도구 패키지 | CRAN semTools Documentation |
htmt() 함수 사용법, HTMT2 알고리즘 및 부트스트래핑 옵션 |
CRAN 공식 포털 |