마이크로아키텍처 서비스 거부: 공격 및 방어

마이크로아키텍처 서비스 거부: 공격 및 방어

이 글에서는 악의적인 스레드가 공유된 SMT 프로세서 자원을 이용해 다른 스레드를 방해하거나 느리게 만드는 마이크로아키텍처 서비스 거부(DoS) 공격을 탐구합니다. 설계 보안의 어려움과 방어가 시스템 안정성에 미치는 영향에 대해 논의합니다.
# 마이크로아키텍처적 서비스 거부(DOS): 이해, 탐지 및 방어

## 목차

- [소개](#소개)
- [배경: 마이크로아키텍처 & SMT](#배경-마이크로아키텍처--smt)
  - [마이크로아키텍처란?](#마이크로아키텍처란)
  - [동시 멀티스레딩(SMT)](#동시-멀티스레딩smt)
- [마이크로아키텍처적 서비스 거부란?](#마이크로아키텍처적-서비스-거부란)
  - [마이크로아키텍처적 DoS가 발생하는 방식](#마이크로아키텍처적-dos가-발생하는-방식)
  - [현실 세계의 함의](#현실-세계의-함의)
- [사이버 보안 환경에서의 마이크로아키텍처적 DoS](#사이버-보안-환경에서의-마이크로아키텍처적-dos)
  - [취약점 및 위협 모델](#취약점-및-위협-모델)
  - [다른 사이드 채널 공격과의 비교](#다른-사이드-채널-공격과의-비교)
- [사례 연구: 연구에서의 예시](#사례-연구-연구에서의-예시)
  - [사례 1: SMT 리소스 경쟁](#사례-1-smt-리소스-경쟁)
  - [사례 2: 클라우드 및 멀티테넌트 환경](#사례-2-클라우드-및-멀티테넌트-환경)
- [탐지: 마이크로아키텍처적 DoS 분석 및 스캔](#탐지-마이크로아키텍처적-dos-분석-및-스캔)
  - [성능 모니터링](#성능-모니터링)
  - [리소스 경쟁 모니터링을 위한 샘플 Bash 스크립트](#리소스-경쟁-모니터링을-위한-샘플-bash-스크립트)
  - [Python 예제: Perf 출력 파싱](#python-예제-perf-출력-파싱)
- [완화 및 보안 방법](#완화-및-보안-방법)
  - [하드웨어 수준 솔루션](#하드웨어-수준-솔루션)
  - [OS/소프트웨어 수준 솔루션](#os소프트웨어-수준-솔루션)
- [고급 주제: 방어 통합 문제](#고급-주제-방어-통합-문제)
  - [마이크로아키텍처 보안 간섭](#마이크로아키텍처-보안-간섭)
  - [방어 조정](#방어-조정)
- [결론](#결론)
- [참고 문헌](#참고-문헌)

---

## 소개

프로세서 설계가 점점 더 복잡해지면서 하드웨어 리소스 간의 의도하지 않은 상호작용을 공격자들이 악용할 기회도 증가했습니다. 그 중 하나의 미묘하면서도 강력한 공격은 **마이크로아키텍처적 서비스 거부(DoS)**입니다. 이 공격은 소프트웨어의 격리 보장에는 위배되지 않으면서 한 프로세스가 하드웨어 수준에서 다른 프로세스의 성능을 저해하는 방식으로 이루어집니다. 이러한 공격은 시스템을 충돌시키거나 서비스를 완전히 멈추지 않고 대신 _데이터 처리 속도를 느리게_ 하고, 사이클을 탈취하거나 최신 CPU 내부 깊은 곳에서 동작을 통해 서비스 품질(QoS)을 저하시킵니다.

이 포괄적인 블로그 게시물에서는 마이크로아키텍처적 DoS의 이론, 실행 및 방어에 대해 탐구할 것입니다. 기본 원칙에서 시작하여 방어 상호작용 및 현실 세계의 탐지 스크립트와 같은 고급 주제로 점진적으로 나아갈 것입니다.

---

## 배경: 마이크로아키텍처 & SMT

### 마이크로아키텍처란?

**마이크로아키텍처**는 컴퓨터의 명령어 집합 아키텍처(ISA)를 하드웨어에서 구현한 것입니다. *아키텍처*는 (x86 또는 ARM과 같이) 가시적 행동 계약을 정의하는 반면, *마이크로아키텍처*는 실제로 "어떻게" 실행되는지 결정하며 파이프라인, 레지스터, 캐시, 실행 유닛 등으로 리소스를 분리합니다.

주요 마이크로아키텍처 구성 요소는 다음과 같습니다:

- **캐시** (L1, L2, L3)
- **재정렬 버퍼**
- **분기 예측기**
- **기능 유닛** (ALU, FPU)
- **프리페처**
- **리소스 스케줄러**

이러한 리소스는 효율성을 위해 프로세스나 스레드 간에 종종 공유됩니다.

### 동시 멀티스레딩(SMT)

동시 멀티스레딩(SMT)—Intel CPU에서는 **하이퍼 스레딩**이라고 불립니다—는 단일 물리적 코어에서 여러 하드웨어 스레드를 실행할 수 있게 합니다. 예를 들어, 쿼드코어/8스레드 CPU는 각각의 코어가 두 개의 하드웨어 스레드를 가집니다.

**주요 사실:** 스레드는 중요한 리소스를 공유합니다: 캐시, 파이프라인 단계, 실행 유닛 등.

---

## 마이크로아키텍처적 서비스 거부란?

### 마이크로아키텍처적 DoS가 발생하는 방식

**마이크로아키텍처적 서비스 거부(DoS)** 공격은 하나의 (악성 또는 버그가 있는) 스레드가 피해자 스레드와 (종종 동일 SMT 코어나 캐시를 공유하는) 함께 위치하여 불균형 하드웨어 자원을 소모하며 공동 실행 프로세스를 **굶주리게 하거나 느리게** 함으로써 발생합니다.

#### 공격 벡터의 예시

- **캐시 경쟁:** 캐시 라인을 계속 제거하여 피해자가 더 많은 캐시 미스를 경험하도록 만듭니다.
- **분기 예측기 오염:** 예측 테이블에 소음을 넣어 피해자 분기 예측을 저하시킵니다.
- **실행 유닛 할당:** 특정 ALU나 부동 소수점 유닛을 독점하는 명령을 실행합니다.
- **DRAM 뱅크 충돌:** 반복적인 메모리 접근을 강요하여 뱅크 수준의 경쟁을 야기합니다.

#### 공격 특성

- **소프트웨어 경계 위반 없음:** 공격자가 명시적으로 데이터에 접근하지 않으며, 단지 성능을 저하할 뿐입니다.
- **탐지 어려움:** "일반적인" 자원 사용처럼 보입니다.
- **영향은 가변적임:** 워크로드 특성과 하드웨어 구현에 따라 달라집니다.

### 현실 세계의 함의

- **클라우드 보안:** 동일한 클라우드 하드웨어에 있는 테넌트들이 다른 테넌트들에게 예측 불가능한 QoS를 초래할 수 있습니다.
- **고성능 컴퓨팅(HPC):** 자원 공유로 인해 작업 간 의도하지 않은 DoS가 발생할 수 있습니다.
- **엔터프라이즈 지연 보장:** 서비스 수준 협약(SLA)을 충족하는 것이 어려워질 수 있습니다.

---

## 사이버 보안 환경에서의 마이크로아키텍처적 DoS

### 취약점 및 위협 모델

마이크로아키텍처적 DoS는 성능을 목표로 하는 **비전통적인 서비스 거부 공격**입니다. 주요 위협 모델은 피해자와 동일한 하드웨어에서 함께 위치한 강력한 공격자를 포함합니다.

- **공격자:** 클라우드 테넌트, 배치 접근을 가진 내부자, 또는 대규모 컴퓨트 환경에서의 경쟁자일 수 있습니다.
- **추정 능력:** 임의의 코드를 실행할 수 있지만 소프트웨어 권한 경계를 침해하지는 않습니다.
- **대상:** 민감하며 지연/지터에 의존하는 응용 프로그램(데이터베이스, 실시간 시스템 등).

### 다른 사이드 채널 공격과의 비교

- **전통적인 사이드 채널(예: Spectre, Meltdown):** 타이밍/행동의 이상을 통해 비밀을 누출합니다.
- **마이크로아키텍처적 DoS:** 자원 부족이나 조작을 통해 성능을 저하시킵니다.
- **중복:** 사이드 채널에 대한 많은 방어책들이 새로운 DoS 경로를 도입할 수 있습니다(고급 섹션 참조).

---

## 사례 연구: 연구에서의 예시

### 사례 1: SMT 리소스 경쟁 ([Wang et al., 2002](https://dl.acm.org/doi/10.5555/774861.774905))

이 **기초 연구**는 Intel SMT 프로세서에서 악성 스레드가 리소스를 독점함으로써 피해자 스레드를 5배 이상 느리게 할 수 있음을 보여주었습니다.

- **대상 리소스:**
  - 레지스터 할당 테이블
  - 실행 유닛
  - L1/L2 캐시 경쟁

**실험 설정:** 한 스레드는 no-op 또는 가벼운 루프를 실행했습니다; 공격자 스레드는 캐시 라인을 계속 제거하거나 특정 ALU를 사용하는 일정을 수행하는 코드 실행.

**결과:** 소프트웨어 수준에서의 보안 격리가 하드웨어 리소스 고갈로 인해 *무효화*되었습니다.

### 사례 2: 클라우드 및 멀티테넌트 환경

**클라우드 제공업체**는 가상 머신(VM) 또는 컨테이너를 통해 단일 CPU에 여러 고객을 배치합니다. 리소스 경쟁은 불가피하지만 SMT에서는 문제가 확장됩니다:

- **실제 영향:** [Google의 연구](https://ieeexplore.ieee.org/iel5/8385/26403/01176268.pdf)에서 소음이 많은 이웃 조건 하에서 지연에 민감한 데이터베이스 응용 프로그램이 최대 70%까지 느려질 수 있음.
- **소음 나는 이웃:** 악성 또는 단순히 과부하가 걸린 공동 테넌트 리소스가 예측 불가능한 지연을 유도할 수 있음.
- **완화:** 많은 클라우드 제공업체는 이제 "전용 하드웨어" VMs를 제공하지만, 이는 더 많은 비용이 소요됨.

---

## 탐지: 마이크로아키텍처적 DoS 분석 및 스캔

마이크로아키텍처적 서비스 거부를 능동적으로 탐지하는 것은 **쉽지 않습니다**. 증상은 일반적인 리소스 경쟁과 비슷해 보입니다. 하지만 *성능 카운터 모니터링*과 *워크로드 지문 인식*을 결합하여 가능성 있는 공격을 신호할 수 있습니다.

### 성능 모니터링

현대 CPU는 다양한 이벤트에 대한 **하드웨어 성능 카운터**를 제공합니다:

- 캐시 미스/히트 (L1, L2, LLC)
- 분기 예측 오류
- 파이프라인 정체
- 실행 유닛 사용률
- TLB 미스

이들은 Linux에서 [`perf`](https://man7.org/linux/man-pages/man1/perf-stat.1.html)와 같은 명령 줄 도구로 검사할 수 있습니다.

#### 예: L1 데이터 캐시 미스 모니터링

```bash
perf stat -e L1-dcache-load-misses sleep 10
  • 위 명령을 비악성 및 잠재적 악성 프로세스가 함께 실행되는 동안 수행합니다.
  • 비정상적 스파이크: 리소스 고갈 가능성을 나타내는 징후입니다.

리소스 경쟁 모니터링을 위한 샘플 Bash 스크립트

다음은 주어진 프로세스(PID)에 대해 여러 카운터를 모니터링하는 Bash 스크립트입니다:

#!/bin/bash

if [ -z "$1" ]; then
  echo "사용법: $0 <pid>"
  exit 1
fi

PID=$1

echo "리소스 경쟁을 모니터링 중... PID $PID."
echo "시간,L1-dcache-load-misses,LLC-load-misses,branch-misses"

while true; do
  PERFDATA=$(perf stat -p $PID -e L1-dcache-load-misses,LLC-load-misses,branch-misses --interval-print 1000 2>&1 | grep -E "L1|LLC|branch")
  TIMESTAMP=$(date '+%Y-%m-%d %H:%M:%S')
  L1=$(echo "$PERFDATA" | grep 'L1-dcache-load-misses' | awk '{print $1}')
  LLC=$(echo "$PERFDATA" | grep 'LLC-load-misses' | awk '{print $1}')
  BRANCH=$(echo "$PERFDATA" | grep 'branch-misses' | awk '{print $1}')
  echo "$TIMESTAMP,$L1,$LLC,$BRANCH"
  sleep 1
done

사용법:

  1. monitor.sh로 저장합니다.
  2. 실행: bash monitor.sh <pid_of_victim_process>
  3. 잠재적 악의적 코드를 동시에 실행합니다.
  4. 스파이크를 모니터링합니다.

Python 예제: Perf 출력 파싱

다음은 Python을 사용하여 프로세스를 자동화하고 의심스러운 이벤트에 대한 경고를 생성합니다:

import subprocess
import re
import time

PID = 12345  # 대체할 프로세스 ID

pattern = re.compile(
    r"(?P<count>\d+).*\s+(?P<event>L1-dcache-load-misses|LLC-load-misses|branch-misses)"
)

def read_perf(pid):
    cmd = [
        "perf", "stat", "-p", str(pid),
        "-e", "L1-dcache-load-misses,LLC-load-misses,branch-misses",
        "sleep", "1"
    ]
    result = subprocess.run(cmd, stderr=subprocess.PIPE, stdout=subprocess.PIPE, text=True)
    metrics = {}
    for line in result.stderr.split('\n'):
        match = pattern.search(line)
        if match:
            metrics[match.group('event')] = int(match.group('count').replace(',', ''))
    return metrics

def detect_anomaly(prev_metrics, curr_metrics, threshold=2.0):
    for event in prev_metrics:
        ratio = curr_metrics[event] / (prev_metrics[event] + 1)
        if ratio > threshold:
            print(f"ALERT: {event} spiked by {ratio:.1f}x")

prev = read_perf(PID)
while True:
    time.sleep(1)
    curr = read_perf(PID)
    detect_anomaly(prev, curr)
    prev = curr

참고: perf가 설치되어 있어야 하며 루트 권한이 필요합니다.


완화 및 보안 방법

하드웨어 수준 솔루션

  1. 리소스 분할:

    • 하드웨어는 중요한 리소스를 분할할 수 있습니다(예: 캐시를 캐시 웨이 잠금으로 분할).
    • 예: Intel의 Cache Allocation Technology (CAT) on Xeon servers.
  2. QoS 및 공정 스케줄링:

    • "공정한" 라운드 로빈 공유를 보장하는 독점 또는 사용자 정의 마이크로코드.
    • 미래 CPU는 스레드 별 리소스 회계 및 집행을 지원할 수 있습니다.
  3. SMT 비활성화:

    • 많은 보안 의식 있는 사이트는 SMT (하이퍼 스레딩)을 비활성화하여 논리적 코어 수를 절반으로 줄이지만 격리를 크게 강화합니다.

OS/소프트웨어 수준 솔루션

  1. 스케줄러 인식:

    • 고가치 또는 민감한 워크로드를 비공유 물리 코어로 고정.
  2. 공동 테넌트 격리 정책:

    • 클라우드/컨테이너 오케스트레이션을 구성하여 SMT 공동 위치에서 다른 테넌트를 피합니다.
  3. 탐지 시 종료하거나 이동:

    • 탐지(위와 같이)를 사용하여 의심스러운 악성 VM을 동적으로 종료하거나 이동.

고급 주제: 방어 통합 문제

마이크로아키텍처 보안 간섭

최근 연구에 따르면:

현대의 하드웨어 보안 메커니즘은 때때로 서로 간섭할 수 있습니다. 예를 들어, Meltdown/Spectre의 완화는 버퍼 동작을 변경하여 새로운 DoS 경로를 열 수 있습니다. _보안 통합 지원_은 특정 클래스의 공격에 대한 방어책을 추가할 때 다른 곳에서 더 미묘한 마이크로아키텍처적 위험을 생성하지 않는 것을 의미합니다.

방어 조정

  1. 방어의 형식 검증:
    각 완화는 스케줄링 공정성에 대한 2차 효과를 테스트해야 합니다.
  2. 구성 보안:
    서로 다른 마이크로아키텍처가 완화되면서 자원 부족이나 "새는" 상태를 일으키지 않도록 확인해야 합니다.
  3. 벤더 테스트:
    하드웨어 벤더는 "DoS 저항성"을 보안 하드웨어 검증 체크리스트에 포함시켜야 합니다.

결론

마이크로아키텍처적 서비스 거부는 고성능 및 멀티 테넌트 환경에서 점점 우려스러운 문제로 부상하고 있습니다. 이러한 공격에서 스케줄링 공정성을 확보하고 보호하기 위해 하드웨어, 운영 체제 및 클라우드 제공업체의 인식, 모니터링 및 공동 노력이 필요합니다. CPU가 더욱 발전함에 따라 생태계는 이러한 위협을 추적, 탐지 및 방어해야 하며 방어 상호작용의 함정을 피하기 위해 구성 보안을 지원해야 합니다.


참고 문헌

  1. 마이크로아키텍처적 서비스 거부:
  2. 마이크로아키텍처적 방어의 보안 통합 지원:
  3. IEEE Xplore: 마이크로아키텍처적 DoS 공격의 실제 사례:
  4. Linux perf 문서:
  5. Intel Cache Allocation Technology (CAT):

위 내용을 귀하의 기술 블로그에 *전체* 게시하여 최대한의 SEO 효과를 누릴 수 있습니다.
🚀 레벨업할 준비가 되셨나요?

사이버 보안 경력을 다음 단계로 끌어올리세요

이 콘텐츠가 유용하다고 생각하셨다면, 저희의 포괄적인 47주 엘리트 교육 프로그램으로 무엇을 달성할 수 있을지 상상해 보세요. Unit 8200 기술로 경력을 변화시킨 1,200명 이상의 학생들과 함께하세요.

97% 취업률
엘리트 Unit 8200 기술
42가지 실습 랩