🛡️ 사이버 학생을 위한 운영체제(OS) 기초 — 제로에서 프로까지

1) 운영체제(OS)란?

운영체제(OS) 는 사용자/애플리케이션과 하드웨어 사이에 위치한 소프트웨어 계층입니다. CPU 시간 배분, 메모리·파일 관리, 장치 제어를 수행하고, 시스템 콜 및 쉘/GUI를 통해 일관된 인터페이스를 제공해 프로그램이 효율적이고 안전하게 실행되도록 합니다.

2) OS의 핵심 역할

• 프로세스·CPU 관리: 프로세스 생성/종료, 스레드 스케줄링
• 메모리 관리: RAM 할당, 가상 메모리 구현, 격리 보장
• 장치·I/O 관리: 드라이버로 디스크·NIC·키보드 등을 추상화
• 파일시스템 관리: 권한 기반의 파일/디렉터리 조직
• 보안·회계: 인증, 인가, 로깅, 쿼터
• 사용자·프로그램 인터페이스: 쉘/GUI 및 시스템 콜 API

3) OS 아키텍처: 커널, 쉘, 시스템 콜

• 커널(Kernel): 커널 모드에서 동작하는 특권 코어. 스케줄링, 메모리, 드라이버, 파일시스템, IPC 담당
• 쉘(Shell): 사용자 대상 CLI/GUI. 명령 해석 후 프로그램 실행
• 시스템 콜(syscall): 사용자 공간에서 커널 서비스로 진입하는 제어된 경로(예: open, read, execve, CreateProcessW)

대표 커널 유형

• 모놀리식(Monolithic): (예: Linux) 대부분 서비스가 커널 내부
• 마이크로커널(Microkernel): 모듈화를 위해 서비스를 사용자 공간으로 이동
• 하이브리드(Hybrid): (예: Windows, XNU) 양자의 장점 결합

4) 프로세스, 스레드, CPU 스케줄링

• 프로세스: 실행 중인 프로그램, 독립 가상 주소 공간 보유
• 스레드: 프로세스 내 스케줄링 단위, 메모리 공유
• 스케줄러: 다음 실행 대상을 결정(FCFS, SJF, 우선순위, 라운드 로빈, MLFQ). 선점/비선점, 컨텍스트 스위치, 기아(starvation) 이해는 성능·포렌식 분석에 필수

5) 메모리 관리와 가상 메모리

• 가상 메모리: 각 프로세스에 RAM과 디스크(페이징)로 뒷받침되는 격리된 논리 주소 공간 제공
• 페이지 교체 알고리즘: FIFO, LRU, Optimal 등으로 지역성과 오버헤드 균형
• 보호: 사용자/커널 모드, 페이지 권한으로 프로세스 간 간섭 방지

6) 스토리지, 파일시스템, I/O

• OS는 파일시스템(Linux: ext4/XFS, Windows: NTFS/ReFS)을 제공하고 메타데이터, 권한/ACL, 저널링으로 내구성을 강화
• 블록 I/O(디스크/SSD)는 스케줄러 사용, 문자 I/O(터미널)는 스트림 지향
• 디스크 스케줄링(예: SCAN/LOOK), 버퍼링·캐싱으로 처리량 향상

7) 부팅 과정과 동작 모드

일반 단계:

1. UEFI/BIOS가 하드웨어 초기화 및 부트로더 탐색
2. 부트로더가 커널(및 initramfs)을 메모리에 적재
3. 커널이 서브시스템 초기화, 루트 FS 마운트, 최초 사용자 공간 프로세스 시작(init/systemd 또는 Windows Session Manager)
4. 서비스 및 로그인/세션 매니저 시작

사용자 작업은 유저 모드, OS 코어는 커널 모드에서 동작

8) 보안 기초(계정, ACL, 정책)

공통 프리미티브:

• 아이덴티티·그룹, 권한(rwx, ACL), 소유권, 최소 권한 경계
• 정책 집행: Windows(UAC, 그룹 정책), Linux(DAC + MAC: SELinux/AppArmor)
• 감사·로그: Windows 이벤트 로그, Linux의 syslog/journald

위생적 보안: 최소 권한, 정기 패치, 강력 인증

9) 가상화와 컨테이너

• 가상머신(VM): 완전한 하드웨어를 가상화, 한 호스트에서 다수 OS 실행
• 컨테이너: (Linux namespaces/cgroups) 공유 커널 위에 프로세스 격리—빠른 기동·높은 밀도, 프로덕션·랩 환경에 적합

10) OS 유형: 데스크톱, 서버, 모바일

• 데스크톱: Windows, macOS, Linux 배포판—생산성, 개발, 게임
• 서버: Linux/Windows Server—헤드리스 서비스, 성능·보안 튜닝
• 모바일: Android/iOS—앱 샌드박스, 모바일 보안 패러다임

11) Linux vs Windows: 관리자 필수(핸즈온)

사용자·그룹 관리

• Linux: useradd, groupadd, passwd -l, /etc/passwd, /etc/shadow
• Windows: net user, net localgroup, MMC(Local Users & Groups)

패키지·업데이트

• Linux: apt, dnf, yum, apk
• Windows: Winget/Chocolatey, Windows Update 서비스(wuauserv)

서비스·시작

• Linux: systemctl enable|start <service>(systemd) 또는 service(SysV)
• Windows: Service Control Manager(sc config/start/stop), Services.msc

파일·권한

• Linux: chmod, chown, umask; ext4/XFS
• Windows: NTFS ACL(GUI 또는 icacls), 상속, 감사

로그

• Linux: /var/log/*, journalctl; logrotate로 로테이션/압축
• Windows: 이벤트 뷰어 → Application/Security/System; 그룹 정책/콘솔로 보존 정책 설정

12) 로깅, 모니터링, 트러블슈팅

• Linux: journalctl -u <svc>, dmesg, top/htop, ss -tulpn, lsof, strace
• Windows: 이벤트 뷰어 필터, Resource Monitor, Process Explorer, Get-WinEvent, Get-Process, netstat, Sysinternals 도구
• 로그 로테이션·중앙집중(syslog → SIEM), 보존·접근 정책 수립. logrotate는 Linux 표준 자동 로테이션 툴

13) 하드닝 체크리스트(Linux & Windows)

Linux

• SSH의 root 로그인 비활성화(PermitRootLogin no), 키 기반 인증 권장
• 주기적 패치, 최소 패키지, 방화벽(ufw/nftables)
• 민감 파일 권한 적정화(예: /etc/shadow 640, 소유 root:shadow)
• logrotate·중앙 로그 설정, 인증 실패 모니터링

Windows

• RDP에 NLA 적용, Guest 비활성화, 강력 락아웃 정책
• Windows Update 유지, Defender + SmartScreen 활성화
• 로컬 관리자 사용 최소화, 최소 권한 원칙, AppLocker/WDAC 활용
• 로그 보존 정의 및 SIEM으로 포워딩

14) 면접/시험 단답형 Q&A

• OS란? 사용자/애플리케이션과 하드웨어 사이의 인터페이스. 자원 관리·서비스 제공
• 프로세스 vs 스레드? 프로세스는 독립 주소 공간, 스레드는 공유하며 스케줄링 단위
• 가상 메모리란? 페이징·2차 저장장치로 프로세스에 격리 주소 공간 제공
• 커널 vs 쉘? 커널=특권 코어, 쉘=CLI/GUI. 시스템 콜로 상호 작용
• 모놀리식 vs 마이크로커널? 모놀리식은 서비스 대부분이 커널 내, 마이크로는 최소 커널·서비스는 사용자 공간

15) 미니 랩: 지금 시도하기

일회용 VM/컨테이너에서 실행하세요.

Linux

# 1) 사용자 & 그룹
sudo groupadd secops && sudo useradd -m -g secops -s /usr/sbin/nologin secops && sudo passwd -l secops

# 2) 패키지(Debian/Ubuntu)
sudo apt-get update -y && sudo apt-get install -y htop && htop --version && sudo apt-get remove -y htop

# 3) 서비스(systemd)
sudo systemctl enable --now cron || echo "Not available here"

# 4) 로그 로테이션
cat | sudo tee /etc/logrotate.d/custom <<'EOF'
/var/log/custom.log {
  weekly
  rotate 4
  compress
  missingok
  notifempty
  create 0640 root adm
}
EOF
sudo touch /var/log/custom.log && sudo chown root:adm /var/log/custom.log && sudo chmod 0640 /var/log/custom.log

# 5) SSH 하드닝
sudo sed -i 's/^#\?PermitRootLogin.*/PermitRootLogin no/' /etc/ssh/sshd_config && sudo systemctl restart ssh || true

Windows(관리자 PowerShell)

# 1) 사용자 & 그룹
net user secops /add /y
net localgroup "Users" secops /add

# 2) winget(또는 Chocolatey) 패키지
winget install --id=7zip.7zip -e; winget uninstall --id=7zip.7zip -e

# 3) 서비스
sc config wuauserv start= auto
sc start wuauserv

# 4) 로그 보존(예: Application = 64MB)
wevtutil sl Application /ms:67108864

# 5) RDP + NLA 권장(Group Policy / System Properties > Remote)

16) 용어집

• ACL: 접근 제어 목록—객체 단위의 세분화된 권한
• 컨텍스트 스위치: 스레드 전환을 위한 CPU 상태 저장/복원
• 저널링 파일시스템: 변경 사항을 저널에 기록해 장애 복원력 향상
• 커널/유저 모드: 허용 작업을 규정하는 CPU 특권 레벨
• 페이징: RAM과 디스크 사이 페이지 이동
• 선점(Preemption): 스케줄러가 실행 중 스레드를 중단하고 다른 스레드 실행
• 시스템 콜: 사용자 공간→커널 서비스 API 경계

17) Cyber8200 블로그용 SEO 팁

• H1/H2에 키워드 포함: “Operating System Basics”, “OS for Cybersecurity”, “Linux vs Windows administration”
• Linux CLI, Windows Registry, SIEM/Logging, Threat Hunting 글로 내부 링크 추가
• 다운로드용 치트시트와 랩 스크립트 제공해 체류 시간·백링크 강화
• JSON-LD(FAQPage) 로 FAQ 마크업하여 리치 결과 노리기