페이지 폴트 처리 과정에서 인터럽트와 예외 처리 흐름 분석

컴퓨터를 사용하면서 ‘메모리 부족’이나 ‘프로그램 응답 없음’ 같은 메시지를 접할 때가 있습니다. 이 현상들의 배경에는 운영체제가 메모리를 관리하는 복잡한 과정이 숨어 있습니다. 그중에서도 ‘페이지 폴트’는 시스템의 효율성과 안정성을 결정짓는 핵심적인 메커니즘입니다. 이 글에서는 페이지 폴트가 무엇인지, 그리고 이 현상을 처리하기 위해 운영체제가 인터럽트와 예외 처리 흐름을 어떻게 활용하는지 일반 독자들도 이해하기 쉽도록 자세히 설명해 드리겠습니다.

Table of Contents

페이지 폴트란 무엇인가요

페이지 폴트를 이해하기 위해서는 먼저 ‘가상 메모리’ 개념을 알아야 합니다. 현대 운영체제는 물리적 RAM 메모리 외에 하드디스크의 일부 공간을 메모리처럼 활용하는 가상 메모리 시스템을 사용합니다. 각 프로그램은 실제 물리적 주소가 아닌 가상 주소를 사용하며, 운영체제는 이 가상 주소를 물리적 주소로 변환해줍니다. 이때 메모리는 ‘페이지’라는 고정된 크기의 블록 단위로 관리됩니다.

페이지 폴트는 프로그램이 어떤 가상 메모리 주소에 접근하려고 할 때, 해당 가상 주소에 매핑된 페이지가 현재 물리적 RAM에 로드되어 있지 않을 때 발생하는 현상입니다. 즉, 프로그램은 특정 데이터를 찾으러 갔는데, 그 데이터가 실제 RAM에는 없고 하드디스크(스왑 공간)에 있거나 아직 로드되지 않은 상태인 경우를 말합니다. 이는 에러 상황이 아니라, 운영체제가 가상 메모리를 효율적으로 관리하기 위한 정상적인 작동 방식의 일부입니다.

페이지 폴트가 중요한 이유

페이지 폴트 처리는 컴퓨터 시스템에서 다음과 같은 중요한 역할을 합니다:

메모리 효율성 극대화: 실제 물리적 RAM보다 훨씬 큰 가상 메모리 공간을 프로그램에 제공하여, RAM이 부족하더라도 많은 프로그램을 동시에 실행할 수 있게 합니다.

프로그램 실행 속도 향상: 프로그램의 모든 코드를 RAM에 한꺼번에 로드하는 대신, 필요한 부분만 그때그때 로드하는 ‘요구 페이징(Demand Paging)’ 방식을 통해 프로그램 시작 시간을 단축합니다.
메모리 보호: 각 프로그램은 독립적인 가상 주소 공간을 가지므로, 한 프로그램이 다른 프로그램의 메모리 영역을 침범하는 것을 방지합니다.
자원 공유: 여러 프로그램이 동일한 코드나 데이터를 공유할 때, 해당 페이지를 물리적 메모리에 한 번만 로드하고 여러 가상 주소 공간에 매핑하여 메모리를 절약합니다. (예: Copy-on-Write)

인터럽트와 예외 처리 흐름의 기본 개념

페이지 폴트 처리 과정을 깊이 이해하려면, ‘인터럽트’와 ‘예외’의 차이를 명확히 알아야 합니다. 이들은 모두 CPU가 현재 작업을 중단하고 다른 중요한 작업을 처리하도록 만드는 메커니즘이지만, 발생 원인이 다릅니다.

인터럽트

비동기적 발생: CPU가 어떤 작업을 하고 있든 상관없이 외부 장치(하드웨어)에 의해 비동기적으로 발생합니다.

원인: 키보드 입력, 마우스 클릭, 디스크 I/O 완료, 네트워크 패킷 수신 등 하드웨어 장치가 CPU에 특정 이벤트 발생을 알릴 때 발생합니다.
목적: CPU와 하드웨어 장치 간의 통신을 가능하게 하여, 하드웨어 이벤트를 효율적으로 처리합니다.

예외

동기적 발생: CPU가 특정 명령어를 실행하는 과정에서 동기적으로 발생합니다.

원인: 프로그램 내부에서 발생한 오류 (0으로 나누기, 잘못된 메모리 접근), 또는 CPU 자체의 상태 변화 (페이지 폴트) 등으로 인해 발생합니다. CPU가 처리 중인 명령과 직접적인 관련이 있습니다.
목적: 프로그램의 비정상적인 동작을 감지하고, 운영체제가 이에 대한 적절한 조치를 취하도록 합니다. 페이지 폴트는 대표적인 예외 중 하나입니다.

페이지 폴트는 프로그램이 유효하지 않거나 현재 RAM에 없는 메모리 주소에 접근하려고 할 때 CPU 내부의 MMU(Memory Management Unit)에 의해 감지되므로, 인터럽트가 아닌 ‘예외’에 해당합니다.

페이지 폴트 처리의 상세 흐름

이제 페이지 폴트가 발생했을 때 운영체제가 어떻게 이를 처리하는지 단계별로 살펴보겠습니다.

- 페이지 폴트 발생: CPU가 특정 가상 주소에 접근하려고 합니다. MMU는 이 가상 주소에 해당하는 페이지 테이블 엔트리(PTE)를 확인합니다. 만약 PTE의 ‘Present’ 비트가 0으로 설정되어 있다면 (즉, 해당 페이지가 물리적 RAM에 없다는 의미), MMU는 페이지 폴트 예외를 발생시킵니다.
- CPU의 상태 저장: 페이지 폴트 예외가 발생하면, CPU는 현재 실행 중이던 프로그램의 상태(레지스터 값, 프로그램 카운터, 스택 포인터 등)를 스택에 저장합니다. 이는 예외 처리가 끝난 후 원래 프로그램으로 정확히 복귀하기 위함입니다.
- 예외 핸들러 호출: CPU는 미리 정의된 ‘인터럽트 디스크립터 테이블(IDT)’이라는 특별한 테이블을 참조하여 페이지 폴트 예외를 처리할 커널 함수(페이지 폴트 핸들러)의 주소를 찾습니다.
- 페이지 폴트 핸들러 실행 (커널 모드): CPU는 찾은 페이지 폴트 핸들러의 주소로 점프하여 실행합니다. 이때 CPU는 사용자 모드에서 커널 모드로 전환됩니다.
  - 오류 정보 분석: 핸들러는 CPU의 CR2 레지스터(페이지 폴트가 발생한 가상 주소)와 스택에 저장된 오류 코드(접근 유형, 권한 등)를 분석합니다.
  - 페이지의 유효성 검사: 핸들러는 이 페이지 폴트가 정당한지 (예: 스왑 아웃된 페이지, 읽기 전용 페이지에 쓰기 시도) 또는 잘못된 메모리 접근으로 인한 것인지 판단합니다.
  - 정당한 페이지 폴트 처리:
    - 페이지가 스왑 아웃된 경우: 하드디스크의 스왑 공간에서 해당 페이지를 찾아 RAM으로 로드합니다.
    - Copy-on-Write (COW): 공유 중인 페이지에 쓰기 작업을 시도하는 경우, 원본 페이지를 복사하여 새로운 물리적 페이지를 할당하고 그곳에 쓰기 작업을 허용합니다.
    - 제로-필-온-디맨드: 새로운 메모리 영역이 할당되었지만 아직 사용되지 않아 0으로 초기화된 빈 페이지를 할당합니다.
  - 물리적 페이지 할당: 시스템의 물리적 RAM에서 비어 있는 페이지 프레임을 할당합니다. 만약 사용 가능한 페이지 프레임이 없다면, ‘페이지 교체 알고리즘'(LRU, FIFO 등)을 사용하여 현재 RAM에 있는 다른 페이지를 스왑 공간으로 내보내고(페이지 아웃) 공간을 확보합니다.
  - 페이지 로드 및 PTE 업데이트: 하드디스크에서 필요한 데이터를 새로 할당된 물리적 페이지 프레임으로 로드합니다. 이후 해당 가상 주소에 매핑되는 페이지 테이블 엔트리(PTE)를 업데이트하여 ‘Present’ 비트를 1로 설정하고, 새로운 물리적 주소를 기록합니다.
- CPU 상태 복원 및 재실행: 페이지 폴트 처리가 완료되면, CPU는 스택에 저장했던 원래 프로그램의 상태를 복원하고, 사용자 모드로 다시 전환됩니다. 그리고 페이지 폴트를 발생시켰던 명령어를 다시 실행합니다. 이제 해당 페이지는 RAM에 있으므로 명령어는 정상적으로 완료됩니다.

만약 페이지 폴트가 잘못된 메모리 접근(예: 존재하지 않는 주소 접근, 읽기 전용 영역에 쓰기 시도 등)으로 인한 것이라면, 운영체제는 해당 프로그램을 비정상 종료(흔히 ‘Segmentation Fault’나 ‘메모리 접근 오류’로 표시)시킵니다.

실생활에서의 활용 방법 및 중요성

페이지 폴트 처리 과정은 사용자 입장에서는 보이지 않지만, 우리가 사용하는 모든 소프트웨어와 운영체제의 성능에 지대한 영향을 미칩니다.

- 대용량 프로그램 실행: 비디오 편집, 게임, 데이터 분석 등 대용량 메모리를 요구하는 프로그램을 물리적 RAM이 충분하지 않아도 실행할 수 있게 해줍니다.
- 멀티태스킹의 기반: 여러 프로그램을 동시에 실행할 때, 각 프로그램이 필요한 메모리만 그때그때 로드하여 전체 시스템의 반응성을 높입니다.
- 빠른 프로그램 시작: 프로그램 실행 시 모든 데이터를 로드할 필요 없이, 가장 먼저 필요한 부분만 로드하여 사용자가 프로그램을 더 빠르게 사용할 수 있도록 합니다.

유용한 팁과 조언

페이지 폴트 자체는 정상적인 현상이지만, 과도한 페이지 폴트는 시스템 성능 저하의 주범이 될 수 있습니다. 특히 ‘주요 페이지 폴트(Major Page Faults)’는 페이지를 디스크에서 읽어와야 하므로, 디스크 I/O가 발생하여 시스템 속도를 현저히 떨어뜨립니다.

RAM 증설: 가장 확실한 방법입니다. 물리적 RAM이 많을수록 운영체제가 디스크에서 페이지를 읽어올 필요가 줄어들어, 주요 페이지 폴트가 감소하고 시스템 전반적인 속도가 빨라집니다.

빠른 저장장치 사용: SSD(Solid State Drive)는 HDD(Hard Disk Drive)보다 훨씬 빠른 읽기/쓰기 속도를 제공하므로, 페이지 폴트 발생 시 데이터를 RAM으로 로드하는 시간을 크게 단축시켜 줍니다.
불필요한 프로그램 종료: 백그라운드에서 실행되는 불필요한 프로그램을 종료하여 RAM 사용량을 줄이면, 현재 사용 중인 프로그램에 더 많은 RAM을 할당할 수 있습니다.
메모리 사용량 모니터링:
- Windows: 작업 관리자 (Ctrl+Shift+Esc)의 ‘성능’ 탭에서 ‘메모리’ 섹션을 확인하면, ‘하드 폴트’ (주요 페이지 폴트) 수를 확인할 수 있습니다.
- Linux/macOS: 터미널에서 vmstat, top, htop 등의 명령어를 사용하여 페이지 폴트 관련 통계(예: pi, po, faults 등)를 모니터링할 수 있습니다.

프로그램 최적화: 개발자라면 프로그램의 메모리 접근 패턴을 최적화하여 지역성(locality)을 높이면 페이지 폴트 발생을 줄일 수 있습니다.

흔한 오해와 사실 관계

페이지 폴트에 대해 자주 오해하는 부분들이 있습니다.

오해: 페이지 폴트는 항상 나쁜 것이다.

사실: 페이지 폴트는 가상 메모리 시스템의 정상적인 작동 방식입니다. 특히 ‘부차적 페이지 폴트(Minor Page Faults)’는 페이지가 이미 RAM에 있지만 단순히 프로그램의 페이지 테이블에 매핑되지 않았을 때 발생하며, 디스크 접근 없이 빠르게 처리됩니다. 성능에 부정적인 영향을 미 미치는 것은 디스크 I/O를 동반하는 ‘주요 페이지 폴트’입니다.
오해: 페이지 폴트가 발생하면 프로그램에 버그가 있는 것이다.
사실: 대부분의 페이지 폴트는 운영체제의 메모리 관리 전략에 따른 정상적인 현상입니다. 다만, ‘유효하지 않은 페이지 폴트'(예: 존재하지 않는 메모리 주소 접근)는 프로그램의 버그나 메모리 손상으로 인해 발생할 수 있으며, 이는 보통 ‘Segmentation Fault’로 이어집니다.
오해: RAM이 충분하면 페이지 폴트는 발생하지 않는다.
사실: RAM이 충분하더라도 프로그램이 처음 실행될 때, 또는 새로운 코드나 데이터 영역에 접근할 때 페이지 폴트는 발생합니다. 이는 ‘요구 페이징’ 덕분에 필요한 부분만 RAM에 올리기 때문입니다. 다만, RAM이 많으면 디스크 접근이 필요한 주요 페이지 폴트의 빈도가 현저히 줄어듭니다.

전문가의 조언

시스템 성능 분석가들은 페이지 폴트 지표를 통해 시스템의 메모리 병목 현상을 진단합니다. 특히 디스크에서 데이터를 읽어오는 주요 페이지 폴트의 수가 급증하는 것은 RAM이 부족하거나, 특정 애플리케이션이 비효율적으로 메모리를 사용하고 있다는 강력한 신호입니다. 이러한 경우, 단순히 RAM을 늘리는 것 외에도 애플리케이션의 메모리 사용 패턴을 분석하고 최적화하는 것이 중요합니다. 예를 들어, 데이터베이스 시스템에서는 캐싱 전략을 최적화하여 디스크 I/O를 최소화하는 것이 일반적입니다.

자주 묻는 질문과 답변

Q1: ‘하드 폴트’와 ‘소프트 폴트’는 무엇인가요?

A1: ‘하드 폴트’는 ‘주요 페이지 폴트(Major Page Faults)’와 같은 의미로, 해당 페이지가 물리적 RAM에 없어 디스크에서 읽어와야 할 때 발생합니다. ‘소프트 폴트’는 ‘부차적 페이지 폴트(Minor Page Faults)’와 같은 의미로, 해당 페이지가 이미 물리적 RAM에 있지만 단순히 현재 프로세스의 페이지 테이블에 매핑되어 있지 않아 발생하는 경우입니다. 소프트 폴트는 디스크 접근 없이 처리되므로 성능에 미치는 영향이 적습니다.

Q2: 페이지 폴트가 너무 많으면 시스템이 느려지는 원인은 무엇인가요?

A2: 페이지 폴트 자체가 느린 것이 아니라, 페이지 폴트 처리 과정에서 디스크 I/O가 발생하기 때문입니다. RAM은 나노초 단위로 데이터를 처리하지만, 하드디스크는 밀리초 단위로 데이터를 처리합니다. 이 속도 차이가 엄청나기 때문에, 디스크에서 페이지를 가져오는 작업이 빈번해지면 CPU가 디스크 작업을 기다리느라 아무것도 하지 못하는 시간이 길어져 시스템 전체가 느려지게 됩니다. 이를 ‘스래싱(Thrashing)’이라고 부르기도 합니다.

Q3: 가상 메모리 크기를 늘리면 페이지 폴트가 줄어들까요?

A3: 가상 메모리 크기(스왑 파일/파티션 크기)를 늘리는 것은 페이지 폴트 발생 자체를 줄이는 것과는 직접적인 관련이 없습니다. 가상 메모리 크기는 시스템이 RAM 부족 시 데이터를 스왑 아웃할 수 있는 여유 공간을 제공하는 것입니다. 오히려 스왑 공간이 너무 작으면, RAM이 부족할 때 페이지 교체가 제대로 이루어지지 않아 심각한 성능 저하나 시스템 불안정으로 이어질 수 있습니다. 페이지 폴트를 줄이려면 물리적 RAM을 늘리거나, 메모리 사용량을 최적화해야 합니다.

비용 효율적인 활용 방법

페이지 폴트 관점에서 시스템을 비용 효율적으로 운영하는 방법은 다음과 같습니다.

RAM과 SSD의 적절한 조합: 예산이 한정적이라면, 무작정 RAM만 늘리는 것보다 RAM과 SSD를 함께 사용하는 것이 더 효과적일 수 있습니다. 충분한 RAM은 주요 페이지 폴트를 줄여주고, SSD는 불가피하게 발생하는 주요 페이지 폴트의 처리 속도를 대폭 향상시켜 전반적인 시스템 반응성을 높여줍니다.
워크로드 분석을 통한 자원 할당: 사용하는 애플리케이션의 메모리 요구량을 정확히 파악하여, 필요한 만큼의 RAM을 할당하는 것이 중요합니다. 예를 들어, 웹 서버나 데이터베이스 서버의 경우, 캐싱 효율을 높이기 위해 RAM을 아낌없이 투자하는 것이 장기적으로 더 비용 효율적일 수 있습니다. 반면, 가벼운 작업용 PC라면 과도한 RAM 증설은 불필요한 지출이 될 수 있습니다.
클라우드 환경에서의 최적화: 클라우드 환경에서는 메모리 사용량에 따라 비용이 청구되므로, 불필요한 페이지 폴트를 줄이는 것이 직접적인 비용 절감으로 이어집니다. 애플리케이션의 메모리 누수를 방지하고, 효율적인 메모리 관리 기법을 적용하여 필요한 최소한의 RAM으로 최대의 성능을 내도록 최적화해야 합니다.