래스터화 파이프라인 (3) - 디스플레이와 안티앨리어싱 - soo:bak

작성일 : 2026년 03월 02일

버퍼에서 화면으로

래스터화 파이프라인 (2)에서 프래그먼트가 깊이 테스트, 스텐실 테스트, 블렌딩을 거쳐 프레임 버퍼에 기록되는 과정을 다루었습니다. 모든 드로우 콜이 처리되면 프레임 버퍼에는 한 프레임의 완성된 이미지가 담깁니다.

하지만 프레임 버퍼에 완성된 이미지가 담겼다고 해서, 그 이미지가 곧바로 화면에 나타나는 것은 아닙니다.

디스플레이는 프레임 버퍼를 한 번에 표시하지 않고 순차적으로 읽어가므로, GPU가 프레임을 완성하는 속도와 디스플레이가 화면을 갱신하는 속도가 어긋나면 화면 한 장에 두 프레임이 섞여 보이는 티어링(Tearing)이 발생합니다. 더블 버퍼링, VSync, 트리플 버퍼링은 이 동기화 문제를 단계적으로 해결하기 위한 메커니즘이며, 각각 고유한 트레이드오프를 갖고 있습니다.

래스터화 과정 자체에도 근본적인 한계가 있습니다.

연속적인 삼각형 가장자리를 유한한 픽셀 격자로 표현하면, 가장자리에 계단 모양의 앨리어싱(Aliasing)이 나타납니다. 이 계단 현상은 해상도를 높이면 줄어들지만 완전히 사라지지 않습니다. 나이퀴스트 정리가 설명하듯, 이산적 샘플링으로는 무한히 높은 공간 주파수를 완벽히 재현할 수 없기 때문입니다. 이를 완화하는 안티앨리어싱(Anti-Aliasing) 기법에는 MSAA, FXAA, TAA, SMAA 등이 있으며, 접근 방식과 비용이 각기 다릅니다. 특히 모바일에서는 TBDR 아키텍처의 특성에 따라 기법별 비용 구조가 데스크톱과 달라집니다.

이 글에서는 완성된 프레임이 화면에 도달하기까지의 동기화 문제와, 래스터화의 샘플링 한계를 보완하는 안티앨리어싱 기법을 살펴봅니다.

디스플레이 스캔아웃

디스플레이 장치(모니터, 스마트폰 화면)는 프레임 버퍼의 데이터를 한 번에 표시하지 않습니다.

프레임 버퍼의 픽셀을 왼쪽 위부터 오른쪽으로, 위에서 아래로 순차적으로 읽어 디스플레이의 각 픽셀에 전송합니다. 이 과정을 스캔아웃(Scanout)이라 합니다.

이 순서는 CRT(브라운관) 모니터의 전자빔 주사 방식에서 비롯되었습니다. CRT에서는 전자빔이 화면을 왼쪽에서 오른쪽으로, 위에서 아래로 훑으며 형광체를 발광시켰습니다.

현대의 LCD, OLED 디스플레이는 전자빔을 사용하지 않지만, 디스플레이 컨트롤러가 프레임 버퍼를 읽는 순서는 동일한 관례를 따릅니다.

60Hz 디스플레이는 초당 60번 화면을 갱신하며, 한 번의 갱신 주기는 약 16.67ms(1/60초)입니다.

이 주기는 두 구간으로 나뉩니다. 실제로 픽셀 데이터를 전송하는 활성 스캔아웃 구간과, 한 프레임의 스캔이 끝난 뒤 다음 프레임이 시작되기 전까지의 짧은 유휴 구간인 수직 귀선 구간(VBlank, Vertical Blanking Interval)입니다.

CRT에서 전자빔이 화면 하단에서 상단으로 되돌아가는 시간이 VBlank의 기원이며, 현대 디스플레이에서도 프레임 전환 구간으로 유지됩니다. 이 VBlank 구간이 이후 다룰 VSync와 버퍼 교환의 타이밍 기준점이 됩니다.

티어링

스캔아웃이 프레임 버퍼를 순차적으로 읽는 도중에 버퍼 내용이 바뀌면, 화면 위쪽에는 이전 프레임, 아래쪽에는 새 프레임이 섞여 나타납니다.

이 현상이 티어링(Tearing)입니다.

GPU의 렌더링 완료 시점과 디스플레이의 갱신 주기는 서로 독립적이므로, GPU가 스캔아웃 도중에 프레임 버퍼를 교체하면 스캔 진행 지점을 경계로 위아래에 서로 다른 프레임이 나타납니다.

카메라가 빠르게 회전하거나 장면이 빠르게 이동하면 프레임 간 차이가 커서 경계선이 눈에 띄지만, 정적인 장면에서는 차이가 작아 인지하기 어렵습니다.

더블 버퍼링

티어링을 방지하는 기본적인 방법이 더블 버퍼링(Double Buffering)입니다.

프레임 버퍼를 하나만 사용하는 대신, 두 개의 버퍼를 사용합니다.

버퍼가 두 개이므로 프레임 버퍼 메모리도 2배가 필요합니다.

래스터화 파이프라인 (2)에서 다룬 RGBA8 FHD 기준으로 한 장 약 8MB에서 두 장 약 16MB로 늘어나지만, 현대 GPU 메모리 용량에서 이 비용은 무시할 수 있는 수준입니다.

프론트 버퍼(Front Buffer)는 디스플레이가 현재 읽고 있는 버퍼로, 화면에 표시 중인 프레임을 담고 있습니다.

백 버퍼(Back Buffer)는 GPU가 새 프레임을 렌더링하는 버퍼로, 렌더링이 완료될 때까지 디스플레이에 노출되지 않습니다.

GPU는 백 버퍼에 새 프레임을 렌더링합니다.

렌더링이 완료되면 프론트 버퍼와 백 버퍼의 역할을 교환(Swap)합니다.

이 교환은 실제 픽셀 데이터를 복사하는 것이 아니라, 디스플레이 컨트롤러가 읽는 버퍼의 포인터만 바꾸는 연산이므로 거의 즉시 완료됩니다.

더블 버퍼링만으로는 티어링이 완전히 방지되지 않습니다.

버퍼 교환 시점이 디스플레이의 스캔아웃과 동기화되지 않으면, 스캔아웃 도중에 포인터가 바뀌어 여전히 티어링이 발생할 수 있습니다.

VSync가 이 교환 시점을 동기화합니다.

VSync

VSync(Vertical Synchronization, 수직 동기화)는 버퍼 교환 시점을 디스플레이의 VBlank 구간에 맞추는 메커니즘입니다.

스캔아웃이 진행되는 동안에는 교환을 보류하고, 스캔이 끝난 뒤의 유휴 구간에서만 교환을 수행하여 티어링을 방지합니다.

티어링은 사라지지만, VBlank까지 대기하는 구조에는 두 가지 부작용이 따릅니다.

입력 지연(Input Lag) 증가.

GPU가 프레임을 완료한 시점과 실제 화면에 표시되는 시점 사이에 최대 한 프레임 주기(60Hz에서 약 16.67ms)의 지연이 추가됩니다.

게임 입력이 즉시 화면에 반영되지 않아, 빠른 반응이 중요한 게임에서 이 지연을 느낄 수 있습니다.

프레임 레이트 고정.

VSync가 활성화되면 프레임 레이트가 디스플레이 갱신 주기의 정수 분의 1로만 제한됩니다.

60Hz에서는 60fps(매 VBlank 교환), 30fps(2 VBlank마다 교환), 20fps(3 VBlank마다 교환) 등입니다.

VBlank 구간에서만 교환이 가능하므로, 프레임 완료 시점이 VBlank 사이에 떨어지면 다음 VBlank까지 대기해야 합니다.

60Hz 디스플레이에서 GPU가 프레임을 16.67ms 이내에 완료하면 60fps가 유지됩니다.

그런데 18ms가 걸리면 해당 VBlank을 놓쳐 다음 VBlank까지 기다려야 하므로, 그 프레임의 표시 간격은 33.33ms — 프레임 레이트가 30fps로 절반 떨어집니다.

이 프레임 레이트 급락 현상은 게임 루프의 원리 (2)에서 다룬 프레임 페이싱과 직접 연결됩니다.

모바일 게임에서는 60fps를 안정적으로 유지하기 어려운 경우, 의도적으로 30fps로 고정하여 일관된 프레임 페이싱을 확보하는 전략을 사용하기도 합니다.

Unity에서 VSync는 QualitySettings.vSyncCount로 제어합니다.

값이 1이면 매 VBlank에 교환(60Hz에서 60fps), 2이면 두 번째 VBlank에 교환(60Hz에서 30fps), 0이면 VSync가 비활성화됩니다.

다만 Android와 iOS에서는 운영체제의 디스플레이 합성기(Android의 SurfaceFlinger/Choreographer, iOS의 CADisplayLink)가 VSync 기반으로 동작하므로, vSyncCount를 0으로 설정하더라도 프레임 제출 자체가 VSync 주기에 맞춰지는 경우가 대부분입니다.

모바일에서는 vSyncCount보다 Application.targetFrameRate로 목표 프레임 레이트를 조절하는 것이 실질적인 제어 수단입니다.

참고로, VSync의 프레임 레이트 고정 문제를 근본적으로 해결하는 가변 주사율(VRR, Variable Refresh Rate) 기술도 존재합니다.

G-Sync, FreeSync, Adaptive Sync 등으로 알려진 이 기술은 디스플레이의 갱신 주기를 고정하지 않고 GPU의 프레임 완료 시점에 맞추어 동적으로 조절합니다.

데스크톱 모니터에서 널리 사용되며, 일부 최신 모바일 기기에서도 지원이 확대되고 있습니다.

VRR이 지원되는 환경에서는 VSync의 프레임 레이트 급락이나 트리플 버퍼링의 입력 지연 문제가 크게 완화됩니다.

트리플 버퍼링

트리플 버퍼링(Triple Buffering)은 더블 버퍼링에 버퍼 하나를 추가하여, VSync의 GPU 유휴 시간과 프레임 레이트 급락을 완화하는 방식입니다.

앞서 살펴본 것처럼, 더블 버퍼링에서 VSync가 활성화되면 GPU는 백 버퍼에 렌더링을 완료한 뒤 다음 VBlank까지 대기해야 합니다.

백 버퍼가 1개뿐이라 VBlank에서 교환되기 전까지는 새 프레임을 쓸 곳이 없기 때문입니다. 이 대기 시간 동안 GPU는 유휴 상태가 됩니다.

트리플 버퍼링에서는 백 버퍼가 2개이므로, GPU가 하나의 백 버퍼(백A)에 렌더링을 완료한 즉시 다른 백 버퍼(백B)에 다음 프레임 렌더링을 시작할 수 있습니다.

백A가 VBlank에서 교환되기를 기다리는 동안에도 백B에 쓸 수 있으므로, GPU가 멈추지 않습니다.

트리플 버퍼링은 두 가지 이점을 제공합니다.

첫째, GPU가 VBlank을 기다리지 않고 계속 다음 프레임을 렌더링할 수 있으므로 GPU 활용률이 높아집니다.

빈 백 버퍼가 있는 동안에는 더블 버퍼링에서 발생하던 대기가 줄어듭니다.

둘째, 프레임 시간이 VBlank 간격을 약간 초과하더라도 프레임 레이트가 절반으로 떨어지지 않습니다.

60Hz에서 프레임 시간이 18ms인 경우, 더블 버퍼링에서는 매 프레임이 VBlank을 놓쳐 30fps로 고정됩니다.

트리플 버퍼링에서는 GPU가 대기 없이 계속 렌더링하므로, GPU의 처리량은 약 55fps(1000/18ms)를 유지합니다.

디스플레이는 여전히 60Hz로 동작하지만, 매 VBlank마다 가장 최근 완료된 프레임을 표시하므로 대부분의 VBlank에서 새 프레임이 나타납니다.

다만 GPU 처리량과 디스플레이 주파수가 정확히 일치하지 않으면, 간헐적으로 같은 프레임이 두 VBlank 연속 표시되는 미세한 끊김(micro-stutter)이 발생할 수 있습니다.

한편, 백 버퍼가 2개이므로 디스플레이에 표시 중인 프레임과 GPU가 렌더링 중인 프레임 사이의 격차가 더블 버퍼링보다 한 프레임 더 벌어질 수 있어, 사용자의 입력이 화면에 반영되기까지 최대 한 프레임분의 입력 지연이 추가되는 트레이드오프가 있습니다.

다만, 이는 VBlank 시점에 가장 최근 완료된 백 버퍼를 프론트와 교환하는 방식(Vulkan의 mailbox 모드, Android SurfaceFlinger 등) 기준이며, 완료된 프레임을 대기열에 순서대로 쌓아두는 방식(DirectX의 render-ahead queue 등)에서는 대기열 깊이만큼 입력 지연이 더 늘어날 수 있습니다.

트리플 버퍼링의 비용은 메모리 사용량 증가입니다. 색상 버퍼가 2개에서 3개로 늘어나므로, Full HD RGBA8 기준으로 약 8MB가 추가됩니다. 모바일에서 메모리가 제한적인 환경에서는 이 추가 비용이 무시할 수 없습니다.

Unity에서 트리플 버퍼링은 플랫폼과 그래픽스 API에 따라 자동으로 결정됩니다. 대부분의 모바일 플랫폼(Android, iOS)에서는 운영체제의 컴포지터 수준에서 트리플 버퍼링이 기본 동작입니다.

앨리어싱

디스플레이 동기화와 별개로, 래스터화에는 또 다른 근본적인 한계가 있습니다.

연속적인 도형(삼각형의 가장자리)을 이산적인 격자(픽셀)로 표현하면 가장자리에 계단이 생기는데, 이 현상을 앨리어싱(Aliasing)이라 하며 톱니 모양의 가장자리를 jaggies라고 부릅니다.

나이퀴스트 정리와 앨리어싱

앨리어싱이 단순히 해상도가 낮아서 생기는 문제처럼 보이지만, 근본 원인은 샘플링 자체의 한계에 있습니다.

신호 처리 이론의 나이퀴스트 정리(Nyquist Theorem)에 따르면, 연속 신호를 이산 샘플로 정확히 복원하려면, 샘플링 주파수가 원래 신호의 최대 주파수의 2배 이상이어야 합니다.

이 조건을 충족하지 못하면, 원래 신호에 존재하지 않던 가짜 패턴(앨리어스)이 나타납니다.

이 관점에서, 래스터화는 연속적인 장면을 픽셀 격자로 찍어내는 공간적 샘플링입니다.

샘플링 주파수에 대응하는 것은 픽셀 밀도(해상도)이고, 신호의 주파수에 대응하는 것은 화면에서 얼마나 짧은 거리 안에 색상이 바뀌는지를 나타내는 공간 주파수입니다.

넓은 하늘처럼 색상이 천천히 바뀌는 영역은 공간 주파수가 낮고, 체크무늬 패턴이나 삼각형 가장자리처럼 색상이 급격히 바뀌는 영역은 공간 주파수가 높습니다.

삼각형 가장자리는 색상이 한 픽셀 내에서 삼각형 안쪽과 바깥쪽으로 불연속하게 바뀌는 경계이므로, 이론적으로 무한히 높은 공간 주파수를 가지며 유한한 해상도의 픽셀 격자로는 완벽하게 표현할 수 없습니다.

해상도를 높이면 계단의 크기가 줄어들어 눈에 덜 띄지만, 앨리어싱 자체를 완전히 제거할 수는 없습니다.

모바일에서는 해상도를 무한정 높일 수 없으므로, 별도의 안티앨리어싱 기법으로 계단 현상을 완화합니다.

안티앨리어싱 기법들

안티앨리어싱(Anti-Aliasing)은 앨리어싱을 줄이기 위한 기법의 총칭입니다.

접근 방식에 따라 크게 샘플링 기반(하드웨어)과 후처리 기반(소프트웨어)으로 나뉩니다.

MSAA (Multi-Sample Anti-Aliasing)

MSAA는 래스터화 단계에서 작동하는 하드웨어 기반 안티앨리어싱입니다.

각 픽셀 내에 여러 서브 샘플(Sub-sample) 위치를 설정하고, 삼각형 가장자리가 이 서브 샘플 중 일부만 덮는지 전부 덮는지에 따라 가장자리의 색상을 부드럽게 만듭니다.

MSAA에서 서브 샘플마다 개별적으로 계산되는 것은 커버리지(삼각형이 해당 위치를 덮는지)와 깊이 값뿐이며, 프래그먼트 셰이더는 보통 픽셀당 1번만 실행됩니다.

계산된 색상은 삼각형이 덮는 서브 샘플에만 기록되고, 덮지 않는 서브 샘플에는 기존 배경 색상이 남습니다.

최종 출력 시 4개 서브 샘플의 색상을 평균하는 리졸브(Resolve) 과정을 거쳐 최종 픽셀 색상이 결정됩니다.

가장 단순한 안티앨리어싱인 SSAA(Super-Sample Anti-Aliasing)는 서브 샘플마다 프래그먼트 셰이더를 실행하므로, 4x SSAA의 셰이더 비용은 이론상 4배입니다.

MSAA는 보통 셰이더를 1번만 실행하고 커버리지만 서브 샘플별로 계산하므로, 동일한 서브 샘플 수에서 셰이더 비용이 SSAA의 1/4에 불과합니다.

MSAA는 삼각형 가장자리의 앨리어싱에 효과적입니다.

하지만 텍스처 내부의 앨리어싱(미세한 반복 패턴이 픽셀 격자와 간섭하여 생기는 모아레 무늬 등)이나, 셰이더에서 발생하는 앨리어싱(스페큘러 하이라이트의 깜박임 등)에는 효과가 없습니다.

이 종류의 앨리어싱은 서브 샘플의 커버리지가 아니라 셰이더 연산 자체에서 발생하기 때문입니다.

모바일에서의 MSAA.

GPU 아키텍처 (2)에서 다룬 것처럼, TBDR 아키텍처에서 MSAA는 온칩 타일 메모리에서 수행됩니다.

서브 샘플 데이터가 온칩에만 존재하고, 타일이 완료될 때 리졸브하여 최종 색상만 외부 메모리에 기록합니다.

4xMSAA를 적용해도 외부 메모리에 기록되는 데이터량은 MSAA 없이 렌더링할 때와 동일합니다.

반면 IMR(Immediate Mode Rendering, 데스크톱 GPU의 기본 렌더링 방식)에서는 서브 샘플 데이터가 외부 메모리에 상주하므로 대역폭 부하가 샘플 수에 비례하여 늘어납니다.

이 구조 덕분에 TBDR 기반 모바일 GPU에서는 MSAA의 대역폭 비용이 IMR보다 낮습니다.

온칩 타일 메모리 사용량이 서브 샘플 수에 비례하여 증가하므로(4xMSAA에서 4배), GPU에 따라 유효 타일 크기가 줄어들 수 있고, 리졸브 연산의 비용도 존재합니다.

그럼에도 IMR 대비 대역폭 이점이 크기 때문에, TBDR 기반 모바일에서 MSAA는 가장 권장되는 안티앨리어싱 기법입니다.

Unity URP에서 MSAA는 렌더 파이프라인 에셋의 Quality 설정에서 활성화하며, 2x 또는 4x가 일반적입니다. 모바일에서도 4xMSAA까지 합리적인 비용으로 사용할 수 있습니다.

다만 후처리(Post-Processing)와의 호환성 제약이 있습니다. 후처리 효과가 렌더 텍스처를 읽으려면 서브 샘플 데이터를 먼저 리졸브해야 하는데, 리졸브 후에는 서브 샘플 정보가 사라지므로 후처리 단계의 효과(블룸, 톤매핑 등)에는 MSAA가 적용되지 않습니다. URP에서 후처리가 활성화되면 이 리졸브 패스가 자동으로 삽입됩니다.

FXAA (Fast Approximate Anti-Aliasing)

FXAA는 후처리 기반 안티앨리어싱입니다.

렌더링이 완료된 최종 이미지에 대해 이미지 처리로 가장자리를 부드럽게 만듭니다.

FXAA는 비용이 낮습니다.

하나의 풀스크린 후처리 패스로 수행되며, 삼각형 수나 장면 복잡도와 무관하게 해상도에만 비례합니다. 장면이 아무리 복잡해도 비용이 늘어나지 않습니다.

또한 삼각형 가장자리뿐 아니라 텍스처 경계, 셰이더 에지 등 이미지의 모든 고대비 경계에 효과가 있습니다.

반면, FXAA는 기하학적 정보 없이 최종 이미지의 밝기 차이만으로 에지를 추정하므로, 에지가 아닌 세밀한 디테일(텍스트, 가는 선, 텍스처의 미세한 패턴)까지 함께 흐려질 수 있습니다.

Unity URP에서는 카메라 컴포넌트의 Anti-aliasing 설정에서 FXAA를 선택할 수 있습니다.

모바일에서 FXAA는 MSAA 대비 텍스처 디테일 손실이 크고, TBDR에서 MSAA의 비용이 충분히 낮으므로, MSAA가 선호되는 경우가 많습니다.

다만 후처리 파이프라인이 이미 존재하고 MSAA와 호환되지 않는 특수한 상황에서는 FXAA가 대안이 됩니다.

TAA (Temporal Anti-Aliasing)

TAA는 시간적(Temporal) 정보를 활용하는 안티앨리어싱입니다.

매 프레임마다 카메라의 투영 행렬에 서브 픽셀 크기의 미세한 오프셋(지터링, Jittering)을 적용하면, 장면 전체가 화면상에서 1픽셀 미만만큼 미세하게 이동하므로 삼각형 가장자리가 픽셀 격자와 만나는 위치가 프레임마다 달라집니다.

여러 프레임에 걸쳐 서로 다른 서브 픽셀 위치의 샘플을 누적하여 가장자리를 부드럽게 만듭니다.

TAA는 프레임당 추가 샘플링 없이 시간 축의 누적만으로 안티앨리어싱을 수행하므로, 단일 프레임 기준의 비용이 낮습니다.

삼각형 가장자리뿐 아니라 셰이더 앨리어싱, 스페큘러 반짝임 등에도 효과적입니다.

TAA의 주요 문제는 고스팅(Ghosting)과 흐려짐입니다.

고스팅은 오브젝트가 빠르게 움직일 때 이전 프레임의 잔상이 현재 프레임에 남는 현상입니다.

TAA는 이전 프레임의 결과를 현재 프레임에서 재사용하며, 이를 위해 이전 프레임의 픽셀을 현재 프레임의 좌표로 옮기는 재투영(Reprojection)을 수행합니다.

오브젝트가 움직이면 이전 프레임의 픽셀 위치와 현재 위치가 달라지므로 잔상이 생깁니다.

이 문제를 완화하기 위해 모션 벡터(Motion Vector)를 사용합니다.

모션 벡터는 각 픽셀의 프레임 간 이동량을 기록하며, 이를 통해 이전 프레임의 픽셀을 현재 위치로 보정합니다.

다만 이전 프레임에서 가려져 있다가 새로 드러나는 영역(disocclusion)에서는 참조할 이전 데이터가 없으므로 고스팅이 여전히 나타납니다.

흐려짐은 여러 프레임의 데이터를 블렌딩하는 과정에서 발생합니다.

카메라가 정지해 있으면 샘플이 안정적으로 누적되어 선명해지지만, 카메라가 움직이면 누적 데이터가 흐릿한 상태로 유지될 수 있습니다.

TAA 이후에 샤프닝(Sharpening) 패스를 추가하여 이를 완화하는 것이 일반적이며, Unity URP의 TAA도 내부적으로 샤프닝을 적용합니다.

TAA는 데스크톱과 콘솔에서 널리 사용되며, Unity URP에서는 카메라 컴포넌트의 Anti-aliasing 설정에서 TAA를 선택할 수 있습니다.

모바일에서도 지원되지만, 모션 벡터 생성 패스와 누적 결과를 저장하는 히스토리 버퍼의 추가 비용을 고려해야 합니다.

SMAA (Subpixel Morphological Anti-Aliasing)

SMAA는 FXAA와 마찬가지로 후처리 기반이지만, 에지 검출의 정확도가 높습니다.

FXAA가 인접 픽셀의 밝기 차이만으로 에지를 추정하는 반면, SMAA는 에지의 형태(morphology)를 분석합니다.

검출된 에지가 L자, Z자, U자 등 어떤 패턴인지 인식하고, 각 패턴에 최적화된 블렌딩 가중치를 적용합니다.

SMAA는 FXAA보다 가장자리 품질이 높고 흐려짐이 적지만, 후처리 패스가 여러 단계(에지 검출 → 블렌딩 가중치 계산 → 최종 블렌딩)로 나뉘므로 비용도 높습니다.

Unity URP에서는 카메라 컴포넌트의 Anti-aliasing 설정에서 SMAA를 선택할 수 있으며, Low/Medium/High 품질 단계를 지정할 수 있습니다.

안티앨리어싱 기법 비교

지금까지 다룬 네 가지 안티앨리어싱 기법의 특성을 비교합니다.

	MSAA	FXAA	TAA	SMAA
유형	하드웨어 (래스터화 단계)	후처리 (이미지 기반)	시간적 (프레임 누적)	후처리 (형태 분석)
작동 위치	래스터화	최종 이미지 (1 패스)	최종 이미지 (1 패스 + 히스토리)	최종 이미지 (3 패스)
가장자리 품질	좋음 (기하 정보 기반)	보통 (밝기 차이 기반)	좋음 (서브 픽셀 누적)	좋음 (형태 기반 분석)
셰이더 앨리어싱	효과 없음 (커버리지만)	효과 있음 (모든 에지)	효과 있음 (모든 에지)	효과 있음 (모든 에지)
흐려짐	없음	있음	있음 (움직임)	적음
비용	TBDR에서 낮음 / IMR에서 중간	낮음	중간	중간~높음
모바일 적합도	권장 (TBDR 이점)	대안 (비용 낮음)	조건부 사용 (메모리 비용)	제한적 (패스 비용)

TBDR 기반 모바일에서는 MSAA의 대역폭 비용이 낮으므로 MSAA 4x가 첫 번째 선택지입니다. 후처리 파이프라인과의 호환성 문제가 있거나 셰이더 앨리어싱까지 해결해야 하는 경우 FXAA 또는 TAA를 고려합니다. 각 기법의 비용과 품질 트레이드오프는 대상 기기의 GPU 성능에 따라 달라지므로, 프로파일링으로 확인하는 것이 가장 정확합니다.

마무리

스캔아웃은 프레임 버퍼를 왼쪽 위부터 순차적으로 읽어 디스플레이에 전송하는 과정입니다.
티어링은 스캔아웃 도중 프레임 버퍼가 교체되어 화면에 두 프레임이 섞이는 현상입니다.
더블 버퍼링은 프론트/백 두 버퍼를 교환하여, 렌더링 중인 프레임이 화면에 노출되지 않게 합니다.
VSync는 버퍼 교환을 디스플레이 갱신 타이밍에 맞추어 티어링을 방지하지만, 입력 지연과 프레임 레이트 고정의 부작용이 있습니다.
트리플 버퍼링은 백 버퍼를 2개 사용하여 VSync의 GPU 유휴 시간을 줄이고 프레임 레이트 급락을 완화하지만, 디스플레이와 GPU 사이의 프레임 격차가 벌어져 입력 지연이 추가될 수 있습니다.
앨리어싱은 연속적인 삼각형 가장자리를 이산 픽셀로 표현할 때 발생하는 계단 현상이며, 해상도만으로는 완전히 해결되지 않습니다.
MSAA는 하드웨어 기반으로 서브 샘플 커버리지를 사용하며, TBDR에서 대역폭 비용이 낮아 모바일에서 권장됩니다.
FXAA는 후처리 기반으로 비용이 낮지만 이미지가 흐려지고, SMAA는 에지 형태 분석으로 FXAA보다 정확하지만 여러 패스가 필요하므로 비용이 높습니다.
TAA는 프레임 간 서브 픽셀 누적으로 높은 품질을 달성하지만 고스팅이 발생합니다.

래스터화 파이프라인 시리즈 전체를 통해, 삼각형이 화면의 프래그먼트로 변환되고(Part 1), 여러 버퍼 시스템을 거쳐 최종 픽셀로 확정되며(Part 2), 디스플레이에 표시되어 사용자의 눈에 도달하는(Part 3) 전 과정을 다루었습니다. 이 과정에서 프래그먼트 수, 오버드로우, 버퍼 대역폭, 정렬 순서가 모두 성능에 영향을 미치며, 각 단계의 원리를 이해해야 병목을 정확히 진단할 수 있습니다.

VSync와 프레임 페이싱이 게임 루프에 미치는 영향은 게임 루프의 원리 (2)에서, TBDR 아키텍처에서 MSAA가 효율적인 구조적 이유는 GPU 아키텍처 (2)에서 각각 다루고 있습니다.

관련 글

시리즈

래스터화 파이프라인 (1) - 삼각형에서 프래그먼트까지
래스터화 파이프라인 (2) - 버퍼 시스템
래스터화 파이프라인 (3) - 디스플레이와 안티앨리어싱 (현재 글)

전체 시리즈