래스터화 파이프라인 (1) - 삼각형에서 프래그먼트까지 - soo:bak

작성일 : 2026년 03월 02일

그래픽스 수학 (3)에서 3D 정점이 여러 좌표 공간을 거쳐 2D 화면 좌표로 변환되는 과정을 다루었습니다. 버텍스 셰이더가 정점의 좌표를 클립 공간으로 변환하고, GPU가 원근 나눗셈과 뷰포트 변환을 수행하면, 삼각형의 세 꼭짓점은 화면 위의 2D 좌표를 갖게 됩니다.

이 시점에서 파이프라인에 존재하는 데이터는 삼각형의 세 꼭짓점 좌표와, 각 꼭짓점에 정의된 색상, UV 좌표, 법선 벡터 등의 속성뿐입니다. 화면에는 아직 아무것도 그려지지 않았습니다.

그런데 화면은 연속적인 좌표 평면이 아니라 이산적인 픽셀 격자입니다.

세 꼭짓점의 좌표만으로는 화면에 무엇을 그릴 수 없습니다.

래스터화(Rasterization)는 삼각형이 덮는 영역의 각 픽셀이 삼각형 내부인지 판별하고, 내부라면 정점의 속성(색상, UV, 법선 등)을 그 위치에 맞게 보간하여 픽셀별 처리 데이터인 프래그먼트를 생성합니다.

래스터화는 GPU의 고정 기능 하드웨어가 수행하므로 셰이더 코드로 직접 제어할 수 없습니다. 그러나 래스터화가 생성하는 프래그먼트의 수와 분포가 이후 프래그먼트 셰이더의 실행 횟수와 깊이 테스트의 부하를 결정하므로, 래스터화의 원리를 이해하는 것은 렌더링 성능을 파악하는 출발점이 됩니다.

이 글에서는 삼각형 내부 판별, 프래그먼트와 픽셀의 차이, 정점 속성의 보간, 그리고 GPU의 프래그먼트 처리 최소 단위인 2x2 Quad까지 하나의 흐름으로 다룹니다.

래스터화란

래스터화는 연속적인 기하 도형(삼각형)을 픽셀 단위의 프래그먼트로 변환하는 과정입니다.

“래스터(raster)”는 수평 주사선의 격자를 뜻하는 단어로, CRT(Cathode Ray Tube) 모니터 시절부터 화면을 격자 형태의 점으로 구성한 데서 유래합니다.

래스터화는 렌더링 파이프라인의 중간에 위치합니다.

버텍스 셰이더가 정점 단위로 처리하는 기하 단계와, 프래그먼트 셰이더가 픽셀 단위로 처리하는 픽셀 단계를 연결합니다.

래스터화 이전 단계에서 다루는 데이터의 양은 정점 수에 비례합니다. 메쉬의 정점이 1,000개라면 버텍스 셰이더도 1,000번 실행됩니다.

래스터화 이후에는 상황이 달라집니다.

같은 메쉬가 화면의 넓은 영역을 차지하면 프래그먼트는 수십만 개에 달할 수 있고, 각각에 대해 프래그먼트 셰이더가 실행되므로 렌더링 성능의 병목은 대부분 래스터화 이후에서 발생합니다.

래스터화는 고정 기능(Fixed-Function) 단계입니다.

버텍스 셰이더나 프래그먼트 셰이더처럼 개발자가 셰이더 코드로 동작을 정의하는 프로그래머블 단계와 달리, 고정 기능 단계는 GPU 하드웨어에 동작이 미리 고정되어 있어 내부 알고리즘을 변경할 수 없습니다.

삼각형 내부 판별

래스터화의 첫 번째 과제는 화면 격자 위의 각 픽셀 위치가 삼각형 내부에 있는지 판별하는 것입니다.

삼각형의 세 꼭짓점이 화면 좌표 (x0, y0), (x1, y1), (x2, y2)로 주어졌을 때, 각 픽셀의 중심점 (px, py)이 이 삼각형 안에 있는지를 결정해야 합니다. 픽셀은 점이 아니라 면적을 가진 사각 영역이므로, GPU는 그 영역의 중심 좌표를 대표점으로 사용합니다.

Edge Function 방식

GPU가 사용하는 표준적인 방법은 Edge Function(변 함수)입니다.

삼각형의 세 변 각각에 대해, 주어진 점이 변의 어느 쪽에 있는지를 판별합니다. 세 변 모두에 대해 같은 쪽(안쪽)에 있으면 삼각형 내부에 있는 것이고, 하나라도 바깥쪽이면 외부에 있는 것입니다.

변 하나에 대한 Edge Function은 2D 외적(Cross Product)으로 계산됩니다.

3D 외적이 두 벡터에 수직인 새로운 벡터를 반환하는 것과 달리, 2D 외적은 두 벡터의 방향 관계를 스칼라 값 하나로 나타냅니다. 벡터 (ax, ay)와 (bx, by)의 2D 외적은 ax * by - ay * bx이며, 결과값이 양수이면 (bx, by)가 (ax, ay)의 왼쪽에, 음수이면 오른쪽에 있습니다.

이 부호를 이용하면 임의의 점이 변의 어느 쪽에 위치하는지 계산 한 번으로 결정할 수 있습니다.

다만 부호의 의미는 삼각형의 정점 순서, 즉 앞면을 어느 방향으로 정의하느냐에 따라 달라집니다.

OpenGL과 Vulkan은 반시계 방향(Counter-Clockwise, CCW)을, DirectX와 Metal은 시계 방향(Clockwise, CW)을 앞면의 기본 정점 순서로 사용합니다.

이 글에서는 반시계 방향 기준으로 설명합니다.

래스터화 직전의 프리미티브 조립 단계에서, GPU는 세 정점의 부호 있는 넓이(signed area)를 검사하여 정점 순서를 확인하며, 뒷면으로 판정된 삼각형은 컬링(Back-Face Culling)되어 래스터화 대상에서 제외됩니다.

반시계 방향으로 나열된 삼각형에서 각 변을 따라 진행할 때, 삼각형의 내부는 항상 변의 왼쪽에 위치합니다.

따라서 변의 시작점 A에서 끝점 B로 향하는 벡터 AB와, 시작점 A에서 판별 대상점 P로 향하는 벡터 AP의 2D 외적이 양수이면 P는 변의 왼쪽(내부 쪽)에, 음수이면 오른쪽(외부 쪽)에, 0이면 변 위에 있습니다.

Edge Function의 원리

삼각형의 꼭짓점 $V_0, V_1, V_2$, 판별 대상점 $P$

변 $V_0 \to V_1$에 대한 Edge Function:

\[E_{01}(P) = (V_{1x} - V_{0x})(P_y - V_{0y}) - (V_{1y} - V_{0y})(P_x - V_{0x})\]

변 $V_1 \to V_2$에 대한 Edge Function:

\[E_{12}(P) = (V_{2x} - V_{1x})(P_y - V_{1y}) - (V_{2y} - V_{1y})(P_x - V_{1x})\]

변 $V_2 \to V_0$에 대한 Edge Function:

\[E_{20}(P) = (V_{0x} - V_{2x})(P_y - V_{2y}) - (V_{0y} - V_{2y})(P_x - V_{2x})\]

판별: $E_{01}(P) \geq 0$ AND $E_{12}(P) \geq 0$ AND $E_{20}(P) \geq 0$ 이면 $P$는 삼각형 내부 (반시계 방향 정점 순서 기준)

Edge Function 방식에서 각 픽셀의 판별은 독립적입니다.

픽셀 A의 판별 결과가 픽셀 B에 영향을 주지 않으므로, GPU가 수많은 픽셀을 병렬로 판별할 수 있습니다.

GPU 아키텍처 (1)에서 다룬 SIMT 모델은 수백 개의 스레드가 동일한 명령어를 동시에 실행하는 구조인데, Edge Function의 픽셀별 독립 판별이 이 구조에 자연스럽게 들어맞습니다.

Edge Function은 픽셀 하나당 한 번 실행됩니다.

삼각형마다 화면의 모든 픽셀을 검사하면 1920×1080 해상도 기준으로 약 207만 번의 평가가 필요한데, 삼각형이 실제로 덮는 영역은 그 중 극히 일부입니다.

실제 GPU는 이 낭비를 줄이기 위해 바운딩 박스(Bounding Box)를 먼저 구합니다.

삼각형 세 꼭짓점의 x, y 좌표에서 최솟값과 최댓값을 취하면 삼각형을 둘러싸는 사각형이 만들어지고, GPU는 이 사각형 안의 픽셀에 대해서만 Edge Function을 평가합니다.

바운딩 박스 계산은 비교 연산 몇 번이면 끝나지만, 삼각형이 닿을 수 없는 픽셀을 사전에 걸러내어 불필요한 평가를 대폭 줄입니다.

무게중심 좌표 (Barycentric Coordinates)

Edge Function의 세 값 E01, E12, E20은 단순히 “안/밖”을 판별하는 것 이상의 정보를 제공합니다.

각 Edge Function 값은 기하학적으로 해당 변과 점 P로 이루어지는 부분 삼각형의 넓이(부호 있는 값의 2배)에 해당합니다.

세 부분 삼각형의 넓이를 합치면 원래 삼각형 전체 넓이가 되므로, 각 값을 전체 넓이로 나누면 세 값의 합이 정확히 1이 됩니다.

이렇게 정규화된 세 값이 무게중심 좌표(Barycentric Coordinates)이며, 삼각형 내부에서 점 P의 위치를 세 꼭짓점에 대한 가중치로 표현합니다.

무게중심 좌표는 보통 (u, v, w) 또는 (lambda0, lambda1, lambda2)로 표기하며, 세 값의 합은 항상 1입니다.

각 값은 해당 꼭짓점이 점 P에 미치는 가중치를 나타내며, 점 P가 특정 꼭짓점에 가까울수록 그 꼭짓점에 대응하는 값이 1에 가까워집니다.

각 Edge Function 값이 어느 꼭짓점의 가중치가 되는지는 기하학적으로 결정됩니다.

E12는 점 P가 변 V1→V2에서 얼마나 떨어져 있는지에 비례합니다.

V0은 변 V1→V2의 맞은편 꼭짓점이므로, P가 V0에 가까울수록 E12가 커지고, P가 변 V1→V2 위에 있으면 E12는 0이 됩니다.

같은 원리로 E20은 V1에 대한, E01은 V2에 대한 가중치입니다.

무게중심 좌표의 의미

삼각형 꼭짓점 $V_0, V_1, V_2$, 내부의 점 $P$

\[P = u \cdot V_0 + v \cdot V_1 + w \cdot V_2 \qquad (u + v + w = 1, \;\; u \geq 0, \;\; v \geq 0, \;\; w \geq 0)\]

$u, v, w$ 계산 — 삼각형 전체 넓이 $S = E_{01} + E_{12} + E_{20}$ (부호 있는 넓이의 2배):

\[u = \frac{E_{12}}{S} \qquad v = \frac{E_{20}}{S} \qquad w = \frac{E_{01}}{S}\]

$u$: $V_0$에 대한 가중치 ($V_0$ 맞은편 변 $V_1 \to V_2$ 기준)
$v$: $V_1$에 대한 가중치 ($V_1$ 맞은편 변 $V_2 \to V_0$ 기준)
$w$: $V_2$에 대한 가중치 ($V_2$ 맞은편 변 $V_0 \to V_1$ 기준)

무게중심 좌표 (u, v, w)는 곧 정점 속성 보간의 가중치입니다.

V0의 색상이 빨강, V1이 초록, V2가 파랑이고 어떤 픽셀의 무게중심 좌표가 (0.5, 0.3, 0.2)라면, 그 픽셀의 색상은 빨강 50% + 초록 30% + 파랑 20%를 혼합한 값이 됩니다.

색상뿐 아니라 UV 좌표, 법선 벡터 등 꼭짓점에 정의된 모든 속성을 같은 방식으로 보간할 수 있습니다.

래스터화는 삼각형 내부의 각 픽셀마다 이 보간을 수행하여, 보간된 속성이 채워진 픽셀별 데이터인 프래그먼트를 생성합니다.

프래그먼트 vs 픽셀

Edge Function과 무게중심 좌표를 통해 삼각형 내부의 픽셀 위치가 판별되면, 각 위치에 대해 래스터화가 생성하는 것이 프래그먼트(Fragment)입니다.

프래그먼트와 픽셀은 흔히 혼용되지만, 엄밀히 다른 개념입니다.

픽셀(Pixel)은 화면의 최종 출력 단위입니다.

1920x1080 해상도의 디스플레이에는 약 207만 개의 픽셀이 있고, 각 픽셀은 화면에서 하나의 점에 해당합니다.

프레임버퍼에 최종 기록되어 화면에 표시되는 색상 값이 곧 픽셀입니다.

프래그먼트(Fragment)는 삼각형이 덮는 픽셀 위치에 대한 후보 데이터입니다.

래스터화가 삼각형 내부의 각 픽셀 위치에 대해 생성하는 것이 프래그먼트이며, 각 프래그먼트에는 해당 위치의 색상, 깊이, 텍스처 좌표(UV), 법선 벡터 등의 속성이 채워져야 합니다.

이 속성들은 정점에 정의된 값으로부터 보간을 통해 계산됩니다.

한 픽셀 위치에 여러 삼각형이 겹치면 프래그먼트도 여러 개 생성됩니다.

프래그먼트들은 이후의 깊이 테스트(Depth Test)를 거쳐 카메라에 가장 가까운 하나만 최종 픽셀로 남고, 나머지는 폐기됩니다.

폐기되는 프래그먼트에 대해서도 프래그먼트 셰이더는 실행되므로, 그 연산 비용은 낭비됩니다.

같은 픽셀 위치를 여러 삼각형이 덮어쓰는 이 현상이 GPU 아키텍처 (1)에서 다룬 오버드로우(Overdraw)이며, Early-Z 테스트는 프래그먼트 셰이더 실행 전에 깊이 테스트를 수행하여 이 낭비를 줄입니다.

“프래그먼트 셰이더”라는 이름은 이 셰이더가 최종 픽셀이 아니라 후보 단계의 프래그먼트에 대해 실행되기 때문에 붙었습니다.

DirectX에서는 같은 단계를 픽셀 셰이더(Pixel Shader)라 부르지만, 처리 대상은 동일하게 프래그먼트입니다.

보간 (Interpolation)

버텍스 셰이더가 출력하는 색상, UV 좌표, 법선 벡터 등의 속성은 정점에만 정의되어 있고, 정점 사이에 위치하는 프래그먼트에는 이 값이 없습니다.

보간(Interpolation)은 앞에서 구한 무게중심 좌표를 가중치로 사용하여 정점의 속성 값으로부터 프래그먼트 위치의 속성 값을 산출합니다.

무게중심 좌표를 이용한 보간

앞에서 구한 무게중심 좌표 (u, v, w)를 직접 가중치로 사용합니다.

세 꼭짓점의 속성 값이 A0, A1, A2일 때, 프래그먼트 위치의 속성 값은 세 값의 가중 합입니다.

무게중심 좌표 보간

속성 값의 보간:

\[A(P) = u \cdot A_0 + v \cdot A_1 + w \cdot A_2\]

예시 — UV 좌표 보간

$V_0$의 UV: $(0.0, \; 1.0)$, $V_1$의 UV: $(1.0, \; 0.0)$, $V_2$의 UV: $(0.5, \; 0.5)$

프래그먼트 $P$의 무게중심 좌표: $u = 0.3, \; v = 0.4, \; w = 0.3$

\[U_P = 0.3 \times 0.0 + 0.4 \times 1.0 + 0.3 \times 0.5 = 0.55\] \[V_P = 0.3 \times 1.0 + 0.4 \times 0.0 + 0.3 \times 0.5 = 0.45\]

$P$의 UV $= (0.55, \; 0.45)$

이 방식은 UV 좌표뿐 아니라 법선 벡터, 정점 색상, 커스텀 속성 등 버텍스 셰이더가 출력하는 모든 속성에 동일하게 적용됩니다.

프래그먼트 셰이더가 입력으로 받는 UV, 법선 등의 값은 모두 이 보간 과정을 거친 결과입니다.

원근 보정 보간 (Perspective-Correct Interpolation)

앞에서 다룬 무게중심 좌표 보간은 화면에 투영된 2D 좌표만으로 가중치를 계산합니다.

그런데 원근 투영에서는 카메라에 가까운 영역이 화면에서 넓게 펼쳐지고, 먼 영역은 좁게 압축됩니다.

화면 위에서 같은 간격이라도 3D 공간에서의 실제 간격은 다릅니다.

이 차이를 무시하고 화면 공간에서 단순히 보간하면, 카메라에 가까운 쪽의 텍스처가 늘어나고 먼 쪽이 찌그러지는 왜곡이 발생합니다.

여기서 사용되는 w 값(w₀, w₁, w₂)은 버텍스 셰이더가 출력하는 클립 공간 좌표의 네 번째 성분입니다. Projection 행렬의 구조에 따라 뷰 공간 z값의 부호가 달라지지만(OpenGL 계열은 w = −z, DirectX 계열은 w = z), 어느 경우든 카메라로부터의 깊이를 나타냅니다.

앞 절의 무게중심 좌표 (u, v, w)에서 w가 “세 번째 가중치”를 가리키는 것과 의미가 다르므로 주의가 필요합니다.

원근 투영 후 화면 공간에서 속성 A를 직접 보간하면 비선형이라 결과가 틀리지만, A/w와 1/w는 화면 공간에서도 선형으로 변합니다.

원근 보정 보간은 이 성질을 이용합니다.

먼저 각 정점의 속성 값을 해당 정점의 클립 공간 w로 나눈 A/w 상태에서 무게중심 좌표로 보간하고, 1/w도 같은 방식으로 보간합니다.

그런 다음 A/w 보간 결과를 1/w 보간 결과로 나누면 w가 상쇄되어 3D 공간에서의 올바른 속성 값이 복원됩니다.

원근 보정 보간 공식

표기 구분:

$\lambda_0, \lambda_1, \lambda_2$ — 무게중심 좌표 (앞 절의 $u, v, w$와 동일, 혼동 방지를 위해 $\lambda$로 표기)
$w_0, w_1, w_2$ — 각 정점의 클립 공간 $w$ 값 (뷰 공간 $z$값, 카메라 기준 깊이)

일반 보간 (화면 공간, 부정확):

\[A(P) = \lambda_0 A_0 + \lambda_1 A_1 + \lambda_2 A_2\]

원근 보정 보간 (정확):

\[A(P) = \frac{\lambda_0 \frac{A_0}{w_0} + \lambda_1 \frac{A_1}{w_1} + \lambda_2 \frac{A_2}{w_2}}{\lambda_0 \frac{1}{w_0} + \lambda_1 \frac{1}{w_1} + \lambda_2 \frac{1}{w_2}}\]

버텍스 셰이더가 클립 공간 좌표(w 포함)를 출력하면, 래스터화 하드웨어가 w 값을 사용하여 모든 속성 보간에 원근 보정을 자동으로 적용합니다.

셰이더에서 이 보정을 직접 구현할 필요는 없습니다.

다만 스크린 스페이스 UV나 포스트 프로세싱처럼 화면 좌표 기준으로 보간해야 하는 값에는 원근 보정이 오히려 왜곡을 만듭니다.

HLSL에서는 버텍스 셰이더 출력 변수에 noperspective 수식어를 붙여 해당 변수의 원근 보정을 비활성화할 수 있습니다.

2x2 Quad 실행

보간까지 완료되면 각 프래그먼트에는 프래그먼트 셰이더가 사용할 속성 값이 준비됩니다.

GPU는 이 프래그먼트를 개별적으로 처리하지 않고, 텍스처 샘플링에 필요한 화면 공간 미분값을 구하기 위해 항상 인접한 2x2 픽셀을 하나로 묶은 Quad 단위로 처리합니다.

Quad 단위 실행의 이유

GPU가 프래그먼트를 2x2 단위로 묶어 처리하는 이유는 텍스처 샘플링에 필요한 미분값(derivative) 때문입니다.

텍스처를 샘플링할 때, GPU는 어떤 밉맵(Mipmap) 레벨을 사용할지 결정해야 합니다. 밉맵은 원본 텍스처를 절반씩 축소하여 미리 만들어둔 여러 해상도의 텍스처 체인입니다. 가까운 오브젝트는 텍스처가 크게 보이므로 고해상도 밉맵을 사용하고, 먼 오브젝트는 텍스처가 작게 보이므로 저해상도 밉맵을 사용합니다.

적절한 밉맵 레벨을 결정하는 기준은, 화면의 1픽셀이 텍스처에서 얼마나 넓은 영역에 대응하는지입니다. 텍스처를 구성하는 최소 단위를 텍셀(Texel)이라 하며, 1픽셀에 대응하는 텍셀이 많을수록 텍스처가 작게 보이므로 저해상도 밉맵이 선택됩니다. 이 대응 관계는 화면에서 1픽셀 이동했을 때의 UV 변화량, 즉 UV 좌표의 편미분값(partial derivative)으로 측정하며, 인접한 픽셀의 UV 값 차이에서 구합니다.

이 계산을 위해 같은 Quad 안의 4개 프래그먼트는 하나의 Warp 안에 배치됩니다(GPU 아키텍처 (1) 참조).

같은 Warp의 스레드는 레인 간 교환 명령(NVIDIA의 shfl.sync, AMD의 ds_swizzle 등)으로 서로의 레지스터 값을 직접 읽을 수 있으므로, 추가 메모리 접근 없이 인접 프래그먼트의 값을 참조할 수 있습니다.

셰이더에서 ddx(), ddy(), fwidth() 함수를 호출하면 GPU는 이 교환 명령으로 편미분을 계산합니다.

작은 삼각형의 비효율

삼각형이 Quad 내에서 일부 픽셀만 덮더라도 GPU는 4개 프래그먼트를 모두 실행해야 합니다.

삼각형 밖의 프래그먼트는 헬퍼 프래그먼트(Helper Fragment)로, 편미분 계산을 위해 프래그먼트 셰이더가 실행되지만 최종 결과는 폐기됩니다.

이 비효율은 삼각형이 작을수록 심해집니다.

삼각형이 크면 내부 Quad는 100% 효율로 채워지고 가장자리 Quad에서만 헬퍼 프래그먼트가 발생하지만, 1~2픽셀짜리 삼각형은 Quad를 거의 채우지 못해 효율이 25~50%까지 떨어집니다.

이런 삼각형이 대량으로 존재하면 오버헤드가 누적되어 프래그먼트 셰이더의 유효 작업 비율이 크게 떨어집니다.

수십만 폴리곤의 고해상도 메쉬가 카메라에서 멀리 있어 화면에서 작게 보이는 경우가 대표적입니다.

LOD(Level of Detail) 시스템이 카메라에서 먼 오브젝트의 메쉬를 단순한 버전으로 교체하는 이유 중 하나가 이 Quad 오버헤드 때문입니다.

모바일에서 삼각형 수를 줄여야 하는 이유는 버텍스 셰이더 부하(GPU 아키텍처 (2)에서 다룬 TBDR의 Binning 비용)뿐 아니라, 이 Quad 비효율과도 관련이 있습니다.

화면에서 2픽셀 이하 크기의 삼각형이 다수 존재한다면, 삼각형 수를 줄이는 것만으로도 프래그먼트 셰이더 단계의 효율이 함께 높아집니다.

래스터화 규칙

Edge Function은 점이 삼각형 내부에 있는지 판별하지만, 변 위에 정확히 놓인 샘플 포인트(픽셀 중심, 또는 MSAA 샘플 위치)는 내부와 외부 어느 쪽에도 속하지 않습니다.

두 삼각형이 변을 공유할 때, 이 샘플 포인트를 양쪽 모두 포함하면 두 번 그려지고, 양쪽 모두 제외하면 빈 틈이 생깁니다.

Top-Left Rule

이 문제를 해결하기 위해 GPU는 Top-Left Rule을 적용합니다.

변 위에 놓인 샘플 포인트는 해당 변이 삼각형의 위쪽 변(top edge)이나 왼쪽 변(left edge)일 때만 포함되고, 그 외에는 제외됩니다.

여기서 왼쪽 변(left edge)과 위쪽 변(top edge)은 삼각형 안에서의 시각적 위치가 아니라, 와인딩 순서에서의 진행 방향으로 분류됩니다. 와인딩 순서를 따라갈 때 위로 올라가는 변이 left edge, 수평이면서 오른쪽으로 진행하는 변이 top edge입니다.

이 방향 기반 분류가 공유 변 문제를 해결합니다. 두 삼각형이 동일한 정점 좌표를 공유하고 일관된 와인딩으로 래스터화되면, 공유 변의 진행 방향이 서로 반대가 됩니다. 한쪽에서 위로 올라가는 변(left → 포함)은 다른 쪽에서 아래로 내려가는 변(제외)이 되므로, 공유 변 위의 샘플 포인트는 항상 정확히 한 삼각형에만 포함됩니다.

Top-Left Rule은 DirectX, Metal, Vulkan 명세에 규정되어 있으며, OpenGL에서는 구현 정의(implementation-defined)로 남겨두지만 대부분의 구현이 동일한 규칙을 따릅니다.

래스터화의 전체 흐름 정리

앞에서 다룬 각 단계를 하나의 흐름으로 연결하면 래스터화의 전체 과정이 드러납니다.

이 8단계가 하나의 삼각형에 대해 완료되면, 해당 삼각형이 덮는 모든 픽셀 위치에 대한 프래그먼트 데이터가 프래그먼트 셰이더로 넘어갑니다.

마무리

래스터화는 삼각형이 덮는 화면 영역의 각 픽셀 위치를 식별하고 프래그먼트를 생성합니다.
Edge Function은 2D 외적으로 점이 삼각형 내부에 있는지를 판별하며, 각 픽셀을 독립적으로 처리할 수 있어 GPU 병렬 처리에 적합합니다.
무게중심 좌표는 삼각형 내부의 점을 세 꼭짓점에 대한 가중치로 표현하며, 정점 속성 보간의 기반입니다.
프래그먼트는 최종 픽셀의 후보이며, 한 픽셀 위치에 여러 프래그먼트가 존재할 수 있고 깊이 테스트를 거쳐 하나만 남습니다.
보간은 무게중심 좌표를 사용한 선형 보간이며, 3D 오브젝트에서는 원근 보정 보간이 자동 적용됩니다.
2x2 Quad는 GPU가 프래그먼트를 처리하는 최소 단위이며, 삼각형이 작을수록 헬퍼 프래그먼트에 의한 비효율이 커집니다.

래스터화는 고정 기능 단계이므로 셰이더로 제어할 수 없지만, 삼각형의 크기와 화면 점유 면적이 프래그먼트 수를 결정하고, 이것이 프래그먼트 셰이더의 비용에 직접 영향을 미칩니다.

래스터화로 생성된 프래그먼트는 프래그먼트 셰이더를 거쳐 색상이 결정되지만, 그것만으로 최종 픽셀이 확정되지는 않습니다. 겹치는 프래그먼트 중 어떤 것을 남길지, 특정 영역에만 그릴지, 반투명 효과를 어떻게 합성할지를 결정하는 별도의 메커니즘이 필요합니다.

다음 글에서는 프레임 버퍼, 깊이 버퍼, 스텐실 버퍼, 블렌딩, 렌더 타겟과 MRT를 다룹니다. 프래그먼트 셰이더의 비용 구조와 최적화 방법은 셰이더 최적화 (1)에서 다룹니다.

관련 글

시리즈

래스터화 파이프라인 (1) - 삼각형에서 프래그먼트까지 (현재 글)
래스터화 파이프라인 (2) - 버퍼 시스템
래스터화 파이프라인 (3) - 디스플레이와 안티앨리어싱

전체 시리즈