대칭과 군 표현

대칭과 군

왜 필요한가. "회전 대칭이 있다"는 말은 회전 하나가 아니라 모든 회전에 대한 말이다. 회전을 두 번 하면 또 하나의 회전이고, 회전은 되돌릴 수 있으며, 아무것도 안 하는 것도 회전(0°)이다. 이런 성질을 갖춘 변환의 모임이 군이다. 군의 언어로 쓰면 "어떤 대칭이 있는가"를 빠짐없이 나열하고, 대칭끼리의 관계(합성, 역)를 계산할 수 있다.

정의. 집합 $G$와 연산 $\cdot$가 다음 네 조건을 만족하면 군이라 한다.

1. 닫힘: $g, h \in G$이면 $g \cdot h \in G$
2. 결합법칙: $(g \cdot h) \cdot k = g \cdot (h \cdot k)$
3. 항등원: 모든 $g$에 대해 $e \cdot g = g \cdot e = g$인 $e \in G$가 있다
4. 역원: 모든 $g$에 대해 $g \cdot g^{-1} = g^{-1} \cdot g = e$인 $g^{-1} \in G$가 있다

변환들의 군에서 연산은 합성이고, 항등원은 아무것도 하지 않는 변환이다. 교환법칙 $g \cdot h = h \cdot g$는 요구하지 않는다. 3차원 회전은 순서를 바꾸면 결과가 달라진다. 책을 x축으로 90° 돌린 뒤 z축으로 90° 돌린 결과와, 그 반대 순서로 돌린 결과는 책이 놓인 방향이 다르다.

예. 과학 데이터에서 자주 만나는 군은 다음과 같다.

연속군(continuous group)은 원소가 연속적인 매개변수로 이어져 있는 군이다. 회전각을 조금씩 바꾸면 회전도 조금씩 바뀐다. 이런 군은 7.8장의 다양체이기도 해서 Lie 군이라 부르고, 항등원에서의 접공간(회전군에서는 반대칭 행렬)이 군의 국소 구조를 정한다. 이산군(discrete group)은 원소가 셀 수 있게 떨어져 있다.

군의 표현

정의. 군 원소는 추상적인 대상이지만, 데이터에 작용할 때는 행렬이 된다. 군 $G$의 표현은 각 원소 $g$에 가역 행렬 $\rho(g)$를 대응시키되 군의 연산을 행렬 곱으로 보존하는 사상이다.

2차원 회전군 $SO(2)$의 표현으로 회전 행렬 $\rho(\theta) = \begin{bmatrix}\cos\theta & -\sin\theta \\ \sin\theta & \cos\theta\end{bmatrix}$가 있고, $\rho(a)\rho(b) = \rho(a + b)$다. $S_n$은 치환 행렬로 표현된다. 치환 행렬은 단위행렬의 행 순서를 바꾼 행렬로, 벡터의 성분 순서를 바꾼다.

회전과 반사. 3차원 직교행렬 $\mathbf{Q}^\top\mathbf{Q} = \mathbf{I}$의 모임이 $O(3)$이고, 행렬식은 $\pm 1$이다. 행렬식이 $+1$인 것이 회전($SO(3)$), $-1$인 것이 반사를 포함한 변환이다. 직교행렬은 길이를 보존하므로(7.4장) 고윳값의 절댓값이 1이다. 회전 행렬은 회전축 방향의 고윳값 1과 $e^{\pm i\theta}$($\theta$는 회전각)를 가진다. 반사 두 번은 행렬식 $(-1)(-1) = 1$이므로 회전이 된다. 반사만 모은 집합이 군이 아닌 이유다.

import numpy as np
from itertools import permutations

def rot(theta):                                     # 2차원 회전의 표현 ρ(θ), (2, 2)
    c, s = np.cos(theta), np.sin(theta)
    return np.array([[c, -s], [s, c]])

a, b = 0.7, -1.9
print("ρ(a) ρ(b) = ρ(a + b) :", np.allclose(rot(a) @ rot(b), rot(a + b)))

C4 = [rot(k * np.pi / 2) for k in range(4)]         # 90° 회전 4개
in_C4 = lambda M: any(np.allclose(M, g) for g in C4)
print("C4 닫힘              :", all(in_C4(g @ h) for g in C4 for h in C4))

S3 = [np.eye(3)[list(p)] for p in permutations(range(3))]   # 치환 행렬 6개, 각 (3, 3)
in_S3 = lambda M: any(np.array_equal(M, P) for P in S3)
print("S3 원소 수, 닫힘     :", len(S3), all(in_S3(P @ Q) for P in S3 for Q in S3))
print("치환 행렬은 직교     :", all(np.allclose(P.T @ P, np.eye(3)) for P in S3))

F1 = np.diag([1.0, -1.0])                           # x축에 대한 반사
F2 = rot(0.6) @ F1 @ rot(-0.6)                      # 기울어진 축에 대한 반사
print("det F1, det(F1 F2)   :", round(np.linalg.det(F1)), round(np.linalg.det(F1 @ F2)))

ρ(a) ρ(b) = ρ(a + b) : True
C4 닫힘              : True
S3 원소 수, 닫힘     : 6 True
치환 행렬은 직교     : True
det F1, det(F1 F2)   : -1 1

같은 군, 다른 표현. 하나의 군이 서로 다른 대상에 서로 다른 행렬로 작용할 수 있다. 회전 $\mathbf{R} \in SO(3)$를 예로 들면 다음과 같다.

2차 텐서의 변환 $\mathbf{R}\mathbf{T}\mathbf{R}^\top$은 7.1장의 기저 변환(닮음 변환)과 같은 꼴이다. 좌표축을 돌리면 같은 물리적 텐서의 행렬 성분이 이렇게 바뀐다. 각운동량이나 자기장 같은 유사벡터(pseudovector)는 회전에는 벡터처럼 변하지만 반사에서는 부호가 한 번 더 바뀐다. 그래서 $SO(3)$만 볼 때와 $O(3)$를 볼 때 변환 규칙이 다르다.

불변성과 등변성

정의. 군 $G$가 입력 공간에 표현 $\rho_{\text{in}}$으로, 출력 공간에 표현 $\rho_{\text{out}}$으로 작용한다고 하자. 함수 $f$가 모든 $g \in G$에 대해

를 만족하면 불변(invariant),

를 만족하면 등변(equivariant)이라 한다. 불변은 출력 쪽 표현이 자명한($\rho_{\text{out}}(g) = \mathbf{I}$) 등변의 특수한 경우다. 말로 하면 등변은 "입력을 변환한 뒤 $f$를 적용하는 것과, $f$를 적용한 뒤 출력을 변환하는 것이 같다"이다. 두 경로가 같은 결과에 닿는다는 뜻에서 교환 가능한 그림(commutative diagram)으로 그리곤 한다.

직관. 점구름 $\mathbf{X} \in \mathbb{R}^{N \times 2}$에 회전 $\mathbf{R}$과 평행이동 $\mathbf{t}$를 적용한 $g\mathbf{X}$(모든 점 $\mathbf{x}_n \mapsto \mathbf{R}\mathbf{x}_n + \mathbf{t}$)를 생각한다. 정렬한 쌍별 거리는 점의 상대 배치만 보므로 불변이다. 무게중심은 점구름과 함께 움직이므로 등변이다. 좌표를 한 줄로 펼쳐 MLP에 넣으면 어느 쪽도 아니다.

rng = np.random.default_rng(0)
X = rng.normal(size=(5, 2))                         # 점구름 (N, D)
R, t = rot(1.1), np.array([0.5, -2.0])
gX = X @ R.T + t                                    # g·X: 모든 점을 회전한 뒤 평행이동

def pair_dists(X):                                  # 불변 후보: 정렬한 쌍별 거리 (N(N-1)/2,)
    d = np.linalg.norm(X[:, None] - X[None, :], axis=-1)
    return np.sort(d[np.triu_indices(len(X), 1)])

centroid = lambda X: X.mean(axis=0)                 # 등변 후보: 무게중심 (D,)
W = rng.normal(size=(10, 2))
mlp = lambda X: np.tanh(X.reshape(-1) @ W)          # 좌표를 펼쳐 넣는 일반 MLP 층 (2,)

print("거리   불변  f(gX) = f(X)       :", np.allclose(pair_dists(gX), pair_dists(X)))
print("중심   등변  f(gX) = R f(X) + t :", np.allclose(centroid(gX), R @ centroid(X) + t))
print("MLP    불변                     :", np.allclose(mlp(gX), mlp(X)))
print("MLP    등변(회전만)             :", np.allclose(mlp(X @ R.T), R @ mlp(X)))

거리   불변  f(gX) = f(X)       : True
중심   등변  f(gX) = R f(X) + t : True
MLP    불변                     : False
MLP    등변(회전만)             : False

예측 대상의 변환 규칙. 모델이 불변이어야 하는지 등변이어야 하는지는 모델이 아니라 예측 대상이 정한다. 분자를 돌렸을 때 에너지는 그대로이고(스칼라, 불변), 원자마다의 힘은 함께 돌며(벡터, 등변), 분극률 텐서는 $\mathbf{R}\mathbf{T}\mathbf{R}^\top$로 바뀐다. 힘이 에너지의 음의 gradient라는 관계 $\mathbf{F}_n = -\partial E/\partial\mathbf{x}_n$에서도 이것이 보인다. 불변인 함수를 미분하면 gradient는 등변이다.

합성. 등변 함수끼리 합성하면 등변이고, 등변 함수 뒤에 불변 함수를 붙이면 전체가 불변이다. 신경망을 등변 층 여러 개와 마지막 불변 pooling으로 쌓는 설계가 이 성질을 쓴다. 층 하나하나가 대칭을 지키면, 몇 층을 쌓아도 전체가 대칭을 지킨다.

대칭을 모델에 넣는 방법

대칭을 모델에 넣는 방법은 크게 세 가지다.

데이터 증강. 학습할 때 입력에 무작위 군 원소를 적용하고, 정답도 대상의 변환 규칙대로 바꿔(불변이면 그대로, 벡터면 $\mathbf{R}\mathbf{v}$로) 함께 넣는다. 모델 구조를 바꾸지 않아도 되는 대신, 대칭은 손실을 통해 권장될 뿐 보장되지 않는다.

불변 특징. 입력을 먼저 대칭에 불변인 양(거리, 각, 정렬한 값)으로 바꾼 뒤 아무 모델에나 넣는다. 불변성은 정확히 보장된다. 다만 좋은 불변 특징을 설계하기가 어렵다. 정보를 너무 버리면 구별해야 할 입력을 구별하지 못하고, 불변 특징만으로는 벡터처럼 등변인 출력을 만들 수 없다.

등변 구조. 층 자체를 등변으로 설계한다. 핵심은 가중치 공유(weight sharing)다. 순열 대칭을 예로 들면, 집합의 원소 $N$개에 같은 가중치 $\mathbf{W}_{\text{self}}$를 적용하고, 순서에 무관한 요약(평균)을 같은 가중치 $\mathbf{W}_{\text{mean}}$으로 변환해 모든 원소에 더한다.

치환 행렬 $\mathbf{P}$에 대해 $(\mathbf{P}\mathbf{H})\mathbf{W}_{\text{self}} = \mathbf{P}(\mathbf{H}\mathbf{W}_{\text{self}})$이고 평균은 순서에 무관하므로 $f(\mathbf{P}\mathbf{H}) = \mathbf{P}f(\mathbf{H})$다.

N, D_in, D_out = 6, 4, 3
H = rng.normal(size=(N, D_in))                      # 집합 원소 N개의 특징 (N, D_in)
W_self = rng.normal(size=(D_in, D_out))
W_mean = rng.normal(size=(D_in, D_out))
bias = rng.normal(size=D_out)

def equi_layer(H):                                  # (N, D_in) → (N, D_out)
    return H @ W_self + H.mean(axis=0, keepdims=True) @ W_mean + bias

P = np.eye(N)[rng.permutation(N)]                   # 치환 행렬 (N, N)
print("등변  f(PH) = P f(H)      :", np.allclose(equi_layer(P @ H), P @ equi_layer(H)))
print("불변  sum f(PH) = sum f(H):", np.allclose(equi_layer(P @ H).sum(0), equi_layer(H).sum(0)))

W_flat = rng.normal(size=(N * D_in, N * D_out))     # 펼친 집합에 쓰는 일반 dense 층
dense = lambda H: (H.reshape(-1) @ W_flat).reshape(N, D_out)
print("dense 층 등변             :", np.allclose(dense(P @ H), P @ dense(H)))
print("파라미터 수  등변 층 =", W_self.size + W_mean.size + bias.size, "  dense 층 =", W_flat.size)

등변  f(PH) = P f(H)      : True
불변  sum f(PH) = sum f(H): True
dense 층 등변             : False
파라미터 수  등변 층 = 27   dense 층 = 432

등변 층의 파라미터 수는 원소 수 $N$과 무관하고, 같은 층을 원소 수가 다른 집합에 그대로 쓸 수 있다. 가중치 공유는 대칭을 보장하는 동시에 파라미터를 줄인다. CNN이 평행이동에 등변인 것(18.2장), 그래프 신경망이 노드 번호 바꾸기에 등변인 것(18.6장)도 같은 원리다.

세 방법을 비교하면 다음과 같다.

과학에서의 대칭

어떤 대칭이 있는가. 대칭은 데이터의 종류에서 바로 나오지 않는다. 같은 분자라도 무엇을 예측하느냐에 따라 필요한 대칭이 다르다.

• 분자. 원자 좌표 전체의 회전·평행이동($E(3)$ 또는 $SO(3)$와 평행이동), 같은 원소 원자끼리의 번호 바꾸기($S_n$의 일부). 거울상 이성질체(chirality)를 구별해야 하는 물성에는 반사를 포함하면 안 된다(28장).
• 결정. 격자 벡터만큼의 이산 평행이동과, 결정 구조마다 정해진 회전·반사의 유한군(점군). 단위 세포를 고르는 방법이 여러 가지라는 것도 일종의 대칭이다.
• 유체. 경계와 외력이 허락하는 범위의 평행이동·회전, 그리고 일정한 속도로 움직이는 관찰자에게도 같은 법칙(Galilei 불변성). 경계조건과 외력은 이 대칭을 깨는 경우가 많다.
• 구면 위의 장(field). 전 지구 기상장은 구면 위의 함수다. 그러나 지구 자전(Coriolis 힘), 지형, 해륙 분포 때문에 대기 역학은 구면의 회전에 대해 대칭이 아니다. 대칭은 데이터의 기하가 아니라 지배 방정식에서 확인해야 한다.

Noether 정리의 직관. 물리 법칙의 연속 대칭은 보존 법칙과 짝을 이룬다. 대략적으로 말하면 계의 Lagrangian(운동을 결정하는 함수)이 어떤 연속 변환에 대해 변하지 않으면, 그 변환에 대응하는 양이 시간에 따라 보존된다.

다음 셀은 질량 1 kg인 세 입자가 서로 용수철(상수 1 N/m)로 당기는 2차원 계를 velocity Verlet 방법으로 적분한다. 입자 사이의 힘은 거리에만 의존하는 중심력이라 계 전체가 회전 대칭을 가진다. 여기에 $x$ 방향으로만 작용하는 외부 퍼텐셜 $V = \frac{k}{2}x^2$을 더하면 회전 대칭이 깨진다.

def forces(x, k_ext):                               # x (N, 2) [m] → 힘 (N, 2) [N]
    diff = x[:, None, :] - x[None, :, :]            # (N, N, 2)
    f = -diff.sum(axis=1)                           # 쌍별 용수철(상수 1 N/m): 중심력, 회전 불변
    f[:, 0] -= k_ext * x[:, 0]                      # 외부장 V = k x²/2: x 방향만, 회전 불변 아님
    return f

def simulate(k_ext, steps=2000, dt_s=0.01):         # 질량 1 kg, velocity Verlet
    x = np.array([[1.0, 0.0], [-0.5, 0.8], [-0.4, -0.9]])
    v = np.array([[0.0, 0.6], [-0.5, -0.2], [0.4, -0.3]])
    L_z = lambda x, v: np.sum(x[:, 0] * v[:, 1] - x[:, 1] * v[:, 0])   # 각운동량 [kg m²/s]
    L = [L_z(x, v)]
    for _ in range(steps):
        v_half = v + 0.5 * dt_s * forces(x, k_ext)
        x = x + dt_s * v_half
        v = v_half + 0.5 * dt_s * forces(x, k_ext)
        L.append(L_z(x, v))
    return np.array(L)

for k_ext in [0.0, 0.5]:
    L = simulate(k_ext)
    dL = np.abs(L - L[0]).max()
    print(f"외부장 k = {k_ext}:  L(0) = {L[0]:.4f}  최대 |L(t) - L(0)| =", "< 1e-12" if dL < 1e-12 else f"{dL:.2f}")

외부장 k = 0.0:  L(0) = 1.5800  최대 |L(t) - L(0)| = < 1e-12
외부장 k = 0.5:  L(0) = 1.5800  최대 |L(t) - L(0)| = 3.04

회전 대칭이 있으면 각운동량은 반올림 오차 수준으로 보존되고, 대칭을 깨면 크게 변한다. 이 적분법(velocity Verlet)은 중심력 계에서 각운동량을 이산 시간에서도 정확히 보존하는 성질이 있다. 일반적인 적분법은 대칭이 있어도 보존량이 조금씩 흘러갈 수 있다. 학습한 동역학 모델이 대칭을 존중하지 않으면 긴 rollout에서 보존량이 흘러가는 것도 같은 이유다. 물리 지식을 모델에 넣는 방법으로서의 대칭은 24.8장에서 다시 다룬다.