[AI] LLM 양자화와 벡터 양자화(VQ)의 차이

[AI] Peterica의 AI공부와 비젼 정리

ㅁ 들어가며

  오늘 회사 동료와 LLM 양자화에 대해 이야기하던 중, 나도 모르게 벡터 양자화(Vector Quantization) 개념을 섞어서 설명하고 있었다. 두 기술은 모두 "연속적인 값을 이산화(discretize)한다"는 공통점이 있어서 자연스럽게 비슷한 것으로 느껴지지만, 실제로는 목적도, 적용 대상도, 결과도 완전히 다르다. 정확한 이해를 위해 두 개념을 비교 분석하며 정리한다.

 

ㅁ LLM 양자화란?

 LLM 양자화는 모델의 가중치 값을 FP32 → INT8/INT4 등 더 낮은 비트 정밀도로 변환하여 메모리 사용량을 줄이고, 추론 속도를 빠르게 만드는 기술이다.

즉, 수치 정밀도 축소 = 계산 최적화 기술

 

예시:

• 32bit float → 4bit integer 변환
• 모델 용량 1/8 수준으로 감소
• 메모리 대역폭 병목 완화 → 추론 속도 증가

LLM 양자화는 "숫자를 작게 만드는 것"

 

ㅁ 벡터 양자화(VQ)란?

  벡터 양자화(Vector Quantization)는 연속적인 벡터(임베딩 등)를 미리 정의된 코드북(codebook)의 대표 벡터 인덱스로 치환하는 기술이다.

  즉, 의미 기반 압축 = 벡터 공간 구조화 기술

 

예시:

• 수백 차원의 벡터 → 코드북의 대표 벡터 번호(0~255 등)
• 임베딩 공간 구조를 보존한 채 더 작은 discrete 공간으로 표현
• VQ-VAE, VQ-GAN, EnCodec 등에서 활용

 

벡터 양자화는 "의미를 대표 값으로 바꾸는 것"

 

ㅁ 두 기술이 헷갈리는 이유

 - 둘 다 연속값 → 이산값(discrete) 으로 만든다.

 - 이름에 모두 "Quantization"이 들어간다.
 - 압축 또는 효율화 목적을 가진다.

 

그래서 개념적 연결이 자연스럽지만, 실제로는 완전히 다른 기술이다.

 

ㅁ 핵심 차이 (이걸 알면 다시는 안 헷갈림)

구분	LLM 양자화	벡터 양자화 (VQ)
목적	메모리 절약, 추론 속도 증가	의미 공간을 효율적으로 표현
작동 방식	실수 가중치를 정수로 변환	벡터를 최근접 코드북 인덱스로 치환
영향	품질 거의 그대로, 속도 증가	의미적 구조 변화 가능
사용처	GPTQ, AWQ, GGUF	VQ-VAE, VQ-GAN, EnCodec
철학	계산 최적화	의미 기반 구조화

 

 

ㅁ 벡터 양자화를 떠올린 사고는 틀린 것이 아니다

내가 처음 했던 비유:

"카테고리가 너무 세분화되면 오차가 커지므로, 큰 카테고리로 묶고 → 2차 세분화를 한다"

 

 

이 개념은 LLM 양자화가 아니라 VQ의 철학과 정확히 일치한다.

즉, 연속적인 벡터 공간을 대표 벡터로 묶어서 효율적으로 처리하려는 사고방식은 VQ에 가깝다.

이 차이를 이해하면 다음을 더 깊이 이해할 수 있다.

• 벡터 공간 설계
• 임베딩 압축 구조
• VQ 기반 생성 모델의 latent 구조
• LLM 메모리 최적화 전략

 

ㅁ 둘 다 적은 자원 환경에서 유용하다.

기술	왜 필요한가?	무엇을 줄이나?
LLM Quantization	적은 GPU·메모리에서도 모델을 돌리기 위해	모델 가중치의 비트 수
Vector Quantization (VQ)	의미적 표현을 압축·코딩하기 위해	임베딩/latent 벡터의 표현 공간

 

ㅇ 공통점
 - 컴퓨팅 자원을 절약한다
 - 모델/데이터를 더 작고 효율적으로 만든다
 - AI 모델을 더 현실적인 환경에 배치 가능하게 한다

 

ㅁ 마무리

두 기술은 모두 현대 AI 시스템에서 중요한 역할을 하지만, 목적과 적용 분야는 완전히 다르다. 이 차이를 정확히 이해하면 모델 최적화부터 임베딩 설계까지 훨씬 명확한 기준을 세울 수 있다.

  LLM Quantization은 적은 GPU·메모리 환경에서도 대규모 언어 모델을 실행할 수 있도록 하는 compute-efficient AI 기술이다.
반면 Vector Quantization(VQ) 은 “compute saving” 효과는 있지만, 핵심 목적은 의미 표현을 더 효율적인 구조로 재배치하는 것이다.

 

따라서,

LLM 양자화는 ‘모델을 가볍게 만들어 실행 가능하게 만드는 기술’이며,
VQ는 ‘연속적 의미 공간을 효율적으로 표현하기 위한 기술’이다.