엔비디아가 SRAM 기반 AI 칩 회사 Groq(그로크)에 손을 댔다는 소식이 시장을 뒤흔들었습니다. “엔비디아가 HBM을 버리려는 거 아냐?” 하는 추측까지 나왔죠. 정말 그런 걸까요?
이 글에서는 Groq이 무엇인지, 왜 엔비디아가 관심을 가졌는지, SRAM의 강점과 한계, 그리고 결국 한국 메모리 가두리에서 빠져나오기 어려운 이유까지 정리합니다.
📋 이 글에서 다루는 내용
- Groq은 어떤 회사인가
- SRAM vs HBM — 한 줄 비교
- 엔비디아가 Groq을 노린 진짜 이유
- 왜 결국 삼성 파운드리와 만나는가
- FAQ
1. Groq은 어떤 회사인가
Groq은 구글 TPU 출신 엔지니어들이 창업한 회사입니다. 핵심 제품은 LPU(Language Processing Unit)라는 AI 추론 전용 칩이에요. 가장 큰 특징은 메모리로 HBM 대신 SRAM을 쓴다는 점입니다.
SRAM은 GPU/CPU 안에 내장된 초고속 메모리예요. 빠르기는 HBM보다 한 차원 위, 대신 같은 면적에 담을 수 있는 용량은 훨씬 적습니다. Groq의 LPU는 칩 면적의 약 70%를 SRAM으로 채워서 속도를 극단적으로 끌어올렸어요.
2. SRAM vs HBM — 한 줄 비교
| 구분 | SRAM | HBM |
|---|---|---|
| 속도 | 매우 빠름 (ns 단위) | 빠름 |
| 용량 효율 | 매우 낮음 | 높음 (적층 가능) |
| 가격 | 매우 비쌈 | 비쌈 |
| 적합 워크로드 | 짧은 컨텍스트 초고속 추론 | 대형 LLM 일반 추론·학습 |
한 마디로 Groq의 SRAM 방식은 “짧은 질문에 1초 만에 답하는 챗봇”에는 최적이지만, KV캐시가 거대해지는 GPT-4·Claude 같은 대형 모델에는 비용·용량 문제로 부적합합니다.
3. 엔비디아가 Groq을 노린 진짜 이유
이 부분이 흥미로워요. 김정호 교수의 해석을 옮기면 이렇습니다.
이는 어텐션 알고리즘이 메모리 폭증을 일으키는 구조적 문제에 대한 엔비디아의 다층 대응이라고 볼 수 있어요.
4. 왜 결국 삼성 파운드리와 만나는가
역설적이게도 Groq의 LPU 파운드리는 삼성전자입니다. 황 회장이 지난 GTC에서 “땡큐 삼성”을 여러 번 외친 것도 이 맥락이에요.
다시 말해 엔비디아가 HBM 가두리에서 벗어나려고 Groq을 샀더라도, 그 Groq의 칩은 삼성 파운드리에서 만들어집니다. 결국 한국 반도체 산업과 연결된 고리는 끊을 수 없는 셈이죠. 더 자세한 배경은 TSMC·삼성 파운드리 베이스 다이 글에서 다뤘어요.
한편 엔비디아의 또 다른 대안인 CXL 진영도 함께 봐두면 큰 그림이 잡힙니다.
자주 묻는 질문 (FAQ)
Q. Groq의 추론 속도가 ChatGPT보다 빠른 게 사실인가요?
짧은 프롬프트의 토큰 생성 속도는 GPU 대비 빠른 경우가 많아요. 다만 컨텍스트가 길어지면 SRAM 용량 한계가 노출됩니다.
Q. SRAM 칩이 더 발전하면 HBM이 위협받을 수 있나요?
단기간엔 어렵습니다. SRAM은 셀당 트랜지스터 6개를 쓰기 때문에 미세공정이 발전해도 D램 대비 밀도 한계가 명확해요. 대형 모델 시장에서 HBM·HBF를 대체하긴 어렵다는 게 다수 의견입니다.
📚 함께 읽으면 좋은 글
※ 본 글은 공개 강연·보도 자료를 바탕으로 정리한 정보성 콘텐츠이며, 투자 권유가 아닙니다.