반도체 입문 · 26강

첨단 패키징과 신소재: 미세화만이 답은 아니다

프로세서의 계산은 점점 빨라지는데 메모리의 데이터 공급은 따라가지 못한다. 이 ‘메모리 월’ 때문에 AI 칩은 자주 멈춰서 기다린다. 메모리를 쌓아 프로세서 바로 옆에 붙이는 것, 여러 칩을 하나로 패키징하는 것, 더 먼 구간을 빛으로 바꾸는 것이 모두 이와 관련이 있다. 여기에 큰 칩을 작은 칩으로 나누는 것과 재료를 바꾸는 것까지, 이 몇 갈래 길을 이해하면 뉴스에 나오는 새 용어들이 하나로 이어진다.

학습 목표

메모리 월이 무엇인지, 곧 프로세서가 왜 자주 멈춰서 데이터를 기다리는지, 데이터를 옮기는 데 왜 계산보다 전력이 더 드는지, 그리고 왜 AI가 메모리 월에 가장 심하게 부딪히는지 설명할 수 있다.
캐시, HBM, 실리콘 관통 전극, 칩렛, 2.5D와 3D가 각각 무엇을 하는지, 큰 칩을 왜 나누고 먼저 테스트한 뒤 조립하는지 설명할 수 있으며, 이 길들을 함께 쓸 수 있고 저마다 대가가 있다는 것을 안다.
전력 반도체가 무엇을 하는지 알고, 와이드 밴드갭 소재와 실리콘 포토닉스가 각각 어떤 문제를 푸는지 구별하며, 이들이 실리콘과 구리 배선을 모두 대체하려는 것이 아님을 안다.

HBM과 일반 메모리의 배치 비교: 일반 메모리는 DRAM 칩 몇 개를 각각 패키징해 좁은 회로 기판에 나란히 얹어 메인보드에 꽂으며, 프로세서와 몇 센티미터 떨어져 있고 한 번에 0 또는 1을 64개 보낸다. HBM은 여러 층의 DRAM 칩을 쌓아 실리콘 관통 전극(TSV)으로 위아래를 연결하고, 프로세서와 나란히 인터포저 위에 놓이며, 한 스택에 데이터선이 1,024개이고 최신 세대 표준에서는 두 배인 2,048개가 됐다. — HBM 안에 들어 있는 것도 결국 DRAM이고, 다른 점은 배치와 연결 방식이다. 쌓고, 실리콘을 관통해 연결하고, 프로세서 바로 옆에 붙인다. 선이 16배 많아(최신 세대는 그 두 배) 한 번에 옮기는 데이터가 많고, 경로가 짧아져 0이나 1 하나를 보내는 데 드는 전력도 적다. 모식도이며 층 수, 구멍과 선의 개수는 실제대로 그리지 않았다.

핵심 설명

메모리 월: 프로세서는 빨리 계산하는데, 데이터가 따라오지 못한다

프로세서는 계산을 맡고, 메모리는 계산할 데이터를 담아 둔다. 둘의 발전 속도는 달랐다. 1980년대 중반부터 2000년대 초까지 프로세서는 해마다 대략 50% 이상 빨라졌지만, 메모리에서 데이터 하나를 읽는 데 걸리는 대기 시간은 해마다 10%도 채 줄지 않았다. 메모리 칩이 가장 중시하는 것은 많이 담고 싸게 만드는 것이고, 속도는 그다음이다. 데이터가 제때 오지 않으면 프로세서는 아무리 빨리 계산해도 멈춰서 기다릴 수밖에 없다. 이 격차를 메모리 월(memory wall)이라고 한다. 메모리 월에 가장 심하게 부딪히는 것은 AI다. 모델의 숫자는 너무 많아 프로세서 안에 담을 수 없고, 바깥의 메모리에 둘 수밖에 없다. 예를 들어 챗봇이 짧은 글 한 토막을 내놓을 때마다 대량의 숫자를 한 번씩 읽어야 하는데, 한 사람만을 위해 계산할 때는 숫자 하나를 가져와 곱셈 한 번, 덧셈 한 번만 하고 다음 숫자로 넘어간다. 그래서 연산 회로는 대부분의 시간을 기다리며 보낸다. 20년간의 서버를 정리한 한 연구에 따르면, 연산 속도는 약 6만 배 빨라졌지만 메모리의 데이터 공급 속도는 약 100배 빨라지는 데 그쳤다. 데이터를 옮기는 데도 전력이 든다. 0과 1이 바뀔 때마다 선 하나 전체를 충전하거나 방전해야 하고, 칩 밖의 메모리까지는 몇 센티미터를 가야 한다. 한 번 읽는 데 드는 전력이 간단한 덧셈 한 번의 수백 배에서 천 배 이상에 이를 수 있다는 연구 추산도 있다.

데이터를 더 가까이: 캐시와 HBM

업계의 해법은 주방에 비유할 수 있다. 요리사의 손은 아주 빠른데 식재료는 멀리 떨어진 창고에 있다면, 자주 쓰는 재료는 손 닿는 곳에 두고, 창고는 더 가까이 옮기고, 카트는 더 큰 것으로 바꾸면 된다. 손 닿는 곳이 바로 캐시다. 프로세서와 같은 칩 위에 있어 자주 쓰는 숫자를 여기에 두면 빠르고 전력도 아낀다. 하지만 캐시에 쓰는 SRAM은 한 칸에 트랜지스터가 6개 필요해 면적을 많이 차지하므로, 큰 AI 모델은 여전히 다 담을 수 없다. 예전에 말하던 메모리 월은 대개 ‘한 번 기다리는 데 얼마나 걸리는가’였고, 지금 더 자주 말하는 것은 ‘1초에 얼마나 보낼 수 있는가’다. 그래서 메모리(DRAM) 칩 여러 층을 하나로 쌓아 프로세서 옆에 두는데, 이것이 HBM(고대역폭 메모리)이다. HBM 한 스택에는 데이터 선이 1,024개 있고(최신 세대는 그 두 배), 일반 컴퓨터의 메모리 모듈 하나는 한 번에 0이나 1을 64개만 보낸다. 층과 층 사이는 실리콘 관통 전극(TSV)으로 연결한다. 실리콘에 아주 가는 구멍을 관통시켜 구리로 채우면, 신호가 칩의 한쪽 면에서 반대쪽 면으로 곧장 지나간다. 선이 많으니 한 번에 많이 보내고, 길이 짧으니 0이나 1 하나를 보내는 데 드는 전력도 적다. 대신 모든 층이 양품이어야 하고, 뒷면을 갈아 수십 μm만 남겨야 하며, 열도 잘 빠지지 않아 비싸고 만들기 어렵다.

칩을 하나로 묶는다: 칩렛, 2.5D, 3D

HBM을 프로세서 바로 옆에 붙일 수 있는 것은 첨단 패키징 덕분이다. 여러 개의 칩을 하나의 패키지에 넣는 기술이다. 그래서 이 길들은 흔히 함께 쓰인다. 최신 세대로 만든 AI 칩 옆에 HBM 스택 몇 개를 나란히 놓는 식이다. 조합 방식은 주로 두 가지다. 아주 미세한 배선을 그린 얇은 판(인터포저, 흔히 실리콘으로 만든다) 위에 나란히 놓는 것을 2.5D, 위아래로 쌓아 실리콘 관통 전극으로 연결하는 것을 3D라고 한다. 회로 기판 위 몇 센티미터의 배선을 거치는 것에 비해 길이 짧고 선이 많아, 데이터가 빠르게 오가고 전력도 적게 든다. 큰 칩 하나를 작은 칩 여러 개로 나누기도 하는데, 이를 칩렛(chiplet)이라고 한다. 웨이퍼에는 결함이 생기기 마련이어서, 칩이 클수록 결함에 걸리기 쉽다. 또 칩은 노광 장비가 한 번에 찍는 한 샷보다 크게 만들기 어렵다. 큰 칩은 결함 하나만 생겨도 통째로 버려야 하는 경우가 많지만, 작은 칩 넷으로 나누면 결함에 걸린 작은 칩 하나만 버리면 된다. 그래서 칩마다 먼저 웨이퍼 상태에서 테스트해 양품만 골라 조합한다. 한 패키지 안에 불량 칩이 하나만 있어도 전체를 쓸 수 없는 경우가 많고, 패키징을 마친 뒤에는 떼어 내 교체하기도 어렵기 때문이다. 나누고 나면 연산을 맡는 칩렛은 최신 세대로 만들고, 새 세대로 만들어도 크기가 별로 줄지 않는 나머지 칩렛은 저렴하고 안정된 이전 세대 방식으로 만든다. 대신 칩렛 사이의 경로는 칩 내부보다 조금 느리고, 패키징도 더 어렵고 비싸진다.

큰 칩 하나와 이를 네 개로 나눈 작은 칩(칩렛)을, 둘 다 아직 웨이퍼 위에 있는 상태로 비교한 그림: 같은 결함이 하나 있을 때 큰 칩은 통째로 버려야 하는 경우가 많지만, 작은 칩은 결함에 맞은 하나만 버린다. 나머지 세 개는 다른 곳의 양품 작은 칩 하나와 함께 한 조가 되어 같은 패키지에 들어간다. — 모식도이며 실제 비율이 아니다. 빨간 점이 결함이다. 모든 칩은 웨이퍼 위에서 먼저 테스트하며, 결함에 맞은 칩은 패키징하지 않고 양품 칩렛만 모아 한 조로 묶는다.

또 다른 두 길: 더 먼 구간은 빛으로, 그리고 재료 바꾸기

데이터를 빨리 보낼수록 구리 배선이 보낼 수 있는 거리는 짧아지고, 신호를 되살리는 데 전력도 더 든다. 그래서 서버 랙과 랙 사이처럼 비교적 먼 구간에서는 전기를 빛으로 바꿔 광섬유로 보낸다. 실리콘 포토닉스는 칩을 만드는 방법으로 실리콘 위에 빛이 지나가는 가는 길과, 전기를 빛으로 또 빛을 전기로 바꾸는 작은 부품을 만든다. 공동 패키지 광학(CPO)은 여기서 더 나아가 전기를 빛으로 바꾸는 부분을 데이터를 중계하는 칩과 같은 패키지 안으로 옮긴다. 재료를 바꾸는 것은 다른 문제를 푼다. 전력 반도체는 큰 전류와 높은 전압을 켜고 끄고 변환하는 데 특화된 소자로, 예를 들어 콘센트의 교류를 휴대폰에 필요한 직류로 바꾼다. 전력 반도체도 대부분은 여전히 실리콘으로 만들며, 전기차나 고속 충전기처럼 전압이 더 높고 더 빠르게 스위칭해야 하는 곳에서야 탄화규소(SiC)와 질화갈륨(GaN)을 쓰기 시작했다. 이 두 재료의 밴드갭(전자가 뛰어올라야 전기가 통하는 ‘계단’)은 실리콘의 약 3배여서 와이드 밴드갭 소재라고 부르며, 더 높은 온도와 전압을 견디고 전력 낭비도 적다. 하지만 결정을 키우기 어렵고, 프로세서나 메모리는 그 장점을 살릴 일이 없어서 대부분의 칩은 여전히 실리콘으로 만든다. 메모리 월에 맞서는 길 가운데에는 대부분 아직 연구 중이거나 막 시작된 것도 있다. 간단한 계산을 메모리 안에서 하는 것이 그 예다(가장 적게 드는 이동은 아예 옮기지 않는 것이다).

흔한 오해

흔히 듣는 말‘3세대 반도체’는 ‘2나노’보다 더 새로운 세대의 공정이다.: 실제로는‘3세대’는 칩을 만드는 재료를 가리키는 말로, 대개 탄화규소와 질화갈륨을 뜻하며, 새로운 세대의 실리콘 공정이 아니다. ‘2나노’가 겨루는 것은 같은 면적에 스위치를 얼마나 넣을 수 있는가이고, 탄화규소와 질화갈륨이 겨루는 것은 높은 전압, 큰 전류, 고온을 견딜 수 있는가다. 전력을 다루는 스위치(전력 반도체)는 큰 전류를 흘려야 하므로 애초에 크게 만들어야 하고, 가장 가는 선은 필요 없다. 두 쪽은 서로 다른 문제를 풀고 있어 어느 쪽이 더 앞섰다고 할 수 없다. 뉴스에서 이따금 말하는 ‘4세대 반도체’는 산화갈륨, 다이아몬드 같은 재료를 가리키며, 대부분 아직 연구 중이거나 막 시작된 단계다.
흔히 듣는 말뉴스에서 ‘빛이 구리 배선을 대체한다’고 하니, 앞으로 칩 안에서는 모두 빛으로 계산하게 된다.: 실제로는뉴스가 말하는 실리콘 포토닉스는 대부분 ‘보내는’ 일을 맡을 뿐, 빛으로 ‘계산’하는 것이 아니다. 칩 안의 연산은 여전히 트랜지스터가 한다. ‘빛이 들어오고 구리가 물러난다’는 말은 대개 점점 빨라지고 길어지는 몇몇 구간이 빛으로 바뀐다는 뜻이다. 칩 내부나 아주 가까이 붙어 있는 칩 사이는 대부분 여전히 전기를 쓴다. 빛에도 어려움이 있다. 실리콘 자체는 빛을 잘 내지 못하고, 광섬유는 아주 정밀하게 맞춰야 하며, 레이저는 열에 약하다.

필독

더 읽기

플레이

챕터 11 ‘볼이 들렸다’부터 시작하기: 수후이와 함께 패키징 라인을 한 바퀴 돌며, 칩이 저항, 커패시터와 함께 작은 모듈 하나에 들어가는 과정 보기 →

생각해 보기

큰 칩을 칩렛으로 나누면 결함 하나가 작은 칩 하나만 망가뜨리고, 돈도 가장 필요한 곳에 쓸 수 있다. 하지만 칩렛 사이의 경로는 칩 내부보다 조금 느리고 전력도 조금 더 들며, 칩렛마다 데이터를 주고받는 회로를 더 넣어야 하고, 접점은 작고 촘촘해 테스트에 손이 더 가며, 패키징도 더 어려워진다. 직접 정한다면 어떤 칩을 나눌 가치가 있다고 보겠는가? 어떤 칩은 통째로 남겨 두겠는가?
메모리 월에 맞서려면 캐시를 늘리거나 옆에 HBM 스택을 더 놓을 수 있고, 계산을 메모리 안에서 하는 방법을 연구하는 사람들도 있다. 어느 길에나 대가가 있다. AI로 질문에 답하는 일만 하는 기계를 만든다면 어느 길에 먼저 돈을 쓰겠는가? 결정하기 전에 무엇을 먼저 알고 싶은가?

수업 자료: 슬라이드

이 강의의 핵심, 모식도, 장비, 토론 질문을 슬라이드 한 벌로 만들었다. 그대로 화면에 띄워도 되고, 자신의 강의 자료에 넣어도 된다.

슬라이드 다운로드(PPTX)397 KB 슬라이드 다운로드(PDF)508 KB

수업과 비영리 목적이라면 무료로 쓸 수 있다. 출처는 fab24hr로 밝혀 주기 바란다. 판매하거나 자신의 저작물로 바꿔 내놓을 수는 없다. 오류가 있다면 문제 신고

이 글 인용하기‘반도체 입문 · 26강: 첨단 패키징과 신소재: 미세화만이 답은 아니다’, fab24hr, 2026년 10월 27일 업데이트. https://fab24hr.com/ko/learn/beyond/