Article

CMP 170HX 64GB 언락, 두 달 전 흘려봤던 게 아쉽습니다

두 달 전쯤 CMP 170HX 언락 소식을 봤을 때는 그냥 흘려넘겼습니다. 채굴용 카드에 잠겨 있던 메모리를 풀 수 있다는 이야기였어요. 그때 조금 더 들여다봤으면 좋았을 텐데요.

최근에 사용기를 다시 찾아보니 뒤늦게 관심이 생겼습니다. 64GB HBM2e를 한 장에 쓸 수 있고, 전력도 낮춰서 운용하는 사람들이 있더라고요. 네 장이면 총 256GB입니다. 지금 쓰는 RTX 3090 24GB에서 메모리 때문에 고민하던 모델들을 떠올리니 자꾸 계산하게 됩니다.

문제는 가격입니다. 이제 제대로 관심이 생겼는데, 예전에 보던 저렴한 채굴 카드 가격은 이미 지나갔어요. 직접 구매해서 돌려본 사용기는 아닙니다. 언락 도구와 실제 구매·구동 후기를 찾아보다가, 놓친 시기가 아쉬워서 남기는 글입니다.

은색 금속 케이스와 패시브 방열 구조를 갖춘 NVIDIA CMP 170HX 실물 카드 — **NVIDIA CMP 170HX 실물**
화려한 팬이나 조명 없이 금속 케이스로 덮인 채굴용 카드입니다. 이 안에 잠겨 있던 HBM2e가 다시 관심을 받게 됐습니다. 사진: niconiconi, CMP 170HX 분해 리뷰.

사진은 niconiconi의 CMP 170HX 분해 리뷰에서 인용했습니다. 2023년에 작성된 하드웨어 리뷰이므로, 당시의 연산 제한 설명과 지금의 언락 이후 상태는 구분해서 봤습니다.

8GB 카드가 64GB가 된다는 이야기

CMP 170HX는 NVIDIA가 채굴용으로 내놓은 GPU입니다. A100에도 사용된 GA100 계열 칩과 HBM2e 메모리를 사용하지만, 채굴용 제품에는 메모리 용량과 연산 처리량, PCIe 연결 등에 제한이 걸려 있었습니다.

CMPUnlocker의 80-new 브랜치 README에 적힌 메모리 프로파일은 다음과 같습니다.

출고 메모리 용량	도구에 명시된 언락 프로파일
8GB	64GB
10GB	40GB

메모리 칩을 새로 붙일 필요 없이 소프트웨어로 메모리 제한을 풉니다. 도구 설명에는 SM 연산 처리량 제한 해제와 PCIe Gen 2 활성화도 지원한다고 나와 있습니다.

일부 기사에는 80GB라는 숫자도 등장합니다. 다만 제가 확인한 README의 설치 옵션과 작동 표에는 10GB 모델을 40GB로 푸는 프로파일이 적혀 있습니다. 이 글에서도 그 용량을 기준으로 잡았습니다. 실제로 안정적으로 쓸 수 있는 용량은 카드 상태에 따라 달라집니다.

저는 일단 64GB HBM2e 한 장이라는 구성이 눈에 들어왔습니다. 3090을 쓰면서 가장 자주 부딪히는 것도 VRAM 용량이거든요. 모델을 내려받기 전에 양자화 크기를 보고, 컨텍스트를 얼마나 줄일지 생각하고, 넘치는 부분을 시스템 RAM으로 보내야 할지 계산하게 됩니다.

64GB면 그 선택지가 크게 늘어납니다. HBM2e라는 이름만으로 모든 모델에서 더 빠르다고 할 수는 없지만, 큰 모델을 GPU 메모리 안에 담아둘 수 있다는 것만으로도 충분히 끌립니다.

네 장이면 꽤 괜찮은 로컬 머신이 되겠더라고요

처음에는 여덟 장을 구해서 머신을 만들었으면 어땠을까 싶었습니다. 전부 64GB로 안정화됐다면 총 512GB니까요. 그러다 생각해 보니 네 장, 총 256GB만 있어도 해보고 싶은 일이 많았습니다.

메모리가 한 장으로 합쳐지지는 않습니다. 모델을 GPU별로 나눠 올려야 하지만, 그렇게 나눠 쓸 수 있는 용량만 해도 24GB 카드 한 장에서 시작하던 것과는 규모가 다릅니다. 작은 모델은 카드마다 따로 서빙하고, 큰 모델 하나는 여러 장에 나눠 돌려볼 수 있겠죠.

GLM-5.3 본체도 저비트 양자화라면 후보가 됩니다. Unsloth의 GLM-5.3 가이드는 UD-IQ2_M 파일 크기를 238.6GB로 안내하고, 256GB 메모리 장치에서 실행하는 구성을 소개합니다. CMP 네 장에 전부 GPU 오프로딩하려면 실제 사용 가능 VRAM, 카드별 분배, KV 캐시와 연산 버퍼까지 맞춰야 하지만, 본체 모델을 올려볼 계획은 세울 수 있습니다.

아카라이브에는 이미 CMP 170HX 네 장으로 GLM 5.3 Flash와 DeepSeek V4 Flash 등을 돌린 후기도 올라와 있습니다. 이 후기는 Flash 모델의 실측이고, 앞서 말한 GLM 본체는 양자화 용량을 바탕으로 생각해 본 구성입니다.

관심 있는 대형 모델을 바꿔 올려볼 수 있으면 좋겠습니다. 특정 모델 하나만 겨우 돌아가는 장비로는 아쉽거든요. 네 장이면 그런 재미가 있겠더라고요.

제 용도에서는 좁은 PCIe 대역폭이 덜 신경 쓰였습니다. 단일 GPU에 모델을 전부 올려두고 저배치로 디코드한다면, 매 토큰마다 가중치를 CPU에서 가져올 필요가 없으니까요. 여러 장에 나누면 이야기가 달라집니다. 모델 분할 방식과 GPU 간 통신이 영향을 주는데, 실제 네 장 후기에서도 텐서 병렬의 프리필은 PCIe 영향을 크게 받았습니다. 작성자는 PP4 구성을 선호했습니다.

전력도 낮춰 쓸 만했습니다

후기를 찾아보면서 더 아쉬워진 부분은 전력입니다. 용량만 크고 전기를 계속 많이 먹는 구성이면 집에서 돌리기 부담스러운데, 실제 사용자들은 전력 제한을 낮춰서 쓰고 있었습니다.

가장 구체적인 자료는 9월 8일 올라온 아카라이브의 네 장 구성 후기였습니다. 작성자는 i9-10920X와 X299 Sage에 CMP 170HX 네 장을 연결하고, PCIe ×16 개조까지 진행했습니다.

GLM 5.3 Flash의 전력별 측정 조건은 PP4, 입력 32K·출력 2K, P2P ON, MTP 3입니다. 전력 제한마다 본측정을 세 번 했다고 적혀 있습니다.

CMP 170HX 네 장에서 GPU당 150W부터 250W까지 전력 제한을 바꿔 측정한 GLM 프리필과 디코드 속도, 온도 및 합산 소비전력 그래프 — **CMP 170HX 네 장의 전력 제한별 LLM 측정**
아카라이브 사용자 번역으로30개채우고챈서클신청하의 9월 8일 후기에서 인용한 그래프입니다. GPU당 전력 제한과 실제 GPU 합산 소비전력을 따로 표시합니다. AR 70% 보정선은 수락률을 가정해 재계산한 값입니다.

그래프에서 150W와 250W 제한을 비교하면 이렇습니다.

측정 항목	GPU당 150W 제한	GPU당 250W 제한
프리필	4,048.5 tok/s	4,936.3 tok/s
디코드 실측	82.6 tok/s	93.2 tok/s
프리필 중 GPU 4장 합산 평균 전력	496.8W	752.8W
디코드 중 GPU 4장 합산 평균 전력	487.5W	516.3W

150W 제한에서 디코드 중 GPU 네 장의 합산 평균이 487.5W였으니, 단순히 나누면 장당 약 122W입니다. 본체와 팬까지 포함한 콘센트 측정값은 따로 제시되지 않았습니다. 순간 최대값도 평균보다 높게 기록되어 있습니다.

전력 제한을 높일수록 프리필은 빨라졌습니다. 디코드는 그렇지 않았어요. 제한값에 비례해 꾸준히 빨라지지는 않았습니다. 작성자도 기존 170W 대신 앞으로는 150W로 낮춰 쓸 생각이라고 적었습니다. MTP를 포함한 해당 모델과 설정에서 나온 수치입니다.

다른 장시간 공랭 구동 후기에서는 200W 제한으로 Qwen3.8 27B와 Hermes 에이전트를 약 12시간 돌렸다고 합니다. 실온 26℃, 2,700RPM 블로워 팬 조건에서 코어 약 65℃, 메모리 약 75℃, 디코드 약 65 tok/s를 보고했습니다.

이런 기록을 보니 “64GB 카드 네 장이면 전기 때문에 엄두도 못 내겠다”는 생각은 덜해졌습니다. 방열과 소음은 신경 써야겠지만, LLM 용도로 전력을 낮춰 쓰는 구성이 꽤 매력적입니다.

싸던 시기는 이미 지나갔습니다

가격 기록을 찾아보니, 제가 다시 관심을 가진 시점에는 이미 한참 오른 뒤였습니다.

Wccftech의 8월 보도는 이전 가격을 100–200달러, 언락 소식 이후 eBay 호가를 1,200–2,000달러로 소개했습니다. Tom’s Hardware의 8월 18일 기사도 약 250달러에 팔리던 카드가 1,000달러 이상으로 올랐다고 보도했고요.

국내 커뮤니티 기록도 비슷했습니다. 8월 7일 구매 관련 글의 댓글에는 이미 “200→1,200달러로 한 달 만에 폭등했다”는 이야기가 나옵니다. 정확한 7월 거래일과 체결 가격은 그 댓글만으로 알 수 없지만, 8월 초부터 가격 상승을 아쉬워하는 분위기는 확인할 수 있습니다.

9월에는 금액이 더 커졌습니다. 9월 6일 주문을 정리한 구매기에는 8GB 카드 두 장을 2,754달러에 주문했다가 판매자의 발송 지연으로 놓치고, 이후 두 장을 4,070달러에 다시 구매했다는 기록이 있습니다. 글이 올라온 9월 8일에는 아직 배송 완료 전이었고, 언락 후 용량은 판매자가 보증하지 않는 조건이었습니다.

시기와 자료	기록된 가격	자료의 성격
저가 시기를 회고한 8월 해외 기사	장당 약 100–250달러	매체가 소개한 과거 가격
8월 7일 아카라이브 글의 댓글	장당 200→1,200달러	사용자의 가격 상승 회고
9월 6일 주문, 9월 8일 게시된 구매기	8GB 두 장 4,070달러	작성자가 밝힌 구매금액, 배송 전

판매처와 배송·세금·보증 조건이 달라 같은 상품의 연속 시세표로 볼 수는 없습니다. 그래도 몇백 달러에 실험해 볼 물건이던 시절과, 한 장에 수천 달러를 지불하는 지금의 구매 사례는 부담이 다릅니다.

예전 가격에 네 장을 확보했다면 언락과 냉각을 만져보는 과정까지 즐거웠을 것 같습니다. 지금은 카드값부터 계산하고 나면 마음이 식어요.

지금은 구경하는 쪽입니다

싸게 샀어도 결과가 좋으리라는 보장은 없었습니다. 채굴장에서 쓰던 중고 제품이고, 잠겨 있던 메모리의 상태도 카드마다 다를 수 있으니까요. 제가 직접 검증한 카드도 없습니다.

실제 구매기에는 돈을 내고도 판매자가 물건을 보내지 않아 기다렸다는 이야기가 있습니다. 받은 뒤에도 할 일이 많습니다. 메모리를 검사하고 냉각을 갖춰야 하고, 여러 장을 쓰려면 보드와 파워도 맞춰야 하죠. 언락 도구에 맞는 드라이버와 커널 모듈도 관리해야 합니다.

그런 작업에도 재미는 있습니다. 로컬 AI를 만지면서 하드웨어와 소프트웨어를 맞춰가는 일 자체는 좋지만, 지금 가격에는 실패했을 때의 부담이 너무 커졌습니다.

이미 싸게 구해서 64GB로 안정화한 사람은 부럽습니다. 지금 웃돈을 주고 뒤따라 사고 싶지는 않아요.

정리하면

CMP 170HX는 뒤늦게 봐도 탐납니다. 한 장에 64GB HBM2e, 네 장이면 총 256GB입니다. 실제 LLM 후기에서도 전력을 낮춰 쓸 만한 성능을 얻었고, 대형 모델을 여러 장에 나눠 돌렸습니다.

카드의 매력은 그대로인데, 가격이 달라졌습니다. 두 달 전쯤 소식을 흘려봤을 때는 이걸로 어떤 머신을 만들 수 있을지까지 생각하지 못했어요.

지금은 구경만 하려고 합니다. 그때 조금만 더 들여다봤으면 좋았겠다는 아쉬움은 남네요.