할라피뇨 칩, 블랙웰 3.6배 빠르다는데 진짜 승자는 삼성전자일 수도 있다
오픈AI가 엔비디아 GPU의 최대 고객이면서 동시에 엔비디아와 경쟁할 자체 칩을 만들었습니다. 이름은 할라피뇨(Jalapeño), 브로드컴과 함께 설계한 추론 전용 AI 반도체입니다. 8월 25일 스탠퍼드에서 열린 반도체 컨퍼런스 핫칩스(Hot Chips)에서 첫 벤치마크가 공개됐는데, 결과가 꽤 자극적입니다. 엔비디아의 최신 블랙웰 기반 시스템보다 지연시간이 최대 3.6배 낮다는 겁니다.
문제는 이 숫자만 보고 “오픈AI가 엔비디아를 이겼다”로 결론 내리면 절반만 보는 셈이라는 점입니다. 비교 대상, 조건, 그리고 이 경쟁으로 실제 이익을 보는 쪽이 누구인지까지 뜯어봐야 그림이 완성됩니다.
샘 올트먼 오픈AI CEO(왼쪽)와 혹 탄 브로드컴 CEO가 할라피뇨 웨이퍼를 들어 보이고 있다. 사진 연합뉴스
챗GPT를 돌리려고 GPU를 제일 많이 사는 회사가 왜 자체 칩을 만들었나
오픈AI는 엔비디아 GPU의 단일 최대 고객으로 꼽힙니다. 그런 회사가 자체 추론 칩을 만든다는 건 언뜻 이상해 보이지만, 이유는 단순합니다. 챗GPT와 코덱스를 실제로 몇 년째 운영해본 회사이기 때문에, 어디서 병목이 생기는지를 누구보다 정확히 압니다.
할라피뇨는 범용 GPU를 개조한 게 아니라, 프리필(prefill)과 디코드(decode)라는 추론 과정의 병목 구간, 그리고 데이터 통신 지연을 줄이는 데 초점을 맞춰 처음부터 새로 설계한 주문형반도체(ASIC)입니다. 브로드컴과 함께 AI 모델, 반도체, 메모리, 네트워크, 소프트웨어를 한꺼번에 설계하는 풀스택 전략을 썼고, 초기 설계부터 TSMC 파운드리에 넘기는 테이프아웃 단계까지 걸린 시간이 9개월에 불과했습니다. 오픈AI는 이 과정에서도 자사 코딩 에이전트 코덱스와 GPT-아스트라를 동원해 커널 최적화를 맡겼는데, 일부 연산 블록에서는 AI가 짠 구현이 사람 전문가가 짠 것보다 1.5~1.8배 빨랐다고 밝혔습니다. 칩을 만드는 데 자기 AI를 쓴 셈입니다.
할라피뇨 vs 블랙웰, 오픈AI가 공개한 숫자
핫칩스에서 공개된 벤치마크는 세미애널리시스의 공개 추론 성능 평가 도구인 인퍼런스X(InferenceX)를 통해 진행됐습니다. GPT-OSS 120B, 딥시크-R1 670B, 문샷 AI의 키미 K2.5 1T까지 크기가 다른 모델 세 개를 놓고 엔비디아의 GB200, GB300 시스템과 비교했습니다.
| 항목 | 할라피뇨가 앞선 정도 |
|---|---|
| 전력 대비 처리량 | 최대 1.9배 |
| 엔드투엔드 지연시간 | 최대 3.6배 낮음 |
| 대화형·에이전트형 작업 성능 | 최대 4.1배 |
| GPU 대비 비용 절감 | 약 50% |
정격 전력은 700W로 설계됐지만, 실제 테스트에서 측정된 지속 소비 전력은 550W 이하에 머물렀습니다. 비교 대상인 엔비디아 시스템의 정격 전력이 1,200~1,400W인 점을 감안하면, 절대 성능보다 와트당 처리량에서 격차를 벌린 구조입니다. 메모리는 216GB 용량의 HBM4를 얹어 15.4TB/s 대역폭을 냅니다.
오픈AI가 핫칩스 2026에서 공개한 할라피뇨 스펙 시트. 자료 오픈AI
숫자 이면에 숨은 함정, 비교 대상은 최신 블랙웰이지 베라 루빈이 아니다
이번 비교에서 짚어야 할 첫 번째 함정은 비교 대상입니다. 테스트에 쓰인 건 당시 상용 최첨단 제품이던 블랙웰 기반 시스템이고, 엔비디아가 이미 출하를 시작한 차세대 베라 루빈(Vera Rubin)은 포함되지 않았습니다. 원본 연산력만 놓고 봐도 할라피뇨의 mxfp4 x mxfp4 기준 13.4 PFLOPS는 블랙웰 울트라의 20 PFLOPS(NVFP4 스파스 기준)에 못 미칩니다. 오픈AI 스스로도 원본 스펙이 아니라 128개 ASIC를 묶었을 때의 집계 HBM4 대역폭(1PB/s 이상, GB300 NVL72의 576TB/s 대비 우위)이 진짜 차별점이라고 설명합니다.
두 번째 함정은 총소유비용(TCO) 기준입니다. 세미애널리시스는 토큰당 비용 기준으로 보면 베라 루빈과 할라피뇨가 거의 대등하다고 분석합니다. 다만 할라피뇨의 결과는 스펙큘레이티브 디코딩(speculative decoding) 없이 나온 수치인 반면, 베라 루빈의 결과는 이 기법을 적용해 토큰당 비용을 3~5배 낮춘 상태에서 나온 수치라 조건이 다릅니다. 여기에 할라피뇨의 비용 우위 상당 부분은 엔지니어링 차이가 아니라 엔비디아의 높은 마진을 브로드컴의 상대적으로 낮은 마진으로 바꾼 사업 구조에서 나온다는 지적도 있습니다.
세 번째로, 할라피뇨는 추론 전용 칩입니다. 훈련에는 여전히 엔비디아 GPU를 씁니다. 오픈AI는 올해 말부터 자체 인프라에 할라피뇨를 소량 배치하고 2027년부터 본격 확대할 계획이라고 밝혔는데, 이 기간에도 블랙웰 세대 GPU를 포함한 엔비디아 하드웨어와 함께 씁니다. 대체가 아니라 보완입니다.
추론용 AI 가속기 칩이 보드에 장착된 모습. 사진 오픈AI
진짜 관전 포인트는 브로드컴과 삼성전자 HBM4
벤치마크 숫자 싸움보다 투자 관점에서 더 눈여겨볼 대목은 따로 있습니다. 할라피뇨에 들어가는 HBM4가 삼성전자 제품으로 확인됐다는 점입니다. 삼성전자는 그동안 HBM 고객이 엔비디아 등 GPU 업체에 집중돼 있었는데, 이번 공급으로 자체 AI 칩(ASIC)을 만드는 빅테크로 고객군을 넓히는 사례를 하나 더 추가했습니다. 삼성전자는 이미 구글 자체 칩에도 HBM을 공급 중이고, 앤스로픽에는 HBM과 파운드리 서비스를 함께 제공하는 방안도 추진하고 있습니다.
물량 전망도 작지 않습니다. 빅테크의 자체 AI 칩용 HBM 수요가 늘면서 2027년 삼성전자의 HBM 출하량이 올해보다 2배 이상 늘어날 거라는 증권가 전망이 나왔고, UBS는 2027년 삼성전자의 HBM 점유율이 41%까지 올라 SK하이닉스(39%)를 넘어설 수 있다는 분석을 내놨습니다. 다만 SK하이닉스도 손 놓고 있지는 않습니다. HBM4 개발을 마치고 세계 최초로 양산 라인을 구축했으며, JEDEC 표준 속도(8Gbps)를 넘는 10Gbps 동작 속도를 구현해 엔비디아와 HBM4 공급 계약을 확정했습니다.
브로드컴 쪽도 이번 벤치마크로 얻는 게 명확합니다. 호크 탄 브로드컴 CEO는 할라피뇨를 두고 “엔비디아 블랙웰이나 구글 TPU만큼 성능이 뛰어나다”고 직접 평가했는데, 이건 브로드컴이 엔비디아, 구글에 이어 빅테크 자체 칩 설계를 대행하는 세 번째 축으로 자리 잡았다는 뜻이기도 합니다. 오픈AI는 할라피뇨를 1세대로 끝낼 생각이 없다고 밝혔습니다. 2세대 칩은 이미 개발이 상당히 진행됐고, 3세대 설계에도 착수한 상태입니다.
할라피뇨 ASIC(왼쪽 작은 사진)과 이를 장착한 데이터센터 랙 시스템. 자료 오픈AI
정리
할라피뇨가 특정 조건에서 블랙웰보다 와트당 처리량과 지연시간이 앞선다는 벤치마크는 사실입니다. 다만 비교 대상이 이미 출하 중인 베라 루빈이 아니라 한 세대 전인 블랙웰이라는 점, 원본 연산력 자체는 오히려 블랙웰이 앞선다는 점, 그리고 추론 전용이라 훈련용 엔비디아 GPU를 대체하는 게 아니라는 점은 숫자만 보고 지나치기 쉬운 부분입니다.
오히려 이 이슈에서 구조적으로 수혜를 보는 쪽은 HBM4를 공급하는 삼성전자와, 빅테크 자체 칩 설계를 대행하는 브로드컴입니다. 오픈AI가 자체 칩을 다세대 플랫폼으로 키우겠다고 못박은 이상, 이 구도는 이번 한 번으로 끝나지 않을 가능성이 큽니다.
오픈AI가 공개한 할라피뇨 다세대 로드맵. 1세대는 완료, 2세대는 테이프아웃 임박, 3세대는 계획 단계다. 자료 오픈AI
이 글은 정보 제공을 목적으로 하며 특정 종목에 대한 투자 자문이나 매수 매도 권유가 아닙니다. 본문의 수치와 전망은 2026년 8월 말 기준 언론 보도와 오픈AI, 세미애널리시스 등의 공개 자료를 근거로 했으며, 향후 실적 발표나 공급 계약에 따라 달라질 수 있습니다. 투자 판단 전에는 각 기업의 공시와 최신 자료를 직접 확인하시기 바라며, 투자에 따른 손익 책임은 투자자 본인에게 있습니다.
Leave a comment