클로드 오퍼스 4.8급 AI가 맥북에서 무료로 돌아간다고? GLM-5.3-Flash로 확인해봤다
지난 8월 26일 중국 제피AI(Z.ai, 옛 지푸AI)가 공개한 오픈소스 모델 GLM-5.3-Flash가 벤치마크 평가에서 앤트로픽 클로드 오퍼스 4.8과 맞먹는 점수를 받았습니다. 총 파라미터 3,200억 개짜리 모델인데도 가중치가 MIT 라이선스로 완전히 공개돼 있어서, 이론적으로는 누구나 내려받아 자기 컴퓨터에서 돌릴 수 있습니다.
문제는 “누구나”라는 말이 실제로는 램 100GB가 넘는 맥북을 뜻한다는 점입니다. 얼마나 필요한지, 클라우드 API와 비교했을 때 정말 공짜인지 하나씩 짚어봤습니다.
정체불명의 “옥스 알파”가 GLM-5.3-Flash였다
허깅페이스에 공개된 GLM-5.3-Flash 모델 카드
GLM-5.3-Flash는 정식 발표 전부터 화제였습니다. 개발자 커뮤니티 오픈라우터와 오픈코드에 “옥스 알파(Ox Alpha)”라는 이름으로 익명 등록된 모델이 사흘 만에 11조 토큰 넘게 처리하면서 오픈라우터 역대 최대 트래픽을 기록했고, 정체가 뭔지를 두고 추측이 이어졌습니다. 제피AI는 8월 26일 이 옥스 알파가 자사 모델 GLM-5.3-Flash였다고 공식 확인하면서 동시에 가중치를 허깅페이스에 공개했습니다.
구조는 총 3,200억 개 파라미터 중 토큰당 180억 개만 활성화하는 MoE(전문가 혼합) 방식입니다. 스파스 어텐션과 선형 어텐션을 함께 쓰는 하이브리드 구조를 오픈소스 프론티어 모델 중 처음으로 적용해, 이전 모델 GLM-5.3 대비 어텐션 연산량을 3.01배, KV 캐시 크기를 4.44배 줄였다고 밝혔습니다. 텍스트와 이미지를 함께 입력받는 멀티모달 모델이고, 컨텍스트 길이는 100만 토큰입니다.
벤치마크에서 클로드 오퍼스 4.8과 나란히
독립 평가기관 아티피셜애널리시스가 측정한 GLM-5.3-Flash 지표
독립 평가기관 아티피셜애널리시스가 여러 벤치마크를 종합해 매기는 인텔리전스 지수에서 GLM-5.3-Flash는 57점을 받았습니다. 같은 지수에서 클로드 오퍼스 4.8과 같은 점수이고, 딥시크의 최신 플래그십 V4 프로(53점)보다 높습니다. 제피AI 창업자 탕제는 이 결과를 “옥스 알파는 GLM-5.3-Flash, AA 지수 57, 프론티어 가격의 100분의 1, 순수 중국산 칩으로 구동”이라는 한 문장으로 요약했습니다.
다만 속도는 초당 43.8 토큰으로, 비슷한 체급의 다른 오픈 모델보다 느린 편이고 답변이 다소 장황하다는 평가도 함께 나옵니다. 지능 지수와 실사용 체감 속도는 별개라는 뜻입니다.
맥북에서 돌리려면 램이 몇 GB 필요할까
가중치가 공개돼 있다는 말이 아무 컴퓨터에서나 돌아간다는 뜻은 아닙니다. 원본 BF16 가중치 용량만 642GB에 달해서, 일반적인 개인용 컴퓨터로는 애초에 불가능합니다. 실제로 로컬 실행이 가능해지는 건 양자화를 거친 뒤부터입니다. 언슬로스(Unsloth)가 배포한 GGUF 양자화 버전 기준으로 필요한 용량은 다음과 같습니다.
| 양자화 방식 | 용량 | 원본 대비 크기 | 정확도 유지율 |
|---|---|---|---|
| 1비트(UD-IQ1_S) | 약 93GB | 85% 감소 | 상위 1% 기준 71% |
| 3비트(UD-IQ3_XXS) | 약 120GB | 81% 감소 | 82% |
| 4비트(UD-Q4_K_XL) | 약 200GB | 69% 감소 | 93% |
가장 가벼운 1비트 버전조차 93GB이기 때문에, 통합 메모리 128GB 이상인 맥북 프로(M3 맥스, M4 맥스 등)가 사실상 최소 조건입니다. 정확도를 어느 정도 챙기려는 3비트나 4비트 버전을 쓰려면 램 200GB급, 즉 M5 맥스나 M5 울트라를 탑재한 최상위 라인업이 있어야 여유 있게 돌릴 수 있습니다.
애플 실리콘이 이런 초대형 모델에 유리한 이유는 GLM-5.3-Flash 같은 MoE 모델이 연산량보다 메모리 대역폭에 더 크게 좌우되기 때문입니다. 값비싼 고속 메모리를 조금 쓰는 것보다 저렴한 메모리를 많이 쓰는 쪽이 유리한데, GPU 여러 대를 꽂는 대신 통합 메모리를 크게 늘린 맥북 구조가 이 조건에 잘 맞습니다. LM 스튜디오는 이 조합을 겨냥해 M5 맥스와 M5 울트라 사용자를 대상으로 한 별도 실행 플랫폼(Bionic)에 GLM-5.3-Flash를 추가하기도 했습니다.
클라우드 API와 비교하면 진짜 “무료”일까
로컬 실행이 전기료 말고는 추가 비용이 없는 건 맞습니다. 다만 클라우드 API 요금 자체도 이미 상당히 저렴하다는 점을 함께 봐야 합니다. GLM-5.3-Flash의 정식 API 가격은 입력 100만 토큰당 0.15달러, 출력 100만 토큰당 0.50달러이고, 9월 9일까지는 절반 할인된 0.075달러와 0.25달러가 적용됩니다. 캐시된 입력은 100만 토큰당 0.015달러까지 내려갑니다. 제피AI는 이 가격을 “이전에는 10배 비싼 가격에서만 구할 수 있던 수준의 지능”이라고 표현했습니다.
즉 “로컬 실행이 무료”라는 말은 정확히는 램 100GB 이상인 고가 맥북을 이미 보유하고 있다는 전제 아래서만 성립합니다. 그런 하드웨어를 갖추지 못한 사람 입장에서는 이미 충분히 저렴한 클라우드 API를 쓰는 편이 총비용으로는 더 쌉니다. 로컬 실행의 실익은 API 비용 절감보다는 데이터를 외부로 보내지 않아도 된다는 프라이버시 쪽에 가깝습니다.
중국산 칩 10만 개 위에서 돌아간 모델
지푸AI에서 사명을 바꾼 제피AI(Z.ai) 로고. 사진 : Getty Images
GLM-5.3-Flash가 화제가 된 또 다른 이유는 이 모델의 대규모 트래픽이 전부 중국산 칩 10만 개로 구성된 클러스터에서 처리됐다는 발표 때문입니다. 하루 100조 토큰 규모의 처리량은 그동안 최상위 프론티어 연구소만 가능하다고 여겨졌는데, 그 물량이 자국산 칩만으로 돌아갔다는 점이 시장의 관심을 끌었습니다. 발표 다음 날 제피AI 주가는 홍콩 증시에서 12% 넘게 올랐습니다.
이 소식은 맥북에서의 로컬 실행과 직접 관련은 없지만, GLM-5.3-Flash가 단순한 오픈소스 모델 하나가 아니라 엔비디아 의존도를 낮추려는 중국 AI 업계 전체의 흐름 속에서 나온 결과물이라는 배경을 보여줍니다.
정리
GLM-5.3-Flash는 벤치마크 점수만 놓고 보면 클로드 오퍼스 4.8급 성능을 MIT 라이선스로 무료 공개한 모델이 맞습니다. 하지만 이걸 로컬에서 돌리려면 최소 93GB, 여유 있게는 200GB에 가까운 통합 메모리가 필요해서, 실제로 조건을 채울 수 있는 맥북은 M3 맥스 이상 고사양 라인업으로 좁혀집니다. 그런 하드웨어가 없다면 이미 절반 할인 중인 클라우드 API를 쓰는 편이 현실적인 선택지입니다.
Leave a comment