"컴퓨터 안의 토목과"였던 중국 AI 인프라 엔지니어, 연봉 최대 800만 위안
중국 AI 업계에서 '컴퓨터 안의 토목과'로 불리던 인프라 엔지니어 상위권 연봉이 700만~800만 위안(약 14억~16억원)이 됐다. 레이펑왕이 인터뷰한 헤드헌터는 선전의 한 후보 연봉이 30만 위안(약 6천만원)에서 2년 만에 100만 위안(약 2억원)이 됐다고 했다.
업계 GPU 실가동률은 평균 25~27%이고, 잘하는 팀은 40%까지 끌어올린다. 다만 크게 오른 사람은 인프라 인력의 5~10%라는 반론도 실렸다.
출처: 레이펑왕 10/15
300만 위안에서 800만 위안
레이펑왕이 인터뷰한 대모델 유니콘 임원은 이렇게 말했다.
- "예전엔 업계에서 인프라·엔지니어링 하는 사람을 '컴퓨터 안의 토목과'라고 불렀다. 제일 더럽고 힘든 일을 하고 돈은 꼴찌였다."
이 임원에 따르면 대기업 AI 인프라 엔지니어의 연봉 패키지는 예전엔 300만 위안(약 6억원)을 넘기 어려웠다. 지금은 좋은 인프라 인력이 700만~800만 위안(약 14억~16억원)을 받는다. 알고리즘 직군(500만~1,400만 위안, 약 10억~28억원)보다는 아직 낮다.
상장 인력서비스 기업 커루이궈지의 AI 담당 헤드헌터는 선전에서 만난 한 후보의 연봉을 예로 들었다. 2024년 30만 위안(약 6천만원), 2025년 50만 위안(약 1억원), 2026년 이직하면서 100만 위안(약 2억원)이 됐다. 유니콘에서 대기업으로 옮기면 연봉이 2배가 되는 경우가 있다. 대기업에서 유니콘으로 옮기면 3배까지도 가지만 스톡옵션 비중이 크고, 2배가 더 흔하다고 했다.
같은 헤드헌터는 2025년 초 DeepSeek R1을 계기로 꼽았다. 업계가 적은 인원으로 R1을 만든 비결을 찾다가 그 일부를 인프라 비용 절감에서 찾았고, 그 뒤로 각 회사가 DeepSeek 인력을 데려가려고 연봉을 "열어 놓고" 협상했다는 것이다.
GPU 가동률 25~27%
인프라 엔지니어는 비싼 GPU의 가동률을 높여 회사 돈을 아끼는 일을 한다. 한 대모델 연구소의 연산 스케줄링 전문가에 따르면 업계 GPU 실가동률은 평균 25~27%에 머문다. 사 온 연산 자원의 절반 이상이 놀고 있다는 뜻이다. 같은 장비로 잘하는 팀은 40%까지 끌어올린다.
기사에 실린 계산은 이렇다. 블랙웰 GPU 8장짜리 서버는 중국 내 현물 인도가가 1,300만 위안(약 26억원), 3개월 뒤 인도 선물가가 약 1,100만 위안(약 22억원)이다. 인터뷰이는 "8장만 아껴도 천만 위안이 넘게 남는다"고 했다. 비용 절감 효과가 큰 분야로는 PD 분리, 전문가 병렬, vLLM, SGLang 최적화가 거론됐다.
한 유니콘의 시니어 인프라 엔지니어는 '7급 숙련 기계공' 일화를 들었다. 서버를 열어 광섬유 선을 정리하고 케이블 타이를 조금 느슨하게 풀었더니 서버가 10~20% 빨라졌다고 한다. "왜 그런지 말로는 설명이 안 된다. 직접 해 봐야 안다."
수혜자 5~10%
StartLux 공동창업자 겸 CTO는 '연봉 2배'가 소수 사례를 일반화한 말이라고 했다. 마이마이의 직무별 급여 통계에서 중국 본토 AI 인프라 인력 월급은 평균 7만3천 위안(약 1,460만원)으로 대모델 알고리즘 직군보다 약간 높다. 그러나 vLLM·SGLang 같은 추론 프레임워크를 제품에 배포하는 자리는 대부분 월 4만~5만 위안(약 800만~1천만원)에 머문다.
인터뷰이들이 꼽은 연봉 2배 분야는 추론 최적화와 모델 양자화다. 이 CTO는 대형 인터넷 기업에서 분산 시스템, 고성능 컴퓨팅, 검색·추천, 데이터베이스를 5~10년 한 경력자가 주로 이 자리를 차지한다고 봤고, 높은 프리미엄을 받는 사람은 AI 인프라 인력의 5~10%라고 추산했다.
직군별 차이도 있다.
- 연산자(커널) 개발과 추론은 수요가 많다.
- 훈련 프레임워크 인력은 상대적으로 덜 찾는다. 대형 인터넷·클라우드 기업만 전담 팀을 유지할 수 있고, 일부 유니콘은 훈련 팀을 통째로 없애고 추론·연산자 팀만 남겼다.
- 이직 시 인상률은 엔비디아 CUDA 경험자가 80% 이상, 중국산 칩 경험자가 50% 안팎이다.
- IPO를 앞둔 중국산 칩 회사들은 현금 인상률이 45% 안팎이지만 상장 후 현금화될 수 있는 스톡옵션을 내건다.
돈을 내는 회사
인터뷰이들이 꼽은 인프라 인력 수요처는 바이트댄스, 텐센트, 그리고 DeepSeek·Kimi·MiniMax 같은 유니콘이다. 대기업 인프라 부서는 보통 50~60명부터 시작해 연산자·훈련·추론·네트워크로 나뉜다. 유니콘은 20명 안팎의 팀에 연산자와 추론 엔진을 둘 다 다루는 사람을 선호한다.
알리바바와 바이두는 클라우드·빅데이터 시절 쌓은 분산 시스템 인력을 AI로 돌릴 수 있고 자체 칩도 있어서, 연봉을 크게 올려 데려오는 경우는 드물다고 했다. 텐센트는 기반 모델이 약했던 탓에 별도 AI 인프라 부서를 만들고 외부 팀을 영입하고 있다.
커루이궈지 헤드헌터는 이 상승세가 "적어도 2~3년은 간다"고 봤다. 연산을 많이 쓰는 AI 코딩과 처리량·지연에 민감한 고화질 영상 생성이 아직 상용화 초기라는 이유다.