오픈AI ‘할라페뇨’ 추론칩 공개, 엔비디아 블랙웰 대항마 될까

오픈AI가 브로드컴과 손잡고 만든 자체 AI 추론 칩 ‘할라페뇨(Halapeño)’를 공개하면서 엔비디아가 독점하다시피 해온 AI 반도체 시장에 균열이 생길지 관심이 쏠리고 있다. 모델 개발사가 직접 반도체까지 설계하는 ‘풀스택 AI’ 전략이 본격화되는 모습이다.

할라페뇨 칩이란 무엇인가

할라페뇨는 오픈AI가 브로드컴과 공동 개발한 맞춤형 AI 추론 칩이다. 모델을 학습시키는 용도가 아니라, 이미 학습을 마친 모델이 사용자의 질문에 답하고 작업을 처리하는 ‘추론’ 단계에 특화되어 있다. 오픈AI는 자사 AI 모델을 설계 과정에 직접 활용해 칩 설계부터 생산까지 단 9개월 만에 마쳤다고 밝혔다.

오픈AI 측은 할라페뇨의 와트당 성능이 현재 시장의 최첨단 제품보다 뛰어나다고 설명했다. 소프트웨어 최적화와 자체 칩을 결합해 AI 모델 구동에 드는 추론 비용을 절반 이상 줄이는 데 성공했다는 설명도 함께 내놓았다.

엔비디아 블랙웰과 비교하면 어떨까

브로드컴 최고경영자는 할라페뇨가 엔비디아 블랙웰이나 구글 텐서처리장치(TPU)와 대등한 성능을 갖췄다고 평가했다. 다만 아직 엔비디아가 막 출하를 시작한 차세대 칩 ‘베라 루빈’과의 정면 비교 테스트는 이뤄지지 않았다는 점은 감안할 필요가 있다.

구분할라페뇨(오픈AI·브로드컴)블랙웰(엔비디아)
주 용도추론 전용학습·추론 범용
개발 기간약 9개월
비용 경쟁력일반 GPU 대비 약 50% 절감 주장
생산TSMCTSMC
실전 배치 시점2026년 내 마이크로소프트 등 데이터센터이미 상용화, 후속작 베라 루빈 출하 중

브로드컴·TSMC·셀레스티카가 맡는 역할

할라페뇨의 생산은 TSMC가 담당하고, 서버 조립은 캐나다의 전자제품 제조업체 셀레스티카가 맡는다. 브로드컴은 칩 설계 파트너로 참여해 오픈AI의 아키텍처를 실제 반도체로 구현하는 역할을 한다. 완성된 칩은 올해 안에 마이크로소프트를 비롯한 파트너사의 데이터센터에 투입될 예정이다.

왜 지금 오픈AI가 자체 칩을 만드나

오픈AI가 자체 칩 개발에 나선 배경에는 폭발적으로 늘어나는 추론 수요와 그에 따른 비용 부담이 있다. 챗봇 응답, 에이전트 작업 처리 등 추론 연산량이 학습 연산량을 빠르게 앞지르면서, 엔비디아 GPU에만 의존할 경우 비용과 공급 모두에서 병목이 생길 수 있다는 우려가 커졌다. 모델부터 칩까지 직접 설계하는 풀스택 전략은 이런 병목을 스스로 해소하려는 시도로 풀이된다.

자주 묻는 질문

Q. 할라페뇨는 엔비디아 GPU를 완전히 대체하나요?
A. 아니다. 할라페뇨는 추론 전용 칩으로, 모델 학습에는 여전히 엔비디아 등 범용 GPU가 쓰인다. 오픈AI 역시 당장 엔비디아 의존도를 완전히 없애기보다는 추론 비용을 분산시키는 데 초점을 맞추고 있다.

Q. 일반 소비자가 체감할 수 있는 변화가 있나요?
A. 직접적으로는 크지 않지만, 추론 비용이 낮아지면 장기적으로 AI 서비스 요금이나 무료 사용량 정책에 긍정적인 영향을 줄 가능성이 있다.

출처

함께 보면 좋은 글

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤