오픈AI, 브로드컴과 공동 개발한 첫 자체 칩 '할라피뇨' 공개

요약

Openai는 테크크런치 보도에 따라 Broadcom과 설계한 첫 자체 추론 프로세서 할라피뇨를 공개했다. 이 칩은 학습이 아닌 추론, 즉 사용자 쿼리에 대해 학습된 모델을 실행하는 작업에 특화됐다. 오픈AI는 초기 테스트에서 현존 최고 수준의 부품보다 성능 대 전력 소비 비율이 크게 향상됐다고 밝혔으나 아직 평가 단계로 배포 일정은 미정이다. 회사는 이 칩을 아키텍처부터 메모리·네트워킹에 이르는 인프라 스택 최적화의 한 단계로 자리 잡았다. 사전 훈련은 앞으로도 Nvidia 하드웨어에서 계속될 것으로 예상된다. 이번 행보는 구글의 TPU와 Amazon의 트레이니엄에 이어 각 연구소 고유의 워크로드에 최적화된 가속기를 구축하는 흐름을 따른 것이다.

왜 중요한가

추론은 오픈AI에서 가장 크고 가장 빠르게 성장하는 비용 항목이다. 성능 대 전력 소비 비율을 높이는 칩은 모든 쿼리의 단위 경제성을 개선하고, 구글·아마존이 자체 실리콘으로 전환한 것과 동일한 논리로 엔비디아의 가격 협상력을 약화시킨다. 설계를 자체 보유하는 것은 GPU 공급 부족 시 대안을 확보하는 의미이기도 하다.

주목할 포인트

• 할라피뇨가 평가에서 실제 배포로 전환되는 시점.
• 엔비디아 및 경쟁 자체 칩과의 독립적 벤치마크 비교.
• 오픈AI 추론 작업 중 범용 GPU 비중이 얼마나 줄어드는지.