H100 대비 성능·가격 좋아
나승주 인텔코리아 상무는 26일 서울 여의도 FKI타워에서 열린 신제품 출시 기자간담회에서 차세대 인공지능(AI) 가속기 ‘가우디3’를 소개하며 이같이 말했다.
그는 “라마3(Llama 3) 8B(Billion) 기준 인퍼런스 처리량은 가우디3가 엔비디아 H100 대비 1.09배 뛰어나다”면서도 “가격은 엔비디아 제품의 3분의 1 수준이다. 가격 대비 좋은 성능을 제공하고 있으며, 소프트웨어 최적화로 향후 성능은 더 좋아질 것”이라고 설명했다.
가우디3는 대규모 생성형 AI에 최적화된 인텔의 신제품 AI 가속기다. 64개의 텐서 프로세서 코어(TPC)와 8개의 행렬 곱셈 엔진(MME)을 통해 심층 신경망 연산을 가속화했다. 96메가바이트(MB) S램과 128기가바이트(GB) 3세대 고대역폭메모리(HBM2E)를 탑재했다. 시장에서 가장 수요가 많은 엔비디아 H100 및 AMD MI300X 등과 경쟁할 제품으로 꼽힌다.
나 상무는 “현재 시장에서 특정 벤더나 기술에 종속되고 싶지 않아 하는 수요가 있다”며 “(가우디3는) 특정 벤더 외 강력한 대체재이면서도 저렴한 가격을 갖췄다. 실제로 경쟁사 대비 성능이 예상보다 좋다는 반응이 많다”고 말했다.
인텔은 현재 가우디3에 관해 델 테크놀로지, HPE, 슈퍼마이크로 등 글로벌 서버 업체들과 협력하고 있다. 국내에서는 네이버와 기술 협력을 진행하고 있으며, 산학 쪽 중심으로 가우디 생태계를 점차 넓힐 계획이다.
인텔은 가우디3와 함께 차세대 서버용 중앙처리장치(CPU)인 ‘제온6 P-코어’도 출시했다. 이번 신제품은 코어당 성능 향상에 초점을 둔 제품이다. 엣지에서부터 데이터센터 및 클라우드 환경에 이르기까지 다양한 영역에서 AI의 성능 요구를 충족하도록 설계됐다.
제온6 P-코어는 이전 세대 대비 2배 높은 성능을 갖췄다. 메모리 대역폭 역시 2배 늘었다. 경쟁사 AMD 에픽(EPYC) 제품과 비교하면 AI 추론 성능은 최대 5.5배, 고성능컴퓨팅(HPC) 성능은 최대 2.1배 좋다는 게 인텔 측 설명이다.
나 상무는 “6월 E코어 기반 제온 6를 출시한 데 이어 오늘 코어당 고성능 제품을 원하는 고객을 공략할 수 있는 P코어 제품을 출시하며 제온 6 라인업이 좀 더 풍성해졌다”며 “가우디3와 함께 국내 고객들에게 AI 인프라 구축에 폭넓은 선택지를 제공할 수 있게 됐다”고 말했다.
이어 “조만간 주요 OEM에서 오늘 출시한 인텔 제품을 탑재한 서버를 국내 출시할 계획”이라며 “국내 고객들도 인텔 신제품의 강점을 빠른 시일 안에 경험할 수 있을 것으로 예상한다”고 덧붙였다.