본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

엔비디아 NVLink Fusion 공개, 칩 연결 대역폭이 AI 서비스 속도는 아니다

5월 18일 엔비디아와 마벨 발표는 맞춤형 칩을 랙 인프라에 결합하는 경로를 설명했다. 연결 능력과 완성 시스템의 결과를 나눠 본다.

핵심 먼저 읽기

AT A GLANCE
  • 엔비디아는 5월 18일 맞춤형 CPU·가속기를 자사 연결·랙 생태계와 결합하는 NVLink Fusion을 발표했다.
  • 마벨도 같은 날짜 발표에서 맞춤형 클라우드 실리콘 고객에게 해당 기술을 제공하는 협력을 설명했다.
  • 마벨의 최대 양방향 1.8TB/s는 연결 대역폭 설명이다. 모델 응답 시간·처리량·전체 비용의 같은 배수 개선을 보증하지 않는다.
다른 모양의 일반 칩과 랙 모형·연결 부품의 파스텔 삽화
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 5개 주제

엔비디아는 2025년 5월 18일 NVLink Fusion을 공개했다. 맞춤형 칩을 NVLink 연결과 랙 규모의 하드웨어·소프트웨어 생태계에 결합하는 반맞춤형 AI 인프라 경로로 설명했다. 단일 칩의 연산 성능을 발표한 것과 다른 층위의 소식이다. 여러 구성요소가 함께 작동하는 시스템의 연결을 다룬다.[1]

마벨도 5월 18일자 발표에서 엔비디아와 협력해 맞춤형 클라우드 실리콘 고객에게 NVLink Fusion 기술을 제공한다고 밝혔다. 핵심 기술인 칩렛의 최대 양방향 대역폭을 1.8TB/s로 설명했다. 이는 회사가 제시한 연결 능력으로, 특정 AI 서비스의 실제 응답 시간을 독립적으로 시험한 결과와는 다르다.[2]

계산과 통신의 다른 역할

연산 장치는 데이터를 계산하고 연결 장치는 장치 사이에 필요한 데이터를 주고받게 한다. 여러 가속기를 사용하는 작업에서는 둘 다 중요할 수 있지만 같은 수치로 평가되지 않는다. 연결의 최대 전송 능력을 그대로 모델의 계산량이나 이용자가 받는 답변 속도로 옮기면 서로 다른 단위를 섞게 된다.

가정한 예시로 여러 작업자가 자료를 나눠 처리할 때 자료를 옮기는 통로를 넓혔다고 하자. 이동 대기가 줄 수는 있지만 각자의 계산 시간이나 작업을 나누는 방식이 그대로라면 전체 시간이 같은 비율로 줄지는 않을 수 있다. 이 예시는 연결과 처리의 구조이며 NVLink Fusion의 실제 성능을 재현한 실험은 아니다.

어느 부분이 병목인지에 따라 개선 효과도 달라진다. 통신 대기 비중이 큰 작업과 연산 자체가 오래 걸리는 작업은 같은 연결 기술을 사용해도 결과가 다를 수 있다. 최대 대역폭은 중요한 사양이지만 모든 작업의 체감 성능을 대신하지 않는다. 입력과 모델, 소프트웨어 조건을 맞춘 시험이 필요한 이유다.

최대 양방향 대역폭의 단위

TB/s는 초당 전송할 수 있는 데이터 크기를 나타내는 단위다. 마벨 발표는 최대값과 양방향이라는 조건을 붙였다. 두 방향을 합친 사양을 아무 설명 없이 한 방향에서 항상 사용할 수 있는 처리량으로 읽거나, 실제 모든 시간에 유지되는 값으로 취급하지 않아야 한다.[2]

가정한 장치가 최대 대역폭을 제공해도 실제 작업은 통신 패턴과 데이터 크기, 다른 구성요소의 제약을 받을 수 있다. 작은 데이터를 자주 기다리는 작업에서는 지연시간도 중요할 수 있다. 최대 전송량과 요청 한 번의 대기시간은 같은 질문이 아니다. 이 예시는 성능 지표의 경계를 설명하며 특정 장치의 측정값을 추가하지 않는다.

대역폭의 숫자만 비교할 때도 전송 방향과 집계 범위를 맞춰야 한다. 장치 하나인지 여러 연결의 합인지, 실제로 동시에 사용할 조건인지가 다를 수 있다. 서로 다른 조건의 값을 나누어 성능 배수라고 부르면 계산의 분모가 달라진다. 이번 기사에서는 단일 사양으로 서비스 속도 배수를 계산하지 않는다.

맞춤형 칩과 기존 인프라의 결합

엔비디아는 맞춤형 실리콘과 자사 GPU·CPU·연결·네트워킹 인프라의 결합 경로를 설명했다. 마벨의 발표도 고객의 맞춤형 XPU를 NVLink 연결과 랙 구조, 소프트웨어 등과 통합하는 선택지라고 밝혔다. 이는 구성 선택의 범위를 넓히는 설명이지 모든 다른 칩을 아무 작업 없이 꽂아 쓸 수 있다는 뜻은 아니다.[1][2]

맞춤형 부품을 시스템에 넣는 과정에는 설계와 소프트웨어, 메모리와 전력·냉각 등 여러 조건이 함께 남을 수 있다. 연결 경로가 제공된다는 사실과 고객이 완성 시스템을 검증해 실제 운영에 넣었다는 결과는 단계가 다르다. 파트너 발표를 모든 고객의 즉시 도입 완료로 확대하지 않아야 한다.

가정한 제조사가 표준 연결 부품을 이용할 수 있게 됐다고 하자. 부품 선택지가 생겨도 최종 제품은 설계와 조립, 시험을 거쳐야 한다. 이 예시는 공급 생태계의 단계를 설명하며 회사가 발표하지 않은 실제 양산 일정이나 고객 인증 상태를 추정하는 주장은 아니다.

파트너 명단과 매출의 차이

엔비디아 발표에는 마벨을 포함한 여러 설계·실리콘 파트너가 제시됐다. 이 명단은 협력과 제공 경로에 관한 정보다. 명단에 들어갔다는 사실을 같은 규모의 확정 주문이나 일정 매출로 환산할 수는 없다. 판매 조건과 고객별 채택, 인식 시점은 다른 자료가 필요한 질문이다.[1]

마벨의 자체 발표는 맞춤형 플랫폼과 엔비디아 기술을 결합하려는 방향을 확인하는 1차 자료다. 다만 두 회사가 같은 방향을 설명했다고 전체 시장의 채택률이나 경쟁 제품 대비 독립적인 우위가 확인된 것은 아니다. 공급사의 기능·전략 설명과 실제 성과 측정의 범위를 나누어야 한다.[2]

설계 서비스가 제공된다는 말과 완성 랙이 모든 사양으로 대량 출하됐다는 말도 다르다. 엔비디아는 파트너의 실리콘 설계 서비스와 솔루션 제공을 안내했다. 이 표현을 보존하면 발표 단계에서 알 수 있었던 범위를 유지할 수 있다. 이후 고객 사례를 당시 이미 완료된 사실로 넣지 않는다.[1]

전체 비용과 운영 결과

AI 서비스의 비용에는 칩 구매 외에 전력과 냉각, 운영·유지, 소프트웨어와 장치 활용도 등이 영향을 줄 수 있다. 연결을 개선한 사실만으로 요청당 비용이 같은 비율로 내려간다고 계산하기 어렵다. 처리량과 지연, 운영 비용은 서로 연관되지만 같은 지표가 아니다.

예를 들어 더 많은 요청을 동시에 처리하도록 구성하면 전체 처리량이 달라질 수 있지만 이용자 한 명이 기다리는 시간과는 다른 관계일 수 있다. 어떤 서비스 목표를 우선하는지에 따라 평가 조건도 달라진다. 이 예시는 시스템 평가의 질문이며 특정 벤치마크나 가격 대비 성능 수치를 측정한 결과는 아니다.

한국의 부품·장비 기업이 이 발표를 읽을 때도 연결 생태계 확대와 자기 제품의 주문을 구분할 필요가 있다. 어떤 랙 구성과 고객 설계에 들어가는지, 실제 채택과 공급 일정은 무엇인지 더 좁혀야 한다. 파트너 기술 발표 하나로 모든 관련 기업의 매출과 이익이 같은 방향으로 확정되지는 않는다.

이 글은 2025년 5월 24일까지 공개된 엔비디아와 마벨의 5월 18일자 발표를 사용했다. 이후 추가 고객과 제품 발표, 독립 시험 결과를 소급하지 않았다. 원문에서는 연결 기술의 역할, 최대·양방향 대역폭, 설계·도입 단계, 파트너와 실제 매출의 경계를 확인할 수 있다. 사양의 단위를 서비스 성능과 나누는 것이 출발점이다.

이 글에서 생긴 질문을 다른 관점으로 이어 읽어보세요.

CONNECTED NOTES

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
NVIDIA Newsroom

NVIDIA Unveils NVLink Fusion for Industry to Build Semi-Custom AI Infrastructure With NVIDIA Partner Ecosystem

↗
02
Marvell Technology

Marvell and NVIDIA to Provide Custom Solutions for Advanced AI Infrastructure

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗