본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

SK하이닉스, 11월 20일 MARS 시연 공개…AI 메모리 경쟁, 공유·재사용으로

SC26에서 메모리 풀과 연산·토큰 공유를 설명했다. 기존 HBM·D램 구성에 무엇을 더했는지, 마벨의 전시 계획과는 어디까지 비교할 수 있는지 짚는다.

핵심 먼저 읽기

AT A GLANCE
  • SK하이닉스는 2026년 11월 20일 MARS 관련 세 가지 시연을 공개하며 메모리 공유·재사용 방식을 설명했다.[1]
  • 국내 AI 인프라 운영자는 칩의 사양뿐 아니라 데이터 배치와 중복 처리 감소가 자기 작업에 주는 효과를 살펴볼 필요가 있다.[1]
  • 이번 공개는 상용 공급 발표가 아니며, 개별 시연 날짜와 도입 일정·실제 비용 절감액은 자료에서 확인되지 않는다.[1]
'SK하이닉스, 11월 20일 MARS 시연 공개…AI 메모리 경쟁, 공유·재사용으로'의 핵심 주제를 표현한 일러스트
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 5개 주제

SK하이닉스는 2026년 11월 20일 공식 뉴스룸에서 메모리 중심 AI 랙 시스템 ‘MARS’ 관련 세 가지 시연 내용을 공개했다. 미국 시카고에서 11월 15~20일 열리는 슈퍼컴퓨팅 2026(SC26)의 전시 설명으로, 메모리 공유와 연산 결과 재사용을 다뤘다. 20일은 자료 공개일이며 개별 시연이 모두 이날 이뤄졌다는 뜻은 아니다.[1] [1]

변화를 구체적으로 보여주는 것은 함께 소개한 캐시 배치 방식이다. 회사는 기존 HBM·D램 중심의 AI 메모리 구성에 CXL 메모리 풀을 추가했다고 설명했다. HBM과 D램을 없애는 대신, 데이터가 다시 필요한 시점에 따라 보관 장소를 나누고 여러 서버가 용량을 함께 쓰게 하는 접근이다.[1] [1]

첫 시연의 핵심은 저장보다 ‘다시 꺼내 쓰기’

MARS는 협력사 솔루션을 메모리 중심으로 하나의 랙에 통합하는 시스템이다. 랙은 서버와 저장·통신 장비를 쌓아 관리하는 틀이다. 첫 시연은 부품을 연결하는 인터페이스인 CXL을 이용해, 여러 서버가 공동으로 사용하는 메모리 공간을 구성했다.[1]

여기에 담는 KV 캐시는 AI가 앞서 계산한 결과를 임시 보관한 정보다. 회사는 대규모 캐시를 SSD에 저장하고, 대화·작업 이력으로 재사용할 캐시를 예상해 D램으로 불러오는 구조를 제시했다. 모든 정보를 빠른 메모리에 계속 두기보다 필요한 정보를 제때 준비한다는 설계다.[1] [1]

이 시연을 평가할 때 CIN이 주목하는 질문은 저장 용량만이 아니다. 예상한 캐시가 실제 요청과 얼마나 잘 맞는지, 필요한 정보를 가져오는 동안 응답이 지연되지 않는지 확인해야 한다. 발표된 구조가 자기 서비스에서도 유리한지는 재사용되는 정보의 양과 요청 패턴을 넣어 시험할 문제다.[1]

나머지 두 시연은 연산과 전처리를 겨냥했다

두 번째 시연은 공유 메모리 공간에 간단한 계산 기능을 더했다. CPU나 GPU로 데이터를 보내기 전에 일부 작업을 처리하는 방식이다. 세 번째는 CPU 서버들이 요청 데이터와 토큰, 즉 AI가 처리하도록 나눈 데이터 단위를 공유하게 했다.[1]

회사는 토큰 공유로 중복 전처리를 줄여 GPU 대기시간을 단축했다고 설명했다. 전처리는 본격적인 AI 계산 전에 입력을 준비하는 단계다. 이 설명에서 성능 개선의 경로는 GPU 자체의 계산 속도 향상이 아니라, GPU가 입력을 기다리는 시간을 줄이는 데 있다.[1] [1]

따라서 세 시연을 하나의 신형 메모리 제품 성능으로 합쳐 읽어서는 안 된다. 캐시를 보관·재사용하는 문제, 데이터를 보내기 전 계산하는 문제, 입력 준비를 중복 수행하는 문제는 서로 다르다. 도입 검토에서도 어느 단계가 실제 지연의 원인인지 먼저 구분해야 시연과 자기 작업을 연결할 수 있다.[1]

변경 전후 비교는 메모리의 배치 범위다

이번 자료에서 확인되는 전후 비교는 HBM·D램만으로 구성하던 계층에 CXL 메모리 풀을 더한 것이다. 곧 사용할 캐시는 HBM·D램에 우선 배치하고 나중에 사용할 캐시는 공유 공간에 둔다. 회사는 SK텔레콤과 실제 대규모언어모델 추론 환경에서 검증했으며, 행사에서는 이를 영상으로 소개했다고 밝혔다.[1]

여기서 구성의 변화와 성능 향상률은 별개의 정보다. 같은 모델·입력 길이·동시 요청 수에서 얼마나 빨라졌는지 수치가 제시되지 않았으므로, 기존 시스템보다 일정 비율 우수하다고 계산할 수 없다. 검증 환경이 있었다는 사실은 중요하지만 모든 운영 환경의 결과까지 대신하지는 않는다.[1]

뉴스핌도 11월 20일 오전 10시 55분 기사에서 회사의 세 가지 시연과 SK텔레콤 협력을 보도했다. 다만 기사 자체가 SK하이닉스 설명을 근거로 삼고 있다. 공식 발표와 내용이 일치한다는 점과, 외부 기관이 별도 시험으로 성능을 재현했다는 주장은 구분해야 한다.[2] [2]

마벨과 비교하면 연결·메모리가 공통 과제다

마벨은 앞선 2026년 11월 13일 SC26 참가 계획에서 CXL 메모리 확장과 메모리 근처 연산 솔루션 등을 소개하겠다고 밝혔다. DDR4·DDR5를 활용한 협력사 메모리 시연과 광 연결 기술도 전시 목록에 포함했다. 메모리와 연결을 함께 다룬다는 점에서 이번 SK하이닉스 발표와 직접 비교할 수 있는 자료다.[3] [3]

다만 두 발표의 단계는 다르다. 마벨 자료는 행사 전의 전시 계획이고 SK하이닉스 자료는 시연 내용을 설명한 공개문이다. 따라서 전시 대상으로 삼은 기술의 범위는 비교할 수 있어도, 이 자료만으로 양사의 실제 전시 성과나 우열을 판정할 수는 없다.[3][1]

마벨은 AI·고성능컴퓨팅에서 연결과 메모리 양쪽의 병목이 자원 활용을 떨어뜨릴 수 있다고 진단했다. 이는 마벨의 문제 인식이다. CIN은 두 회사의 발표를 통해 경쟁의 평가 항목이 메모리 용량뿐 아니라 연결과 배치까지 넓어지고 있다고 해석하지만, 공동 표준 채택이나 시장점유율 변화가 확인됐다는 뜻은 아니다.[3][1]

국내 도입에서는 무엇을 확인해야 하나

국내 AI 서버·클라우드 운영자에게 이번 발표는 장비 사양서 외에 시험할 항목을 제시한다. 캐시 재사용, CPU 전처리, GPU 대기 중 자기 서비스의 부담이 어디에 있는지 확인하는 것이다. 반대로 캐시 재사용 기회가 적거나 다른 단계가 성능을 제한한다면, 이번 시연의 개선 경로가 그대로 적용된다고 보기 어렵다는 것이 CIN의 조건부 해석이다.[1]

운영 효율의 가능성을 클라우드 요금 인하나 SK하이닉스의 확정 매출로 바로 바꿀 수도 없다. 제공 자료에는 이를 계산할 고객별 계약·도입 비용·공급 일정이 없다. 시연을 보고 투자나 구매를 판단하려면 기술적으로 가능한 구성과 실제로 구매·운영할 수 있는 조건을 따로 확인해야 한다.[1][3]

마지막으로 원문이나 공급사 제안서에서 지원 서버·소프트웨어 조합, 비교 시험의 모델과 요청 조건, 응답시간과 처리량, 장비·전력 비용을 확인할 필요가 있다. 특히 MARS의 세 시연과 별도로 전시한 D램 내부 연산 기술을 하나의 상용 제품 사양으로 묶지 말아야 한다. 이번 발표가 보여준 연결 구조와 아직 제시하지 않은 구매 조건을 나누는 것이 출발점이다.[1]

이 글에서 생긴 질문을 다른 관점으로 이어 읽어보세요.

CONNECTED NOTES

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
SK hynix Newsroom

“Building the Future AI Ecosystem Around Memory”: SK hynix Presents Its Technology Vision at Supercomputing 2026

↗
02
뉴스핌

SK하이닉스, HBM 넘어 AI 시스템까지…차세대 메모리 기술 공개

↗
03
Marvell Technology

Marvell Scales Connectivity to Address AI Infrastructure's Next Bottleneck at Supercomputing 2026

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗