본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

코파일럿+ PC의 40 TOPS는 어떤 속도를 말하나

2024년 5월 20일 마이크로소프트는 인공지능 연산 장치를 갖춘 PC 범주를 소개했다. 발표의 처리량과 앱에서 기다리는 시간은 다른 지표다.

핵심 먼저 읽기

AT A GLANCE
  • 마이크로소프트는 2024년 5월 20일 신경망 처리장치(NPU)를 갖춘 코파일럿+ PC 범주를 발표했다.
  • 발표가 소개한 NPU의 성능 기준은 초당 40조 회 이상 연산을 뜻하는 40 TOPS 이상이었다.
  • 이 수치는 처리장치의 연산 처리량이다. 특정 앱이 답을 내기까지 걸리는 시간이나 모든 기능이 인터넷 없이 동작함을 보장하지 않는다.
추상적인 노트북과 그 안의 연산 칩을 그린 잉크 삽화
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 4개 주제

새 PC 범주가 내세운 칩

마이크로소프트는 2024년 5월 20일 코파일럿+ PC를 소개했다. 인공지능 관련 계산에 쓸 수 있는 신경망 처리장치를 갖춘 제품 범주였다. 다음 날 개발자용 발표는 새 PC의 NPU가 40 TOPS 이상의 처리 능력을 제공한다고 설명했다. 회사는 첫 기기들의 예약을 발표와 함께 시작하고 6월 18일부터 제품을 판매할 예정이라고 안내했다. [1][2]

TOPS에서 T는 1조를 뜻하고, 전체 단위는 초당 몇 조 회의 연산을 할 수 있는지를 나타낸다. 40 TOPS를 숫자로 풀면 초당 40조 회다. 이 수치는 칩이 특정 조건에서 처리하는 연산의 규모를 표현한다. 한 번의 질문에 40조 개 답을 내거나, 사용자가 보는 화면이 1초에 그만큼 갱신된다는 뜻은 아니다. [1][2]

처리량과 기다리는 시간

같은 처리량을 표시한 두 PC에서도 같은 작업의 완료 시간은 다를 수 있다. 앱이 어떤 모델을 사용하고 입력을 어떤 크기로 나누는지, 필요한 데이터가 메모리에서 얼마나 빨리 공급되는지에 따라 결과가 달라진다. 소프트웨어가 실제로 해당 NPU에 일을 보내는지도 중요하다. 처리장치가 일을 받아 계산하는 성능과 앱의 전체 작업 시간에는 다른 단계가 포함된다. [2]

가령 가상의 작업에서 사진을 열고 크기를 맞춘 뒤 모델로 배경을 찾아 새 이미지 파일을 저장한다고 하자. 일부 계산을 NPU가 맡더라도 파일 열기, 화면 그리기, 결과 저장이 모두 그 장치에서 처리되는 것은 아니다. 계산 단계가 빨라져도 앞뒤의 작업이 오래 걸리면 전체 대기 시간은 표시 처리량의 비율만큼 줄지 않는다. 이 예는 제품의 실제 측정 결과가 아니다.

PC 안에서 처리하는 기능과 서버 기능

마이크로소프트는 개발자 자료에서 운영체제의 실행 환경과 기기에서 사용할 수 있는 모델·기능을 함께 소개했다. 프로그램이 지원하는 작업은 데이터를 기기에 두고 계산할 수 있지만, 다른 기능은 서버 쪽 모델을 호출할 수 있다. 같은 PC에 NPU가 있다는 사실만으로 모든 앱이 그 장치를 사용한다거나, 모든 인공지능 기능에서 인터넷 연결이 필요 없다고 판단할 수 없다. [1][2]

어떤 앱이 사용하는 경로를 확인하려면 기능별로 봐야 한다. 예를 들어 카메라 영상의 배경을 기기에서 처리하는 기능과, 온라인 서비스에 요청을 보내 긴 문서를 분석하는 기능은 계산이 이루어지는 장소가 다를 수 있다. 발표 자료의 로컬 처리 예시를 그 브랜드의 전체 기능에 적용하면 앱마다 다른 조건을 놓치게 된다. [2]

발표 사양과 제품 선택의 기준

PC를 비교하는 사람에게 40 TOPS는 특정 장치의 조건을 살피는 출발점이 될 수 있다. 자신이 쓰는 앱에 적용되는지 알려면 지원하는 장치와 운영체제, 실행되는 모델, 전원 조건을 확인해야 한다. 같은 단위라도 연산 정밀도나 측정 방식이 다르면 숫자의 비교에 조건이 붙는다. 공개 자료의 사양과 실제 작업을 같은 조건에서 시험한 결과는 서로 다른 근거다. [1][2]

2024년 5월의 두 발표가 보여 준 것은 기기에서 인공지능 계산을 처리하는 부품이 제품 범주의 기준으로 등장했고, 이를 이용하기 위한 소프트웨어 환경이 함께 소개됐다는 점이다. 실제로 어떤 모델과 기능이 어느 계정에서 작동하는지는 출시 시점과 앱 지원에 따라 달라질 수 있다. 당시 발표를 기록할 때에는 처리량의 단위와 처음 제공하기로 한 범위를 분리해 적는 편이 정확하다. [1][2]

전력 사용량도 처리량에서 곧바로 나오지 않는다. 같은 작업을 빨리 끝내도 계산을 하는 동안 소비하는 전력이 다를 수 있고, 화면이나 저장장치에서 쓰는 전력도 배터리 사용 시간에 들어간다. 제조사가 발표한 배터리 결과를 비교할 때에는 어떤 종류의 작업을 했고 어떤 조건에서 시간을 쟀는지 따로 봐야 한다. 처리장치의 처리량은 그중 하나의 정보다. [1][2]

기기에서 계산할 수 있다는 점은 입력 데이터를 어디에 보내는지 확인하는 데도 도움이 된다. 다만 기기 안에서 처리하는 단계가 있다고 해서 앱의 모든 단계가 같은 곳에서 동작한다고 볼 수는 없다. 예를 들어 화면 효과는 기기에서 적용하고 결과를 공유할 때 온라인 서비스를 이용할 수 있다. 실행 위치를 알려면 전체 앱의 이름보다 어떤 기능과 단계를 사용하는지 먼저 나눈다. [2]

발표에 나온 판매 예정일도 성능 사양과 다른 정보다. 5월 20일은 기기 범주와 예약 시작을 소개한 날이고, 6월 18일은 그날 회사가 제시한 판매 시작 일정이다. 가용성은 국가와 제품에 따라 다를 수 있다. 5월의 아카이브 글에서 이 날짜를 적는 목적은 그 주에 이미 모든 기기가 판매됐다는 인상을 주지 않기 위해서다. [1]

개발자 자료는 운영체제에 들어가는 모델과 개발자가 호출할 수 있는 실행 환경을 구분해 소개했다. 운영체제가 한 기능에서 특정 모델을 쓸 수 있다는 사실과 다른 앱의 개발자가 자기 프로그램에서 그 기능을 바로 사용할 수 있다는 사실은 다르다. 앱이 요구하는 모델, 인터페이스와 제공 시점이 맞는지 확인해야 실제로 장치의 계산 능력을 쓸 수 있다. [2]

비슷한 종류의 칩을 비교하는 상황에서도 어떤 연산을 셌는지와 그 연산이 실제 작업에 쓰이는지 확인해야 한다. 초당 처리량을 화면의 반응 속도나 특정 앱의 응답 시간으로 옮기려면 측정한 작업이 같아야 한다. 그 작업의 성능 자료가 없다면 40 TOPS가 알려 주는 것은 회사가 소개한 처리장치의 처리량 범위까지다. [1][2]

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
마이크로소프트

Introducing Copilot+ PCs

↗
02
마이크로소프트 윈도우 개발팀

Windows Copilot Runtime and Copilot+ PCs

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗