노트북 안에서 AI 계산을 나눌 수 있다는 발표
인텔은 2023년 12월 14일 노트북 등에 쓰이는 클라이언트용 코어 울트라 프로세서를 공개했다. 회사는 일반적인 프로그램을 실행하는 CPU, 그래픽과 병렬 계산에 쓰이는 GPU, 일부 인공지능 연산을 위한 NPU라는 세 종류의 계산 장치에 AI 가속 기능을 배치했다고 설명했다. 발표의 새 정보는 인텔이 이 제품에 전용 신경망 처리 장치를 넣고 그 역할을 어떻게 구분했는지였다. [1][2]
같은 행사에서 인텔은 서버용 5세대 제온 등도 발표했다. 이름이 함께 나왔다고 해서 개인 노트북의 코어 울트라와 데이터센터 서버용 칩이 같은 제품이 되는 것은 아니다. 클라이언트 발표가 다룬 것은 사용자의 기기에서 실행하는 계산과 전력에 관한 문제다. 서버용 제품의 처리량이나 비용을 이 노트북 칩의 기능으로 옮겨 읽으면 범위가 다르다. [1][2]
전용 NPU는 어떤 일을 맡는가
인텔은 인텔 AI 부스트라는 이름의 NPU가 오래 실행되는 AI 작업을 낮은 전력으로 처리하도록 설계됐다고 설명했다. 모델이 이미 학습한 값을 이용해 새 입력을 처리하는 일에는 비슷한 숫자 연산을 반복하는 부분이 있다. 그런 부분을 전용 장치에 맡기면 CPU가 다른 프로그램을 처리할 수 있다. 어떤 작업을 실제로 맡길 수 있는지는 모델과 앱이 그 장치를 지원하는지에 달려 있다. [1][2]
가상의 예로 노트북에서 영상 통화 중 배경을 흐리게 처리하고 동시에 문서를 편집한다고 하자. 일정한 영상 처리 일부를 전용 장치가 맡으면 CPU는 문서 편집과 다른 시스템 작업을 계속 처리할 수 있다. 그러나 통화 앱이 해당 장치를 사용하도록 만들어지지 않았거나 다른 방식으로 처리한다면 같은 결과가 나오지 않을 수 있다. 이 예는 역할 분담을 보여 주며 특정 제품의 속도를 측정한 것은 아니다. [1][2]
낮은 전력과 빠른 응답은 같은 비교가 아니다
한 작업에서 더 적은 전력을 쓰는 것과 같은 작업을 더 빨리 끝내는 것은 서로 다른 결과다. 계속 켜 두는 기능에는 작업을 반복할 때 얼마나 전력을 쓰는지가 중요할 수 있고, 한 번만 큰 계산을 할 때는 완료까지 걸린 시간이 더 중요할 수 있다. 인텔이 발표한 NPU의 용도는 저전력의 지속 작업에 관한 설계 설명이다. 모든 프로그램에서 CPU나 GPU보다 빠르다고 읽을 수 없다. [1][2]
예를 들어 효율을 비교하려면 동일한 입력과 출력 품질에서 어느 정도의 전력이나 에너지를 썼는지 맞춰야 한다. 프로그램이 화면을 크게 켜 둔 상태라면 AI 부분의 전력이 줄어도 노트북 전체 사용 시간의 증가 폭은 달라질 수 있다. 칩 한 부분의 효율과 화면, 배터리, 다른 프로그램을 포함한 기기의 실제 지속 시간을 동일한 지표로 취급하지 않는다. [1][2]
발표 당시 확인할 수 있는 지원의 범위
인텔은 코어 울트라의 CPU와 GPU도 AI에 사용된다고 밝혔다. NPU가 추가됐다는 사실은 나머지 계산 장치가 AI 작업에 더 이상 쓰이지 않는다는 뜻이 아니다. 앱은 계산의 종류와 지원 조건에 따라 장치를 선택할 수 있다. 어떤 프로그램에서 기능이 작동할지 알려면 프로세서 이름과 함께 소프트웨어 버전, 해당 기능이 어느 장치를 사용하도록 설계됐는지 봐야 한다. [1][2]
한국에서 노트북이나 기업용 소프트웨어를 비교하는 독자에게 당시 발표는 하드웨어가 선택지를 하나 더 제공했다는 정보다. 배터리 수명, 처리시간과 품질에 어떤 차이가 있는지는 동일한 작업 조건의 측정이 필요하다. 12월 14일 자료가 알려 준 것은 세 계산 장치의 배치와 회사가 설명한 용도까지이며, 개별 제품이나 앱의 성능을 확정한 결과는 아니다. [1][2]
같은 작업에서도 데이터를 다루는 위치는 별도로 확인해야 한다. 칩에 전용 장치가 있어도 앱이 온라인 서버로 계산을 보내도록 만들어졌다면 해당 기능이 모두 노트북 안에서 실행된다고 볼 수 없다. 반대로 기기에서 처리할 수 있는 일부 작업이 있다고 해서 프로그램의 저장과 공유 기능까지 모두 기기에만 남는 것도 아니다. 발표의 하드웨어 기능과 앱이 실제로 데이터를 처리하는 방식을 구분할 필요가 있다. [1][2]
제품의 역할을 비교하는 간단한 순서는 먼저 작업이 지속적으로 반복되는지, 짧은 시간에 끝내야 하는지 정하는 것이다. 이어 앱이 어느 장치를 사용할 수 있는지 확인하고, 전력과 처리시간 중 어떤 수치를 같은 조건에서 비교할지 정할 수 있다. 이렇게 질문을 나누면 NPU가 추가된 의미를 노트북의 모든 성능이 한꺼번에 바뀌었다는 주장으로 확대하지 않게 된다. [1][2]
인텔은 새 모바일 프로세서를 그날부터 매장과 온라인에서 구할 수 있다고 소개하면서, 여러 제조사의 230종이 넘는 PC에 탑재될 것이라고 설명했다. 칩 판매를 시작했다는 말과 모든 파트너 기기가 같은 날 출시됐다는 말은 다르다. 노트북마다 배터리 크기와 냉각, 메모리와 앱 구성이 다를 수 있으므로 탑재 계획을 실제 제품의 동일한 성능으로 바꿔 읽지 않는다. [1][2]
같은 기능에서 GPU가 충분히 잘 작동하는 경우에도 전용 장치가 필요한지에 대한 답은 목적에 따라 달라진다. 빠른 처리량이 우선인 작업과 장시간 켜 두어 전력 부담을 줄이는 작업이 서로 다른 장치에 적합할 수 있다. 당시 발표의 핵심은 이 선택을 위한 전용 장치를 제품에 더했다는 점이다. 세 장치 중 무엇을 선택하는지는 실제 프로그램과 작업을 확인한 뒤 판단해야 한다. [1][2]
