본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

2024년 3월 4일 클로드 3 공개, 발표된 세 모델과 당일 쓸 수 있던 모델은 어떻게 달랐나

앤스로픽은 오퍼스, 소네트, 하이쿠를 한 제품군으로 소개했다. 당일 제공한 모델과 추후 제공 예정인 모델이 있었고, 클라우드 서비스마다 공개한 모델도 달랐다.

핵심 먼저 읽기

AT A GLANCE
  • 앤스로픽은 3월 4일 클로드 3의 오퍼스, 소네트, 하이쿠를 공개했다.
  • 앤스로픽의 채팅과 API에는 오퍼스와 소네트가 당일 제공됐고 하이쿠는 추후 제공 예정이었다.
  • 아마존웹서비스가 같은 날 베드록에서 제공한다고 발표한 모델은 소네트였다.
세 모델과 당일 열린 두 경로를 상징하는 그래픽노블 삽화
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 5개 주제

세 모델을 함께 발표한 날

앤스로픽은 2024년 3월 4일 클로드 3 제품군을 공개했다. 세 이름은 하이쿠, 소네트, 오퍼스였다. 회사는 모델별로 응답 속도, 처리 능력과 비용을 고려해 선택할 수 있다고 설명했다. 제품군 소개에 세 모델이 등장했지만 자체 채팅과 API에서 당일 제공된 것은 오퍼스와 소네트였다. 하이쿠의 제공은 추후로 안내했다. [1]

같은 날 아마존웹서비스는 자사의 관리형 모델 서비스인 베드록에서 클로드 3 소네트를 제공한다고 발표했다. 두 회사의 공통점은 소네트가 당일 이용 가능한 경로에 포함됐다는 것이다. 앤스로픽의 직접 제공과 아마존웹서비스의 관리형 제공은 같은 발표에 묶을 수 있어도, 그날 두 서비스에서 제공된 모든 모델 목록이 일치하지는 않았다. [1][2]

모델의 능력과 제공 경로

회사 발표는 클로드 3 모델이 사진과 도표, 그래프 같은 시각 자료를 입력으로 다룰 수 있다고 설명했다. 예를 들어 사람이 그래프 이미지를 입력하고 그림 속 항목을 글로 설명해 달라고 요청할 수 있다. 입력으로 이미지를 받을 수 있는 것과 응답으로 그림 파일을 생성한다는 주장은 다른 기능이다. 당시 발표는 시각 입력을 처리하는 활용을 소개했다. [1][2]

가령 국내 개발팀이 상품 설명서의 표를 읽어 고객 질문에 답하는 기능을 시험한다고 하자. 먼저 이미지나 문서를 받아 해당 질문에 정확히 답하는지 살펴야 한다. 그다음 자사 서비스가 이미 쓰는 클라우드에서 모델을 호출할 수 있는지, 해당 계정에 어떤 이용 권한이 필요한지를 확인한다. 모델이 이미지를 다룬다는 사실만으로 모든 이용 경로에서 동일한 파일 형식과 크기를 받는 것은 아니다. [1][2]

속도와 가격을 비교하는 조건

앤스로픽은 세 모델을 동일한 비용으로 제공한다고 설명하지 않았다. 자체 발표에서 입력 토큰 100만 개당 가격을 오퍼스 15달러, 소네트 3달러로 제시했고, 출력 토큰 가격도 별도로 표시했다. 토큰은 모델이 문장을 나눠 다루는 단위다. 같은 입력을 넣더라도 답변 길이가 다르면 출력 토큰 수와 전체 비용이 달라질 수 있다. [1]

예를 들어 같은 100만 입력 토큰을 두 모델에 보내고 출력 비용을 빼고 계산하면, 당시 공지의 오퍼스와 소네트 사이에는 12달러 차이가 난다. 이 계산은 앤스로픽이 발표한 입력 단가만 사용했다. 베드록의 청구 조건이나 개별 서비스의 세금, 출력 사용량을 더한 계산은 아니다. 같은 모델을 여러 서비스에서 비교하려면 모델 이름과 함께 어느 서비스의 단가인지 표시할 수 있다. [1][2]

200K 문맥과 실제 문서 작업

앤스로픽 발표의 표에는 세 모델의 초기 문맥 범위가 200K 토큰으로 적혔다. 문맥은 모델이 한 요청을 처리할 때 참고하는 토큰의 범위다. 문서 길이와 토큰 수가 같은 단위가 아니어서 같은 페이지 수라도 언어나 표 구성에 따라 필요한 토큰이 달라진다. 이 숫자는 자료를 얼마나 넣을 수 있는지에 관한 조건이며, 모든 내용을 정확히 찾는다는 보장은 아니다. [1]

예를 들어 긴 문서 중간에 있는 수치를 찾는 시험과 여러 표의 관계를 해석하는 시험은 같은 문서를 넣어도 다른 작업이다. 모델의 문맥 범위가 둘 다 충분하더라도 답변이 어느 표와 단위를 사용했는지 확인해야 한다. 당시 발표에서 성능은 회사가 공개한 시험과 예시를 바탕으로 볼 수 있었고, 한국어 보고서나 회사 내부 양식에서의 성능까지 확정한 것은 아니었다. [1][2]

공개와 실제 이용을 구별하는 기준

3월 4일 자료에는 제품군 소개, 개별 모델의 당일 제공, 클라우드에서 이용할 수 있는 모델이라는 정보가 함께 실렸다. 날짜별로 제품을 비교하려면 먼저 모델 이름, 사용할 수 있는 서비스, 실제로 제공됐는지를 각각 적는다. 예를 들어 하이쿠가 제품군에 들어 있었다는 설명과 하이쿠가 베드록에서 그날 제공됐다는 설명은 같은 근거로 확인할 수 없다. [1][2]

한국 개발팀이 당시의 선택을 재구성할 때는 사용할 데이터 형식, 모델별 성능과 비용, 서비스가 공개한 이용 경로를 차례로 맞춰 볼 수 있다. 한 서비스에서 소네트를 이용할 수 있었다고 해서 동일한 제품군의 다른 모델도 그 경로에 올라왔을 것이라고 가정할 필요는 없다. 두 회사의 당일 자료를 나란히 놓으면 발표한 제품군과 당장 연결할 수 있었던 모델을 구별할 수 있다. [1][2]

직접 제공과 베드록 제공의 차이는 모델 훈련 방식에 관한 발표가 아니라 배포 경로에 관한 정보다. 둘 중 하나를 시험하려면 앱이 어떤 인터페이스로 입력을 전달하고 출력을 받는지 확인해야 한다. 모델이 답을 만들 때의 기능과 계정이 그 모델을 호출하는 권한을 각각 기록하면, 3월 4일의 이용 가능 범위를 설명할 수 있다. [1][2]

입력과 출력 가격의 차이를 한꺼번에 살피면 계산이 더 분명해진다. 당시 앤스로픽 발표의 출력 토큰 100만 개당 가격은 오퍼스 75달러, 소네트 15달러였다. 입력 100만 개와 출력 100만 개를 각각 사용한다고 가정하면 두 비용을 더해 오퍼스 90달러, 소네트 18달러다. 두 경우 모두 회사가 안내한 직접 이용 가격을 적용한 산술이며, 실제 요청의 입력과 출력 토큰 비율은 달라질 수 있다. [1]

세 이름이 한 제품군에 들어가더라도 언제 어떤 서비스를 통해 시험할 수 있었는지는 발표 당시의 가용성을 보여 준다. 기능을 비교할 때 하이쿠를 자료에 적는 것과 당일 결과를 다른 두 모델과 실측해 비교하는 것은 다르다. 이용할 수 없던 모델은 발표된 사양과 추후 일정만 기록하는 편이 정확하다. 이런 식으로 읽으면 당시 자료에 적힌 가격표와 당일 접근 범위를 혼동하지 않는다. [1][2]

아마존웹서비스 자료는 베드록에서 소네트를 이용하는 절차와 시각 입력을 보내는 예를 따로 소개했다. 앤스로픽이 제품군 전체를 설명한 내용과 달리, 그 안내는 베드록에서 그날 접근 가능한 모델에 관한 것이었다. 동일한 날짜의 두 자료가 서로 다른 개수의 모델을 제시한 이유는 회사마다 발표한 제공 범위가 달랐기 때문이다. [1][2]

이 글에서 생긴 질문을 다른 관점으로 이어 읽어보세요.

CONNECTED NOTES

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
앤스로픽

Introducing the Next Generation of Claude

↗
02
아마존웹서비스

Anthropic’s Claude 3 Sonnet Is Now Available in Amazon Bedrock

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗