본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

클로드 새 원칙 문서 공개, 훈련의 목표가 모든 답변의 보증은 아니다

앤트로픽은 2026년 1월 클로드의 가치와 행동을 설명하는 새 문서를 공개했다. 원칙의 목록에서 판단 이유를 설명하는 방식으로 바뀐 점과 실제 행동 검증의 차이를 본다.

핵심 먼저 읽기

AT A GLANCE
  • 앤트로픽은 클로드의 가치와 행동 목표를 설명하고 훈련에 사용하는 새 원칙 문서를 공개했다.
  • 새 방식은 무엇을 따를지뿐 아니라 왜 그런 판단이 필요한지 설명한다. 기존의 개별 원칙 목록과 대비된다.
  • 회사는 실제 출력이 목표에 항상 맞지는 않는다고 밝혔다. 문서 공개와 모델의 행동 검증은 별개의 근거가 필요하다.
클로드 새 원칙 문서 공개, 훈련의 목표가 모든 답변의 보증은 아니다의 핵심을 표현한 비실사 일러스트
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 6개 주제

무엇을 공개한 것인가

앤트로픽은 2026년 1월 22일로 표시된 공식 안내에서 클로드의 새 헌법 문서를 공개했다고 밝혔다. 이는 국가의 법이 아니라 회사가 AI 모델에 기대하는 가치와 행동을 설명하고 훈련에 사용하는 문서다. 공개 안내는 목표를 설명하는 동시에 모델 출력이 언제나 그 이상에 맞지는 않을 수 있다고 명시한다.[1]

이전 안내에는 1월 21일자로 새 문서 공개를 알리는 갱신 문구도 있다. 이 글은 늦은 쪽인 1월 22일 공식 안내를 사건 시점으로 삼아 1월 24일까지의 정보를 읽는다. 문서가 존재한다는 사실과 실제 모델의 모든 답변이 바뀌었다는 주장은 다르므로 공개 날짜만으로 전면적인 행동 변화를 단정하지 않는다.[1][2]

규칙의 목록에서 판단 이유의 설명으로

회사는 이전 문서가 독립된 원칙의 목록이었다면 새 접근은 왜 특정 행동을 원하는지 더 자세히 설명한다고 밝혔다. 처음 보는 상황에서도 넓은 원칙을 적용해 판단하도록 하려는 의도다. 이는 정해진 문장을 기계적으로 대입하는 것만으로는 복잡한 상황을 모두 다루기 어렵다는 회사의 문제의식으로 이해할 수 있다.[1]

원칙에 이유와 맥락을 붙이면 서로 다른 목표가 충돌하는 상황을 설명하기 쉬워질 수 있다. 예를 들어 사용자에게 도움이 되는 답변과 민감한 정보를 보호하는 행동을 동시에 고려해야 할 수 있다. 다만 설명이 자세해졌다는 사실만으로 모든 새로운 상황에서 판단이 정확해졌다는 결과가 입증되는 것은 아니다. 목표의 명료화와 성능의 확인은 다른 단계다.

가상으로 어떤 도구에 ‘정확하게 답하라’는 지시만 주는 경우와, 모르는 부분을 구분하고 근거와 불확실성을 설명해야 하는 이유까지 주는 경우를 생각할 수 있다. 후자는 기대하는 판단을 더 구체적으로 표현한다. 그러나 실제로 잘 지키는지는 다른 질문을 던져 살펴야 한다. 이 예시는 클로드의 실제 성능 시험 결과가 아니다.

원칙 문서가 훈련에서 맡는 역할

앤트로픽은 새 문서가 훈련의 여러 단계에 쓰이며, 클로드가 관련 대화와 응답, 응답의 순위 등 합성 훈련 자료를 만드는 데도 활용된다고 설명한다. 문서는 대외 설명 자료일 뿐 아니라 훈련에 쓰는 도구라는 두 역할을 가진다. 회사가 밝힌 사용 방식과 외부에서 직접 검증한 효과를 구분해 전달할 필요가 있다.[1]

별도 비교 자료인 2023년 5월 9일 안내는 원칙을 이용해 모델이 자신의 답변을 비판하고 고친 뒤, AI가 생성한 피드백을 훈련에 활용하는 방식을 설명했다. 따라서 원칙 문서를 훈련에 쓴다는 개념 자체가 2026년에 처음 등장했다고 말할 수는 없다. 이번 변화는 이전 방식과 이어지는 맥락 안에서 봐야 한다.[2]

새 안내는 이전부터 이어진 방법이 발전했으며 문서의 역할이 더 중심적이라고 설명한다. 그러나 두 안내만으로 세부 훈련 데이터의 양이나 계산 비용, 개선된 정확도 비율을 산출할 수는 없다. 공개되지 않은 기술 수치를 문서의 분량이나 설명의 강도에서 추정해 붙이지 않았다. 설명의 변화와 측정 결과의 변화는 구분할 항목이다.[1]

공개된 의도와 실제 답변 사이의 간격

회사는 문서가 클로드의 비전이며 실제 행동이 그 비전에서 벗어날 수 있다는 점을 강조했다. 새로운 상황에 대한 대응이나 모델의 능력이 커질 때의 문제도 계속 검토할 과제로 남겼다. 따라서 원칙 문서 공개를 오류가 사라졌다거나 안전이 완성됐다는 인증처럼 쓰면 회사가 밝힌 조건과도 맞지 않는다.[1]

가상으로 어떤 모델이 원칙을 잘 요약해 설명하더라도, 애매한 요청이나 정보가 부족한 상황에서 그 원칙을 일관되게 적용하는지는 별도 문제다. 문서를 말로 재현하는 능력과 실제 과제에서의 행동은 같은 평가가 아니다. 필요한 것은 사용하려는 맥락에서 결과를 관찰하고 실패하는 조건도 함께 남기는 검토다.

업무에 AI를 쓰는 조직도 문서의 목표에 동의하는지와 실제 작업에 적합한지를 나누어 확인할 수 있다. 개인정보를 다루는 방식, 근거가 없는 답변의 표현, 사람이 검토할 시점처럼 구체적인 조건을 정해 볼 수 있다. 이것은 이번 문서가 특정 조직의 업무 적합성을 이미 검증했다는 뜻이 아니라 목표를 실제 검토 질문으로 바꾸는 방법이다.

투명성과 제약은 함께 읽을 수 있다

앤트로픽은 새 문서를 CC0로 공개해 누구나 활용할 수 있다고 밝혔다. 문서가 공개되면 사용자는 어떤 행동이 회사의 의도에 맞는지와 맞지 않는지를 더 구체적으로 물을 수 있다. 그렇다고 문서의 자유로운 활용이 모델 자체의 학습 데이터나 모든 내부 작동이 공개됐다는 뜻은 아니다. 공개 대상의 범위를 정확히 읽어야 한다.[1]

또한 회사는 새 접근에서도 일부 행동에 대한 명확한 제약을 사용한다고 설명한다. 이유를 길게 설명하는 방식으로 바뀌었다고 모든 구체적 규칙을 없앴다는 의미는 아니다. 일반 원칙과 특정 제한이 함께 존재할 수 있다. 어떤 층위의 설명을 다루는지 구분하면 원칙 중심과 규칙 중심을 단순한 양자택일로 오해하지 않을 수 있다.[1]

이전 2023년 안내도 원칙이 모델의 가치를 이해하고 조정하기 쉽게 만드는 장점과 불완전함을 함께 설명했다. 새 문서의 공개를 읽는 질문 역시 목표가 무엇인지, 어떤 방식으로 훈련에 연결되는지와 실제 결과를 무엇으로 확인할지로 나눌 수 있다. 회사의 의도에 대한 설명은 중요한 정보지만 그 자체가 독립적인 행동 시험은 아니다.[2]

이번 주의 공개 기록에서 남길 것

새 문서는 클로드의 가치와 판단 이유를 더 자세히 설명하는 훈련용 기준을 공개했다는 사건이다. 이 글은 일반적으로 제공되는 모델을 대상으로 한 회사 설명을 읽으며, 전문 용도의 모든 모델이 같은 문서에 완전히 맞는다고 확대하지 않는다. 회사도 적용 범위와 목표·현실 사이의 간격을 따로 설명한다.[1]

1월 24일까지의 두 안내가 보여 주는 것은 원칙을 활용한 훈련의 연속성과 새 설명 방식이다. 이후의 모델 출시나 실제 성능 결과를 당시 검증된 사실처럼 보태지 않았다. AI 원칙 문서를 볼 때는 바라는 행동, 훈련에 연결하는 방법, 실제 관찰된 결과와 아직 확인할 조건을 나누어 기록하는 것이 유용하다.

이 글에서 생긴 질문을 다른 관점으로 이어 읽어보세요.

CONNECTED NOTES

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
Anthropic

Claude's new constitution

↗
02
Anthropic

Claude’s Constitution

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗