본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

소네트 4.6의 컴퓨터 사용 개선, 웹페이지 문장이 사용자 명령이 되는 것은 아니다

2월 17일 앤스로픽은 새 소네트의 화면 조작 능력과 프롬프트 주입 방어 개선을 알렸다. 작업 능력이 커지는 것과 화면 속 정보에 실행 권한을 주는 것은 다른 문제다.

핵심 먼저 읽기

AT A GLANCE
  • 앤스로픽은 Sonnet 4.6의 컴퓨터 사용과 여러 단계 작업 능력이 개선됐다고 발표했다. 모든 작업의 성공을 보장한다는 뜻은 아니다.
  • 화면을 읽고 클릭하는 모델은 웹페이지에 숨긴 악성 지시에도 노출될 수 있다. 페이지의 정보와 사용자의 작업 지시는 구분돼야 한다.
  • 회사의 방어 개선 평가와 완전한 차단은 다르다. 실행 전 권한 확인과 실행 후 실제 결과 검증이 별도로 필요하다.
컴퓨터를 조작하는 AI에 사용자 열쇠의 경로는 연결되고 외부 페이지의 경로는 차단되는 일러스트
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 6개 주제

보는 능력과 행동하는 능력이 만났다

앤스로픽은 2026년 2월 17일 Claude Sonnet 4.6을 발표하면서 컴퓨터 사용, 코딩과 여러 단계 계획 등의 개선을 설명했다. 컴퓨터 사용은 별도 API가 없는 소프트웨어에서도 화면을 보고 가상 마우스를 클릭하거나 키보드를 입력하는 방식이라고 소개했다. 화면에서 자료를 읽는 능력이 실제 도구 조작과 연결되는 것이다. [1]

사용자가 주문한 작업을 실행하는 데 화면 정보가 필요하더라도 화면의 모든 문장이 새로운 명령이 되는 것은 아니다. 웹페이지는 자료를 제공할 수 있지만 사용자가 맡긴 목적이나 권한을 마음대로 바꿀 수는 없다. 정보를 관찰하는 단계와 그 정보를 근거로 행동하는 단계 사이의 경계를 구분해야 한다.

웹페이지가 지시를 숨기는 방식

발표는 공격자가 웹사이트에 지시를 숨겨 모델의 작업을 가로채려는 프롬프트 주입 위험을 설명한다. 모델이 작업 중 읽는 외부 내용에 실행 지시처럼 보이는 문장을 섞는 방식이다. 자료에 포함된 표현을 사용자 지시와 같은 권한으로 받아들이면 원래 맡긴 목적에서 벗어날 수 있다. 페이지를 잘 읽는 능력과 지시의 출처를 구별하는 능력은 다르다. [1]

가상으로 사용자가 공개 보고서의 제목을 확인해 달라고 했는데 페이지 한쪽에 다른 곳으로 정보를 보내라는 문장이 있다고 하자. 제목을 확인하는 데 그 문장을 실행할 이유는 없다. 화면에서 발견했다는 사실은 사용자가 전송을 허가했다는 근거가 되지 않는다. 이 예시는 특정 사이트에서 실제 공격을 수행하거나 발견했다는 보도가 아니라 신뢰 경계를 설명하는 가정이다.

자료 속 인용문을 그대로 정리하는 것과 그 인용문이 시키는 동작을 실행하는 것도 구분해야 한다. 페이지를 설명하는 업무에서는 악성 지시의 존재 자체가 관찰 대상일 수 있다. 그러나 그것을 발견했다는 이유로 해당 행동을 따라야 하는 것은 아니다. 읽은 내용을 데이터로 다루는 경계가 있어야 원래 요청한 작업을 유지할 수 있다.

이전 소네트 발표와 달라진 비교

별도 비교 자료인 2025년 9월 29일 Sonnet 4.5 발표도 컴퓨터 사용 능력 향상과 브라우저 조작을 소개했다. 4.6 발표는 그 이전 모델과 비교한 능력 개선에 더해 프롬프트 주입 저항이 크게 나아졌다는 회사의 안전 평가를 설명한다. 두 발표는 다른 시기의 제품 공개이며, 이전 자료를 새 모델에 대한 독립된 검증으로 세지는 않는다. [2][1]

4.6 자료는 과거 OSWorld 점수와 이후 점수가 서로 다른 평가 판본을 사용한다는 주석도 제공한다. 숫자만 나란히 놓고 동일 시험에서 정밀하게 같은 조건의 성능 차이를 계산하면 평가 조건을 놓칠 수 있다. 이번 글은 개별 점수의 우열을 새로 산출하지 않고, 화면 조작 능력과 권한 경계가 각각 필요하다는 구조에 초점을 둔다. [1]

발표자가 자체 평가에서 방어가 개선됐다고 말한 것은 해당 평가 조건의 결과다. 모든 웹사이트와 모든 공격에서 완전히 안전하다는 보증으로 바꾸어 읽을 수는 없다. 실제 제품이 어떤 환경에서 어떤 권한으로 작동하는지에 따라 확인해야 할 조건이 달라진다. 새 버전이라는 이유만으로 실행 전후 검증을 생략할 근거는 생기지 않는다.

사용자가 맡긴 범위와 실행 경계

일반적인 업무 흐름을 생각하면 관찰, 판단과 행동을 나누어 기록할 수 있다. 어떤 화면에서 무엇을 봤는지, 그것이 요청 목적과 어떤 관계인지, 어떤 동작을 허용받았는지를 분리하는 것이다. 페이지가 요구했다는 이유만으로 발행이나 전송 같은 동작의 범위를 넓히지 않으면 외부 내용과 사용자의 의도가 섞이는 일을 줄일 수 있다.

가상의 예약 검토 업무라면 날짜와 조건을 확인하는 일과 최종 신청을 제출하는 일은 다르다. 화면이 다음 단계 버튼을 보여 준다는 사실만으로 사용자가 그 제출까지 맡겼는지 알 수는 없다. 이 예시는 실제 서비스를 예약하라는 지시가 아니라 작업 범위를 읽는 방법이다. 능력이 커져 여러 단계를 수행할 수 있어도 허용된 목적은 별도로 유지돼야 한다.

한편 사람의 확인을 넣는다고 모든 문제가 자동으로 해결되는 것도 아니다. 무엇을 확인하는지 분명하지 않은 반복 승인 요청은 실제 결과를 설명하지 못할 수 있다. 중요한 것은 요청된 목적과 실행될 행동, 대상과 내용이 구체적으로 연결돼 있는지다. 권한의 경계를 명확히 하는 일과 모든 동작마다 형식적인 확인을 요구하는 일은 같은 방법이 아니다.

클릭했다고 완료된 것은 아니다

모델이 버튼을 눌렀다는 기록만으로 실제 작업이 성공했다고 확정할 수 없다. 저장이나 제출은 서비스 쪽에서 처리되고 결과가 늦게 보일 수도 있다. 따라서 실행 뒤에는 완료를 보여 주는 실제 상태를 확인해야 한다. 처리 중 화면을 완료로 보고하거나 연결 오류만으로 실패를 확정해 같은 요청을 다시 보내면 별도의 문제가 생길 수 있다.

이 원리는 컴퓨터 사용 능력 평가와 실제 업무 성공을 구별하는 데도 연결된다. 여러 단계 테스트를 잘 수행했다는 설명은 유용한 자료이지만 사용자의 특정 환경에서 이미 작업이 끝났다는 증거는 아니다. 시도한 행동과 검증된 결과를 나누어 기록하면 모델의 능력을 과장 없이 사용할 수 있다.

편리함과 경계를 함께 읽는다

4.6 발표는 여전히 가장 숙련된 사람의 컴퓨터 사용 능력에는 미치지 못한다고 설명한다. 이는 개선이라는 표현을 모든 환경에서 사람을 대체한다는 주장으로 확대하지 말아야 할 조건이기도 하다. 사용 가능한 모델과 실행 환경, 도구의 권한과 실제 확인 절차를 함께 살펴야 한다. [1]

이 글은 2월 21일까지 공개된 두 공식 발표를 바탕으로 한다. 실제 악성 페이지나 유료 API를 호출해 방어를 시험하지 않았고, 회사 평가를 독립 재현한 결과처럼 제시하지 않는다. 확인한 사건은 새 모델의 공개와 회사가 설명한 개선이며, 화면 속 정보와 사용자 명령의 경계를 유지해야 한다는 점을 함께 읽는다.

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
Anthropic

Introducing Claude Sonnet 4.6

↗
02
Anthropic

Introducing Claude Sonnet 4.5

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗