본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

ChatGPT agent 공개, 웹에서 행동하는 능력과 작업을 맡길 권한은 다르다

7월17일 출시 발표와 시스템 카드에서 통합 도구·사용자 확인·웹 지시문 공격·평가 범위를 나눠 읽는다.

핵심 먼저 읽기

AT A GLANCE
  • OpenAI는2025년7월17일 조사와 웹 작업을 결합한 ChatGPT agent를 발표했다.[1]
  • 가상 컴퓨터의 브라우저와 터미널 등으로 여러 단계를 수행하지만 중요한 행동의 확인과 사용자 개입을 포함한 통제도 제시했다.[1][2]
  • 시스템 카드의 모델 평가 수치를 전체 서비스의 모든 상황에 대한 성공 보장으로 바꾸면 안 된다.[2]
빈 컴퓨터와 보고서·사용자 손과 정지 버튼의 종이 삽화
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 5개 주제

OpenAI는 2025년 7월 17일 ChatGPT agent를 공개했다. 회사는 웹사이트와 상호작용하는 Operator의 능력과 자료를 조사·종합하는 deep research의 특성을 하나의 에이전트 체계로 결합했다고 설명했다. 사용자의 지시에 따라 가상 컴퓨터에서 조사와 행동을 오가며 여러 단계의 작업을 처리하는 방식이었다.[1]

답을 만드는 도구에서 상태를 바꾸는 도구로

새 기능의 핵심은 질문에 관한 문장을 출력하는 데서 더 나아가 웹사이트를 탐색하고 자료를 모으며 파일을 만드는 작업 흐름에 있었다. 시각적 브라우저, 텍스트 기반 브라우저와 터미널 등 서로 다른 도구를 이용한다는 설명이다. 도구가 늘면 실행할 수 있는 단계도 늘지만 각 단계가 실제로 끝났는지 확인하는 문제는 남는다.[1][2]

웹에서 정보를 읽는 것과 사이트의 상태를 바꾸는 것은 구별해야 한다. 상품 조건을 비교하는 단계와 구매를 확정하는 단계는 결과가 다르다. 도구를 조작할 수 있다는 기술적 능력만으로 사용자에게서 모든 결정을 위임받았다고 볼 수는 없다. 능력과 권한을 별도로 읽는 것이 이 출시를 이해하는 중요한 기준이다.

가정한 예시로 에이전트가 여행 후보 세 곳의 정보를 모아 표를 만들었다고 하자. 그것은 비교 자료를 완성한 결과다. 같은 작업에서 실제 예약까지 했다는 결론은 예약 확인과 결제 상태를 별도로 확인해야 한다. 이 예시는 실행 단계의 차이를 설명하며 당시 서비스를 실제로 시험하거나 예약한 결과가 아니다.

문서 생성에서도 파일이 생겼다는 사실과 내용이 정확하다는 평가는 다르다. 표의 합계와 출처가 맞는지, 요구한 기간을 다뤘는지와 저장 상태를 함께 확인해야 한다. 여러 도구를 연달아 사용할 수 있다는 발표는 최종 산출물의 모든 오류가 사라졌다는 보증이 아니다.

사용자 확인이 작업 흐름에 들어오는 이유

출시 발표는 중요한 결과를 낳는 행동 전에 사용자에게 허락을 구하고 사용자가 작업을 중단하거나 브라우저를 넘겨받을 수 있다고 설명했다. 이는 사용자가 원한 최종 결과와 에이전트가 고른 실행 방법 사이를 확인하는 단계다. 작업을 맡겼다는 사실과 세부 행동의 범위가 언제나 같지는 않다.[1]

시스템 카드도 잘못된 상품을 구매하거나 민감한 정보를 의도치 않게 공유하는 실수의 위험을 따로 다뤘다. 사용자 확인과 민감한 맥락에서의 감독 같은 여러 완화 장치를 설명했다. 보호 장치가 존재한다는 서술을 어떤 경우에도 실수가 일어나지 않는다는 의미로 확대하지 않아야 한다.[2]

확인 화면이 있다는 사실만으로 사용자가 모든 배경을 이해했다고 가정할 수도 없다. 무엇을 누구에게 보내는지, 어떤 금액과 조건을 확정하는지 읽을 수 있어야 확인이 의미를 가진다. 이 설명은 발표가 제시한 통제 방식의 역할을 해석한 것이며 실제 개별 화면의 사용성을 독립 측정한 결론은 아니다.

웹페이지의 문장은 사용자 지시와 다르다

에이전트가 방문한 웹페이지에는 조사 대상 정보와 함께 공격자가 넣은 악성 지시가 있을 수 있다. 시스템 카드는 이런 지시가 원래 의도한 행동을 덮어쓰도록 유도하는 프롬프트 주입 위험을 설명했다. 웹에서 읽은 내용을 그대로 새로운 권한으로 받아들이면 사용자가 요청하지 않은 행동으로 이어질 수 있다.[2]

예를 들어 자료 속 문장이 다른 곳으로 정보를 보내라고 요구하더라도 그것은 사용자의 별도 승인과 같은 것이 아니다. 외부 자료는 확인할 대상이지 자동으로 따라야 할 지시가 아니다. 이 개념 설명은 특정 공격을 실행하는 절차나 실제 데이터 유출 사례를 재현한 것이 아니다.

출시 발표는 감시와 훈련, 사용자 확인 등을 함께 제시하면서도 확대된 도구와 접근 범위가 위험의 영향도 키울 수 있다고 설명했다. 도구의 편리함과 확인 절차를 같은 제품 변화의 일부로 읽어야 한다. 확인을 요구하는 동작을 곧 작업 능력의 실패로만 해석할 수는 없다.[1][2]

모델 평가와 전체 서비스의 경계

시스템 카드의 프롬프트 주입 훈련 평가는 모델의 행동을 시험하며 전체 서비스의 모든 완화 장치를 포함한 종단 간 평가가 아니라고 명시했다. 특정 시험에서 성공한 비율을 실제 모든 웹 작업의 안전 확률로 바꾸면 평가 대상과 사용 환경을 혼동하게 된다.[2]

평가에는 어떤 시나리오와 도구를 사용했는지, 어떤 결과를 성공으로 판정했는지라는 조건이 있다. 동일한 모델이라도 과제와 허용 도구, 실행 환경이 다르면 결과 해석이 달라질 수 있다. 단일 점수가 서로 다른 모든 작업을 대표하는 척도가 되는 것은 아니다.

가정한 시험100개 중90개를 통과했다는 수치가 있더라도 그것이 모든 사용자의 다음100개 작업 중정확히90개가 성공한다는 예고는 아니다. 과제 분포와 실패 정의가 다를 수 있기 때문이다. 이 숫자는 평가의 경계를 설명하는 가정이며 발표에 나온 특정 벤치마크 점수를 재현하지 않는다.

출시 시점의 정보로 읽기

당시 발표와 시스템 카드는 하나의 출시 시점에서 기능과 통제를 설명한 제조사 자료다. 두 문서를 대조하면 공개한 기능과 위험 설명의 관계를 확인할 수 있지만 독립적인 현장 시험 두 건을 확보한 것은 아니다. 회사의 설명과 외부 검증의 역할은 구분해야 한다.[1][2]

출시 이후의 기능 확대나 이용 조건 변경을 이 시점에 이미 제공된 것처럼 넣지 않았다. 같은 이름의 서비스도 시간이 지나면 도구와 정책이 바뀔 수 있기 때문이다. 이번 글은 오늘의 사용법이나 현재 이용 권한을 안내하는 문서가 아니라7월17일 발표된 변화의 구조를 읽는 기록이다.

이 기록은 7월19일까지 공개된 출시 글과7월17일자 시스템 카드를 대조했다. 직접 로그인·구매·메일 발송이나 보안 시험을 수행했다고 주장하지 않았다. 조사·행동·권한·최종 확인과 평가 범위를 나눠 보면 에이전트의 능력이 넓어졌다는 발표와 작업을 책임 있게 완료했다는 판단이 어떻게 다른지 확인할 수 있다.

이 글에서 생긴 질문을 다른 관점으로 이어 읽어보세요.

CONNECTED NOTES

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
OpenAI

Introducing ChatGPT agent: bridging research and action

↗
02
OpenAI

ChatGPT Agent System Card

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗