본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

FTC가 라이팅 도구의 후기 생성 기능에 문제를 제기한 이유

라이더(Rytr) 사건은 사용자가 입력한 경험과 AI가 추가한 사실을 구분해야 하는 이유를 보여준다.

핵심 먼저 읽기

AT A GLANCE
  • 미국 연방거래위원회(FTC)는 2024년 9월 25일 라이더의 후기 생성 기능에 관한 고발장과 합의 제안 문서를 공개했다.
  • 위원회는 짧은 입력에 근거 없는 세부 정보가 붙으면서 실제 경험처럼 읽힐 수 있다고 주장했다.
  • 당시 문서는 혐의와 제안된 조치를 담았다. AI로 다듬은 후기 전체에 대한 판정은 아니었다.
비어 있는 후기 카드와 겹쳐진 종이 조각을 그린 색연필 삽화
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 5개 주제

2024년 9월 25일 미국 연방거래위원회(FTC)는 글쓰기 서비스 라이더(Rytr)를 상대로 한 고발장과 합의 제안 문서를 공개했다. 고발장에서 위원회가 지목한 기능은 상품이나 서비스의 이용 후기와 추천사를 만들어 주는 기능이었다. 이용자가 짧은 입력을 주면 그 내용을 확장한 여러 문안을 제시하는 방식이었다. FTC는 그 과정에서 입력에 없던 구체적인 내용이 결과에 들어갈 수 있었다고 주장했다. 같은 날 공개한 합의 문서는 위원회가 이런 기능의 제공을 어떻게 제한하려 했는지 보여준다. 두 문서의 역할은 각각 혐의의 설명과 제안된 조치의 제시였다. [1][2]

이 사건을 생활경제의 문제로 읽는 이유는 후기의 한 줄이 구매자가 감수할 비용을 바꿀 수 있기 때문이다. 배송 기간이 짧다는 평가와 정해진 날까지 도착한다는 주장은 비슷해 보이지만, 선물을 특정 날짜에 써야 하는 구매자에게는 다르다. 후기에 붙은 사용 기간이나 구매 횟수 역시 상품이 오래 쓰인다는 인상을 강화한다. 이번 문서는 그처럼 작은 문장 차이가 어떻게 생길 수 있는지 서비스의 입력과 출력에서 살펴볼 수 있게 했다.

글을 다듬는 일과 사실을 보태는 일

후기에는 사실과 평가가 함께 들어간다. ‘만족스럽다’는 평가는 작성자가 표현하는 판단이고, ‘세 차례 주문했다’는 문장은 과거에 실제로 무엇을 했는지에 관한 주장이다. 글쓰기 도구가 표현을 매끄럽게 바꾸더라도 횟수와 날짜 같은 내용이 원래 경험에 맞는지는 따로 확인해야 한다. 위원회가 지목한 위험은 짧은 입력을 설득력 있는 문장으로 확장하는 과정에서 바로 이런 사실 주장이 추가될 수 있다는 데 있었다. 만들어진 문장이 자연스럽거나 상세하다는 이유만으로 실제 경험을 전달한다고 볼 수는 없다. [1]

판단이 애매할 때에는 바뀐 문장을 질문으로 바꿔 보면 좋다. ‘오래 쓸 만하다’는 평가에는 무엇을 오래 써 보았는지 물을 수 있다. ‘석 달 동안 문제없이 썼다’는 문장에는 실제 사용 시작일과 기간을 확인할 수 있다. 사실을 묻는 질문에 답할 수 없다면 새 세부 정보를 빼고 확인된 경험을 자기 말로 남기는 편이 읽는 사람에게 더 정확하다. 문체가 좋아졌는지와 진술이 사실인지도 이렇게 따로 점검할 수 있다.

장바구니에서 만나는 가상의 예

가상의 예로 한 구매자가 배송 후기에 ‘빨리 왔다’고 적었다고 하자. 문장을 ‘생각보다 빠르게 도착했다’로 다듬으면 핵심 경험은 유지된다. 여기에 ‘세 번 주문했는데 매번 이틀 안에 도착했다’고 덧붙이면 주문 횟수와 배송 기간이라는 확인 가능한 사실이 새로 생긴다. 후자를 읽는 사람은 해당 판매자가 한 번이 아니라 반복해서 빠르게 배송했다는 근거로 받아들일 수 있다. 그러나 작성자가 실제로 한 번만 주문했다면 그런 해석을 뒷받침할 경험은 없다. 이 예는 위원회가 제시한 실제 후기를 재현한 것이 아니라 문장 수정이 사실 추가로 바뀌는 경계를 설명하기 위한 것이다.

고발장과 제안 문서를 함께 읽는 법

고발장은 FTC가 서비스의 기능과 활용 가능성을 어떤 근거로 문제 삼았는지 설명한다. 합의 제안 문서는 그 문제에 대응해 후기나 추천사 생성에 쓰이는 서비스에 어떤 제한을 두려 했는지 보여준다. 기능의 결과물에 근거 없는 세부 정보가 들어갈 수 있다는 설명과, 앞으로 특정 종류의 기능 제공을 제한하는 방안은 서로 다른 내용이다. 고발장을 읽을 때는 설명과 예가 무엇을 뒷받침하는지, 제안 문서를 볼 때는 금지 또는 제한의 대상이 구체적으로 무엇인지 구분하는 것이 유용하다. 공개 당시 합의 문서는 제안 단계였으므로 그 날짜를 최종 명령이 확정된 날로 읽으면 절차가 뒤섞인다. [1][2]

이번에 공개된 고발장과 합의 제안 문서는 개별 서비스와 기능을 특정한다. 따라서 이번 사건에 관한 질문은 ‘어떤 후기든 규칙을 위반하는가’보다 ‘이 고발장은 기능의 어떤 작동 방식을 문제 삼았고 제안 문서는 어떤 조치를 담았는가’에 가깝다. 제안된 조치를 실제 쇼핑몰에 표시되는 정책이나 구매자에게 적용되는 공지로 읽을 이유도 없다. 조사 문서에 나온 절차의 상대방과 범위를 먼저 확인해야 한다. [1][2]

후기를 읽는 사람과 쓰는 사람의 확인 지점

구체적인 표현을 발견했다고 해서 후기가 가짜라고 단정할 수는 없다. 판매 페이지에서는 한 문장만으로 누가 직접 구매했고 어떤 경험을 했는지 판별하기 어려운 경우가 많다. 같은 단점이 서로 다른 조건에서 반복되는지, 작성 시점과 제품 종류가 맞는지, 후기 외에도 판매 조건이나 반품 안내에서 같은 정보를 확인할 수 있는지 살피면 판단 근거가 늘어난다. 작성자 입장에서는 도구가 고쳐 준 문장에서 수량, 사용 기간, 가격, 반복 경험처럼 새로 추가된 내용을 원래 기억이나 주문 기록과 대조할 수 있다. 제품에 대한 감상과 확인 가능한 사건을 나눠 읽으면 무엇이 틀렸을 때 다른 구매자의 결정에 영향을 줄지도 더 잘 보인다.

후기를 모으는 판매자가 도구를 쓰더라도 같은 질문을 적용할 수 있다. 글을 받는 화면에서 구매자가 직접 경험을 입력하는지, 도구가 그 내용을 변형하는지, 누가 게시 전에 추가된 사실을 확인하는지 구분하는 것이다. 입력에 없는 사연을 만들어 후기 형식으로 게시하는 경우와 이미 받은 의견에서 오타만 수정하는 경우에는 자료가 남는 방식이 다르다. 같은 도구를 썼다는 설명만으로 게시 문안이 작성자의 실제 경험을 보존했는지 알 수는 없다.

공개 문서가 말할 수 있는 범위

당시 자료만으로 특정 쇼핑몰 후기의 작성 경로나 실제 노출 규모까지 확인할 수는 없다. 위원회가 어떤 기능에 문제를 제기했다는 사실, 그 기능이 어떤 내용을 추가할 수 있다고 주장했는지, 특정 후기가 허위로 판명됐는지는 각각 다른 질문이다. 이 차이는 서비스를 평가할 때도 중요하다. 문장 교정, 번역, 문체 조정과 구매하지 않은 상품을 직접 써 본 것처럼 꾸미는 일은 같은 화면에서 이뤄질 수 있지만 독자에게 전달하는 주장의 성격은 다르다. 9월 25일 자료는 바로 그 주장과 실제 경험의 간격을 검토할 근거를 제공한다. [1][2]

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
미국 연방거래위원회

FTC Complaint In the Matter of Rytr LLC

↗
02
미국 연방거래위원회

Rytr LLC Agreement Containing Consent Order

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗