업무 자료를 연결하는 미리보기
아마존웹서비스 AWS는 2023년 11월 28일 업무용 생성형 인공지능 도우미 아마존 Q를 발표했다. 기업이 사용하는 자료에 연결해 직원 질문에 답하거나 업무에 필요한 내용을 요약하는 기능을 미리보기로 소개했다. 보도자료는 기본 제공 연결 도구가 40개 이상이라며 아마존 S3, 구글 드라이브와 세일즈포스 등의 예를 들었다. 도구 수는 당시 회사가 제시한 연결 범위이지, 어느 회사의 모든 문서가 자동으로 연결된다는 뜻은 아니다. [1][2]
같은 날 AWS의 기술 소개는 회사가 가진 사용자 신원과 역할, 권한에 따라 상호작용을 조정한다고 설명했다. 회사 내부 자료를 검색하게 하는 일과 그 자료를 어느 직원에게 보여 줄지 정하는 일을 함께 다룬 것이 발표의 특징이었다. 자료 연결을 시작하려면 조직이 쓰는 저장소와 접근 범위를 알아야 하고, 실제 적용 범위는 제품 기능과 조직의 설정에 달려 있다. [1][2]
연결 도구와 사용자 권한은 다른 문제다
가령 가상의 회사가 업무 안내서와 인사 자료를 같은 저장소에 둔다고 하자. 저장소를 연결하면 검색 시스템이 그곳에서 자료를 찾을 수 있게 할 수 있다. 하지만 신입 직원이 휴가 신청 안내를 검색할 수 있다고 해서 다른 직원의 인사 기록까지 보여 줘야 하는 것은 아니다. AWS 발표가 설명한 방향은 연결된 자료 가운데 질문한 사용자의 기존 권한에 해당하는 내용을 사용한다는 것이다. 자료 출처를 연결하는 기능과 권한을 판정하는 기능을 따로 이해할 필요가 있다. [1][2]
질문이 모호한 경우에도 두 문제는 구분된다. 사용자가 열 수 있는 자료 중에서도 질문과 관계없는 문서를 고르면 답변이 부정확해질 수 있다. 반대로 질문에 알맞은 자료라도 그 사용자에게 읽을 권한이 없으면 답변의 근거로 삼아서는 안 된다. 검색 결과가 나왔다는 사실, 그 결과가 관련 있다는 판단, 해당 사용자가 볼 수 있다는 판단은 서로 다른 조건이다. 미리보기 발표는 제품이 그 조건을 다루는 방식을 설명했지 모든 결과를 검증한 자료는 아니다. [1][2]
답변에 사용한 자료와 모델 학습도 구별한다
AWS는 고객이 아마존 Q에서 사용하는 내용을 기반 모델을 훈련하는 데 쓰지 않는다고 밝혔다. 직원의 질문에 답하기 위해 허용된 회사 문서에서 내용을 찾아오는 일과, 그 문서를 넣어 모델 내부 값을 새로 학습시키는 일은 다르다. 회사 설명에 따르면 자료를 연결해도 그것만으로 고객 자료가 기반 모델 학습에 들어가는 구조는 아니었다. 다만 이 설명에서 조직의 보존 기간, 접속 기록, 지역별 조건을 모두 추론할 수는 없다. [1][2]
예를 들어 사용자가 구매 승인 절차를 물었을 때 최신 사내 규정을 찾아 답변을 만드는 경우를 생각할 수 있다. 규정이 업데이트되면 도구가 어떤 버전을 검색했는지가 답변의 정확성에 영향을 준다. 모델을 새로 훈련하지 않는다고 해서 연결된 문서가 자동으로 최신화되거나 답변이 틀릴 가능성이 사라지는 것은 아니다. 기술 소개와 함께 실제 운영에서는 자료의 갱신 상태와 근거 문서를 확인해야 하는 이유다. [1][2]
미리보기 발표를 도입 검증으로 바꾸지 않는다
기업 담당자가 발표를 읽고 확인할 수 있는 것은 그날 AWS가 제시한 용도, 예로 든 연결 대상과 권한 설계다. 이를 업무 환경에서 평가하려면 서로 다른 권한을 가진 두 테스트 계정으로 같은 질문을 해 보고, 각 계정에서 공개돼야 할 자료와 제한돼야 할 자료가 구분되는지 비교할 수 있다. 허용된 답변도 원문과 맞는지 확인해야 한다. 이는 실제 제품 시험을 설계하는 예이며, 당시 특정 기업에서 그 검사를 통과했다는 의미는 아니다. [1][2]
한국 기업이 사내 검색을 바꿀 때도 제품 발표만으로 자기 조직의 사용 조건이 결정되지는 않는다. 자료가 저장된 곳과 운영 권한, 오래된 문서를 정리하는 책임이 먼저 정해져야 어떤 도구를 붙였을 때 답변 범위가 달라지는지 판단할 수 있다. 11월 발표의 의미는 질문에 답하는 기능을 기업 자료와 기존 권한에 연결하겠다고 공개한 점이다. 사용 결과와 비용을 알려면 별도의 운영 자료가 필요하다. [1][2]
서로 다른 저장소를 연결할 수 있다는 사실과 그 저장소들의 권한 구조가 같다는 사실도 별개다. 어떤 조직은 팀 단위로 문서를 공유하고, 다른 자료는 개인이나 프로젝트별로 접근을 제한할 수 있다. 연결 도구의 수를 비교하기 전에 자주 쓰는 자료의 권한이 어떻게 표현되는지를 보는 편이 유용하다. 새 서비스가 기존 자료를 더 쉽게 찾게 해도, 어떤 직원에게 어떤 내용이 보여야 하는지는 조직의 설정과 검증에서 결정된다. [1][2]
발표는 연결 도구의 예로 서로 다른 종류의 서비스를 나열했다. 저장소, 문서 협업 도구와 고객관리 시스템에 들어 있는 기록은 같은 방식으로 정리되지 않는다. 예를 들어 고객 상담 기록에는 같은 질문에 답하더라도 회사의 안내서와는 다른 개인정보나 계약 맥락이 들어 있을 수 있다. 연결 가능하다는 설명과 답변에 어떤 종류의 자료를 포함할지 결정하는 일은 서로 다르다. [1][2]
미리보기 당시의 설명을 뒤에 나온 기능 목록으로 대체하지 않는 것도 중요하다. 당시 문서에 나온 이름과 예시는 어떤 문제를 해결하겠다고 발표했는지를 알려 준다. 후속 기능 추가나 이용 조건 변화는 다른 날짜의 사건이다. 11월 28일 발표에서 확인할 수 있었던 것은 미리보기와 기존 권한을 이용하겠다는 설계 설명이며, 그 이후 구현 상태를 주장하려면 별도 자료가 필요하다. [1][2]
