2023년 5월 31일 미국 연방거래위원회와 법무부는 아마존의 음성 비서 알렉사에 관한 아동 개인정보 사건을 공개했다. 정부는 아마존이 아동의 음성 녹음을 보관하는 방식과, 이용자와 보호자에게 설명한 삭제 절차에 문제가 있었다고 주장했다. 당국이 공개한 합의 명령안에는 2,500만 달러의 민사 제재금과 일부 데이터의 삭제 등 시정 조치가 담겼다. 당시 발표는 명령안이 효력을 얻으려면 연방 법원의 승인이 필요하다고 설명했다.[1][2]
음성으로 기기에 말을 걸면 사용자가 낸 소리 자체와 그 소리를 문자로 바꾼 기록이 각각 만들어질 수 있다. 둘 중 하나는 원래 음성을 들을 수 있는 파일이고, 다른 하나는 어떤 말을 했는지 읽을 수 있는 정보다. 소장은 알렉사의 음성 처리 과정에서 그런 자료가 별도로 남는 경우를 설명했다. 삭제 기능을 평가하려면 사용자가 화면에서 무엇을 눌렀는지와 서비스가 실제로 어떤 자료를 지웠는지 함께 확인해야 한다.[2]
녹음과 문자 기록이 별도로 남는 이유
당국이 제기한 문제 중 하나는 녹음을 삭제하는 요청이 모든 저장 위치에서 그 녹음의 문자 기록까지 지우지는 못했다는 점이다. 음성 비서 서비스는 음성 명령을 읽어 동작을 정하기 위해 그 내용을 문자로 바꿀 수 있다. 회사가 녹음과 문자 기록을 서로 다른 시스템에서 관리하면 삭제 요청을 처리할 때도 자료별 위치를 찾아야 한다. 한 화면에서 재생할 수 있는 녹음이 사라졌다고 해서 다른 저장소의 문자 기록까지 같은 시점에 처리됐는지는 알 수 없다.[1][2]
가령 아이가 기기에 학교에 갈 시간을 물어봤다고 하자. 서비스에 소리 파일과 질문을 옮긴 문장이 각각 저장됐다면, 소리 파일을 지워도 문장이 남아 있는 동안에는 질문의 내용을 읽을 수 있다. 반대로 문장을 먼저 지워도 소리가 남아 있다면 그 내용을 다시 들을 수 있다. 이 예는 소장에 등장하는 구체적인 아동의 녹음을 재현한 것이 아니라, 같은 말에서 두 가지 기록이 생길 수 있음을 보여 준다.
한 건의 기록과 아동 프로필
사용자가 특정 녹음을 지워 달라고 하는 요청과 아동 계정 전체에 관한 삭제 절차는 다르다. 녹음 한 건을 대상으로 하면 어느 시각의 발화와 그에 연결된 기록을 찾는 것이 필요하다. 비활성 아동 계정을 대상으로 하는 절차에서는 일정 기간 쓰지 않은 프로필을 찾아 관련 자료를 처리하는 기준이 필요하다. 5월에 공개된 명령안에는 비활성 아동 알렉사 계정의 삭제가 별도 조치로 제시됐다.[1][2]
또한 소장은 음성 자료 외에 위치 정보의 삭제 절차도 문제 삼았다. 위치 정보와 녹음은 서비스에 남는 내용과 사용 목적이 다를 수 있다. 그래서 당시 당국의 설명은 어떤 범주의 자료에 어떤 삭제 요청이 적용되는지 구분했다. 5월 문서에 나온 일부 녹음 및 위치 정보의 삭제 조건을 모든 알렉사 자료가 동일한 규칙에 따라 없어지는 것으로 확대해서 읽을 수는 없다.[1][2]
삭제 요청과 데이터의 학습 사용
명령안에는 삭제 대상 정보를 알고리즘 훈련에 쓰지 못하게 하는 조치도 포함됐다. 자료를 가지고 있는 기간과 그 자료를 어떤 목적으로 쓰는지는 서로 다른 관리 문제다. 이용자가 한 종류의 기록을 지워 달라고 요청했을 때 저장 상태뿐 아니라 이후 처리에서 그 자료를 제외하는지도 확인해야 한다. 당국이 공개한 조치에는 삭제 요구와 해당 자료의 사용 제한이 모두 들어 있었다.[1]
가정에서 기능을 쓰는 사람에게 삭제 화면은 통제의 출발점이다. 그 화면이 녹음만 다루는지, 문자로 옮긴 내용과 관련 정보까지 함께 다루는지에 따라 실제 효과는 달라진다. 5월 소장은 아마존이 당시 사용자에게 제시한 설명과 내부 처리의 차이를 문제로 들었다. 발표의 대상은 미국 당국이 제기한 사건이며, 현재 제품의 설정이나 사용 조건을 보여 주는 안내는 아니다.[1][2]
당시 공개된 문서의 범위
5월 31일에 확인할 수 있었던 것은 정부의 주장과 제안된 조치다. 소장은 정부가 어떤 자료를 근거로 문제를 제기했는지 설명했고, 발표문은 당국과 회사가 합의한 명령안에 어떤 조치가 들어 있는지 밝혔다. 당시 법원의 판단이 끝난 것으로 기록하면 두 문서의 역할을 혼동하게 된다. 날짜와 문서의 상태를 함께 적어야 합의안에 제시된 제재금과 그 효력의 시점을 구별할 수 있다.[1][2]
기록을 지웠는지 확인할 때 구별할 항목
기기에서 이전 대화 목록이 보이는지와 서비스가 원래 자료를 계속 가지고 있는지는 다른 문제다. 목록에 보이는 항목은 사용자에게 표시되는 내용이고, 서비스 내부에서는 음성 파일과 문자 기록, 계정과의 연결 정보가 별도 위치에 있을 수 있다. 정부가 제기한 쟁점은 사용자가 한 요청이 이런 저장 위치를 어디까지 다루는지였다. 소장은 회사가 삭제 방식에 관해 이용자에게 알린 내용과 자료를 실제로 처리한 방식의 차이를 근거로 들었다.[1][2]
같은 삭제 요청이라도 처리할 자료가 여러 종류라면 완료의 의미를 구체적으로 밝혀야 한다. 가령 보호자가 한 날짜의 음성 기록만 지우려는지, 한동안 쓰지 않은 자녀 프로필을 정리하려는지에 따라 범위가 달라진다. 자료를 서비스 기능 개선에 쓰는 절차가 따로 있다면 대상 기록을 그 절차에서도 제외할지 확인해야 한다. 5월 발표에서 아동 계정과 일부 자료의 삭제, 해당 자료의 학습 사용을 별도 조치로 다룬 이유를 이 차이에서 볼 수 있다.[1][2]
민사 제재금 2,500만 달러도 삭제 대상의 규모를 보여 주는 통계는 아니다. 그 금액은 당국이 공개한 합의 명령안의 금전 조치다. 보호자가 특정 종류의 정보를 어떻게 관리할 수 있는지는 합의안에서 제시한 별도 시정 조치와 법원 절차를 읽어야 알 수 있다.[1]
