서버가 필요한 작업을 먼저 가른다
2024년 6월 10일 애플은 애플 인텔리전스를 공개하면서 기기에서 처리하기 어려운 인공지능 요청에 프라이빗 클라우드 컴퓨트(PCC)를 이용하겠다고 밝혔다. 애플의 설명에 따르면 기기 안에서 처리할 수 있는 작업은 기기에 남기고, 더 큰 모델이 필요한 요청에 한해 해당 작업에 관련된 데이터를 자체 서버로 보낸다. 이 발표는 어떤 조건으로 데이터를 보낼지를 설명한 설계 공개였다. 당시 이미 모든 기능을 사용할 수 있었거나 모든 요청이 같은 방식으로 처리됐다는 뜻은 아니다.[1][2]
기기 안에서 모델을 실행하면 그 추론을 위해 별도 서버로 입력을 보낼 필요가 없다. 서버에서 더 큰 모델을 실행하면 계산할 자원이 늘지만 기기 밖으로 보낸 데이터가 어떤 환경에서 처리되는지 확인해야 한다. 통신 중 내용을 암호화하는 것만으로는 데이터를 받아 처리하는 프로그램이 어떻게 동작할지 설명할 수 없다. PCC가 별도로 다룬 것은 연결의 비밀뿐 아니라, 연결한 상대가 어떤 코드를 실행하는지 확인하는 문제였다.[1][2]
공개된 코드 목록과 서버가 제시하는 증명
애플은 기기가 PCC 서버에 요청을 보내기 전에 그 서버가 어떤 소프트웨어를 실행하는지 암호학적인 증명을 통해 확인하도록 설계했다고 설명했다. 서버가 실행하는 코드의 측정값을 사후에 기존 항목을 덮어쓰지 않는 공개 기록에 싣고, 보안 연구자가 실제 배포한 소프트웨어 이미지를 조사할 수 있도록 제공하겠다는 구상이었다. 기기는 공개 목록에 오른 소프트웨어를 실행한다고 증명하는 서버에만 관련 데이터를 보내도록 설계됐다.[2]
여기서 측정값은 소프트웨어를 식별하는 디지털 지문에 가깝다. 지문이 목록에 있다는 사실은 그 코드가 공개 점검 대상으로 올라 있다는 의미다. 코드 안에 결함이 없다는 결론은 지문만으로 나오지 않는다. 연구자는 공개된 소프트웨어를 분석해 동작을 검토할 수 있고, 기기는 접속하려는 서버가 목록에 올라 있는 버전인지 확인한다. 외부에서 확인할 수 있게 하는 장치와 실제 소프트웨어의 안전성을 평가하는 일을 구분해야 한다.[2]
암호화된 연결은 전송 중 데이터를 읽기 어렵게 만들지만, 받는 쪽에서 처리해야 하는 내용까지 영원히 숨기는 것과는 다르다. 애플의 설계 설명은 기기가 확인한 노드에 데이터를 암호화해 보내고, 해당 노드가 그 요청을 처리한다는 전제에 놓여 있다. 따라서 서버가 어떤 코드를 실행하는지 확인하는 단계와, 확인된 노드로만 데이터를 보내는 단계가 함께 있어야 공개 목록이 실제 요청 처리에 의미를 갖는다.[2]
예시로 보는 전송 전과 처리 뒤
가령 기기에서 감당하기 어려운 긴 글 요약을 요청했다고 하자. PCC가 필요하다고 판단한 기기는 요약 작업에 필요한 입력을 골라 서버로 보내기 전에, 서버가 공개 목록에 있는 코드를 실행한다는 증명을 확인한다. 서버는 받은 입력을 요약을 만드는 데 사용한다. 처리한 뒤에는 요청을 완료하는 목적을 벗어나 그 데이터를 유지하거나 다시 접근할 수 없게 하는 것이 애플이 내건 설계 목표였다. 긴 글이 실제로 언제 서버로 넘어가는지는 기능과 모델에 달려 있으므로 이 예시는 흐름을 설명한다.[1][2]
일반적인 서버의 접근 제어는 운영자가 일을 하기 위해 일정 권한을 갖고, 기록과 정책으로 그 권한을 관리하는 형태일 수 있다. 애플의 보안 자료는 PCC에서 운영 권한이 있다고 해도 요청의 개인 데이터에는 접근할 수 없게 하는 설계를 목표로 제시했다. 이런 차이를 읽을 때는 ‘회사가 읽지 않는다고 설명한다’와 ‘읽을 수 없도록 시스템이 제한한다는 설계’를 구분할 필요가 있다. 둘 중 무엇을 검토할 수 있는지도 공개되는 기술 자료의 범위에 달려 있다.[2]
한 경로의 약속이 다른 서비스까지 적용되지는 않는다
6월 공개 자료의 보호 설명은 PCC로 보낸 요청과 관련된다. 같은 발표에는 별도의 챗GPT 연결도 소개됐고, 애플은 필요한 정보를 챗GPT에 보내기 전에 사용자에게 묻는다고 설명했다. 외부 서비스로 넘어가는 요청을 PCC 서버에서 처리하는 요청과 같은 경로로 간주하면, 데이터를 받는 주체와 해당 서비스에 적용되는 조건을 혼동하게 된다.[1][2]
출시 전 보안 자료를 읽을 때는 앞으로 제공하겠다는 내용과 이미 공개해 점검할 수 있는 내용을 구별해야 한다. 6월 10일 애플은 배포할 소프트웨어 이미지를 공개하겠다고 밝혔지만, 그날 모든 배포판을 공개했다고 발표한 것은 아니다. 또 특정 취약점이 실제로 없다고 판단하려면 출시된 코드와 운영 방식의 검토가 필요하다. 당시 자료에서 확인할 수 있는 것은 기기, 서버, 공개 검증 기록이 어떻게 연결되도록 설계됐는지다.[2]
공개 목록도 단순한 제품 설명과 기능이 다르다. 제품 설명은 사람이 읽어 설계를 이해하는 데 쓰이고, 목록의 측정값은 기기가 서버의 증명과 일치하는지 자동으로 대조하는 데 쓰인다. 제삼자가 볼 수 있는 공개 자료가 있다는 점과 실제 요청 전에 기기가 확인 절차를 거친다는 점을 함께 살피면, 사용자가 일일이 서버 이름이나 버전을 읽지 않아도 어떤 조건을 확인하도록 설계됐는지 알 수 있다.[2]
독자가 확인할 첫 질문은 어떤 요청이 기기에 머물고 어떤 요청이 서버에 보내지는지다. 그다음에는 서버를 확인하는 방법과, 처리가 끝난 뒤 입력이 어떻게 다뤄지는지를 볼 수 있다. 같은 기능 이름 아래에서도 경로가 다르면 적용되는 약속이 달라진다. 6월 설계의 의미는 서비스가 개인정보 보호를 약속했다는 데서 끝나지 않고, 그중 일부 조건을 사용자 기기와 외부 연구자가 어떻게 확인할 수 있는지 설명했다는 데 있다.[1][2]
