2023년 4월 20일 구글과 알파벳의 순다르 피차이는 구글 리서치 안의 브레인 팀과 딥마인드를 한 조직으로 모은다고 알렸다. 조직 이름은 구글 딥마인드였다. 딥마인드의 데미스 허사비스도 직원들에게 공유한 메시지를 공개해 두 팀이 별도 단위로 일하던 구조에서 하나의 연구 조직으로 묶인다고 밝혔다.[1][2]
발표는 새 조직이 연구를 어디에 집중할지 설명했다. 하지만 그날 곧바로 새 모델을 공개하거나 이용자에게 기능을 배포한 것은 아니었다. 개편을 이해하려면 연구 조직의 우선순위, 실제 학습과 검증, 제품팀의 배포가 어느 단계에 속하는지 나눠 볼 필요가 있다.
계산 자원을 조직 안에서 배치한다는 뜻
큰 모델을 연구할 때는 연구자뿐 아니라 학습용 장비, 데이터를 다루는 도구, 실험 결과를 비교하는 기준이 필요하다. 팀마다 따로 계획을 세우면 어떤 실험을 먼저 돌릴지 다른 판단이 나올 수 있다. 구글 발표는 두 팀과 구글의 계산 자원을 한데 묶어 진전을 빠르게 하겠다는 목표를 제시했다.[1]
이 구조에서는 어떤 프로젝트에 장비 시간을 줄지, 누가 기준이 되는 실험을 관리할지 공통으로 정할 여지가 커진다. 같은 실험을 두 번 하는 일을 줄일 수도 있지만, 각 팀이 전혀 다른 가설을 시험할 때에는 병행하는 편이 유용할 수도 있다. 통합이 자원 선택을 한곳에서 논의하게 만든다는 설명과 개편의 실제 효과가 측정됐다는 주장은 다르다.
가령 여러 종류의 입력을 다루는 모델이라면
가령 한 팀이 문장을 처리하는 기술을 연구하고 다른 팀이 그림과 문장을 연결하는 방법을 개발한다고 하자. 한 조직에서 일하면 입력 데이터와 평가 방식을 공유하면서 두 연구가 어디에서 만나야 하는지 먼저 정할 수 있다. 하지만 두 방법을 같은 서비스에 넣으려면 정확도나 오류 유형을 각 입력 조건에서 다시 확인해야 한다.
이 예가 중요한 이유는 연구 성과가 공유됐다는 사실이 제품 준비 완료를 뜻하지 않기 때문이다. 한 실험에서는 평균 성능이 올라도 다른 유형의 입력에서 실패가 생길 수 있다. 조직이 합쳐졌다는 뉴스에서는 모델을 출시했다는 표현보다 어떤 연구와 평가를 함께 추진하려는지 살피는 편이 정확하다.
최고 책임자와 수석과학자의 역할
피차이는 허사비스가 구글 딥마인드의 최고경영자가 된다고 밝혔다. 제프 딘은 구글 수석과학자로서 구글 리서치와 구글 딥마인드 양쪽의 수석과학자 역할을 맡는다고 설명했다. 피차이는 딘이 맡을 주요 기술 프로젝트의 첫 과제로 여러 유형의 입력을 다루는 모델을 언급했다.[1]
허사비스의 설명도 연구자, 엔지니어와 지원 인력이 새로운 단위에서 함께 일한다는 점에 무게를 뒀다. 조직 운영을 이끄는 역할과 여러 조직에 걸쳐 연구 방향을 논의하는 역할이 함께 발표된 것이다. 이를 구글의 다른 모든 연구가 같은 부서로 들어간다는 뜻으로 볼 근거는 없다.[1][2]
연구 자산을 한 팀의 새 발명으로 읽지 않기
두 발표에는 알파고, 알파폴드, 트랜스포머, 텐서플로와 JAX 등 이전에 발표됐거나 사용되던 성과와 도구가 등장했다. 이 목록은 두 팀이 각자 쌓아 온 기반을 보여 준다. 목록을 보고 4월 20일에 이 기술들이 처음 나왔다거나, 조직을 합친 뒤 이 연구들이 단일 모델에 모두 들어갔다고 판단할 수는 없다.[1][2]
알파폴드처럼 특정 문제를 다룬 연구 성과와 텐서플로처럼 모델을 표현하고 학습시키는 데 쓰이는 도구도 역할이 다르다. 팀의 연구 범위를 이해하려면 성과 이름을 한 줄에 모으는 것에서 그치지 않고 각각이 연구 대상인지 개발 환경인지를 구별해야 한다.
연구 일정과 제품 일정의 차이는 평가 자료에서도 드러난다. 연구팀이 같은 데이터로 실험을 재현하는 것과 제품팀이 여러 사용 환경에서 결과를 점검하는 것은 필요한 증거가 다르다. 구글 발표는 여러 형태의 입력을 처리하는 모델을 과제로 들었지만, 어떤 조합의 입력이 언제 이용자에게 제공될지까지 제시하지 않았다.[1]
예를 들어 한 종류의 입력에서 개선을 확인한 모델이라도 입력을 섞으면 새로운 오류가 드러날 수 있다. 연구 조직은 반복 실험을 함께 수행할 수 있지만 실제 서비스에는 사용 조건과 검증 기준이 따로 필요하다. 같은 팀이 연구 도구를 쓴다고 해서 모든 프로젝트가 같은 순서로 배포될 이유는 없다.
연구 장비를 공유하는 경우에도 우선순위가 하나로 정해진다는 점과 장비가 충분해진다는 점은 다른 주장이다. 한정된 자원으로 동시에 여러 시도를 해야 할 때 누가 어떤 실험을 먼저 선택하는지 달라질 수는 있어도, 그 변화가 결과를 얼마나 빨리 냈는지는 개편 당일 자료로 계산할 수 없다.
발표에서 확인할 수 있는 것은 어디까지인가
4월 20일 자료는 두 팀을 묶은 조직의 이름, 연구 방향과 책임자를 확인해 준다. 하지만 배정할 장비 수량이나 공동 프로젝트의 일정, 이후 출시할 모델의 성능 시험 결과는 공개하지 않았다. 안전하고 책임 있는 개발을 하겠다는 목표 역시 검증 결과나 제품 이용 조건을 대신하지 않는다.[1][2]
조직이 한데 모이면 과제를 함께 정하고 실험 인프라를 공유할 경로가 생긴다. 실제로 모델을 만들고 성능과 실패 사례를 검증하는 단계는 그 뒤에 남는다. 이 발표는 인력과 자원에 관한 조직 결정을 담은 기록이며, 제품별 기능과 접근 범위는 각 제품을 발표할 때 따로 확인할 수 있다.
