본문으로 건너뛰기
AN INDEPENDENT ECONOMIC JOURNAL생활에서 시작하는 경제 읽기
가까이 두고 읽는 경제 이야기
CIN · CONNECT · INFORM · NEWS
경제의 흐름을,
생활의 언어로.

CIN ECONOMIC NOTES

2023년 6월 14일 유럽의회 AI법 협상안, 기반 모델 제공자에게 무엇을 요구했나

유럽의회는 여러 서비스에서 재사용되는 모델에 별도 의무를 두는 안을 채택했다. 이날 의결한 것은 회원국과 협상할 의회의 입장이었다.

핵심 먼저 읽기

AT A GLANCE
  • 유럽의회는 6월 14일 인공지능법 협상 입장을 찬성 499표, 반대 28표, 기권 93표로 채택했다.[1]
  • 협상안은 기반 모델 제공자에게 위험의 평가와 완화, 기술 문서 작성 등의 의무를 두는 조항을 제시했다.[1][2]
  • 생성형 기능과 관련해서는 투명성 조치와 저작권 보호를 받는 훈련 자료 사용에 관한 요약 공개를 제안했다. 당시 최종 법률은 아니었다.[1][2]
하나의 모델이 여러 용도로 이어지고 옆에 설명 문서가 놓인 잉크 삽화
본문의 이해를 돕기 위한 일러스트레이션
이 글의 순서 · 6개 주제

유럽의회가 그날 정한 것은 협상 출발점

유럽의회는 2023년 6월 14일 본회의에서 인공지능법 제안에 대한 수정안을 채택했다. 찬성 499표, 반대 28표, 기권 93표였다. 의회는 이 문서를 바탕으로 EU 회원국을 대표하는 이사회와 최종 형태를 논의할 수 있게 됐다. 이 숫자는 의회의 입장 채택을 나타낸다. 의회에서 표결이 끝난 사실과 기업이 그 조문을 당일부터 적용해야 한다는 사실은 같지 않다.[1][2]

협상안은 여러 용도에 맞춰 활용할 수 있도록 큰 규모의 자료로 훈련된 기반 모델을 별도로 다뤘다. 같은 모델이 문서 작성, 고객 응대, 소프트웨어 보조처럼 서로 다른 서비스에 들어갈 수 있기 때문이다. 서비스 제공자가 나중에 화면을 만들고 사용 맥락을 정하더라도, 이미 훈련된 모델의 자료 구성과 초기 시험 조건을 혼자서 전부 파악하기는 어렵다. 수정안이 모델 제공자 쪽에 위험 관리와 정보 제공을 요구한 이유를 이 분업에서 이해할 수 있다.[2]

서비스 회사가 확인하기 어려운 정보의 예

가령 한국에서 유럽 기업용 문서 도구를 만드는 회사가 외부 모델을 가져다 쓴다고 하자. 이 회사는 자신이 설계한 입력창과 출력 표시를 살필 수 있지만 외부 제공자가 학습 자료를 어떻게 골랐는지나 어떤 시험을 했는지는 모델 제공자에게 물어야 한다. 반대로 모델 제공자도 각 고객사가 최종 사용자를 어떻게 안내하고 어떤 업무에 모델을 붙일지 모두 결정하지는 않는다. 이 사례는 실제 업체에 대한 조사나 해당 협상안의 적용 판정이 아니다.

협상안에서 모델 제공자에게 기술 문서를 만들도록 한 것은 이런 정보의 간극에 대응하는 방식이다. 모델에 관한 시험과 한계를 설명하는 자료가 있으면 이를 이용하는 회사가 제품의 용도에 맞는 위험을 더 잘 검토할 수 있다. 그렇다고 문서를 받는 행위가 최종 서비스의 안전성을 보증하는 것은 아니다. 서비스 쪽에서도 실제 입력과 출력, 오류가 났을 때 사용자가 알아차릴 수 있는지를 확인할 필요가 남는다.[2]

기반 모델에 관한 조항과 생성형 기능의 추가 조치

의회의 수정안은 기반 모델 전반에 위험을 식별하고 줄이려는 조치, 데이터 관리, 기술 문서 등에 관한 요건을 제안했다. 그 가운데 생성형 인공지능과 관련된 조문은 생성된 콘텐츠에 관한 투명성 조치와 저작권 보호를 받는 훈련 자료 사용의 요약을 별도로 다뤘다. 이 요약을 공개한다는 문구를 모델이 학습에 쓴 모든 파일의 원본이나 목록을 공개한다는 말로 바꾸면 조문의 범위가 달라진다.[1][2]

같은 법안 안에서 특정 사용을 금지하거나 높은 위험이 있는 활용을 분류하는 논의와, 다양한 서비스에서 쓰이는 모델 제공자에게 설명 의무를 두는 논의는 서로 다른 단계다. 예를 들어 어떤 모델로 문서를 요약할 수 있다는 사실만으로 특정 업무가 그날 금지됐다고 말할 수 없다. 협상 문서를 읽을 때는 조항이 모델 제공자, 최종 서비스의 공급자, 또는 특정 이용 분야 중 무엇을 지칭하는지 봐야 한다.[1][2]

표결 뒤에 남은 일과 사업자가 확인할 항목

6월 14일 자료는 유럽의회가 협상에서 제안할 내용을 보여 준다. 이사회와 합의한 최종 문서나 그 이후 실제 적용 일정의 확인 자료가 아니다. 따라서 당시 공개된 문장만 보고 개별 모델이 나중에 어떤 분류를 받을지, 어떤 날짜에 의무가 생길지 확정할 수 없다. 회원국과 의회 간 합의에서 문구와 적용 범위가 달라질 수 있다는 한계가 있었다.[1]

유럽에서 제품을 공급할 계획이라면 제안된 내용 중 자신이 제공하는 것이 모델인지 이를 활용한 서비스인지, 문서를 누가 보유하고 누가 전달할 수 있는지부터 정리하는 데 이 자료를 쓸 수 있다. 이후 최종 조문과 효력일을 따로 읽어야 어떤 준비가 실제 의무와 연결되는지 알 수 있다. 당시 표결이 중요한 이유는 협상안에 기반 모델을 별도로 다루는 구조를 명시했기 때문이다.[1][2]

공개 문서와 내부 검증은 용도가 다르다

생성 결과를 이용자가 알아볼 수 있게 알리는 조치와 모델 위험을 공급 과정에서 검증하는 조치는 대상이 다르다. 앞의 조치는 최종 화면에서 이용자가 무엇을 보고 있는지 판단하도록 돕는다. 뒤의 조치는 제공자가 배포에 앞서 어떤 위험을 확인하고 줄일지에 관한 일이다. 이용자 안내가 있다고 위험 검증을 생략할 수 있는지, 반대로 내부 시험만으로 이용자 안내를 대신할 수 있는지는 당시 제안 조문의 각 적용 범위에서 따로 봐야 한다.[2]

같은 모델을 쓰는 두 서비스에 똑같은 정보가 필요한가

가령 한 회사는 문장을 분류하는 내부 도구에 모델을 붙이고 다른 회사는 일반 이용자에게 답변을 내보내는 서비스에 같은 모델을 붙일 수 있다. 두 회사가 공통으로 확인할 자료는 모델의 시험과 한계다. 그러나 출력이 사용자에게 그대로 나가는 서비스는 화면에서 결과를 어떻게 표시하고 오류가 있을 때 누가 확인하는지까지 고려해야 한다. 모델과 이용 방식에 관한 의무를 각각 살펴야 하는 이유다.

당시 의회의 수정 문서에는 기술 문서의 작성과 함께 모델을 사용하는 후속 제공자에게 필요한 정보를 전달하는 조치도 들어 있었다. 정보를 받는 사람이 그것을 이용해 자신이 만드는 제품을 검토하는 연결 구조를 제안한 것이다. 문서가 존재한다는 사실만으로 모든 이용 사례가 시험됐다고 볼 수 없으며, 모형을 받은 회사도 실제 사용 환경에서 별도로 검증할 부분이 있다.[2]

모델 정보의 공개도 공개 대상에 따라 내용이 다를 수 있다. 학습 자료 사용을 공개적으로 요약하는 문서와 공급 관계에서 성능이나 제한을 공유하는 기술 자료는 같은 문서일 필요가 없다. 적용 범위를 검토하는 사업자에게는 누가 누구에게 어떤 정보를 전달하는지 조문에서 구분해 읽는 것이 출발점이다.

SOURCES & FURTHER READING

참고한 자료, 더 읽을 거리

글의 근거와 더 자세한 배경은 아래 원문에서 이어 읽을 수 있습니다.

01
유럽의회 입법 관측소

European Parliament Legislative Observatory: Artificial Intelligence Act, 14 June 2023

↗
02
유럽의회

Text adopted: Artificial Intelligence Act, P9_TA(2023)0236

↗
CIN

흩어진 소식을 연결하고,
일상의 질문에서 경제를 이해합니다.

블로그 소개 ↗