무슨 일이 있었나?
미국 인공지능(AI) 기업 앤트로픽(Anthropic)은 23일(현지시간) 중국 AI 스타트업 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax)가 자사 AI 모델 ‘클로드(Claude)’의 기능을 불법적으로 추출했다고 주장했다. 이들 기업은 2만4천 개의 가짜 계정을 통해 클로드와 1천600만 회 이상 상호작용하며 데이터를 수집한 것으로 나타났다.
왜 중요한가?
앤트로픽은 이들 기업의 행위가 서비스 약관을 위반했을 뿐만 아니라, ‘디스틸레이션(distillation)’ 기법을 악용한 것이라고 설명했다. 디스틸레이션은 대형 AI 모델의 출력을 이용해 더 작은 모델을 학습시키는 합법적인 방법이지만, 이를 남용하면 경쟁 기업이 독자 개발 없이 고성능 모델을 단기간에 구축할 수 있다는 경고가 제기됐다. 또한, 불법으로 생성된 모델은 안전장치가 결여되어 있어 생물무기 개발이나 사이버 공격에 악용될 위험이 크다고 앤트로픽은 우려했다.
다음 단계는?
앤트로픽은 중국 내 클로드의 상업적 사용을 금지했으나, 이들 기업이 프록시 네트워크를 통해 접근한 정황을 확인했다. 이에 따라 앤트로픽은 API 트래픽 내 패턴 식별, 계정 간 연동 탐지, 클라우드 사업자 및 당국과의 정보 공유 등 다양한 대응책을 추진 중이다. 또한, AI 업계와 정책 입안자 간의 협력적인 대응이 필요하다고 강조했다.
