무슨 일이 있었나?
미국 인공지능(AI) 기업 앤트로픽(Anthropic)은 중국 AI 연구소인 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax)가 자사의 AI 모델 ‘클로드(Claude)’의 기능을 불법적으로 추출했다고 23일(현지시간) 블로그를 통해 밝혔다. 이들 연구소는 약 2만4000개의 위조 계정을 만들어 1600만회 이상 클로드에 질의를 보내 불법 데이터 추출을 시도한 것으로 나타났다.
왜 중요한가?
앤트로픽은 이들 연구소가 ‘디스틸레이션(distillation)’ 기술을 악용하여 클로드의 핵심 기능인 ‘추론(reasoning)’, ‘도구 활용’, ‘코딩’ 등을 집중적으로 노렸다고 설명했다. 이러한 불법 행위는 서비스 약관 및 지역별 접근 제한을 위반한 것으로, 경쟁 기업이 독자 개발 없이 단기간에 고성능 모델을 구축할 수 있는 위험을 내포하고 있다. 앤트로픽은 이러한 모델이 생물무기 개발이나 사이버 공격 등 악용될 가능성이 크다고 경고했다.
다음 단계는?
앤트로픽은 불법 데이터 추출에 대한 대응책으로 ▲API 트래픽 내 패턴 식별 ▲계정 간 연동 탐지 ▲클라우드 사업자 및 당국과의 정보 공유 ▲교육·연구 계정 인증 강화 ▲모델 출력의 불법 활용 억제 기능 도입 등을 추진 중이다. 또한, AI 업계와 정책 입안자 간의 협력적인 대응이 필요하다고 강조했다.
