무슨 일이 있었나?
미국 인공지능(AI) 기업 앤트로픽(Anthropic)은 자사의 AI 모델 ‘클로드(Claude)’의 기능이 중국의 세 연구소에 의해 불법적으로 추출되었다고 23일(현지시간) 블로그를 통해 발표했다. 앤트로픽에 따르면, 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax) 세 연구소는 약 2만4000개의 위조 계정을 만들어 1600만회 이상의 질의를 통해 클로드의 데이터를 불법적으로 수집하려 했다.
왜 중요한가?
이 사건은 AI 모델의 데이터 보안과 윤리에 대한 심각한 우려를 불러일으킨다. 앤트로픽은 이들 연구소가 ‘디스틸레이션(distillation)’ 기술을 악용하여 경쟁 기업이 고성능 모델을 단기간에 구축할 수 있는 위험성을 경고했다. 불법적으로 생성된 모델은 안전장치가 결여되어 있어 생물무기 개발이나 사이버 공격 등 악용될 가능성이 크다. 앤트로픽은 이러한 기술이 독재 정부의 군사 및 감시 시스템에 통합될 경우 심각한 안보 위협으로 이어질 수 있다고 밝혔다.
다음 단계는?
앤트로픽은 이 문제에 대한 대응책으로 ▲API 트래픽 내 패턴 식별 ▲계정 간 연동 탐지 ▲클라우드 사업자 및 당국과의 정보 공유 ▲교육·연구 계정 인증 강화 ▲모델 출력의 불법 활용 억제 기능 도입 등을 추진 중이다. 또한, AI 업계와 정책 입안자 간의 협력적인 대응이 필요하다고 강조했다. 이 사건은 AI 기술의 발전과 함께 데이터 보안 문제의 중요성을 다시 한번 일깨우고 있다.
