앤트로픽이 지금까지 공개했던 AI 모델 중 가장 뛰어난 성능을 자랑하는 모델을 출시한 지 3일 만에 미국 정부는 해당 모델들을 삭제하라고 명령했습니다.
6월 12일, 미국 상무부는 수출 통제 지침을 발표하여 앤트로픽(Anthropic)사에 외국인(미국 내외 거주 외국인 포함, 앤트로픽사에서 근무하는 외국인 직원 포함)의 클로드 페이블 5(Claude Fable 5) 및 클로드 미토스 5(Claude Mythos 5) 접근을 전면 중단하도록 지시했습니다. 이는 공개적으로 배포된 첨단 AI 모델에 대해 정부가 강제로 접근을 차단한 첫 사례로 보입니다.
앤트로픽은 미국 동부 시간으로 오후 5시 21분에 해당 지시를 받았습니다. 서한에는 국가 안보 우려에 대한 구체적인 내용은 명시되어 있지 않았습니다. 모델 접근 수준에서 외국인과 국내 사용자를 실시간으로 구분하는 현실적인 방법이 없었기에, 앤트로픽은 선택적으로 지시를 준수할 수 없었고, 결국 전 세계 모든 고객에 대해 두 모델 모두의 접근을 완전히 차단하는 유일한 조치를 취했습니다. 다른 모든 앤트로픽 모델에 대한 접근은 영향을 받지 않았습니다. 클로드 오푸스 4.8을 비롯한 나머지 클로드 제품군은 정상적으로 작동했습니다.
Fable 5와 Mythos 5의 실제 모습은 무엇이었을까?
이번 전례 없는 정부 개입의 중심에 있던 모델들은 단순한 제품 업데이트가 아니었습니다. 두 모델 모두 보안 연구를 위해 개발된 고도화된 모델인 클로드 미토스 프리뷰(Claude Mythos Preview)에서 파생되었으며, 이 모델은 보안 버그와 결함을 찾아낼 수 있도록 설계되었습니다. 미토스 프리뷰는 초기에는 프로젝트 글래스윙(Project Glasswing)을 통해 소수의 기업과 연구 파트너에게만 제공되었습니다. 모질라(Mozilla)는 미토스 프리뷰를 활용하여 수백 건의 취약점을 해결했다고 밝혔습니다.
앤스로픽은 6월 9일 페이블 5와 미소스 5를 출시하면서 아키텍처를 의도적으로 분리했습니다. 미소스 5는 모든 기능을 그대로 유지했지만, 프로젝트 글래스윙 참여자에게만 제공되었습니다. 페이블 5는 일반에 공개된 버전으로, 일반적인 사용에 적합하도록 안전장치와 제약 조건을 적용한 미소스급 모델입니다. 앤스로픽은 출시 당시 페이블 5가 거의 모든 테스트된 성능 벤치마크에서 최첨단 성능을 보여주며, 소프트웨어 엔지니어링, 지식 기반 작업, 비전 및 과학 연구 전반에 걸쳐 탁월한 성능을 발휘한다고 설명했습니다. 작업이 길고 복잡할수록 페이블 5는 이전 모델보다 훨씬 뛰어난 성능을 보였습니다.
명령을 촉발한 탈옥 혐의
상무부 장관은 앤트로픽 CEO 다리오 아모데이에게 서한을 보내 미소스 5와 페이블 5 모델이 미국 이외 지역으로의 수출 및 미국 내 외국인 대상 판매에 대해 수출 통제 대상이 될 것이라고 통보했습니다. 행정부 관계자는 악시오스(Axios)와의 인터뷰에서 다른 회사가 미소스 시스템을 해킹하는 데 성공했다고 주장하며 국가 안보에 대한 우려를 제기한 후 이러한 조치를 결정했다고 밝혔습니다.
앤스로픽은 정부가 언급한 탈옥 주장에 대해 훨씬 덜 우려하는 입장입니다. 앤스로픽은 정부가 언급한 탈옥은 특정 상황에서만 미소스의 사이버 보안 기능을 해제하는 제한적인 탈옥일 뿐, 페이블 5의 모든 보안 장치를 무력화하는 보편적인 탈옥은 아니라고 판단했다고 밝혔습니다. 또한, 동일한 탈옥 기술을 이용하면 오픈아이얼의 GPT-5.5를 포함하여 유사한 국가 안보 수출 통제 대상이 아닌 다른 공개 모델에서도 비슷한 기능을 추출할 수 있다고 덧붙였습니다.
앤트로픽은 블로그 게시물에서 “잠재적인 탈옥 가능성이 있다는 작은 발견만으로 수억 명에게 배포된 상용 모델을 리콜해야 한다는 주장에 동의하지 않는다” 고 밝혔습니다 .
앤트로픽은 X 플랫폼을 통해 “고객 여러분께 불편을 드려 죄송합니다. 이는 오해에서 비롯된 것으로 판단되며, 최대한 빠른 시일 내에 접속이 복구될 수 있도록 노력하고 있습니다.” 라고 공식 발표했습니다 .
전체 시스템 가동 중단이 필요했던 이유
앤트로픽이 외국인뿐만 아니라 모든 사용자에게 모델 사용을 제한해야 했던 이유는 지침 작성자들이 충분히 고려하지 못했을 수 있는 구조적 한계를 보여줍니다. 모델 접근 단계에서 미국 사용자와 비미국 사용자를 실시간으로 구분하는 것은 앤트로픽의 인프라에 구축된 기술적 역량이 아닙니다. 외국인을 대상으로 하는 수출 통제 지침이 이미 전 세계 수억 명의 사용자에게 배포된 모델에 적용될 경우, 규정을 준수할 수 있는 유일한 방법은 모든 사용자의 모델 사용을 중단하는 것뿐입니다.
이는 예외적인 사례가 아닙니다. 물리적 상품이 아닌 인터넷을 통해 배포되는 소프트웨어 제품에 수출 통제를 적용할 때 직면하는 근본적인 문제입니다. 해당 지침으로 인해 앤트로픽은 규정 준수와 서비스 지속성 사이에서 선택을 강요받았고, 결국 규정 준수가 선택되었습니다. 국가 안보 문제와 아무런 관련이 없는 미국 내 사용자를 포함하여 전 세계 모든 고객은 지금까지 배포된 가장 강력한 AI 모델 두 가지에 대한 접근 권한을 잃었습니다.
이것이 앤트로픽의 미래에 의미하는 바는 무엇일까요?
앤트로픽은 이달 초 비공개로 기업공개(IPO)를 신청했습니다. 최근 투자 유치 라운드에서 이 회사의 기업 가치는 9,650억 달러로 평가되었습니다. 하지만 정부의 수출 통제 결정으로 인해 앤트로픽의 IPO에 대한 투자자들의 관심이 다소 시들해질 수 있습니다. 정부가 앤트로픽의 모델들을 대상으로 다양한 제한 조치를 계속 시행한다면, 앤트로픽이 인공지능 모델 개발 분야에서 최첨단 기술을 유지할 수 있을지에 대한 의문이 제기되고 있기 때문입니다.
이 지침이 세운 선례는 앤트로픽에만 국한되지 않습니다. 미국 정부가 제3자의 탈옥 주장만을 근거로, 구체적인 보안 우려 사항을 제시하거나 개발사가 자체적으로 위험을 평가할 시간을 기다리지 않고, 배포된 최첨단 AI 모델의 즉각적인 전 세계적 철수를 강제하는 수출 통제 명령을 내릴 수 있다면, 미국 내 모든 최첨단 AI 연구소는 동일한 잠재적 위험에 직면하게 됩니다. 세계에서 가장 뛰어난 모델을 개발하고 배포하는 것이 국가 안보 당국의 지시에 따라 언제든 단기간 내에 철수될 위험을 수반하게 될 수 있는 것입니다.
앤트로픽 측은 최대한 빨리 접속을 복구하기 위해 노력하고 있다고 밝혔습니다. 하지만 복구 과정은 아직 불확실합니다.