지난 금요일(2월 27일), 도널드 트럼프는 트루스소셜에 이렇게 썼다.
"앤트로픽의 좌파 미치광이들이 참담한 실수를 저질렀다."
이어 모든 연방기관에 앤트로픽 기술의 즉시 사용 중단을 지시했고, 피트 헤그세스 국방장관은 앤트로픽을 ‘공급망 위험(Supply-Chain Risk)’으로 지정했다. 미국 자국 기업에 이 지정이 적용된 것은 역사상 처음이다. 기존에는 중국 군산복합체 연계 기업에만 쓰이던 조치다.
사건의 핵심부터 정리하자.
앤트로픽이 내건 레드라인은 정확히 두 가지다.
미국 시민 대상 대규모 국내 감시(mass domestic surveillance) 금지
완전 자율살상무기(fully autonomous weapons) 금지
다리오 아모데이 CEO는 CBS 인터뷰에서 이를 “좁은 예외(narrow exceptions)”라고 불렀고, 그 외 모든 합법적 국가안보 용도는 지원하겠다고 반복해서 밝혔다.
펜타곤은 이를 거부했다. 군의 입장은 단순하다. AI 모델은 “모든 합법적 목적(all lawful purposes)”에 쓸 수 있어야 하며, 대규모 감시와 자율무기는 이미 연방법과 군 내부 정책으로 금지되어 있으니 계약서에 별도로 적을 필요가 없다는 것이다. 펜타곤 CTO 에밀 마이클은 “어느 수준에서는 군을 신뢰해야 한다”고 말했다.
앤트로픽의 반론은 이랬다. 펜타곤이 보내온 수정 계약 문구에는 “그 안전장치를 임의로 무시할 수 있는 법적 여지(legalese)”가 포함돼 있었고, 실질적으로는 감시와 자율무기 제한에 대해 “거의 진전이 없었다”는 것이다.
여기서 이 사안의 진짜 쟁점이 드러난다. “협조할 것이냐 말 것이냐”가 아니라, 계약 문구의 집행 가능성(enforceability)이다. 펜타곤이 “법이 이미 막고 있다”고 말하는 것과, 그것이 계약서에 구속력 있는 조항으로 명시되는 것은 다르다.
AI 기술은 기존 법이 상정하지 못한 능력을 만들어내고 있고, 아모데이 자신이 지적했듯이 “기술이 법을 앞서고 있다.” 정부가 민간 데이터를 구매해 AI로 분석하는 시나리오는 현행법의 회색지대에 놓여 있다.
오픈AI는 어떻게 같은 원칙으로 계약에 성공했는가?
이 부분이 가장 논쟁적이다.
샘 올트먼은 금요일 밤 자사도 대규모 감시와 자율무기에 대한 동일한 레드라인을 갖고 있으며 “이를 계약에 넣었다”고 밝혔다. 동시에 오픈AI는 펜타곤이 자사 기술을 “모든 합법적 목적”에 쓸 수 있도록 동의했다. Fortune은 “이 두 가지가 어떻게 동시에 참일 수 있는지 불분명하다”고 지적했다.
가장 유력한 해석은 이렇다.
오픈AI의 계약은 현행 연방법이 이미 감시와 자율무기를 금지하고 있다는 점을 계약서에서 “확인(acknowledge)”하는 방식으로 레드라인을 반영했을 가능성이 높다. 반면 앤트로픽은 법과 별개로 계약 자체에 독립적인 금지 조항을 명시하길 요구했다.
이 차이는 사소해 보이지만, 법적으로는 결정적이다.
전자는 법이 바뀌면 제한도 사라진다.
후자는 법과 무관하게 계약 위반이 된다.
앤트로픽이 왜 펜타곤의 “양보안”을 거절했는지, 그리고 오픈AI가 왜 통과했는지는 이 구조적 차이에서 나온다.
업계 반응은 ‘고립’이 아니었다.
업계의 반응은 앤트로픽이 고립되지 않았음을 보여줬다.
300명 이상의 구글 직원과 60명 이상의 오픈AI 직원이 “We Will Not Be Divided” 공개서한에 서명
구글 딥마인드 수석과학자 제프 딘: “대규모 감시는 수정헌법 제4조를 위반하며 표현의 자유에 위축 효과를 준다”
오픈AI 공동창업자 일리야 수츠케버: “앤트로픽이 물러서지 않은 것은 극히 좋은 일”
그렇다면 앤트로픽의 선택은 옳았는가?
원칙의 차원에서, 나는 그렇다고 본다. 이유는 세 가지다.
1) 반군(反軍)이 아니라 권력분산 원칙의 실천
앤트로픽이 요구한 것은 반군적 입장이 아니라 권력 분산이라는 미국 헌정 원리에 부합한다. 민간 사업자가 “법이 알아서 해주겠지”라고 믿는 것은 순진하다. 특히 행정부가 한국전쟁 시대의 국방생산법(DPA)까지 동원하겠다고 위협하는 상황에서 계약상 안전장치를 요구하는 것은 건전한 위험관리다.
2) 공급망 위험 지정은 법적으로 취약하다
해당 법조항(10 USC 3252)은 원래 중국 군산복합체 연계 기업을 겨냥한 것이며, 적용 전 “덜 침해적인 대안을 소진했는지” 입증해야 한다. Fortune이 인용한 법률 전문가는 며칠 만에 급속히 격화된 이 분쟁에서 펜타곤이 “성실한 노력(good faith effort)”을 다했다고 주장하기 어렵다고 지적했다.
3) AI 거버넌스는 경쟁력이다
오픈AI가 동일한 레드라인을 내세우며 계약에 성공한 사실 자체가, 앤트로픽의 원칙이 비현실적이지 않았음을 역설적으로 증명한다. 올트먼은 “이 조건을 모든 AI 기업에 동일하게 적용해달라”고까지 요청했다.
하지만 낙관하기엔 이르다
현실적인 문제는 남아 있다.
앤트로픽은 이미 연방정부 전체에서 퇴출 수순에 들어갔다. 6개월 유예 기간이 있지만, 헤그세스의 해석대로 군 계약업체 전체가 앤트로픽과의 상업적 거래까지 중단해야 한다면, 피해는 정부 계약 규모를 훨씬 초과한다.
한 분석가의 말처럼 “법정에서 이기기까지 수년이 걸릴 것이고, 그 사이 펜타곤과 거래하는 포춘 500 기업의 법무팀은 하나의 질문만 할 것이다 — Claude를 쓸 가치가 이 리스크를 감수할 만한가?”
오픈AI 계약의 실질적 구속력도 검증되지 않았다. “모든 합법적 목적”을 허용하면서 레드라인을 “넣었다”고 말하는 것이 법정에서 어떤 의미를 갖는지는 아직 아무도 모른다. 앤트로픽이 거절한 바로 그 모호성을 오픈AI가 수용한 것일 수도 있다.
결론
결국 이 사건이 던지는 질문은 이것이다.
민주주의 국가에서 정부가 기술 기업에 “우리를 그냥 믿어라”고 요구할 때, 기업이 “계약서로 보여달라”고 말하는 것은 불손인가, 아니면 정상적인 견제인가?
나는 후자라고 생각한다. 그리고 앤트로픽이 그 대가로 치르게 될 비용이 크면 클수록, 이 질문의 무게는 더 무거워진다.
다만 진짜 필요한 후속 논의는 앤트로픽의 용기를 칭찬하는 데서 끝나는 게 아니라, 이런 레드라인이 한 기업의 선의에 의존하지 않고도 작동하는 제도를 어떻게 만들 것인가에 있다.