▲ 소버린 AI 강국 중국과 미국(사진=AI합성)

2026년 3월, 인공지능 산업의 윤리적 기준을 상징하던 기업의 정책 변화가 세계 기술계와 안보 전문가들에게 큰 충격을 던졌다.

그동안 인공지능 안전의 마지막 보루로 평가받아온 미국의 AI 기업 앤트로픽이 스스로 설정했던 ‘AI 레드라인’을 사실상 후퇴시켰기 때문이다. 이 사건은 단순한 기업 정책 변경을 넘어 인공지능 거버넌스 체계의 균열을 보여주는 상징적인 사건으로 평가된다.

앤트로픽은 오랫동안 책임 있는 AI 개발을 강조해온 기업이었다. 이 회사는 ‘Responsible Scaling Policy(RSP)’라는 AI 안전 정책을 공개적으로 발표하고 이를 정기적으로 갱신해 왔다. 또한 AI 모델이 어떤 원칙에 따라 행동해야 하는지를 규정한 ‘AI 헌법(Claude’s Constitution)’을 공개하며 투명성을 강조했다. 이러한 정책은 글로벌 AI 기업 가운데서도 매우 드문 시도였다.

특히 앤트로픽의 AI 모델은 미국 프론티어 연구소 가운데 유일하게 군사 기밀 네트워크에서 작동이 승인된 모델로 알려졌다. 미국 국방부의 기밀 통신망인 SIPRNet 환경에서 사용할 수 있는 민간 AI라는 점에서 높은 신뢰를 얻었다. 이 때문에 앤트로픽은 기술 기업 가운데서도 가장 윤리적이고 책임 있는 AI 기업이라는 평가를 받아왔다.

그러나 이러한 원칙은 군사 경쟁과 기술 패권 경쟁이라는 현실 앞에서 흔들리기 시작했다. 앤트로픽의 CEO 다리오 아모데이는 최근 미국 CBS와의 인터뷰에서 두 가지 원칙을 강조한 바 있다. 하나는 AI를 대규모 국내 감시에 사용하지 않겠다는 것이었고, 다른 하나는 완전 자율 살상 무기에 AI를 사용하지 않겠다는 것이었다.

하지만 이 선언은 오래 지속되지 않았다. 아모데이 CEO는 국방부와 정치권을 비판했던 발언에 대해 사과했고, 내부적으로 AI 안전 정책을 수정했다. 기존의 “안전하지 않으면 만들지 않는다”는 원칙은 “경쟁사 수준만큼은 안전하게 만들겠다”는 현실적 기준으로 바뀌었다. 윤리적 기준이 경쟁 논리 속에서 후퇴한 것이다.

이 변화는 AI 전문가들에게 큰 충격을 줬다. 앤트로픽은 AI 기업 가운데 가장 책임 있는 기업으로 평가받았기 때문이다. 그러나 현실은 냉혹했다. 미국과 중국이 AI 군사 경쟁에 천문학적 자금을 투입하고 있는 상황에서 한 기업이 윤리 기준만으로 경쟁을 버티는 것은 사실상 불가능한 구조였다.

AI 거버넌스의 공백이 발생하면 그 자리는 곧 자본과 권력이 채우게 된다. 자발적 규범이 사라진 공간에서 기술은 더 빠르게 군사화된다. 이번 사건은 AI 레드라인이 더 이상 기업의 윤리 선언만으로 유지될 수 없는 시대에 들어섰음을 보여준다.

중국의 경우 이미 AI 기술이 국가 전략과 깊게 결합돼 있다. 바이두의 대형 언어 모델 ERNIE, 알리바바의 Qwen, 화웨이의 Pangu 같은 AI 시스템은 중국 공산당의 정책 방향과 이념적 요구를 반영하도록 설계된 것으로 알려져 있다. AI는 단순한 기술을 넘어 정치 시스템의 일부로 기능하고 있다.

미국 역시 AI를 군사 전략의 핵심 기술로 보고 있다. 위성과 드론, 카메라 네트워크와 AI 분석 시스템을 결합하면 전 세계 어디에서든 특정 목표를 식별하고 제거할 수 있는 능력이 만들어진다. 이러한 기술은 이미 다양한 군사 작전에서 활용되고 있으며, 미래 전쟁의 핵심 요소로 평가된다.

이러한 변화 속에서 한반도는 중요한 지정학적 위치에 놓여 있다. 한반도는 아직 전쟁이 공식적으로 끝나지 않은 지역이다. 북한은 수십 개의 핵탄두를 보유한 것으로 추정되며, 한국에는 약 2만 8500명의 미군이 주둔하고 있다. 또한 한국은 세계적인 반도체 생산국이자 방산 수출국으로 글로벌 기술 공급망에서 핵심 역할을 하고 있다.

대만 해협에서 군사 충돌이 발생할 경우 한반도 역시 직접적인 영향을 받을 가능성이 높다. 미국은 주한미군을 태평양 전력의 일부로 보고 있으며, 대만 유사시 한국 남부의 항만과 공역이 군사 지원 거점으로 활용될 가능성이 있다는 분석이 나온다.

이러한 상황에서 인공지능은 군사 의사결정 과정에서 중요한 역할을 하게 된다. 예를 들어 북한이 미사일을 발사할 경우 조기경보 시스템이 이를 감지하고 AI가 미사일의 궤도와 속도, 목표 가능성을 분석한다. 이후 AI는 다양한 대응 옵션을 정렬해 지휘관에게 제시하게 된다.

문제는 이 AI 시스템이 어떤 데이터로 훈련됐고 어떤 가치 기준으로 위협을 평가하느냐이다. AI가 제시하는 정보는 지휘관의 판단에 직접적인 영향을 미칠 수 있다. 만약 그 시스템이 특정 국가의 전략적 이해를 반영하고 있다면 상황 인식 자체가 달라질 가능성도 존재한다.

AI 거버넌스 문제는 군사 영역에만 국한되지 않는다. 한국 방산 기업들이 개발하는 무기 체계 역시 대부분 미국의 AI 플랫폼 환경에서 작동한다. 한화, LIG넥스원, 현대로템 등 주요 방산 기업의 시스템도 이러한 소프트웨어 생태계와 연결돼 있다.

반도체 산업 역시 마찬가지다. 삼성전자와 SK하이닉스가 생산하는 반도체는 미국 AI 데이터센터의 핵심 부품이며, 이러한 시스템은 군사 AI 기술과도 연결된다. 통신 기업인 KT와 SK텔레콤도 글로벌 클라우드와 AI 기업과 협력을 확대하고 있어 기술 공급망의 정치적 리스크가 언제든 현실이 될 수 있다.

이번 사건은 한국의 AI 정책 구조가 가진 한계를 다시 드러낸다. 미국에는 앤트로픽처럼 정부와 공개적으로 논쟁하는 기업과 전문가 집단이 존재한다. 청문회가 열리고 언론이 이를 보도하며 공개 토론이 이어진다.

반면 한국은 대부분 규칙을 외부에서 받아들이는 ‘룰 수입국’ 구조에 가까운 것이 현실이다. AI 규범을 스스로 설계하는 경험과 생태계가 부족한 상황이다.

소버린 AI는 단순히 국산 AI 모델을 만드는 산업 전략이 아니다. 핵심은 AI가 어떤 정보를 먼저 보여주고 어떤 위협을 먼저 인지하며 어떤 행동을 자동화하는지를 결정하는 설계 권한이다. 그 설계 권한이 외부에 있다면 국가 안보의 핵심 역시 외부에 있는 것이나 다름없다.

2026년 이후 세계 질서는 AI 중심의 군사 경쟁 속에서 재편될 가능성이 높다. 이러한 변화 속에서 한국이 계속 규칙을 받아들이는 국가로 남을 것인지, 아니면 규범 형성에 참여하는 국가가 될 것인지 중요한 선택의 시간이 다가오고 있다.

AI 레드라인은 공식적으로 사라졌다. 그 공백 속에서 인공지능은 더 빠르게, 더 깊게 전장과 산업 구조 속으로 들어가고 있다.

지금 필요한 것은 기술 경쟁만이 아니다. 인공지능 시대의 국가 전략과 안보 질서를 어떻게 설계할 것인지에 대한 근본적인 질문이다.

그 질문에 대한 답은 결국 지금 이 시대를 살아가는 우리가 어떤 선택을 하느냐에 달려 있다.