미 ‘미토스 5’ 사용 막자 중 ‘GLM-5.2’ 공짜로 풀었다 [뉴스] ‘China s GLM 5.2 vs Claude Fable 5‘란 제목의 유튜브 방송 화면
최근 미국 정부는 앤트로픽 (anthropic)의 최신 모델인 미토스(Mythos) 5 와 해킹당할 위험성을 크게 낮춘 모델인 페이블(Fable) 5 에 대해 미국 국적자를 제외한 모든 외국인들의 접근을 불허했다. 참고로, 최신 AI 모델들의 상대적 능력을 도표로 비교하는 인터넷 사이트(https://artificialanalysis.ai)에 따르면, 현재 ‘페이블 5’는 ‘AI 지능 지수(Intelligence Index) 1위를 기록하고 있다.
이번 미국 정부의 조치는 사이버 공격과 생물학적 무기에 이 모델들이 사용될 수 있다는 염려에서였다. 사용자 중 미국인이 아닌 사람을 가려낼 확실한 방법이 없어서, 아마존, 구글 등의 클라우드 업체들은 이 모델들의 상용 서비스를 중단할 수 밖에 없게 되었다. 미국 정부기관 이외에는 어느 곳도 사용할 수 없지 않을까 짐작된다.
26일(현지시간) 로이터 통신과 워싱턴 포스트(WP)에 따르면 미 상무부는 앤트로픽에 발송한 비공개 서한을 통해 미국 내 특정 기업들만 미토스 5 를 사용할 수 있다고 통보했다. 하워드 러트닉 미 상무장관은 언론이 입수한 서한에다 신뢰할 수 있는 특정 파트너들이 미토스 5 모델을 사용하는 데 필요한 보안 조치가 충분히 마련됐다 고 평가했다.
사실상 미국 정부가 안전하다고 확인한 자국 특정 기업과 기관만 미토스5 를 사용할 수 있다고 못 박은 것이다. 서한에는 미국 정부가 언제든 자유롭게 승인 대상 목록을 변경할 수 있다는 내용도 담겼다. 구체적인 승인 대상은 아직 확인되지 않았다. 다만 미국 내 기업·기관 100여 곳이 포함될 예정이라고 WP가 익명의 소식통을 인용해 전했다.
그런데, 이런 정도의 심각한 문제를 갖고 있는 기업이 앤트로픽 뿐일까? 이 회사에 따르면, 거의 모든 최신 AI 모델들은 같은 정도의 위험성을 갖고 있다고 한다. 그래서 이번 제재가 이 회사의 다리오 아모데이(Dario Amodei) 최고경영자(CEO)가 이란전쟁에서 자사의 AI가 인간의 감시 없는 완전자율무기에 사용되는 것을 반대했던 일과 관련이 없는지 궁금해하는 이들도 있다.
한편, 해킹에 대한 자국 주요기관의 안전성을 확보한다는 명분 아래 중국도 비슷한 AI 모델을 개발하고 있는 것으로 보인다. 중국 칭화대 교수가 창업한 AI 회사인 ‘Z.ai’는 미국 정부의 결정 96시간 후에, 상응하는 AI 모델인 ‘GLM-5.2’을 ‘열린 소스 (Open source) 방식으로 공개하여 누구나 무료로 다운로드 받을 수 있도록 제공하였다. 이 회사는 ‘지푸 (Zhipu)로도 알려져 있다. 이를 위해 ‘Z.ai’는 미국 정부의 제재 발효 다음날 자사의 대형 서버에서 이 모델을 다운로드 받을 수 있도록 선제적 조치를 시행하였다. 기다렸다는 듯한 중국 측의 반응이 놀랍기만 했다.
The AI Index: A Compass for Navigating AI’s Future 2026 제목의 유튜브 방송 화면
그 후, 미국의 AI 전문가들이 ‘GLM-5.2’의 알고리즘과 성능에 대해 자세히 조사하여 공개한 바에 따르면, 그들의 표현대로 충격적이며 인상적이다. 기업에서 활용할 수 있는 관점에서 코딩 능력을 검증하는 ‘SWE Bench Pro’에 있어서 아직 ‘페이블 5’에는 80.3-62.1로 뒤지지만, 다른 지표에서 거의 대등한 면도 있다. 더욱이, ‘오픈AI’의 ‘챗GPT 5.5’등 현재 상용 서비스 중인 모든 미국의 AI 모델들에 비해 거의 모든 면에서 뒤지지 않는다고 보는 이도 있다.
토큰당 가격 면에서 페이블 5 의 10분의 1정도에 지나지 않아 경제성도 갖추었다. 더욱이, 8개의 H200 GPU를 갖춘 서버에서 직접 구동하는 경우에는 전기세 이외의 어떠한 비용도 들지 않는다. 그래서, 미국 회사들은 ‘챗GPT 5.5’등 자국 모델 대신에 ‘GLM-5.2’를 사용하는 경우가 많아지고 있다고 한다.
지난 24일 로이터 통신에 따르면, 중국의 ‘치후(Qihoo) 360’ 보안회사는 ‘미토스 5’와 대등한 사이버 능력을 갖춘 AI 모델을 이미 개발했다고 발표했다. 이런 점들에 비추어 과연 미국 정부의 앤트로픽 AI들에 대한 제재 조치는 효과가 있을까?
중국의 ’치후 360‘ 보안회사의 북쪽 B 블록 입구
’Z.ai‘의 대응이 중국 정부의 허가를 거친 일이라면, 그들은 미국 정부에게 매우 다면적인 신호를 보낸 것으로 보인다. 일론 머스크는 6개월 정도면 GLM이 ’페이블 5‘에 맞먹는 성능을 가질 수 있을 것이라 한다. 반면, ’Z.ai 측은 그렇게까지 오래 걸리지 않을 것이라고 장담한다.
그러면, 앞으로 적어도 ‘페이블 5’와 같은 성능의 해킹 능력을 가진 AI를 ‘열린 소스’ 형태로 누구나 사용할 수 있다는 뜻이다. ‘열린 소스‘의 경우 사용자가 소스코드를 더욱 해킹에 유리하게 변경시킬 수 있기 떄문에, 이미 GLM-5.2가 갖고 있는 우수한 코딩 능력 및 ’백만 토큰 창 (Million token window)과 결합하면 원하는 해킹을 더욱 쉽게 할 수 있다. 로그인에 필요한 사용자 인증에 대해 프로그램 상의 사소한 ‘논리적 잘못(flaw)’을 쉽게 우회할 수 있게 해주는 것이다. 여기서, ‘백만 토큰 창’이란 AI가 백만 토큰에 해당하는 방대한 코드와 시스템 설명서 등을 읽고 이해하여 해킹에 이용할 수 있도록 도와준다는 뜻이다. 여러 면에서 뛰어난 AI의 능력이 해킹에도 그만큼 유용하다는 뜻이다.
이런 중국의 대응에 대한 미국 정부의 현재 입장은 무엇일까? ‘미토스 5’에 대한 제제를 풀 것이라는 추측이 들린다. 이 사건은 미국과 중국이 협력하지 않으면 AI의 해킹에 관한 위험성을 제어하는 것이 불가능한 일임을 보여준다. 만약 어떠한 협력도 하지 않는다면, 이런 기술들은 냉전시 미국과 소련의 핵무기 경쟁과 같은 것을 재현시킬 수 있다. 미국과 중국을 제외한 나라들에게는 국가안보적 위험이 될 수 있는 것은 물론이다. 고래 싸움에 새우등 터지는 격이다.
앤트로픽이 2021년에 ‘AI의 안전성과 윤리’ 기치 아래 창립되었던 점에 비추어 참으로 아이러니한 일이다. 미국 이외에는 어느 나라에서도 불가능한 엄청난 재정적 투자를 받고 오픈 AI, 구글 등 막강한 상대들과의 극심한 경쟁 가운데서, 더욱이 미국 증시 상장을 눈앞에 두고 있는 앤트로픽이 과연 미국 정부와의 관계 속에서 창립 이념을 계속 지킬 수 있을지 지켜보자.
AI를 이용한 사이버 공격은 치명적인 방사성 위험이 있는 핵무기와 달리 그 자체로 이를 다루는 인간에게 직접 해를 주지 않는다. 따라서 AI를 이용할 수 있는 이라면 누구나 사이버 해커가 될 수 있다. 그런 면에서는 핵무기보다 더 두려운 일이다. ‘GLM-5.2’에서처럼, 높은 성능의 ‘MoE(Mixture of Expert)’를 이용하여 몇 달에 걸리는 여러 가지 일을 순차적으로 계획하고 실현할뿐 아니라 100만 토큰의 자료나 컴퓨터 코드를 읽고 이해할 수 있는 ‘AI 에이전트(Agent)’를 다룰 수만 있으면, 누구나 이를 사이버 공격에 이용할 수 있다. AI의 생물학적 악용에 대해서는 추후 따로 기고할 기회가 있을 것이다.
인간이 무엇을 위해 이런 기술들을 열심히 개발하는지 잠시 잊은 사이, 혁신적 기술이란 윤리적 문제와 상관없이 혁신의 정도에 비례하는 속도로 발전하는 관성을 갖고 있음을 보여 주고 있다. 이제, 인류는 그러한 관성에 대해 손을 놓아 버릴 것인가? 아니다. AI로 인해 왜소해지는 인간성의 회복이라는 거대 담론을 내건 세계적 운동이 필요할 때이다. 그 시작으로서, 실천력 있는 국제적 기구를 통해 인간이 AI의 어느 부분을 통제할수 있음을 구체적으로 증명하는 것이 어떨까? 국제연합(UN)에서 AI를 이용한 사이버 테러를 방지하는 국제법을 제정하여 시행하는 것 말이다.
강홍석 시민기자 jjhskang@gmail.com
Top
