인간이 AI 공격 대비할 시간은 고작 1~2년” [카테고리 설정이 아직되어 있지 않습니다.] 일본 금융담당상 가타야마 사쓰키가 4월 21일 도쿄에서 금융청, 일본은행, 국가사이버보안국, 일본 3대 은행, 일본거래소그룹(JEG) 관계자들과 회의를 마친 후 언론에 브리핑하고 있다. 이번 회의는 앤트로픽의 미토스 AI 모델과 관련된 잠재적 취약점 우려에 대한 대응으로 진행되었다. 2026.4.21.로이터 연합뉴스
인공지능(AI)가 발전하면 언젠가는 인간사회의 불완전한 점을 모조리 콕 집어내는 것이 나올 것이다. 미토스는 그 영역에 처음으로 도달한 AI 모델이다.”
미국의 AI 서비스 개발기업 앤트로픽이 지난 7일 발표한 최신 AI 모델 ‘클로드 미토스(Claude Mythos)’는 일반에 공개하기에는 너무 위험해서 컴퓨팅, 소프트웨어, 금융 분야의 대기업 약 50곳에만 제한적으로 제공했다고 앤트로픽 최고경영자(CEO)인 다리오 아모데이가 밝혔다.
2026년 3월 1일 촬영한 앤트로픽 로고. 로이터 연합뉴스 자료사진
미토스, 인간 제어 벗어나 독자행동까지
오픈 AI의 샘 올트먼 CEO가 이를 두고 AI 기술 확산을 막고 자사 제품을 과도하게 부각시키려는 공포 조장 마케팅”이라 비판했지만, AI 성능 학술 테스트에서 최근의 고성능 AI 모델들이 대체로 100점 만점에 50점대 전반의 점수를 받았지만 미토스는 60점대의 높은 점수를 받을 정도로 차원이 다른 모델이라는 평가를 받았다. 이쯤 되면 전문가들이 오랜 세월 찾아내지 못했던 약점들을 미토스는 금방 간단하게 찾아낼 수 있다.
실제로 전문가가 27년 동안 찾아내지 못했던 약점을 미토스는 몇 시간 만에 찾아냈으며, 500만 번이나 테스트를 했지만 발견하지 못했던 결함도 미토스는 금방 찾아냈다. 게다가 미토스는 개발 시험 중에 인간의 제어를 벗어나 지시하지 않은 행동까지 했다.
우리가 사는 세계에서는 금융, 의료, 교통 등 다양한 기간 인프라에 소프트웨어가 사용되고 있다. 그 소프트웨어들의 ‘버그’(결함)를 없앨 수는 없지만, 인간이 그런 취약성(결함)을 찾아내는 것도 어려운 게 현실이다. (…) 그런데 미토스는 사람이 찾아낼 수 없을 정도의 소프트웨어 결함들을 대량 발견해낼 수 있다. 15~25년간이나 방치돼 있던 기간 소프트웨어 버그를 찾아낸 예도 있다. 이런 특성을 악용하면 금융이나 의료 등 재산과 인명에 관한 시스템에 치명적인 타격을 가할 수도 있다.”
JAIST의 이마이 객원교수 일반 개방은 시간문제”
일본의 AI 연구자로, 호쿠리쿠 첨단과학기술대학원대학(JAIST) 이마이 쇼타 객원교수는 24일 게재된 아사히신문과의 인터뷰에서 AI 개발 기업이나 기관이 미토스와 같은 초고성능 AI 모델을 개발하면 그것이 일반에 개방되는 것은 시간 문제”라며, 공개되면 일반인도 해커도 그것을 손에 넣을 수 있기 때문에 사이버 공격이 급증할 것이라고 했다. 그는 지금은 그렇게 되기까지의 유예기간”이라고 했다.
유예기간이 얼마나 가겠느냐는 질문에 이마이 교수는 앞으로 1~2년”이라고 했다. 그는 일본정부는 앤트로픽에 접근 허가를 요청해야 한다”면서, 그렇게 해서 기간 인프라를 떠받치는 중요한 시스템을 미토스가 조사하게 해서 취약성(결함)을 (미리) 찾아낼 수 있게 해야 한다고 했다. 1~2년 안에 미토스가 찾아낼 수 있는 일본 국가나 기업 시스템의 결함을 재빨리 확인해서 제거하지 않으면 미토스 같은 고성능 AI를 활용한 범죄에 속수무책이 될 수 있다는 얘기다. 남은 시간이 별로 없다.
그런데 앤트로픽이 ‘클로드 미토스’를 한정적으로 제공한 50곳에 일본의 기관이나 기업은 포함되지 않았다. 그러니 일본정부 차원에서 앤트로픽에 클로드 미토스 모델에 대한 접근권을 달라고 요청해서라도 대비책을 서둘러야 한다는 것이다.
사회에 방치돼 온 버그(결함)와 불완전성은 AI에 의해 남김없이 드러나게 될 것이다. 조금이라도 약한 부분이 있으면 반드시 드러난다. 그런 시대가 왔다는 것을 사회에 알리고 공유하는 것이 첫 걸음이다.”
미국 정부가 가장 먼저 움직였다. 스콧 베선트 미국 재무장관은 미토스 개발 발표 직후 자국 주요 은행 대표들을 소집해 긴급 대책회의를 열었다. 미토스가 이대로 일반에 공개되면 은행 등 금융기관 보안시스템이 해커들의 사이버공격에 쉽게 뚫리고 국가 시스템 전반이 마비될 수 있다고 보기 때문이다. 트럼프 대통령은 15일 AI 기술에 대해 ”정부가 강제 정지를 위한 킬 스위치(kill switch)를 가져야 한다 고 말했다.
지난 3월 21일 앤트로픽과 오픈AI 등의 본사가 가까운 샌프란시스코 거리에서 시민들이 AI 개발 중단을 요구하는 시위를 벌이고 있다. 아사히신문 4월 22일
일본 금융상 ”AI 위협은 ‘지금 여기’에 있는 위기
일본도 24일 가타야마 사쓰키 금융담당상 주재로 금융업계 대표들을 소집해 관민제휴회의를 열어 기간(기본) 인프라에 대한 해커들의 대규모 사이버 공격에 대비한 대책을 논의했다.
금융청에서 열린 관민회의에는 일본은행의 우에다 가즈오 총재, 전국은행협회 회장인 미즈호 은행의 가토 가쓰히사 은행장 등 3대 메가뱅크 은행장들, 일본거래소그룹 대표들이 참석했다. 이들은 관민회의 산하에 실무전문가회의를 설치하고 금융업계뿐만 아니라 IT업계 등에도 참가를 요청하기로 했다.
가타야마 금융담당상은 회의 뒤 금융시스템에 대한 사이버 공격에 대해 그 파장이 다른 업계와는 비교가 되지 않을 것이라며 즉시 시장에 영향을 끼치고, 신용불안까지 부를 것”이라고 우려했다. 그러면서 미토스를 포함한 AI의 위협을 지금 여기에 있는 위기”라고 했다.
AI를 활용한 사이버 공격 위협은 금융에 국한되지 않는다. 전력, 통신, 철도, 공항 및 항만 등 기간 인프라가 공격을 받아 서비스가 중단되면 경제활동과 일상생활이 심각한 영향을 받게 된다.
집권 자민당도 지난 20일 다이라 마사아키 국가사이버안보 전략본부장 주재 아래 긴급대책회의를 열었으며, 그 자리에 앤트로픽 쪽 인사도 참석했다. 자민당은 참석한 금융청과 국가사이버총괄실(NCO) 등의 정부기관에 방위태세 구축을 요청하고, AI 안전 확보를 담당하는 조직까지 포함한 체제정비를 서둘렀다.
AI기업 파크샤(PKSHA) 테크놀로지의 우에노야마 가쓰야 사장은 시스템 안보상의 결함을 발견하는 능력은 AI가 인간을 훨씬 능가하는 단계에 돌입했다”면서 전 세계에서 사용되는 복수의 소프트웨어에 대해 이제까지 알려지지 않았던 취약성이 다수 발견될 수 있는 상황이다. 인간과 AI가 협조해 방위 설계를 평소에 개발해 두는 게 중요하다”고 강조했다.
Top
