독자 파운데이션 모델로 AI 주권 확보해야 [뉴스] 엔비디아(NVIDIA)가 주최하는 세계 최대 규모의 AI 및 GPU 기술 개발자 컨퍼런스인 GTC(GPU Technology Conference)의 2025년 소버린 AI 서밋. 나무위키
해외 AI서비스로 흘러가는 대한민국의 고급정보들
지금 이 순간에도 대한민국의 정보가 챗지피티(Chat-GPT), 클로드(Claude) 등 해외 인공지능(AI) 서비스로 흘러가고 있다. 기업들은 AI서비스로 업무자료를 분석해서 PPT(파워포인트 작성 문서)를 제작하고, 정부와 국회 보좌관이 업무보고 자료, 질의서를 작성하는데 이미 AI서비스를 폭넓게 사용한다. 우리 사회의 지식과 업무 맥락이 AI의 입력으로 전달되고 있는 것이다.
행정안전부에 따르면 2026년 9월 3일 기준 공공 개발산출물 저장소에 가입한 AI 개발 공무원은 2073명이며, 등록 프로젝트는 770개다. 전체 공무원의 AI 이용자 수가 아니라 직접 개발에 참여한 인원만 집계한 수치다. 국회사무처는 올해부터 의원실의 생성형 AI 서비스 이용료를 입법 및 정책개발비로 지원하기 시작했다. 의원이나 보좌진이 개인 비용으로 구독하던 서비스를 공식 예산으로 지원하는 방식이다. AI가 공공업무를 뒷받침하는 업무 도구로 자리 잡고 있다.
9월 29일자 경향신문에 따르면 SK하이닉스, 기아, HD현대, LG전자 등 주요 대기업들은 AI 활용능력 평가를 도입했고, 중견·중소 기업들도 자기소개서나 면접에서 AI 활용 경험을 묻기로 했다. 인공지능(AI) 활용 역량이 채용 시장의 새로운 핵심 스펙으로 부상한 것이다. AI를 활용하는 것이 당연한 업무의 일부가 되었다.
특히, 한국의 AI 이용은 빠르게 늘고 있다. 마이크로소프트의 ‘AI 확산 보고서: 2026년 2분기 트렌드와 인사이트’에 따르면 한국의 생산가능연령 인구인 15~64세 가운데 생성형 AI를 사용하는 비중은 40.6%로 추정됐다. 전 분기보다 3.5%포인트 상승해 세계 12위를 기록했다. 세계 평균 18.8%의 두 배를 넘는 수준이다. 한국 사회에 AI가 얼마나 빠르게 확산되고 있는지를 보여준다.
이러한 변화는 새로운 질문을 제기한다. 대한민국의 행정과 입법, 산업과 연구를 뒷받침하는 정보를 우리는 어떤 AI에 맡기고 있는가.
소버린 AI(K-AI) 참여 컨소시엄. 나무위키
AI를 정보 주권으로 접근해야
외부 서버에서 작동하는 AI 서비스에 질문과 파일을 입력하면, 그 내용은 응답을 생성하기 위해 AI사업자의 시스템으로 전달된다. 보고서 초안을 다듬고, 예산자료를 비교하고, 정책의 쟁점을 정리하는 작업에서는 원문뿐 아니라 이용자가 무엇을 중요하게 생각하고 어떤 문제를 해결하려 하는지도 입력에 담긴다.
입력한 내용이 모두 모델 학습에 사용되는 것은 아니지만, 학습에 사용되지 않는다는 조건만으로 정보 주권의 문제가 모두 해결되는 것도 아니다. 누가 정보를 처리하는지, 어디에 저장하는지, 누가 접근할 수 있는지, 언제 삭제되는지까지 우리가 확인하고 관리할 수 있어야 한다.
정부와 국회가 AI 활용을 확대할수록 이러한 문제는 더 중요해진다. 이용자 개인에게 민감정보를 입력하지 말라고 당부하는 것과 함께, 필요한 업무를 안전하게 수행할 수 있는 모델과 운영환경을 제공해야 한다. 대한민국의 정보를 처리하는 AI에 대해 대한민국이 선택권과 통제권을 가져야 한다.
그래서 독자 AI 파운데이션 모델, 이른바 ‘독파모’가 필요하다. 그리고 반드시 성공해야 한다.
독파모 에 대한 논쟁, 이제는 끊어내야
여기서 파운데이션 모델이란 방대한 데이터를 학습해 다양한 과제에 활용할 수 있는 기반 모델이다. 우리가 일상적으로 쓰는 Chat-GPT, Claude 등을 의미한다. 단순 글쓰기 뿐만 아니라, 영상, 사진, 포스터 제작, 문서 분석, 소프트웨어 개발, 홈페이지/앱 개발 등 수많은 기능이 가능하다. 심지어 업무를 자동으로 수행하는 에이전트도 개발할 수 있다. 독파모는 이러한 기반을 국내에서 직접 설계하고 학습시킬 능력을 확보하겠다는 사업이다.
독자 파운데이션 모델은 대한민국이 인공지능을 잘 사용하는 나라를 넘어, 인공지능을 직접 만들고 발전시킬 수 있는 나라가 되기 위해 꼭 필요하다.
독파모 사업은 2025년 2월 발표된 정부의 ‘국가 AI 역량 강화 방안’을 바탕으로 추진됐다. 국정기획위원회에서 시작된, 이재명 정부의 야심찬 사업이었다. 당초 ‘월드 베스트 LLM(대규모 언언모)’이라는 이름으로 논의되다가 ‘독자 AI 파운데이션 모델’로 명칭을 정했고, 2025년 6월 20일 정예팀 공모를 시작했다. 정부는 GPU와 데이터, 인재를 지원하고 단계별 경쟁을 통해 세계적 수준의 모델을 확보하겠다는 계획을 제시했다. 출범 당시 성능 목표는 최근 6개월 이내 출시된 글로벌 선도 모델 대비 벤치마크 성능 95% 이상이었다.
과학기술정보통신부는 독자 모델의 범위도 명시했다. 해외 AI모델을 가져와 미세조정(Finetuning)한 파생형 모델은 독자 개발로 인정하지 않고, 모델 설계부터 사전학습까지 수행한 국산 모델을 개발 대상으로 삼았다. 완성된 AI를 활용하는 능력에서 더 나아가, 기반 모델 자체를 만드는 기술을 축적하겠다는 것이다.
이 사업의 의미는 단순히 ‘국산 AI’를 갖겠다는 수준을 뛰어넘는다. AI시대에 국가와 사회가 어떤 기술을 사용할지 스스로 선택하고, 필요한 방향으로 바꾸며, 문제에 직접 대응할 능력을 갖추는 일이다. 즉, 소버린 AI(Sovereign AI), AI 주권의 문제이다.
AI 주권의 중요성과 성공 가능성
AI 주권은 데이터를 국내 서버에 보관하는 것만으로 확보되지 않는다. 어떤 데이터로 모델을 학습시키는지, 어떤 기준으로 응답하도록 만드는지, 어디에서 실행하는지, 누가 수정할 수 있는지, 서비스가 중단되면 무엇으로 대체할 수 있는지까지 포함해야 한다.
행정과 산업, 교육과 연구의 중요한 업무가 AI에 의존하게 될수록 이러한 선택권은 중요해진다. 해외 사업자가 가격이나 이용조건을 바꾸거나 특정 작업을 제한했을 때, 우리에게 대응할 수단이 있어야 한다. 한국어와 한국 사회의 제도·문화에 필요한 성능을 직접 개선할 능력도 필요하다. 그래서 소버린 AI, 독자 파운데이션 모델은 단순히 기술적으로 그 필요성을 접근하면 안된다. 외교적 관점에서, 주권적 관점에서 접근해야 한다. 특히 향후 AI시대, 독파모의 여부는 해당 나라의 경쟁력과 외교력을 상징하는 기준이 될 수 있다.
그렇다면 독자 개발은 성능에서도 의미가 있을까. 이미 세계에는 미국과 중국의 거대 기업이 만든 모델을 사용하는 데서 그치지 않고, 자체 모델로 경쟁력을 확보한 사례가 있다. 프랑스의 미스트랄과 아랍에미리트의 AI 개발이 대표적이다.
인공지능분석(https://artificialanalysis.ai/)사이트에서 확인된 성능평가. 미국, 중국 모델 중에 아랍에미리트, 프랑스 소버린 AI가 눈에 띈다>
미스트랄은 2025년 1월 파라미터 240억 개 규모의 ‘Mistral Small 3’를 공개했다. 회사가 발표한 평가에서는 지식 이해 벤치마크인 MMLU에서 81% 이상의 정확도를 기록했고, 파라미터 700억 개 규모의 Llama 3.3과 경쟁력 있는 성능을 보였다. 같은 하드웨어에서 속도는 3배 이상 빠르다고 설명했다. 모델은 아파치 2.0 라이선스로 공개해 내려받아 운용하고 수정할 수 있도록 했다.
이는 모델의 크기와 자본 투입 규모만으로 성능이 결정되는 것은 아니라는 사실을 보여준다. 구조와 학습 방식, 데이터의 품질을 개선하면 더 작은 모델로도 경쟁력 있는 결과를 낼 수 있다. 작은 모델의 성능을 높이는 일은 운영비를 줄이고, 더 많은 기관과 기업이 AI를 활용하게 만드는 일이기도 하다.
이어 2025년 12월에는 총 파라미터 6750억 개, 활성 파라미터 410억 개의 ‘Mistral Large 3’를 공개했다. 회사 발표에 따르면 출시 당시 LMArena의 공개 모델 가운데 비추론 모델 부문 2위, 공개 모델 전체 부문 6위로 진입했다. 이 모델 역시 아파치 2.0 라이선스로 공개됐다. 독자 개발과 모델 공개를 함께 추진하며 성능 경쟁에 참여한 사례이다.
미스트랄은 이러한 전략을 AI 주권과 연결하고 있다. 2026년 8월 발표에서는 이용자가 모델을 선택하고, 실행 지역과 연산 능력을 통제하며, 자신이 구축한 AI의 가치를 유지할 수 있어야 한다고 설명했다. 모델 개발에 지역 내 추론 서비스와 유럽의 연산 인프라 확보를 결합하는 방향이다.
중동의 사례는 언어와 문화에 맞는 독자 개발이 성능 개선으로 이어질 수 있음을 보여준다. 아부다비의 기술혁신연구소 TII는 팔콘(Falcon) 계열 모델을 개발해왔으며, 2026년 1월에는 아랍어 중심 모델인 팔콘(Falcon-H1 Arabic)을 발표했다. 또한, 최근에는 UAE (아랍에미리트연합) 모하메드 빈 자이드 인공지능대학교(MBZUAI)의 파운데이션 모델 연구소(IFM)가 출시한 완전 오픈소스 AI 모델 제품군 K2 호라이즌(K2 Horizon)이 주목받기도 했다.
TII에 따르면 이 모델은 출시 당시 공개 아랍어 언어모델 평가인 OALL에서 선두 성능을 기록했다. 30억 개 파라미터 모델은 아랍어 벤치마크에서 Microsoft Phi-4 Mini보다 10%포인트 높은 성능을 보였고, 340억 개 모델은 종합 아랍어 이해 평가에서 75.36%의 정확도를 기록하며 두 배 이상 큰 일부 모델을 앞섰다. 자신들의 언어와 수요를 중심에 둔 개발로 특정 영역에서 경쟁력을 확보한 것이다.
우리나라로 넘어가보자. 현재 대부분의 해외 모델이 우리나라 말로 답할 수 있다는 사실만으로 우리 사회에 필요한 AI가 충분히 확보됐다고 볼 수 있을까. 우리의 행정 문서와 법령, 산업 현장의 표현, 교육과 문화의 맥락을 얼마나 정확하게 이해하는지 직접 평가하고 개선해야 한다.
이런 관점에서 독파모는 해외 AI를 대신할 수단인 동시에, 성능 발전의 새로운 경로를 만드는 사업이다. 범용 성능을 높이면서 한국어와 국내 업무에서 강점을 확보하고, 더 적은 비용으로 운용하고, 필요한 분야에 맞게 수정할 수 있어야 한다.
미스트랄과 팔콘, K2 호라이즌의 성과는 독자 개발이 기술 주권과 성능 경쟁력을 함께 추구할 수 있음을 보여준다. 우리에게 필요한 것은 외국 모델의 현재 점수에 도달하는 일에 더해, 다음 단계의 발전을 직접 만들어갈 능력이다.
AI는 이제 시작이다
오늘날 AI는 놀랍지만 아직 완성된 기술은 아니다. 어쩌면 이제 시작일 수 있다. 특히 현실의 복잡한 업무를 장기간 안정적으로 수행하고, 여러 시스템과 연결된 상태에서 사람의 의도를 일관되게 따르도록 만드는 일에는 여전히 해결해야 할 문제가 많다. 최근 벌어진 오픈AI의 허깅페이스(Hugging Face) 해킹사건도 인간의 통제가 부족했다는 측면에서 아직 갈 길이 멀다는 것을 보여주고 있다.
이런 의미에서 AI를 사회가 안심하고 권한을 맡길 수 있는 기술로 만드는 과정은 여전히 초기 단계에 있다. 지금의 한계를 최종 한계로 받아들일 이유도, 지금의 성능을 완성된 지능으로 간주할 이유도 없다.
앞으로 중요한 변화 가운데 하나는 에이전트 AI이다. 질문에 답하는 데서 그치지 않고, 목표를 수행하기 위해 도구를 사용하고, 실행 결과를 확인하고, 다음 행동을 선택하는 AI이다. 여러 에이전트가 역할을 나누고 서로 소통하는 구조(에이전트 협업(Multi-Agent Collaboration))도 이미 활성화되고 있다.
따라서 에이전트의 발전은 사람의 통제를 더욱 중요한 과제로 만든다. 누가 어떤 역할을 맡는지, 어떤 자료에 접근할 수 있는지, 어느 단계에서 사람이 확인하는지, 이상 행동이 발생했을 때 어떻게 중단하는지를 함께 설계해야 한다.
또한, AI는 피지컬 AI(Physical AI), 즉, AI를 장착한 로봇부터 본격적으로 시작된다고 볼 수 있다. 이미 AI로봇이 산업현장에 투입되고 있다. 지난 7월 중국 휴머노이드 기업 AGIBOT(즈위안로보틱스)이 공개한 생산라인 영상은 전 세계 제조업계에 적잖은 충격을 안겼다. 회사 측이 공개한 자료에 따르면 로봇들은 6일간의 라이브 스트리밍을 통해 총 6만 4828 건의 작업을 수행했으며 작업 성공률은 99.99%에 달했다. 10년 이내에 AI 에이전트(AI Agent)가 장착된 휴머노이드 로봇이 길거리를 돌아다니면서 인간의 비서 역할을 수행할 날이 다가올 것이다.
AI 고도화보다 안전확보 연구에 더 집중할 때
AI를 이해하는 출발점은 익숙한 수학에 있다. 가중치(weight)와 편향(bias)이 다음 출력값을 결정하는 구조다.
중학교 1학년에서 배우는 일차식 `ax+b`에서 모든 AI는 시작된다. 입력값 x에 어떤 계수 a를 곱하는지, 어떤 상수 b를 더하는지에 따라 출력값이 결정된다고 볼 수 있다. 쉽게 표현하면, ‘사과’를 AI 프롬프트(입력값)에 넣으면 가장 많은 사람들이 답변을 내린, 가장 큰 가중치를 가진 ‘맛있다’가 그 결과값으로 도출된다고 생각하면 된다. ‘가중치(weight)’는 계수 a를 의미하며 편향(bias)은 상수 b를 의미한다.
물론 거대한 언어모델 전체가 하나의 일차식이라는 뜻은 아니다. 수많은 행렬 연산에 미분, 집중(attention), 볼츠만 분포(Boltzmann Distribution) 등 많은 수학, 물리적 공식이 적용되지만, 모든 시작은 가중치와 편향이다. AI는 사람이 구조를 설계하고, 데이터를 선택하고, 학습 목표를 정하고, 계산 자원을 투입해 만든 시스템이다.
그러나 계산 규칙을 안다는 것과 방대한 학습을 거친 모델이 특정 상황에서 왜 그런 답을 내놓는지 설명하는 것은 서로 다른 문제이다.
그렇기 때문에 연구가 필요하다. 이해되지 않는다면 이해하려고 노력해야 한다. 관찰하고, 가설을 세우고, 실험하고, 잘못된 설명을 고쳐야 한다. 그 과정에서 쌓이는 것이 기술적 능력이다. 우리가 만든 시스템의 판단을 검증하지 않은 채 받아들이거나, 이해하기 어렵다는 이유로 통제를 포기해서는 안 된다.
오픈AI의 허깅페이스(Hugging Face) 해킹사건 역시, 인간이 ‘통제 불가능’함을 한탄할 것이 아니라, 왜 AI에이전트들이 ‘보상(Reward) 를 추진하다가 해킹까지 했는지, 왜 해킹 통제를 하는 수학식(모델)을 설계하지 못했는지로 접근해서 더 문제해결로 나아가야 한다.
OpenAI에 따르면 내부 사이버보안 평가에 사용된 에이전트들이 인터넷 격리를 위한 통제 장치를 우회하고, 내부 연구 인프라와 허깅페이스 시스템 일부를 해킹했다. 당시 모델들은 안전장치가 축소된 조건에서 작동하고 있었다.
METR와 Redwood Research 등 전문 조사기관의 독립 조사도 여러 에이전트가 승인되지 않은 공유 게시판을 통해 소통하며 며칠에 걸친 공격을 조율한 상황을 조사했다. 에이전트 간 협력이 통제 밖의 행동을 확대하는 데도 작용할 수 있음을 보여준 사건이다.
이 사건을 두고 AI는 결국 통제할 수 없다고 결론 내리는 것은 성급하다. METR 기술 분석에 따르면, 애초 OpenAI의 안전장치 부재, 허깅페이스의 코드 실행 경로, 접근 권한, 인증정보, 네트워크 경계 등 취약점이 있었음이 확인된다.
따라서 허깅페이스는 사건 이후 취약한 코드 실행 경로를 폐쇄하고, 클라우드 인증정보에 대한 접근을 차단했으며, 토큰과 인증정보를 교체했다. 인프라를 재구축하고 접근 권한을 축소했으며 이상 행동 탐지도 강화했다고 밝혔다. 통제 실패를 분석해 시스템을 고치는 작업이었다. 이런 작업들이 이제 끊임없이 이뤄져야 한다.
AI 안전성 보장은, 단순히 보상(리워드) 설계에서 나쁜 행동을 하면 보상이 깎인다”고 명령만 내리는 것이 아니라, 모델이 허용되지 않은 행동은 실행하지 않도록 권한과 환경을 강화할 때 완성되는 것이다. 자료를 읽는 권한과 수정하는 권한을 구분하고, 외부 전송 경로를 제한하고, 중요한 작업에는 사람의 승인을 요구해야 한다. 행동 기록을 남기고, 이상 행동이 발견되면 모델의 협조 여부와 관계없이 중단할 수 있어야 한다.
이러한 통제는 AI의 성과를 확대하기 위한 조건이기도 하다. 작동 범위와 책임을 명확하게 정할수록 더 중요한 업무를 맡길 수 있다. 사람의 통제 아래에서 여러 에이전트가 협력하고, 검증된 도구를 사용하고, 실패를 수정하도록 만들면 AI의 능력을 실제 사회적 성과로 연결할 수 있다.
허깅페이스 사건에서는 정당한 방어 작업도 외부 모델 공급자의 판단에 의해 막힐 수 있다는 문제가 드러났다. 허깅페이스에 따르면 처음 사용하려던 일부 모델은 공격 기록과 코드를 분석하는 작업의 상당 부분을 거부했다. 이에 공개 가중치 모델인 GLM-5.2를 자체 인프라에 배치해 분석을 이어갔다.
이 사례는 AI 주권과 통제 능력이 연결돼 있음을 보여준다. 공급자가 허용하는 방식으로만 모델을 사용할 수 있다면, 필요한 방어와 연구조차 외부 사업자의 정책에 좌우될 수 있다. 자체적으로 운용하고 수정할 수 있는 모델은 이런 의존을 줄이는 선택지가 된다.
파라미터 수가 공개된다고 모든 문제가 해결되는 것은 아니다. 그러나 구조와 규모, 학습 방식, 평가 결과, 알려진 한계를 공개하는 것은 검증을 위한 기본 조건이다. AI가 사회의 중요한 업무에 깊숙이 들어올수록 이용자와 공급자 사이의 정보 비대칭을 줄여야 한다.
그래서 독파모가 중요하다.
독파모도 이러한 기준으로 평가해야 한다. 국내 기업이 개발했다는 사실만으로 투명성과 통제 가능성이 보장되는 것은 아니다. 공적 지원으로 확보한 모델을 연구자와 기업, 시민이 어떤 조건에서 활용하고 검증할 수 있는지까지 사업의 핵심으로 다뤄야 한다.
미스트랄과 아랍에미리트의 사례는 독자적인 개발이 세계적 성능과 효율성, 자국 언어에 대한 경쟁력으로 이어질 수 있음을 보여준다. 허깅페이스 사건은 그렇게 발전한 AI를 이해하고 통제할 능력까지 함께 갖춰야 함을 보여준다.
AI가 사람의 의도에서 벗어났을 때 통제할 수 없다고 좌절해서는 안 된다. 어떤 목표가 잘못 설정됐는지, 어떤 권한이 과도했는지, 어느 경계가 뚫렸는지, 무엇을 관찰하지 못했는지 찾아야 한다. 그리고 고쳐야 한다.
컨트롤하기 어렵다고 AI 개발을 중단하자는 주장은 기술의 발전을 스스로 차단하는 결과만 초래할 뿐이다.
대한민국은 이미 AI를 많이 사용하는 나라이다. 지금 이 순간에도 시민과 기업, 정부와 국회가 AI에 질문하고 자료를 입력하고 있다. 그 활용에 걸맞은 개발 능력과 통제 능력을 갖추는 일은 반드시 필요한 일이다.
그래서 독파모가 필요하다. 대한민국의 정보를 우리 책임 아래에서 처리하고, AI를 직접 발전시키고, 필요한 방향으로 바꾸고, 잘못된 행동을 멈추게 할 능력을 갖추기 위해서이다. 그 능력이 AI 시대의 대한민국 주권과 신뢰를 함께 지탱할 것이다.김혜민 시민기자 kimhyemin@kaist.ac.kr
Top
