AI가 인류 멸종 경고, 한국이 해법 제시하고 있다 [뉴스] AI의 위험성 상시 검증·제어할 국제시스템 없어
인공지능(AI)가 인류를 위협할 수 있다는 경고가 반복되고 있다. 그런데도 이를 상시 검증하고 제어할 국제 시스템은 어디에도 존재하지 않는다. 지금 인류에게 필요한 것은 빅테크 기업들의 선의에 기댄 자성이나 개별 국가의 쪼개기식 규제가 아니다. 한국의 제안으로 이미 첫발을 뗀 UN 글로벌 AI 허브 를 위험을 상시 감시·검증할 실질적 권한을 가진 상설 국제기구로 진화시키는 것이 필요하다.
AI 이미지
위험을 가장 잘 아는 사람들의 섬뜩한 고백
최근 앤트로픽의 정렬 연구 책임자 에반 후빙어는 향후 10년 안에 AI가 인류를 멸종시킬 확률을 10% 이상으로 본다고 밝혔다. 이는 앤트로픽과 오픈AI에서 사전학습을 연구했던 제이컵 콕슨이 두 회사 모두 책임 있게 행동하지 않으며 자기개선형 초지능을 향해 무모하게 질주하고 있다”고 비판하고 사직한 직후 나온 폭로다.
앤트로픽 자체도 안전보고서를 통해 파국적 위험 통제에 대한 확신이 예전만 못하다고 인정했다. 위험의 실체를 가장 잘 아는 내부 연구진들이 경쟁 압박 탓에 정작 개발의 가속페달을 멈추지 못하는 기괴한 윤리적 모순이다.
물론 반론도 존재한다. UN AI 자문위원 웬디 홀은 상장을 앞둔 기업들이 이런 종말론적 경고를 자사 기술력을 과시하는 마케팅 수단으로 활용할 가능성이 있다고 언급했다. 검증 불가능한 공포 수치로 정책과 시장의 균형 잡힌 판단을 흐릴 수 있다는 지적이다.
임계점에 다다른 경고, 작동하지 않는 국제 체제
AI 파국론은 결코 어제오늘 튀어나온 말이 아니다. ‘딥러닝의 대부’ 제프리 힌튼은 구글을 떠나며 멸종 확률을 10%로 제시한 뒤 최근 20%까지 상향했고, 튜링상 수상자 요슈아 벤지오 역시 해마다 적색경보를 울린다. 이미 수백 명의 석학과 기업인들이 AI 위험 완화 필요성을 핵전쟁이나 팬데믹과 같은 전 지구적 실존 과제로 규정했다.
정작 문제는 이 위험을 다룰 국제 거버넌스의 무력함이다. UN의 자문기구와 과학패널은 권고와 경고 수준에 머무르고 있다. 영국·한국·프랑스 등에서 이어진 정상회의 역시 구속력 없는 선언에 그쳤다. 유럽연합(EU)의 AI법, 미국의 자율규제, 중국의 자체 프레임워크가 제각각 겉돌고 있는 사이에 최첨단 프런티어 모델은 국경을 아랑곳 않고 확산하고 있다. 193개국 중 118개국은 논의 테이블에서조차 소외돼 있다. 여기에 미국 주도의 규범은 중국이 거부하고, 중국 중심의 표준은 서방이 불신하는 진영 대립까지 겹친다. 패권국 깃발 아래에서는 어떤 실질적 합의도 불가능한 교착 상태에 빠졌다.
중견국 한국이 이미 열어젖힌 돌파구
그러나 한국은 이미 이 벽을 넘는 경험을 3년째 쌓고 있다. 지정학적 교착을 깨고 있는 현실적 중재자다. 한국은 세계 최고 수준의 반도체와 AI 생태계를 갖춘 혁신 강국이면서도, 패권 경쟁의 직접 당사자가 아닌 신뢰받는 ‘민주적 중견국(Middle Power)’이기 때문에 가능하다.
서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘AI 서울 정상회의’ 장관 세션. 2024.5.22 연합뉴스
2024년 서울 AI 정상회의를 통해 서방과 중국 기업의 안전 서약을 함께 끌어냈고, 지난해 11월 APEC 정상회의에서는 미·중 정상이 동시에 서명한 최초의 정상급 AI합의문인 ‘경주선언’을 도출하며 한국 주도의 ‘아시아·태평양 AI 센터’ 설립을 명문화했다. 올해는 국제노동기구(ILO)·세계보건기구(WHO)·유엔개발계획(UNDP) 등 UN 9개 핵심 기구의 분산된 AI 기능을 하나로 모으는 ‘UN 글로벌 AI 허브’의 출범을 직접 제안해 성사시켰다. 미·중을 비롯한 글로벌 사우스와 선진국을 한자리에 묶어낸 중재 능력을 검증받았다.
‘UN 글로벌 AI 허브’를 국제 AI 안전기구로 확장
한국이 이미 싹을 틔운 ‘UN 글로벌 AI 허브’를 국제 AI 안전기구로 기능을 확장시킬 필요성이 있다. 국제원자력기구(IAEA)처럼 최신 모델을 상시 모니터링·검증하고 위험 정보를 공유하며 조기경보를 발령할 실질적 권한을 가진 상설 기구로 키워야 한다.
개발을 멈추자는 것이 아니다. 인류가 AI 폭주를 제어할 최소한의 안전판을 만들자는 것이다. 정상급 다자 합의를 연달아 이끌어낸 한국이 이제는 선언을 넘어 ‘안전 검증과 감독’ 이라는 거버넌스로 기능을 확장할 차례다. 지금 시작하지 않으면 다음 경고는 활자 속 뉴스가 아니라 돌이킬 수 없는 파국적 사고로 닥칠 수 있다.황도건 시민기자 dogeon2030@gmail.com
Top
