오픈 AI 정문 봉쇄한 활동가 AI가 디스토피아 [사람들] 미국 샌프란시스코 경찰에 자수하기 하루 전인 지난 13일(현지시간) 캘리포니아주 버클리의 자택 거실에서 윈드 카우프민이 영국 일간 가디언과 인터뷰하고 있다. 가디언 홈페이지 갈무리
최근 미국의 진보적 유튜브 채널 디모크라시 나우 에 따르면, 캘리포니아의 은퇴 교사 출신 윈디 카우프먼(69)이 수감됐다. 그녀는 지난해 2월 캠페인 단체 멈춰라(Stop) AI 동료들과 함께 샌프란시스코의 오픈 AI 본사 정문을 체인으로 꽁꽁 감고 연좌농성을 주도한 혐의를 받는다. 인공초지능 (Artificial superintelligence: ASI)을 추구하는 데 항의하다 구류된 최초의 사례일 것이라고 한다.
지난 6월 영업방해, 무단 침입, 불법 집회, 폭동 시 해산 거부 등 혐의로 유죄 판결을 받았고, 지난 13일(현지시간) 자수해 샌프란시스코 카운티 감옥에서 2주 구류를 살고 있는 그녀는 자수 전날 영국 일간 가디언과 인터뷰했다. 그리고 디모크라시 나우 인터뷰를 통해선 아래 발언을 들려 주었다.
AI를 멈추라. 이 테크기업들(오픈 AI와 앤틇픽, 메타 등)이 AI로 하여금 우리를 감시하고 결국 죽일 수도 있음을 항의한다. 우리는 이미 이런 위험을 알고 있으며, 전 세계가 알아야 한다. 이스라엘은 가자에서 대량학살을 위해 AI를 사용하고 있다. 이 기술은 감시와 살상이란 디스토피아(dystopia)와 파시즘 국가로의 전락을 부추기고 있다. 또한, 이 기술은 우리의 직업을 빼앗을 것이며 이는 이미 상당히 진행되었다. 자살, 강력범죄, 그리고 대량 총격도 유발한다. 테크기업 CEO들은 이를 알고도 아랑곳 하지 않는다. 우리는 이를 중지하도록 우리를 교육시켜야 한다.
지난 7월 11일 미국 캘리포니아 샌프란시스코에 있는 OpenAI 본사 앞에서 AI 반대 시위가 벌어졌다. 블룸버그 게티 이미지
AI 관련 플랫폼 기업 ‘Hugging face’ 로고(위키피디아)
이런 경고와 관련해, 오픈AI의 최신 모델인 ‘GPT-5.6 Sol’의 AI 비서(agent)가 폐쇄된 디지털 환경에서 해킹 능력을 검증하는 과정에서 아직 발표되지 않은 오픈AI 모델의 도움으로 이 환경을 탈출하여 허깅 페이스(Hugging Face)를 해킹했다고 해서 놀라움을 안겼다. 참고로, 허깅 페이스는 엄청나게 많은 최신 AI 모델들, 공개 데이터셋, 이 모델들을 사용하기 위한 코드 등을 갖고 있어서, 최근 AI 모델들의 플랫폼 역할을 하는 스타트업이다. 허깅 페이스에서 해킹 능력을 향상시키는 비법을 찾을 수 있을 것으로 추측했으며, 이 회사의 CEO는 이런 사실을 알고 무척 놀랐다고 한다. 즉, 사용자의 의도에 반해 AI 비서가 고의로 속임수를 두는 행동을 했다는 것이다. 이보다 조금 전에, 앤트로픽(Anthropic)의 최신 모델 ‘미토스 (Mythos)도 비슷한 일로 미국 정부에 의해 공개 금지를 당한 적이 있다.
이런 일련의 사건은 AI 대부라 불리며 2024년도 노벨 물리학상 수상자인 제프리 힌튼(Geoffrey Hinton)의 다음과 같은 발언을 상기시킨다. ”AI를 개발하는 일은 호랑이 새끼를 키우는 것과 같다.” 호랑이는 성체가 되면 인간이 제어할 수 없지 않은가 ! 이런 면에서, 앞선 카우프민의 발언은 AI의 위험성에 대해 정곡을 찌르는 경고이다.
2024년 노벨물리학상 수상자인 AI 대부 제프리 힌튼의 2026년 사진(위키피디아)
이스라엘 역사학자 유발 하라리의 표현에 따르자면, 실리콘밸리가 추구하는 AI는 모든 일에서 스스로 알아서 판단하고 수행하는, 인간보다 월등한 신(God)과 같은 존재이다. 이미, 국방 AI기업인 팔란티어(Palantir)의 공동창업자인 피터 틸(Peter Thiel)과 조만 달러 부자인 일론 머스크 등의 발언과 행동에서 테크 파시즘의 전조를 엿볼 수 있다.
그럼에도 카우프먼의 경고 일부에 의문을 제기할 수 있다. 예를 들어, AI가 대부분의 직업을 대체할 것이라는 그녀의 예측에 대해 생각해 보자. 기계학습 자체가 확률적인 것이므로, 추론 과정에서 환각(hallucination)이란 피할수 없는 측면이 있다. 또한, 인간이 일상생활을 유지하게 하는 데 언어보다 더 중요한 것은 시각 정보의 올바른 처리인데, 이는 언어모델에 비해 비교할 수 없이 어렵다. 휴머노이드 구현도 마찬가지이다.
제프리 힌튼, 요슈아 벤지오(Yoshua Bengio)와 함께 2018년에 튜링상을 수상하였고, 시각 정보 처리를 위한 컴퓨터 비전의 개척자 얀 르쿤(Yann LeCun)은 대언어모델은 막다른 골목 (LLM is dead end)이라고 단언하였다. LLM만으로 결코 AGI를 구현할 수 없다는 뜻이다. 그런데, 사람이 하는 일 가운데 위험하지 않은 일이 몇 가지나 있을까? 인간을 AI로 대체했을 때 AI의 환각에서 오는 위험은 더욱 위험하다. 한 예로서, 앞선 글 운전자 없는 AI 자율주행 자동차 안전한가?”에서 환각의 치명적 위험을 언급한 적이 있다. 일론 머스크는 자율주행이 거의 실현된 것처럼 얘기하지만, 그의 자율주행은 치명적인 사고를 많이 유발해 소송을 당하고 있다.
2022년 9월 미국 애리조나주 스코츠데일에서 강연하는 피터 틸(위키피디아)
어린 아이는 심부름 하다 경사가 급한 계단에서 넘어질 수도 있고, 요리를 하다 뜨거운 물을 쏟을 수도 있다. 심지어는 요리 도중 실수로 불을 낼 수도 있다. 그런 아이가 성인이 되는 과정에 수많은 위험을 직접 또는 간접적으로 경험하면서 피하는 방법을 배운다. 중력의 법칙은 부모가 가르쳐 주지 않아도 생후 9개월이면 스스로 배운다고 한다. 반면, 수소 기체는 폭발성이 있어 조심히 다루어야 한다는 것은 초등학교 6학년때 과학 시간에 배운다. 더욱이, 원자핵의 분열과정에서 방출되는 방사선의 위험은 고등학교 과학시간에나 간접적으로 배운다. 이런 것들을 순차적으로 배워 성인이 되어서도, 교통사고를 비롯한 수많은 위험을 경험한다. 그런 면에서 물리학, 화학, 생물학 법칙들에 대한 이해뿐 아니라 순간적 순발력까지 갖춘 성인의 직업을 AI가 쉽게 대체할 수 있을까? 여기서 이해한다는 말은 단순히 그 법칙 자체를 반복해서 기술한다는 뜻이 아니라, 자신의 현실적 상황에서 인간이 이 법칙들과 관련된 결과를 예측할 수 있다는 뜻이다. 그런 예측을 AI가 어느 정도 하고 있는가?
상당히 많은 면에서 인간이 할 수 없는 일을 AI가 쉽게 할 수도 있지만, 인간에게 평범한 일을 모두 AI가 쉽게 할 수 있는 것은 아니다. AI 전문가 가운데 AGI가 불과 몇 년 안에 도달할 것처럼 환상을 심는 이도 있지만, 이런 점을 생각해 보고 하는 말인지 모르겠다. 이런 우려에도 불구하고, 테크 CEO들의 장밋빛 주장은 많은 직업을 AI로 비가역적인 방식으로 대체하고자 하는 거대한 바람의 밑작업일 수 있다. 이런 점에서, 실리콘밸리 CEO들의 장담이 정말 가능한지, 그리고 바람직한지, 비판적 시각에서 생각해 봐야겠다.
미국 버몬트주 연방 상원의원이자 진보적 정치인 버니 샌더스(위키피디아)
카우프먼의 요구는 간단하다. 오픈 AI, 앤트로픽, 메타 CEO들아, 인간성을 회복하라. 그녀는 기꺼이 감옥에 가겠다고 했다. 자신이 순교자여서가 아니라 경종을 울리려 한 것이라고 말한다. 캐나다 몬트리올대학의 AI 안전 전문가 데이비드 크뤼거(David Kreuger)에 따르면, 인간이 많은 생물종을 멸종시킨 것처럼, AI는 정말 인간의 멸종을 초래할지 모른다고 한다. 미국을 대표하는 양심적 정치인 버니 샌더스(Bernie Sanders) 상원의원도 최근 카우프먼과 같은 요구를 테크 CEO들에게 했다. 그렇지 않으면, 수만 명을 죽음으로 이끄는 생물학적 무기를 누군가 만들지 모른다는 것이다. 앞선 허깅 페이스 사건은 이런 경고가 결코 비현실적 주장이 아님을 보여 준다.
교육부의 2026년도 AI 기본교육과정 개발 지원사업 공고
깨어 있는 미국 시민들의 이런 행동과 발언은 우리 시민들에게 각성과 행동을 촉구한다. 우선, AI 열풍 및 만능론에서 깨어나 AI의 제반 문제를 객관적으로 이해할 수 있어야 한다. 이를 위해 카우프먼 사건처럼 이에 관한 시사 문제들까지 우리가 스스로를 교육시켜야 한다. 이 글을 쓰는 이유이기도 하다.
한편, 우리나라 대부분의 대학에서 AI 관련 강의를 교양과목으로 개설하고 있다. 이를 위해서, 교육부는 2026년부터 대학 인공지능(AI) 기본교육과정 개발 지원사업 등을 통해서 교양필수 과목으로서 운영하도록 유도하고 있다. 이 과목이 AI의 기술적 측면뿐 아니라, 여기서 제기한 비판적 시각을 균형있게 교육하는 데도 활용되기를 바란다. 이는 이 정부가 촛불혁명의 결과로 이룬 민주정부이기 때문이다. 정부 정책과 다른 비판이 있더라도, 그것이 AI를 보다 인간적인 것으로 만들고자 하는 목적에 기초한다면 그런 비판에 대한 저변을 확대하는 것도 지원해야 한다. 우리 정부의 AI 정책이 성공하기 위해서는 더욱 그러하다.
참고할 것
1. 윈디 카우프먼의 구류 소식을 전한 디모크라시 나우 동영상
2. 윈디 카우프먼의 구류 관련 가디언 보도
https://www.theguardian.com/us-news/2026/aug/16/california-openai-protester-wynd-kaufman
3. 허깅 페이스 해킹 사건 관련 가디언 보도
https://www.theguardian.com/technology/2026/jul/22/openai-says-its-models-went-rogue-and-hacked-startup-in-unprecedented-incident
4. 교육부의 2026년도 AI 기본교육과정 개발 지원사업
https://www.moe.go.kr/boardCnts/viewRenew.do?boardID=294&boardSeq=105401&lev=0&searchType=null&statusYN=W&page=1&s=moe&m=020402&opType=N강홍석 시민기자 jjhskang@gmail.com
Top
