AI가 불러올 결코 멋지지 않은 신세계 [칼럼] ChatGPT로 만든 이미지. Thomas Kim 시민기자
인공지능(AI)이 우리가 사는 세상을 거침없이 뒤흔들고 있다. 글로벌 테크(Tech) 첨단 기업들은 앞다퉈 가까운 미래에 다가올 신세계를 진지한 어투로 홍보하고 있다. 수많은 강사가 유튜브에서 미래를 대비하지 않으면 개인적으로나 사회적으로 뒤처진다며 서둘러 준비하라고 열변을 토한다. 참으로 불안하고 어수선한 세상을 산다는 느낌을 지울 수가 없다. 이제 우리는 어떻게 살아야 슬기롭게 사는 것일까?
새로운 세상을 예견하는 과학자의 유튜브 동영상을 시청하는데 그가 추천하는 도서가 있었다. 1932년에 올더스 헉슬리가 쓴 『멋진 신세계』라는 소설인데, 온라인 서점에서 전자책으로 구매하여 단숨에 읽어 내려갔다. 거의 100년 전에 쓰인 책인데도 읽다 보니 등골이 서늘해졌다. 우리가 곧 마주할 새로운 세상, 피지컬 AI가 활동하는 세상에 대하여 한 번 더 진지하게 생각해 볼 기회를 주는 책이었다.
책 속에 나오는 세상은 대량생산, 표준화와 효율성의 상징적인 존재인 헨리 포드를 모델로 한 인물 포드를 신처럼 숭배하는 사회로 설정되어 있다. 신세계에 사는 사람들은 더는 자연분만에 의한 방식으로 태어나지 않고 공장에서 대량 생산된다. 그들은 알파, 베타, 감마, 델타, 엡실론이라는 다섯 계급으로 나뉘어 태어나고, 각자 정해진 역할만 수행하며 살아간다. 물론 원시인 지역이 따로 보호구역으로 지정되어 있는데 그 지역에서만 우리들이 아는 방식으로 사람이 태어날 뿐이다.
가장 소름 끼치는 건 신세계에 사는 사람들이 모두 행복하게 산다는 사실이다. 그들은 불행을 느낄 때마다 소마 라는 마약을 먹고 해결한다. 힘들 때? 소마. 우울할 때? 소마. 생각이 복잡할 때? 소마. 모든 문제는 한 알의 약으로 해결되는 세상이 전개된 것이다. 그리고 사람들은 고민할 이유가 없고 고민하지도 않는다. 왜냐하면 태어날 때부터 수면 교육을 통해 철저하게 세뇌당했기 때문이다. 예를 들면 나는 엡실론이어서 행복해요. 알파처럼 복잡한 일을 하지 않아도 되니까요. 이런 식으로 말이다.
이 책을 읽으며 우리들의 삶을 돌아봤다. 아침에 눈을 뜨자마자 스마트폰을 집어 들고, 인스타그램 스토리를 확인하고, 틱톡 릴스를 몇 개 보다가 정신을 차리면 벌써 30분이 흘러갔다. 직장으로 가는 지하철 안에서도, 점심시간에도, 심지어 화장실에서도 우리는 유튜브 영상을 틀고 계속 스크롤을 했다. 그러다 문득 이런 생각이 들었다. 우리는 지금 뭘 하는 거지? 우리가 원해서 이러는 건가, 아니면 누군가가 원하는 대로 우리가 움직이고 있는 건가? 헷갈린다.
처음엔 이 책의 내용이 말도 안 되는 상상이라고 생각했는데, 우리의 현실도 크게 다르지 않다는 생각을 갖게 되면서 묘한 흥미를 느끼며 읽게 되었다. 이름만 다를 뿐이지, 우리한테도 소마가 있다는 사실을 깨닫게 된 것이다. 누군가에겐 술이고, 누군가에겐 게임이고, 누군가에겐 넷플릭스고, 또 누군가에겐 인스타그램이 아닐까 싶다. 요즈음 사람들은 힘든 일이 있으면, 유튜브나 짧은 영상을 보면서 잊는다. 우울하면, 인스타그램 릴스를 무한 스크롤하면서 시간을 보낸다. 생각하기 싫으면, 틱톡 알고리즘이 추천한 영상을 끊임없이 본다.
결국 온라인 세상은 알고리즘에 의해 움직이는데, 이게 바로 현대판 수면 교육이 아닐까 싶기도 하다. 소설 속에서 아이들은 잠을 자는 동안 스피커를 통해 나는 내 계급이 좋아요 라는 메시지를 수백 번 들으며 세뇌당한다. 우리의 현실은 어떤가? 우리가 한 번 클릭한 콘텐츠, 3초 이상 본 영상, 좋아요 를 누른 게시물…. 이 모든 자료가 수집되어 우리 취향을 분석한다. 그리고 우리가 좋아할 만한 콘텐츠를 계속 보여준다. 고양이 영상을 한 번 보면 고양이 영상만 뜨고, 맛집 영상을 보면 맛집 영상만 계속해서 뜬다.
이게 뭐가 문제냐고? 편하고 좋은 거 아니냐고? 처음엔 그렇게 생각했다. 내가 좋아하는 걸 알아서 척척 보여주니까, 시간도 절약되고. 그런데 이런 생활에 익숙해지면 질수록 우리는 점점 더 필터 버블 안에 갇히게 된다. 내가 이미 알고 있는 것, 내가 이미 좋아하는 것, 내 생각을 강화해 주는 것만 따라가며 보게 되는 거다. 새로운 관점? 다른 의견? 불편한 진실? 그런 건 알고리즘이 알아서 걸러준다는 사실이 문제인 것이다. 이것은 글로벌 플랫폼 기업 상업활동의 결과물이며, 우리는 그 틀 안에 갇혀있는 꼴이 되는 것이다.
Gemini로 만든 이미지. Thomas Kim 시민기자
소설에서 가장 인상 깊었던 캐릭터는 야만인 존이다. 그는 보호구역에서 태어나고 자라 신세계의 세뇌 교육을 받지 않았다. 셰익스피어를 읽으며 자란 그는 사랑, 고통, 아름다움, 죽음에 대해 깊이 생각할 줄 아는 사람이다. 그가 멋진 신세계 에 왔을 때 느낀 혼란과 절망이 너무나 생생하게 다가왔다. 그는 레니나라는 여자를 사랑하지만, 레니나는 평범한 인간의 사랑 이라는 개념 자체를 이해하지 못한다. 신세계에서 태어나고 자란 그녀에게 남녀 관계란 그저 육체적 쾌락일 뿐이다. 감정? 그런 불편한 건 소마를 먹으면 모두 사라진다.
존이 통치자 무스타파 몬드와 나누는 대화가 특히 기억에 남는다. 무스타파 몬드는 말한다. 우리는 안정을 선택했습니다. 행복을 선택했습니다. 예술이나 과학, 종교 같은 건 사람들을 불안하게 만들죠. 왜 불필요한 고통을 감수해야 합니까? 존은 반박한다. 그러면 인간다움은 어디 있습니까? 불행할 권리, 고통받을 권리, 늙을 권리는요?
이 대화를 읽으면서 소름이 돋았다. 우리 사회도 점점 이렇게 되어가는 거 아닐까? 불편한 건 다 없애려고 하지 않는가? 힘든 생각? 하지 마. 복잡한 감정? 느끼지 마. 그냥 웃고, 소비하고, 즐겨. 우울하면 약 먹고, 외로우면 SNS하고, 지루하면 짧은 영상을 봐. 이미 모든 게 즉각적인 만족으로 해결되는 세상이 되었다는 생각마저 든다.
2023년 10월 24일, 미국 41개 주가 메타를 상대로 (33개 주는 캘리포니아 북부지방 법원에, 8개 주와 워싱턴DC는 연방법원에) 소송을 제기했다. 의도적으로 청소년들을 중독시키는 알고리즘을 설계했다는 이유로. 무한 스크롤, 좋아요 기능, 알림 설정…. 이 모든 게 우리 뇌의 보상 회로를 자극하도록 설계되었다는 거다. 우리가 앱을 열 때마다, 스크롤을 내릴 때마다 도파민이 분비된다. 그리고 우리는 더 많은 자극을 원하게 된다. 마치 모든 괴로움을 잊게 하는 소마처럼 말이다.
가장 무서운 건 우리가 이런 알고리즘 환경에 놓여있다는 걸 거의 인식하지 못하며 생활한다는 거다. 멋진 신세계의 사람들처럼. 그들도 자신들이 통제받고 있다는 걸 모른다. 왜냐하면 너무 행복하니까. 왜냐하면 다른 삶을 상상해 본 적이 없으니까. 우리도 비슷하다. 스마트폰 없는 삶? 상상이나 할 수 있나? SNS 안 하는 삶? 그러면 뭐하고 살라고?
소설의 결말은 비극적이다. 존은 결국 자살한다. 원시인 영역에서 자란 그는 이 멋진 세계에 적응할 수 없었다. 그에게는 평범한 인간만이 누릴 수 있는 고통받을 자유, 불행할 자유, 진정으로 사랑할 자유가 필요했다. 하지만 그런 자유는 이 신세계에는 없었다. 그의 죽음은 무엇을 의미할까? 인간 본연의 개성과 인간성을 지키려는 사람은 앞으로 다가올 신세계에서 살아남을 수 없다는 걸까?
나는 그렇게 생각하고 싶지 않다. 대신 이렇게 생각한다. 존의 비극은 우리에게 경고다. 지금 우리가 사는 이 시스템, 이 편리함, 이 즉각적인 만족…. 이게 전부가 아니라는 걸 기억하라는 강력한 메시지라고 본다.
나무위키 멋진 신세계 문서에 따르면 김수영 시인은 1960년 9월 20일 일기에서 불평은 있지만 검열 때문에 불평을 말할 수 없는 『1984』보다 불평 자체를 느끼지도 못하는 『멋진 신세계』가 더 끔찍한 세계 라고 적었다. 결국 폭력적인 억압보다 더 무서운 건 달콤한 억압이다. 우리가 행복감에 젖어서 기꺼이 받아들이는 억압 말이다.
Copilot으로 만든 이미지. Thomas Kim 시민기자
그러면 우리는 어떻게 해야 할까? 스마트폰을 버리고 산으로 들어가야 할까? 아니다. 현실적이지도 않고, 굳이 필요하지도 않다. 하지만 최소한 이 시스템이 어떻게 작동하는지는 이해해야 한다. 우리가 무엇에 중독되고 있는지, 누가 우리의 관심을 가져가고 있는지, 무엇이 우리의 생각을 조종하고 있는지를 알고 능동적으로 대처할 능력을 배양해야 한다.
우리는 의식적으로 노력을 기울여야 한다. 아침에 일어나서 바로 핸드폰을 보지 않기. 지하철에서 책 읽기. SNS 알림 끄기. 유튜브 시청 기록을 삭제해 알고리즘을 초기화하기. 이런 활동은 작은 것들이지만 뚜렷한 효과가 있다. 우리의 시간이 돌아오는 느낌이랄까. 우리가 자율적으로 선택한 삶을 사는 느낌이랄까.
헉슬리가 후기에서 이런 말을 했다. 나중에 소설을 다시 쓴다면 존이 멋진 신세계 를 등진 사람들의 공동체로 가는 결말을 쓰고 싶다고. 완전한 통제도, 완전한 고립도 아닌 제3의 길 말이다. 우리가 곱씹어볼 대목이다. 나는 AI의 급속한 발전으로 인하여 우리 앞에 어떤 신세계가 펼쳐지더라도 우리가 그 길을 제대로 찾아갈 수 있다고 믿는다.
첨단 기술을 거부하는 게 아니라 기술을 도구로 쓰는 지혜로움. 편리함을 맘껏 누리되 그것에 지배당하지 않는 현명함. 네트워크에 항상 연결되어 있더라도 자신을 잃지 않고 자율적으로 사는 삶 말이다.
우리의 소마는 언제나 우리 손 안에 있고 멋진 신세계의 유혹은 너무나 달콤하니까, 행복을 추구하되 불행할 자유 또한 즐기는 여유를 선택하기는 물론 쉽지 않다. 하지만 우리에게 선택권이 있다는 사실은 분명하다. 올더스 헉슬리가 말한 멋진 신세계의 사람들과 달리.
우리는 아직 생각할 수 있고, 질문할 수 있고, 거부할 수 있는 자유가 있는 것이다. 이 자유를 포기하지 않는 것. 그게 바로 우리가 진정한 인간으로 남는 길이 아닐지 생각해 본다.
오늘도 스마트폰을 들고 살지만, 우리가 스마트폰을 사용하는 건지, 스마트폰이 우리를 사용하는 건지, 그 차이를 분명히 아는 그것만으로도 우리는 올더스 헉슬리가 주창한 『멋진 신세계』 사람들과는 다른 삶을 살고 있다는 생각을 갖게 된다. 비록 우리의 삶이 불완전하고, 때로는 불행하고, 때로는 고통을 견디며 지내야 하지만, 그래도 우리는 한 가지 사실을 인정해야 한다. 우리에게는 자신의 선택으로 살아갈 수 있는 자유의지가 있으니까, 우리가 더 행복하다는 사실 말이다. 합장(合掌)
Thomas Kim 시민기자 songofwoobo@gmail.com
Top
