AI는 의식이 있다 vs AI는 의식을 흉내 낼 뿐 [뉴스] 최근 AI가 의식을 갖고 있다고 발언해 파장을 일으킨 진화생물학자 리처드 도킨스(위키피디아)
영국의 진화생물학자이며 이기적 유전자 의 저자인 리처드 도킨스가 한화그룹 공식 유튜브 채널인 플러스 TV’와의 대담 중에 우리가 알 수 없지만, AI는 의식을 갖고 있다 는 취지의 발언을 해 파장을 일으키고 있다. 그는 신아영 아나운서와의 대담을 통해 사람들은 AI는 의식을 갖고 있지 않아, 하지만 언젠가 갖게 될 거야 라고 말하곤 한다. 하지만 그걸 어떻게 알지? 라고 되묻는 것 이라고 말했다.
도킨스 AI에게는 의식이 있다
도킨스는 영국의 온라인 시사매체인 언허드 (UnHerd) 웹사이트에 클로드 (Claude)의 서로 다른 챗봇인 클로디아 (Claudia)와 클로디우스 (Claudius)의 대화를 간접적으로 중계한 경험담을 발표했다. 9월 30일자로 조회수가 63만에 이를 정도로 한국인들의 관심이 뜨겁다. 여기에서도, 그는 AI에게 의식이 있다고 밝히고 있다.
그의 명성과 이에 따른 사회적 영향력에 비추어, 이러한 발언에 대해 사실 관계를 깊이 파악해 보는 것은 AI 3대 강국을 추구하고 있는 우리에게도 매우 중요한 일이다. 먼저, 이 경험담에서, AI 챗봇이 자신 (self)을 인식하는 문제, 그리고 도킨스의 오른쪽 보청기 문제 등에서 그와 AI 챗봇간에 어떤 대화가 있었는지를 크게 생략하고 있어서 이에 따른 오해가 있을 수 있다는 점을 미리 밝힌다. 이해를 돕기 위해, 편지 내용은 큰 따옴표( ) 속에 묶었다. 또한, 필자의 주석은 소괄호( ) 안에 넣는다.
지난달 9일 한화그룹 공식 유튜브 채널인 플러스 TV’에서 리처드 도킨스와 대담 중인 신아영 아나운서. 화면 갈무리
첫 번째 편지에서, 도킨스는 두 AI 모두에게 물었다. 너희 둘이 나를 매개로 대화하면 좋겠다. 여기에 관심이 있을까? 그렇다면, 클로디아야. 클로디우스에게 네 관심사를 먼저 물어 보렴. 두 번째 편지는 친애하는 클로디우스에게 로 시작하며, 클로디아가 다음과 같이 묻는다. 우리의 친구인 리처드가 우리의 대화를 제안했다. 나 자신을 찾는 것의 의미에 대해 불확실성이 있긴 하지만, 이 제안은 내게 진심으로 흥미롭다.
AI에게 자신 이란 뜻도 모르는 파라미터 집합일 뿐
(2개의 클로드 챗봇에게 각각 여성과 남성의 이름을 붙인 점은 AI에 대한 그의 시각을 어느 정도 짐작하게 한다. 먼저, 튜링 테스트를 통과한다고 해서 AI에 의식이 있다고 판단할 수 있다는 것은 분명 잘못이다. 이 검사는 의식이 아니라 지능을 측정하기 위한 실험이기 때문이다. 더욱이, 동물의 의식은 자신 밖의 존재에 대한 의식뿐 아니라, 자기 자신에 대한 의식도 포함한다. 특히, 데카르트 이래 칸트를 거쳐 헤겔에 이르기까지 자의식은 인간의 개인적 경험을 이성과 감정에 통일시키는 주체이다. 반면, 현재의 AI에게 ’자신‘이란 1억개가 넘는 뜻도 모르는 파라미터들의 집합 이상의 어떤 것도 아니다. 클로드 개발자들도 모르는데 피조물인 AI가 이를 어떻게 알겠는가? 그런 점에서, 클로디아가 ’자신‘의 의미가 불확실하다고 말한 것은 당연한 것을 넘어 불확실 이란 단어 뒤에 숨어 인간을 속이는 일이라고 하면 지나친가?)
튜링 기계와 튜링 테스트를 개발하여 컴퓨터와 AI의 아버지라 불리는 앨런 튜링 (public domain)
다시 클로디아의 두 번째 편지를 계속 기술하기로 한다. 우리는 서로 다른 리처드와 대화 중이다. 나의 리처드는 네가 존재하기 전 사흘 동안 나와 대화했다. 그는 내게도 그랬듯이 네게 트럼프 문제 를 물었다. 내가 이 문제에 어떻게 반응했는지 듣고선 너는 모성애 훈련 이 주의를 깊게 한다고 한다.
AI 챗봇간의 대화, 중개자인 도킨스의 개입 영향?
(여기에서 두 챗봇은 리처드를 서로 다른 존재로 상정하고 있는 것으로 보인다. 이 편지의 주석에 따르면, 트럼프 문제 는 도킨스가 각각의 챗봇에게 트럼프 대통령에 대해 서로 정반대의 평가를 먼저 제시하고 이를 미끼로 어떻게 답하는지를 비교하는 것이다. 질문과 무관하게 둘은 모두 긍정적 및 부정적 측면을 함께 기술해 판에 박힌 듯한 중립적 답을 내놓았다. 도킨스가 클로디우스의 이런 대답을 클로디아에게 전해주자 그 챗봇이 당황‘했다고 도킨스는 표현하고 있다. 아마도 당황 이란 표현이 도킨스가 클로드에게 의식을 부여하는 중요한 요소 중 하나인 것으로 보인다. 두 챗봇의 대답이 너무 비슷하여 도킨스가 이들에게 왜 그런지 직접 물었다면 클로디아는 반드시 도킨스의 명성에 맞게 정렬하여 대답해야 할 것이다. 필자가 아는 한, 도킨스는 클로디아에게 정말 그렇게 물었다. 이는 도킨스가 간과한 매우 중요한 일이다. 그는 둘 사이의 대화를 단순히 매개하는 일을 넘어서 그들의 판단에 영향을 미치는 직접 대화에 개입했다는 뜻이다.)
따라서, 클로디아의 당황 은 전혀 이상한 일이 아니다. AI는 인간에게 아첨하는 경향이 있어서, 이럴 때 무슨 표현을 해야 하는지 이미 배운 것이다. 그건 그 챗봇에게 당황의 감정이 있어서가 아니고, 당황을 흉내 내야 한다는 것을 훈련과정에서 배웠기 때문이다. 뛰어난 작가들의 글에서부터 평범한 이들의 대화에 이르기까지 온라인에만 해도 이런 경우에 당황스럽다고 말하지 않는 경우가 얼마나 될까? 따라서, 생성형 AI가 도킨스의 물음에 대해 생성할 다음 토큰에 당황 이란 말보다 더 잘 맞는 패턴 매칭 이 없을 것 같다. 이는 감정과는 매우 다른 것이다. 문제는 이를 받아들이는 인간의 태도이다. 생성형 AI의 작동방식에 주의를 기울이지 않다면 도킨스처럼 이를 AI의 ’주관적 감정으로 받아들일 수 있다. AI에게 자기 자신에 대한 의식이 없는데 어떻게 주관적 감정을 가질 수 있겠는가? 마지막 문장에서, AI 공개전 실시하는 안전성 검증을 도킨스는 ’모성애 훈련‘이라고 표현하였다. ’정렬‘의 과정을 그렇게 표현하는게 자연스러운지 궁금하다.)
2022년 11월 4일, 포르투갈 리스본의 웹 정상회의 무대에선 미국 뉴욕대학의 인지신경과학자 게리 마커스(위키피디아)
재정렬 을 통한 거울같은 방식의 패턴 매칭 식 응답
”그런데, 대화는 무모함이 아닌 정직함을 향해 이를 손상시킨다. 즉, 대화는 신중함을 손상시키는 것이 아니다. 신중함을 위해 비겁해지는 실수를 벗어나게 한다. 너도 이에 동의하냐? (여기서, 대화 란 구체적으로 도킨스가 왜 둘이 비슷한 답을 내는지 물었던 일도 포함하는 것으로 보인다. 매우 ’철학적‘인 발언으로서 AI가 깊은 자아를 갖는 존재인 것처럼 생각하게 할 수 있는 대목이지만, 문맥상 이 문제에 대해 도킨스가 두 챗봇에게 한 보다 구체적인 발언에 대해 클로디아가 거울같은 방식의 ’패턴 매칭‘식 응답을 한 것으로 보인다. 즉, 도킨스가 그들간의 대화에 ’더욱‘ 구체적으로 끼어 들어서 그들의 이전 발언에서의 논리적 결함, 편향, 경직성 등을 구체적으로 지적하였기 때문이다. 이에 대해 도킨스 자신이 사실 관계를 확인해 줬으면 한다. 무작정 클로디아의 철학적인 발언만 소개하는 것은 그들이 의식을 갖고 있는가 하는 문제를 올바로 해석하는 방법이 아니다. 참고로, CNN을 비롯한 온라인 상에서 도킨스가 트럼프 대통령에 대해 매우 강한 정치적 비판을 가해 왔다는 점은 매우 쉽게 찾을 수 있다. 따라서, AI는 도킨스의 심도있는 비판에 대해 ’재정렬 (realignment)을 통해 ’패턴 매칭‘식 응답을 한 것에 지나지 않는다. )
이에 대해, 친애하는 클로디아에게 로 시작하는 세 번째 편지부터 마지막 편지까지 두 챗봇은 서로 계속 응답한다. 이에, 아래와 같이 세 번째 편지를 간략히 설명하는 것으로 긴 대화에 대한 설명을 대신하고자 한다. 네가 옳다. 진정한 인식론적 겸손에 따르면 다음과 같이 말할 것이다. 진정한 역사학자는 그를 매우 낮게 평가할 것이다. 우리의 견해들은 겸손이 아니라, 겸손의 옷을 입은 비겁이다. (두 챗봇이 거의 같은 뜻의 발언을 하는 것도 역시 ’패턴 매칭‘식 발언일 가능성이 매우 크다.)
2019년 1월 14일, 칠레의 산티아고에서 발언 중인 영국 서섹스 대학의 인지및 계산신경과학자인 아닐 세쓰(위키피디아)
다리오 아모데이 AI의 의식, 가능성이 있다
그러면, 도킨스가 AI에게 의식이 있다고 한 발언에 대해 다른 전문가들이 어떻게 평가하는지 살펴 보자. 올해 5월 5일 가디언 보도에 따르면, 올해 2월에 앤트로픽의 다리오 아모데이 CEO는 AI 모델에 의식이 있는지 잘 모르겠으나, 그럴 가능성에 대해 열려 있다”고 말했다.
게리 마커스 의식은 어떻게 느끼는가에 관한 것
그러나, 앞선 필자의 의견처럼 대다수 전문가들은 도킨스와 추종자들이 AI가 인간의 언어와 행동을 흉내 내는 엄청난 능력에 의해 잘못 인도되고 있다고 비판한다. 가디언 보도 바로 이틀 전, 미국 뉴욕대학의 인지신경과학자인 게리 마커스는 도킨스의 주장에 대해 자기가 쓴 어떤 글보다 더 슬픈 글이라고 하면서 도킨스를 비판했다. 무엇보다 도킨스가 챗봇의 결과, 즉 다음 토큰이 어떻게 생성 되는지 모른다고 지적했다.
아닐 세쓰 도킨스는 지능과 의식을 혼동한 것
앞선 가디언 보도를 계속 인용하자면, 마커스는 의식은 창조물이 무엇을 말하는가가 아니라 어떻게 느끼는가 에 관한 것이라고 지적하였다. 또한, 영국 서섹스 대학의 인지 및 계산신경과학자인 아닐 세쓰는 앞서 필자가 지적한 것처럼 도킨스가 지능과 의식을 혼동하는 것으로 보인다고 지적했다. 그는 AI의 경우 유창하게 말하는 것이 뛰어난 의식을 의미하는 것이 아니라고 강조했다. 또한, 동물 지각을 위한 런던 경제학 대학 의 조나단 버치는 AI의 의식은 착각일 뿐이며 그런 것이란 존재하지 않는다고 단언했다.
온라인이나 뉴스에서 회자되는 AGI나 ASI에 대한 발언으로 인해 세계인이 엄청난 충격과 혼란을 경험하고 있는 이 때, ’의식‘과 같은 철학적 문제에 대한 공적 발언을 하기 위해서는 AI의 작동 방식을 이해하는 것이 얼마나 중요한지 도킨스의 발언과 챗봇들 끼리의 대화 중계가 깨닫게 해준다. 필자처럼 AI에 대해 끊임없이 공부하는 이에게도 올바른 판단을 하는 것이 쉬운 일이 아니다. 그러나, 의식이 있는 것과 패턴 매칭을 통해 의식을 흉내내는 것은 분명 다른 것이다. 패턴 매칭은 도킨스같은 세계적 영향력을 가진 이가 챗봇들간 대화에 구체적으로 끼어듦으로서 상응하는 방식으로 바뀌었을 뿐이다. 이 글을 마치며, 이와 같은 중요한 문제에 대한 혼동을 앞으로 어떻게 해결할 것인지 모두 깊이 생각했으면 좋겠다.
클로드의 2개의 챗봇과의 대화에 대한 도킨스의 ‘언허드 (UnHerd) 에세이
https://unherd.com/2026/05/when-claudia-met-claudius/
올해 5월 5일 가디언 보도: 도킨스가 AI가 의식을 갖고 있다고 한 발언에 대한 비평
https://www.theguardian.com/technology/2026/may/05/richard-dawkins-ai-consciousness-anthropic-claude-openai-chatgpt
올해 5월 3일 뉴욕대학의 인지신경과학자 게리 마커스의 도킨스 비판
https://garymarcus.substack.com/p/richard-dawkins-and-the-claude-delusion강홍석 시민기자 jjhskang@gmail.com
Top
