지능 뛰어나다고 의식 아냐 … AI 의식론 에 대한 반격 [칼럼] 인공지능(AI) PG. 연합뉴스
네이처 잡지 논평의 헤드라인
AI에게 의식이 없고, 아마도 영원히 그럴 세 가지 이유 라는 제목의 글이 논평 형식으로 10월 19일 네이처 잡지에 실렸다. 부제는 거대언어모델(LLM)은 생각과 감정을 섬뜩한 기술로 흉내낼 수 있다. 그러나, 신경과학의 증거는 지능만으로는 주관적 경험에 충분하지 않음을 제시한다 로 돼 있다. 영국 서섹스(Sussex) 대학의 인지 및 계산신경 과학자인 아닐 세스(Anil Seth)와 미국 위스콘신-매디슨 대학의 신경과학자 줄리오 토노이(Giulio Tonoi) 등이 공동교신저자로 참여하고 있다.
앞선 기고문에서 진화생물학자 리처드 도킨스(Richard Dawkins)가 서울을 찾아 한국인을 대상으로 한 인터뷰를 통해, 그리고 온라인 상에서도 AI가 의식을 갖고 있다고 공개적으로 발언한 일에 대해 심각한 문제가 있다고 필자가 지적한 바가 있다. 당시도 세스의 주장을 짧게 소개한 적이 있다.
그런데, 이번 논평 저자들은 도킨스의 주장을 신중하지만 강하게 반박하고 있어 그들의 관점을 소개하는 일은 매우 중요하다고 본다. 먼저, 이 주장이 LLM에 대한 것이라는 점 또한 앞선 필자의 글에서와 같다. 현재 오픈AI, 앤트로픽, 구글 등에서 상업적 목적으로 출시한 모델들 모두 기본적으로 LLM에 근거한다. 현재 시각 데이터의 처리에 있어서도 LLM에서와 유사한 트랜스포머(transformer) 알고리즘에 기초하는 경우가 대부분이다.
이제 그들의 주장을 요약하기로 한다. 필자의 주석은 ( ) 안에 넣었다.
LLM과 같은 AI는 놀라운 지능을 구현한다. 이는 전문가를 포함한 많은 이들에게 이 AI가 어떤 형태의 의식, 즉 주관적 경험을 가질수 있는지 질문하게 한다. (앞선 필자의 글에서은 주관적 경험 대신 자의식 의 관점에서 의식의 문제를 비판하였다. 그런데, 이 저자들의 기술이 이 문제를 보다 쉽게 이해하는 방법 같다.) 그러나, 현존하는 AI는 의식을 갖지 않으며, 현재의 발전 궤적에 따르면, 미래에도 마찬가지일 것이다. (궤적(trajectory)은 AI에 혁신적인 알고리즘이 도입되지 않는다는 매우 조심스러운 조건을 뜻하는 것으로서 필자도 동의한다.) 우리 사회가 점차 더 강력해지는 도전과 씨름함에 따라 이를 더욱 분명히 하는 일은 매우 중요하다.
2024년 노벨물리학상 수상자이며 AI의 대부인 제프리 힌튼(위키피디아)
리처드 도킨스와 제프리 힌튼(Geoffrey Hinton) 같은 유명 과학자들은 AI가 이미 의식을 갖고 있다고 주장한다. 또한, 앤트로픽은 올해 초 자사의 AI 모델인 클로드(Claude)에서 의식의 일면을 확인했다는 연구 결과를 발표했다. AI가 의식을 가질 수 있는가는 철학적인 문제를 넘어서 현실적 의미를 가진다. 만일 의식을 갖는다면, AI는 인간처럼 괴로움과 통증을 느낄수 있다. 그렇다면, 고통을 느낄수 있는 AI가 셀 수 없이 많은 새로운 것들로 가지치기를 하도록 허락해야 하는가? (이는 한 개의 AI 모델에 기초한 무수한 챗봇들이 독립적으로 사용되는 점을 이르는 것으로 보인다) 놀랍지 않게도, 어떤 이들은 AI의 복지 와 AI의 권리 를 심각히 고려해야 한다고 주장한다. 반대로, AI가 의식을 가진 것처럼 보이기는 하나 내적 경험을 갖지 못한다면 인간의 감독이 시급히 필요할 때에 통제하는 데 문제가 생길 수 있다.
신경망에 대한 수학적 모델을 처음으로 제시한 미국의 계산신경과학자 월터 피츠(Walter Pitts), public domain
저자들은 실험 신경과학, 이론 신경생물학, 정신에 관한 철학등 다양한 과학적 관점에서 의식을 연구해 왔다. 이러한 연구에 비춰, 적어도 현재의 반도체 기술을 지탱하는 규소기반의 계에서는 AI의 의식이란 극히 불가능해 보인다. 그들은 세 가지 이유를 밝힌다. 첫째, 지능은 의식이 아니다. 의식의 경험은 더운 날 아이스크림을 맛보던가, 석양의 강렬한 색깔을 보던가, 무언가 느끼는 것이다. 즉, 의식은 존재와 느낌에 관한 것이다. 반면, 지능은 매우 넓은 의미에서 무언가를 하는 기능에 관한 것이다. 우리는 인간이 의식을 가짐을 안다. 그리고 의식을 지적 능력과 연관시키려 한다. 그러나, 의식의 경험과 지적 행동은 놀랍게도 다른 방식으로 작동한다. 예를 들어, 소뇌는 운동 수행 능력을 배움을 통해 정밀하고 빠르고 조절하고 계획한다. 그러나, 그것이 하는 어떤 것도 직접 의식을 포함하지 않는다. 즉, 인간 뉴런의 5분의4를 차지하는 소뇌를 제거해도 의식에 직접 지장이 없다.
지능과 의식을 융합하려는 유혹에는 세상을 인간의 렌즈를 통해서 보고 인간을 닮은 것들에게 인간적 성격을 부여하려는 인간중심주의가 자리한다. LLM이 인간을 특별하게 느끼게 하는 언어의 마력을 갖고 있기 때문에 더욱 그러하다. 이 LLM의 장점은 구글 딥마인드에 의한 알파폴드에 대한 인간의 반응을 고려하면 알 수 있다. LLM과 같이 알파폴드도 강력한 신경망이지만 누구도 그것이 의식을 갖고 있다고 걱정하지 않는다. LLM은 우리에게 말을 하지만, 알파폴드는 단백질 구조를 예측하기 때문이다. 언어적 유창함에서 비롯된 착각 은 알파폴드에선 없는 것이다. (여기서, 착각이란 용어는 저자들의 표현을 그대로 옮긴 것이다. LLM과 알파폴드는 1차원적 계에 대한 ‘생성형(generative) AI 라는 점에서 놀랍게도 유사하다.)
둘째, AI 의식에 대한 생각은 컴퓨터 위에서 작동하는 알고리즘이 의식을 위해 충분하다는 가정에 근거한다. 즉, 탄소 기반의 뇌이든지 규소 기반 컴퓨터이든지 상관없다는 것이다. 철학자들은 이를 계산 기능주의 (computational functionalism)라고 한다. 이 기능주의는 거의 한 세기 전에 이루어진 두 개의 사건에 기인한다. 컴퓨터 과학자 앨런 튜링(Alan Turing)은 1936년 논문에서 원리적으로 어떤 강력한 컴퓨터에서 계산된 것은 다른 컴퓨터에서도 여전히 가능함을 보여 주었다. 그러한 만능의 컴퓨터는 수학자들로 하여금 계산 문제를 추상적 방식으로 이해하게 하였다. 컴퓨터가 규소칩으로 만들어졌든지, 다른 것으로 만들어졌든지 계산 알고리즘이 근본적이라는 뜻이다.
컴퓨터 과학의 대부로 불리는 앨런 튜링(public domain)
그리고 몇 년후인 1943년, 신경생리학자 워런 맥컬록(Warren McCulloch)과 수학자 월터 피츠(Walter Pitts)는 처음으로 인공 뉴런에 대한 수학적 모델을 만들었고, 이렇게 단순한 수학적 뉴런이 AND , OR , NOT 과 같은 논리 연산를 수행할 수 있음을 보여 주었다. 인공 신경망이 튜링 컴퓨터처럼 기능할 수 있다는 것이다. 현대 AI의 기초를 제공한 이런 생각은 뇌를 우연히 고기로 만들어진 정보처리 장치에 불과한 것으로 보게 하였다. 이렇게 뇌를 단순히 컴퓨터에 비유하는 지나친 단순화는 매우 문제가 크다. 한 가지 주된 이유는 생물학적 뇌가 하는 일과 뇌 자체를 분리할 수 없다는 것이다. 즉, 컴퓨터에서 하드웨어와 소프트웨어가 확연히 분리되는 것과는 달리, 인간에게서는 마음과 살아있는 두뇌 조직을 분리할 수 없다는 것이다. 이러한 생물학-물질의 상호 연관성은 계산 기능주의에 직접적 도전이 된다.
셋째, 회의론은 의식의 비계산적 부분으로부터 온다. 저자인 토노이의 통합정보이론(Integrated Information Theory: IIT)에 따르면 모든 의식에는 필수적 요소가 있다. 우리는 모든 시각 장면을 통합된 하나로 본다. 왼쪽, 오른쪽, 색깔, 모양, 이 모든 것이 통합적으로 한 경험을 만든다. 이러한 통합은 의식을 담당하는 뇌의 특별한 부분에 의존하며, 분명히 소뇌는 아니다. 그런데, 딥러닝을 수행하는 컴퓨터의 구조는 연결 방식으로 보아 통합적 역할을 하는 특별한 부위가 없다. 따라서, IIT가 맞다면 현재의 AI는 얼마나 유능하든지 의식을 가질 수 없다. 또 다른 의식에 대한 이론은 생물학적 뇌와 몸의 특별한 성질에 의존한다. 이는 생물학적 자연주의(biological naturalism)로서 생물학적 성질이 의식에 필요하다는 관점이다.
(이 세 가지 관점에서, 저자들은 다음과 같이 결론을 내린다) 규소 기반의 AI는 아무리 지능이 뛰어나도 의식을 가질 수 없어 보인다. 따라서, 기본적 전제는 AI는 의식을 가질 수 없다는 것이어야 하고, 그래서 의식이 있는 것처럼 취급해서도 안된다. 즉, 규소기반 AI는 똑똑한 사람이 아닌 지능이 뛰어난 물체로 보아야 한다.
네이처 논평 본문 읽기강홍석 시민기자 jjhskang@gmail.com
Top
