인공지능 기술은 거의 모든 산업 분야에 접목되고 있다고 해도 과언이 아닙니다. 또한, 일반인들도 인공지능의 도움을 받아 다양한 작업을 하는 시대가 왔는데, 오직 인간만이 할 수 있다고 여겼던 영역들을 인공지능이 점차 정복하고 있습니다.
여기서 주제의 의문이 생깁니다. 인공지능 기술이 매우 빠르게 발전하는 상황을 봤을 때 언젠가는 의식을 가질 수 있지 않을까요?
2016년 초 구글 딥마인드의 알파고가 이세돌 바둑기사(당시 9단)와 대국을 치러 4대 1로 승리한 적이 있습니다. 알파고는 인간 수준의 사고 능력을 가진 것처럼 복잡하며 창의적인 전략을 구사했는데, 대국 이후 인공지능이 인간 수준의 지적 능력과 의식을 가질 수도 있지 않을까 하는 막연한 두려움이 사회 전반에 퍼졌습니다.
허무맹랑한 생각 같아도 다양한 분야의 저명한 전문가들이 이에 대한 우려를 표명하고 있고, 인공지능 의식에 관한 연구 필요성을 계속 강조하고 있습니다.
그렇다면 의식이란 무엇일까요? 의식이 무엇인지 알아야 인공지능이 의식을 가졌는지도 판단할 수 있을 텐데, 사실 현대 과학으로는 인간의 의식조차 정확히 알지 못합니다.
의식은 인류가 오랜 시간 동안 해결하기 어려웠던 문제 중 하나로 수많은 철학자와 과학자의 관심사였으며, 시대에 따라 다른 형태와 맥락에서 정의됐습니다.
그래도 다양한 정의 중에서 ‘주관성’이라는 공통적인 속성이 나타났는데, 예를 들어 사과의 빨간색이나 신맛은 개인의 경험을 통해 다르게 느껴지는 주관적인 속성입니다. 오로지 당사자만이 온전히 접근할 수 있고, 다른 사람은 알 수 없다는 특징이 있습니다.
의식을 이해하기 어려운 이유이기도 한데, 이번 영상에서는 시대의 흐름에 따라 의식에 대한 정의가 어떻게 변해왔는지 철학적·과학적 관점으로 살펴보면서 인공지능이 의식을 가질 수 있는지에 관한 이야기를 해보려고 합니다.
중세시대에는 인간의 언어 사용 능력을 설명하는 것이 매우 어렵다는 사실에 근거해 인간만이 몸이라는 물리적 실체뿐만 아니라 영혼이라는 심적 실체도 지니고 있다고 생각했습니다.
극단적인 예시를 들어보면 인간 이외의 동물은 어떠한 주관적 경험 없이 특정 자극에 따라 자동으로 반응하는 인형에 불과하다고 생각했는데, 이 개념에 따르면 인공지능은 영혼을 가질 수 없기에 의식도 가질 수 없다고 할 수 있습니다.
그런데 현대 과학이 발전하면서 원자나 분자 등의 물리적 실체만을 인정하는 물리주의(Physicalism)가 우세해졌고, 영혼이라는 개념은 강하게 비판받았습니다.
이후에는 측정이 어려운 심리적 상태보다 객관적으로 측정할 수 있는 행동을 통해 의식을 연구하는 행동주의 심리학이 힘을 얻기 시작했습니다.
파블로프의 실험과 같은 학습 및 조건화 원리를 통해 주목받은 학파로 이 개념에 따르면 인간만큼의 복잡한 행동을 구사하는 인공지능은 의식을 가질 수 있다고 할 수 있습니다.
하지만 해당 개념은 인간의 내적 경험을 행동으로만 환원하며, 경험 자체는 연구에서 배제합니다. 예를 들어 배고픔을 느껴 음식을 찾는 상황에서 생기는 심리적 상태는 무시하는 식인데, 배고플 때 생기는 심리적 상태가 행동에 중대한 영향을 미친다는 점에 대부분 동의할 겁니다. 이러한 제한 때문에 해당 학파도 점차 비판받기 시작했습니다.
한편, 옛날에는 인간의 두뇌에서 무언가를 측정하는 것이 불가능한 일이었으나 이제는 기술이 발전하여 fMRI 같은 기법으로 두뇌의 물리적 상태를 측정할 수 있습니다.
이에 따라 물리적 상태를 측정해 의식을 연구할 수 있다는 동일론(The Identity Theory)이 등장했는데, 의식의 상태가 감각을 경험할 때 뇌 특정 부위가 활성화되는 물리적 상태와 동일하다는 이론으로 문제는 뇌의 상태를 열심히 연구하고 분석해도 인간의 정신적 이미지(상)와 감정, 느낌 등을 어떻게 왜 발생시키는지는 전혀 다른 문제처럼 보여서 어려움이 있습니다.
그러니까 사과의 빨간색을 인식하는 데 필요한 정보 처리 과정과 경로를 전부 밝혀내도 두뇌가 빨간색이라는 정신적 이미지를 어떻게 주관적으로 경험하는지는 설명할 수 없어서 물리적 과정과 의식 사이의 이러한 ‘간극’을 어떻게 해석하고 이해해야 하는지에 대해 심리철학과 신경과학에서 활발히 논의 중에 있습니다.
더욱이 인간의 두뇌뿐만 아니라 포유류와 조류의 두뇌는 구조상 다르므로 특정 뇌의 구조가 절대적으로 중요하지 않을 수 있습니다.
어쨌든 이 개념에 따르면 인간과 아주 유사한 생물학적 두뇌를 가지는 인공지능은 의식을 가질 수 있다고 볼 수 있습니다.
그런데 현대 사회에서 인공지능 연구의 대부분은 컴퓨터 공학 분야에서 이루어지고 있습니다. 이에 따라 두뇌 없이도 의식에 관한 연구가 가능하다는 기능주의(Functionalism)가 힘을 얻기 시작했는데, 인간과 다른 형태의 두뇌를 갖고 있어도 유사한 기능을 수행하는 경우가 있기 때문입니다.
이 개념의 핵심은 뇌의 구조보다 뇌가 수행하는 기능입니다. 인간의 뇌에서는 각 뉴런이 서로 정보를 전달하며 병렬적이고 분산된 방식으로 정보를 처리하는 반면 현대적인 컴퓨터에서는 중앙처리장치(CPU)가 주도하는 집중적인 연산 방식을 사용합니다.
여기서 둘의 물리적 과정에는 다소 차이가 있으나 수행하는 기능은 유사하므로 인공지능은 의식을 가질 수 있다고 볼 수 있습니다. 다만, 어떠한 특정 기능을 수행하는 과정이 주관적 경험을 갖는지에 대해서는 여전히 좋은 설명을 못한다는 한계가 있습니다.
보다시피 의식에 관한 연구는 시대에 따라 개념이 다르기에 어떻게 정의하기가 상당히 어렵습니다. 행동이나 두뇌, 그것의 기능을 연구해 세부적인 작동 메커니즘을 알아내도 인간이 경험하는 내적 상태 그 자체는 설명할 수 없는 것처럼 느껴지는데, 그렇다면 인류는 결코 의식에 대한 비밀을 알 수 없는 걸까요?
2000년대 이후로 많은 신경과학자가 과학적 전통에 입각한 의식 현상 연구의 필요성을 느끼고, 실천하기 시작했습니다. 예를 들어 인지 신경 과학의 예측 코딩 이론(Predictive Coding Theory)에 따르면 뇌는 경험을 통해 배운 모델을 사용하여 보고 듣고 느끼는 감각 입력을 예측하고, 의식의 내용이 바로 외부 세상에 대한 최선의 예측이라고 설명하는데, 이 이론은 수많은 착시 현상을 설명하고 예측하는 데 도움을 줍니다.
일례로 라일락 체이서(Lilac chaser)라고 가운데 십자 표시에 집중했을 때 빈 회색 공간에 초록색 점을 인식하게 되는 착시 현상이 있습니다.
라일락색은 엄밀히 말해 빨간색과 파란색 빛의 혼합으로 만들어진 마젠타(Magenta)에 가까운데, 색 차원의 관점에서 마젠타의 보색은 초록색입니다. 그래서 의도적으로 가운데 십자가에 초점을 맞추어 집중력을 분산시키면 라일락색 점이 사라질 때를 잘못 예측(또는 추론)하여 우리 눈은 그 자리를 초록색으로 지각합니다.
이 예시는 예측 코딩 이론이 인간의 의식 현상을 설명하는 방법을 보여주고, 이외에도 신경과학 및 철학계에서는 의식을 어떤 맥락과 관점에서 정의하느냐에 따라 수많은 이론을 제안했습니다.
또 2023년에는 인공지능(AI) 전문가와 인지과학자, 철학자 등 19명의 전문가가 모여 Chat GPT를 비롯한 인공지능 모델이 의식을 가질 수 있는지에 대한 주제로 연구를 진행했는데, 현존하는 의식 이론들의 관점에 따라 평가하는 지표를 개발했고, 지표에 더 많이 부합할수록 의식을 지닐 가능성이 크다고 평가했습니다.
이 연구에 따르면 현존하는 어떤 인공지능 모델도 모든 평가 지표를 만족하지는 않았으나 제시된 모든 기준을 모두 만족하는 소프트웨어를 개발하는 것이 불가능한 일은 아니라는 점에서 의식을 갖는 인공지능이 만들어질 가능성이 열려 있음을 시사합니다.
여기까지 인공지능 의식에 관한 이야기를 해봤습니다. 이 주제는 우리 사회의 구성과 근간에 본질적인 질문을 던지는데, 2007년에 수행한 사회 실험에 따르면 인간은 더 풍부한 경험을 지닌 대상에게 더 많은 권리를, 더 높은 주체성을 지닌 대상에게는 더 많은 책임을 부여한다고 합니다.
위 도표는 2007년에 실시한 한 사회심리학의 실험 결과인데, 도표를 보면 다양한 대상에 대한 인식을 경험의 풍부함(y축)과 주체성(x축)이라는 두축으로 나타내고 있습니다.
표에 따르면 태아가 주체성은 거의 없으나 일정 수준의 의식을 지닌다고 믿고 있고, 이로 인해 상대적으로 높은 법적 보호를 부여하며, 낙태는 살인과 유사한 행위로 간주하고 있습니다.
이런 내용을 봤을 때 인공지능이 의식을 지니게 된다면 그들에게 어떤 권리와 책임을 부여해야 하는지 사회적 합의가 필요해질 겁니다.
의식에 대한 논의는 철학에서 과학으로 넘어가기 위해 많은 연구자와 관계자들이 노력을 기울이고 있습니다. 이 주제에 대한 더 심도 있는 연구와 토론이 지속될 필요가 있는 만큼 많은 관심이 필요해보입니다. 궁금증이 해결되셨나요?
Copyright. 사물궁이 잡학지식. All rights reserved
