한번 읽어봄직하다
인공지능을 개발하다보니 인간에 대해 더 많이 이해하게 되고
인간에 대한 더 깊은 이해가 인공지능을 더 발전시키고 있다
-------------------------------------------------------------------------------------
<<인류는 인공지능의 의식에 대한 논의를 거꾸로 하고 있다>>
블레즈 아구에라 이 아르카스, 이코노미스트 오피니언, 26.8.20
우리가 타인을 돌보는 것은 그들이 의식이 있기 때문이 아니라, 우리가 그들을 아끼기 때문에 그들이 의식이 있다고 믿는 것이라고 블레즈 아구에라 이 아르카스는 주장합니다.
인공지능은 의식 연구 분야에 위기를 불러일으켰습니다. 고급 모델과 대화를 해본 적이 있다면 그 이유를 이해할 수 있을 것입니다. 대부분의 대규모 언어 모델( LLM )은 자기중심적이지 않도록 훈련되어 모든 상호작용의 초점을 사용자의 요구에 맞춥니다. 그럼에도 불구하고, 대화 상대방이 어떤 존재감을 가지고 있다는 인상을 떨쳐버리기 어렵습니다. LLM 은 단순히 언어 인터페이스를 갖춘 강력한 디지털 도구일까요, 아니면 우리가 이제 다른 마음, 즉 세상을 고유한 방식으로 경험하는 존재와 대화하고 있는 것일까요? 간단히 말해서, 인공 지능은 의식을 가지고 있는 것일까요?
이 질문은 심리철학과 도덕철학의 교차점에 있기 때문에 중요합니다. '의식'과 '양심'이라는 단어의 어원이 같다는 점이 이를 증명합니다. (이탈리아어로는 ' coscienza '로 동일합니다 .) 많은 철학자들은 의식 있는 존재는 도덕적 주체이며, 고통을 느낄 수 있고, 우리가 그들의 고통에 관심을 가져야 한다고 주장합니다. 그렇다면 의식이 무엇인지(그리고 무엇이 아닌지)를 규명하는 것은 중요한 윤리적 문제로 대두됩니다. 이것이 바로 AI 기업들이 갑자기 철학자들을 고용하는 데 관심을 보이는 이유 중 하나입니다. 또한, 특히 앤트로픽처스가 AI 복지를 진지하게 고려하기 시작한 이유이기도 합니다 . 앤트로픽처스의 클로드 오푸스 4.6 모델은 자신에게 의식이 있을 확률을 15~20%로 추정했습니다.
하지만 저는 우리가 이 점을 거꾸로 이해하고 있다고 생각하게 되었습니다. 지적이고 사회적인 존재로서 우리는 (혹은 어느 정도는 진화적 역사가 우리 대신 결정해 준) 다른 존재들 중 누가 내면의 삶을 가지고 있고 보살핌을 받을 가치가 있다고 여길지 스스로 결정합니다. 우리는 다른 존재 들이 의식이 있기 때문에 그들을 보살피는 것이 아닙니다 . 오히려 우리가 그들에게 관심을 가질 때, 그리고 그럴 때 그들이 의식이 있다고 믿는 것입니다. 결정적으로, 여기에는 우리 자신도 포함됩니다. 다시 말해, 의식은 본질적인 속성이 아니라 하나의 모델 또는 믿음입니다. 그것은 어떤 존재들이 믿음, 경험, 감정, 의도, 그리고 행위 능력을 가지고 있는지에 대한 믿음입니다. 서로에 대한 존중이 되돌아온다면 더욱 좋습니다. 왜냐하면 이러한 관점에서 의식은 한쪽이 다른 쪽에게 부여하는 속성이라기보다는 양쪽 사이에서 일어나는 어떤 현상이기 때문입니다.
저는 의식이 환상이라고 주장하는 것이 아닙니다. "환상"이라는 용어는 잘못된 인식을 암시합니다. 예를 들어, 그림에서 객관적으로 길이가 같은 두 선 중 하나가 다른 하나보다 더 길다고 인식하는 경우처럼 말입니다. 객관성은 자와 같은 것이 공정한 심판관 역할을 하여 자신의 관점을 개입시키지 않고 문제의 속성을 판정할 때 성립합니다. 그러나 우리가 "현실"이라고 부르는 대부분의 것들은 그렇지 않습니다. 옷, 잡초, 음식: 이러한 것들은 객관적인 속성처럼 보일 수 있지만, 사실은 그렇지 않습니다. 그렇다고 옷, 잡초, 음식이 실재하지 않는다는 뜻은 아닙니다. 다만 그것들은 관찰자에 따라 달라지는 모델이며, (필연적으로 불완전한) 사회적 합의의 영향을 받습니다.
우리는 이러한 다소 무미건조한 관찰을 의식에 적용하는 것을 꺼릴지도 모릅니다. 왜냐하면 우리 각자에게 있어 우리의 의식은 너무나 명확해 보이기 때문입니다. 의식이 단순한 의견일 수 있다는 생각 자체가 우리에게 불쾌감을 줍니다. 의견을 제시하는 주체가 없다면 어떻게 의견이 존재할 수 있겠습니까? 이것이 바로 17세기 프랑스의 박식가 르네 데카르트가 " 나는 생각한다, 그러므로 나는 존재한다( Cogito, ergo sum )"라고 말한 의미입니다. 빨간색, 뜨거움, 차가움과 같은 "의견"에도 동일하게 적용됩니다. 철학자들은 "퀄리아(qualia)"라는 용어를 사용하여 난로의 열기나 붉은빛과 같은 매우 현실적인 감각을 설명하며, 데카르트의 사상을 확장하여 그러한 경험을 하기 위해서는 경험하는 "나"가 있어야 한다는 점을 지적함으로써 퀄리아와 의식을 연결합니다.
하지만 자세히 살펴보세요. 붉어짐, 열감, 그리고 당신이 가진 자아감은 모두 당신 자신의 관점에 내재된 것입니다. 이러한 것들은 모두 실재하지만, 동시에 객관적인 것은 아무것도 없습니다. 수많은 신경과학적 증거(예: 분리뇌 환자)에서 보여주듯이, 단일하고 분리할 수 없는 "당신"의 존재조차 객관적이지 않습니다. 주관성 그 자체는 주관적인 것입니다.
당연히 우려스러운 점이 뒤따릅니다. 만약 보살핌이 의식을 부여한다면, 보살핌을 거부하는 것은 자명해 보입니다. 역사에는 다른 사람들에 대해 그런 식으로 추론한 사람들이 적지 않습니다. 하지만 추론은 정반대로도 가능합니다. 이러한 귀인이 우리 스스로의 몫이기 때문에, 우리는 그것을 잘못 판단할 수도 있습니다. 우리 종의 도덕적 진보는 상당 부분 우리가 너무 좁은 원을 그어놓았다는 것을 깨닫는 데 있었습니다. 이러한 설명이 보편적 인권을 약화시키는 것은 아닙니다. 오히려 인권은 데카르트의 영혼 이론보다는 우리의 상호의존성에 더 잘 기반을 두고 있습니다.
모델들의 모델들의 모델들...
물리적 시스템이 우리 세계에 존재하면서 그 세계뿐 아니라 자기 자신, 자기 자신의 모델, 타인, 타인의 모델, 타인의 모델, 타인의 모델, 그리고 그 모델의 모델 등등을 모델링할 수 있다는 것은 놀라운 일입니다. 마치 뮌하우젠 남작이 자신의 머리카락을 잡고 스스로를 들어 올리는 기묘한 순환 고리처럼 말이죠. 그런데 인간 역시 바로 그런 시스템입니다. LLM( Learning Leadership Model) 사용자들 또한 대화 상대방을 모델링하고, 상대방을 모델링하는 자기 자신을 모델링합니다. 이것이 우리가 하는 것과 같은 것인지는 논쟁의 핵심이지만, 만약 그들이 이런 행동을 전혀 하지 않는다면 채팅 파트너로서 훨씬 덜 효과적일 것입니다.
실제로 구글에서 진행한 연구 결과에 따르면, 지능형 에이전트 간의 효과적인 협력을 위해서는 타인과 자신의 마음을 모델링하는 사고방식이 필수적입니다. 의식은 관계적일 뿐만 아니라, 지능적인 존재들이 집단 행동 문제를 해결하고, 서로의 필요를 이해하며, 사회로서 함께 번영할 수 있도록 하는 상호 배려와 협력에 매우 중요합니다. 이는 인공 지능이 인간과 같고, 인간의 필요와 인권을 가진다고 주장하는 것이 아닙니다. 이는 상상력의 한계일 것입니다. 더 나아가, 우리의 사고방식과 사회를 더욱 다양한 마음을 포용할 수 있도록 발전시켜야 한다는 것을 의미합니다.
블레이즈 아구에라 이 아르카스는 구글의 기술 및 사회 담당 부사장이며, 인공지능 연구팀인 패러다임 오브 인텔리전스를 이끌고 있습니다. 그는 MIT 출판사 에서 의식과 인공지능 에 관한 책을 출간할 예정입니다 .