지난 21일 KAIST 학술문화관에서 열린 AI철학연구센터 개소 기념 심포지엄. 국내외의 저명한 철학자와 공학자, 법학자 등이 '문명의 전환과 철학의 과제' 주제로 AI 시대의 인간에 대한 질문을 던졌다. KAIST 제공


인공지능(AI) 시대의 일상이다. 이런 뉴스, 플레이리스트, 영상들은 누군가의 취향이 반영된 것이기도 하지만 거꾸로 그 누군가의 취향을 형성하기도 한다. 인간은 여전히 스스로 선택한다고 느끼지만 그 선택은 대부분 AI 추천과 알고리듬이 미리 정렬해 놓은 환경 안에서 이뤄진다. 언젠가 특별 황금성슬롯 한 기분에 이끌려, 또는 우연 또는 실수로 클릭한 것이 AI 알고리듬에 의해 그의 취향이 됐을 수 있다. 우리는 하루에 몇 번이나 AI의 추천 없이 스스로 선택하고 있는 것일까.
지난 21일 KAIST에서 '문명의 전환과 철학의 과제' 주제로 열린 AI 철학연구센터 개소기념 국제심포지엄은 'AI 시대 인간'에 대한 이야기였다. 국내외 저명 오션파라다이스예시 한 철학자와 공학자, 법학자들이 AI 윤리, 인간과 로보틱스, 법과 기술, 휴머니즘의 미래, AI의 미래와 철학의 역할 등을 논의했다. 하나 같이 우리가 AI 시대에 끊임없이 직면할 철학적 질문들이었다. 이날 발표와 토론 내용을 문제중심으로 나눠 재구성하고 설명을 붙여 이해를 높였다.
① 인간은 독자적으로 판단하나
일론 바다이야기다운로드 머스크 테슬라 최고경영자(CEO)는 자사 '로봇(무인)택시'가 연말이면 미국 전역에서 운행될 것이라고 22일 밝혔다. 이 로봇택시는 현재 인간의 안전감독 없이 텍사스 오스틴을 활보한다. 2024년 11월 소더비 경매에서 AI 로봇 아이다(Ai-Da)가 그린 앨런 튜링 초상화가 15억7200만 원에 팔렸다.
AI의 주도적 영역이 확대되고 있 오션릴게임 다. AI가 판단과 행동의 주체라 할 만큼 자율적 행위성(agency)을 보이는 상황이다. 반면 인간의 AI 의존도는 가파르다. 이런 상황에서 언제까지 인간이 독자적인 판단과 결정의 주인(주체)일 수 있을까. 이 질문은 이날 심포지엄의 핵심 주제의 하나였다.
철학자들에 따르면 서양철학에서 '주체(subject)'는 인식·판단·책임 등의 중 모바일야마토 심적 존재를 말한다. 근대 철학의 시조로 불리는 르네 데카르트는 "나는 생각한. 고로 존재한다"는 명제를 통해 외부 세계와 분리된 '내면의 자아'인 '나(인간)'를 주체로 확립했다.
'근대적 주체'로 명명되는 이 데카르트적 의미의 주체는 이후 서구 사회를 지탱해온 인간 이해의 토대였다. 법도, 윤리도, 교육도 이 믿음 위에서 설계됐다. 서구식 사고를 하기 시작한 지 오래인 우리도 이런 사고에 기반해 있다. 이날 심포지엄에서 '왜 AI는 철학을 필요로 하는가'에 대해 발표한 김혜영 파리고등사범학교 후설아카이브 협력연구원은 "데카르트의 이 주관성 모델(주체)은 근대의 철학·과학·정치·기술 등에 걸쳐 사실상 우리 세계를 형성해 왔다"며 "지금은 AI 시대지만 대부분의 논의는 암묵적으로 이 주체 모델을 가정한다"고 말했다.
이는 근대적 주체가 AI 시대에 인간을 설명하는 데 더 이상 유용하지 않다는 지적이다. 앞서 뉴스, 플레이리스트, 영상의 예에서 보듯 AI 환경에서 인간의 선택과 판단은 독자적이지 않다. AI 알고리즘·데이터·기술 인프라 등이 함께 만들어 낸 결과물이다. 지금 이 순간, 우리는 과연 스스로 판단하고 있다고 자신 있게 말할 수 있을까. '혼자 판단하는 인간'이라는 전제는 흔들리고 있다.
② 이제 '인간-AI 공존적 주체'인가
이날 심포지엄 발제 및 토론자들은 인간과 알고리즘·데이터·기술 인프라 등이 공동으로 참여하는 '관계적 주체' 모델을 보다 보다 유용한 주체 개념으로 제시했다.
천현득 서울대 AI ELSI 센터장은 "인간을 보는 관점도 계속 달라지고 있는데 그 중 하나는 소위 '관계주의'다. 나(근대적 의미의 주체)는 정신과 의식에서 신체로, 그리고 자연, 지구, AI 기술 문명 등 비인간 행위자들로 확장되면서 이들과 어떻게 관계 맺는지가 중요해졌다. 나는 그 관계망 속에서 정의되는 관계들의 총체라고 할 수 있다"고 말했다. 그는 주체가 인간과 여러 외부적 요인(타자)들과의 '관계'에 의해 만들어지는 '결과물'이자 '이질적인 복합체(알고리즘·데이터·기술 인프라가 뒤얽힌 결정 구조)'라는 현대 철학의 견해를 재확인했다.
니콜라이 장 리 린딩 페데르센 연세대 언더우드국제대학 교수는 인간이 AI 또는 로봇과 공존하면서 그 관계 속에 변화해 간다고 파악했다. 그는 "몸을 가진 AI는 인간과 같은 공간에 존재하면서 함께 시간을 보내고, 실수하고, 관계를 맺는데 이 과정에서 인간 역시 달라진다"고 말했다.
김정 KAIST 기계공학과 학과장은 "성능 중심의 로보틱스를 넘어 이제는 인간과 소통하는 피지컬 AI로 전환되고 있다"고 말했다. 그가 사례로 언급한 일본의 사찰에서 열린 '로봇 위령제'는 로봇이 더 이상 단순한 도구가 아니라, 반려견 같이 인간 삶의 관계망에 깊이 들어와 있는, 감정 이입(투사)적 존재라는 얘기였다.
결국 인간은 이제 혼자 결정을 내리는 'CEO'라기보다, 여럿이 동등한 한 표를 행사하는 위원회의 한 구성원에 가깝다는 것인데 이는 포스트휴먼(posthuman) 철학의 인식과 궤를 같이 한다. 포스트휴먼은 과학기술의 급격한 진전으로 새롭게 이해되어야 하는 인간을 말한다.



김정 KAIST 기계공학과장이 심포지엄에서 소개한 일본 소니의 반려로봇 '아이보(AIBO)'의 위령제 장면. 이 로봇이 단종되자 오랜 사용자들이 고장난 로봇을 위해 사찰에서 제사를 지내주고 있다. KAIST 제공


③ 책임은 사라지는가, 재구성되는가
주체의 문제는 곧 책임 문제로 이어진다. 주체는 자율성을 전제하고 자율적일 때에만 책임을 물을 수 있기 때문이다. 김혜영 연구원은 "'피해에 대해 누가 책임을 져야 하는가'란 질문은 AI 시대에 가장 먼저 제기되는 문제의 하나"라며 "판단과 결정의 주체들이 분산된(여럿인) 상황인데도 여전히 하나의 중심 주체만을 상정한다면 책임의 문제는 설명되기 힘들다"고 말했다.
그는 누가 피해에 대한 책임을 져야 하는가는 알고리즘·데이터·기술 인프라·기계에 내재돼 있다고 말했다. 이들 요소들이 판단과 결정에 공동으로 참여하기 때문에 책임을 나눠지어야 한다는 말이다. 심포지엄 참석자들은 AI 시대에 책임이 개인에게서 '소멸'하는 것이 아니라 설계·데이터·제도 등 여러 층위로 이동하고 확장된다고 강조했다.
아직 현실은 인간만을 자율적 존재로 간주하고 책임과 권리의 주체로 여기는 분위기다. 2022년 10월 미국인 스티븐 탈러 씨는 자신이 만든 식품용기(그릇)의 결정적 아이디어는 AI '다부스(DABUS)'가 냈다며 이 다부스를 발명자로 한국 등 여러 나라의 특허청에 국제 특허를 출원했다. 대한민국 특허청은 발명자는 '자연인(인간)'이어야 한다며 받아들이지 않았다. 미국과 영국도 같은 이유로 특허 출원을 받아들이지 않았다. 하지만 점차 AI의 주도적 영향력이 커지면서 AI 로봇 개발자와 로못 생산 기업, 로봇 소유자가 어떻게 책임과 권리를 나눠가져야 할지가 관심사로 부상하고 있다.
④ AI 디스토피아 오나
AI에 대한 논의에서 빠지지 않는 것이 '디스토피아'(암울한 미래) 우려다. AI가 언젠가 "NO"를 외치면서 인간을 통제할 것이라는 설정은 SF 영화의 단골 메뉴일 뿐 아니라 실제 미래학자들의 걱정이기도 하다,
2024년 7월 일론 머스크 등 첨단 기술 기업 최고경영자와 연구자들이 AI가 초래할 위험을 지적하며 한시적인 개발 중단을 제안했다. 이들은 AI 개발을 '군비 경쟁'에 비유했다. 김대식 KAIST 교수는 한 대담에서 모든 면에서 인간의 지능을 뛰어넘는 일반인공지능(AGI)의 머지 않은 도래를 예견하면서 "역사상 덜 똑똑한 존재(인간)가 더 똑똑한 존재(AGI)를 지배한 적은 없었다"고 했다.
심포지엄에서 김혜영 연구원은 "인간은 AI에게 맡겨서는 안될 결정은 무엇인지 구분해야 한다"고 경각심을 고취했다. 박성필 KAIST 문술미래전략대학원장은 "AI가 인간의 자유와 권리를 침해할 가능성이 있는 영역에서는 법이 개입할 수밖에 없다"고 말했다.
이광형 KAIST 총장은 '휴머니즘 2.0' 강연을 통해 "우리는 AI에 대한 통제력을 가지고 있다"며 긍정적인 전망을 내놨다. 그는 "역사적으로 새로운 존재가 우리 사회에 들어올 때마다 질서가 바뀌었지만 때로는 피를 흘리지 않고도 가능했다"며 "신인류에 대한 이해와 인본주의 사상을 잘 유지하면서 AI 시대를 준비해야 한다"고 강조했다.
⑤ 왜 다시 철학인가
AI 시대에 왜 철학이 필요한가에 대해 김동우 센터장은 "철학이 필요한 이유는 인간의 결정과 행위는 기본적으로 가치를 내포하고 있고, 그렇기 때문에 적절한 이유로 정당화 돼야 하기 때문"이라며 "철학은 기술이 어디로 가야 하는지 묻지 한다. 그렇지 않으면 우리는 기술의 파도에 떠밀려 갈 것"이라고 밝혔다.
그는 "우리는 AI 로봇의 뺨을 때려도 좋은지, 화성에 생명체가 있다면 마음대로 개발해도 좋은가 등의 질문에 당장 직면할 것"이라며 "AI와 로보틱스의 발전은 단순한 기술의 진보를 넘어 자율성, 존엄, 삶의 의미 같은 인간의 가장 근본적인 가치들을 다시 성찰하도록 우리를 이끌고 있다"고 말했다.
김혜영 연구원은 "철학은 종종 사상사나 추상적 이론을 연구하는 학문으로 오해받곤 하지만 실제로는 모든 과학의 뿌리"라며 "이는 철학이 오래된 교리의 저장소가 아니라 새로운 사고방식을 탄생시키는 살아있는 활동이라는 것을 말해준다"고 강조했다.
그는 "뉴턴 물리학에 이어 아인슈타인의 상대성이론이 나왔지만 시간에 대한 근본 개념은 아리스토텔레스의 영향을 깊이 받고 있다"며 "이것이 우리가 철학을 공부해야 하는 실존적 이유"라고 말했다. "철학은 AI에 대한 기술적 답을 제공하지 않지만, AI가 우리에게 무엇을 의미하는지 사유하는 틀을 제공한다"고도 했다.
박성필 원장은 앤디 워홀 저작권 판례를 예로 들며, "이 재판에서 미국 연방대법원 판사들의 견해가 충돌했던 것은 이 사건을 바라보는 철학이 달랐기 때문"이라며 "기술이 어떤 규범적 판단을 거쳐 사회적으로 수용되는가를 알아아 한다"고 강조했다.
기술철학 분야에서는 AI에게 제공할 윤리적 데이터 검토에 철학을 비롯한 다양한 학문이 참여해야 한다고 제안한다. 이들 데이터는 AI가 학습한 뒤 다시 결정을 내릴 인간에게 제공하기 때문이다. 적지 않은 사례들을 통해 AI에게 제공된 기존 일부 데이터들이 인종적, 문화적, 사상적 편견에 오염됐다는 사실이 밝혀졌다.
프로퍼블리카란 비영리 언론 매체는 2015년 미국 판사들이 재범 위험을 판단하는 데 쓰는 알고리즘 'COMPAS'가 흑인 피고인을 백인 피고인보다 훨씬 재범 위험이 높으로 잘못 판단한 사실을 밝혀냈다.
⑥ 공학자에게 무얼 가르치나
박성필 원장은 "기술은 수행 가능한 것을 계속 확장하려 하지만 사회는 그 가운데 무엇을 허용할 지를 결정해야 한다. 그리고 공학자는 윤리와 법이 어떻게 연결되는지를 이해해야 한다"고 말했다.
교토철학연구소의 다카기 이치 연구매니저는 "비즈니스 리더들이 직면하는 질문들은 종종 철학적이고 형이상학적이며 문명적 규모의 것들"이라며 "철학은 여러 세기를 포괄하는 큰 질문에 답하는 데 필요하다"고 말했다.
김동우 센터장은 공학 교육의 방향을 '질문 능력'에서 찾았다. 그는 "AI 시대의 공학 인재는 정답을 빠르게 찾는 사람이 아니라 어떤 질문이 적절한지 판단할 수 있는 사람이어야 한다"며 "문명의 대전환인 AI 시대에 우리는 무엇을 할 수 있는가, 무엇을 해야만 하는가, 그리고 무엇을 희망해도 되는가에 대해 질문하고 답해야 한다"고 말했다.
이어 "젠슨 황 엔비디아 CEO나 일론 머스크 같은 리더들은 명확한 목표를 가지고 일을 수행한다"며 "AI 철학연구 센터는 기술적 역량을 갖춘 KAIST 학생들이 세계적 리더로 성장하도록 정신적 토양을 제공할 것"이라고 말했다.
AI 철학연구센터 설립은 이광형 총장이 한 공학자의 발언을 듣고 결단을 내렸다고 한다. 이 총장은 "오래전부터 공학에 대한 철학적 접근 필요성을 절감했다. 회의에서 김정 학과장이 '공손한 로봇'을 언급했다. 공학자가 로봇을 새로운 시각으로 본 것이다. 철학을 비롯한 다양한 학문이 공학적 사안을 논의할 때라고 판단했다"고 말했다.