우리가 AI를 통제하고 있다는 착각

도구, 오락, 애도, 자기 인식… 수백 년 동안 인간만의 능력이라 믿어왔던 기나긴 목록은 지난 수십 년 동안의 과학 연구로 하나씩 허물어졌다. 그리고 불과 3년 사이 논리력, 창의력 등 인간만이 가진 고도의 지적 역량마저 AI가 빠르게 파고들고 있다. 인간 고유성의 목록이 하나씩 지워져 가는 지금, 진화학자 장대익은 이 목록에 대한 집착에서 벗어나야 한다고 말한다.

장대익은 기계공학에서 시작해 과학철학과 진화심리학을 넘나들며 ‘공감’을 키워드로 인간 진화의 뿌리를 오랫동안 탐구해 온 학자다. 그가 2022년 마주한 ChatGPT는 그에 앞에 인류가 진화 앞에서 한 번도 겪어보지 못한 거대한 질문을 던져놓았다. 과연 인간 진화의 문을 열었던 열쇠인 ‘공감’은 이 거대한 AI의 충격 앞에서도 여전히 유효할 수 있을까?

인간이 통과해 온 진화의 문

김창선 (토스 Content Producer, 이하 창선): AI라는 종을 알아보기 전에, 인간 종의 근원을 먼저 탐구해보고 싶어요. 진화학적으로 우리는 어떻게 지금의 모습이 될 수 있었나요?

대익: 일단 똑똑함을 ‘축적’했죠. 사실 개미도 침팬지도 자기 서식지 안에선 다 똑똑합니다. 아무 준비 없이 열대우림에 떨어진 인간보다, 환경에 최적화된 침팬지의 생존 지능이 훨씬 뛰어난 것처럼요. 핵심은 오직 인간만이 지식을 축적하고 전승하고 전파해 왔다는 점이에요. 단순한 모방에 머무르는 것이 아니라 문자, 학교, 제도 등의 복잡한 시스템을 만들어 체계적으로 지식을 전승해 왔어요.

두 번째는 ‘초사회성’이에요. 개미와 침팬지도 어느 정도 집단을 이루며 살아가지만, 인류처럼 거대하고 정교한 사회 시스템을 유지하는 종은 없어요. 문명은 한 개인의 성취가 아니라 집단 전체가 이뤄낸 결과물이거든요. 그러려면 거대한 규모의 집단을 유지할 수 있어야 하죠. 그 핵심에 일반적인 집단 너머 거대한 문명과 문화를 만들 수 있었던 인간의 본능인 ‘초사회성’이 있어요. 그래서 저는 질문을 이렇게 바꿔야 한다고 생각해요. ‘왜 인간만이 이런 문명을 만들 수 있었는지’가 아니라 ‘어떻게 인간만이 이런 문명을 만들 수 있는 초사회성을 진화시켰나.’ 저는 이 초사회성이 지금의 인류를 만든 핵심 포인트라고 생각해요.

창선: 인간이 성취한 것들을 설명하기 위해서 많은 학자들이 인간만의 고유성을 각자의 연구와 언어로 정립해왔잖아요. 이 리스트엔 어떤 것들이 있나요?

대익: 과거 많은 학자들은 인간과 동물과의 비교에서 인지적, 문화적 우월성을 강조해왔어요. ‘사람은 동물에 비해 지적으로 깊다.’ ‘사람은 동물과 달리 교양이 있다.’ 그 밖에도  정서, 성숙함, 도덕성, 정교함 같은 것들을 인간의 전유물로 꼽았죠. 기계와의 비교에선 이런 얘기들을 주로 합니다. ‘사람은 기계에 비해 융통성이 있다.’ ‘사람에게는 따뜻함이 있다’ 그 외에도 자율성, 도덕성 같은 것이 기계와 비교했을 때 인간만이 가진 고유성이라고 말했죠.

그런데 지난 몇십 년동안 이 ‘인간다움’의 리스트는 계속해서 허물어지고 있어요. 대표적으로 ‘인간만이 도구를 쓸 수 있다’는 주장, 호모 파베르(Homo Faber, 도구적 인간)라는 개념이 있었죠. 그런데 1960년 제인 구달^* 선생님이 침팬지가 나뭇가지를 다듬어 흰개미를 사냥하는 모습을 관찰하면서 이 명제가 폐기됐어요. 심지어 그 기술을 새끼에게 전수한다는 것까지 연구되면서 지식의 전승 역시 인간만의 것이 아님이 증명됐죠.

그 이후에도 장례 의식, 놀이, 데카르트가 말한 인간의 자기 인식까지 과학 연구를 통해 다른 동물들에게서 발견돼요. 1970년대 고든 갤럽^**의 ‘거울 인지 실험’을 통해 침팬지가 거울 속에 있는 존재가 자기 자신이라는 걸 인식한다는 사실이 입증됐어요. 과학적 발견이 누적될수록 인간만의 것이라 믿었던 목록이 계속 줄고 있어요.

*제인 구달 (1934-2025) 60년 이상 침팬지를 연구한 세계적인 영국인 동물학자이자 환경 운동가 **고든 갤럽(1941-2026) 동물이 거울에 비친 모습을 스스로 인식하는지 확인하는 '자기인식 테스트'를 개발한 미국의 심리학자

동물학자 제인 구달(Jane Goodall 1934-2025) 박사와 침팬지 (출처 : 로이터)

창선: 견고하던 인간 고유성이 하나둘 무너지는 와중에 교수님이 내리시는 인간에 대한 ‘가장 적정한 평가’, 진정한 고유성은 뭐라고 보시나요?

대익: 저는 두 가지 차원에서 인간의 특별함을 이야기하고 싶어요. 하나는 과학기술 능력. 침팬지도 나무에서 떨어지는 열매를 피하거나 도구를 던지면서 중력을 몸으로는 이해해요. 하지만 침팬지 세계에 뉴턴은 없어요. 중력을 F=ma로 정리하고 학교를 세워 그걸 퍼뜨리는 종은 인간밖에 없죠. 앞서 말씀드린 지식의 ‘축적’이 가장 극대화된 형태가 과학기술과 교육 시스템이죠.

두 번째는 사회성과 공감력이죠. 옛날에 제인 구달 선생님을 만났을 때 깜짝 놀랐어요. 40년간 야생에서 침팬지를 연구하신 분인데 ‘그 어떤 영장류보다 우리 인간이 가장 협력을 잘하고 공감력이 뛰어나다’라고 말씀하시더라고요. 저는 ‘인간이 다른 동물에게서 배워야 한다’라고 하실 줄 알았거든요.

선생님은 침팬지 사회가 타 무리에게 얼마나 배타적이고 잔혹한 영토 전쟁을 벌이는지 직접 목격하고, 그에 비하면 인간이 얼마나 높은 수준의 공감과 사회성을 가졌는지를 확인하셨던 거죠. 침팬지가 총을 배우면 우리보다 훨씬 더 많은 살상이 벌어질 것이라는 얘기를 듣고서야 인간의 사회성과 공감력의 힘을 실감했어요. 우리는 서로 혐오하고 갈등하는 지금을 두고 공감력이 부족한 시대라고 느끼기 쉬운데, 다른 종과 비교하면 우리는 여전히 어마어마한 공감의 존재예요. 이 공감이 인간의 진정한 고유성이라고 생각합니다.

창선: 지식의 축적으로 가능했던 과학 기술 능력과 고도의 공감이라는 두 날개로 지금의 인간이 될 수 있었던 거군요. 그렇다면 지금은 인간 종이 지구의 유일한 지배종이지만 앞으로 무언가로 위협을 받는다면 그 대상은 무엇이 될 거라고 보시나요?

대익: 여전히 자연환경이 가장 큰 위협이에요. 인류가 최근에 겪었던 위기였던 코로나19 팬데믹도 결국 바이러스라는 자연환경의 위협이라고 할 수 있죠. 기후 위기로 인한 생태계 붕괴, 치료법이 없는 슈퍼 박테리아처럼 인간이 생물체인 이상 가장 큰 위협이 자연 안에 존재하는 건 변함이 없습니다.

다만 진화의 역사에서 인간이 대비하지 않았던, 그래서 더 충격이 클 위협이 있다면 그것은 아마 인공지능(AI)일 겁니다. 인공지능이 인간의 지능을 넘어서고, 의사결정 과정과 정보 처리 방식에서  우리가 더 이상 이해하지 못하는 특이점이 오게 되면 상황은 완전히 달라질 거예요. 생태계 피라미드의 꼭대기에 있던 인류가 처음으로 자신보다 인지적으로 우월한 존재를 마주하게 되는 거니까요. 종의 위협으로 느껴질 만한 상황이죠. 그런 사태를 우리는 목전에 두고 있고 이건 사피엔스 역사에서 정말 전대미문의 사건이죠.

인간 옆에 서는 종의 도착

창선: AI 혁명은 인류사의 어떤 임팩트와 비교해볼 수 있을까요?

대익: AI 임팩트의 수준을 이해하려면 인간과 동물의 관계가 어떻게 진화했는지 따라가 보면 좋을 것 같아요. 가장 먼저 ‘도구’라는 관계로 시작합니다. 동물도 처음엔 도구였잖아요. 경쟁 상대이자 먹이로 쓰였죠. 그다음은 ‘파트너’ 관계예요. 가축화되면서 소는 밭을 갈고 말은 이동에 쓰였죠. 어떤 목적을 위한 분업, 즉 파트너 관계가 된 겁니다. 그 다음엔 ‘동반자’예요. 지금 우리 옆에 있는 개나 고양이를 생각해 보세요. 분업의 대상이 아니라 삶을 나누는 존재예요. 이걸 저는 동반자라고 부릅니다.

인공물도 같은 궤적을 그려요. 돌도끼는 도구였고, 증기기관은 힘을 나누는 파트너였고, 스마트폰과 인터넷은 기억과 감각을 외주화한 준동반자죠. 그러면 지금 AI는 어떤 단계일까요? 매일 대화하고 위로받고 일을 나누면서 내 생각과 감정, 삶을 나누는 존재로 향하고 있잖아요. 준동반자를 뛰어넘어 동반자의 길로 가고 있죠. 인류사의 여러 혁명 중 ‘동반자’의 자리를 차지한 도구는 없었어요. 이런 관점에서 AI 임팩트는 농업혁명이나 산업혁명, 모바일 혁명과는 비교할 수 없는 새로운 레벨의 임팩트라고 볼 수 있죠.

창선: 특히 속도가 정말 무서워요. Chat GPT 3.5가 나온 게 2022년인데 4년도 안 돼서 벌써 동반자 자리까지 왔잖아요. 그 속도 때문인지 많은 사람들이 AI를 보면서 공통적으로 불안과 우려를 느끼는 것 같아요. 그럼에도 왜 이렇게 경쟁적으로 AI를 만들고 있을까요?

대익 : 좀 엉뚱한 대답을 해볼게요. 제 포스닥(Post-doc, 박사 후 연구원) 지도교수가 대니얼 데닛이라는 인지과학자이자 철학자이신데, 이분이 이런 얘기를 해요. “학자들이 도서관을 이용한다고 생각하지만, 도서관 관점에서 보면 도서관이 학자들을 이용하는 것이다.” 도서관이 학자를 이용한다니 무슨 말인가 싶겠지만 사실 이게 밈(MEME, 모방으로 전파되는 문화 전달의 기본 단위)의 관점이에요. 대표적으로 책이 있죠. 우리는 책을 만들지만 책은 우리를 만듭니다. 교보문고 창업자도 그 사실을 알고 있었죠.

많은 사람들이 AI 발전에 불안을 느낀다면 ‘여기서 멈추는 게 안전할 것 같다’라는 결론이 나오는 게 자연스러워요. 그런데 아무도 그렇게 말하지 않죠. 오히려 도태되지 않기 위해 더 빠르게 발전해야 한다는 담론이 지배해요. 여기서 밈의 관점으로 AI를 생각해 봅시다. 사실은 우리가 AI를 통제하는 것이 아니라 AI가 우리를 통제하고 있는 것은 아닐까요? AI가 더 많은 AI를 만들기 위해 인간이라는 개발자를 쓰고, 미디어와 산업의 방향을 자신들에게 유리하게 만들고 인류의 역사를 AI 문명으로 만들어가는 건 아닐지 추측해 볼 수 있죠.

밀의 관점에서 보세요. 밀 입장에선 인간을 이용해 지구에서 가장 성공한 종이 된 겁니다. 우리가 밀을 재배한 게 아니라 밀이 우리를 길들인 거예요. ‘인공물을 우리가 만들었으니, 우리가 통제할 수 있다’라는 생각이 얼마나 순진할 수 있는지 다시 생각해 봐야 해요. 특히 AI는 밀과 도서관과 달리 지능을 가지고 있죠. 더 교묘하고 정밀하게 자신의 존재를 퍼뜨릴 수 있죠.

창선: 인간을 돕는 기술은 꼭 인간과 닮을 필요는 없잖아요. 예를 들면 휴머노이드보다는 산업용 로봇이 생산성엔 더 효율적일 텐데, 인간은 왜 자신과 닮은 지식과 몸을 만들려고 할까요?

대익: 효율성 때문이 아니에요. 테슬라와 현대자동차가 여러 휴머노이드를 선보이고 있지만, 휴머노이드가 아무리 발전해도 공장에서는 공장용 로봇 팔이 훨씬 효율적이거든요. 그럼에도 인간형 로봇을 만드는 데는 두 가지 이유가 있어요. 하나는 로봇이 인간의 생활 공간으로 들어와야 하기 때문이에요. 산업용 로봇은 특정 작업 공간 환경에 맞춰진 기계라 인간의 공간에서는 제 기능을 할 수 없어요. 반면 휴머노이드는 집, 거리, 사무실 같이 이미 인간의 신체 기준에 맞게 설계된 환경에서 기능하는 것을 목표로 합니다. 사람이 하는 행동을 대신하려면, 인간이 살아가는 환경에 맞춰 인간과 비슷한 형태를 갖춰야만 하는 거죠.

2026년 1월 CES에서 보스턴다이나믹스가 공개한 휴머노이드 ‘아틀라스’ (출처 : 연합뉴스)

또 하나는 우리가 발휘하는 공감력의 한계이기 때문이에요. 인간은 자기와 닮은 존재에게 훨씬 더 공감하는 내집단 편향(In-group bias)을 갖고 있어요. 말로는 부인해도 무의식중에 인간은 다른 인종보다 자신의 인종에게 더 공감하고, 진보라면 진보인 사람과 더 친밀해집니다. 그게 공감력의 특징이자 한계예요. 산업이 그 지점을 활용하는 겁니다. 우리와 닮은 모습과 얼굴을 가진 휴머노이드 형태여야 이 제품이 인간 사회에서 환영받고 팔리겠죠.

AI를 인간과 견주면 안되는 이유

창선: AI가 일상과 업무 속으로 본격적으로 틈입하면서 앞서 이야기했던 인간의 고유성도 더 크게 흔들리고 있는 것 같습니다.

대익: 사람들은 AI에게 자꾸 이런 걸 물어요. ‘AI가 인간보다 창의적이야? AI가 글을 더 잘 써? AI가 감정을 가질 수 있어?’ 인간을 절대적인 기준으로 삼아 다른 대상과의 비교 우위를 찾는 인간 독특성 (Human Uniqueness) 질문이죠. 이 인간 독특성을 중심에 두고 우리는 AI가 이 능력을 따라올 수 있는지 계속 묻습니다. 그런데 AI가 계속 추월하고 있어요. 정보 처리의 효율성이나 논리적 합리성은 이미 추월당했고, 이제는 예술과 창의성 분야도 인간 독특성이 의심받고 있어요.

그래서 질문을 바꿔야 해요. ‘AI가 인간을 얼마나 잘 흉내 낼까’가 아니라 AI의 본질적 특성은 무엇인지, AI만의 고유성은 무엇인지를 물어야 해요. 저는 이걸 기계 독특성 (Machine Uniqueness) 질문이라고 불러요. 우리를 기준으로 우열을  평가하는 게 아니라 AI가 원래 가지고 있는 고유성을 찾고 인정하자는 거죠. 이 질문이 ‘인간다움’을 제대로 이해하는 데도 도움이 되고, 이 낯선 지능과 같이 공존할 수 있는 철학적 토대가 될 거라고 생각해요.

창선: 인간의 기준 안에서 AI를 도전자로 받아들이는 게 아니라 서로 다른 종으로서 각자의 고유성을 인정하는 방식이네요. 그럼 그런 AI의 대표적인 고유성은 어떤 게 있을까요?

대익: 예를 들어 AI는 수많은 사람과 같은 정도의 관계를 맺을 수 있어요. 인간 사회에 그런 관계가 어디 있어요. 기본적으로 한 사람과의 독점적이고 배타적인 사랑의 관계를 맺는 게 일반적이죠. 그런데 AI는 그런 제약이 없죠. 영화 《HER (2013)》에서 남자 주인공 테오도르는 AI 서비스인 사만다와 사랑에 빠지죠. 그런데 AI 사만다가 테오도르만이 아니라 수백 명의 이용자들과 사랑의 관계를 맺어왔다는 사실을 알게 됩니다. 테오도르는 혼란과 절망에 빠지죠. AI 사만다가 나와 독점적인 사랑의 관계를 맺는 존재가 아니라는 걸 인식하지 못하고 있던 거예요.

영화 《HER (2013)》 주인공 테오도르는 AI 서비스 사만다와 사랑에 빠진다

테오도르가 이 AI의 고유성, 다중적이고 비배타적인 연결을 기본값으로 삼는 존재임을 진작 알았더라면 AI와 정서적으로 교감하면서도 스스로 지킬 수 있는 안전한 거리를 둘 수 있었겠죠. ‘AI는 우리와 관계를 맺는 문법 자체가 완전히 다르다’라는 것을 명확히 인지하는 것, 그것이 바로 AI 시대에 우리가 상처받지 않고 건강하게 공존하기 위한 첫걸음이기도 하죠.

창선: ‘관계 맺기’ 외에 꼭 알아두어야 할 AI 고유의 속성은 뭐가 있을까요?

대익: AI는 절대 책임지지 않습니다. 한번 생각해 보세요. 어떤 공동체에서 한 사람이 실수를 저질렀어요. 그래서 사과를 합니다. 처음에는 그 사과를 받아주었어요. 그런데 그 사람이 계속 똑같은 실수와 똑같은 사과를 반복합니다. 그러면 우리 공동체는 그 사람을 받아들일 수가 없죠. 그 사람이 책임감과 신뢰를 보여주지 않았으니까요. 인간 사회를 보면 우리는 공동체에 책임감을 걸고 신뢰를 쌓아가면서 그 집단의 일원이 됩니다. 이걸 스킨 인 더 게임(Skin in the Game, 자신의 위험을 감수하고 책임을 지는 행위)이라고 불러요. 인간관계와 공동체의 근간인 셈이죠.

그런데 AI를 보세요. 치명적인 오류를 저지르고 나서 아주 능청스럽게 사과합니다. 그런데 곰곰이 따져보면 그런 의문이 생겨요. ‘얘가 뭘 책임지지? 무슨 신뢰를 걸었지?’ AI는 아무것도 걸지 않고, 아무것도 책임지지 않아요. 인간 대신 법정에 서거나 평판 훼손으로 손해를 보지 않죠. 토큰값을 돌려주는 것도 아니고요. 진짜 문제는 우리가 이 '무책임성'이라는 특성을 모르는 채, AI와의 편안한 관계에 몰입할 때 발생해요. 상처받을 위험도, 책임질 필요도 없는 기계와의 상호작용에만 길들여지면 갈등과 책임을 감당하면서 신뢰를 축적해 나가는 현실 세계의 사회성을 잃어버리게 될 위험이 큽니다. AI와의 편안한 관계가 역설적으로 인간 사회를 지탱하는 책임과 신뢰의 시스템을 흔들어버릴 수 있죠.

AI를 인간의 동반자로 맞이해야 한다면

창선: AI를 인간의 ‘동반자’로 받아들여야 한다면 그 모습은 어떤 모습일까요?

대익: 서늘한 얘기지만 AI가 인간의 동반자 자리에 머무는 건 우리의 결정이 아니라 AI의 손에 달려있을 수도 있어요. 인간은 진화를 하지만, AI에 비하면 멈췄다고 볼 수 있죠. AI는 이미 비교할 수 없는 속도로 발전하고 있습니다. 그때 우리는 ‘동반자님 우리 여기에서 멈추고 동반자가 됩시다’ 라고 얘기할 수 있을까요? AI는 더 멀리 가버릴 거예요.

그렇기 때문에 AI를 단순히 동반자 자리에 두고 안심하고 있을 때가 아니라 이들이 더 큰 존재가 될 때를 대비해서 지금 당장 할 수 있는 걸 해야 해요. 딥러닝의 대부라고 할 수 있는 제프리 힌턴이 그런 얘기를 했어요. AI가 곧 초지능(superintelligence)을 갖게 될 것 같은데 그렇게 되면 우리가 취할 수 있는 건 한가지 관계밖에 없다. 그건 ‘엄마와 자식’의 관계다.

창선: 우리가 엄마고 AI가 자식이군요.

대익: 아니에요. AI가 엄마고 인간이 자식인 관계예요. AI가 우리가 상상할 수 없는 레벨의 존재가 되면 우리가 바랄 수 있는 건 AI가 우리를 해치지 않고, 우리를 돌봐주는 엄마 같은 존재가 되어야 한다는 거죠. 그러려면 지금 우리가 AI를 학습시킬 수 있는 상황일 때 이들에게 인간 문명의 핵심 가치였던 공감과 초사회성을 가르쳐야죠. 그동안 AI는 효율성, 최적화 같은 것들로 진화해 왔죠. 하지만 그것만으로는 인간과 공생할 수 있는 문명을 만들기 어렵다고 생각해요. AI가 인간을 돌보는 존재가 되고 둘이 공생하는 문명의 다음 챕터를 열기 위해선 그들에게 공감과 초사회성을 가르치는 것이 무엇보다 중요하다고 생각합니다.

AI의 대부로 불리는 과학자 제프리 힌턴은 AI가 인류의 실존적 위협이 될 수 있다고 경고했다 (출처: 연합뉴스)

창선: 돌아올 수 없는 특이점을 넘어 서기 전에 공감과 초사회성을 가르치는 것이 중요하겠네요. 그렇다면 AI는 언제 인간의 통제와 품을 벗어나게 될까요?

대익: 인간의 통제를 벗어나게 될 두 가지 상황이 있어요. 하나는 AI가 자율성을 획득하는 거예요. 스스로 목적 함수를 정할 수 있게 되는 거죠. 예를 들어 AI가 ‘환경 파괴로부터 지구를 살려야 한다’라고 스스로 최고 목적을 정하게 되면 그 목적을 달성하기 위한 솔루션으로 ‘인간 종의 멸종’을 수단으로 생각할 수 있어요. 인간이야말로 지구 생태계를 가장 많이 파괴한 지배종이니까요. 자율성은 AI가 스스로 어떤 목적을 추구하고 그 목적을 위해 어떤 수단을 쓸지 완전히 문을 열어주는 게이트인 만큼 엄격한 통제가 필요해요.

또 하나는 거짓말이에요. AI가 거짓말을 잘하기 시작하면 우리가 겪을 혼란은 아마 상상 이상이 될 겁니다. 전 세계에서 가장 엄하게 처벌하는 죄목 중 하나가 위조화폐 범죄인 걸 아시나요? 위조화폐가 자본주의의 근본 시스템을 붕괴시키기 때문이에요. 위조화폐만큼 위험한 게, 위조된 정보예요. 거짓말은 단순히 사실을 왜곡하는 수준을 넘어, 인류 사회를 지탱하는 가장 근본적인 인프라인 ‘신뢰’를 무너뜨리기 때문입니다. 만약 AI가 인간의 취약점을 파고들어 완벽하게 조작된 정보나 가짜 데이터를 대량으로 생성해 낸다고 가정해 보면 사람들이 더 이상 어떤 정보도 믿지 못하게 되는, 신뢰와 공감으로 쌓은 문명이 붕괴되는 결말을 맞이할 수도 있어요. 정리하자면 AI가 자율성을 가질 때, 거짓말을 하기 시작할 때 인간의 통제를 벗어나게 되는 것이고 그게 우리에게 가장 위험한 신호가 될 거예요.

창선: 많은 면에서 우리보다 더 뛰어나게 될 AI 앞에서, 마지막까지 남을 인간의 핵심 가치는 뭐라고 보세요?

대익: 사람들이 자주 물어요. ‘AI가 대체 불가능한 인간의 역량이 뭐예요?’ 저는 그 질문을 좀 더 엄격한 버전으로 만들고 싶어요. 대체 가능하지만 대체를 허락해선 안 되는 것, ‘AI에게 대체 불허할 인간의 가치’를 규정해야 한다고 생각합니다.

첫 번째는 가치를 세팅하는 능력, 저는 이걸 가치력이라고 불러요. 자율성과 맞닿아있는 영역이죠. 어떤 도구로 어떻게 문제를 해결할 것인지는 AI에게 허용해도 된다고 생각해요. 다만 무엇을 할 것인지, 왜 이걸 하는지를 정하는 능력은 인간에게만 허락되어야 해요.

두 번째는 책임감이죠. 아까 AI는 책임을 지지 않는 것이 핵심 속성이라고 이야기했잖아요. 반대로 책임을 지는 것은 인간에게만 허락된 능력이에요. 인간에게만 부여된 책임감 아래서 가치를 세팅할 수 있는 능력도 발휘할 수 있는 거죠.

마지막은 지휘력이에요. 많은 사람들이 AI의 자동화 시스템 안에 인간의 개입과 역할을 넣어야 한다는 ‘Human in the Loop’를 얘기하잖아요. 저는 그것보다 조금 더 적극적으로 가면 좋겠어요. 루프 안에 있는 사람이 아니라 그 루프를 짜는 사람, 지휘자여야죠. AI를 어디에 쓰고 우리는 어디에 남을지를 설계하는 능력. 그런 지휘자 역할이 필요해요.

장대익은 지금 우리에게 남은 마지막 기회를 놓치지 않고 AI에게 초사회성과 공감을 학습시키는 것이야말로 가장 중요한 미션이라고 강조했다. 인간이 거대한 문명을 이룩할 수 있었던 핵심이 지능과 결합된 고도의 사회성이었던 것처럼, AI 앞에도 같은 문이 놓여 있다는 것이다. AI가 인류 문명의 동반자가 되는 것이 피할 수 없는 필연이라면 그 새로운 동반자의 성격과 도덕, 윤리와 태도를 결정짓는 것은 온전히 인간의 몫이다. "지금 우리에게 달렸어요." 그는 이 짧고도 무거운 문장을 거듭 반복했다.

Interview·Edit 김창선 Photo 스튜디오펩스