Q. 오늘의 화두는 ‘인간과 AI의 공존은 가능한가’와 AI의 의미와 본질 그리고 미래입니다. 굉장히 큰 주제입니다. 지금 우리나라뿐 아니라 전 세계적으로도 몹시 혼란스러운 시기를 보내고 있는 이때, 작가님의 신간 〈넥서스〉는 우리의 질문에 대답과 통찰이 돼주는 책이라고 생각합니다.

AI에 대해서 우리 모두가 꼭 알아야 할 단 하나를 꼽으라면 저는 이렇게 말하고 싶습니다. “AI는 도구가 아니다. 행위 주체자다.” 석기시대의 돌부터 원자폭탄까지, 지금까지 인간이 만든 기술적 공정품은 전부 다 도구였고 우리 손에 달려 있었어요. 하지만 AI는 스스로 결정합니다. 또 새로운 생각도 만들어내고 발명도 하지요. AI는 이전의 어떤 과학 기술 혁명과도 다릅니다. 그래서 만약 인간이 AI도 컨트롤할 수 있다고 생각한다면 이는 AI에 대해서 전혀 이해하지 못하는 것입니다.
다음으로는 인간에 대해 이야기해 보죠. 지금은 우리가 이 AI를 다루기 위해서 인류 역사상 그 어느 때보다 협력해야 하는 시기입니다. 그런데 전 세계적으로 인간은 서로에 대한 신뢰를 빠르게 상실하고 있는 것이 현실입니다. 다시 말하면, AI 혁명의 중심에는 ‘신뢰의 역설’이 존재한다는 것입니다. 저는 전 세계를 다니며 AI 흐름을 선도하는 많은 분을 만날 때마다 질문하죠. “왜 이렇게 서두릅니까?” 그럼 하나같이 이렇게 대답합니다. “우리도 아는데, 다른 인간 경쟁자들을 신뢰하지 못하겠어요.”
안전에 투자하고 규제도 마련해 가면서 좀 천천히 개발하게 되면 AI 경쟁에서 뒤처질 거라는 이야기입니다. 그럼 저는 또 묻죠. “초지능적 존재인 AI를 믿을 수 있겠습니까?” 그럼 AI는 믿을 수 있다고 합니다. 우리는 우선순위부터 바꿔야 합니다. 인간이 인간을 신뢰할 수 있는 기반을 만들어야 합니다. 그런 신뢰를 바탕으로 만들어지고 학습된 AI라야만 인간이 믿고 의지할 수 있을 겁니다.

Q. 굉장히 예리한 통찰이라고 여겨지는데요. 사실 〈사피엔스〉를 내시고는 빅테크 회사의 오너, CEO들과 인터뷰도 많이 하시고 꽤 우호적인 관계였던 것 같아요. 그런데 이번 책 출간 이후에는 다소 긴장감이나 갈등이 있어 보입니다.

저는 아직도 빅테크 회사들과 대화를 많이 합니다. 이분들은 저뿐 아니라 다른 역사학자나 철학자들과도 많이 소통해요. 이분들도 AI를 두려워합니다. 그 누구보다 AI에 대해 잘 이해하는 사람들이니까요. 하지만 앞서 말한 신뢰의 역설 문제가 있는 것이지요. 저는 빅테크 기업가들이 악하다거나 우리의 적이라고 생각하지 않습니다.
다시 말하지만 지금 우리가 목표로 삼아야 할 일은 기업들 간에 신뢰를 회복하는 일이에요. 기업들이 다 함께 AI 혁명을 안전하고 책임감 있는 방식으로 이루어가는 것이 최우선입니다.

Q. AI의 경계를 어디까지 보시는지 궁금합니다.

핵심은 ‘행위 주체성’을 갖추었느냐입니다. 에스프레소 머신은 자동화 기계이고, 다음과 같이 말한다면 AI일 것입니다. “제가 몇 주 동안 하라리 님을 지켜보면서 배운 게 있습니다. 그리고 거기에 기반해서 ‘지금 에스프레소를 원하시겠구나’라는 결론에 다다랐습니다. 버튼 누르시기 전에 제가 이미 에스프레소를 만들어놨어요.”
다음 날 상황까지 좀 더 가볼까요? “좋아하실 것 같아서 이번에는 ‘베스프레소’라는 신메뉴를 만들었습니다.” 인간이 부탁하지 않아도 스스로 만들어내는 능력을 탑재한 것이 AI인데, 커피 정도야 괜찮죠. 그런데 AI가 새로운 약도 만들고 무기도 만들고 심지어 종교나 이념까지도 만드는 지경에 이른다면, 그건 굉장히 큰 이슈가 될 겁니다.

Q. 그런데 자동으로 추천해 주는 것이 꼭 자율적인 존재라는 뜻일까요? 아직은 우리에게 AI의 추천을 거부할 자유가 있다고 보니까요. 다시 말해서 AI가 어떤 목표에 최적화된 수단은 제공해 주지만 목표 자체를 설정하는 단계는 아직 아니라고 생각합니다. 또 그건 인간이 AI에게 양도해서는 안 되는 최후의 지점이기도 하고요. 작가님께서는 어떤 의미에서 AI를 자율적인 주체로 보고 계시는지요.

일단 추천도 엄청난 영향력을 가집니다. 점점 더 그렇게 변하고 있습니다. 서울 같은 대도시에서도 예전에는 우리 스스로 길을 익혀서 다녔잖아요. 하지만 지금은 별 고민 없이 앱을 보고 따라갑니다. AI 추천이 점점 더 강력한 힘을 갖게 되는 단적인 예죠.

Q. AI가 편견이 포함된 데이터베이스를 기반으로 확장될 수 있는 위험에 대해서도 경고하셨습니다. 앞으로 이 전 지구적인 불평등에 AI가 어떤 식으로 영향을 미칠 것이라 보시는지요.

결국은 인간이 AI를 어떻게 사용하기로 결정하느냐에 달려 있을 것 같습니다. AI에는 양극화와 불평등의 문제를 더욱 심각하게 만들 수 있는 가능성도 분명 있습니다. 소수의 기업이나 국가가 AI의 힘을 독점하게 되면 19세기 산업혁명 당시 일어났던 사회문제가 반복될 수도 있습니다. AI를 선도하는 2~3개 국가가 전 세계를 군사, 경제적으로 압도하면서 ‘AI 제국화’를 시도할 가능성이 있습니다. 그런 상황에서 만약 전쟁이 일어난다면 19세기처럼 될 겁니다. 단, AI 기술을 갖춘 군대와 그렇지 못한 군대 사이의 전쟁이 되겠죠.

Q. AI가 검증 불가능한 콘텐츠들을 무작위로 만들어낸다면 오히려 레거시미디어의 중요성이 예전보다 더 커지지 않겠느냐, 라는 논쟁이 한국 사회에도 있습니다. 그에 대한 견해를 듣고 싶습니다.

우리가 굳이 옛날 기술로 돌아갈 필요는 없을 것 같습니다. 어쩌면 기술이라는 것은 형태에 불과합니다. 중요한 건 ‘이 정보가 믿을 만한 것이냐, 가려낼 수 있는 메커니즘을 갖췄느냐’입니다. 레거시미디어는 오랜 역사를 지내며 그런 메커니즘을 어느 정도 갖췄죠. 문제는 뉴미디어인데, 만든 사람들이 순진한 정보관을 가진 경우가 있어요. ‘문만 활짝 열어놓으면 결국 이 안에서 진실이라는 것은 알아서 모습을 드러낼 것’이란 생각이에요. 정말 큰 실수입니다. 정보 시장이 완전 개방된다면 진실은 가장 밑바닥에 가라앉게 될 겁니다. 대신 값싸고 단순하지만 매력적으로 보이는 허구가 쏟아져 나와 시장을 완전히 잠식하게 되겠죠. 지금 대부분의 SNS 플랫폼에서 일어나고 있는 일입니다. 알고리즘은 진실에 관심이 없어요. 무엇이 사용자 참여도를 높일 수 있을까에만 관심 갖죠.

사용자 참여도라는 건 사실 ‘감정 버튼’을 눌러서 순식간에 우리의 주의를 끄는 겁니다. 분노나 욕심, 공포 같은 감정들이요. 물론 연예계 콘텐츠라면 하나의 기준이 될 수 있겠죠. 하지만 언론은 아닙니다. 지금 SNS의 문제는 드라마, 예능과 뉴스가 전혀 구분이 안 되고 있다는 것입니다. 정치인들도 그런 흐름에 영향을 많이 받고 있고요. 내가 내놓는 내용이 세상에 대해 책임감을 가지고 진실에 좀 더 다가가느냐를 고민하는 것이 아니라, 사용자들의 참여를 좀 더 이끌어내는 것만이 관심사가 돼버렸죠. 엔터테인먼트와 뉴스를 구분할 필요가 있습니다. 저는 뉴스는 지루할수록 좋다고 생각합니다.

Q. 마지막 질문입니다. “인류의 미래는 웃음입니까, 눈물입니까?”

아직 미래는 결정되지 않았습니다. 결국 우리가 몇 년 사이에 어떤 결정을 하느냐에 달려 있습니다. 지나친 낙관주의는 우리를 게으르게 만듭니다. 또 지나친 비관주의도 사람들을 무책임하게 만듭니다. 중요한 건 책임을 지는 겁니다. 지금 우리 앞에는 미래로 향한 여러 갈래의 길이 여전히 펼쳐져 있습니다. 우리 삶을 우리가 책임을 지는 것, 그게 가장 중요합니다. 그것이 결국 우리의 미래를 결정할 테니까요.

• 유발 하라리는 이스라엘의 역사가이자 세계적인 저술가다. 글로벌 베스트셀러 〈사피엔스〉, 〈호모 데우스〉, 〈21세기를 위한 21가지 제언〉 등을 통해 인류의 역사와 미래, 기술 발전이 가져올 변화에 대한 깊이 있는 통찰을 제시해 왔다.

• 장대익은 가천대학교 스타트업칼리지 학장이며 대한민국의 과학철학자 겸 진화생물학자다. 그는 과학, 공학, 인문학의 경계에서 교양의 새로운 기준을 제시해 왔다.