AI2041

리카이푸, 천치우판 지음 / 이현 옮김 / 한빛비즈

 

1. 지은이 

리카이푸 : 중국의 AI 전문가이자 기업인

천치우판 : 중국의 SF 작가

작가소개도 짤막하게 나와 있는데다 '대만 태생', '중국 기업가' 이런 식으로만 나와 있어서 더 헷갈렸다. 중국인들 아닌가? 근데 왜 자세히 소개를 안 하지? 그만큼 작가들이 생소하고, 궁금했다. 하지만 감이 온다. 중국의 기술 발전도 그렇고, 삼체 같은 작품도 그렇고, 중국의 기술발전과 문화 발전을 일부러 드러내지 않은 느낌. 하지만 읽어보면 아는데 뭘.

2. 목차 

서문
인공지능에 관한 진짜 이야기_리카이푸
상상력이 현실의 세상을 만든다_천치우판

1장 황금 코끼리
기술분석 딥러닝의 부정적 외부효과와 해법

2장 가면 뒤의 신
기술분석 악의적 딥페이크에 맞서는 또 다른 기술

3장 쌍둥이 참새
기술분석 자연어 기반 인공지능의 현재와 미래

4장 접촉 없는 사랑
기술분석 보건의료 분야에서의 인공지능

5장 유령이 된 아이돌 스타
기술분석 확장현실의 윤리적·사회적 문제

6장 거룩한 드라이버
기술분석 완전 자율주행차의 시대는 도래할까?

7장 양자 대학살
기술분석 양자컴퓨팅과 자율무기의 위험한 미래

8장 구원자 이야기
기술분석 인공지능에 의한 일자리 퇴출의 해법

9장 행복의 섬
기술분석 인공지능이 던지는 행복에 대한 질문들

10장 풍요를 꿈꾸다
기술분석 새로운 경제 모델과 풍요로움의 미래

감사의 말

10편의 이야기와 뒤에 실린 10가지 기술 설명이다. 일단 이 책은 <인공지능과 살아남을 준비> 김태권 작가의 책에서 인용되어서 찾아보게 됐다. 10편의 인공지능 소재 이야기라고 해서 넷플릭스 '러브, 데스+로봇' 같은 이야기들이라 생각했다. 다 본 건 아니고 몇 편 보면서 재밌는 소재들이 있었다. 물론 10편의 이야기도 재밌는데, 뒤에 나온 기술설명이 더 놀랍다. 쳇Gpt 활용에 대한 책을 찾는다면, 차라리 이 책을 읽는 것이 훨씬 나을 거라고 생각한다. 

3. 책 속에서 

제일 먼저 실린 <황금 코끼리> 는 보험회사가 모든 데이터를 쥐게 되면서 연애사까지 관여하게 되는 이야기다. 처음에는 알람을 보내거나, 건강관리 차원에서 앱을 설치해서 움직이게 하는 정도지만, 점점 많은 데이터를 활용하도록 하면서 연애상대까지 고려한다. 보험료가 많이 지출되는 부류(거주지나 출신에 따라) 만남도 막은 것이다. 핸드폰에 설치된 앱을 통해 특정 상대의 전화를 차단하거나 스팸으로 거르는 일은 충분히 가능한 일이다. 보험회사 알고리즘의 목적은 보험료를 적게 지불하는 것이다. 가난한 사람과 결혼할수록 보험료 지출이 커진다는 데이터를 활용한 것이고. 

<유령이 된 아이돌 스타>는 죽은 아이돌 히로시엑스의 팬이었던 아이코가 게임을 통해 히로시엑스를 다시 만나는 이야기다. AR과 홀로그램 등을 통해 옆에 있는 듯한 아이돌을 만날 수 있다. <거룩한 드라이버>는 자율주행 자동차가 대세가 된 시대, 스리랑카는 카말이라는 아이가 놀라운 F1 레이스 실력으로 인해 기업체에 스카우트 된다. 그런데 카말은 게임을 한다고 생각하지만, 게임 이후 비슷한 상황을 뉴스에서 보게 된다. 이 책은 뒤에 실린 설명을 보고서야 이해를 했다. 자율주행 자동차가 재난, 납치 같은 상황으로 통제력을 잃었을 때 원격제어를 통해 통제력을 회복하는 방법이 연구되고 있다는 내용이다. 카말은 자신의 가족이 종교사원에 기도를 하러 갔다가 납치된 것을 알게 되고, 자신이 직접 그 차량의 원격조정에 나선다. 그리고 승객들을 살리고 운전자가 죽는 선택을 한다. 물론 카말은 원격조정이기에 죽지 않지만, 신체에 정신적인 충격과 데미지를 입는다. 

<양자대학살>은 비트코인 탈취 이야기다. 이 부분 역시 뒤에 실린 설명이 더 재밌다. 양자컴퓨팅과 양자역학을 설명하고 있기 때문이다. 

 

고전적인 컴퓨터는 '비트'를 기반으로 한다. 비트는 스위치와 같아서 (꺼지면) 0 혹은 (켜지면) 1이 된다. (중략)
양자컴퓨팅은 비트 대신 양자비트, 즉 전자나 광자와 같은 아원자 입자인 큐비트를 사용한다. (중략)
그 첫 번째 특성은 중첩superposition 으로 이는 각 큐비트가 언제든 복수의 상태로 존재할 수 있는 능력이다. (중략)
두 번째 특성은 얽힘 entanglement으로, 두 개의 큐비트가 서로 연결되어 멀리 떨어져 있을 때조차 하나의 큐비트에서 수행되는 행동이 다른 하나에 영향을 주는 것을 말한다. (중략)
양자컴퓨팅의 능력을 2배로 늘리려면 하나의 큐비트만 더하면 된다.
이렇게 놀라운 특성에는 대가가 따른다. 양자컴퓨팅은 컴퓨터와 그 주변 환경의 작은 이상에도 매우 민감하게 반응한다. 작은 진동, 전기적 간섭, 온도 변화 혹은 자기장에도 중첩이 붕괴하거나 심지어 사라질 수 있다. 실용적이면서 확장 가능한 양자컴퓨팅을 위해서는 이전에 없던 진공실, 초전도체, 초냉각 냉장고를 개발해 환경에 의해 발생하는 양자 의 결어긋남decoherence을 최소화해야 한다.
이러한 도전적 문제들로 인해 과학자들이 양자컴퓨팅에서 큐비트의 수를 늘리는 데 오랜 시간이 걸렸다. 1998년에 2개이던 것이 2020년에 65개로 늘었는데 이는 실용적인 작업을 수행하기에는 아직 너무 적은 수다. 그렇긴 해도 수십 개의 큐비트만으로 일부 컴퓨팅 작업은 기존 의 슈퍼컴퓨터보다 100만 배 더 빠르게 처리할 수 있다. 구글은 2019년 에 기존의 슈퍼컴퓨터라면 수년이 걸렸을 문제를 54큐비트의 양자컴퓨 터가 수십 분 만에 풀 수 있음을 보여주며 처음으로 양자 우월성을 증명했다.
IBM의 로드맵에 따르면, 향후 3년간 해마다 큐비트의 수가 2배 이상 늘어나 2023년에 1,000 큐비트 프로세서가 등장할 것으로 기대된다.
4,000개의 논리적 큐비트는 비트코인 암호를 깨는 것을 포함해 일부 분야에 적용되기에 충분하다. 이를 근거로 일부 낙관론자들은 양자컴퓨터가 5년에서 10년 후에 도래할 것으로 예측하기도 한다.

 

현재 사용하는 모든 비밀번호를 깰 수 있고, 암호화키도 뚫릴 수 있다! 작가는 "당장 책을 내려 놓고 지갑을 안전하게 바꾸라"고 써놨다. 이 챕터에 나오는 자율무기도 매우 공포스러운데, 새떼 같은 드론이 날아와 주요인사들을 찾아 제거한다. 

<구원자이야기>와 <풍요를 꿈꾸다>는 인공지능으로 일자리를 잃은 사람들에게 일자리재배치를 하는 사회를 그리고 있다. <구원자이야기>는 어떤 직업이 살아남을 수 있을 것인가를 이야기한다면, <풍요를 꿈꾸다>는 로봇으로 대체되어 사회의 제반 비용이 낮아지고 인류가 풍요롭게 되었을 때, 인간의 행복은 어떻게 가능한가에 대한 이야기다. <구원자이야기>에서 창의력, 공감, 수작업과 관련된 직업은 인공지능이 통달하기 어려울 것이라고 전망하고 있다. 비사회적 업무보다 사회적 업무일수록, 반복적인 업무보다 창의적인 업무일수록, 기계적 업무보다 수작업이 필요한 업무일수록 인공지능이 숙달하기 어려운 직업으로 봤다. 

 

• 창의력: 인공지능은 무언가를 전략적으로 만들어내거나 개념화할 수 없으며 계획을 세우지도 못한다. 인공지능은 협소한 목표를 위한 최적화는 잘하지만 스스로 목표를 정하거나 창의적으로 생각할 수 없다. 인공지능은 서로 다른 영역들을 넘나들며 생각하거나 상식을 적용할 수도 없다.
• 공감: 인공지능은 공감이나 연민과 같은 감정을 느낄 수도 그런 감정을 바탕으로 상호작용할 수도 없다. 인공지능은 다른 사람이 이해받고 있다거나 보살핌을 받는다고 느끼게 할 수 없다. 이와 관련해 인공지능이 아무리 개선된다고 해도 배려와 공감이 요구되는 상황에서 혹은 '휴먼터치' 서비스 분야에서 인간과 로봇이 상호작용하며 편안하게 느낄 수 있는 수준에 도달하기란 매우 어렵다.
• 수작업: 인공지능과 로봇은 인간의 손재주나 정교한 손과 눈의 협업이 요구 되는 복잡한 신체적 노동을 할 수 없다. 인공지능은 알지 못하는 비구조화된 공간, 특히 이전에 관찰한 적이 없는 공간에 대처할 수 없다

 

우리는 인공지능과 더불어 또 다른 중요한 기술 혁명의 정점에 있다. 바로 재생에너지 혁명이다. 태양광 발전, 풍력, 리이온 배터리 저장 기술 이 합쳐지면 전부는 아니더라도 대부분의 에너지 인프라를 재생에너지로 대체할 수 있게 된다.

2041년까지 대부분의 선진국과 일부 개도국에서 태양광과 풍력이 주된 에너지원이 될 것이다. 2010년에서 2020년 사이 태양광과 풍력을 통 해 얻는 재생에너지 비용은 각각 82%와 46% 하락했다. 태양과 해풍은 전기를 발생시키는 가장 저렴한 원천이다. 또 리튬이온 배터리 저장 비용은 2010년에서 2020년 사이 87%나 떨어졌다. 이 비용은 전기차용 배터리의 대량 생산에 힘입어 앞으로 더 하락할 것이다. 

미국의 싱크탱크인 rethink x의 추정에 따르면 2030년까지 2조 달러의 투자가 집행되어 미국의 에너지 가격은 kWh당 3센트로 떨어져 현재의 4분의 1에도 못 미칠 것이다.

미래에 (현대 경제학의 공통 가정인) '희소성'이라는 가정이 타당성을 잃으면 세 가지 경제 모델도 타당성을 잃게 될 것이다. 희소성이 사라진다면 판매, 구매, 교환과 같은 모든 메커니즘은 더 이상 필요하지 않을 것이다. 거의 틀림없이 돈도 더 이상 필요하지 않을 것이다. 그렇게 된다면 어떤 경제 모델이 가능 할까?

SF소설은 종종 미래에 대한 선견지명을 보여준다. 풍요와 관련해 〈스타트렉〉은 환상적인 미래의 모습을 제시한다. 마누 사디아Manu Saadia는 자신의 저서 《트렉코노믹스 Trekconomics》에서 '스타트렉'의 경제 모델을 설명한다. 이는 〈스타트렉>에 등장하는 장 피카드 선장이 말했던 "사람들은 더 이상 뭔가를 축적하는 데 집착하지 않는다. 우리는 배고픔, 욕구, 소유물의 필요를 없앴다"라는 유명한 선언문으로 잘 요약된다. 

<풍요를 꿈꾸다〉에서 돈의 진화에 관한 구체적인 생각은 추측에 불과 하지만, 나는 풍요의 시대가 오면 젊은 퇴직자가 편안하게 여생을 살 수 있고, 열심히 일하는 노동자는 새로운 기술을 익힐 수 있고, 취미 활동만 하는 사람은 자신의 열정을 추구할 수 있으며, 연민이 많은 요양보호사는 사랑을 더 많이 퍼져나가게 하고, 성취 지향적인 사람은 존경을 얻고, 몽상가는 세상을 바꾸는 게 동시에 가능한 포용적인 신세계를 설계해야 할 필요가 있다고 당신도 동의하게 되었길 바란다.

 

4. 소감

직업을 재배치하고, 인류는 더 없이 풍요로워져서 누구나 편한하게 삶을 보낼 수 있는 사회가 과연 가능할까? 

끝까지 읽고 나니 이 많은 문제제기가 이렇게 된다고? 싶긴 하다. 산업화 이후 드러난 인간의 탐심을 너무 얕보고 있는 것은 아닌가, 과연 기업가들이 이윤을 내지 않고, 사회적으로 저비용으로 살아갈 수 있도록 할 것인가?

<풍요를 꿈꾸다>에 사회적으로 모든 경제적인 수요가 만족되었기에 사람들은 행복을 위해 보살핌, 우정, 온정, 신뢰, 교감 등을 쌓는 것을 중요하게 여긴다. 이런 활동을 하면  '물라'라는 화폐가 지급된다.

사실 물라라는 화폐는, 현재는 자본주의 사회가 돌아갈 수 있도록 뒷받침하는 무보수 노동이다. 노동자가 집으로 돌아가서 먹고, 쉬고, 재충전을 하는 모든 행위는 가사노동의 영역이며, 현재 사회적으로 가치는 인정되나, 보수로 환산되지 않는다. 이것이 미래 사회에서 인공지능의 발달로 화폐화 될 수 있을까? 과연 그런 사회가 가능할까? 

 

아직도 가장 소중한 데이터를 제삼자에게 맡기는 것이 터무니없는 생각이라고 여긴다면, 우리 대부분이 은행 금고와 같이 확실한 제삼자에게 가장 소중한 물리적 소지품을 맡겨 보관하는 관행에 대해 생각해보라. 게다가 주식은 증권회사에 맡기고, 비트코인은 인터넷에 맡긴다. 데이터에 대해서만 그렇게 할 수 없는 이유는 무엇인가? 모든 데이터를 우리와 같은 이해관계를 가진 신뢰할 만한 주체에게 맡길 수 있다면 우리는 가장 강력한 인공지능의 도움을 받아 지속 가능한 행복을 찾을 수 있으며, 더 이상 수많은 애플리케이션의 데이터 사용에 동의할지 말지를 생각할 필요도, 데이터 도난이나 오용에 대해 걱정할 필요도 없을 것이다. 이 신뢰할 만한 주체가 자애로운 군주이든 오픈소스 코뮌이든 아니면 분산형 블록체인 시스템이든, 신기술의 발전이 계속해서 우리의 데이터를 더 안전하게 지켜줄 것이라 기대하면서 동시에 이 강력한 인공 지능이 주는 전례 없는 혜택을 누릴 수 있을 것이다.

 

난 이 생각에 반대다. 안전한 제3자는 없다. 특히 데이터에 대해서는. 데이터는 국가가 아닌 기업에 의해 생산되고 소비되며, 빅데이터를 소유한 플랫폼과 개발자에게 절대적으로 유리하기 때문이다. 수많은 문제제기를 하고서 낙관적인 희망을 제시하는 작가의 저의가 오히려 의심스럽기까지 한 대목이었다. 

그럼에도 불구하고 이 책은 끝까지 읽을 만한 가치가 충분했고, 2041년을 좀더 구체적으로 생각하게 해보는 기회가 된다. 읽어보시랍.