[김승혜 기자]“슈퍼지능이 인간의 능력에 추가되는 단순한 하나의 기술이나 도구가 아님을 아는 것이다. 슈퍼지능은 근본적으로 다르다.”

영국 옥스퍼드대 윤리학자 닉 보스트롬이 슈퍼지능, 즉 진화한 인공지능(AI)에 대한 의미있는 토론을 위해 필요하다고 한 전제조건이다. 인류의 발전을 가능하게 했던 수많은 기술과는 다른 인공지능의 성격을 간파한 것이며 폭발적 가능성을 염두에 둔 인식이다. AI는 인류의 미래를 바꿔놓을 결정적인 계기임은 분명하다.

문제는 그 미래란 어떤 것이며, 우리는 어떻게 준비해야 하는가다. 어쨌건 인공지능이 조만간 우리의 삶을 빠르게 대체해 나갈 것임은 자명한 사실이다.

이 책은 인공지능의 위험성에 대해 다루고 있다. 인공지능이 가져올 미래가 결코 장밋빛이 아니라는 이야기다. 저자는 2045년이 되면 ASI(Artificial Super Intelligence, 초인공지능)가 실현될 것이며, 이 ASI가 인류를 멸망으로 이끌 것이라 경고한다.

그는 내셔널지오그래픽, 디스커버리, PBS 등 미국과 유럽의 여러 채널에서 다큐멘터리 필름 제작자로 일했다. 2000년부터 레이 커즈와일, 로드니 브룩스, SF작가 아서 클라크 등을 만났으며, 10년간의 인터뷰와 탐사를 통해 이 책을 펴냈다.

한 쪽에서는 AI의 잠재력에 큰 두려움을 느낀다. 다른 한 쪽은 AI가 바꿔놓을 새로운 세상을 능동적으로 준비해야 한다고 주장한다. ‘파이널 인벤션’은 전자의 입장에 선다. ‘종말적 결과’, ‘인류의 멸종’까지를 경고한다. 후자의 시각에 선 ‘증강현실’은 AI가 가져올 ‘파괴적 혁신’에 들떠 있다. 전혀 다른 시각의 두 책이 나란히 출간됐다.

‘파이널 인벤션’의 저자는 “세상의 제어권이 우리가 도달할 수 없는 예측불가능하고 강력한 지능에 도달한 기계에게 넘어갈 수 있음”을 이야기한다. 핵심은 ‘예측불가능한 강력한 지능’이다. 그것은 지금 우리가 목격하고 있는 딥러닝을 바탕으로 하는 ANI(Artificial Narrow Intelligenc·약인공지능)와는 질적으로 다른 AGI(〃 General 〃·강인공지능), 그 너머의 ASI(〃 Super 〃·초인공지능)다. 전문가의 절반 이상이 2050년 정도면 AGI가 가능하다고 예상하고 있고, 저자는 AGI와 ASI 사이의 시간적인 거리는 길지 않다고 내다본다.

그런데 인간보다 1000배는 지능이 뛰어날 것으로 예상되는 ASI는 인간의 통제를 허용할까. “스스로 어떻게 발전하는지를 알고 있는” ASI가 통제에서 벗어나려는 시도를 할 수 있다고 저자는 예측한다. 물론 창조자인 인간은 통제권을 내놓지 않을 각종 장치를 강구하겠지만 “ASI는 창조자들이 자신에게 자유를 주도록 확신시킬 것”이라고 분석한다. 인류보다 뛰어난 지능을 가진 존재와 지구를 공유해야 하는 한번도 경험해보지 못한 이런 상황은 어떤 결과를 낳을까. 전문가들은 ASI가 2분 정도만 제대로 관리되지 않아도 인류멸망을 맞을 수 있다고 경고한다.

지나치게 극단적으로 보일 수도 있다. 책의 번역자조차 동의하는 바다. 하지만 AI의 파괴력이 그만큼 크다. 예상할 수 있는 시나리오를 만들어 토론하고 대비해야 한다. 그런데 이런 과정이 없다. 예능이나 엔터테인먼트 요소들이 흔히 제시했던 디스토피아적 전망이기 때문에 파멸적인 위협에 이미 면역이 생겨버린 것일 수 있고, 아직 AI로 인한 비극을 경험한 적이 없어서일 수도 있다. 저자의 주장은 분명 불편하지만, 외면해서는 안 되는 지점을 응시하고 있다.

‘증강현실’은 인간의 삶과 사회에 접목될 미래 기술의 핵심으로 ‘증강화’를 꼽는다. 그것은 인간이 육체적, 지능적 능력을 확장하고 강화해 더 나은 삶을 추구하도록 돕는 기술혁신이다. 증강화는 인류 역사를 통틀어 가장 빠른 속도와 삶을 송두리째 뒤흔드는 깊이를 가진 문명사적 전환를 준비하고 있다. 격렬한 변화는 큰 불안을 내포한다. 하지만 산업혁명기의 방직 기술은 많은 실직자를 양산했지만 그보다 많은 일자리를 창출했고, 오늘날 개인 정보 유출의 위험성을 지적하는 사람들도 빅데이터를 활용한 각종 서비스를 누리고 있지 않냐고 저자는 되묻는다.

AI는 파괴적 혁신을 선도할 기술이다. ‘로보어드바이저’의 등장은 자문이라는 개념 자체를 붕괴시킬 것이다. 운전, 헬스케어 등의 기본적인 활동은 인공지능이 인간을 능가할 것이다. 인공지능 대리인 혹은 아바타는 개인마다의 취향까지 고려해 항공권을 예매하고, 미용실 예약을 잡아주는 정도로 발전한다.

초인공지능의 세계정복? 적어도 30년간은 AI가 특정 목적 또는 특화된 형태로만 제작되어 인간과 동등한 수준까지는 올라서지 못할 것이라고 저자는 전망한다. 그러니 앞으로 펼쳐질 스마트한 세상을 스마트하게 준비하라고 권한다. 책은 AI뿐만 아니라 경험 디자인, 스마트 인프라, 헬스테크 등 증강화가 가져올 다양한 양상을 점검하고 예측한다.

파이널 인벤션｜제임스 배럿 지음｜정지훈 옮김｜동아시아｜446쪽｜1만8000원