‘초지능 AI’ 그 위험천만한 시한폭탄

입력 : ㅣ 수정 : 2017-04-07 17:45

폰트 확대 폰트 축소 프린트하기
슈퍼인텔리전스/닉 보스트롬 지음/조성진 옮김/까치/548쪽/2만 5000원

지난해 7월 미국 뉴욕에서 열린 AGI(강인공지능)·ASI(초인공지능) 국제학회. AGI 개발을 지지하는 한 과학자가 AGI 개발 중단을 촉구하는 발제에 “어떻게 일어나지도 않을 그런 바보 같은 주제를 연구할 수 있느냐”고 반박한다. 그 과학자는 “인간들이 좀더 똑똑해지면 돌아오겠다”며 학회장을 박차고 나가버렸다. 미래학자 정지훈 경희사이버대 교수의 현장 목격담이다.
상당수 미래학자들과 인공지능(AI) 연구자들은 이르면 20~30년, 늦어도 금세기 내 인간과 유사하거나 능가하는 ‘초지능 AI’(슈퍼 인텔리전스)가 등장할 것으로 전망한다. AI는 인류의 신세계가 될까, 재앙이 될까. 영국 옥스퍼드대 인류미래연구소장 닉 보스트롬은 “초지능 AI의 통제 이슈는 인류가 직면한 가장 중대한 문제가 될 것이며, 인류에게 재앙을 막을 기회는 단 한 번뿐”이라고 경고한다. 사이언스옥스퍼드 캡처
클릭하시면 원본 보기가 가능합니다.

▲ 상당수 미래학자들과 인공지능(AI) 연구자들은 이르면 20~30년, 늦어도 금세기 내 인간과 유사하거나 능가하는 ‘초지능 AI’(슈퍼 인텔리전스)가 등장할 것으로 전망한다. AI는 인류의 신세계가 될까, 재앙이 될까. 영국 옥스퍼드대 인류미래연구소장 닉 보스트롬은 “초지능 AI의 통제 이슈는 인류가 직면한 가장 중대한 문제가 될 것이며, 인류에게 재앙을 막을 기회는 단 한 번뿐”이라고 경고한다.
사이언스옥스퍼드 캡처

인공지능(AI)이 구현할 인류의 미래 전망은 첨예하게 엇갈린다. 손정의 소프트뱅크 회장 같은 이는 지난 2월 스페인 바르셀로나의 ‘모바일 월드 콩그레스(MWC) 2017’ 기조연설을 통해 “30년 내 인간의 뇌를 능가하는 슈퍼 인텔리전스(초인공지능)가 등장하고 인류 문명을 위협하는 감염병, 핵전쟁 등의 위험을 막는 해결책이 될 것”이라고 역설했다.

그 반대 지점에는 인류 존재에 대한 디스토피아적 관점이 있다. 대표적 인물이 영국 옥스퍼드대 인류미래연구소장인 닉 보스트롬이다. 그가 2014년 출간한 ‘슈퍼인텔리전스-경로,위험,전략’은 AI에 대한 세계적 논의의 기폭제가 된 책으로 꼽힌다. 빌 게이츠가 AI의 미래를 전망하기 위해 반드시 읽어야 할 책으로 꼽아 화제가 됐다.
클릭하시면 원본 보기가 가능합니다.
저자는 AI 중에서도 ASI 출현 이후의 미래상에 초점을 맞춘다. 당대 인류가 놀라워하는 AI는 ‘ANI’(Artificial Narrow Intelligence·약인공지능)이다. 이 수준만으로도 이미 체스, 오셀로, 바둑 등 인류 고유의 두뇌 게임에서 인간을 뛰어넘었다. 과학계가 개발에 집중하는 AI는 그보다 월등한 ‘기계 두뇌’ AGI와 ASI다.

책의 관점은 인류 손으로 만든 ‘초지능’적 존재를 통제할 기회는 단 한 번뿐이며, 그 기회를 잡기 위해 인류가 할 수 있는 일들이 무엇이냐는 데 있다.

저자는 기존 학계 용어인 ‘싱귤래리티’(기술적 특이점) 개념이 아닌 ‘지능 대확산’이라는 개념으로 기계지능 혁명에 접근한다. 인류 전 개체의 지능지수 분포도에서 ‘동네 바보’와 ‘아인슈타인’의 지능 차이는 대단하지 않은 것처럼 여겨진다. AI 역시 그렇다. 쥐에서 침팬지 수준으로 나아가더라도 여전히 멍청하다고 여기지만, 동네 바보와 아인슈타인 사이의 아주 좁은 간격을 넘는 순간 급작스럽게 도약하게 될 것이라는 설명(인공지능 이론가 엘리저 유드코프스)이다.

저자에 따르면 초지능의 개발 경로는 인간 뇌를 모형화하는 ‘전뇌 에뮬레이션’, 인위적으로 인간 지능 자체를 높이는 ‘반복적인 배아 선별 기술’, 인간과 기계의 결합인 ‘사이보그화’ 등 세 갈래다. 이들 방식 모두 인간을 매개로 한다는 점에서 초지능의 창조주는 단연코 인류다.

초지능의 출현은 그 속도 면에서 빠른 도약이든 중간 속도의 도약이든 차이는 있을지언정 도약 자체는 의심하기 어려워 보인다.

이 대목에서 고민할 지점은 초지능이 인간 집단의 지지를 얻어 스스로 지능을 강화하든, 역으로 해킹을 통해 인류가 가두어 둔 ‘모래상자’를 탈출하든, 인류에 대해 협조적이고 윤리적이겠냐는 측면이다.

책에 예측된 복잡한 시나리오를 보면 분명한 건 ‘잠재적 위험’의 존재다. 초지능이 지구 모든 생명체의 미래를 좌지우지할 가능성, 즉 ‘존재적 재앙’을 일으키지 않을 것이라고 믿을 상당한 근거는 없다고 저자는 지적한다.

단순한 예를 들면 이것이다. 인간은 초지능의 최종 목표로 “인류가 행복해지도록 하라”라고 프로그래밍한다. 초지능은 “인간 뇌의 쾌락 중추에 전극을 이식해 자극한다”로 과제를 수행한다. 이는 인간이 초지능에 기대하는 최종 목표가 알고리즘상에서는 다른 방식으로 얼마든 왜곡될 수 있다는 점을 가리킨다.

이 밖에 하나의 초지능만 개발되는 게 아니라 여러 초지능이 동시 다발적으로 개발될 가능성, 다수의 서로 목표가 상충하는 초지능 간에 일어날 수 있는 결말도 다룬다.

저자의 우려는 극단적으로 여겨지거나 편향적이라는 공격을 받을 수 있다. 하지만 인공지능에 대해 낙관하며 인류의 미래를 기계에 의존하기에는 불안한 게 사실이다.

닉 보스트롬은 “초지능은 현재 준비되지 않은, 한동안 힘겨운 목표이긴 하지만 인간은 폭탄을 가지고 노는 작은 어린아이들 같은 존재이며, 언제 폭발이 일어날지조차 거의 예측이 불가능하다”고 말한다. 문제는 “폭탄을 손에 쥔 아이는 한 명이 아니라 다수이며, 몇몇 바보 같은 녀석들이 무슨 일이 벌어질지 보려고 점화 버튼을 누를 수 있다”(456~457쪽)는 것이다.

“이 책을 쓰는 것 자체가 상당히 어려웠다”는 저자의 말마따나 현재의 첨단 기술과 각종 가설, 철학적 사유와 도덕률이 얽혀 읽기는 쉽지 않다. 하지만 저자의 사유와 통찰, 그리고 기술적 관점의 신중함은 경이롭고 탁월하다.

안동환 기자 ipsofacto@seoul.co.kr
2017-04-08 18면
페이스북 트위터 카카오스토리 밴드 블로그

서울Eye - 포토더보기