구글에서 서울신문 먼저 보기

최근 미국 국방부 방위고등연구계획국(DARPA)은 자신의 판단을 설명할 수 있는 인공지능을 만드는 연구를 시작했다. 여기에는 인공지능 분야에서 가장 뛰어난 능력을 보여주는 딥러닝 기술이 가진 문제인 ‘왜 그런 결과가 나왔는지를 누구도 알 수 없다’는 배경이 있다. 병원이나 법원에서 인공지능이 한 사람의 병명을 진단하거나 가석방 여부를 결정하게 되었을 때 인공지능이 그 이유를 제시할 수 있어야 사람들이 이를 더 잘 받아들이게 될 것이라는 뜻이다.우선 떠오르는 생각은, 그렇다면 인간은 설명을 잘하는가이다. 이 질문에 대한 답은 간단하다. 설명을 잘하는 사람이 있고, 그렇지 않은 사람이 있다. 어떤 문제에 대해서는 설명을 잘하는 이가 있고, 여러 가지 일에 대해 모두 설명을 잘하는 이도 있을 것이다. 적어도 좋은 설명과 나쁜 설명이 있으며 인간이 이를 판단할 수 있다는 것은 분명하다. 따라서 인간에게 설명을 평가하게 한다면 인공지능이 설명을 잘하게 만드는 것도 가능하리라 생각된다.그러나 이런 배경과는 별개로 보다 근본적인 질문을 생각해 보자. 바로 ‘설명이란 무엇인가’라는 것이다. 이는 설명이 너무나 일반적인 개념이라는 점에서 추상적인 질문일 수밖에 없다. 일상에서 설명은 어디에나 존재한다. 글과 대화의 상당 부분이 설명이며 어쩌면 모든 의사소통은 설명의 성격을 어느 정도는 가진다. 설명의 특징을 파악하기 위해 조금 범위를 좁혀 생각해 보면 설명과 이해 사이의 깊은 연관관계가 발견된다.

설명과 이해는 마치 동전의 앞뒷면과 같다. 이해가 있어야 설명이 가능하며 이해한 만큼만 설명할 수 있다. 그 설명을 통해 다른 사람은 다시 이해에 이른다. 인류의 지식이 축적된 과정을 이런 식으로 표현할 수도 있을 것이다. 흥미로운 사실은 설명을 하는 사람 역시 자신이 설명을 만들어내는 과정에서 더 깊은 이해에 이르기도 한다는 것이다. 가르치는 일을 업으로 삼은 이들이 점점 더 그 문제에 깊은 이해를 가지게 되는 이유일 것이다.

설명에 관해 떠오르는 이야기 중 가장 대표적인 것은 아인슈타인의 “할머니에게 설명할 수 없다면 너는 제대로 이해한 것이 아니다”라는 말이다. 앞서 이야기한 것처럼 이해한 만큼 설명할 수 있다는 점에서 어느 정도 일리 있는 말이라 할 수 있다. 그러나 할머니에게 하는 설명은 할머니가 가지고 있는 지식의 양에 따라 달라져야 한다는 점에서, 그리고 두 지식의 거리가 극단적으로 먼 경우 이 일이 극히 어려운 일이 될 수밖에 없다는 점에서 문제가 있다.

이를 잘 드러낸 이야기가 아인슈타인만큼 유명하지는 않지만 20세기 후반 가장 뛰어난 물리학자 중 한 명으로 꼽히는 파인만의 말이다. 그는 “내가 그 내용을 아무에게나 이해시킬 수 있다면, 어떻게 그걸로 노벨상을 받았겠는가”라고 했다 한다. 아인슈타인의 말만큼 고개를 끄덕거리게 되는 말이다. 단지 아인슈타인은 할머니에게 설명을 요구했을 뿐 이해시키기를 요구하지는 않았다는 점에서 빠져나갈 구멍은 있다.

그리고 한 가지 더. 아인슈타인의 말은 오늘날 나왔다면 다른 측면에서 문제의 소지가 있다. 여기서 할머니가 쓰인 맥락 때문이다. 10여년 전 한 첨단기술을 다루는 잡지에서 아두이노라는 초소형 컴퓨터를 홍보하며 뉴스레터의 제목으로 “심지어 당신의 엄마도 프로그래밍을 할 수 있습니다”라는 말을 쓴 적이 있다. 정확히 4시간 뒤 편집장의 사과문이 메일함에 도착했다. 그 사과문에는 다음과 같은 말이 쓰여 있었다.

“나 역시 한 가정의 어머니로서, 이런 변명의 여지가 없는, 무책임하고 성차별적인 제목은 다시는 쓰여서는 안 된다고 생각합니다. 앞으로 저런 무의미하고 공격적인 제목이 다시는 여러분의 이메일함에 보이지 않도록 오늘부터 우리는 제목을 검수하는 추가적인 단계를 만들 것입니다.” 적어도 그 잡지는 자신들의 입장과 지향하는 바를 잘 설명하는 데 성공했다.