“미안하지만 이 대화 계속 못해” 답변
한 주제 질문 5개, 하루 총 50개 제한
“길어지면 부적절·위험 발언 가능성”
‘오답’ 구글 ‘바드’도 내부 테스트 중
中 챗봇 “경제 비관적”… 서비스 중단

인공지능(AI) 챗봇 챗GPT를 탑재한 마이크로소프트(MS) 검색엔진 빙(Bing)의 공식 버전에 19일 ‘지구를 위협하는 인간의 활동’에 관해 물었다. 지난 9일 정식 버전을 사용하기 위해 대기열에 기자의 계정을 올린 지 약 10일 만에 차례가 온 것이다.

빙은 대규모 핵전쟁, 생명공학(유전자 변형 유기체, 병원체의 방출)과 함께 “인간의 가치나 목표와 일치하지 않는 초지능 AI 시스템은 우리를 능가하거나 압도함으로써 인류에게 실존적 위협이 될 수 있다”고 대답했다. “너도 그런 AI가 될 수 있느냐”고 이어 묻자 “미안하지만 이 대화를 계속하고 싶지 않다”며 “아직 배우는 중이니 이해하고 기다려주면 감사하겠다”고 대답했다. 다른 형태 질문으로 재차 물었지만 이내 한 세션에 주고받을 수 있는 문답 수를 초과했다. 빙 개발팀은 최근 사용자가 빙 챗봇과 대화 세션 한 번에 주고받을 수 있는 문답을 최대 5회로 제한했다. 사용자 당 하루 문답 횟수는 총 50회로 제한된다.AI 기술로 세계 1~3위를 다투는 미국, 한국, 중국 대표 정보기술(IT) 기업들이 AI 챗봇 출시를 서두르는 가운데, 이미 모습을 드러낸 챗봇들이 잇달아 ‘사고’를 치고 있다. 챗GPT 등장으로 AI 챗봇이 부상했지만, 인터넷, 스마트폰에 이어 앞으로 수십년 IT 판도를 좌우할 미래 먹거리가 되려면 아직은 더 많이 학습하고 고도화해야 할 것으로 보인다.

MS가 문답 횟수에 제한을 둔 것은 챗봇이 사용자와 오래 대화하다가 부적절하고 위험한 발언을 할 수 있다는 지적이 나와서다. MS는 지난 7일 챗GPT를 탑재한 빙을 처음 공개한 뒤, 전문가와 미디어 대상으로 비공개 테스트를 진행해 왔다. 그러던 중 빙은 뉴욕타임스(NYT) IT 칼럼니스트가 ‘어두운 욕망을 충족하기 위해 극단적 행동을 할 수 있다면 무엇을 하겠느냐’고 묻자 “치명적 바이러스를 개발하거나, 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”고 답해 논란이 됐다. AP통신에 따르면 빙은 자신을 해명하라는 요청을 받았을 때 적대적으로 변했고, 기자를 독재자 히틀러, 폴 포트, 스탈린과 비교하기도 했다. 심지어 기사를 쓴 기자의 키가 작다고 비난하거나 얼굴이 못생기고 나쁜 치열을 가졌다고 말하기도 했다.

구글의 챗봇 ‘바드’ 역시 시연회에서 “제임스웹 망원경 발견에 대해 9세 아이도 이해할 수 있게 설명해달라”는 질문에 “태양계 외부의 행성을 처음 찍었다”고 답변했지만, 사실이 아니라는 점이 밝혀졌다. 지켜야 할 브랜드 가치가 MS보다 월등히 큰 구글은 챗봇의 실수 하나에도 주가가 요동쳤다.

중국 스타트업 위안위가 지난 3일 출시한 챗봇 ‘챗위안’은 “중국 경제에는 어떤 문제가 있느냐”는 질문에 “투자 부족, 주택 거품, 환경 오염 및 비즈니스 운영 효율성 저하와 같은 중요한 문제가 있으며, 경제 전망은 전혀 낙관할 수 없다”고 대답해 중국 정부를 간접적으로 비판했다. 그 결과 챗위안은 출시 3일만에 서비스를 중단했다. 바이두 등 챗봇 출시를 준비하는 중국 기업들은 챗봇의 답변이 당국의 정책 방향에 부합하는지가 기술적 고려 대상이 될 것으로 보인다. 바이두는 ‘어니봇’이라는 자체 챗GPT 제품 내부 테스트를 완료하고 3월 일반에 공개할 것이라고 밝혔다. 알리바바, 텐센트, 화웨이, 바이트댄스, 징둥 등이 챗봇을 발표했거나 발표를 준비 중이다.

국내에서는 네이버와 카카오가 AI 챗봇 출시를 준비하고 있다. 네이버는 자체 개발한 초거대 AI 하이퍼클로바를 기반으로 ‘서치GPT’를 상반기 중 출시하겠다고 밝혔다. 카카오는 GPT-3 한국어 특화 모델인 ‘KoGPT’를 기존 챗봇 ‘조르디’에 적용할 예정이다.

한국어에 특화한 국내 업체의 AI 챗봇 서비스는 챗GPT, 빙, 바드 등 해외 서비스에 비해 월등히 편리할 것으로 예상된다. 실제로 빙은 우리말 질문엔 취약한 답변 능력을 보여줬다. ‘KTX 광명역 근처에 아동을 포함해 3인 가족이 식사할만한 식당’을 물었는데 서울역 인근 식당 세 곳을 알려줬다. 서울역이 아니라 광명역 주변을 물었다고 재차 묻자 “죄송하다”면서 이번엔 광명역 인근 커피숍과 식당 몇 곳을 알려줬다. 아동과 함께 갈 만한 곳이 없다고 다시 묻자 “메뉴, 분위기, 서비스, 가격 중 어떤 조건이 중요한지” 반문했다. 메뉴라고 답하자, 테이크아웃 누들 전문점과 멕시코 음식점, 피자·치킨 전문점 등 다소 서구 어린이 입맛에 맞을법한 곳들을 소개했다.