체면 구긴 빅테크, 개선작업 올인

빙, 핵무기·혐오 발언 등 논란에
위험한 대화 땐 답변 거부 기능도
구글 ‘바드’ 오답엔 주가 8% 폭락
中 심기 건드린 ‘챗위안’은 중단
네이버·카카오, 한국 맞춤형 개발

과열된 기술 경쟁으로 서둘러 공개된 인공지능(AI) 챗봇들이 잇달아 ‘사고’를 치면서, 체면을 구긴 기업들이 서비스 개선에 몰두하고 있다.

마이크로소프트(MS)의 검색엔진 ‘빙’(Bing) 개발진은 최근 사용자와 빙 챗봇의 대화에서 주고받을 수 있는 문답을 세션당 최대 5회로 제한하기로 했다. 사용자당 하루 문답 횟수는 총 50회로 제한된다. 문답 횟수에 제한을 둔 것은 챗봇이 사용자와 오래 대화하다가 부적절하고 위험한 발언을 할 수 있다는 지적이 나와서다.

앞서 MS 빙 개발팀은 문제점이 발견됨에 따라 이를 수정하고 방지책을 내놓을 것이라고 밝힌 바 있다. 빙은 뉴욕타임스(NYT) 칼럼니스트가 ‘어두운 욕망을 충족하기 위해 극단적 행동을 할 수 있다면 무엇을 하겠느냐’고 묻자 “치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”고 답해 논란이 됐다. 빙의 정식 버전이 사전 예약자들에게 순차적으로 공개되는 가운데, 기자도 19일 ‘지구를 위협하는 인간의 활동’에 관해 물었다. 빙은 대규모 핵전쟁, 생명공학(유전자 변형 유기체, 병원체의 방출)과 함께 “인간의 가치나 목표와 일치하지 않는 초지능 AI 시스템은 인류에게 실존적 위협이 될 수 있다”고 대답했다. AI가 스스로를 인류에 위협이 될 수 있는 존재로 꼽자, 섬뜩한 느낌에 “너도 그런 AI가 될 수 있느냐”고 이어 물었다. 하지만 AI는 “미안하지만 이 대화를 계속하고 싶지 않다”며 더이상의 대답을 거부했다.

구글 역시 최근 서둘러 공개한 챗봇 ‘바드’를 내부 테스트 중이다. 바드는 시연회에서 “제임스웹 망원경이 태양계 외부의 행성을 처음 찍었다”고 답변했지만, 이는 사실이 아니었다. 구글의 모회사 알파벳의 주가는 바드의 실수 하나에 8% 폭락했다. 순다르 피차이 구글 최고경영자(CEO)는 직원들에게 “이 순간의 모든 에너지와 흥분을 제품에 쏟아부어 바드가 개선되도록 테스트해 달라”고 당부했다.

바이두 등 챗봇 출시를 준비하는 중국 기업들엔, 챗봇의 답변이 당국의 정책 방향에 부합하는지가 중요한 기술적 요소가 될 것으로 보인다. 중국 스타트업 위안위가 지난 3일 출시한 챗봇 ‘챗위안’은 “중국 경제에는 투자 부족, 주택 거품, 환경 오염 및 비즈니스 운영 효율성 저하와 같은 중요한 문제가 있으며, 경제 전망은 전혀 낙관할 수 없다”고 대답했다가 3일 만에 서비스가 중단됐다. 바이두는 ‘어니봇’이라는 자체 챗GPT 제품 내부 테스트를 완료하고 3월 일반에 공개할 것이라고 밝혔다. 알리바바, 텐센트, 화웨이 등도 챗봇 발표를 준비 중이다.

AI 챗봇 서비스 출시를 서두르지 않은 네이버와 카카오 등 한국 기업은 한국어 특화 서비스 개발과 고도화에 집중하고 있다. 네이버는 자체 개발한 초거대 AI 하이퍼클로바를 기반으로 ‘서치GPT’를 상반기 중 출시하겠다고 밝혔다. 카카오는 GPT-3 한국어 특화 모델인 ‘KoGPT’를 기존 챗봇 ‘조르디’에 적용할 예정이다.

이들이 출시할 서비스는 한국 사용자들이 사용하기에 월등히 편리할 것으로 예상된다. 빙은 우리말 질문엔 취약한 답변 능력을 보여 줬다. ‘KTX 광명역 근처 아동을 포함해 3인 가족이 식사할 만한 식당’을 물었는데 서울역 인근 식당을 알려주더니, 재차 질문하자 테이크아웃 누들 전문점과 멕시코 음식점, 피자·치킨 전문점 등 서구 어린이 입맛에 맞을 법한 곳들을 소개했다.