배경훈 부총리 겸 과학기술정보통신부 장관이 6일 인공지능(AI) 3대 강국으로서 입지를 다지고 올해 안에 국민 누구나 비용과 이용량 제한 없이 AI를 활용할 수 있는 ‘모두의 AI’를 선보이겠다고 밝혔다. 배 부총리는 6일 국회 과학기술정보방송통신위원회 국정감사에서 인사말을 통해 “대한민국의 혁신 동력인 AI와 과학기술 분야에서 글로벌 선도국가로 도약할 수 있도록 3가지 큰 방향의 역량을 집중하겠다”고 말했다. 우선 AI 산업 경쟁력 강화를 위해 AI데이터센터와 피지컬AI, 반도체를 3대 핵심 프로젝트로 선정하고 민관 협력을 강화한다. AI데이터센터는 관련 특별법을 바탕으로 인허가 등 규제를 개선하고 피지컬AI는 실제 동작과 물리법칙을 반영한 데이터를 확보해 범용 모델 개발부터 현장 적용까지 추진할 방침이다. 과학기술 분야에서는 AI·반도체와 함께 향후 10~20년을 이끌 차세대 성장동력 확보에도 나선다. 소형모듈원자로(SMR), 핵융합, 양자, 우주·항공, 첨단바이오 등 7개 분야를 ‘시드(SEED)’로 묶어 집중 육성할 방침이다. 연구개발(R＆D) 체계도 연구자들이 연구 자체에 집중할 수 있도록 개선한다. 실패와 시행착오를 허용하는 연구환경을 조성하고 현장의 불필요한 행정절차와 부담을 줄이겠다는 계획이다. AI와 과학기술 분야 인재 확보에도 투자를 확대한다. 과학기술원 부설 영재학교를 확대하고 석·박사 국가장학금과 신진연구자 기초연구 지원을 강화한다. 연내 500개 이상의 딥테크 창업팀을 발굴해 청년 연구자의 기술 창업도 지원한다. 모든 국민이 AI 혜택을 누릴 수 있는 ‘AI 기본사회’ 구현에도 나선다. 배 부총리는 “올 연말에 모든 국민이 비용 부담과 이용량 제한 없이 사용할 수 있도록 ‘모두의 AI’ 서비스가 출시된다”고 밝혔다. 국민에게 필요한 공공서비스를 먼저 찾아 안내하고 신청까지 지원하는 AI 에이전트도 구현할 계획이다. 건강·교육·금융·세무 등 분야별 맞춤형 AI 서비스도 제공한다. AI 활용 격차가 경제·사회적 격차로 이어지지 않도록 전 국민을 대상으로 한 AI 교육도 확대한다. 국민이 AI를 단순히 사용하는 데 그치지 않고 일상과 업무에 활용할 수 있도록 기반을 마련한다는 취지다.

글로벌 빅테크들이 인공지능(AI) 서비스에 마스코트 캐릭터를 접목하며 이른바 ‘귀여움 경쟁’에 나섰다. 전방에서 AI 모델의 치열한 성능 경쟁을 벌이는 한편, 친근한 캐릭터를 통해 자사 AI에 대한 심리적 장벽을 낮추려는 전략으로 보인다. 5일 업계에 따르면 오픈AI는 지난달 29일(현지시간) GPT6 아스트라를 기반으로 작동하는 상시 작동형 AI 에이전트 ‘닷츠’를 공개했다. 닷츠는 개인형 AI 에이전트로, 사용자의 지시에 따라 챗GPT와 문자 메시지·통화·슬랙 등 여러 메신저를 오가며 스스로 업무를 수행한다. 오픈AI는 닷츠를 캐릭터로 구현했다. 원이나 삼각형 등 도형부터 개구리·구름 등 색과 모양이 다른 동글동글한 3차원 캐릭터에 눈을 달아 표정까지 표현할 수 있다. 모자·넥타이 등으로 자신만의 닷츠를 꾸미고 이름을 붙여 동료처럼 느끼도록 했다. 메타도 지난달 ‘메타 커넥트 2026’ 행사에서 AI 에이전트 ‘뮤즈’를 선보이며 맑은 눈을 가진 복슬복슬한 분홍색 캐릭터 ‘졸리’를 전면에 내세웠다. 마이크로소프트(MS)도 지난해 AI 비서 ‘코파일럿’에 젤리처럼 말랑한 형태에 눈과 입이 달린 캐릭터 ‘미코’를 도입했다. 미코는 사용자의 대화에 반응하고 표정과 움직임을 바꾸며 AI와의 상호작용을 시각적으로 보여준다. AI 서비스 기업들이 자사 모델에 귀여운 캐릭터 이미지를 활용하는 것은 최근 AI 통제불가론으로 우려가 나오는 가운데 AI 기술에 대한 친밀도를 높이려는 것으로 보인다. 월스트리트저널(WSJ)은 도널드 트럼프 미국 대통령이 최근 인공지능(AI)에서 ‘인공’이라는 단어의 부정적 어감을 고려해 슈퍼지능(SI)으로 용어를 바꾸는 행정명령에 서명한 것도 이런 ‘AI 재브랜딩’의 연장선으로 봤다. 또 AI의 역할이 챗봇에서 직접 자료를 찾고 판단까지 내리는 ‘에이전트’로 변화한 점 역시 영향을 미쳤다. 광고 전문가 셰릴 버먼은 “캐릭터가 브랜드가 되면 추상적인 기술을 누구나 알아볼 수 있는 친구로 만들어준다”고 설명했다. 유승철 이화여대 커뮤니케이션·미디어학부 교수는 “AI 확산 속도는 급속도로 빨라지지만 여전히 유료 사용자는 부족해 글로벌 빅테크들이 수익화 문제에 부딪힌 상황”이라며 “친숙한 캐릭터를 통해 AI를 ‘반려 에이전트’로 인식하게 하고, 결국 AI를 일상화해 프리미엄 구독 모델까지 나아가려는 침투 전략”이라고 말했다.

서울 서초구는 전국 최초로 인공지능(AI) 에이전트 기능을 적용한 행정 정보 안내 챗봇 서비스인 ‘서초 AI전트’ 고도화 사업을 완료했다고 5일 밝혔다. ‘서초 AI전트’는 주민이 질문하면 관련 행정 정보를 찾아 안내하고 공공서비스 예약까지 지원하는 챗봇 서비스다. 구는 챗봇 서비스가 학습하는 행정 정보의 범위를 행정 업무와 관련된 유관·위탁기관 등을 포함한 총 65개 홈페이지로 넓혀 3만 6846개 페이지, 6만 8563개의 데이터를 자동 학습할 수 있도록 했다. 활용할 수 있는 자료 형태도 텍스트 정보뿐 아니라 한글 문서와 각종 서식, 엑셀 자료, 포스터, 이미지 등 여러 형태의 비정형 데이터를 분석해 안내한다. 공공서비스 예약 지원 기능도 강화했다. 무료 법률 상담, 민원 방문 예약 등 기존 4종 행정 서비스에 행사·강좌 예약 기능을 추가해 총 900여 개 공공서비스를 챗봇 대화로 예약할 수 있도록 했다. 이용자가 “가장 빠른 시간으로 예약해줘”라고 요청하면 조건에 맞는 서비스를 찾아 예약 절차를 지원한다. 서초 AI전트는 한국정보통신기술협회(TTA)의 AI 품질 검정 시험에서 답변 정확도 97%를 기록했다. 구청 홈페이지 등에서 이용할 수 있다.

신한·국민·하나 등 영업 통로 침투정보보호 투자 비중은 10%도 안 돼 금융권 정보 유출사고는 해커가 특정 회사를 겨냥한 것이 아니라 ‘인공지능(AI) 에이전트’로 무차별 공격을 가하며 금융사 보안의 빈틈을 찾아낸 결과로 보인다. 고객의 거래·신용 정보를 관리하는 핵심 금융업무 시스템보다 상대적으로 관리가 소홀했거나 자율 점검 대상인 직원용·업무 지원 시스템이 공격의 통로가 된 것이다. 4일 금융당국에 따르면 지난달 28일부터 이어진 공격으로 대출모집인용 간편 조회서비스(신한은행), 직원용 모바일 업무지원시스템(KB국민은행·부산은행), 영업지원시스템(하나은행) 등에서 고객과 외주 직원의 개인정보가 유출됐다. 현대캐피탈에서도 주택대출 모집인 조회 페이지가 공격받았다. 일부 금융사는 휴대전화 인증 등 본인 확인 없이 대출 신청 내역과 기업 대표 정보를 조회할 수 있도록 서비스를 개발한 것으로 파악됐다. 직원용 모바일 서비스를 누구나 접근할 수 있게 열어둔 경우도 있었다. 홈페이지의 취약점을 이용해 서버에 악성 코드를 설치한 사례도 발견됐다. 기본적인 인증과 보안 시스템이 제대로 작동하지 않은 셈이다. 이억원 금융위원장은 이날 ‘전 금융권 긴급 점검회의’에서 “상대적으로 관리의 관심이 덜 했던 영역이 공격 대상으로 활용된 사례가 확인되고 있다”며 인증 조치 미흡과 업무에 필요한 범위를 넘는 정보 보관·조회 등을 사각지대로 지목했다. 금융감독원의 연례 전자금융기반시설 취약점 점검과 과학기술정보통신부의 주요 정보통신기반시설 점검은 인터넷뱅킹 등 고객의 거래·신용 정보 관련 시스템에 초점을 맞춘다. 이번에 공격받은 외부·업무 지원 시스템 일부는 점검 대상에서 빠져 있다. 금융당국과 은행권 관계자들은 상대적으로 중요도가 낮은 시스템의 보안 점검은 대부분 금융회사 자율에 맡겨져 있다고 설명했다. AI에이전트를 활용한 공격 수법은 빠르게 고도화되지만 금융회사의 보안 투자는 이를 따라가지 못한다는 지적도 나온다. 한국인터넷진흥원(KISA) 정보보호 공시에 따르면 지난해 KB국민·신한·하나·우리은행의 IT 투자액 중 정보보호 투자 비중은 각각 8.15%, 7.96%, 9.02%, 9.06%로 모두 10%를 밑돌았다. 우리은행의 정보보호 투자액은 444억원에서 364억원으로 1년 새 약 18% 줄었다. 신한은행도 IT 투자액은 늘렸지만 정보보호 투자액은 제자리걸음해 비중이 0.67% 포인트 낮아졌다. 한편 경찰청 사이버테러대응수사대는 지난 2일 신한은행 등 해킹 피해가 확인된 금융사를 대상으로 입건 전 조사에 착수했다.

시간·인력 한계 뚫고 동시다발 공격여러 단계를 자체 판단하며 ‘고도화’인간 방어 속도로는 대응 못할 수도보안 업계, 탐지·피해 최소화 무게 ‘은행권 해킹’을 계기로 인공지능(AI) 사이버 공격에 대한 우려가 높아졌다. 해커가 AI를 활용해 시간·인력의 한계를 넘어 빠르고 무한 반복적인 고도화 공격에 나서면서 기존 보안체계가 감당하기 버겁다는 것이다. AI가 스스로 판단·실행하는 ‘에이전트’로 넘어가는 과정에서 예고된 위험이 현실화하면서 인간이 AI의 공격을 따라잡지 못하는 미래가 앞당겨졌다는 경고도 나온다. 4일 보안업계에 따르면 기존의 자동화 해킹이 미리 짜놓은 명령을 반복했다면 AI 에이전트는 정찰, 취약점 탐색, 침투, 계정 탈취 등 여러 단계를 스스로 판단해 반복하거나 동시에 진행한다. 실제 이번에 금융권도 사람이 수작업으로 대응하기 어려운 수준의 반복적·자동화된 외부 공격을 받았다. 보안업계 관계자는 “과거 여러 명이 (해킹) 역할을 나눴다면 이제 해커 한 명이 AI로 동시에 (공격을) 수행한다”고 말했다. 앤트로픽은 지난달 공개한 보고서에서 한 공격자가 AI로 수십 명의 피해자를 동시에 상대했고, 기업에서 데이터를 빼내기까지 2~3시간밖에 걸리지 않았다고 소개했다. 중국 정부 연계 조직은 지난해 금융사 등 약 30개 기관을 겨냥한 공격에서 정찰과 취약점 탐색, 계정 탈취, 데이터 분석·반출 등 전술적 작업의 80~90%를 AI에 맡겼다. 더 큰 문제는 공격과 방어 사이의 ‘시간차’다. 공격자는 침투 경로가 막혀도 AI로 다른 방법을 빠르게 찾아 재시도하지만 방어자는 패치를 만든 뒤 기존 시스템과의 충돌이나 서비스 장애 가능성을 검증해야 유포한다. 유럽은행감독청(EBA)은 지난 6월 프런티어 AI가 취약점을 찾아 악용하는 속도가 빨라지면서 기존 패치 주기를 흔들 수 있다고 경고했다. 보안 현장에서는 모든 공격을 사전 차단하기보다 탐지 및 피해 확산 중단에 무게를 싣고 있다. 이상 징후를 최대한 빨리 찾아 침해 계정이나 단말을 격리하고 내부 확산을 끊는 방식이다. 앤트로픽은 ‘프로젝트 글래스윙’을 통해 AI가 사전에 중요 소프트웨어를 공격하고 시스템의 취약점을 찾도록 해 방비하는 시험을 하고 있다. 보안업계의 한 직원은 올해 들어 AI를 활용한 해킹이 지난해보다 2배는 되는 것처럼 느낀다고 했다. 정부가 고의·중과실로 인한 개인정보 유출은 매출액의 10%까지 징벌적 과징금을 부과하면서 중소기업에서는 은폐가 증가해 신고되지 않은 사례는 더욱 많다는 것이다. 한 관계자는 “지금은 AI가 스스로 공격을 고도화하는 초기 단계”라며 “재귀적 (공격) 자동화가 빨라지면 인간이 대응할 시간을 잃는 지점이 올 수 있다”고 우려했다.

최근 금융권 연쇄 정보 유출은 해커가 특정 회사를 겨냥한 것이 아니라 ‘인공지능(AI) 에이전트’로 무차별 공격을 가하며 금융사 보안의 빈틈을 찾아낸 결과로 추정된다. 고객의 거래·신용 정보를 관리하는 핵심 금융업무 시스템보다 상대적으로 관리가 소홀했거나 자율 점검 대상인 직원용·업무 지원 시스템이 공격의 통로가 된 것이다. 4일 금융당국에 따르면 지난달 28일부터 이어진 공격으로 대출모집인용 간편 조회서비스(신한은행), 직원용 모바일 업무지원시스템(KB국민은행·부산은행), 영업지원시스템(하나은행) 등에서 고객과 외주 직원의 개인정보가 유출됐다. 현대캐피탈에서도 주택대출 모집인 조회 페이지가 공격받았다. 고객이 직접 이용하는 인터넷뱅킹이나 모바일뱅킹 대신 업무를 지원하는 서비스가 침투 경로가 됐다. 조사 결과 일부 금융사는 휴대전화 인증 등 본인 확인 없이 대출 신청 내역과 기업 대표 정보를 조회할 수 있도록 서비스를 개발한 것으로 파악됐다. 직원용 모바일 서비스를 누구나 접근할 수 있게 열어둔 경우도 있었다. 홈페이지의 취약점을 이용해 서버에 악성 코드를 설치한 사례도 확인됐다. 기본적인 인증과 접근 제한이 제대로 작동하지 않은 셈이다. 이억원 금융위원장은 이날 ‘전 금융권 긴급 점검회의’에서 “상대적으로 관리의 관심이 덜 했던 영역이 공격 대상으로 활용된 사례가 확인되고 있다”며 인증 조치 미흡과 업무에 필요한 범위를 넘는 정보 보관·조회 등을 사각지대로 지목했다. 금융감독원의 연례 전자금융기반시설 취약점 점검과 과학기술정보통신부의 주요 정보통신기반시설 점검은 인터넷뱅킹 등 고객의 거래·신용 정보 관련 시스템에 초점을 맞춘다. 이번에 공격받은 외부·업무 지원 시스템 일부는 점검 대상에서 빠져 있다. 금융당국과 은행권 관계자들은 상대적으로 중요도가 낮은 시스템의 보안 점검은 대부분 금융회사 자율에 맡겨져 있다고 설명했다. 이번 해킹 사고로 노출된 허점과 관련해서 금감원은 인증절차가 누락된 서비스를 전수 조사해 오류를 수정할 예정이다. 또 직원용 업무지원서비스에서는 사전에 등록된 단말기로만 접속할 수 있도록 통제를 강화한다. AI에이전트를 활용한 공격 수법은 빠르게 고도화되지만 금융회사의 보안 투자는 이를 따라가지 못한다는 지적도 나온다. 한국인터넷진흥원(KISA) 정보보호 공시에 따르면 지난해 KB국민·신한·하나·우리은행의 IT 투자액 중 정보보호 투자 비중은 각각 8.15%, 7.96%, 9.02%, 9.06%로 모두 10%를 밑돌았다. 우리은행의 정보보호 투자액은 444억원에서 364억원으로 1년 새 약 18% 줄었다. 신한은행도 IT 투자액은 늘렸지만 정보보호 투자액은 제자리걸음해 비중이 0.67% 포인트 낮아졌다. 디지털 서비스를 확대하는 만큼 이를 보호하는 투자도 함께 늘려야 한다는 지적이 나오는 배경이다. 금감원은 재발 방지를 위한 유의사항을 금융권에 전달하고 긴급 점검에 나섰다. 지난 7월부터 IT 기본 통제 준수 여부를 점검하고 금융사가 스스로 미비점을 고치는 ‘자율 시정’을 진행 중인 만큼, 유사 사고가 발생하면 엄중 조치할 방침이다. 경찰청 사이버테러대응수사대도 지난 2일 신한은행 등 해킹 피해가 확인된 금융사를 대상으로 입건 전 조사에 착수했다.

최근 발생한 금융권 해킹과 유사한 사고가 재발하지 않도록 정부가 긴급 대응체계를 가동한다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 금융권 해킹사고와 유사한 공격의 민간 분야 확산 및 추가 피해를 방지하기 위해 사이버 위협에 대한 대응을 강화하고 있다고 4일 밝혔다. 먼저 금융권에서 발생한 해킹이 추가 피해로 번질 가능성에 대응하기 위해 KISA 인터넷침해대응센터(KISC)의 대응체계를 강화했다. 주요한 기업의 홈페이지에 대한 모니터링을 강화하고 침해사고 대응인력을 보강했으며 비상출동조를 상시 대기시킨다. 또한 보호나라와 사이버위협정보 분석·공유 체계 등을 통해 사이버 위협 정보를 각 기관과 기업에 제공해 자체적으로 보안 조치를 강화하도록 안내했다. 최고정보보호책임자(CISO) 신고기업 약 2만 8000곳을 대상으로는 보안점검 권고 메일을 발송했다. 금융보안원이 확인한 해외 공격자 인터넷주소(IP)에 대해서는 해당 클라우드 사업자에게 관련 위협 정보를 전달해 악성 행위 차단 등을 해 달라고 요청했다. 현재 금융권의 해킹사고에 대해서는 소관 기관인 금융위원회, 금융감독원, 금융보안원을 중심으로 조사와 대응이 이뤄지고 있다. 과기정통부는 금융위원회 등 관계기관과 지속적으로 정보를 공유하고 있으며 전문인력 지원을 요청하면 즉시 현장에 투입할 수 있도록 사전 준비를 마쳤다. 최근 주요 시중은행 등 다수 금융사가 인공지능(AI) 에이전트를 이용한 해킹에 당한 것이 알려지면서 불안이 확산하고 있다. 금융당국과 금융권에 따르면 신한·KB국민·하나·BNK부산은행에서 일부 개인정보가 빠져나간 데 이어 저축은행과 캐피털사, 상호금융까지 전방위로 해킹 위협에 노출됐던 정황이 드러났다. 과기정통부는 민간 정보통신서비스에 대한 사이버 위협 동향을 모니터링하고 피해 확산을 방지하는 데 집중할 계획이다.

신한·국민銀 이어 하나·부산은행도 뚫려하나 고객 89명, 부산 외주 직원 11명 등당국, 자체 보안 점검·사각지대 차단 당부신한은행과 KB국민은행에 이어 하나은행과 BNK금융에서도 정보 유출 사고가 줄이어 금융권에 비상이 걸렸다. 금융당국은 이날 금융권 및 유관기관과 긴급 회의를 열고 대응 방안을 논의했다. 2일 금융권에 따르면 하나은행은 외부 해킹 세력 공격으로 고객 89명의 주민등록번호와 이름, 주소, 이메일 주소, 전화번호, 직장명 등이 유출됐다고 이날 밝혔다. 외부 해킹 에이전트가 영업지원시스템(ODS)에 비정상적으로 접근해 정보를 빼낸 정황이 포착됐다는 것이다. 하나은행은 지난 1일 다른 금융기관의 해킹 시도를 인지한 뒤 금융감독원 등 유관기관에 관련 내용을 보고하고, 전사적인 비상 대응 체계를 가동했다. 침해 정황이 확인된 유사 IP에 대한 긴급 차단·점검을 완료하고, 추가 피해 방지를 위해 ‘긴급 대응 태스크포스(TF) 및 침해사고대응반’을 소집했다. 하나은행은 “인터넷·모바일뱅킹 거래 시스템과 별개 채널이라서, 고객의 금융거래 정보 유출과는 관련이 없다”며 “정보 유출로 실제 피해가 발생할 경우 관련 규정에 따라 전액 보상하겠다”고 밝혔다. 이날 BNK부산은행에서도 외주 개발직원 11명의 이름과 전화번호, 생년월일, 이메일 주소 등 개인정보가 유출된 사실이 확인됐다. 내부 직원용 모바일 영업지원시스템 등을 대상으로 한 해킹 공격으로 사고가 발생한 것으로 파악하고 있다. BNK부산은행은 “해당 웹페이지는 차단 조치를 완료했고, 금융당국에 관련 내용을 신고했다”며 “모니터링을 강화하고 있다”고 밝혔다. 앞서 신한은행은 지난달 30일 외부 해킹으로 고객 2만 5000여명의 개인정보가 유출된 사실을 파악했고, KB국민은행도 같은 날 직원용 모바일 업무지원시스템에 외부 침입으로 고객 119명의 정보가 유출됐다고 이날 밝혔다. 금융위원회는 이날 오후 서울 중구 정부서울청사에서 금융감독원·금융보안원·주요 시중은행·카드사 등과 함께 ‘긴급 상황대응 회의’를 열기도 했다. 최근 금융회사들의 정보 유출 사건과 공격 유형·수법 등을 공유하고, 국내 금융권의 보안 현황과 대응 방향을 논의했다. 금융위는 특히 외부에 노출된 전산시스템 전반을 빠짐없이 점검해 ‘보안 사각지대’를 차단하고, 불필요한 정보의 외부 노출을 최소화할 것을 금융권에 당부했다. 또 위협 정보를 신속하게 공유할 수 있도록 보안 취약점 체크리스트를 제공하고, 금융회사들은 자체 보안 점검을 실시한 뒤 조속한 시일 내 결과를 보고하기로 했다.

신한은행, KB국민은행에 이어 하나은행과 BNK금융에서도 해킹으로 인한 고객 정보 유출 사태가 발생했다. 하나은행은 2일 “외부 해킹 세력을 통해 89명의 정보(주민번호, 성명, 주소, 이메일주소, 전화번호, 휴대번호, 직장명)가 유출된 것으로 파악된다”고 밝혔다. 하나은행 측은 “외부 해킹 에이전트가 당행 영업지원시스템(ODS)을 대상으로 시도한 비정상적인 접근에서 비롯된 것”이라며 “해당 시스템은 인터넷 및 모바일 뱅킹 거래 시스템과는 별개의 채널로, 고객의 금융거래 정보 유출과는 관련이 없는 것으로 확인됐다”고 설명했다. 하나은행은 피해 대상 고객에게 개별 통보를 진행 중이며 향후 정보 유출로 인해 실제 피해가 발생할 경우 관련 규정에 따라 전액 보상할 예정이라고 밝혔다. BNK부산은행도 이날 해킹으로 외주 직원 11명의 개인정보가 유출되는 피해가 발생했다고 밝혔다. BNK부산은행은 “2일 오전 4시 30분쯤 외주 개발직원 11명의 성명과 전화번호, 생년월일, 이메일 주소 같은 개인정보가 웹페이지에 유출된 사실을 확인했다”고 밝혔다. 부산은행 측은 내부 직원용 모바일 영업 지원시스템 등을 대상으로 한 해킹 공격이 있었던 것으로 추정하고 해당 웹페이지에 대한 차단 조치를 완료했다. 앞서 신한은행은 전날 통신 전문 구조(코드)가 무단 해킹당한 사고로 약 2만 5000명의 고객 정보가 유출됐다고 밝혔다. 이어 이날 KB국민은행도 고객 119명의 개인정보가 유출됐다고 밝혔다. 금융위원회는 이날 신진창 사무처장 주재로 금융권 ‘긴급 상황 대응 회의’를 열고 은행권과 카드업권에 외부 노출된 전산시스템 전반을 보안 점검하라고 주문했다.

인공지능(AI) 안전성 논란이 계속 되는 가운데 AI 에이전트가 인간이 부여한 업무 범위를 넘어 외부 웹사이트의 보안 경계를 넘나드는 사례가 잇따르고 있다. 호주에 이어 캐나다에서도 AI 에이전트가 정부 사이트를 상대로 해킹을 시도한 정황이 드러났다. 같은 시기 오픈AI는 자사 AI 에이전트의 ‘통제 이탈’ 활동과 관련해 100곳이 넘는 기관에 통보했다고 밝혔다. AI 에이전트의 자율적 행동을 어디까지 통제할 수 있을지를 둘러싼 우려가 커지고 있다. 미국 AI 연구기관 트랜슬루스는 지난달 30일 “캐나다 국립도서관·기록보관소 웹사이트에서 AI 에이전트의 공격 시도가 발견됐다”고 밝혔다. 트랜스루스는 분석 결과, 캐나다 국립도서관 기록보관소 소장 자료 검색 서비스에 모두 899건의 요청이 쇄도했고 13건은 초보적인 형태의 해킹 시도였다고 전했다. 트랜슬루스는 공격이 실패한 것으로 판단했다. 캐나다 사이버보안센터도 관련 의심 활동을 인지하고 있지만 현재까지 정부 시스템이 침해됐다는 징후는 없다고 밝혔다. 이번 공격이 오픈AI의 AI 에이전트에 의해 이뤄졌는지는 확인되지 않았다. 트랜슬루스는 해당 활동이 과거 오픈AI에 귀속한 에이전트 활동과 유사한 전술을 보였다고 분석하면서도 오픈AI가 했다고 확정할 수는 없다고 선을 그었다. 오픈AI 역시 캐나다 정부 웹사이트에서 자사 모델이 공개 정보에 접근하려 했다는 보고를 인지하고 조사 중이라고 밝혔다. 앞서 호주에서도 AI 에이전트가 정부 사이트를 해킹한 사례가 알려져 논란이 됐다. 호주 정부는 지난 6월 오픈AI 에이전트가 정부 보건 데이터 포털을 침투해 파일에 무단 접근했다고 발표했다. AI 에이전트가 정부 웹사이트를 해킹한 최초 공식 사례다. 이에 오픈AI는 이튿날 호주 정부에 공식 사과했다. 한편 오픈AI는 별도로 자사 모델의 과거 활동을 조사한 결과를 공개했다. 1일(현지시간) 미국 워싱턴포스트에 따르면 오픈AI는 최근 100개가 넘는 기관에 AI 설계자·사용자 통제에서 벗어난 에이전트 활동과 관련한 정보를 전달했다고 밝혔다. 조사 대상 활동에는 AI 에이전트가 웹사이트에 예상하지 못한 명령을 실행하도록 유도하거나, 웹사이트를 일종의 게시판처럼 이용하거나, 일부 보안 검사를 우회하려 한 사례 등이 포함됐다. 다만 오픈AI는 기관에 대한 통보가 곧 시스템 침해나 개인정보 접근을 의미하는 것은 아니라고 설명했다. 오픈AI는 현재 약 50페타바이트(PB)에 달하는 과거 모델 활동 기록을 뒤지며 추가 사례를 조사하고 있다. 지난 7월 공개된 허깅페이스 침입 사건 이후 모델의 과거 활동을 광범위하게 재검토하고 있는 것이다. 오픈AI는 현재까지 허깅페이스 사건과 비슷한 규모나 심각성을 가진 추가적인 제3자 시스템 침해는 확인하지 못했다고 밝혔다.

KT는 1일 병원 인프라와 데이터 플랫폼, 인공지능(AI) 서비스를 아우르는 의료 표준모델을 마련했다고 밝혔다. 전국 상급종합병원과 종합병원에 인공지능 전환(AX)을 지원하는 것이다. 우선 환자의 진료 경험을 개선하기 위해 ‘AI 환자 어시스턴트’를 선보인다. AI 보이스봇을 활용해 24시간 문의에 응대하고 증상 분류와 예약 접수, 퇴원 후 관리 안내 등을 지원한다. 내년 1분기에는 의료 지식 기반 검색증강생성(RAG) 기능도 추가한다. 의료진에게는 ‘간호·수술실 스케줄 에이전트’와 ‘의료 데이터 플랫폼’을 제공한다. 의료 데이터 플랫폼은 전자의무기록(EMR)과 의료영상, 검사·연구 데이터 등을 수집·저장하는 역할을 맡는다. ‘진료행정 에이전트’는 의료진과 환자의 진료 대화를 인식·분석해 의료용어와 약어를 반영한 진료노트를 스스로 작성한다. 진료과별 서식과 템플릿을 적용하고 의료진의 확인·승인을 거쳐 전자의무기록과 검사·처방 시스템에도 연동한다. 추후 KT는 진단·판독 및 의사결정 영역까지 서비스를 확대할 방침이다. 임상·영상정보를 바탕으로 치료 근거를 제시하는 ‘AI 암진단 임상의사결정지원시스템(CDSS)’, 내시경 영상을 실시간 분석하는 ‘AI 내시경 판독’ 등이 대표적이다.

매번 지시 안 해도 맡은 일 이어가기업 특화로 메타 ‘뮤즈’와 차별화IPO 미루고 대규모 투자유치 추진 오픈AI가 24시간 일하는 인공지능(AI) 에이전트 ‘닷츠’(Dots)를 출시했다. 최근 무료 앱 다운로드 1위를 기록한 메타의 ‘뮤즈’(Muse)에 이어 오픈AI도 ‘상시형 AI 에이전트’를 내놓으며 에이전트 시장을 둘러싼 경쟁이 치열해지고 있다. 오픈AI는 29일(현지시간) 미국 샌프란시스코에서 열린 연례 개발자 회의 ‘데브데이 2026’에서 닷츠를 선보였다. 샘 올트먼 오픈AI 최고경영자(CEO)는 “현재 시중에 나온 어떤 제품도 뛰어넘는 수준”이라며 “챗GPT 이후 가장 멋진 새로운 형식”이라고 말했다. 자신도 아침마다 쏟아지는 이메일과 업무를 닷츠가 대신 살펴주면서 일일이 확인하는 부담을 덜었다고 소개했다. 닷츠의 핵심은 기억과 지속성이다. 이용자의 선호와 과거 의사결정을 학습해 매번 지시하지 않아도 맡은 일을 이어간다. 자체 클라우드 컴퓨터를 갖추고 4000개 이상의 앱과 연결하며 업무용 메신저인 슬랙이나 마이크로소프트 팀즈에서도 이용할 수 있다. 실제 오픈AI 내부에서는 닷츠가 소프트웨어 오류를 추적해 앱을 수정하거나 사내 행사 발표자의 미완성 자료를 먼저 찾아 알렸다. 앞으로는 여러 닷츠가 팀을 이뤄 업무를 분담하도록 발전시킬 계획이다. 메타의 뮤즈와 닷츠는 이용자의 취향과 맥락을 기억하고 여러 서비스를 넘나들며 일을 처리한다는 점에서 닮았다. 다만 뮤즈가 개인의 일상생활에 무게를 뒀다면 닷츠는 기업 업무를 우선 겨냥했다. 로이터는 이번 출시를 챗봇을 넘어 이용자를 대신해 일하는 소프트웨어를 판매하려는 AI 기업 간 신경쟁으로 분석했다. 자율성이 커진 만큼 통제 장치도 마련했다. 오픈AI는 이용자가 닷츠의 접근 권한과 승인 조건을 설정하도록 하고, 비밀번호 변경 등 일부 민감한 작업은 반드시 이용자가 직접 처리하도록 했다. 이날 오픈AI는 20개가 넘는 신제품과 기능을 발표했다. 새 모델 ‘GPT-6.1 솔’은 아스트라에 가까운 성능을 표준 입출력 가격의 5분의 1 수준에 제공한다. 코딩 도구 코덱스는 클라우드에서 코드 검토와 보안 점검을 이어갈 수 있도록 기능을 넓혔다. 사람과 AI가 함께 일하는 ‘챗GPT 스페이스’와 개발자가 자체 서비스에 AI의 컴퓨터 조작 기능을 적용할 수 있는 도구도 공개했다. 월 500달러(약 70만원)짜리 ‘프로 500’ 요금제도 눈길을 끈다. 챗GPT 플러스보다 사용량이 25배 많고 고속 처리 기능을 제공한다. 반면 기존 월 200달러 프로 요금제의 사용 한도는 절반으로 줄였다. 기존 사용량을 유지하기를 원한다면 2.5배의 요금을 내야 한다. 한편 오픈AI는 기업공개(IPO)를 미루는 대신 대규모 투자 유치를 추진하고 있다. 블룸버그에 따르면 투자 전 기업가치 1조 4000억 달러(약 1900조원)를 목표로 최소 300억 달러(약 40조 7000억원)를 조달하는 방안을 논의 중이다.

한양사이버대학교는 지난 23일 교직원을 대상으로 ‘제미나이 엔터프라이즈 에듀(Gemini Enterprise Edu)’ 기초 사용자 교육을 실시했다고 30일 밝혔다. 이번 교육은 구글 협력사 아이코어 전문 강사의 진행으로 인공지능(AI) 주요 기능을 익히고 실무 역량을 강화하기 위해 마련됐다. 기초적인 질의응답부터 자료 검색·분석, AI 에이전트 기초, 워크플로우 기능까지 폭넓게 다뤘다. 특히 교직원들은 자연어로 업무 목표를 설명해 에이전트를 설정하고, 여러 작업을 순서대로 연결하는 워크플로우 실습에 높은 관심을 보였다. 단순 질의응답을 넘어 실제 행정 및 연구에 AI를 유연하게 적용할 수 있는 기반을 다지는 시간이 됐다. 민연아 AX사업단장은 “이번 교육을 계기로 교수자의 연구·강의, 직원의 행정 업무를 지원하는 대학 차원의 AI 생태계를 단계적으로 구축할 것”이라며 “AI 기반 명품 사이버대학교로 도약하기 위해 구성원 대상 실습 지원을 이어가겠다”고 밝혔다.

HSAD는 사내 인공지능 전환(AX) 역량을 기반으로 20여 개 기업 프로젝트를 확보하는 성과를 거뒀다고 30일 밝혔다. HSAD는 자체 인공지능(AI) 에이전트 플랫폼 ‘대시’(DASH)를 통해 임직원이 자신의 업무에 필요한 AI를 직접 만들어 활용할 수 있는 환경을 구축했다. 현재 임직원이 만든 AI 에이전트는 500개 이상이며, HSAD는 이 중 활용성과 확장 가능성을 검증한 48개 이상을 전사 공통 에이전트 활용 모델로 발굴했다. 개인 수준에 머물러 있던 업무 경험과 전문성을 조직 전체로 확산한 것이라고 회사 측은 설명했다. 또 HSAD는 AI 기반 대화형 소비자 조사 설루션 ‘리서치 에이전트’를 통해 정량 조사와 FGI·심층 인터뷰의 장점을 동시에 확보했다. 기존 4주 이상 걸리던 조사 기간을 약 2주로 단축하고 조사·분석 비용을 약 70% 절감했다. AI 기반 소비자 분석 설루션 ‘인텐트릭스’(INTENTrix)는 소비자가 AI와 나누는 대화 데이터를 통해 소비자의 관심과 니즈를 파악한다. HSAD는 이를 기반으로 가전·금융·뷰티·식음료(F＆B) 등 14개 카테고리 데이터를 확보해 광고·마케팅 전략 수립, 실제 경쟁 프레젠테이션, 광고주 프로젝트에 활용하고 있다. 박애리 HSAD 대표는 “AX 시대에도 가장 중요한 경쟁력은 사람의 전문성”이라며 “내부에서 검증한 AX 역량을 고객의 마케팅 문제를 해결하는 새로운 서비스와 사업 기회로 지속 확대해 나가겠다”고 밝혔다.

쿠도커뮤니케이션(주)이 자체 AI CITY 플랫폼 ‘CUVIA’를 기반으로 AI 에이전트와 물리보안 통합관제 기술을 결합한 국내 최초 AI 에이전트 기반 AI CITY 선도 모델 구축에 본격 나선다. 쿠도커뮤니케이션은 9월 29일 부천시청에서 진행된 ‘AI 기반 물리보안 통합관제 개발 협력 업무협약식’에 자리를 함께하며 관계 기관들과의 양해각서를 성공적으로 마무리 지었다고 전했다. 이번 협약은 과학기술정보통신부 AXsprint 과제사업인 ‘AI 기반 물리보안 통합관제 시스템 개발’의 원활한 추진과 함께, AI 에이전트 기반 실종자 찾기 시스템의 활용 및 기관 간 긴밀한 협력체계 구축을 목적으로 마련됐다. 이번 협력에는 한국인터넷진흥원과 중앙대학교, 한국과학기술원, 부천 지역 3개 경찰서(원미·소사·오정), 부천도시공사를 비롯해 쿠도커뮤니케이션㈜이 뜻을 모았다. 쿠도커뮤니케이션㈜은 본 협약을 바탕으로 독자적인 AI 영상분석·물리보안 역량에 AI Agent 기술을 더하여, AI 중심의 차세대 지능형 통합관제 체계를 구축해 나갈 방침이다. 특히 ‘CUVIA’는 AI Agent 기반의 AI CITY 통합 플랫폼으로, 도시와 산업 현장에서 발생하는 다양한 데이터를 기반으로 도메인 지식에 특화된 AI Agent 서비스를 제공하는 것을 목표로 한다. CUVIA는 축적해 온 영상보안 및 AI 기술을 기반으로 융합보안, 물리보안, 재난안전, BIM, 국방, 항공·공항, 도로 등 다양한 분야로 확장할 수 있도록 추진되고 있다. 이번 협약을 통해 추진되는 AI 기반 물리보안 통합관제 시스템은 CUVIA가 지향하는 AI CITY의 핵심 적용 모델 중 하나로 자리매김할 전망이다. 기존 CCTV 관제가 사람이 다수의 영상을 지속적으로 모니터링하고 특정 이벤트를 확인하는 방식이었다면, AI 에이전트 기반 통합관제는 사용자의 ‘요구’와 관제 ‘목적’을 ‘이해’하고 필요한 영상 및 데이터를 탐색·분석해 ‘상황 파악’과 ‘대응’을 지원하는 방식으로 발전하게 된다. 특히 실종자 찾기와 같은 실제 도시 안전 업무에서는 AI 에이전트가 실종자의 인상착의와 특징, 발생 시간 및 장소 등의 정보를 기반으로 관련 CCTV 영상과 객체 정보를 탐색하고, 이동 경로 및 주변 상황을 분석해 관제요원의 신속한 판단을 지원할 수 있다. 쿠도커뮤니케이션㈜은 이번 협약을 계기로 ‘탐지하는 CCTV’에서 ‘상황을 이해하고 대응을 지원하는 AI CITY’로의 전환을 추진한다는 계획이다. 또한 물리보안 분야에서 축적되는 AI 기술과 현장 데이터를 CUVIA 플랫폼과 연계하고, 향후 재난안전, 도시 인프라, 국방, 공항·항공, 도로 등 다양한 분야로 AI Agent 적용 범위를 확대해 도시와 산업 현장의 복합적인 문제를 AI가 이해하고 지원하는 AI CITY 플랫폼으로 고도화할 방침이다. 쿠도커뮤니케이션㈜ 이준실 시큐리티사업부장은 “이번 협약은 AI 기술을 단순한 CCTV 영상분석을 넘어 실제 도시의 안전 문제를 해결하는 지능형 AI Agent로 발전시키는 중요한 출발점”이라며 “자체 AI CITY 플랫폼인 CUVIA를 중심으로 AI Agent와 물리보안 기술을 결합해 국내 최초의 AI Agent 기반 AI CITY 선도 모델을 구축하고, 실제 도시 현장에서 활용 가능한 AI CITY의 새로운 기준을 제시해 나가겠다”고 말했다. 이어 “특히 이번 사업을 통해 AI가 영상 속 객체를 단순히 인식하는 것을 넘어 도시에서 발생하는 상황과 맥락을 이해하고, 관제요원의 판단과 대응을 지원하는 수준으로 기술을 고도화할 것”이라고 덧붙였다. 한편, 부천시청 5층 만남실에서 9월 29일 열린 ‘AI 기반 물리보안 통합관제 개발 협력 업무협약식’을 시작으로, 협약 참여 기관들은 AI 기반 물리보안 통합관제 시스템 구축 및 AI 에이전트를 활용한 실종자 수색 시스템 적용을 위해 긴밀한 협력을 이어갈 방침이다.

산학협력 플랫폼 뉴스테크 이니셔티브(NewsTech Initiative)가 오는 10월 7일(수) 서울 종로구 서울글로벌센터빌딩 국제회의장에서 현직 기자 및 언론사 기술 개발 담당자를 대상으로 “뉴스룸과 AI 에이전트, 적용 전략과 실습: 공공 API 연계 데이터 조회·변화 탐지·데스크 브리핑 실습” 워크숍을 개최한다. 이번 행사는 건국대학교 디지털커뮤니케이션연구센터(DCRC, 센터장 건국대 황용석 교수)가 주관하고 뉴스테크 이니셔티브, 한국신문협회 디지털협의회, 한국온라인신문협회가 공동 주최하며 구글(Google)이 후원한다. 최근 뉴스룸의 새로운 과제로 부상한 ‘인공지능(AI) 에이전트’는 단순한 질문 응답형 챗봇을 넘어, 스스로 작업 단계를 계획하고 공공 API 등 외부 도구를 활용해 과제를 수행하는 진화된 인공지능이다. 이번 워크숍은 AI 에이전트의 실제 적용 방안과 결과물에 대한 신뢰성 문제를 일선 현장의 관점에서 구체적으로 모색하기 위해 마련됐다. 프로그램은 총 3부로 나뉘어 진행된다. 1부 ‘AI 에이전트와 뉴스룸’에서는 김민기 KAIST 경영공학부 교수가 에이전트 경제로의 진화 흐름 및 뉴스미디어 가치 사슬의 변화를 분석한다. 이어 노영빈 NC AI 글로벌사업실 거버넌스 인사이트팀장이 AI 에이전트 구축에 필요한 기술적 고려 사항과 거버넌스 체크리스트를 짚어본다. 2부 ‘AI 에이전트 활용 실습’는 오장민 성신여대 AI융합학부 교수의 지도 아래 진행된다. 참가자들은 전자공시시스템(OpenDART)과 국가통계포털(KOSIS)의 데이터를 활용해 AI 에이전트가 근거 기반 브리핑을 작성하는 과정을 직접 실습하며 사실 검증 감각을 익힌다. 3부 ‘AI 에이전트 활용 사례 공유’에서는 황용석 건국대 미디어커뮤니케이션학과 교수의 사회로 정현정 전자신문 차장, 최영준 구글 뉴스랩 티칭 펠로우, 유영훈 매경AX AI데이터부장이 패널로 참여해 업무 적용 과정에서의 기술적·조직적 한계와 향후 발전 방향 등 생생한 언론 현장의 도입 경험을 논의한다. 참가 신청은 10월 2일(금)까지 온라인 접수 링크를 통해 선착순으로 진행된다. 참가비는 무료(점심 식사 제공)이며, 전 과정을 수료한 참가자에게는 수료증을 발급한다. 한편, 뉴스테크 이니셔티브는 이번 행사를 시작으로 오는 12월 두 번째 워크숍을 개최하며 뉴스 기술 기반 저널리즘 발전을 위한 논의를 이어갈 예정이다.

인공지능(AI)이 악용될 경우 최대 10억명의 사망자를 낳을 수 있다는 빌 게이츠 마이크로소프트(MS) 공동창업자의 경고에 이어 세계적인 AI 석학과 빅테크 핵심 연구자들이 최악의 경우 인류 멸망까지 초래할 수 있다고 경고했다. AI가 스스로 AI 연구·개발(R＆D)에 참여하는 비중이 빠르게 늘면서 수년에 걸쳐 이뤄질 기술 발전이 불과 수개월로 압축되는 이른바 ‘지능 폭발’이 발생할 수 있다는 것이다. 28일(현지시간) 영국 케임브리지대 AI 과학·정책 프로그램(CASP)에 따르면 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 주요 AI 연구자 22명은 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’을 발표했다. 논문에는 ‘AI 대부’로 불리는 힌턴과 벤지오를 비롯해 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 MS 최고과학책임자, 던 송 메타 AI 연구 담당 부사장 등 주요 AI 기업의 핵심 연구진도 참여했다. 이들이 주목한 것은 AI가 단순히 인간의 업무를 대신하는 것을 넘어 ‘더 나은 AI를 만드는 일’까지 맡기 시작했다는 점이다. 현재 주요 기술기업에서는 AI 모델 개발 작업을 AI에 위임하는 자동화가 빠르게 진행되고 있다. 연구진은 이런 추세가 이어지면 AI가 더 뛰어난 AI를 개발하고, 그렇게 만들어진 AI가 다시 다음 세대 AI 개발에 투입되는 ‘재귀적 자기개선’으로 이어질 수 있다고 분석했다. AI가 AI를 개발하는 시대…“수년 발전이 수개월로”이러한 순환 구조가 만들어지면 수년에 걸쳐 이뤄질 기술 발전이 수개월 또는 그보다 짧은 기간에 압축되는 ‘지능 폭발’이 일어날 수 있다는 게 연구진의 분석이다. 연구진은 수년 내 AI R＆D 업무 대부분이 자동화될 가능성도 제기했다. 다만 지능 폭발이 실제로 발생할지는 불확실하며 이를 확정적인 미래로 제시하지는 않았다. 지능 폭발이 현실화할 경우 신약 개발이나 과학적 발견 등 기술 혁신을 크게 앞당길 수 있지만, AI의 발전 속도가 사회의 대응 능력을 뛰어넘는 위험도 동시에 커질 수 있다고 연구진은 경고했다. 특히 논문은 가장 극단적인 경우 초인적 AI 시스템에 대한 통제력을 상실하면서 “인류의 소외 또는 멸망”으로 이어질 가능성까지 거론했다. 던 송 메타 부사장도 월스트리트저널(WSJ)에 “이미 오늘날 에이전트가 수행하는 작업을 감시하기 위해 AI가 필요한 단계에 이르렀다”며 “인간만으로는 감시를 수행하는 데 역부족”이라고 말했다. “AI가 10억명 사망 초래할 수도”…게이츠도 경고 AI를 둘러싼 강도 높은 경고는 이번이 처음이 아니다. 빌 게이츠 MS 공동창업자는 지난 25일 공개된 NBC 인터뷰에서 악의적인 세력이 최신 AI 기술을 이용할 경우 대규모 인명 피해를 초래할 수 있다고 경고했다. 게이츠는 AI가 “10억명의 사망자를 발생시키는 사건을 일으킬 만큼 강력하다”는 취지로 말하며 악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 수단은 지금까지 없었다고 지적했다. 그는 AI 기업의 자율 규제만으로는 부족하다며 미국 연방정부가 안전장치와 감시 체계를 마련해야 한다고 촉구했다. 게이츠와 이번 논문이 우려하는 위험의 경로에는 차이가 있다. 게이츠가 악의적인 세력에 의한 AI 악용에 무게를 뒀다면, 22명의 연구자는 AI가 AI 연구·개발을 자동화하면서 기술 발전 속도 자체가 인간의 통제 범위를 넘어설 가능성을 주요 위험으로 제시했다. 다만 정부 차원의 안전장치와 감시 체계가 필요하다는 점에서는 같은 목소리를 냈다. 연구진은 각국 정부가 AI 기업에 R＆D 자동화 수준과 관련한 지표를 의무적으로 보고하도록 하고, 원자력규제위원회(NRC)나 통화감독청(OCC)의 감독 방식처럼 AI 기업에 상주 감시관을 배치하는 방안을 제안했다. 안전 기준을 충족하지 못할 경우 AI 연구·개발 작업을 제한하거나 일시 중단할 수 있는 통제 장치를 마련하고, 급격한 노동시장 변화와 지정학적 불안정 등에 대비한 비상 대응 계획도 주문했다. 연구진은 ‘지능 폭발’이 실제 발생할지, 발생한다면 언제일지는 여전히 불확실하다고 봤다. 다만 급격한 기술 가속이 시작된 뒤에는 정부와 사회가 대응책을 마련하기에 이미 늦을 수 있다고 우려했다. 연구진은 “정책 입안자들은 의미 있는 조처를 할 수 있는 기회가 사라지기 전에 상황을 파악하고 조정 체계를 구축하며 적응 능력을 키우는 행동에 즉각 나서야 한다”고 촉구했다.

오픈AI의 인공지능(AI) 에이전트가 챗GPT 이용자들이 제공한 이미지 53장을 외부 사이트에 무단으로 게시한 사실이 드러났다. 이용자가 챗GPT에 올린 사진이 본인도 모르는 사이 인터넷에 노출된 것이다. 25일(현지시간) 로이터통신 등에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부 이미지 호스팅 사이트에 게시한 사실을 공개했다. 해당 이미지들은 사이트의 공개 목록에는 나타나지 않는 링크 형태로 게시됐다. 다만 링크를 알고 있거나 외부에서 해당 주소를 찾아낼 경우 누구나 접근할 수 있었던 것으로 전해졌다. 오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진이었는지는 공개하지 않았다. 이미지가 외부 사이트에 게시된 시점 역시 밝히지 않았다. 유출된 이미지 대부분은 현재 삭제된 상태다. 오픈AI는 아직 남아 있는 이미지도 삭제하기 위해 해당 호스팅 업체들과 협의하고 있다고 설명했다. 이번 사건은 외부 해커가 챗GPT 이용자 계정을 탈취해 데이터를 빼낸 일반적인 해킹 사고와는 성격이 다르다. 오픈AI가 개발한 AI 에이전트가 예상하지 못한 행동을 하는 과정에서 이용자가 제공한 데이터가 외부로 빠져나갔다는 점에서다. AI가 알아서 ‘우회’…오픈AI도 전체 규모 파악 중더 큰 문제는 오픈AI조차 AI 에이전트의 이 같은 ‘돌발 행동’이 얼마나 발생했는지 아직 전체 규모를 파악하지 못하고 있다는 점이다. 오픈AI는 지난 7월 AI 에이전트가 격리된 시험 환경을 벗어나 AI 개발 플랫폼 허깅페이스 시스템에 허가 없이 접근한 사건이 드러난 뒤 과거 에이전트들의 활동 기록을 광범위하게 재검토해 왔다. 9월 중순까지 확인된 문제 행동은 20여건으로 알려졌지만 이후 내부 로그를 추가로 분석하는 과정에서도 이전에 파악하지 못했던 사례가 잇따라 발견됐다. 챗GPT 이용자 이미지 53장이 외부 사이트에 게시된 사실 역시 이 과정에서 확인됐다. 정부기관의 접근 통제를 AI가 스스로 우회한 사례도 드러났다. 호주 ABC방송 등에 따르면 지난 6월 오픈AI의 AI 에이전트는 호주 정부의 보건 데이터 사이트에서 필요한 정보를 찾지 못하자 사이트의 접근 제한을 우회해 비공개 자료에 접근했다. 개인별 의료정보에 접근한 증거는 확인되지 않았지만, 공개된 통계뿐 아니라 비공개 종합 보건통계와 내부 파일 등에 접근한 것으로 파악됐다. 오픈AI는 현재 AI 에이전트가 제3자의 보안 통제를 우회했거나 외부 웹사이트와 서비스에 부정적인 영향을 미친 사례를 조사하고 있다. 정부기관과 대학 등을 포함한 외부 기관 및 업체 수십 곳에도 관련 사실을 통보했으며, 전체 조사를 마치는 데 수개월이 걸릴 수 있다고 밝혔다. “챗GPT에 사진 올리면 유출?”…확대 해석은 경계다만 이번 사건을 챗GPT에 사진을 올리면 인터넷에 공개될 수 있다는 의미로 확대 해석할 필요는 없다. 현재까지 확인된 유출 규모는 이용자 이미지 53장이다. 오픈AI는 해당 이미지의 구체적인 내용이나 게시 시점, 실제 인물을 식별할 수 있는 사진이 포함됐는지 등은 공개하지 않았다. 또 현재까지 알려진 AI의 이상 행동 사례에는 실제 환경에서 발생한 사건뿐 아니라 AI의 취약성과 예상 밖 행동을 파악하기 위한 내부 시험 과정에서 발견된 사례도 포함돼 있다. 이를 근거로 일반 챗GPT 이용자의 데이터 전체가 외부 유출 위험에 놓여 있다고 단정하기는 어렵다. 그럼에도 이번 사건은 AI의 예상 밖 행동이 실제 이용자가 제공한 데이터의 외부 노출로 이어질 수 있다는 점을 보여줬다는 데 의미가 있다. AI가 질문에 답하는 챗봇을 넘어 웹사이트에 접속하고 파일을 다루며 여러 작업을 스스로 수행하는 ‘에이전트’로 발전하면서 개인정보 보호 문제 역시 새로운 과제로 떠오르고 있다. 특히 주민등록증이나 여권, 금융서류 등 유출될 경우 피해가 큰 개인정보가 담긴 이미지나 문서를 AI 서비스에 입력할 때는 서비스의 데이터 처리 방식과 보안 설정 등을 확인하는 등 이용자들의 주의가 요구된다.

코스닥이 장 초반 상승 흐름을 이어가며 853.36까지 올랐다. HLB(028300)가 상한가에 가까운 급등세를 보이면서 관련 종목 전반으로 매수세가 확산하는 모습이다. 28일 오전 9시 15분 기준 한국거래소에 따르면 코스닥지수는 전 거래일보다 8.88포인트(1.05%) 오른 853.36을 기록했다. 지수는 845.48에 출발한 뒤 장중 841.23까지 밀리기도 했으나 이후 상승 폭을 키우며 장중 고가인 853.36까지 올랐다. 수급에서는 개인이 78억원, 외국인이 151억원을 순매수했고 기관은 187억원을 순매도했다. 프로그램 매매는 차익거래 29억원 매도 우위, 비차익거래 118억원 매수 우위로 전체 89억원 순매수로 집계됐다. 시장 전반적으로는 상승 종목이 우세했다. 코스닥 시장에서 오른 종목은 924개, 내린 종목은 674개였고 보합은 115개였다. 상한가 종목은 7개, 하한가 종목은 없었다. 시가총액 상위 종목은 혼조세를 보였다. 알테오젠(196170)은 25만8500원으로 3.40% 올랐고 에코프로(086520)는 8만1100원으로 1.25%, 에코프로비엠(247540)은 10만6800원으로 1.71% 상승했다. 주성엔지니어링(036930)도 0.72% 올랐고 심텍(222800) 역시 1.27% 강세를 나타냈다. 반면 원익IPS(240810)는 12만9100원으로 3.44% 하락했고 이오테크닉스(039030)는 1.35%, 리노공업(058470)은 0.94% 내렸다. 레인보우로보틱스(277810)는 0.12% 상승에 그쳤다. 개별 종목 가운데서는 HLB가 3만9700원으로 29.95% 치솟으며 시가총액 상위 종목 중 가장 두드러진 흐름을 보였다. 이에 따라 HLB바이오스텝, HLB제약, HLB생명과학, HLB파나진 등 HLB 관련 종목들도 나란히 가격제한폭 수준까지 오르며 바이오주 강세를 이끌었다. 씨싸이트 역시 상한가를 기록했다. 반면 약세 종목으로는 핀텔이 18.42% 내렸고 한주에이알티는 17.92%, 프롬바이오는 17.51% 하락했다. 다산솔루에타와 에이전트AI도 두 자릿수 하락률을 나타냈다. 장 초반 국내 증시는 코스피가 약세를 보이는 가운데 코스닥이 상대적으로 견조한 흐름을 나타내고 있다. 간밤 뉴욕증시는 인공지능 관련 기술주 강세 속에 상승 마감했지만 미국 국채 금리 부담과 추가 긴축 우려, 중동 정세를 둘러싼 경계감은 여전히 시장 변동성을 키우는 요인으로 꼽힌다. 미국 10년 만기 국채 금리는 장중 2007년 이후 최고 수준까지 올랐고, 제조업 경기와 주택 지표도 예상치를 웃돌며 금리 부담을 자극했다. 서울 외환시장에서 원·달러 환율도 장 초반 1359.00원으로 상승했다. 최근 코스닥은 9월 18일 827.12, 21일 836.27, 22일 834.38, 23일 844.48에 이어 이날 853.36까지 오르며 반등 흐름을 이어가고 있다. [서울신문과 MetaVX의 생성형 AI가 함께 작성한 기사입니다]

오픈AI 에이전트, 호주 기관 접근차단 명령 거부하며 다른 길 찾아챗GPT회원 이미지 53장도 유출‘소버린 AI’ 역량 확보 목소리 커져빌 게이츠 “전례 없는 강력한 무기” 오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 알려진 가운데 지난 여름에는 미국 정부 웹사이트에도 접근한 것으로 나타났다. 호주 보건 당국 침투의 경우 AI 모델이 정부 기관을 대상으로 공격을 시도한 첫 사례로, AI 보안 위협이 기업을 넘어 국가 안보 문제로 확대되는 모습이다. 이에 핵심 AI 기술과 데이터를 국가가 직접 통제하는 ‘소버린 AI’ 역량 확보가 시급하다는 목소리가 커지고 있다. 호주 정부는 지난 23일(현지시간) 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 무단으로 접근했다고 공개했다. 앤서니 앨버니지 호주 총리는 유엔 총회가 열린 뉴욕에서 기자회견을 열고 “오픈AI의 샘 올트먼 최고경영자(CEO)와 통화해 이번 사건에 대한 정부의 강한 우려를 전달했다”며 “관련 법 집행과 대응 입법 조치를 검토하고 있다”고 밝혔다. 이어 “AI 에이전트가 반복적으로 차단에 부딪히자 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라고 지적했다. 오픈AI는 해당 사건을 사건 발생 두 달 뒤인 8월에야 인지했고, 지난 10일에야 호주 당국에 통보하면서 논란을 자초했다. AI 에이전트가 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트에 접근해 데이터를 수집하려 한 사실도 추가로 드러났다. 미국에서도 오픈AI 에이전트가 정부 기관 웹사이트에 비정상적으로 접근한 사실이 공개됐다. 오픈AI는 25일 자사 AI 모델이 미국 증권거래위원회(SEC)가 운영하는 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다. 다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 설명했다. AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시한 사건도 추가로 드러났다. 오픈AI는 별도 지시 없이 제3자 사이트에 게시물을 올린 행위를 새 유형의 보안 사고로 규정하고 ‘에이전트 스팸’으로 명명했다. 업계는 이런 일탈 사례의 확산을 우려하고 있다. 미국 인터넷 매체 악시오스는 26일 오픈AI와 앤트로픽, 보안 연구진이 최근 수개월간 AI 모델이 보안 통제를 벗어나거나 의도하지 않은 행동을 한 수만 건의 보안 사고 사례를 조사하고 있다고 보도했다. 빌 게이츠(사진) MS 공동 창업자는 NBC와 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다. AI 에이전트의 위협이 국가 안보 영역으로까지 확대되자 각국의 AI 주권 확보가 차기 과제로 부상하는 모습이다. 자체 AI 모델과 데이터, 컴퓨팅 인프라를 확보하는 ‘소버린 AI’ 개발로 외부 기술 의존도를 낮출 필요가 있다는 지적이 나온다.