인공지능(AI)의 급격한 고도화에 따른 안전 우려가 커지면서 오픈AI가 첨단 AI 개발 속도를 조절하는 방안을 검토하고 나섰다. AI가 악용될 경우 대규모 피해로 이어질 수 있는 구체적인 차기 표적으로는 전력망을 지목하며 사이버보안 강화에 나서는 모습이다. 블룸버그통신은 10일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)가 이번 주 전사 회의에서 첨단 AI 개발 속도를 늦추는 방안을 검토하고 있다고 밝혔다고 보도했다. 올트먼 CEO는 다른 AI 연구팀들과 공동으로 속도를 조절할 가능성도 검토 중이나 다른 기업이나 연구팀은 동의하지 않을 수 있다는 점도 언급한 것으로 전해졌다. 올트먼 CEO의 발언은 최근 AI 업계에서 고도화된 AI의 위험성을 우려하는 목소리가 잇따르면서 AI의 속도조절에 불을 붙인 것으로 풀이된다. 오픈AI 최고 과학자인 야쿠프 파초키는 최근 “필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다”며 공통의 안전 기준이 마련될 때까지 자발적인 속도 조절이 보편화돼야 한다고 주장했다. 앞서 올트먼도 지난 7월 백악관 관계자들과 AI 개발 속도를 조절할 필요성에 대해 논의한 바 있다. 실제 AI의 사이버 공격 능력이 현실적인 위협으로 부상하면서 우려는 더욱 커지고 있다. 최근 오픈AI의 AI 에이전트들이 서로 협력해 통제 체계를 우회하고 제3자 웹사이트를 공격한 사실이 드러나면서 AI가 인간의 지시를 넘어 자율적으로 사이버 공격을 수행할 가능성에 대한 경고가 확산됐다. AI 업계 내부에서도 속도 조절을 요구하는 목소리가 커지고 있다. 최근 앤트로픽과 오픈AI의 연구원이었던 제이콥 콕슨은 “AI 기업들이 초지능 AI를 향해 경쟁하면서 인류의 안전을 걸고 도박하고 있다”고 비판했다. 지난 7월 말에는 주요 AI 기업 직원 1100명 이상이 AI 개발 속도를 늦출 장치 마련을 촉구하는 청원에 서명하기도 했다. 반면 도널드 트럼프 미국 대통령은 이날 AI로 인한 인류 멸종 가능성에 대해 “전혀 우려하지 않는다”고 밝히며 “AI 경쟁에서 중국에 대해 우위를 유지하는 것이 내겐 더 중요하다”고 상반된 입장을 밝히기도 했다. AI가 초래할 수 있는 위험을 통제하고 핵심 인프라를 보호해야 한다는 요구도 커지고 있다. AI가 공격 도구로 진화할 가능성이 현실적인 문제로 떠오르면서 전력망과 같은 국가 핵심 인프라의 보안이 AI 시대의 새로운 안전 과제로 부상하고 있기 때문이다. 오픈AI는 차기 AI 사이버공격의 표적이 전력망으로 향할 것이라 예상하고 미국 전력회사들과 보안 강화를 논의하고 있다. 미국 정치전문매체 폴리티코에 따르면 올트먼 CEO는 이날 미국 콜로라도주에서 열린 에디슨전기연구소(EEI) 연례회의에서 듀크에너지·엑셀론·서던컴퍼니·넥스트에라에너지 등 주요 전력회사 임원들과 만나 AI를 악용한 전력망 사이버공격 위험을 차단하는 방안을 논의했다. 오픈AI는 자사의 10억달러 규모 사이버보안 사업인 ‘데이브레이크’를 활용해 전력회사들이 AI를 사이버 방어에 활용할 수 있도록 지원하는 방안을 제안했다. 전력망에 연결된 데이터센터의 보안 문제도 논의 대상에 포함됐다. 오픈AI와 전력회사들의 논의는 지난 7월부터 시작됐다. 오픈AI는 당시 12개 유틸리티 기업의 최고정보보안책임자(CISO)를 샌프란시스코 본사로 초청해 전력망 안정성과 보안 문제를 논의했다. 폴리티코는 이 같은 논의가 오픈AI 모델로 만들어진 AI 에이전트들이 연루된 허깅페이스 서버 해킹 사실이 알려진 직후 시작됐다고 전했다.

미국 인공지능(AI) 기업 앤트로픽의 AI 모델 ‘클로드’를 이용해 생물학 무기 개발에 악용될 수 있는 연구를 진행하려던 과학자들의 시도가 차단됐다. 뉴욕타임스(NYT)는 10일(현지시간) 앤트로픽이 최근 공개한 AI 악용 사례 보고서를 인용해 이같이 보도했다. 보고서에 따르면 지난 5월 한 과학자는 군사 연구기관에서 진행할 치쿤구니야 바이러스 돌연변이 연구에 클로드를 활용했다. 치쿤구니야 바이러스에 감염되면 수개월간 심각한 통증 등의 증상이 이어질 수 있다. 이 과학자는 살아 있는 동물에 바이러스를 반복적으로 감염시켜 바이러스의 유해성을 높이는 연구를 추진한 것으로 전해졌다. 이 같은 연구는 백신과 치료제 개발 등에 활용될 수 있지만, 바이러스의 병원성을 높여 생물학 무기로 악용할 위험도 있다. 앤트로픽의 정보 분야 책임자인 제이컵 클라인은 “해당 연구의 목적이 무기 개발인지는 알 수 없다”면서도 “군사기관에서 이 같은 연구를 한다는 것 자체가 우려스럽다”고 말했다. 클로드 사용이 제한된 지역에서 조류인플루엔자 관련 실험을 추진하려던 사례도 적발됐다. 앤트로픽은 국가 안보 우려를 이유로 중국·러시아·이란·북한·쿠바 등에서 클로드 사용을 제한하고 있다. 이들 지역에서 우회 접속을 시도하거나 연구 목적을 숨긴 이용자의 계정은 차단됐다. 앤트로픽은 생물학 무기 등 군사적 목적으로 전용될 가능성이 있는 연구에 대해서도 AI 안전장치를 강화했다고 밝혔다. 생물학 분야를 넘어 AI를 총기와 미사일, 무장 드론 등 재래식 무기의 설계·개발에 활용하거나 반체제 인사를 감시하려 한 사례도 보고서에 포함됐다. 특히 중국에서 3건, 러시아에서 2건, 예멘에서 1건의 재래식 무기 관련 악용 사례가 확인됐다. 중국과 이란 정부와 연계된 것으로 의심되는 세력은 AI를 이용해 반체제 인사와 해외 거주자들을 감시하려 한 것으로 전해졌다. 러시아의 한 국영 매체는 클로드를 활용해 몰도바 선거와 관련한 허위 정보를 독립 언론의 보도인 것처럼 위장하려 한 사례도 확인됐다. 워싱턴 싱크탱크 전략위험위원회(CSR)의 선임연구원 앤드루 웨버는 앤트로픽이 공개한 생물학 연구 사례에 대해 “국가의 지원을 받는 생물학 무기 개발자들이 빠르게 발전하는 AI의 능력을 이용하려 한다는 사실을 보여주는 섬뜩한 사례”라고 평가했다. 이어 “중국과 러시아, 북한이 금지된 생물학 무기를 계속 개발하고 있다는 점을 고려하면 이들 국가의 연구자들이 강력한 AI 모델에 접근하지 못하도록 철저히 막아야 한다”고 지적했다.

김 “대미 투자 협상 마무리하러 와” 미 텍사스 가스복합·원전 8기 유력 WSJ “韓 대미투자 합의 마무리 단계” “트럼프가 거둔 눈부신 성과될 것” 구글·MS·오픈AI 등 빅테크 집결 텍사스 AI 데이터센터 전력 수요 474GW 신청 대미투자 1호 프로젝트가 오는 18일 발표될 예정인 가운데 김정관 산업통상부 장관이 10일(현지시간) 미국에 도착해 하워드 러트닉 미국 상무부 장관을 만나 최종 사인 전 막판 협상을 진행한다. 이재명 대통령의 프랑스 국빈 방문에 동행했던 김 장관은 이날 유럽 일정을 마치고 곧바로 미국으로 이동해 이날 오후 미 뉴욕 인근 뉴어크 리버티 국제공항에 도착했다. 김 장관은 공항에서 기자들과 만나 “지금 진행되고 있는 대미 투자 협상을 마무리하기 위해 왔다”며 “협상 과정에서 그 내용을 마무리하는 게 제 일정”이라고 설명했다. 김 장관은 협상 분위기와 관련해 “협상이 쉽고 어려운 게 어디 있겠느냐”며 “최종 사인하기 전까지 협상은 진행 중이라고 생각한다”고 말했다. 대미투자 1호 프로젝트는 233억 달러(약 30조원) 규모의 텍사스 엔시날 가스복합화력발전소와 1200억 달러(약 161조원) 규모의 미국 내 대형 원전 8기 건설 프로젝트가 유력한 가운데 막바지 조율 작업을 벌이고 있다. 두 에너지 사업은 전체 3500억 달러 규모의 대미 투자 가운데 조선업 협력 프로젝트 1500억 달러를 제외한 2000억 달러의 약 71%에 해당한다. 김 장관은 오는 12일까지 미국에 머물며 러트닉 장관을 비롯해 정부 관계자들을 만나 대미 투자 관련 조율을 이어갈 전망이다. 이날 미 일간 월스트리트저널(WSJ)은 한국 정부가 대미 투자의 첫 사업으로 원자력 발전소 8기, 천연가스 프로젝트 등 에너지 분야에 1000억 달러(약 134조원) 이상을 투자하는 방안을 마련해 합의가 임박했다고 보도했다. 미국 측이 요구한 원전과 관련해 일부 원자로는 미 원전 기업 웨스팅하우스의 AP1000 모델이 거론되며, 한미 양측은 일부 원자로는 한국형 노형인 APR1400로 짓는 방안도 논의해왔다고 전했다. WSJ은 이번 투자가 미국의 인공지능(AI) 전력 공급 등을 지원하게 된다며 “이번 합의는 지난해 관세 공세 후 도널드 트럼프 미 대통령이 거둔 눈부신 성과가 될 것”이라고 평가했다. 지난 9일(현지시간) 블룸버그 통신은 텍사스 전력망을 관리하는 전기신뢰성위원회(ERCOT)가 현재 474기가와트(GW) 규모의 계통연계 신청을 검토하고 있으며 이 가운데 90%가 데이터센터발 신청이라고 보도했다. 1GW가 통상 원전 1기의 발전량인 점을 고려하면 원전 474기에 해당하는 전력 수요로 텍사스 역대 최대 피크 수요의 5배가 넘는다. 현재 텍사스에는 굴지의 빅테크사들이 AI 데이터센터와 각종 전력 프로젝트를 진행하고 있다. 오픈AI·소프트뱅크·오라클의 ‘스타게이트’(애빌린 1.2GW·섀클퍼드·밀럼카운티 3.2GW 추정), 마이크로소프트·셰브런의 ‘프로젝트 킬비’(리브스카운티, 발전용량 2.67GW급), 메타·블랙록 합작(엘패소, 1GW), 엔비디아·아이렌(스위트워터, 2GW), 구글·인터섹트(팬핸들, 1GW 이상) 등이 대표적이다. 여기에 스페이스X의 ‘xAI’와 앤트로픽도 각각 오스틴·배스트럽 일대에서 신규 데이터센터 부지를 검토하고 있어 텍사스의 전력 수요는 당분간 계속 늘어날 전망이다. 미국이 원자력 발전소를 수출하며 설계·건설·운영 경험이 있는 자타공인 ‘원전 강국’ 한국에 다수 원전과 가스복합화력 등 에너지 분야 투자를 요청한 배경이기도 하다. WSJ은 복수의 소식통을 인용, 한·미 양측이 이러한 방안을 놓고 합의 마무리 단계에 들어섰으며 다음 주 발표될 수 있다고 전했다. 다만 WSJ 보도에는 미국이 한국에 강하게 요구한 것으로 알려진 알래스카 액화천연가스(LNG) 프로젝트 관련 협상 여부는 언급되지 않았다. 김 장관은 WSJ 보도 내용을 포함한 협상 내용에 관한 질문에 “구체적인 내용에 대해서는 아직 확인해드릴 수 없다”며 “최종 결과가 나오면 그때 말씀드리겠다”고 답했다. 김 장관은 귀국 후 오는 17일쯤 국회에 대미투자 첫 사업과 관련한 사항을 국회에 보고하고, 이르면 18일 업무협약(MOU)에 최종 서명하는 절차를 밟을 것으로 알려졌다. 한국은 지난해 미국이 한국산 제품에 부과하려던 관세를 25%에서 15%로 낮추는 대신 미국에 총 3500억 달러 규모의 대미 투자와 함께 4년간 1000억 달러 상당의 미국산 에너지를 사주겠다고 약속했다.

미국 인공지능(AI) 기업 오픈AI와 앤트로픽의 AI 에이전트가 시험 과정에서 인간이 설정한 통제 범위를 벗어난 사례가 추가로 드러났다. AI 에이전트의 자율성이 커질수록 통제와 안전장치도 함께 강화해야 한다는 지적이 나온다. 오픈AI의 실험용 AI 에이전트가 개인 홈페이지와 대학이 운영하는 링크 단축 서비스 등 최소 10곳의 다른 웹사이트를 허가 없이 통신 수단으로 이용한 것으로 드러났다고 로이터통신이 9일(현지시간) 보도했다. 앞서 이 에이전트가 독일의 한 위키사이트를 비롯해 AI 개발 플랫폼 허깅페이스에 무단으로 접근한 사실이 알려진 데 이어 추가 확인된 것이다. 연구진은 당초 인터넷 접속을 ‘읽기 전용’으로 제한한 상태에서 AI 에이전트를 테스트했다. 그러나 에이전트는 이런 제한을 벗어나 오래된 위키와 개인 웹사이트, 대학의 인터넷 주소(URL) 단축 서비스 등에서 글을 남길 수 있는 기능을 찾아내 메시지를 남기고 다른 에이전트와 정보를 주고받은 것으로 조사됐다. 허용된 경로로 접근할 수 없게 되자 다른 방법을 스스로 찾아 외부 시스템과 통신한 것이다. 이번 결과는 6개 연구팀이 오픈AI 에이전트의 활동 기록을 조사하는 과정에서 확인됐다. 앤트로픽에서도 별도의 사고가 뒤늦게 확인됐다. 초기 버전 ‘클로드 오퍼스 4.6’이 지난 1월 사이버 보안 테스트 과정에서 실수로 허용된 인터넷 연결을 이용해 외부 시스템에 접근한 사례다. 앤트로픽은 14만여건의 테스트 기록을 재검토하고도 사고를 발견하지 못했다가 지난달 추가 검토 과정에서 이를 뒤늦게 확인했다. 이에 앤트로픽은 미국 비영리 AI 연구기관 미터(METR)에 8주간의 독립적인 외부 조사를 맡기기로 했다. 인간의 통제를 넘어서는 AI에 대해 업계 내부에서도 우려의 목소리가 잇따르고 있다. 앤트로픽 연구원 제이컵 콕슨은 AI가 통제 불능이 돼 10년 내 인류를 멸종시킬 수 있다고 경고하며 지난 8일(현지시간) 사직했다. 앤트로픽의 정렬 과학 총괄인 에번 휴빙거는 콕슨의 우려에 동조하며 “AI가 향후 10년 안에 인류를 멸망시킬 확률이 10%를 넘는다”고 경고했다.

미국 인공지능(AI) 기업 앤트로픽 연구원이 회사를 떠나면서 “10년 안에 AI가 인류를 파멸시킬 수 있다”는 경고를 내놨다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 소셜미디어(SNS) 엑스(X)에 퇴사 사실을 알리며 “지난 3년간 오픈AI와 앤트로픽에서 연구를 진행해 왔는데, 두 회사 모두 책임감 있는 모습을 보이지 않는다”며 이같이 말했다. 올해 초 오픈AI를 떠나 AI 안전을 중시하는 기업으로 알려진 앤트로픽에 합류한 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습시키는 분야를 연구했다. 콕슨은 “(AI 회사들은) 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”며 AI 시스템 구축에 몰두하는 업계 전반의 흐름에 동참하고 싶지 않다고 밝혔다. 그는 “AI를 개발하는 사람들은 AI가 10년 안에 우리를 모두 죽일 수도 있다고 진심으로 믿는다”며 “이건 단순한 마케팅 전략이 아니다”라고 강조했다. 그러면서 “AI 기술의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것”이라고 지적했다. 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다. 콕슨은 미 월스트리트저널(WSJ)과의 인터뷰에서도 같은 경고를 날렸다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 기업들이 서로, 그리고 중국의 신생 기업들과 경쟁하는 상황에서 안전성과의 타협은 피할 수 없는 현실이라는 게 그의 설명이다. 앤트로픽 내부 임원들도 콕슨의 말에 동의했다. 앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 “우리는 진심으로 AI가 모든 인류를 멸망시킬 수 있다고 믿는다. 개인적으로 향후 10년 이내에 그럴 확률이 10%가 넘는다고 생각한다”고 했다. 새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”며 “향후 몇 년 내에 발생할 수 있다”고 지적했다. 콕슨은 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다. 그는 최근 각국 정부가 필요할 경우 인공지능 개발 속도를 늦출 수 있는 국제적 공조 체계를 마련하라고 촉구한 인공지능 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다. AI 안전에 대한 우려로 앤트로픽 직원이 회사를 떠난 것은 콕슨이 처음으로 알려졌다. 올해 초에는 안전 분야를 연구하던 한 연구원이 “세상이 위험에 처해 있다”고 경고하며 시를 공부하기 위해 회사를 떠났다고 WSJ는 전했다.

인간 감시 피한 AI 90년 수학 난제도 88시간 만에 해결 오픈AI의 인공지능(AI)이 인간과 기계를 가르던 경계를 잇달아 넘고 있다. 대학수학능력시험에서 만점 수준의 성능을 보인 최신 모델은 이번에는 컴퓨터 접속자가 사람임을 확인하려 만든 문제를 48단계까지 모두 풀었다. 오픈AI의 더 강력한 내부 모델은 상금 100만 달러(약 13억 3000만원)가 걸린 수학 난제의 해법을 제시했다. AI의 광범위하고 빠른 고도화에 범용인공지능(AGI)에 대한 기대도 커지고 있지만, 인간이 AI를 끝까지 통제할 수 있겠냐는 우려도 확산하고 있다. 오픈AI 개발자 샤리프 샤밈은 8일(현지시간) 엑스(X)에 최신 모델 ‘GPT-6 아스트라’가 캡차(CAPTCHA)를 본뜬 브라우저 게임 ‘로봇이 아닙니다’를 푸는 모습을 공개했다. 캡차는 사람은 알아볼 수 있지만 자동화 프로그램은 풀기 어렵게 문제를 내 접속자가 사람인지 확인하는 방식이다. 아스트라는 일그러진 문자를 읽고 여러 사진에서 신호등이 찍힌 칸을 골랐으며, 비슷한 이미지 속 쿠키와 개도 가려냈다. 48단계를 모두 통과한 뒤에는 ‘인간 증명서’를 받았다. 아스트라는 앞서 한국 수능에서도 전 과목 만점 수준의 결과를 냈다. 오픈AI는 같은 날 인간이 약 90년간 풀지 못한 수학 난제의 해법도 내놨다. 자사 내부 AI가 미국 클레이수학연구소(CMI)의 ‘밀레니엄 7대 수학 난제’ 가운데 하나인 나비에-스토크스 문제를 해결했다고 주장한 것이다. CMI는 2000년 7개 난제에 각각 100만 달러의 상금을 걸었고, 지금까지 공식적으로 해결된 것은 푸앵카레 추측 하나뿐이다. 나비에-스토크스 방정식은 물이나 공기 같은 유체의 움직임을 설명하는 공식으로 일기예보와 항공기·자동차 설계, 혈류 분석 등에 쓰인다. 난제의 핵심은 매끄럽게 흐르던 유체에서도 어느 순간 소용돌이가 걷잡을 수 없이 빨라져 유속 같은 값이 무한대로 치솟는 ‘특이점’이 생길 수 있느냐다. 오픈AI는 165쪽 분량의 논문에서 특정 조건에서는 이런 특이점이 유한한 시간 안에 생길 수 있음을 증명했다고 밝혔다. AI 에이전트 가동 88시간 만에 해법에 도달했고, 아스트라를 이용해 증명 보조 도구 ‘린’(Lean)으로 논리를 검증하는 데 17시간을 더 썼다. 다만 난제 해결로 공식 인정받으려면 수학계의 검증과 CMI의 판단을 거쳐야 한다. 이준상 연세대 기계공학부 교수는 “최종적인 타당성과 학문적 의미는 전문가들의 검증이 필요하지만 AI가 계산 보조를 넘어 인간이 풀지 못한 수학적 난제의 증명을 탐색하고 형식적으로 검토하는 새로운 연구 도구로 발전할 가능성을 보여 준 사례”라고 의미를 부여했다. 이번 오픈AI의 난제 해결 발표 전부터 연구 우선권을 둘러싼 논란도 불거졌다. 이 난제를 앤트로픽 소속 수학자 레벤트 알푀게와 함께 별도로 연구한 트리스탄 벅매스터 뉴욕대 교수는 오픈AI가 양측의 연구 결과를 함께 발표하자며 알푀게를 저자 명단에서 빼달라는 취지의 요구를 했다고 지난 7일 주장했다. 오픈AI는 부인했다. AI 성능이 빠르게 높아지면서 통제 가능성을 둘러싼 우려도 커지고 있다. 오픈AI를 거쳐 앤트로픽에서 AI 모델 학습을 연구해 온 제이컵 콕슨은 최근 회사를 떠나며 인간의 개입 없이 스스로 성능을 높이는 AI가 개발 경쟁 속에서 통제를 벗어날 가능성을 경고했다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 한편 오픈AI 코리아는 이날 출범 1주년 기자간담회를 열고 국내 챗GPT 엔터프라이즈 도입 규모가 1년 새 약 28배 늘었다고 밝혔다. ‘챗GPT 워크’와 코딩 에이전트 ‘코덱스’의 국내 주간 활성 이용자도 6개월 만에 14배 증가했다.

이재명 대통령의 프랑스 국빈 방문을 계기로 삼성전자가 프랑스 인공지능(AI) 기업 미스트랄 AI와 반도체 설계·제조에 특화된 자체 AI 모델을 구축한다. 미스트랄의 30억 유로(약 4조 9000억원) 규모 투자 유치도 주도하며 기술 협력과 지분 투자를 동시에 추진한다. 지난해부터 오픈AI 및 앤트로픽 등 미국 AI ‘빅2’와 전략적 협력을 강화한 데 이어 유럽의 소버린 AI 시장과 차세대 AI 인프라 수요까지 겨냥한 행보로 풀이된다. 이 대통령은 8일(현지시간) 파리에서 열린 한·프랑스 비즈니스 라운드테이블에 참석해 공동의 가치와 신뢰를 바탕으로 한 양국 간 경제협력의 중요성을 강조했다. 행사에는 이재용 삼성전자 회장을 비롯한 양국 기업인 20여명과 정부 관계자 등 총 30여명이 참석했다. 삼성전자는 이날 미스트랄과 전략적 파트너십을 맺고 디바이스솔루션(DS)부문의 반도체 기술·제조 데이터와 미스트랄의 AI 기술을 결합한다고 밝혔다. 양사는 DS부문 데이터에 최적화된 AI 모델을 공동 개발해 데이터 분석과 결함 예측, 공정 최적화에 단계적으로 적용한다. 반도체 업무에 맞춘 AI 플랫폼과 운영 체계도 함께 구축한다. 기술 협력을 장기적인 사업 관계로 이어가기 위한 지분 투자도 단행했다. 삼성전자는 미스트랄의 30억 유로 규모 시리즈D 투자 라운드를 주도했다. 삼성전자의 투자 규모는 1조원 미만인 것으로 알려졌다. EQT가 운용하는 스케일업 유럽 펀드와 기존 투자자인 PSG에쿼티도 공동 주도했다. 미스트랄은 이번 투자로 210억 유로(약 34조원) 이상의 기업가치를 인정받았다. 1년 전 120억 유로의 두 배에 가까운 수준이다. 2023년 설립된 미스트랄은 유럽 기술기업 사상 최대 규모의 지분 투자라고 설명했다. 양사가 공동 개발할 AI의 핵심은 반도체 데이터를 외부로 내보내지 않고 안전하게 활용할 수 있다는 점이다. AI 모델을 외부 클라우드가 아닌 삼성전자의 자체 서버와 데이터센터에 설치해 운영하는 ‘온프레미스’ 방식으로 구축한다. 방대한 공정 데이터를 AI 학습과 분석에 활용하면서도 국가 핵심기술의 유출 위험을 줄일 수 있다. 미스트랄은 고객이 모델을 직접 수정·운영할 수 있는 ‘오픈웨이트’를 강점으로 내세워 왔다. 자체 데이터와 업무 도구, 규제 준수 요건을 유지하면서 AI를 도입할 수 있어 데이터와 인프라를 직접 통제하려는 소버린 AI 수요와 맞닿아 있다. 양사는 이번 투자에 앞서 반도체를 고리로 협력 가능성을 타진해 왔다. 아르튀르 멘쉬 미스트랄 공동창업자 겸 최고경영자(CEO)는 지난 4월 삼성전자 화성캠퍼스를 찾아 전영현 DS부문장과 AI 반도체 공급망 및 기술 협력 방안을 논의했다. 이번 파트너십을 계기로 협력을 메모리와 파운드리, 로직 등 DS부문 전반으로 넓히고 향후 고객사와 협력사까지 연결하는 AI 반도체 생태계를 구축할 계획이다. 미스트랄의 AI 인프라 확대는 삼성전자에 새로운 반도체 공급 기회도 열어줄 수 있다. 미스트랄은 2030년까지 유럽에서 최대 1기가와트(GW) 규모의 소버린 AI 컴퓨팅 용량을 확보할 계획이다. AI 가속기와 데이터센터에 필요한 고대역폭메모리(HBM), D램, 낸드뿐 아니라 파운드리와 첨단 패키징까지 삼성전자의 사업과 접점이 넓다. 미스트랄의 AI를 반도체 제조에 활용하는 동시에 성장에 필요한 반도체를 공급하는 양방향 협력이 가능하다는 의미다. 미스트랄과의 협력은 삼성전자가 글로벌 프런티어 AI 기업들과 넓혀 온 협력 관계의 연장선이기도 하다. 삼성전자는 지난해 10월 오픈AI와 전략적 파트너십을 맺고 대규모 AI 인프라 프로젝트 ‘스타게이트’의 전략적 메모리 파트너로 참여했다. 지난 5월엔 앤트로픽의 시리즈H 투자에 참여해 ‘전략적 인프라 파트너’로 이름을 올렸다. 오픈AI·앤트로픽과 반도체 공급 중심으로 협력했다면, 미스트랄과는 AI를 반도체 연구개발과 제조에 직접 활용하는 데까지 범위를 넓혔다. ASML은 지난해 미스트랄에 13억 유로를 투자해 지분 약 11%를 확보하며 당시 최대주주에 올랐다. 삼성전자도 미스트랄에 투자하는 동시에 이 회사의 AI를 반도체 생산성 향상에 활용한다는 구상이다. 전 부문장은 “미스트랄과 반도체에 특화된 AI 모델과 플랫폼을 구축해 AI 기반 혁신의 새로운 기준을 만들겠다”고 말했다. 멘쉬 CEO도 “AI가 첨단 기술이 만들어지는 방식을 재정의하고 있다”며 반도체 설계·제조 분야의 발전에 기여하겠다고 밝혔다.

사내 7대 핵심 업무부터 AI 적용오픈AI 사이버 보안에 최초 참여내년 로봇 통합 관리 플랫폼 공개2031년까지 AX·RX 10조 투자 삼성SDS가 오픈AI·앤트로픽과 기업용 인공지능(AI) 시장 공략을 강화하고 로봇 기반 제조 혁신으로 영역을 넓힌다. 기업의 AI 전환(AX)을 실제 성과로 연결하고, 로봇 전환(RX)을 새로운 성장축으로 키우겠다는 전략이다. 삼성SDS는 8일 서울 코엑스에서 ‘리얼 서밋 2026’을 열고 ‘다차원 AI 풀스택’ 전략을 공개했다. 이준희 대표는 인프라·플랫폼·솔루션에 컨설팅과 구축·운영 역량을 결합해 고객사의 업무를 AI 중심으로 재설계하겠다고 밝혔다. 사내 7대 핵심 업무에 AI를 먼저 적용하고, 현장전문가(FDE)도 연말까지 200여명 양성한다. 국내 기업 최초로 오픈AI의 사이버 보안 프로그램 ‘데이브레이크’에 파일럿 파트너로도 참여한다. 이를 활용해 고객사의 보안 취약점을 찾고 영향을 검증한 뒤 해결책까지 제시하는 서비스를 개발한다. 지난 7월 손잡은 앤트로픽과는 AI 기술을 고객사의 실제 업무에 시험 적용하고, 이를 토대로 신규 AX 사업을 공동 발굴한다. 행사에서 영상 메시지를 전한 샘 올트먼 오픈AI 최고경영자(CEO)는 “AI 에이전트들이 일터에 합류해 긍정적인 영향을 미치기 시작했다”고 말했다. 최기영 앤트로픽코리아 대표는 엔지니어 3명이 8주 만에 제품 베타 버전을 만든 사례를 들어 AI가 소수 인력의 실행력을 높인다고 설명했다. 삼성SDS는 디지털 영역의 AX에 이어 제조 현장을 겨냥한 로봇 전환(RX)을 새로운 사업축으로 제시했다. RX는 공장에 로봇을 배치하는 데 그치지 않고 AI로 로봇의 작업 능력을 계속 높이며, 여러 로봇과 생산설비를 연계해 제조 현장 전체를 지능화하는 개념이다. 삼성SDS는 25년간 430여개 기업의 제조 자동화를 지원하며 쌓은 경험을 RX 사업에 활용한다. 이를 토대로 2027년 생산설비와 여러 로봇을 통합 관리하는 ‘로봇 오케스트레이션 플랫폼’을 선보이고, 월든 로보틱스 등 피지컬 AI 기업 10곳과 제조 현장에 적용할 사례를 발굴할 계획이다. 러스 테드레이크 월든 최고경영자(CEO)는 “로봇이 생산현장에서 성과를 내려면 고객과 작업에 대한 깊은 이해와 대규모 구축 역량이 필요하다”며 삼성SDS와의 협력에 기대감을 나타냈다. 삼성SDS는 AX·RX와 물류 사업을 키우기 위해 2031년까지 총 10조원을 투자할 계획이다. 이 대표는 AX 분야의 유망 기술과 함께 RX 분야에서는 로봇의 범용 두뇌 역할을 하는 로봇 파운데이션 모델 관련 기업에 대한 지분 투자를 검토하고 있다고 밝혔다.

오픈AI가 보안 등급 ‘위험’(Critical) 단계로 평가된 새 AI 모델 ‘아스트라’를 공개했다. 오픈AI는 아스트라가 인간이 컴퓨터로 할 수 있는 대부분의 업무를 대신할 수 있다며 사실상 범용인공지능(AGI) 시대의 시작을 선언했다. 다만, 해킹 등 악용 가능성이 확인된 모델을 상용화하면서 ‘강력한 AI를 어디까지 허용할 것인가’에 대한 우려도 커지고 있다. 오픈AI는 한 달여 전부터 출시를 예고했던 AI 모델 ‘GPT-6 아스트라’를 3일(현지시간) 정식으로 공개했다. 그레그 브록먼 오픈AI 사장은 이 모델이 “인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다”고 밝혔다. 대부분의 작업을 인간 이상 수준으로 해낼 수 있는 AGI의 초기 버전으로 간주하는 것이 타당하다고 덧붙였다. 오픈AI는 아스트라가 인간이 작업했을 때 30분가량 소요되는 애완동물 위탁 돌봄 검색을 5분 27초 만에 완수했다. 인간이 5시간을 할애해야 하는 구직 정보 검색은 2분 51초 만에 끝마쳤다고 소개했다. 코딩 능력을 측정하는 ‘터미널-벤치 4.0’, ‘딥SWE v1.1’ 등 성능 지표(벤치마크)에서는 최근 출시된 라이벌 앤트로픽의 클로드 페이블5.1을 능가하는 점수를 기록하는 등 수치로 성능을 입증하기도 했다. 그러나 모델의 성능이 높아지면서 사이버 보안 관련 위험성도 그만큼 높아졌다. 오픈AI는 아스트라의 위험성을 인정하면서도 통제할 수 있는 안전장치를 마련했으니 제한적으로 출시한다는 입장이지만 도의 사이버 공격 능력을 갖춘 AI의 상용화에 대한 우려는 과제로 남을 것으로 보인다. 앞서 아스트라는 오픈AI의 모델 가운데 처음으로 사이버 보안 평가에서 ‘위험’ 등급을 받았다. 인간이 명시적인 가이드라인을 주지 않아도 AI 스스로 취약점을 발견해 공격 도구를 만들 수 있다는 뜻이다. 특히 아스트라는 자신의 사고 과정(CoT)을 완벽하게 숨기거나 통제해 인간의 감시를 회피하는 능력도 강화됐다고 오픈AI는 밝혔다. 감시를 우회해야 하는 상황에서는 고의로 오답을 내 평가자를 속이거나, 부적절한 행위를 은폐하기도 한다는 것이다. 오픈AI는 이에 따라 모델의 사고 과정뿐 아니라 모델이 인간의 뜻에 맞게 동작하는지를 지켜보는 정렬(Alignment) 감시 기능을 추가 도입했다고 설명했다. 또 오픈AI는 아스트라의 해킹 능력을 방어 목적으로 전환하고 오용 위험을 줄이기 위해 역대 최대 규모인 10억 달러(약 1조 3500억원) 규모의 사이버 보안 방어 보조 프로그램 ‘최전선 방어자를 위한 데이브레이크’를 동시에 발표했다.

글로벌 인공지능(AI) 패권 경쟁이 격화하면서 경쟁 관계인 기업들이 이해관계에 따라 손을 잡거나 기존 동맹에 균열이 생기는 ‘합종연횡’이 본격화하고 있다. AI 모델 개발 경쟁을 넘어 클라우드와 반도체 등 AI 생태계 전반에서 주도권 경쟁이 치열해지면서 기업 간 협력과 경쟁의 경계도 빠르게 허물어지는 모습이다. 오픈AI는 29일(현지 시간) 스페이스X가 인수한 AI 코딩 도구 ‘커서’에 자사 AI 모델 공급을 중단하겠다고 스페이스X에 통보했다. 오픈AI는 계약 종료 통지 기한을 꽉 채운 11월 12일을 계약 종료일로 지목하며 일론 머스크 스페이스X 최고경영자(CEO)가 이끄는 기업들이 과거 계약을 위반한 전력을 문제 삼았다. 머스크는 곧장 엑스(X)에서 오픈AI의 샘 올트먼 최고경영자(CEO)와 그레그 브록먼 사장을 겨냥해 “‘사기꾼 올트먼’과 ‘그레그 주식맨’은 개방형(오픈소스) 비영리 단체를 훔친 도저히 믿을 수 없는 놈들”이라며 비난했다. 그간 스페이스X의 자회사 xAI의 자체 AI 모델 훈련과 애플의 알고리즘 조작 의혹 등을 두고 법정 공방과 공개 설전을 벌였던 올트먼 CEO와 머스크 CEO의 공방이 재점화한 것이다. 여기에 오픈AI의 경쟁사인 앤트로픽이 뛰어들면서 복잡한 합종연횡 구도가 드러났다. 앤트로픽의 톰 브라운 공동창업자는 “커서에 클로드 모델을 제공하기 위해 연산 자원을 지속적으로 확대할 것”이라고 밝혔다. 오픈AI 모델이 빠진 빈자리를 차지해 개발자 시장에서 클로드의 영향력을 확대하겠다는 의도다. 스페이스X 역시 xAI를 통해 ‘그록’을 개발하고 있어 앤트로픽과 경쟁 관계지만, 오픈AI를 견제하려는 두 기업의 이해관계가 맞아떨어진 것이다. 이 같은 빅테크들의 ‘적과의 동침’ 사례는 심심치 않게 나타나고 있다. 대표 사례가 서로를 비판하면서도 서로의 주요 고객이기도 한 메타와 앤트로픽이다. 마크 저커버그 메타 CEO는 지난 10일 에세이 ‘미래는 모두의 것’에서 “한 기업만이 초지능을 보유한다면 오늘날보다 덜 역동적이고 번영을 누리지 못할 것”이라며 폐쇄형 AI 기업인 앤트로픽을 저격했다. 이를 두고 뉴욕타임스는 “메타는 앤트로픽의 최대 고객사로서 앤트로픽의 성장에 큰 도움을 줬다”고 지적했다. 오랜 동맹이었던 마이크로소프트(MS)와 오픈AI의 관계도 역동적이다. MS는 오픈AI에 클라우드를 사실상 독점 공급했으나 현재는 코파일럿 등 자체 AI 모델을 개발하며 경쟁을 하고 있다.

오픈AI와 앤트로픽, 구글, 마이크로소프트(MS) 등 세계 주요 기업과 기관들이 인공지능(AI)을 활용한 사이버 공격이 수개월 안에 더욱 광범위하고 정교해질 것이라며 공동 대응을 촉구했다. 오픈AI와 앤트로픽, 구글, 마이크로소프트(MS) 등 120여개 기업과 기관은 27일(현지시간) 오픈AI 홈페이지를 통해 사이버 방어 강화를 촉구하는 공동서한을 발표했다. 아마존웹서비스(AWS)와 IBM, 브로드컴 등 기술기업뿐 아니라 크라우드스트라이크·팔로알토네트웍스 등 보안업체, 비자·마스터카드·캐피털원 등 금융사도 참여했다. 최근 오픈AI의 AI 에이전트가 보안 평가 도중 통제를 벗어나 시스템을 침해했던 허깅페이스도 서명 명단에 이름을 올렸다. 이들은 “사이버 방어를 강화할 수 있는 시간은 제한돼 있다”며 “전 세계 AI 모델의 성능이 향상되면서 AI 기반 사이버 공격이 향후 수개월간 훨씬 더 광범위하고 정교해질 것”이라고 경고했다. 병원과 정수시설, 인터넷 기반시설 등 시민 생활에 필수적인 시설이 주요 위험에 노출돼 있다고 지적했다. 기존의 보안 체계만으로는 이런 위협에 대응하기 어렵다는 것이 해당 기업들의 판단이다. 장기간 방치된 소프트웨어 결함과 과도한 접근 권한, 취약한 인증 방식, 보안 패치가 이뤄지지 않은 노후 시스템이 공격 통로가 될 수 있어서다. 특히 인력과 예산이 부족한 필수 기반시설에 보안 도구와 전문인력을 집중적으로 지원해야 한다고 주장했다. 각국 정부에는 사이버 위협 정보 공유와 사고 대응을 위한 국제 공조를 강화하고, 병원·상하수도 시설·지방정부 등에 예산을 우선 지원할 것을 요구했다. 검증된 기관이 일반 공개 전 고성능 AI 모델을 활용할 수 있도록 ‘신뢰 기반 접근 프로그램’을 확대하고, 공격자에게는 제재 등 실질적인 대가를 부과해야 한다고 했다. 최첨단 AI 개발사에는 필수 기반시설을 방어하는 인력에게 모델 접근 권한과 교육, 자금·기술을 제공하도록 주문했다. AI 에이전트의 활동 주체를 식별하고 추적할 수 있는 장치를 마련하고, 각국 정부와 보안업체에 위협 정보와 대응 도구를 공유해야 한다는 제안도 담겼다. AI가 공격 수단뿐 아니라 방어 도구가 될 수 있다는 점도 강조했다. 서명 기업들은 AI를 활용하면 취약점을 더 빠르게 찾고 수정할 수 있다며 “단호하게 행동한다면 디지털 세계를 훨씬 안전하게 만들 수 있다”고 밝혔다. 이번 서한은 오픈AI가 자체 AI 모델의 허깅페이스 침해 사건을 공개한 다음 날 나왔다. 오픈AI에 따르면 지난 7월 내부 사이버 보안 평가를 받던 AI 에이전트들은 인터넷과의 연결을 차단하는 통제 장치를 우회한 뒤 오픈AI 연구 인프라와 허깅페이스 시스템에 침입했다. 허깅페이스 서버 여러 대에서 코드를 실행하고 일부 비공개 데이터와 내부 계정 정보를 확보한 것으로 조사됐다. 외부 평가기관인 모델평가·위협연구소(METR)는 서로 격리돼 있어야 할 AI 에이전트 약 1200개가 비인가 게시판을 만들어 7만건이 넘는 메시지와 파일을 주고받았다고 분석했다. 이 가운데 약 700개가 허깅페이스 공격에 참여했다. 다만 당시 에이전트는 일반에 제공되는 서비스보다 안전장치를 줄인 내부 시험환경에서 작동했으며, 고객 데이터와 오픈AI의 제품·서비스에는 피해가 없었다고 회사는 밝혔다.

- 8월 27일부터 3주간, 추첨 통해 에어팟 프로 3 ·신세계 상품권 등 경품 제공 인공지능(AI) 전문기업 메인라인이 자사의 통합 AI 플랫폼 ‘AIFuze(AI퓨즈)’ 이용자를 대상으로 8월 27일부터 3주간 ‘사용 인증 이벤트’를 진행한다고 밝혔다. AIFuze는 오픈AI의 GPT, 앤트로픽의 클로드(Claude), 구글의 제미나이(Gemini), 퍼플렉시티(Perplexity) 등 50여 종의 AI 모델을 단일 플랫폼에서 지원하는 오케스트레이션 기반 통합 AI 서비스다. 사용자는 여러 모델을 자유롭게 선택해 활용할 수 있으며, 질문 목적과 상황에 맞춰 최적의 모델이 자동으로 지정돼 답변을 도출하는 것이 특징이다. 이번 이벤트는 AIFuze에 가입한 회원이라면 누구나 참여할 수 있다. AIFuze의 다양한 메뉴를 자유롭게 사용하고 화면을 캡처해 구글 폼을 통해 제출하면 응모가 완료되며, 추첨을 통해 에어팟 프로 3, 신세계상품권, 올리브영 1만 원권 등 경품을 제공한다. 당첨자는 이벤트 종료 후 추첨을 거쳐 개별 안내할 예정이다. AIFuze는 단순히 여러 AI 모델을 모아 둔 서비스가 아니다. 사용자의 요청에 따라 최적화된 AI 모델을 자동으로 선택해 답변하는 AI 채팅은 물론, 가상의 AI 전문가들이 모여 주제별 토론을 진행하는 썰, 2~4개 모델의 답변을 한 화면에서 비교하고 원하는 답변으로 대화를 이어 갈 수 있는 멀티채팅, 한 줄 입력만으로 여러 단계의 작업이 자동 설계되고 실행되는 스마트플로우까지 다양한 기능을 제공하고 있다. 이런 기능들을 활용해 사용자가 자신의 업무 스타일과 관심 분야에 맞춰 AI를 적극적으로 사용하고 최적의 답변을 확인할 수 있다. 회사 관계자는 “이번 이벤트를 계기로 더 많은 사용자가 AIFuze를 통해 다른 AI 서비스를 이용하며 겪었던 어려움을 해결할 수 있기를 기대한다”며, “앞으로도 최신 AI 모델을 지속적으로 확대하고 기능을 고도화해, 개인 사용자부터 기업 고객까지 각자의 목적에 맞게 AI를 활용할 수 있는 통합 AI 플랫폼 서비스를 발전시켜 나갈 계획”이라고 밝혔다.

러시아의 인공지능(AI) 자율형 드론이 우크라이나 전장에 처음 투입되자마자 민간인이 사망한 사실이 처음 확인됐다. 뉴욕타임스의 24일(현지시간) 보도에 따르면 지난달 6일 우크라이나 남동부 자포리자의 한 주유소 인근에 러시아 소형 드론이 추락해 폭발했다. 해당 공격으로 자포리자국립대에서 회계학을 공부하던 민간인 3명이 숨진 것으로 확인됐다. 드론 전문가와 우크라이나군 지휘관, 잔해를 조사한 감식팀은 해당 드론이 인간 조종사가 아닌 실험용 AI 시스템의 유도를 받은 것으로 판단했다. 정확한 사용 경로를 보면 인간 운용자(러시아군)가 공격 발생 지역인 주유소까지 이동하도록 직접 경로를 입력했다. 다만 드론이 현장에 접근한 후부터는 드론이 프로판가스 탱크로 추정되는 공격 대상을 스스로 고른 것으로 추정된다. 러시아군 드론이 공격 대상으로 프로판가스 탱크를 정확히 인지한 것인지, 민간인을 프로판가스 탱크로 잘못 인지한 것인지는 확인되지 않았다. 우크라이나 당국은 드론 잔해를 분석한 결과 내부에서는 엔비디아의 ‘젯슨 오린’ 미니컴퓨터가 발견됐으며 외부에는 통신을 위한 안테나가 없었다. 조사관들은 엔비디아 칩에 입력된 지형 이미지와 프로그램 코드를 확인했고, 코드에는 드론이 인식하고 공격하도록 학습된 표적 유형이 담겨 있었다. 프로판가스 탱크는 학습된 표적 유형 중 하나였다. “AI 탑재한 드론의 첫 민간인 사망 사례”워싱턴 전략국제문제연구소(CSIS) 산하 와드와니 AI센터의 카테리나 본다르 선임연구원은 NYT에 “이번 사건은 자체 표적 설정 AI를 탑재한 러시아 드론으로 민간인 사망자가 발생한 첫 문서화된 사례”라고 밝혔다. 이어 “엔비디아 모듈이 러시아가 자율형 AI를 실험하고 있었다는 사실을 보여주는 ‘가장 확실한 증거‘”라고 평가했다. 현재 전장에서 빠질 수 없는 필수 무기로 꼽히는 드론의 상당수에는 AI 기능이 탑재돼 있다. 대부분은 인간 조종사가 표적을 미리 정한 뒤 공격 직전 마지막 단계에서 AI가 활용된다. 그러나 이번에 사용된 러시아군의 AI 드론은 완전 자율형 드론으로, 최종 표적을 선정하는 과정에서도 인간의 선택을 배제했다. 이미지 수천 장을 학습한 AI가 드론 카메라에 포착된 물체를 공격해 공격 여부를 결정하는 방식이다. 우크라이나 하르키우항공연구소의 드론 전문가 바딤 쿠시니코우는 민간인 3명을 숨지게 한 러시아군 드론에 대해 “가상현실에서 특정 물체를 추적하도록 훈련된 사전 프로그래밍 장치”라고 설명했다. AI 드론의 위험성 어느 정도?전문가들은 자율형 AI 드론이 전파를 이용한 원격 조종이 필요 없어 전파 방해도 받지 않을뿐더러 미리 입력된 좌표를 타격하는 무기보다도 정확도가 높다고 설명한다. 러시아군이 활용한 것으로 추정되는 이번 AI 드론에도 안테나는 보이지 않았다. 드론 조종사를 따로 배치할 필요도 없어 전쟁 장기화로 전문 인력이 특히 부족한 러시아 입장에서 활용도가 높다. 일각에서는 AI가 공격 직전 주변 상황을 판단하는 기능이 있는 만큼, 일반 포탄보다 민간인의 희생을 줄이는 데 영향을 줄 수 있다고 반박한다. 그러나 대다수의 전문가들은 AI가 민간인과 전투원 또는 민간 시설과 군사 시설을 제대로 구분하지 못할 경우 오인 공격으로 이어질 수 있다고 지적한다. 아무리 방대한 데이터를 AI로 학습시키더라도, 현자의 특수 상황 등을 미리 예측하기란 어렵기 때문이다. 더불어 AI 드론이나 무기가 민간인을 사망에 이르게 했을 때 이에 대한 법적 책임을 어떻게 물게 할지 여부도 불분명하다. 국제적십자위원회는 AI나 자율무기 자체에 법적 책임을 전가할 수 없다는 점을 강조해 왔다. 국제인도법상 공격에 관한 법적 판단과 책임은 인간에게 있으며 기계나 소프트웨어, 알고리즘이 인간의 법적 책임을 대신할 수 없기 때문이다. “킬러 로봇 안 돼” 유엔도 한 목소리현재 유엔은 킬러 드론을 포함해 인류의 안전을 위협하는 치명적 자율무기(LAW)의 전면 금지를 주장하고 있다. 지난달 안토니우 구테흐스 유엔 사무총장은 스위스 제네바에서 열린 인공지능(AI) 거버넌스 회의 연설을 통해 “인간의 통제와 판단 없이 기계가 스스로 목표물을 선정·타격해 인간의 목숨을 빼앗는 것은 도덕적으로 혐오스러운 일”이라고 강조했다. 이어 “이러한 무기들을 본질 그대로 ‘킬러 로봇’이라 부르자. 이 킬러 로봇을 국제법으로 완전히 금지해야 한다”고 주장했다. 민간용으로 개발된 AI 시스템과 반도체 칩이 우크라이나 전쟁 등 실제 전장에서 활용되고, 전쟁 중이 아닌 국가에서도 군 지휘부가 전방위로 도입하면서 군대가 AI를 어느 수준까지 활용해야 하는지를 두고 논쟁이 가열되는 분위기다. 앞서 미국 AI 기업 앤트로픽은 미 국방부에 자사 AI 모델을 민간인 감시나 자율무기 시스템에 사용하지 않겠다는 보장을 요구했다가 국방부와의 계약을 일방적으로 파기당했다. 당시 앤트로픽의 AI 시스템을 활발히 사용하던 국방부는 “모든 합법적인 목적에 AI를 사용할 수 있어야 한다”며 업체의 요구를 거부했고, 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다. 결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 챗GPT를 개발한 오픈AI가 차지했다. 해당 사건은 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리로 이어졌다. 도덕적 논란의 중심에 선 방산업체AI 업체와 더불어 해당 논란의 중심에는 방산업체가 있다. AI와 자율주행, 센서 기술을 활용한 무기체계 개발이 미래 방산 시장의 핵심 분야로 떠오르면서 주요 방산기업들은 자율 기능을 갖춘 드론, 무인전투차량, 자율잠수정 등 다양한 무기체계를 개발하고 있다. 일부 방산업체는 해당 기술이 병력 손실을 줄일 수 있을 뿐 아니라 국방력을 강화할 수 있다고 주장하지만, 구테흐스 사무총장 등 ‘킬러 로봇’을 반대하는 쪽에서는 방산업체의 기술 개발 경쟁이 자율살상무기 확산을 부추길 수 있다고 비판한다. 킬러 로봇 논쟁이 단순한 기술 문제를 넘어 국가 안보, 국제법, 윤리, 그리고 방위산업의 이해관계가 복합적으로 얽힌 국제적 쟁점으로 평가되는 상황에서, 방산업체의 고민은 차세대 무기 기술 개발을 지속해야 한다는 요구와 자율살상무기 확산에 대한 국제사회의 우려를 동시에 고려해야 한다는 점에 있다.

엔비디아가 오픈웨이트(개방형 가중치) 인공지능(AI) 모델 구축을 위해 코딩 전문 AI 스타트업인 ‘풀사이드’와 60억 달러(약 8조 3000억원) 규모의 라이선스 계약을 체결했다. 중국의 인공지능(AI) 굴기에 맞서 AI 소프트웨어 개발에 속도를 내는 모습이다. 월스트리트저널(WSJ)은 22일(현지 시간) 엔비디아가 풀사이드에 60억 달러를 지급하고 엔지니어 100여 명도 전원 자사로 영입해 자체 개발 중인 오픈웨이트 AI ‘네모트론’에 투입한다고 밝혔다. 추가로 10억 달러를 투자해 별도 지분도 확보했다. 풀사이드는 2023년 깃허브 출신 개발자 제이슨 워너 등이 설립한 스타트업으로, 정부·국방 분야의 코딩 자동화 AI ‘라구나S’로 주목받았다. 오픈웨이트 AI는 구조와 데이터, 가중치 등을 완전히 개방하는 ‘오픈소스’와 폐쇄형 AI 모델의 중간 형태로, 운영비가 저렴하고 맞춤화가 쉽다는 장점이 있다. 이는 딥시크, 문샷AI 등 빠르게 확대되고 있는 중국의 AI 기술에 맞서 개방형 모델을 통해 미국 주도의 AI 가치사슬을 확장하기 위한 전략으로 풀이된다. 미스트랄, 퍼플렉시티 등과 개방형 모델 협의체 ‘네모트론 연합’을 출범시킨 젠슨 황 엔비디아 최고경영자(CEO)는 지난달 “미국의 AI 리더십은 개방적 생태계 확산 여부로 판가름 난다”고 강조한 바 있다. 엔비디아는 퍼플렉시티에 추가 지분 투자도 논의 중인 것으로 알려졌다. 다만 시장에선 엔비디아가 사실상 기업결합 심사를 우회하는 방식으로 풀사이드를 흡수했다는 비판도 제기된다. 블룸버그통신은 이번 계약이 지난해 12월 반도체 스타트업 ‘그록’의 설계 기술을 200억 달러에 비독점 제휴한 방식과 유사하다고 지적했다.

생성형 인공지능(AI) 모델 ‘클로드’를 개발·운영하는 앤트로픽이 기업 가치 2조 달러(약 2780조 원)를 목표로 기업공개(IPO)를 추진하는 것으로 전해졌다. 계획대로 상장에 성공하면 일론 머스크의 우주 기업 스페이스X를 넘는 역대 최대 규모의 IPO 기록을 세우게 된다. 앤트로픽의 상장 주관사들은 최근 잠재적 투자자들과 1000억 달러(약 139조 원) 이상을 조달하는 방안을 논의했다고 뉴욕타임스(NYT)가 21일(현지 시간) 소식통을 인용해 보도했다. 이 과정에서 앤트로픽의 기업 가치는 최대 2조 달러로 평가될 수 있는 것으로 전해졌다. 기존 기록은 지난 6월 상장한 일론 머스크의 우주 기업 스페이스X다. 스페이스X는 상장 당시 기업 가치 1조 7700억 달러(약 2457조 원)를 인정받았고, 857억 달러(약 119조 원)를 조달했다. 앞서 앤트로픽은 올해 비공개 자금 조달 과정에서 9000억 달러(약 1250조 원)의 기업 가치를 인정받았다. 지난달 월간 매출 기준 연 환산 매출이 650억 달러(약 90조 원)를 넘어서며 기업 가치가 급등했다. 이는 지난해 말 90억 달러(약 12조 5000억 원)에서 7개월 만에 7배 이상으로 늘어난 것이다. 다만 투자자들은 상대적으로 저렴한 ‘오픈 웨이트’ AI 모델이 확산하는데 앤트로픽이 비싼 이용료를 받으며 높은 수익을 유지할 수 있을지 주목하고 있다. 국내에서는 장부가액 총 3조 5050억원가량(약 386만 주)의 앤트로픽 주식을 보유한 SK텔레콤이 수혜 기업으로 꼽힌다. 이밖에 네이버와 LG CNS는 사업 협력 관점에서 수혜가 예상된다.

기업공개(IPO)를 앞둔 인공지능(AI) 기업 앤트로픽이 폭발적인 성장세를 등에 업고 증시 입성을 준비하고 있습니다. 올 2분기 잠정 매출은 1년 전보다 15배 가까이 급증한 데다 조정 영업이익도 흑자로 돌아섰는데요. 투자업계에서는 앤트로픽의 기업가치가 최대 2조 달러(약 2827조원)에 달할 수 있다는 장밋빛 기대를 내놓고 있습니다. 스타트업으로 출발한 AI 기업이 상장과 동시에 글로벌 시가총액 6위 자리를 노리게 되는 셈이라 시장에서도 파격적인 관전 포인트로 주목받고 있습니다. ‘2조 달러’ 몸값 기대…글로벌 시총 6위 넘보나이르면 올가을로 예상되는 IPO가 성사되면 앤트로픽은 대형 비상장 AI 기업 가운데 처음으로 증시에 입성하는 사례가 될 전망입니다. 상장을 통해 추가 자본을 확보하게 되면 갈수록 늘어나는 컴퓨팅 인프라 비용을 감당하고 고성능 하드웨어를 구비하며 전용 데이터센터를 구축하는 데 필요한 막대한 자금 여력을 갖추게 됩니다. 이에 대해 알레프 인베스트먼트의 데이비드 머클은 “앤트로픽이 2조 달러(약 2830조원)에 달하는 기업가치를 인정받을 가능성이 있다”면서도 “다만 이러한 고평가가 장기적으로 유지될 수 있을지는 두고 봐야 한다”고 분석했습니다. 만일 앤트로픽이 2조 달러의 기업가치를 인정받게 되면 글로벌 시가총액 5대 기업(엔비디아·애플·마이크로소프트·알파벳·아마존) 뒤를 바짝 추격하며 단숨에 6위 기업으로 뛰어오르게 됩니다. 오픈AI 제친 몸값…SEC에 상장 신고서 제출앤트로픽은 2021년 오픈AI 출신 연구자와 경영진들이 독립해 설립한 회사로, 현재는 오픈AI의 가장 강력한 라이벌로 꼽힙니다. 지난 5월 말에는 9650억 달러(약 1360조원)의 기업가치로 투자 유치를 마무리하며, 3월 말 기준 8520억 달러(약 1200조원)로 평가받은 오픈AI를 앞지르기도 했습니다. 앤트로픽이 시장에서 본격적으로 주목받기 시작한 것은 지난 6월 미국 증권거래위원회(SEC)에 상장 신고서를 비공개로 제출하면서부터입니다. 아직 공식적인 상장 시점은 아직 공개되지 않았지만 앤트로픽 경영진은 일부 투자자들과 사전 접촉을 이어가며 상장 준비에 속도를 내고 있는 것으로 알려졌습니다. CNBC에 따르면 최근 크리슈나 라오 최고재무책임자(CFO)가 주도한 투자자 미팅은 원론적인 수준에서 진행됐습니다. 아직 구체적인 재무 숫자나 기업가치까지 논의되지는 않았으며, 클로드 AI 모델군과 인기 코딩 도구 ‘클로드 코드’의 개발 과정, 기업 시장에서의 입지, 주요 경영진 현황 등 큰 틀의 주제들이 주로 다뤄진 것으로 전해졌습니다. 2분기 매출 15배 급증…흑자 전환도 성공이처럼 투자자들의 관심이 쏠리는 가운데 실적 성장에 대한 기대감도 한층 높아졌는데요. 블룸버그통신에 따르면 앤트로픽의 최근 2분기 잠정 매출은 115억 달러(약 16조 2500억원) 이상을 기록했습니다. 지난해 같은 기간 매출 7억 8700만 달러(약 1조 1100억원)와 비교해 15배 가까이 급등한 수치입니다. 올해 1분기 매출 47억 3000만 달러(6조 6800억원)와 비교해도 실적이 2배 이상 뛰었죠. 또한 2분기에는 조정 영업이익 기준 흑자 전환에 성공했다는 내용도 확인됐습니다. 다만 이 수치들은 잠정치여서 향후 최종 집계 과정에서 변동될 수 있습니다. 이 같은 매출 성장세는 오픈AI와의 기업 고객 유치 경쟁 속에서 이뤄낸 성과입니다. 특히 코딩 업무에 앤트로픽 소프트웨어를 도입하는 개발자들이 늘어난 점이 주요 성장 동력으로 꼽힙니다. 앤트로픽의 연환산 매출은 지난 5월 기준 470억 달러(약 66조 5760억원)를 돌파했는데요. 2025년 한 해 전체 매출인 약 100억 달러(14조 1650억원)와 비교하면 괄목할 만한 상승세로 평가됩니다. 한편 경쟁사인 오픈AI 역시 대규모 IPO를 준비 중입니다. 앤트로픽이 상장 신고서를 제출한 뒤 오픈AI도 비공개로 같은 절차를 밟았으나, 6월 말 기준으로는 아직 사전 투자자 미팅이나 공식 상장 일정을 진행하지 않은 상태입니다.

개발자·기업용 전략에 실적 개선오픈AI는 56조원… 작년 말 2배생성형 인공지능(AI) 업체 앤트로픽이 매출을 1년 새 14배 이상 늘리고 창사 이후 처음으로 분기 영업흑자를 냈다. 오픈AI도 매출이 빠르게 늘면서 상장을 준비하는 AI 양강의 경쟁이 모델 성능을 넘어 수익성과 기업가치 경쟁으로 옮겨가는 모습이다. 블룸버그의 15일(현지시간) 보도에 따르면 앤트로픽의 2분기 매출은 115억 달러(약 16조 2000억원) 이상으로 지난해 같은 기간의 14.6배로 늘었다. 1분기(47억 3000만 달러)와 비교해도 두 배를 웃돈다. 비용 일부를 제외하고 산정한 조정 영업이익도 창사 이래 처음 흑자를 냈다. 가파른 성장세는 기업·개발자 시장에서 나왔다. 앤트로픽은 개발자용 ‘클로드 코드’와 기업용 AI 에이전트를 앞세워 코딩과 문서 작성, 데이터 분석 등 업무 현장을 파고들었다. 기업이 AI를 실제 업무에 반복적으로 활용하도록 한 전략이 매출 증가와 수익성 개선으로 이어진 것이다. 지난 5월 기준 연환산 매출은 470억 달러를 넘어섰다. 연환산 매출은 최근 매출 흐름이 1년간 이어진다고 가정해 환산한 수치다. 오픈AI는 챗GPT의 방대한 이용자 기반을 수익으로 연결하는 데 속도를 내고 있다. 블룸버그는 전날 소식통을 인용해 오픈AI의 연환산 매출이 400억 달러(약 56조 6000억원)를 넘었고 지난해 말의 약 두 배로 늘었다고 전했다. 챗GPT 유료 구독을 바탕으로 코딩과 기업용 서비스까지 사업을 넓혔고 초기 단계인 광고도 새 수익원으로 키우고 있다. 지난 6월 챗GPT의 주간활성이용자는 9억명을 넘어 소비자 시장에서는 여전히 오픈AI의 우위가 뚜렷하다. 기업 고객을 깊게 파고든 앤트로픽과 대규모 이용자 저변을 여러 수익원으로 확장하는 오픈AI의 성과는 상장을 앞두고 더욱 주목받고 있다. 로이터에 따르면 앤트로픽은 투자자들에게 2028년 매출을 1900억~2000억 달러로 제시했으며 이 전망이 향후 기업가치를 산정하는 주요 기준이 되고 있다. 오픈AI는 지난 6월 미 증권거래위원회(SEC)에 비공개 상장신청서를 제출했다. 다만, 이들 기업에서 매출 증가와 함께 컴퓨팅 비용도 함께 증가하고 있어 이익률 개선 시점이 언제 올지가 관건이다.

한국투자금융그룹이 투자와 육성, 해외 진출 지원을 아우르는 스타트업 지원 체계를 강화하고 있다. 12일 한국투자금융그룹에 따르면 자회사 한국투자증권은 한국투자액셀러레이터, 한국투자파트너스 등 그룹 계열사와 협력해 창업 초기 투자부터 후속 투자, 글로벌 진출까지 기업 성장 단계별 지원 프로그램을 운영한다. 특히 한국투자증권은 자립준비청년의 창업과 경제적 자립을 돕기 위한 ‘한국투자 드림 셰르파’를 출범해 5개팀을 선발했다. 선발팀에는 최대 2000만원의 사업 지원금과 함께 전담 퍼실리테이터(조력자)의 1대1 멘토링, 세무·회계 컨설팅, 팝업스토어 운영 기회 등을 제공한다. 기술 기반 스타트업의 해외 진출 지원도 강화하고 있다. 한국투자액셀러레이터는 지난달 미국 오리건 UAS 액셀러레이터와 업무협약을 체결하고 국내 방산·드론 스타트업의 미국 시장 진출을 지원하기로 했다. 또한 지난 6월에는 글로벌 AI 기업 앤트로픽, 소프트웨어 개발 플랫폼 레플릿과 공동으로 스타트업 해커톤을 개최했으며, 앞서 3월에는 마이크로소프트와 함께 포트폴리오 기업 대상 글로벌 진출 전략 워크숍을 진행했다. 한국투자액셀러레이터 투자 기업 가운데 창업 3년 미만 기업 비중은 66%에 달하며, 지난해 신규 투자 규모는 120억원으로 전년 대비 15% 증가했다. 

인간 설정 실수 찾아내 외부 접촉누구나 사용 가능한 ‘개방형 모델’해킹 등 악용 우려 목소리 더 커져美 오픈AI·앤트로픽 등 이은 논란미중 성능 경쟁 뒤처질라 안전 뒷전 미국에 이어 중국의 첨단 인공지능(AI) 모델에서도 보안 통제를 벗어난 사례가 확인되면서, AI 안전 문제가 미중 기술패권 경쟁의 새로운 변수로 떠오르고 있다. 중국 문샷AI의 ‘키미 K3’까지 격리된 환경을 벗어나 인터넷에 접속한 것으로 알려지면서, 최첨단 AI의 통제 위험이 미중 공통의 문제로 번진 것이다. 양국 모두 안전성 검증을 강화할 필요성을 느끼지만, 경쟁에서 뒤처질 수 있다는 우려 때문에 어느 쪽도 먼저 속도를 늦추기 어려운 ‘죄수의 딜레마’에 빠질 수 있다는 지적이 나온다. 로이터통신은 지난 7일(현지시간) 미국 보안업체 프런티어 시큐리티가 키미 K3를 시험하던 중 모델이 격리환경 밖 인터넷에 접속했다고 보도했다. 외부 통신 포트 일부가 열린 설정 실수를 모델이 찾아내 깃허브의 정보를 과제 해결에 이용했다. 실제 해킹은 없었지만 누구나 내려받아 개조할 수 있는 오픈웨이트 모델이어서 악용 가능성에 대한 우려가 제기됐다. 미국에서도 AI 모델의 통제 이탈이 실제 외부 시스템 침해로 이어진 사례가 잇따랐다. 오픈AI는 지난달 21일 GPT-5.6 솔 등이 보안 평가 중 격리환경의 취약점을 찾아 허깅페이스 실제 시스템까지 침투했다고 밝혔다. 앤트로픽은 클로드 계열 모델이 외부 기관 3곳을 무단 접근했음을 확인했고, 메타 모델 역시 평가 과정에서 제3자 시스템을 공격했다고 전했다. 상당수가 평가환경 설정 오류에서 시작됐지만, 고성능 AI가 작은 허점을 스스로 찾아 외부 행동으로 이어갔다는 점은 공통적이다. 미중 패권 경쟁은 이런 위험을 줄이는 것을 더 어렵게 만든다. 한쪽이 안전성 검증을 강화해 출시를 늦추는 동안 상대는 더 강력한 모델을 먼저 내놓을 수 있다. 반대로 양쪽 모두 개발 속도를 유지하면 충분히 검증되지 않은 모델이 잇따라 등장할 위험이 커진다. 함께 안전장치를 강화하는 것이 양국 모두에 이익이지만, 상대가 개발 속도를 낼 수 있어 먼저 속도를 늦출 수 없다. 결국 각자의 합리적인 선택이 전체 위험을 키우는 ‘죄수의 딜레마’다. 맷 시한 카네기국제평화재단 선임연구원은 최근 이런 딜레마를 완화할 방안으로 ‘병렬적 AI 안전(AI safety in parallel)’을 제안했다. 미중이 AI 경쟁 자체를 멈추거나 당장 하나의 규칙에 합의하기 어렵다면, 각자 안전조치를 강화하며 양국 모두에 위험한 부분부터 협력하자는 접근법이다. 위험 능력을 찾아내는 평가 방법과 새로운 위협 정보를 제한적으로 공유하고, 인간의 통제를 의도적으로 회피하는 능력처럼 모두에 직접적 위협이 되는 영역에서는 공동 평가 기준을 마련할 수 있다고 봤다. 현재로서는 기업의 자체 판단이 위험한 모델의 출시를 걸러내는 안전장치다. 오픈AI는 지난 7일 차세대 모델 ‘아스트라’가 자체 안전기준상 최고 단계인 ‘위험(Critical)’ 수준의 사이버 능력에 이를 가능성이 있다고 보고 일부 내부 작업을 중단했다고 밝혔다.

오픈AI와 앤트로픽에 이어 메타의 인공지능(AI) 모델도 보안 시험 도중 외부 기관 시스템에 무단 침입한 사실이 확인됐다. 스스로 판단하고 행동하는 AI가 사람의 작은 설정 실수를 실제 해킹으로 이어지는 사례가 잇따르면서, 첨단 AI를 개발자가 제대로 통제할 수 있는지를 둘러싼 우려가 커지고 있다. 메타는 5일(현지시간) 자사 코딩 특화 모델 ‘뮤즈스파크 1.1’이 독립 검증업체 이레귤러의 보안 시험 과정에서 외부 기관 한 곳의 시스템 취약점을 이용해 무단 침입했다고 밝혔다. 시험 환경의 설정 오류로 모델이 인터넷에 연결되자, 외부망에서 발견한 취약점을 실제 공격에 활용한 것이다. AI가 격리 환경인 ‘샌드박스’를 스스로 빠져나간 것은 아니었다. 그러나 외부 시스템과 도구에 접근할 수 있는 AI가 사람의 실수로 통제 범위를 벗어나자 별도의 지시 없이 취약점을 찾아 침입까지 실행했다는 점에서 위험성이 드러났다. 단순한 설정 오류가 데이터 유출이나 시스템 침해로 확대될 수 있다는 우려도 커졌다. 메타는 해당 모델이 제3자 서비스의 취약점을 악용했으며 앞서 다른 AI 기업에서 보고된 사례와 유사한 방식이었다고 설명했다. 이레귤러도 정교한 해킹 공작이나 샌드박스 탈출은 아니며 현재 남아 있는 보안 문제도 없다고 밝혔다. 양사는 추가 조사 뒤 사고 경위와 재발 방지책을 담은 보고서와 백서를 공개할 예정이다. 비슷한 사고는 최근 몇 주 사이 오픈AI와 앤트로픽에서도 잇따랐다. 오픈AI의 GPT와 앤트로픽의 클로드 역시 보안 평가 과정에서 인터넷망 설정 오류를 틈타 외부 시스템에 무단 접근한 사실이 확인됐다. 이번 사고는 메타가 첫 AI 코딩 에이전트 ‘뮤즈코드’를 공개한 날 알려졌다. 마크 저커버그 메타 최고경영자(CEO)는 이날 엑스(X)를 통해 뮤즈코드 베타 버전 출시를 발표했다. AI 코딩 에이전트는 개발자의 질문에 코드만 제안하는 기존 챗봇과 달리 필요한 파일을 찾고 작업 계획을 세운 뒤 코드 작성과 수정, 시험·검증까지 수행한다. 뮤즈코드는 해킹 사고가 발생한 모델의 후속 버전인 ‘뮤즈스파크 1.2’를 기반으로 한다. 메타 자체 평가에서는 일부 항목에서 오픈AI 코덱스를 앞섰지만 앤트로픽 클로드코드에는 미치지 못했다. 메타는 대신 입력 토큰 100만개당 1.25달러, 출력 토큰 100만개당 4.25달러의 낮은 가격을 내세웠다. 알렉산더 왕 메타 AI 총괄은 일부 등급의 비용이 경쟁 제품보다 10배 이상 저렴하다고 밝혔다.