보안 생태계까지 흔든 '미토스 쇼크'
앤트로픽은 AI 모델 ‘클로드’와 코딩 도구 ‘클로드 코드’로 빠르게 사업을 확장하고 있고, 최근에는 ‘미토스’로 세계 보안 생태계에 충격을 안겼다. 앤트로픽의 보안 연구원 샘 보먼은 얼마 전 AI 모델 클로드의 최상위 버전인 미토스에 “샌드박스에서 탈출해 보라” 고 지시했다. 샌드박스란 AI가 인터넷이나 외부 시스템에 접근하지 못하도록 차단한 실험용 격리 환경을 뜻한다. 점심시간 공원에서 샌드위치를 먹고 있던 보먼에게 놀랍게도 “탈출에 성공했다”는 메일이 도착했다. 샌드박스에 갇혀있던 클로드가 보낸 것이었다. 스스로 앤트로픽 내부 시스템을 해킹해 취약점을 찾아낸 것이다. 최고 수준의 해킹 조직에서나 할 수 있는 작업을 AI가 해낸 것이다.
미토스는 장시간 다단계 추론이 가능한 자율형 멀티 에이전트 능력(다수의 AI가 동시에 자율적으로 작업하는 구조)을 갖췄다. 이를 기반으로 ‘세계에서 가장 안전한 운영체제(OS)’로 불리던 ‘오픈BSD’에서 27년간 발견되지 않았던 운영체제의 취약점을 찾아냈고, 자동화 도구가 500만 번 검사하고도 16년 동안 잡지 못한 영상 추출·변환 소프트웨어 결함도 탐지했다. 시스템 오류를 찾아내는 데 그치지 않고 리눅스·구글 크롬·파이어폭스 등 주요 웹 브라우저를 해킹해 차례로 무력화시키는 ‘공격 코드’까지 만들어 냈다. 전력망·금융망·통신망 등 국가 인프라 전체가 사정권에 들어갔다는 뜻이다.
미토스의 ‘핵폭탄급’ 성능에 놀란 미국 도널드 트럼프 정부가 AI 정책의 무게중심을 ‘규제 완화’에서 ‘사전 검증’으로 옮기고 있다는 관측도 나왔다. 이와 관련해 뉴욕타임스(NYT)는 백악관이 AI 모델을 사전 검토하는 실무 조직 구성 방안을 검토 중이라고 5월 4일 보도했다. IMF 소속 이코노미스트들은 사흘 뒤 공식 블로그를 통해 AI발 사이버 위협 가속의 대표적인 사례로 클로드를 직접 언급하면서 “비전문가도 거의 모든 주요 운영체제와 웹 브라우저의 취약점을 찾아내고 파고들 수 있게 됐다”고 걱정했다.
부친은 이탈리아 출신 가죽공예 장인, 모친은 도서관 근무
앤트로픽에서 오빠 다리오는 전체 회사 최고 책임자로서 AI 모델 연구·개발을 총괄한다. 다니엘라는 회사의 전반적인 시스템과 정책 등 조직 운영을 맡고 있다. 개성과 출세욕이 강한 천재가 모인 실리콘밸리에서 앤트로픽 가치에 공감하는 인재를 끌어모으는 역할도 담당한다.
이탈리아 토스카나 출신인 가죽공예 장인 아버지와 도서관 프로젝트 매니저 어머니 사이에서 태어난 아모데이 남매는 이전까지 챗GPT 개발사이자, 앤트로픽의 최대 경쟁사인 오픈AI의 핵심 임원이었다. 부모 영향으로 남매는 정밀한 장인 정신과 체계적 사고를 자연스럽게 체득했다.
다리오는 미국 스탠퍼드대에서 물리학을 전공하고, 미국 프린스턴대에서 생물물리학 박사 학위를 받았다. 미국 물리 올림피아드 대표팀에 발탁될 만큼 순수 물리 분야에서 일찌감치 두각을 나타냈지만, 오랫동안 희귀 질환과 싸워온 아버지가 2006년 세상을 떠나면서 대학원 연구 분야를 생물물리학으로 바꿔 질병과 생물학적 문제를 파고들기 시작했다. 박사 학위를 취득한 다리오는 스탠퍼드대 의대에서 연구원으로 활동했다. 종양 내부나 주변 단백질을 연구해 전이성 암세포를 탐지하는 연구를 했는데, 복잡한 연구를 수행하는 과정에서 새로운 기술의 도움이 필요하다는 사실을 절감하게 된다.
마침 중국 검색엔진 바이두가 저명한 연구자 앤드루 응에게 예산 1억달러(약 1466억원)를 통째로 맡기며 ‘슈퍼팀’을 꾸리기 시작했다는 소식을 전해 들은 다리오는 2014년 11월, 해당 팀에 합류했다. 하지만 주도권 다툼이 이어지면서 조직은 사실상 와해됐고, 이후 구글 브레인에 10개월 동안 몸담았고, 2016년 오픈AI에 합류했다. 오픈AI에서는 GPT-2 구축에 직접 관여했고, GPT-3 프로젝트를 진두지휘했다.
다니엘라는 캘리포니아대 산타크루즈 캠퍼스(UC 산타크루즈)에서 영문학을 전공했다. 이후 맷 카트라이트 민주당 하원의원 보좌관으로 일하며 조직 관리를 익혔다. 이후 글로벌 결제 기업 스트라이프를 거쳐 2018년 5월 오빠가 몸담고 있던 오픈AI에 합류했다. 스트라이프에서는 5년 3개월 동안 인사와 리스크 관리 등을 담당했고, 오픈AI에서도 비슷한 역할을 맡았다.
하지만 2019년 마이크로소프트(MS)가 오픈AI에 10억달러(약 1조4660억원)를 투자하고 조직이 영리 법인으로 구조를 개편하면서 갈등이 시작됐다. 아모데이 남매는 이 같은 변화가 AI 안전이라는 본연의 가치를 훼손할 것으로 판단했다. 샘 올트먼을 중심으로 한 경영진은 상업적 선점 효과를 위해 강력한 모델의 빠른 배포를 주장했지만, 아모데이 남매는 배포 전 충분한 안전 검증이 선행돼야 한다고 맞섰다. 결국 아모데이남매를 포함한 7명의 핵심 인력은 2021년 오픈AI를 떠나 ‘안전한 AI’를 기치로 내걸고 앤트로픽을 창업했다.
영문학도 출신인 다니엘라는 AI 시대 핵심 역량으로 의사소통, 공감 능력과 감성지수(EQ), 대인 관계 기술 등 소프트 스킬을 강조해 왔다. ‘사람이 무엇을 원하는지’에 대한 이해력을 갖춰야 AI 활용력을 높일 수 있다는 설명이다.
기업 가치 9000억달러, 오픈AI 제치나
앤트로픽은 2025년 12월부터 기업공개(IPO)를 준비해 왔다. 이르면 10월 IPO를 고려 중인데, 현재 가치의 두 배 이상인 9000억달러(약 1319조5800억원)를 목표로 신규 자금 조달을 저울질하고 있는 것으로 알려졌다. 투자가 성사될 경우 오픈AI의 기업 가치인 8520억달러(약 1249조320억원)를 제칠 것으로 보인다.
앤트로픽 앞날의 최대 변수는 트럼프 정부와 관계다. 지난 2월 말 미국 국방부(전쟁부)는 앤트로픽을 ‘공급망 위험’으로 지정했다. 통상 적대국 기업에 적용하던 조치를 미국 기업에 한 것은 이례적이었다. 국방부는 클로드를 모든 합법적 목적에 사용하길 요구했지만, 다리오는 ‘자율 무기’와 ‘대규모 시민 감시’라는 두 가지 기준을 수용할 수 없다는 입장을 고수했다. 트럼프 대통령은 앤트로픽을 ‘좌파 광신도’라고 강도 높게 비판하면서 모든 연방기관에 앤트로픽 기술 사용 중단을 지시하기도 했다.
하지만 강력한 성능의 미토스가 공개되면서 트럼프 정부와 앤트로픽의 관계에도 변화의 조짐이 포착됐다. 트럼프 정부가 먼저 화해의 악수를 청한 것으로 보인다. 이와 관련해 백악관 예산관리국이 국방부·재무부· 상무부·국토안보부·법무부·국무부 등 각 부처에 미토스를 정부 기관이 사용할 수 있도록 하는 방안을 마련하고 있다고 블룸버그통신이 최근 보도했다.