“소버린 AI, ‘핵무기’ 같은 주권 문제… 미래를 자국 기업에 맡긴다”

향후 세계 패권 경쟁이 인공지능(AI)에 달렸다 해도 과언이 아니다. 전 세계가 AI 헤게모니(주도권)를 둘러싼 새로운 전쟁터에 뛰어들고 있다. AI 주권이 없는 나라는 ‘핵우산’ 없이 전장에 내몰리는 셈이다. AI 패권은 안보와 경제 주권의 문제로 직결된다. AI 인프라를 누가 쥐고 있느냐에 따라 권력 지도가 달라질 수 있다는 것이다. 새 정부가 하정우 전 네이버클라우드 AI혁신센터장을 초대 AI수석으로 발탁한 것도 단순한 인재 영입 이상의 의미가 있다. 클라우드와 칩, 추론과 생성의 흐름을 꿰뚫는 기술 전문가를 국가 전략의 최전선에 세운 건 한국 정부 역시 ‘AI를 남의 서버에서 돌릴 수 없는 시대’를 인식하고 있다는 방증이다. 

최근 서울 영등포구 딜로이트안진 본사에서 크리스틴 안(Christine Ahn) 딜로이트 글로벌 엔비디아 얼라이언스 리더를 만나 전 세계 AI 산업의 현주소에 대해 물었다. 안 리더는 전 세계 정부가 앞다퉈 자국형 AI 팩토리(AI Factory), 즉 프라이빗 클라우드 인프라를 구축하고 있다고 설명했다. 다음은 일문일답.

AI 산업의 최신 트렌드는.

“생성 AI(Generative AI)가 에이전틱 AI (Agentic AI), 즉 ‘행동하는 AI’로 진화하고 있다. 과거에는 사용자가 단순한 질문을 입력하고 몇 줄짜리 응답을 받는 데 그쳤다면, 지금은 질문 자체가 점점 복잡해지고 있어 응답도 복잡한 추론(reasoning·추론이라는 행위 자체를 의미)을 통해 도출된다. 이런 에이전틱 AI는 기존 생성 AI보다 훨씬 높은 수준의 연산이 필요하다. 클라우드 사용량, 추론 처리량, 토큰 소모량 등이 20배 이상 증가하게 된다. 기존 데이터 처리와는 완전히 다른 차원의 컴퓨팅 수요가 발생하는 것이다.”

요즘 AI 팩토리도 많이 거론되는데.

“AI 팩토리의 중요성이 커지는 추세다. 기존 데이터센터는 90% 정도가 중앙처리장치(CPU) 기반으로 구동된다. 하지만 에이전틱 AI를 제대로 구동하려면 CPU로는 부족하다. 그래픽처리장치(GPU) 중심의 새로운 AI 기반 시설(AI 시스템을 개발 및 훈련·운영하기 위한 기술적 기반 및 물리적·소프트웨어 환경 전체)이 필요하다.

문제는 기존 데이터센터로는 GPU 중심의 AI를 감당할 수 없다는 것이다. GPU 서버는 무게만 해도 1t이 넘고, 기존 방식의 에어컨 냉각 시스템으로는 열을 내릴 수 없다. 그 대신 액체 냉각(liquid cooling) 시스템이 필요하다. 그래서 우리는 AI 팩토리를 서비스로 제공하는 모델을 만들었다. 칩에서부터 스토리지, 네트워크 구성까지 모두 포함한다. 딜로이트는 각 기업이 어떤 구조로 이 AI 팩토리를 세워야 할지, 맞춤형 구조를 설계해 주는 역할을 하고 있다.”

AI가 기존 로봇 산업을 고도화한다는 얘기도 있다.

“피지컬 AI(Physica AI·자율주행차나 로봇 등 물리적 형태를 가진 AI)와 로보틱스도 최근 트렌드가 되고 있다. 지금 로보틱스는 빠르게 성장하고 있으며, JP모건과 시티은행 등에서도 로보틱스를 차세대 수조달러짜리 산업으로 보고 있다. 앞으로 로봇은 가정, 공장 등 어디에나 있게 될 것이다. 딜로이트는 에이전틱 AI, 소버린 AI(Sovereign AI·특정 국가에 종속되지 않는 독자적인 AI), 피지컬 AI라는 세 가지 트렌드에 맞는 각각의 솔루션을 갖추고 있다.”

세계적으로 어떤 기업이나 산업군에서 AI의 도입 수준이 높은가.

“로보틱스 분야에서 기술 성숙도가 가장 높은 산업군은 단연 자동차 산업이다. 예를 들어 엔비디아와 매우 긴밀한 파트너십을 맺고 있는 테슬라의 경우, 자율주행 분야에서 가장 앞서고 있다. BMW는 전 세계 제조 공장에 AI를 통해 혁신을 제공하고 있다. 특히 디지털 트윈(digital twin)을 통해 자동차 생산을 시뮬레이션한다. 피지컬 AI가 자율주행뿐 아니라 자동차 제조 과정에서도 활용되고 있는 매우 진보한 사례다.”

금융은 상대적으로 보수적인 업종인데, AI 도입 수준은.

“사실 자동차 다음으로 AI 도입이 앞선 분야가 금융 서비스 산업(FSI)이다. FSI는 데이터의 처리량 자체가 어마어마하게 많다. 예를 들어 우리가 뭔가 구매할 때마다 고객 데이터와 구매 이력 및 결제 정보 등의 방대한 데이터가 발생한다. 이런 데이터는 사기 탐지(fraud detection), 사이버 공격 대응 등의 목적으로도 사용된다. 이런 기능을 제대로 수행하려면 고성능 컴퓨팅 능력이 필요한데, 현재 세계에서 가장 빠른 칩이 바로 엔비디아의 것이다. 사실상 거의 모든 은행이 자사 데이터센터 어딘가에 엔비디아 GPU를 탑재한 서버를 갖추고 있다.”

딜로이트와 엔비디아의 파트너십은 어떻게 시작됐는지.

“5년 전에 시작됐다. 출발점은 딜로이트 내부의 사고방식(mindset)이 바뀐 순간과 맞물려 있다. 딜로이트는 이 파트너십을 단순히 ‘엔비디아에 서비스를 파는 것’으로 보지 않았다. 당시 우리는 AI 시대가 반드시 올 것이며 그런 변화에 선제적으로 대응해야 한다고 믿었고, 그 여정을 함께할 최적 파트너가 바로 엔비디아라고 생각했다. 엔비디아는그때 이미 고성능 컴퓨팅, 특히 GPU 기술 측면에서 독보적인 역량을 갖추고 있었기 때문이다. 그래서 딜로이트는 실제로 여섯 개의 GPU 노드를 구매했고, 이를 기반으로 사내 자체 환경을 구축했다. 이 환경은 새로운 기술을 시험하고 혁신을 시도하며 구성원을 교육하는 데 활용됐다. 딜로이트는 이를 최초로 시도한 글로벌 시스템 통합 파트너(GSI· Global System Integrators)였다. 이후 딜로이트는 엔비디아 소프트웨어 개발 키트(SDK)로 점점 더 많고, 다양한 솔루션을 개발했다. 예컨대 대화형 아바타, 물류 최적화 솔루션, 신약 개발 단계에서 약물 발견 등이다. 이런 솔루션은 딜로이트가 엔비디아 기술을 바탕으로 자체 개발한 것이다.”

요즘 소버린 AI의 중요성이 커지고 있는데.

“먼저 토큰(token) 개념부터 설명할 필요가 있겠다. 우리가 챗GPT나 구글에 뭔가 입력하면 그 입력값은 토큰이라는 최소 단위로 구성된다(한글 1000자는 보통 500~700토큰으로 환산). 그리고 엔터 키를 누르는 순간 토큰이 묶여서 클라우드 네트워크를 타고 전송되며, 그곳에서 추론(inference·추론으로 나타난 결과를 의미)이 이뤄지고 답변이 돌아오는 것이다. 문제는 이 과정 하나하나를 거치는 동안 비용이 발생한다는 것이다. 

AI 세계에서 모든 돈의 흐름은 이 ‘토큰화(tokenization)’에서 비롯한다. 고난도 추론이 필요한 에이전틱 AI는 20배 더 많은 토큰을 사용한다. 그래서 클라우드 사용 비용도 계속해서 상승 곡선을 그리고 있는 것이다. 기업은 지속 가능한 대안에 대해 고민하기 시작했고, 나온 답이 바로 ‘AI 팩토리’다. 기업 내부에 프라이빗 클라우드를 구축해서 데이터와 연산을 자체적으로 처리한다는 것이다. 자체 GPU·스토리지·네트워크를 이용해서 외부의 공공 클라우드에 의존하지 않고 AI를 실행한다. 

이런 흐름은 정부 차원으로 확장되고 있다. 많은 국가가 이제야 프라이빗 클라우드와 독립적인 AI 인프라를 가져야 한다는 걸 깨닫고 있다. 현재 클라우드 인프라를 제공하는 기업이 대부분 미국 국적이지 않나. 프랑스, 일본, 사우디아라비아, 카타르 같은 나라가 수십억, 많게는 수천억달러 규모의 투자를 발표하고 있다. 이건 이제 단순히 비용 문제가 아니다. 일종의 핵무기 보유 같은 AI 주권 확보의 문제다. 즉 우리 데이터와 연산, 우리 미래를 다른 나라 기업에 맡기지 않겠다는 것이다. 이게 바로 소버린 AI다.”