AI 마니아가 들으면 정신이 번쩍 들 이야기

AI 도구가 일하는 방식에 근본적인 변화를 가져올 것이라는 점에는 의심의 여지가 없다. 거대 언어 모델(LLM)은 이미 필자가 쓴 논문 관련 인간 심사자에 필적할 만한 수준의 심사 보고서를 만들어 낸다. 늘 시간에 쫓기는 인간과 달리, LLM은 방대한 문헌의 내용을 순식간에 알아차리거나 거기에 접근할 수 있다. 게다가 대체로 편향도 적은 편이다. AI는 내가 한 분석의 약점을 찾아내고 증명 과정을 점검하며, 개선의 여지를 찾아 제안한다. 인간의 보고서가 더 나은 경우는 드문데, 흩어진 정보 사이에 연결 고리를 찾아내고 새로운 통찰을 제공하는 경우에 그렇다. 그럼에도 AI에 관해 시장이 온통 들떠있는 건 걱정스럽다. 특히 해당 영역이 얼마나 많은 부채를 만들어 내고 있는지 생각하면 더욱 그럴 수밖에 없다. 따라서 AI 공급망에서 발생할 수 있는 문제에 대해 점검해 볼 필요가 있다.

공급망의 출발점은 AI 인프라의 생산자와 설계자다. 반도체를 생산하는 TSMC와 삼성전자, 설계하는 엔비디아 그리고 연결망을 제공하는 시스코 같은 기업이 여기에 속한다. 그다음은 아마존, 구글, 마이크로소프트(MS) 같은 ② 하이퍼스케일러(hyperscaler)가 있다. 이들은 자체 AI 모델 운용 목적 외에, 외부에 컴퓨팅(처리 능력)을 판매할 목적으로도 데이터센터를 짓고 있다. 또한 데이터센터 전문 기업인 에퀴닉스 그리고 LLM 개발사인 앤트로픽과 오픈AI 같은 기업도 있다. 마지막으로 AI 서비스 이용자(개인과 기업)가 있다. 개인 이용자는 빠르게 늘고 있고, 소프트웨어 개발과 고객 지원 등 일부 영역에서는 기업 이용이 폭발적으로 증가하고 있다.

하지만 규모가 큰 기업도 대부분은 이런저런 실험만 열심히 하고 있을 뿐 아직 자율적인 모델을 운용하는 단계에는 이르지 못했다. 그들 중 다수는 각 사의 목적에 맞게 AI를 훈련하기 위해 방대한 과거 데이터를 정리하고, 경험을 통해 AI 성능을 개선할 수 있도록 기존 업무 수행 방식을 재구성해야 하는 도전에 직면해 있다. 

거기에 더해 상당수 기업은 데이터 보안, AI 오작동 그리고 자사 브랜드를 훼손할 수 있는 할루시네이션 현상을 우려하고 있다. 그럼에도 보다 진취적인 신생 기업이 AI 활용법을 점점 더 많이 찾아냄에 따라, 기존 대기업도 경쟁에서 살아남기 위해서는 달라져야 한다는 강한 압박을 받게 될 것이다. 

그럼에도 불구하고 AI 도입은 여러 이유로 차질을 빚을 수 있으며, 이는 부채를 통해 자금을 조달하는 기업에 위험 요인이 될 수 있다. 예를 들어, 그래픽처리장치(GPU), 중앙처리장치(CPU), 메모리 칩의 속도와 에너지 효율이 향상된다면 기존 데이터센터를 채우고 있는 장비의 가치가 급격히 하락하면서 자금 회수가 어려워질 수 있다. 또한 ‘이어지는 단어 예측’ 능력에 기반해 놀라운 성능을 보여준 LLM도 새로운 기술이 등장하기까지는 발전이 정체될 수 있다.

현재 AI 연구소는 스스로 개선이 가능한 ‘마법의 지점’에 가장 먼저 도달한 모델이 AI 시장을 지배하고 막대한 수익을 올릴 것이라는 가정하에 더 새롭고 거대한 모델을 훈련시키는 데 엄청난 자금을 쏟아붓고 있다. 하지만 그런 가정은 개연성이 부족해 보인다. 설령 그런 지점이 있다 해도, 경쟁자는 (핵심 인력을 빼내 기술 관련 기밀을 확보하는 방법까지 포함해) 선점자의 모델을 따라잡을 수 있다. 아직 어떤 AI 모델도 지속 가능한 우위를 점한 것으로 보이지 않는다. 제미나이(구글), 클로드(앤트로픽), 챗GPT(오픈AI)가 결국 특정 사용층을 공략하거나 (합병·담합을 통해서라도) 차별화를 이루지 못한다면, AI 훈련에 들어갈 막대한 비용을 어떻게 정당화할 수 있을지 가늠하기 어렵다.

지금까지는 정치권이 대체로 관망하는 자세를 유지해 왔지만, AI 확산에 따른 위험과 우려를 잠재우기 위한 정책적 개입이 불가피하다는 문제도 있다. ③ 데이터센터는 막대한 전력을 소비해 모든 이의 전기요금을 끌어올리기 때문에, 주(州 )정부와 지방정부는 데이터센터 건설을 제한하라는 정치적 압력에 점점 더 시달리게 될 것이다. 실제로 미국 인디애나주에서는 최근 여러 카운티가 데이터센터 건설 중단을 선언했다.

당장 내년 전망만 봐도 하드웨어 제조사와 데이터센터가 미국 내 컴퓨팅 수요를 감당하지 못할 것이라는 예측이 나온다. 컴퓨팅 공급 부족이 심해질수록, 최종 이용자는 도입을 미룰 이유가 더 늘어난다. 향후 안정적인 접근성이나 합리적인 가격에 의문이 있다면, 전사적 업무를 AI 중심으로 재편할 수 없는 노릇이다.

더 심각한 문제는 AI가 광범위하게 사용되기까지 예상보다 시간이 오래 걸릴 수 있는 반면, 해커와 딥페이커에 의한 악용과 어린이의 무분별한 사용이 급속히 증가하고 있다는 점이다. 치명적인 사이버 사고, AI 에이전트에 의한 심각한 데이터 오남용, 혹은 잘못 학습된 AI 모델이 어린이에게 자해나 타해 행위를 부추기는 시나리오(이미 실제로 벌어지고 있다)를 상상하는 건 어렵지 않다. AI 모델에 대한 규제와 책임 강화를 요구하는 목소리는 앞으로 더 커질 것이다. 통제 불능의 AI가 초래할 위험은 강대국 간 절실히 필요했던 대화로 이어지면서, 일종의 ‘AI ④ 제네바협약’으로 결실을 볼 수도 있다.

AI와 관련된 대규모 일자리 감소는 정치적 개입을 촉발할 가장 중요한 요인이 될 가능성이 크다. 경기 침체기가 아닌 상황에서는 AI 도입에 적극적인 기업조차 정치·사회적인 반발을 우려해 잉여 인력 감원을 주저할 수 있다. 그렇게 된다면 AI 도입과 확산에 따른 수익은 줄어들게 될 것이다. 

이런 모든 불확실성을 감안할 때 AI가 얼마나 넓고 빠르게 확산할지 그리고 누가 수익을 가져갈지는 분명하지 않다. 막대한 컴퓨팅 수요를 바탕으로 하드웨어 제조사와 설계사가 유리한 고지에 선 듯 보였다. 하지만 데이터센터 건설이 중단된다면 수익은 하이퍼스케일러와 AI 연구소 쪽으로 옮겨갈 수 있다. 이들은 더 나은 AI 모델을 학습시키는 데 필요한 컴퓨팅 자원을 줄이고, 대신 이미 성능이 검증된 AI 모델을 사용하는 기업에 판매하는 쪽으로 방향을 선회할 수 있다. 새로운 AI 모델 학습에 따른 수익은 일시적일 수 있기 때문이다.

보다 제한적이고 신중한 AI 도입이 기업에는 인간 노동력 대체가 아닌 보완 용도로 AI 활용을 모색할 시간을 주고, 각국 정부와 근로자에게는 변화에 적응할 시간을 더 줄 수 있다는 건 다행스럽다.

반면에 AI 기술 확산으로 단기간에 막대한 수익을 올릴 수 있다는 자아도취적 전망의 빈약한 근거가 드러날 수 있다는 점은 우울한 소식일 수 있다. 부채 상환 부담을 안고 있는 기업에 특히 심각한 문제다. AI 기술의 발전은 결국 의미 있는 결실을 맺을 가능성이 크다. 하지만 모든 공급자가 수익을 누릴 수 있는 것도 아니고, 살아남을 수 있는 것도 아니다.