“엄청난 효율성과 생산성이라는 유혹에 빠져 과학적 탐구의 진정한 목적을 놓치면 안 된다. 창의성과 독창성은 인공지능(AI)에 의존하지 않고, 예상치 못한 방식으로 나타나기 때문이다.”
국제 학술지 ‘네이처’의 마그달레나 스키퍼(Magdalena Skipper) 편집장은 최근 인터뷰에서 AI가 과학계에 가져온 압도적 속도 뒤에 숨은 위험성을 냉철하게 짚어냈다. 효율성의 유혹을 넘어 과학의 진정한 가치와 신뢰를 지켜내는 것이야말로 과학계가 지켜가야 할 가치라는 지적이다.
세계 과학계는 최근 거대한 전환점을 맞고 있다. 네이처는 지난 5월 AI가 스스로 가설을 세우고 실험 검증까지 수행하는 다중 에이전트 시스템 ‘코사이언티스트(CoScientist·동료 과학자)’ 논문을 소개했다.
스키퍼 편집장은 “AI는 인간 과학자의 대체재가 아닌 보조 도구일 뿐”이라며 “AI 시스템의 치명적 오류나 환각(hallucination) 인용에 대한 책임은 오롯이 사용자에게 있다”고 선을 그었다. 자동차 사고의 책임이 운전자에게 있듯 ‘과정을 통제하는 인간 과학자(Human in the loop)’의 역할이 핵심이라는 뜻이다.
스키퍼 편집장은 “AI 활용이 늘면서 특정 분야로 연구가 쏠리는 ‘과학적 모노컬처(monoculture·단일 문화)’ 현상이 나타날 수 있다”며 “AI가 쏟아내는 막대한 성과에 밀려 인간 고유의 독창적 연구가 사라져서는 안 된다”고 경고했다. 유전학자 출신인 스키퍼 편집장은 2018년 네이처 150년 역사상 첫 여성 총괄 편집장직에 오르며 세계 과학계에서 영향력을 발휘하고 있다. 스키퍼 편집장이 AI 동료 과학자 시대가 몰고 올 변화에 대해 자기 생각을 전해왔다.
네이처가 ‘동료 과학자’ 논문을 게재한 것은 중요한 분기점인 것 같다.
“이름이 시사하듯, 다중 에이전틱 AI 시스템은 동료 과학자 역할을 한다. 이는 AI가 인간 과학자를 대체하기보다 과학자를 보조하거나 역량을 강화한다는 의미다. 기존의 연구 목적과 증거를 전제로 작동하므로, 추론이나 연구 원리에서 근본적으로 새로운 패러다임을 도입하는 것은 아니다. 가설을 세우고 이를 다듬는 원리는 개념적으로 일관되게 유지된다. 따라서 독창성, 재현성, 논리 체계의 진실성을 평가하는 방식은 변하지 않았다. 투명성과 목표, 과정(필요한 모든 내용 공개와 출처 명시 포함), 결론에 뿌리를 두고 있다.”
네이처는 AI가 만든 조작과 환각 인용을 차단하기 위해 어떤 장치를 마련하고 있나.
“다른 많은 경우와 마찬가지로 예방이 치료보다 훨씬 중요하다. 우리는 연구 공동체(과학계)가 AI 도구의 세계를 헤쳐 나갈 수 있도록 계속해서 협력하고 있다. 네이처의 뉴스와 기술 뉴스 부문에 ‘사용 가이드’를 올린다든지, 최신 과학용 AI 도구를 검토하며, 커뮤니티가 AI를 책임감 있게 사용하도록 교육하고 멘토링하는 학습 자료를 개발하고 있다. 출판된 논문에 등장하는 환각 인용 같은 문제는 ‘악의’에서 시작된 것이 아니라 AI 도구에 대한 경험 부족과 그 한계에 대한 이해 부족에서 비롯된 것일 수 있다.
우리는 지금까지 연구 공동체의 수많은 요소와 장치가 항상 ‘신뢰’에 의존해 왔음을 기억해야 한다. 이 신뢰는 과학자를 움직이는 동기가 사물의 작동 원리를 밝혀내려는 열망에 비롯된다. 세상을 탐구하려면 철저함이 동반돼야 하며, 그러지 않으면 조만간 무너질 모래성을 짓는 셈이 된다. 치료제나 백신을 개발하든, 기계를 만들든, 신소재를 설계하든 마찬가지다. 엄격한 실천을 통해 얻어야 하는 이 신뢰의 근본적 역할은 AI 시대에도 변하거나 사라지지 않는다.”
최근 서지 분석 데이터에 따르면, AI 도입이 오히려 연구 주제의 다양성을 좁히는 것으로 나타났다.
“우리는 여전히 AI 도입의 매우 초기 단계에 있다. 솔직히 말해, 연구에서 AI에 대해 많은 글을 접하지만, 대다수 과학자는 글쓰기를 보조받는 것 외에는 연구에 AI 도구를 잘 사용하지 않는다. 우리는 모두 AI와 일하는 법, 최적의 활용처를 여전히 배워가고 있으며 AI 자체도 진화하고 있다. 연구 지원, 논문 게재, 채용 등 연구 성과를 평가하는 주체는 자기가 진정으로 가치 있게 여기는 것이 무엇인지 자세히 살펴야 한다. 반짝이는 모든 것이 다 진정으로 가치 있는 것은 아니며, 더 크고 빠르다고 해서 항상 더 좋은 것은 아니다.
우리는 과학자가 다룰 수 있는 질문의 다양성과 이에 접근하는 방식의 다양성을 유지해야 한다. 모노컬처는 결코 오래 지속될 수 없음을 잘 알고 있다. 대규모·고효율의 AI 공동 창출 성과와 더불어, 연구 방법론의 독창성과 명쾌함도 계속해서 가치 있게 평가해야 한다.”
자율형 연구 AI가 치명적인 오류를 일으킨다면 책임은 누가 져야 할까.
“이것이 바로 과정에 항상 인간이 개입해야 하는 이유다. AI는 여러 면에서 전례 없는 것이지만, 한편으로는 단순한 도구에 불과하다. 책임은 사용자에게 있다. 자동차를 예로 들어보자. 빠른 차를 무모하게 몰다 사고를 냈다면 책임은 운전자인 당신에게 있다. 어떤 변호사도 차가 너무 빠르게 달리도록 설계됐다며 제조사를 탓하라고 조언하지 않는다. 물론 브레이크가 고장 났다거나 정비를 소홀히 한 경우라면 제조사나 관리 소홀 책임일 수 있다. 비유가 완벽할 수는 없지만, 자동차에 비유하는 것은 규제뿐 아니라 제조 기준의 중요성을 잘 보여준다. 알다시피 AI 규제는 많은 이가 조율을 시도했지만, 제한적인 성공만 거둔 상태다.”
앞으로는 ‘자율 실험실’을 갖춘 연구소나 기관만이 신약 개발을 독점할 것이란 지적이 있다.
“AI 동료 과학자는 하나의 사례일 뿐이며, 해당 논문에서는 특정 문제에 적용됐을 뿐이다. 신약 재창출은 단순히 자율주행 실험실에 접근하는 것만이 아니라 결국 임상 시험을 거쳐야 한다. 단백질 구조 예측을 혁신한 구글 딥마인드의 알파폴드 같은 사례도 있다. 하지만 한 실험실이나 과학자가 모든 것을 해내는 것은 애초에 불가능했다는 점을 기억하자. 글로벌 경제에서 자급자족, 공급망 자율성 같은 수사는 오늘날 과학계에 기대를 심어주고 있다. 이는 환상일 뿐이며, 설령 사실이라 해도 도움이 되지 않는다.”
AI 도입이 확대되면 미래 과학자의 질적 하락을 걱정해야 할까.
“박사과정은 연구 경력의 훈련 단계다. 우리는 학생들이 AI를 포함한 최신 도구를 신중하고 책임감 있게 사용하는 법, 견고하고 재현할 수 있는 실험을 설계하는 법, 데이터와 프로토콜을 공유하는 법, 무엇보다 스스로 생각하고 행동에 책임지는 법을 배울 수 있는 환경을 만들어야 한다.
어떤 새로운 기술이 필수적이고 어떤 기술이 더 이상 필요 없는지 더 고민해야 한다. 내가 대학원생이던 시절만 해도, 서열 분석용 젤을 잘 만드는 것에 자부심을 느꼈지만, 지금은 아무도 그런 것을 하지 않으며, 더는 그런 일이 필요하지도 않다. 우리가 집중해야 할 것은 비판적 사고, 책임과 의무에 대한 이해 같은 필수 역량이 계속 교육되고 가치 있게 평가받도록 하는 것이다.”
민관의 과학용 AI에 대한 베팅은 향후 수십년간 글로벌 지식 생산을 좌우할 것이다. 정부 수반, 연구 지원 기관장, 기업 리더에게 조언한다면.
“엄청난 효율성과 생산성이라는 유혹에 빠지면 과학적 탐구의 진정한 목적을 놓치기 쉽다. 우리를 둘러싼 세계를 이해하고 우리와 지구를 더 낫게 하기 위해, 우리는 신뢰, 투명성 그리고 접근 방식의 다양성에 집중해야 한다. 창의성, 독창성, 영향력은 AI에 의존하지 않고, 예상치 못한 방식으로 나타날 수 있다.”