“인터넷이 인류의 사유를 얕게 했다면, 인공지능(AI)은 우리의 사고와 판단을 마비시키고 있다.”
미국의 경영컨설턴트이자 정보기술(IT) 미래학자인 니콜라스 카가 그의 저서 ‘생각하지 않는 사람들’에서 인터넷과 얕은 사고의 상관관계를 짚은 지 16년. 정재민 한국과학기술원(KAIST·카이스트) 대외부총장과 김영주 한국언론진흥재단 수석 연구위원이 쓴 ‘생각을 외주화한 사람들’은 생성 AI(Generative AI)를 정조준하고 있다. 니콜라스 카가 던진 경고가 인터넷 시대의 서막을 열었다면, 이 책은 생성 AI 시대의 다음 장을 예고한다. AI가 인류를 더 이상 생각하지 않게끔 만든다는 게 저자들의 주장이다.
저자들은 책에서 오늘날 인류가 사상 유례없는 거대한 지능의 도전을 마주하고 있다고 진단했다. 우리는 실제로 알고리즘이 추천하는 대로 상품을 주문하고 맛집에 가고 콘텐츠를 고르며, 판단이 필요한 순간에도 AI에 먼저 묻는다. 이메일 초안과 회의 자료 준비를 AI에 맡기고, 전화번호를 외우거나 길을 익히려는 노력조차 멈췄다. 이런 일상적 편리함의 이면에서 저자들은 인간이 ‘지능의 자진 반납’ 상태에 빠져들고 있다고 본다. “내 기억의 저장소는 나의 뇌가 아니라 저 밖 어딘가의 데이터센터로 옮겨가 있다”는 책 속 문장은 이런 세태를 압축적으로 보여준다.
다만 원인 모를 공허함, 만성적 브레인 포그, 주의력 결핍, 자녀의 스마트폰 중독을 개인의 의지력 부족만으로 돌리지 않는다. 대신 인간의 인지적 취약성을 정교하게 파고들어 사용자를 기술 앞에 가두도록 설계된 빅테크(대형 정보기술 기업)의 기술적 ‘덫’이 낳은 필연적 결과로 저자들은 경고하고 있다.
AI가 낳은 11가지 기술의 덫
책은 AI로 비롯된 11가지 기술의 덫을 미디어·커뮤니케이션학, 뇌과학, 심리학, 사회학, 경제학 등 융합 학문의 증거를 동원해 진단하고, 대안을 제시한다.
먼저 1부 ‘속도와 무게에 짓눌리다’에서는 즉시성, 시성비, 정보 과잉, 초연결이라는 기술의 덫이 사고의 깊이를 얕게 하는 과정을 다룬다. 머리보다 몸이 먼저 반응하는 현상, 하루 종일 바빴는데 아무것도 하지 않은 것 같은 감각, 갈수록 심해지는 결정 장애의 원인을 짚는다.
2부 ‘생각을 설계당하다’는 개인의 위기를 사회적 병리로 확장한다. 추천 알고리즘과 확증 편향이 취향을 좁히고, 세대·젠더·정치 갈등이 실제론 플랫폼 수익을 위해 ‘설계된 분노’라는 점을 실증 연구로 뒷받침한다. 영국 법정이 인스타그램의 콘텐츠 추천 알고리즘을 한 소녀의 죽음의 직접 원인으로 지목한 판례, 미국 서던캘리포니아대 연구팀이 가짜 계정 120개를 정치 성향별로 나눠 진행한 알고리즘 추적 실험이 근거로 제시된다. ‘최적의 개인화’로 포장된 서비스가 실은 ‘정교화된 차별’로 작동한다고 폭로하는 대목도 눈여겨볼 만하다.
3부 ‘그럴듯함에 흔들리다’는 딥페이크(AI로 만든 이미지·영상 조작물)와 AI 할루시네이션(hallucination·AI가 생성한 정보에 허위 정보가 포함되는 현상)이 범람하는 가운데 생각을 통째로 AI에 내맡기는 과의존 문제를 다룬다. 저자들은 “생각하는 능력은 인간의 존엄”이라고 말하면서도 “스마트폰을 버리거나 AI를 거부하는 것은 불가능하다”고 밝힌다. 대신 기술 설계도를 읽어내고 ‘생각 근육’을 단련할 때 AI가 지배자가 아닌 도구로 남을 수 있다고 강조한다.
‘역사상 처음으로 부모 세대보다 인지 능력이 낮아진 세대가 등장했다.’ ‘인간은 언제 패배하는가.’ ‘이 문장은 내 생각인가, AI의 출력인가.’ ‘이 결정은 내가 원한 것인가, 알고리즘의 제안인가.’ 저자들은 디지털 디톡스라는 일시적 처방을 넘어, 인류가 직면한 판단력과 사고 상실의 위기를 정면으로 직시해야 한다고 독자에게 질문을 던진다. AI를 거부할 수 없는 시대, 스스로 생각하는 능력을 지키는 일이야말로 가장 실질적인 생존 전략이라는 메시지다.
AI는 우리 일상과 조직 깊숙이 들어와 있다. 많은 사람은 생성 AI를 활용해 글을 쓰고, 요약하고, 아이디어를 얻는다. 그러나 동시에 ‘AI는 이렇게 똑똑해졌는데, 왜 우리는 여전히 더 바쁠까?’라는 의문이 커진다.
세계 10대 AI 및 자동화 전문가 중 한 명인 파스칼 보넷과 미국 AI 전문가들이 쓴 ‘에이전틱 AI’는 바로 이 질문에서 출발한다. 전 세계 기업은 지금 공통된 벽에 부딪혀 있다. 생성 AI 파일럿은 넘치지만, 확산은 더디고, 자동화는 정체됐으며, AI 관리에 노력이 든다.
‘AI 다음 단계는 무엇인가?’라는 질문에 책은 현실적인 답을 제안한다. 실제 사례와 구현 과정에서 실패와 교훈, 성숙도 프레임워크, AI 협업을 위한 조직 설계와 거버넌스까지 실행의 언어로 AI의 미래를 설명한다.
아마존·메타 등 빅테크의 대규모 인력 감축과 현대자동차의 생산라인 로봇 도입 등 AI발 일자리 위협이 현실화하는 가운데, 저자는 인간의 고유 역량을 강화해야 한다고 말한다.
물류 창고부터 수술실까지 10년간 기술과 일을 연구해 온 저자는 16만 년 전부터 이어진 전문가·초보자 간 도제제도에 주목하며, 그 사이에 기술이 끼어들면 스킬을 학습할 시간이 사라진다고 지적한다. 이어 도전·복잡성·연결이라는 세 요소로 인간의 스킬을 강화할 수 있다고 본다. 규칙을 깨고 시행착오로 문제를 해결하는 그림자 학습자 개념도 제시한다.
저자는 기술을 스킬의 적이 아닌 협력자로 삼아야 하며, 앞으로는 스킬의 불평등이 새로운 사회문제가 될 것이라 경고하고 해법으로 인간과 AI를 결합한 키메라 시스템 기반 디지털 도제제도 도입을 제안한다.
불과 몇 년 전까지만 해도 사이언스픽션(SF)에서나 나올 법했던 인공 일반 지능(AGI). 그러나 지금은 빅테크 수장이 “5년 안에 현실화할 것”이라고 말한다.
이 책은 유사 이래 가장 강력한 기술로 꼽히는 AGI 등장으로 변화할 미래에 대해 날카롭게 탐구한다. 인간의 모든 능력을 대체할 수도 있는 AGI의 출현이 임박했음을 전제로 그 파급력과 우리가 직면할 윤리적, 정치적, 철학적 질문을 던진다.
과연 인간은 날뛰는 야생마 같은 이 기술을 통제할 수 있을까, 아니면 지구의 주인 자리를 결국 기계에 넘겨주게 될까. 책은 AGI의 출현을 가능하게 하는 AI의 기술적 기초부터 인류 문명의 운명을 좌우할 다양한 미래 시나리오까지 촘촘하게 짚으며, 우리 시대 가장 중요한 사유의 좌표를 제시하고 있다.
2016년 AI 알파고와 대결에서 ‘인류 최초 1승’을 거두며 전 세계의 주목을 받은 바둑 기사 이세돌. 대국 이후 3년 뒤 현역 은퇴를 선언한 그가 ‘알파고 쇼크’ 이후 인간만의 고유한 영역은 무엇인지, 예측 불가능한 인생을 어떻게 돌파해야 하는지 10년간 숙고한 끝에 결론에 도달했다.
“삶이 흔들린다면 자신을 믿고 나아가는 승부사가 되어야 한다.” 이세돌은 바둑의 세계에서 체화한 원칙을 인생에 적용하며, 결정적 순간마다 자기만의 기준과 결단을 지켜왔다. 그에게 수읽기는 단순한 기술이 아니라 불확실한 세계에서 방향을 잃지 않게 해주는 나침반이었다.
정답이 없는 시대일수록 ‘나만의 수’를 찾는 바둑의 가르침은 더욱 선명해진다. 이 책은 그 가르침에서 물러서지 않고 의심하지 않고 나만의 수를 두는 법을 전하고 있다.