메타버스 윤리를 정립할 이는 누구인가

아직 개발 단계에 있는 메타버스의 시대가 도래할 경우, 이는 어느 한 기업에 의해 통제되지는 않을 것이다. 페이스북은 메타버스의 지배자라는 인상을 주기 위해 회사명을 페이스북에서 메타로 바꿨지만, 페이스북이 리브랜딩 전략을 단행했을 때 마이크로소프트(MS)와 온라인 게임 기업 로블록스 역시 (메타버스 부문에) 대규모 투자를 실시했다. 가상현실과 디지털 아이덴티티가 일과 헬스케어에서부터 쇼핑, 게임 그리고 기타 엔터테인먼트에 이르기까지 우리의 일상생활에 어떻게 활용될지에 대해 모두가 관심을 기울이고 있다.

메타버스는 새로운 개념이 아니다. 메타버스라는 용어는 1992년 소설가 닐 스티븐슨(Neal Stephenson)이 그의 소설 ‘스노 크래시(Snow Crash)’에서 처음 사용했다. 이 공상과학 소설은 인류가 집단적으로 가상 환경에서의 삶을 선택하는 초(超)자본주의적 디스토피아를 묘사하고 있다. 지금까지 경험으로 미뤄볼 때 가상현실은 현실 못지않게 디스토피아적이었다. 몰입형 디지털 환경 실험은 대개 ① 괴롭힘(cyber bullying), 폭력, 디지털 성폭력, 빠르고 파괴적인 플랫폼에서 발생할 수 있는 모든 종류의 학대 때문에 치명타를 입었다.

이 모든 것은 놀랍지 않다. 새로운 기술을 위한 윤리는 항상 혁신에 뒤처져 있었다. 이기적인 회사들이 자사의 수익만을 생각하고 행동하기 전에 개별 주체가 (메타버스 윤리를 위한) 거버넌스 모델을 제공해야 하는 이유가 바로 여기에 있다. 

인공지능(AI) 분야에서의 윤리적 진화가 가이드라인이 될 수 있다. 2012년 AI 이미지 판독 분야에서 커다란 돌파구가 마련된 뒤, AI에 대한 기업과 정부의 관심은 폭발했다. 윤리학자와 활동가들은 편향된 데이터에 근거해 AI를 훈련시키는 것이 얼마나 위험한지에 대해 앞다퉈 연구·발표했다. 우리가 지키고자 하는 가치와 (편향되지 않은) 새로운 AI 응용 설계를 통합하기 위해 새로운 언어가 개발됐다. 

덕분에 우리는 SUNY 알바니대학의 버지니아 유뱅스(Virginia Eubanks) 교수가 지적한 것처럼 AI가 효과적으로 “불평등을 자동화”하고, 법률 집행에서 지속적으로 인종 편견을 일삼는다는 사실을 알게 됐다. 이 문제에 대한 (사회적) 관심을 끌기 위해 MIT 미디어랩의 컴퓨터 과학자 조이 부오람위니(Joy Buolamwini)는 2016년 ② ‘알고리즘 저스티스 리그(Algorithmic Justice League)’를 출범했다. 

이런 움직임은 대중이 AI와 관련한 윤리적 이슈에 관심을 갖도록 만들었다. 하지만 업계 내에서 자율 규제를 지향하는 새로운 바람이 불자, 윤리 관련 이슈는 금세 관심이 시들해졌다. AI 개발자들은 내부 및 제삼자 평가를 위한 기술적인 도구를 도입했고, 이것이 대중의 두려움을 완화해주길 바랐다. 하지만 그러지 못했다. AI를 개발하는 대부분의 회사는 대중이 지키고자 하는 윤리 규범과 충돌하는 비즈니스 모델을 가지고 있기 때문이다. 

가장 대표적인 예를 들자면, 트위터와 메타는 온라인상에서 벌어질 수 있는 모든 종류의 괴롭힘에 맞서기 위해 AI를 사용하지 않을 것이다. 사용자 참여도가 떨어지면 수익까지 악영향을 받기 때문이다. 이와 마찬가지로 다른 테크 기업도 수익을 늘리고 업계에서 몸집을 불리기 위해 손에 넣은 권력을 쉽사리 포기하지 않을 것이다. 

최근에는 윤리적 실패에 따른 평판 관리와 현실적 리스크를 위해 기업 컨설턴트나 다양한 프로그램이 AI 윤리 관리에 사용되고 있다. 빅테크 내에서 AI를 연구하는 사람들은 윤리 관련 기능을 옵트인(opt-in) 혹은 옵트아웃(opt-out)으로 설정해야 할지, AI에 업무를 위임해도 될지, AI 애플리케이션에 사용되는 데이터를 과연 신뢰할 수 있는지 등에 대해 많은 고민을 한다. 그 결과, 여러 테크 기업이 독자적 윤리 위원회를 만들었다. 하지만 특정 AI 모델의 윤리적·사회적 영향에 대해 우려를 표한 내부 연구진들이 축출당하는 대소동이 벌어진 후, 이러한 거버넌스를 과연 믿을 수 있는지에 대해서는 의문이 든다.

메타버스를 위한 윤리적 토대를 만들기 위해서는 산업계가 주장하는 자율 통제가 표준 규범이 되기 전에 우리가 그들을 앞서야 한다. 또한 메타버스와 AI가 어떻게 차별화되는지도 염두에 둬야 한다. AI가 내부 기업이 작동하는 대로 움직이는 반면, 소비자 중심적인 메타버스는 사람들이 미처 예상하지 못한 리스크를 야기할 수도 있다. 

1996년 미국에서 통과된 ③ ‘통신품위법(CDA·Communication Decency Act)’ 230조가 소셜미디어에 관한 거버넌스 모델을 제시했듯이 소셜미디어의 규제는 메타버스의 거버넌스 모델이 될 것이다. 우리는 이 점을 걱정해야 한다. 광범위한 디지털 환경에서 발생 가능한 여러 학대를 어느 정도 예측할 수 있다 하더라도 우리는 디지털 세계의 파급력이 어디까지 미칠지에 대해 과소평가할 우려가 있다. 

지난 15년간 범했던 실수를 반복하는 것보다는 리스크를 과대평가하는 편이 나을 것이다. 사람들이 새로운 디지털 환경에 어떻게 반응할지에 대해 정확히 아는 이는 아무도 없기 때문에 디지털 세상이 더욱 발전하기 전에 강력한 제동을 걸어야 한다. 

시간은 계속 흐르고 있다. 효과적이고 독립적인 감시가 없으면 이 새로운 디지털 세상은 제멋대로 팽창할 게 분명하고, AI와 소셜미디어에서 되풀이돼 왔던 학대와 불평등을 되풀이하고, 심지어는 심화시킬 것이다. 

ⓒ프로젝트신디케이트