美·日 대기업 홀린 AI 검색 ‘알리’…“도쿄 상장 목표”

“회사에서 하루에 8시간을 일한다고 치면 그중에 평균 2~3시간은 각종 정보를 찾는 데 쓴다고 한다. 사내 검색 시스템이 열악해서 그렇다. 정확한 검색 결과를 얻기 위해선 ‘노트북’과 ‘랩톱’처럼 표현이 다르면 안 되고 맞춤법이나 띄어쓰기도 정확해야 한다. 이런 문제를 해결해 업무 효율을 올리기 위해 개발한 것이 자연어 기반 인지 검색 서비스 ‘알리(Alli)’다.”

올거나이즈는 5년 차 인공지능(AI) 스타트업이다. 알리는 플랫폼에 접속해 문서를 올린 뒤, 문서 내용에 대해 자연어로 질문하면 답을 찾아주고 근거가 되는 내용을 함께 보여주는 SaaS(Software as a Service·서비스형 소프트웨어)다. SDK(Software Development Kit), API(Application Programming Interface) 등 소프트웨어 개발 도구 형태로도 기능을 제공하기 때문에 플랫폼 접속 없이 기존에 사용하던 도구에 알리 기능을 탑재할 수도 있다. 올거나이즈를 창립한 이창수 대표는 2010년 설립한 게임 데이터분석 기업 파이브락스가 세계 최대 모바일 광고 기업 탭조이에 거액에 인수되면서 주목받았다. 이 대표는 “매각 이후 탭조이의 수석부사장으로 일하던 중 딥러닝(심층학습)이 모든 것을 바꿀 수 있겠다는 것을 배웠다”며 “딥러닝으로 기업의 업무 효율화를 이루겠다는 목표로 올거나이즈를 창업했다”고 말했다.

올거나이즈는 현재 한국을 비롯해 미국과 일본, 인도에 현지 직원을 두고 글로벌 대기업과 기관 등을 대상으로 서비스를 제공하고 있다. 일본 최대 증권사인 노무라증권을 비롯해 국내외 고객사 2500곳을 확보한 올거나이즈는 일본에서 상장을 준비하고 있다. 본사도 도쿄로 옮겼다. 지난 4월 오랜만에 한국을 찾았다는 이 대표를 서울 강남구 사무실에서 만났다.

파이브락스 이후 두 번째 창업 회사다. 계기가 궁금하다.
“파이브락스 매각 후 탭조이에서 일하기 위해 2015년쯤 미국에 가게 됐다. 당시 AI 딥러닝이 음성 인식과 영상 구분에서 사람보다 높은 점수를 내기 시작했다. AI가 부분적으로 인간 능력을 뛰어넘는 것을 보면서 딥러닝이 모든 걸 바꿀 수 있겠다는 생각이 들었다. 당시 다음 창업을 고민하고 있던 시기라 자연스럽게 데이터와 딥러닝을 창업 아이템으로 고려했고, 기업의 생산성을 높이는 서비스를 해보자고 생각했다.”

알리에 대해 구체적으로 설명해달라.
“알리 앤서(answer)와 알리 캡처(capture)가 있다. 알리 앤서는 기업용 문서를 학습한 뒤 질문에 대한 답을 찾아주는 기능이고, 알리 캡처는 보험금 청구서, 감정평가서 등 서류의 중요한 숫자 등 핵심 내용을 자동으로 추출해 정리해주는 기능이다. 전부 자연어를 기반으로 하고 있어 의미만 통한다면 여러 키워드를 사용해도 된다. 

고객사들이 알리를 활용하는 방법은 크게 두 가지다. 첫 번째는 고객 응대용 챗봇이다. 특히 내부 규정에 기반해서 정확한 답변이 필요할 때 활용한다. 예를 들어 미국 오클라호마주 정부의 경우 웹사이트에 들어가면 알리가 탑재된 AI 챗봇을 볼 수 있다. 오클라호마주의 각종 규제 문서를 학습한 챗봇이다. 주택 담벼락 높이를 최대 몇 미터(m)로 규정하고 있는지, 의료용 마리화나가 합법인지 등을 챗봇에 자연어로 물어보면 관련 규정을 보여주면서 대답한다. 

기업 내부용으로 쓰는 사례도 많다. 예를 들면 콜센터 상담원 보조용으로 쓸 수 있다. 상담원이 고객과 통화하면 대화 내용이 텍스트로 변환돼 모니터에 뜨는데, 여기에 알리를 적용할 수 있다. 고객 질문 내용을 클릭하면 알리가 답을 찾아내고 근거가 되는 문서 내용을 띄워준다. 상담원은 ‘고객님 잠시만요’ 하면서 검색할 필요가 없어 고객 대기 시간을 줄일 수 있다. 판매·영업 분야에서도 비슷하게 활용하는데, 예를 들어 반도체 같은 경우에는 매뉴얼이 수천 장에 달해 내용이 무척 방대하다. 고객 질문 하나에 답하기 위해 며칠을 헤매기 일쑤라고 한다. 이 경우 매뉴얼을 알리에 학습시키면 몇 초 만에 해결할 수 있다.”

사내 문서를 외부 솔루션에 학습시키면 보안에 대한 걱정이 나올 것 같다.
“알리가 학습하는 데이터는 절대 고객사의 벽을 넘을 수 없다. 또 회사 규정상 사내 문서를 회사 밖 서버로 내보낼 수 없는 기업에는 개발 도구 형태로 알리 기능을 제공해 내부 플랫폼에 알리를 탑재해 쓸 수 있다. 기업 보안 정책에 따라 여러 형태를 조합해 서비스를 제공하고 있다.”

일본은 디지털화가 느린 나라 중 한 곳으로 꼽힌다. 일본 금융사가 가장 큰 고객이라는 점이 의외인데.
“코로나19 이전과 이후의 일본은 다른 나라라고 표현해도 무방할 만큼 기업 환경이 달라졌다. 무서운 속도로 디지털 전환이 이뤄지고 있다. 동남아시아에 신용카드가 상용화되기도 전에 모바일 페이가 자리 잡은 것처럼 일본도 디지털 환경에 급격한 변화가 일었다. 이전엔 일본 고객사와 미팅하려면 당연히 회사에 찾아가야 했는데, 지금 올거나이즈 일본 사무실은 스스로를 콜센터에 빗댈 정도로 전화와 화상 회의가 활발하다. 초고령화에 따른 일손 부족 문제도 있다. 일본은 청년 인구 비율이 점점 줄면서 업종을 막론하고 구인난이 심각하다. 디지털 전환을 하지 않으면 안 된다는 것이 사회적으로 공감을 얻고 있다. 디지털 전환을 전담하는 정부 부처도 있다. 이 때문에 알리도 자연스레 주목받게 됐다. 특히 경쟁사 IBM을 제치고 미쓰이스미토모은행(SMBC)과 연간 상용 계약 70건을 맺으면서 일본에서 좋은 평판을 쌓게 됐다.”

일본에서 상장하려는 것도 같은 이유인가.
“그렇다. 우선 우리의 사업 자체가 ‘디지털 전환을 통한 기업 생산성 향상’인데, 이에 대한 수요가 가장 높은 시장이 일본이다. 일본에 고객사가 제일 많아 선순환이 잘 돌아가는 구조가 됐다. 각종 산업군의 1등 기업이 우리 서비스를 이용하고 있고, 1등 기업을 따라 2등 기업도 우리 서비스를 쓰고 싶어 하는 상황이다. 미국에서는 우리가 직접 영업 전화를 돌리는 경우가 많은데 반대로 일본에서는 고객사에서 먼저 의뢰가 들어온다.”

오픈AI의 챗GPT가 등장하면서 어떤 영향을 받았나.
“고객 행동이 바뀌었다. 자체 통계 자료를 보면 챗GPT가 등장하기 전엔 고객이 알리 앤서에 질문할 때 문장으로 질문하는 비중이 30%를 겨우 넘겼다. 알리는 자연어 기반 AI라 사람에게 묻듯이 온전한 문장으로 물어봐야 더 구체적인 답변을 들을 수 있는데, 포털 사이트에서 검색하던 습관 때문에 키워드 질문 비중이 70%에 달했다. 고객 행동은 교육으로도 잘 바뀌지 않아 고민이 많았는데 챗GPT가 등장하면서 사람들이 챗봇과 대화하는 법을 체득하게 된 것이다. 지금은 문장형 질문 비중이 70% 이상으로 역전됐다.”

GPT를 결합한 ‘알리GPT’를 내놨다.
“자체 모델에 GPT를 결합한 형태다. 알리의 AI 모델은 방대한 내용에서 질문에 대한 답을 찾아주는 ‘리트리버 모델’이 있고, 리트리버가 답변 후보를 추려주면 ‘리더 모델’이 정확한 답을 골라주는 식이다. 둘 다 생성형 모델이 아니라 최적의 답변을 찾아주는 모델이다. 그런데 GPT를 적용하면 답변을 찾아주는 데서 더 나아가 답변을 요약해주거나 내용을 분석해 추세를 알려주는 등의 기능까지 가능하다. 지난해 GPT 3.5가 이 생성 기능이 개선된 것을 발견하고 올해 2월에 알리GPT를 출시했다. 4월까지 두 달 동안 6개 고객사와 계약을 맺었다. 이렇게까지 빠르게 계약이 이뤄진 건 이번이 처음이다. 시장 반응이 상당히 좋다.”