MSI가 개발한 다중 탐침 원자 현미경(AFM) 장비. 여러 개의 탐침을 동시에 활용해 반도체 웨이퍼 표면을 정밀
하게 측정할 수 있다. /사진 MSI
MSI가 개발한 다중 탐침 원자 현미경(AFM) 장비. 여러 개의 탐침을 동시에 활용해 반도체 웨이퍼 표면을 정밀 하게 측정할 수 있다. /사진 MSI

“30년 가까이 국가 연구비를 받아 원자 현미경(AFM)을 연구했다. 논문과 특허만 남기는 것보다 이 기술을 산업에 환원해야 한다는 생각이 컸다. 남이 이미 잘하는 장비를 따라가기보다 세상에 없는 장비를 만들어 새로운 시장을 개척하고 싶다.”

최근 서울 금천구 멀티스케일인스트루먼트(MSI) 본사에서 만난 제원호 대표는 창업 배경에 대해 이렇게 말했다. 서울대 물리천문학부 명예교수이기도 한 제 대표는 수정 진동자 기반 센서와 AFM을 연구해 왔다. 대학 연구실에서 축적한 기술을 산업 현장에 적용하겠다는 목표로 창업에 뛰어들어, 현재 반도체 양산 공정용 차세대 계측 장비를 개발하고 있다.

반도체는 회로가 미세해지고 구조가 복잡해질수록 제조 과정에서 발생하는 결함 하나가 수율(양품 비율)을 좌우한다. HBM(고대역폭 메모리)과 3D 낸드(NAND) 등 칩 구조가 입체화하면서 표면의 높낮이와 형상을 정밀하게 측정하는 기술의 중요성이 커지고 있다.

MSI의 핵심 기술은 여러 개의 탐침이 동시에 작동하는 ‘멀티헤드 AFM’이다. 기존 AFM은 탐침 하나로 반도체 표면을 훑으면서 원자 수준의 3D 정보를 얻는다. 측정 정밀도는 높지만, 넓은 영역을 검사하는 데 시간이 오래 걸린다. 생산 속도가 중요한 양산 라인에서는 쓰기 어려웠던 이유다. 

MSI는 탐침 여러 개가 서로 영역을 나눠 측정하도록 장비 구조를 바꿨다. 8개 헤드가 동시에 작동하는 시제품을 구현했으며, 향후 16개와 32개 이상으로 확장할 수 있는 아키텍처도 갖췄다. 탐침 개수를 늘리는 데 그치지 않고 각 탐침을 정밀하게 제어하면서 측정 결과의 일관성을 확보하는 것이 관건이다.

사업화도 추진 중이다. MSI는 삼성전자와 샘플 테스트를 진행했으며, SK하이닉스를 비롯한 국내 메모리 반도체 업체, 반도체 장비사와 기술 검증·사업 협의를 이어 가고 있다. 아직 고객사 개념 검증(PoC) 이전 단계지만, 연구실 기술이 산업 현장의 평가를 받기 시작했다.

제 대표는 기존 시장에서 점유율 경쟁을 벌이기보다 새 시장을 여는 쪽을 택했다. 식각·증착·화학적기계연마(CMP) 등 공정 장비 내부에 소형 계측기를 탑재하는 ‘통합 계측(integrated metrology)’을 유망 분야로 꼽은 것. 생산 라인에서는 공정을 마친 웨이퍼를 별도 계측 장비로 옮겨 검사하는 방식이 일반적이지만, 공정 장비 안에서 바로 측정하면 웨이퍼 이동과 검사에 드는 시간을 줄이고 이상 징후를 일찍 파악할 수 있다. 공정 오차가 후속 공정에서 불량으로 이어지는 것도 막는다. 제 대표는 “양산에서는 잘 보이는 것만으로는 의미가 없다”며 “속도와 반복성·안정성·제어성을 모두 확보해 실제 생산 라인에서 수율을 높이는 장비가 돼야 한다”라고 말했다.

MSI는 약 40억~50억원 규모의 시리즈A 투자 유치를 진행하고 있다. 2026년 하반기부터 2027년 상반기까지 고객사 PoC를 추진하고, 이를 거쳐 약 2년 내 양산 장비를 내놓을 계획이다. 제 대표는 “MSI를 단순한 장비 회사가 아니라 반도체 제조 방식을 바꾸는 계측 플랫폼 기업으로 키우는 것이 목표”라고 했다. 다음은 일문일답. 

제원호 - 멀티스케일인스트루먼트 대표, 서울대 물리학 석사, 미국 예일대 물리학 박사, 현 서울대 물리천문학부 명예교수, 전 서울대
응용물리연구소장, 전 서울대 물리천문학부 교수 /사진 MSI
제원호 - 멀티스케일인스트루먼트 대표, 서울대 물리학 석사, 미국 예일대 물리학 박사, 현 서울대 물리천문학부 명예교수, 전 서울대 응용물리연구소장, 전 서울대 물리천문학부 교수 /사진 MSI

창업에 뛰어든 이유는.

“30년 가까이 국가 연구비로 AFM을 연구했다. 논문으로 끝내기보다 산업에 환원해야 한다는 생각이 컸다. 기술 집약도가 높고 파급력이 큰 반도체 분야에서 가장 많은 가치를 만들 수 있다고 판단했다. 남이 이미 잘하는 장비를 따라가기보다 세상에 없는 장비를 만들고 싶었다.”

기존 AFM의 가장 큰 한계는 어떤 건가.

“속도다. AFM은 표면을 정밀하게 측정할 수 있지만, 탐침 하나가 순차적으로 움직이는 구조에서는 측정 시간이 오래 걸린다. 반도체 양산 라인은 많은 웨이퍼를 빠르게 처리해야 하므로 정밀도만 높다고 쓸 수 있는 것이 아니다. 속도와 안정성·반복성을 함께 확보해야 한다.”

MSI가 개발한 멀티헤드 AFM은 기존 제품과 무엇이 다른지.

“헤드 여러 개가 서로 다른 영역을 동시에 측정하는 구조다. 현재 8개 헤드가 함께 작동하는 시제품을 구현했고, 16개, 32개 이상으로 확장할 수 있는 설계도 갖췄다. 헤드 수를 늘리는 것도 중요하지만, 각 헤드를 정밀하게 제어하면서 양산에 필요한 측정 성능을 확보하는 것이 관건이다.”

반도체 제조 공정에서 AFM이 필요한 이유는 무엇인가.

“반도체가 미세화하고 3D 구조가 복잡해지면서 표면 형상을 정밀하게 측정하는 일이 중요해지고 있다. 기존 계측 기술만으로는 확인하기 어려운 영역에서 AFM이 강점을 발휘할 수 있다. 다만 실제 생산 라인에서 활용하려면 측정 정밀도뿐 아니라 생산성을 갖춰야 한다. 결국 수율 향상에 기여할 수 있어야 한다.”

삼성전자와 기술 검증은 어느 부분까지 진행됐나.

“샘플 테스트를 진행했다. SK하이닉스를 비롯한 반도체 업체, 장비사와도 기술 검증과 사업 협의를 이어 가고 있다. 하반기부터 고객사 PoC를 추진한다.”

왜 공정 장비 내부에서 계측하는 장비 시장을 공략하는가. 

“독립형 계측 장비 시장은 이미 경쟁이 치열하다. 반면 공정 장비에 계측 기능을 통합하는 시장은 이제 시작 단계라고 본다. 공정 직후 결함을 확인할 수 있다면, 불량이 누적되는 것을 줄이고 수율을 높이는 데 도움이 된다. 기존 시장의 점유율을 빼앗기보다 블루오션을 만드는 것이 MSI의 전략이다.”

연구실 기술을 반도체 양산 장비로 만드는데 가장 중요한 건.

“양산에서는 잘 보이는 것만으로는 의미가 없다. 속도와 반복성·안정성·제어성을 모두 확보해야 한다. 실제 생산 라인에서 안정적으로 작동하고 고객사의 수율 향상에 기여할 수 있어야 한다. 연구 장비와 양산 장비는 요구되는 조건이 다르다.”

향후 투자 유치와 사업화 계획은.

“현재 약 40억~50억원 규모의 시리즈A 투자 유치를 진행하고 있다. PoC를 거쳐 약 2년 내 양산 장비를 출시하는 것이 목표다. 기술을 개발하는 데서 끝나는 것이 아니라 반도체 제조 현장에서 활용되는 장비로 만드는 데 집중하고 있다.”

기업인으로 변신하면서 무엇을 중요하게 생각했나.

“결국 사람이다. 좋은 장비는 돈만으로 만들 수 없다. 기계와 전자·소프트웨어를 이해하는 사람이 하나의 팀이 돼야 한다. ‘작은 일론 머스크’ 같은 도전 정신이 있는 이들이 모여 세상에 없는 장비를 만든다는 자부심으로 일하고 있다.”

MSI를 어떤 기업으로 키우고 싶은가.

“단순한 장비 회사가 아니라 반도체 제조 방식을 바꾸는 계측 플랫폼 기업으로 키우는 것이 목표다. 기존 장비를 따라가기보다 새 기술로 새 시장을 개척하고 싶다.” 

최효정 조선비즈 기자