인공지능(AI) 기술이 발전해도 하드웨어 성능이 따라가지 못하면 보편적으로 확산되기 어렵다.
챗GPT 같은 거대언어모델(LLM)은 클라우드에서 연산을 수행하지만, 대다수의 AI 모델은 디바이스 환경에서 구동되기 때문이다.
이런 간극을 좁히는 기술력으로 엔비디아·ARM·인텔 등 글로벌 반도체 빅테크를 사로잡은 한국 스타트업이 있다.
노타(NOTA) 이야기다.
채명수 노타 최고경영자(CEO)는 20일 '컴퓨텍스 2025' 전시회가 열린 대만 타이베이 난강 전시센터에서 아시아경제와 만나 "노타는 'AI 보편화'라는 장기적 목표를 향해 나아가고 있다"며 "전 세계 칩 제조사 수장들이 모여드는 컴퓨텍스는 우리에게 기회의 공간"이라고 밝혔다.
노타는 '넷츠프레소(NetsPresso)' 플랫폼을 통해 AI 모델의 경량화와 최적화를 구현한다.
경량화가 고성능 AI 모델을 다양한 기기에서 구동할 수 있도록 '크기'를 줄이는 기술이라면, 최적화는 빠르게 발전하는 AI 모델에 맞게 칩의 '효율적인 연산'을 가능케 하는 소프트웨어 기술이다.
반도체는 차세대 기술력이 양산되기까지 수년이 소요되지만 AI 모델은 그보다 빠르게 발전하고 있어 문제가 생긴다.
노타의 기술력은 바로 이 간극을 메우는 데 특화돼 있다.
노타는 이날 글로벌 칩 시장에서 기술력으로 주목받고 있는 '딥엑스(DeepX)'와 업무협약(MOU)을 체결했다.
역시 한국 스타트업이다.
채 CEO는 "소프트웨어 측면에선 노타가 잘하지만, 뛰어난 성능이 요구되는 칩 부분은 우리가 관여할 수 없다"며 "여러 반도체 회사들과 일을 많이 해봤지만, '보편화'라는 최종 목표에 부합하는 파트너가 딥엑스"라고 설명했다.
노타는 엔비디아·퀄컴·헤일로·NXP 등 굵직한 기업들과 파트너십을 맺고 이들 칩에 소프트웨어 기술을 지원해왔다.
세계 시장을 주름잡는 반도체를 모두 경험해봤다는 뜻이다.
각자의 기술력으로 글로벌 무대에서 강자로 떠오른 두 스타트업이 손을 잡은 의미가 큰 이유다.
분야와 역할은 다르지만, 엔비디아-TSMC 생태계처럼 막강한 '국산 파트너십'이 기대된다.
채 CEO는 "칩 성능과 소프트웨어 기술력이 맞아떨어져야 시장에서 유의미한 비즈니스를 만들 수 있다"고 강조했다.
이어 "칩을 받아 모듈이나 제품을 생산하는 많은 회사들이 대만에 있는데, 이곳에서도 하나 같이 '딥엑스'에 대해 묻는다"며 "이번 MOU는 딥엑스의 뛰어난 칩 설계와 노타의 최적화 기술로 'AI 보편화'를 한층 앞당기는 변곡점이 될 것"이라고 덧붙였다.
채 CEO는 컴퓨텍스 기간 퀄컴·NXP·DFI 등 굵직한 기업들과 미팅을 가질 예정이다.
그는 "앞으로 성장해 나갈 회사들과 협업을 통해 모바일·오토모티브·AI PC 등 수많은 분야에 노타의 소프트웨어 기술로 기여하고자 한다"며 "훗날 시간이 흘러 'AI 기술이 우리 생활에 많이 보편화된 게 어떤 회사들 덕분이지'라고 물을 때 노타가 떠오르길 바란다"고 말했다.
한편 노타는 2015년 설립된 AI 모델 최적화·경량화 전문 기업이다.
AI 모델을 위한 칩의 연산을 효율적으로 만들어 엣지 디바이스에서도 고성능을 구현할 수 있도록 한다.
채명수 CEO는 1989년생으로 한국과학기술원(KAIST) 산업·시스템공학과 석사를 졸업한 뒤 KAIST 인공지능연구소 위촉연구원을 마쳤다.
2018년 노타에 합류한 뒤 경영 전반을 이끌고 있다.
타이베이(대만)=장희준 기자 junh@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
