반야AI팀, '퀼컴 AI 이노베이터 프로그램(QAIPI) APAC 데모 데이' 인터뷰 진행
- 작성일
- 2025-12-08
[디지털데일리 김문기기자] 15일 서울 용산 아모레퍼시픽에서 열린 ‘퀄컴 AI 이노베이터 프로그램(QAIPI) APAC 데모 데이’는 겉으로 보기엔 작은 규모 행사였지만 그 안에는 엣지 AI 생태계가 어떤 속도로 확장되고 있는지가 그대로 담겨 있었다. 모바일·PC·로보틱스·IoT를 가로지르는 ‘온디바이스 AI’라는 키워드는 결국 누가 실제 구현까지 끌고 갈 수 있느냐의 문제라고 한다면, 이날 무대에 오른 15개 스타트업은 그 질문에 대한 해답을 찾는 과정 중 하나였다.
◆ 반야AI CTO가 말하는 ‘온디바이스 LLM의 결정적 순간’
안토니오 김 반야AI CTO는 한국 대표로 스타트업에 선정된 것과 관련해 단순한 가속기나 경진대회 형태가 아니었다고 단언했다.
김 CTO는 “우리는 금융·제조·공공처럼 규제가 강한 산업군을 타깃으로 온디바이스 LLM 솔루션을 만들어왔는데, QAIPI는 기술적 검증과 구조적 재설계를 동시에 진행할 수 있는 거의 유일한 기회였다”고 말했다.
반야AI는 산업별 특화 LLMOps 플랫폼 ‘다이션(DAITION)’을 기반으로 외부 전송 없이 기기 내부에서 LLM을 실행하는 구조를 설계해왔다. 하지만 엣지 환경에서 실제 구현이 가능할지 확신하기 어려운 부분이 많았다.
김 CTO는 “온디바이스 LLM은 이상적으로 보이지만 모델이 크고 연산 구조가 복잡해 실제 기기에서 안정적으로 돌아갈지 아무도 확신할 수 없었다. 그런데 퀄컴과 결합하자 연산 구조, 메모리 접근 방식, 스케줄링이 완전히 새롭게 설계되기 시작했다. 결과적으로 우리가 예상한 것 이상으로 안정성과 응답성이 나왔다”고 강조했다.
그는 온디바이스 LLM의 의의를 단순한 ‘클라우드 비용 절감’으로 보지 않았다. “온디바이스는 데이터 주권을 지키는 기술이다. 특히 금융·공공 분야에서는 모델 성능보다도 데이터가 밖으로 나가지 않는 구조가 더 중요하다”며 “QAIPI는 이 부분을 시장에서 실현 가능한 형태로 구체화하는 계기였다”고 말했다.
반야AI 역시 프로그램에서 IP 전략 교육을 가장 인상 깊었던 요소로 꼽았다. 김 CTO는 “국내 특허 전략과 글로벌 전략은 완전히 다르다. 어떤 기술을 보호해야 하고 어떤 기술을 개방해야 시장 확장이 유리한지 명확하게 배웠다”고 설명했다.
그러면서 “특허를 내는 것보다 중요한 건 ‘어떤 구조를 보호할지’를 설계하는 일인데, 퀄컴의 조언이 그 부분을 매우 명확하게 잡아줬다”고 강조했다.
