베리실리콘(VeriSilicon)이 최근 구글과 함께 상시작동(always-on) 초저전력 에지 대규모 언어 모델(LLM) 애플리케이션을 겨냥한 코럴 신경망처리장치 IP(Coral NPU IP)를 공동 출시했다고 발표했다.
이 IP는 구글의 개방형 머신러닝 컴파일러 기반 연구를 기반으로 하며 인공지능(AI) 보안 기능을 강화해 개발자들에게 강력한 에지 AI 생태계를 구축할 수 있는 통합 오픈소스 플랫폼을 제공한다.
코럴 NPU는 개방형 RISC-V 명령어 집합 아키텍처를 기반으로 구축됐으며 네이티브 텐서 처리 기능을 갖추고 있다. 또한 잭스(JAX), 파이토치(PyTorch), 텐서플로우 라이트(TFLite) 같은 주류 머신러닝 프레임워크를 지원하며, 컴파일러 인프라를 위해 로우 레벨 버추얼 머신(LLVM) 프로젝트의 멀티 레벨 인터미디어트 리프레젠테이션(MLIR) 같은 개방형 표준 도구를 활용한다. 이는 특히 웨어러블 기기와 주변 감지 시스템을 위한 상시작동 초저전력 에지 AI 애플리케이션을 위해 설계됐다.
코럴 NPU IP는 현재 구글 디벨로퍼스(Google Developers) 웹사이트에 오픈소스로 공개돼 전 세계 개발자들이 이용할 수 있다. 베리실리콘은 상용화 준비가 된 엔터프라이즈급 IP 버전을 제공하는 한편, 풍부한 IP 포트폴리오와 칩 설계 및 검증 역량을 활용해 원스톱 맞춤형 실리콘 서비스를 지원할 예정이다.
현재 베리실리콘은 AI/증강현실(AR) 안경 및 스마트 홈 애플리케이션을 겨냥해 코럴 NPU IP를 기반으로 한 검증 칩을 개발 중이며, 에지에서의 LLM 배포를 가속화하고 있다.
와이즈웨이 왕(Wiseway Wang) 베리실리콘 총괄부사장 겸 커스텀 실리콘 플랫폼 사업부 제너럴 매니저는 “이번 출시는 오픈 세 큐라(Open Se Cura) 오픈소스 프로젝트에 대한 우리의 이전 경험을 바탕으로 하며, 구글의 오픈소스 기술과 베리실리콘의 칩 설계 및 상용화 역량의 지속적이고 깊은 통합을 의미한다”고 말했다. 왕 총괄부사장은 이어 “우리는 칩 설계, 검증, 시스템 수준 최적화 분야의 강점을 계속 활용해 에지 AI 생태계를 발전시킬 것이다. 또한 실제 제품에 오픈소스 기술을 배포하도록 지원하고 에지 LLM 애플리케이션을 활성화해 산업 혁신을 강력히 지원할 것”이라고 덧붙였다.
