News

SoC(System-on-Chip) 생성을 가속화하는 시스템 IP의 선두 공급업체인 Arteris (아테리스)가 SoC 설계에서 인공 지능(AI) 및 머신 러닝(ML) 컴퓨팅의 더 빠른 개발을 위해 타일링 기능과 확장된 메시 토폴로지 지원을 갖춘 NoC(Network-on-Chip) IP 제품의 혁신적인 진화를 발표했다. 이 새로운 기능을 통해 설계 팀은 프로젝트 일정과 전력, 성능 및 영역(PPA) 목표를 충족하면서 컴퓨팅 성능을 10배 이상 확장할 수 있게 되었다. 네트워크 온 칩 타일링은 SoC 설계의 새로운 트렌드이다. 혁신적인 접근 방식은 검증된 강력한 네트워크 온 칩 IP를 사용해 확장을 용이하게 하고 설계 시간을 단축시키며 테스트 속도를 높일 뿐 아니라 설계 위험을 줄여준다. 이를 통해 SoC 아키텍트는 칩 전체에 소프트 타일을 복제해 확장 가능한 모듈식 설계를 만들 수 있다. 각 소프트 타일은 독립적인 기능 단위를 나타내므로 더 빠른 통합, 검증 및 최적화가 가능해진다. 아테리스의 주력 NoC IP 제품인 FlexNoC와 Ncore의 메시 토폴로지와 결합된 타일링은 대부분의 SoC에 AI 컴퓨팅이 점점 더 많이 포함됨에 따라 점점 혁신되고 있다. AI로 가동되는 시스템들은 점점 더 규모가 커지고 복잡해지지만 전체 SoC 설계를 중단하지 않고 소프트 타일을 추가해 빠르게 확장할 수 있다. 바둑판식 배열과 메시 토폴로지의 조합은 수동식의 비바둑판식 설계에 비해 XPU(보조 처리 장치) 하위 시스템 설계 시간과 전체 SoC 연결 실행 시간을 최대 50%까지 줄여준다. NoC 타일링의 첫 번째 반복은 네트워크 인터페이스 소자(NIU)를 반복 가능한 모듈식 블록으로 구성해 SoC 설계의 확장성, 효율성 및 신뢰성을 향상시킨다. 이러한 SoC 설계는 비전, 머신 러닝(ML) 모델, 딥 러닝(DL), 대규모 언어 모델(LLM)을 포함한 자연어 처리(NLP) 및 생성형 AI(GAI)용을 위해 빠르게 성장하는 정교한 AI 워크로드를 지원하는 AI 컴퓨팅의 대형화, 첨단화를 가능하게 해준다. “아테리스의 확장성과 유연성이 뛰어난 메시 기반 NoC IP 덕분에 당사의 SoC 팀은 더 큰 AI 데이터 볼륨과 복잡한 알고리즘에 대한 지원을 보다 효율적으로 구현하게 되었다”라고 언급한 SiMa.ai 의 하드웨어 엔지니어링 부사장인 스리비 드루바나라얀(Srivi Dhruvanarayan)은 “양사의 긴밀한 협력을 통해 우리는 CNN에서 멀티모달 GenAI에 이르기까지 다양한 모델을 지원하고 와트당 확장 가능한 성능으로 그 사이의 모든 모델을 지원하는 Arm 기반의 멀티모달, 소프트웨어 중심의 엣지 AI 플랫폼을 만들 수 있었다"고 설명했다. 그는 이어 확장된 아테리스 NoC 타일링 및 메시 기능을 배포해 엣지에 더욱 확장성이 뛰어난 AI 실리콘 플랫폼을 만들 수 있는 능력을 향상시키겠다는 비전을 밝혔다. K. 찰스 야낙(K. Charles Janac) 아테리스 사장 겸 최고경영자(CEO)는 “지속적으로 혁신을 계속하고 있는 아테리스의 대형 메시 토폴로지 지원을 기반으로 하는 혁신적인 NoC 소프트 타일링 기능은 SoC 설계 기술의 발전”이라며 ”이미 최첨단 AI 기반 SoC를 구축하고 있는 당사의 고객들은 프로젝트 일정과 PPA 목표를 준수하면서 훨씬 더 크고 복잡한 AI 시스템의 개발을 더 효율적으로 가속화할 수 있게 되었다”고 의미를 부여했다. 타일링 및 확장된 메시 토폴로지 기능을 통해 확장된 AI 지원을 제공하는 FlexNoC 및 Ncore NoC IP 제품은 얼리 억세스 고객과 파트너들에게 제공되고 있다. 자세한 내용은 arteris.ai에 있다.

데이터센터는 높은 컴퓨팅 성능을 발휘하기 위해 고밀도로 설계되는 것이 주요 특징이며, AI 애플리케이션의 수요가 급증함에 따라 열 방출과 밀도의 균형을 맞추는 효율적인 열 관리가 필수적인 요소로 떠오르고 있다.  이에 따라 기존 데이터센터는 AI 적용을 위한 업그레이드가 진행 중이며, 신규로 건설되는 공랭식 데이터센터 또한 엄격한 요건을 충족하는 장비로 구축되어야 한다. 더불어 여러 국가들이 환경 친화적인 운영을 위한 규제를 도입하고 있어 저탄소 발자국 데이터센터 구축이 업계의 최우선 과제가 되고 있다. 이에 따라 IT 인프라 제품 및 솔루션 제공업체 KAYTUS(케이투스)가 고밀도 공랭식 AI 컴퓨팅을 위한 컨테이너형 캐비닛 ‘EVOLEEN-I5000s’를 공개했다. AI 애플리케이션을 위해 특별 설계된 EVOLEEN-I5000s는 전통적인 공랭식 캐비닛 대비 6배 향상된 컴퓨팅 밀도를 지원한다. 또한 최대 50kW의 열을 방출하고 25%의 에너지 절감 효과를 실현해 차세대 공랭식 AI 데이터센터의 효율성을 한층 더 향상시킬 것으로 기대된다. 케이투스 차세대 공랭식 컨테이너형 AI 컴퓨팅 ‘EVOLEEN-I5000s’ 진화하는 추세에 따라 케이투스도 AI 애플리케이션을 위해 특별히 설계된 차세대 컨테이너형 컴퓨팅 인프라 EVOLEEN-I5000s를 새롭게 선보인다. EVOLEEN-I5000s는 고밀도 공랭식 AI 컴퓨팅 캐비닛으로 모듈형 아키텍처 내에서 뛰어난 컴퓨팅 파워 밀도와 에너지 효율을 제공한다.  주류 CPU 및 이종 가속 칩과 호환되며, 컴퓨팅∙ 스토리지∙네트워킹 기능을 하나의 유닛에 통합하는 것이 특징이다. 각 캐비닛은 20~50kW의 전력을 지원해 최대 80%의 컴퓨팅 및 네트워킹 수요를 충족한다. 또한, 전력 분배, UPS, 공조, 모니터링 및 화재 방지 시스템을 갖추고 있어 효율적이고 능률적인 데이터센터 구축을 가능하게 한다. EVOLEEN-I5000s는 모듈화, 효율 최적화, 그리고 지능형 관리를 고려해 설계되었으며, 자율주행, 바이오 및 의약품, 생성형 AI, 스마트 제조 등 다양한 애플리케이션을 지원한다. 최첨단 올인원 솔루션 - 고밀도, 고에너지 효율, 신속한 딜리버리 및 지능형 운영 모두 지원 케이투스의 고밀도 공랭식 AI 컴퓨팅 캐비닛 EVOLEEN-I5000s의 핵심 장점은 다음과 같다. 1. 고밀도 배치와 탁월한 컴퓨팅 파워 EVOLEEN-I5000s는 47U 크기의 단일 캐비닛에서 최대 40개의 가속 카드와 10개의 CPU를 지원해 전통적인 공랭 캐비닛 대비 6배 이상의 성능을 제공한다. 이러한 고밀도 설계는 공간과 전력 소모를 크게 줄이고 데이터센터의 효율성을 최적화한다. 모듈 배치 및 구축 공간을 각각 40%, 60% 감소시킴으로써, EVOLEEN-I5000s는 현재 AI 기반 데이터센터의 전반적인 운영 효율을 극대화한다. 2. 효율적인 열 방출 케이투스 ‘EVOLEEN-I5000s’ 방열 메커니즘 EVOLEEN-I5000s 캐비닛은 밀폐형 냉열 통로와 이중 그룹 공조 제어 시스템을 통해 냉각 효율성을 최적화하며, 서버 파라미터에 기반한 시뮬레이션을 활용해 열 교환 성능을 향상시킨다. 이를 통해 캐비닛과 열(row) 공조기의 배치를 개선하고 국부적인 과열을 방지할 수 있다. 만약 공조기에 장애가 발생할 경우, 이중 그룹 제어 전략을 통해 시스템의 신뢰성과 에너지 효율을 유지하며 지속적이고 효과적인 열 방출을 보장한다. 3. 에너지 절감 효과 EVOLEEN-I5000s 통합 시스템은 전통적인 데이터센터 대비 25% 이상의 에너지를 절감한다. 메가와트급 전력 체인을 완전히 통합한 설계를 통해 전력 공급 효율이 압도적으로 향상되었으며, 에너지 손실을 30% 이상 감소시키는 것이 가능하다. 또한, 고온 유입수를 활용해 냉각 시스템의 에너지 효율을 10% 이상 추가로 개선해 데이터센터 운영을 위한 최적화된 지속 가능한 솔루션을 제공한다. 4. 신속한 구축 EVOLEEN-I5000s는 모듈화 설계와 디엔지니어링 설치 방식으로 데이터센터 구축 시간을 최대 70%까지 단축할 수 있다. 공간, 냉각 용량, 전력 할당에 대한 요구 사항을 단순화함으로써 단 1주일 만에 데이터센터 구축을 완료하고 빠르게 운영을 시작할 수 있다. 5. 보안 및 인텔리전스 운영 통합 AI 관리 플랫폼은 실시간 환경 모니터링과 2D/3D 시각화를 제공해 운영 및 유지보수를 더욱 간편하게 만든다. 주요 냉각 구성 요소를 원격으로 제어할 수 있으며, AI 기반 모니터링 시스템을 통해 데이터센터의 안정성과 보안을 30% 향상시켜 신뢰할 수 있는 효율적인 운영을 보장한다. 검증된 솔루션: LLM 애플리케이션을 위한 대규모 데이터센터 업그레이드에 성공적으로 활용 케이투스는 LLM(대규모 언어 모델) 학습을 위한 대규모 데이터센터 업그레이드 프로젝트에서 EVOLEEN-I5000s를 성공적으로 제공한 바 있다. 한 에너지 기업은 1,000억 개의 파라미터를 처리하는 LLM 훈련을 위해 기존 데이터센터 인프라 강화가 필수적이었으며, 이는 높은 컴퓨팅 성능을 요구했다. 기존 데이터센터는 캐비닛당 6kW를 지원하고 최대 18개의 2U 서버를 수용하도록 설계되었으나, AI 워크로드에 적응하는 과정에서 전력 및 공간의 한계에 직면했고 단일 AI 서버 1대를 운영하기 위해서는 2개의 캐비닛이 필요했다. 또한, 기존 공랭식 냉각 방식으로는 20kW를 초과하는 캐비닛에서 열 방출 문제를 해결하기 어려웠고, 지역 규제는 신규 데이터센터의 PUE(전력사용효율)를 1.25 이하로 유지해야 하는 엄격한 요구 사항을 부과했다. 고객이 직면한 어려움에 대응하기 위해 케이투스는 42kW 고밀도 공랭식 AI 컴퓨팅 캐비닛 솔루션을 도입해 뛰어난 컴퓨팅 성능을 제공하고 기존 캐비닛 대비 컴퓨팅 밀도를 6배 이상 향상시켰다. 해당 솔루션은 최대 에너지 효율성을 보장하기 위해 PUE를 1.25 이하로 유지하면서 고성능 AI 애플리케이션의 요구 사항을 충족시켰으며, 동시에 데이터센터의 공간 및 에너지 사용을 최적화해 모듈 배포를 40%, 구축 공간을 60% 감소시켰다. 또한, 모듈 내 IB 네트워킹 활성화를 통해 IB 케이블 비용을 50% 절감해 고객에게 고성능, 에너지 고효율, 지능형 인프라 솔루션을 제공했다. EVOLEEN-I5000s는 고밀도 설계, 효율적인 전력 관리 및 우수한 냉각 기능으로 이러한 모든 문제를 효과적으로 해결해 AI 인프라 업그레이드에 적합한 솔루션으로 평가된다.