독일 다름슈타트에 위치한 GSI 헬름홀츠 중이온연구소가 Teledyne ADQ35의 초당 100억 샘플(10 GSPS) FPGA 기반 AI 추론을 통해 높은 입자 발생률과 상당한 신호 중첩이 발생하는 상황에서도 서브마이크로초 지연시간과 서브나노초 시간 분해능으로 입자의 위치를 실시간으로 안정적이고 정확하게 추적할 수 있음을 밝혀냈다.
이 연구는 풀다 응용과학대학교(Fulda University of Applied Sciences)에서 GSI와 공동으로 수행한 박사학위 연구의 일환으로 진행됐다. FPGA 하드웨어에 직접 구현된 합성곱 신경망(CNN)은 300나노초의 지연시간으로 초당 120기가비트의 데이터를 처리한다.
스필 내 모든 입자 계수
입자가속기는 과학 실험, 재료 연구 및 의료 분야에 사용되는 정밀하게 제어된 입자 빔을 제공한다. GSI에서는 SIS18 싱크로트론이 링 가속기에서 입자를 가속한 후, 빔에서 입자를 추출해 실험 장치로 전달한다. 이 과정을 스필(spill)이라고 한다. 스필을 제어하려면 스필 내 입자의 수와 시간에 따른 분포를 파악하는 것이 필수적이다. 이를 위해 가속기가 작동하는 동안 스필에 포함된 각 입자의 위치를 실시간으로 추적해야 하며, 이는 입자가속기 빔 계측 분야에서 중요한 과제다.
검출기를 빔 경로에 배치하면 검출기를 통과하는 각 입자마다 펄스가 발생한다. 이는 그림 1에 나타나 있다. 짧은 시간 간격 내에 여러 입자가 검출기를 통과하면 펄스가 서로 겹치면서 검출기 응답이 비선형적으로 변할 수 있다. 이러한 펄스 중첩 현상을 파일업(pile-up)이라고 하며, 빔 세기가 높아질수록 발생 가능성이 증가한다. 파일업 이벤트를 제대로 분리하지 못하면 이를 방지하기 위해 입자 발생률을 낮춰야 하므로 빔 세기가 제한된다.
그림 1. 입자가 검출기에 충돌할 때 발생하는 펄스.
그림 2는 이러한 파일업 이벤트의 네 가지 사례를 보여준다. 각 사례는 짧은 시간 간격 내에 3개의 입자가 도착했을 때의 신호 응답을 나타낸다. 각 입자의 도착 시간은 녹색 점선으로 표시되어 있다.
다중 임계값 검출이나 국소 최대값 검색과 같은 기존 방법은 파일업이 발생하면 입자를 검출하는 데 어려움을 겪으며, 검출에 실패하는 경우도 많다. 이로 인해 입자 수가 실제보다 적게 집계될 수 있으며, 이는 스필 제어와 후속 실험에 악영향을 미칠 수 있다.
그림 2. 짧은 시간 간격 내에 여러 입자가 도착했을 때의 검출기 응답. 3개의 입자가 도착하면서 펄스가 서로 겹친다.
FPGA 기반 AI 신호 처리
이 문제를 해결하기 위해 라벨링된 데이터를 기반으로 CNN을 개발하고 학습했다. 이후 UFAIRA가 개발한 툴체인을 사용해 CNN을 FPGA 하드웨어에 직접 구현했다.
AI 모델은 파일업이 발생한 경우에도 각각의 개별 펄스를 위치 추적하고, 입자 수와 도착 시간 정보를 실시간으로 추출한다. 이를 통해 매우 높은 입자 발생률에서도 스필을 정확하게 재구성할 수 있다. CNN의 FPGA 구현은 데이터를 인라인으로 처리하고 결정론적 지연시간을 보장하므로, 스필 제어와 같은 실시간 애플리케이션에 매우 중요하다.
디지타이저에 구현
이 솔루션은 최대 10 GSPS의 샘플링 속도와 온보드 AMD Kintex UltraScale KU115 FPGA를 탑재한 Teledyne SP Devices ADQ35 고속 디지타이저를 사용해 구현됐다. 이를 통해 디지타이저에서 직접 실시간 AI 추론을 수행하는 데 필요한 충분한 연산 리소스를 확보할 수 있다. 데이터를 디지타이저에서 직접 처리함으로써 데이터 전송 병목을 방지하고 서브마이크로초 지연시간으로 동작할 수 있다.
FPGA에 최적화된 하드웨어 인지형 학습과 CNN의 FPGA 패브릭 구현을 지원하는 툴체인을 사용해 구현된 CNN은 312.5MHz에서 32개 샘플을 병렬 처리할 수 있으며, 이를 통해 10 GSPS의 처리 성능과 낮고 결정론적인 지연시간, 높은 정확도를 구현한다.
