입자가속기 신호 겹침 문제, AI가 실시간으로 가려낸다…독일 연구진 CNN 검출법 제시

원자핵을 가속해 쪼개거나 충돌시키는 입자가속기에서는 아주 짧은 시간 동안 여러 개의 입자가 한꺼번에 검출기를 통과하면서 신호가 서로 겹쳐버리는 '파일업(pile-up)' 현상이 골칫거리로 꼽힌다. 신호가 겹치면 실제로 몇 개의 입자가 지나갔는지 정확히 셀 수 없어 측정 자체가 틀어지기 때문이다. 독일 다름슈타트에 있는 GSI 헬름홀츠 중이온연구소(GSI Helmholtz Centre for Heavy Ion Research)와 풀다 응용과학대학교(Fulda University of Applied Sciences) 공동 연구진이 이 문제를 인공지능(AI)으로 풀어내는 방법을 제시했다.

연구진은 GSI의 HTP 빔라인에서 실험 데이터를 모았다. SIS-18 싱크로트론(입자를 둥근 궤도로 돌리며 가속하는 장치)에서 뽑아낸 탄소(C6+) 이온빔을 BC400이라는 플라스틱 섬광체(입자가 지나가면 빛을 내는 검출 소재)와 광전자증폭관(PMT, 약한 빛 신호를 증폭해 전기신호로 바꿔주는 장치)으로 측정했다. 이렇게 얻은 약 2만6000개의 입자 펄스(신호) 데이터를 연구진이 직접 하나하나 손으로 분류해 라벨을 붙였고, 이를 학습 자료로 삼아 합성곱 신경망(CNN, 이미지나 신호에서 특징을 뽑아내는 데 특화된 AI 모델)을 훈련시켰다.

이번에 쓰인 CNN은 일반적인 신경망과 달리 끝부분에 있는 완전연결층을 없앴다. 대신 영상 속 물체를 찾아내는 AI 모델 '욜로(YOLO)'의 구조를 1차원 신호에 맞게 바꾼 6개의 합성곱층으로 모델을 구성했다. 욜로는 원래 사진 속에서 사람이나 사물의 위치를 박스로 찾아내는 데 쓰이는데, 연구진은 같은 방식을 시간에 따라 변하는 전기신호에서 겹친 입자 펄스의 위치를 찾아내는 데 응용했다.

검증용 데이터(펄스 2만5678개)로 성능을 비교한 결과, CNN이 예측한 펄스 수는 2만5779개로 실제와 101개밖에 차이나지 않았다. 기존에 쓰이던 삼중 임계값 방식(신호가 특정 기준선을 넘는 횟수로 입자를 세는 전통적 기법)은 217개, 국소최대값 탐색법(신호의 봉우리를 찾아 입자를 세는 기법)은 595개나 차이가 났다. 입자가 실제로 어느 위치를 지나갔는지 추정하는 오차도 CNN이 샘플링 스텝 기준 평균 0.385로, 삼중 임계값 방식(2.044)이나 국소최대값 탐색법(1.809)보다 훨씬 작았다. 신호를 세는 정확도와 위치를 짚어내는 정밀도 모두에서 AI 방식이 기존 기법을 앞선 것이다.

다만 연구진은 이 CNN을 FPGA(현장에서 용도에 맞게 회로를 다시 짤 수 있는 반도체 칩) 구현을 염두에 두고 설계했다고만 밝혔을 뿐, 실제로 FPGA 위에 모델을 올려 실시간으로 동작시키는 검증은 아직 마치지 못했다. 연구진은 논문에서 FPGA 구현과 검증을 앞으로의 과제로 제시했다. 신호 중첩 문제는 그동안 단일·이중 임계값을 넘는 지점을 교차 확인하는 방법이나, 미리 정해둔 신호 모양(템플릿)을 실제 신호에서 빼내는 방식, 신호 봉우리의 특성을 분석하는 방법 등으로 다뤄져 왔다. 이번 CNN 기반 접근은 이런 기존 기법들을 대신할 대안으로 제시된 것이다. 같은 연구팀의 GSI 소속 연구자는 2022년에도 입자를 세고 구분하는 데 머신러닝을 적용한 선행 연구를 발표한 바 있어, 이번 결과는 그 연장선에 있는 작업으로 볼 수 있다.

이번 연구는 2025년 9월 7일부터 11일까지 영국 리버풀에서 열린 제14회 국제 빔 계측 학회(IBIC 2025)에서 발표됐으며, 가속기물리 분야의 학회 출판 플랫폼인 JACoW를 통해 공개됐다.

자료: GSI 헬름홀츠 중이온연구소, 풀다 응용과학대학교, JACoW