[기획] 겹쳐 보이는 빛의 ‘숨은 리듬’ 가른 실리콘 광칩…4포트 시험서 충실도 97.8%·99.9%

일반 카메라로는 하나의 밝은 얼룩처럼 보이는 빛도 내부의 ‘리듬’은 서로 다를 수 있다. 밝기가 어디에 얼마나 모였는지만 보면 같아도, 파동이 오르내리는 시점인 위상과 빛 사이의 통계적 상관관계까지 살피면 여러 성분이 숨어 있을 수 있다는 뜻이다. 일반 카메라가 합창단의 전체 음량만 기록한다면, 새로운 실리콘 광칩은 섞인 소리에서 통계적으로 상관되지 않은 화음의 축을 찾아 서로 다른 스피커로 보내는 장치에 가깝다.

Stanford University와 Institute of Science and Technology Austria 연구진은 부분적으로 결맞는 빛을 분석해 서로 다른 결맞음 모드가 각기 다른 출력 도파로로 나가도록 하는 광집적회로를 시연했다. 결맞음 모드는 빛의 위상과 상관관계를 행렬로 나타낸 뒤 고유값 분해했을 때 얻는, 서로 직교하면서 통계적으로 상관되지 않은 성분이다. 연구 결과는 2026년 10월 30일 《Nature Photonics》에 온라인 게재됐다.

사진은 같아 보여도 빛의 리듬은 다르다

연구진이 제시한 사례에서는 두 빔의 세기 분포가 구분되지 않는 위치에서 세기 정보만으로 계산한 엔트로피가 약 0이었다. 엔트로피는 여기서 빛이 몇 가지 구별되는 상태로 섞여 있는지를 나타내는 척도다. 그러나 위상과 상관관계까지 반영한 결맞음 엔트로피는 같은 위치에서 약 0.6비트였다. 직교하면서 세기가 같은 두 모드의 이론값인 1비트에는 못 미치지만, 밝기 사진만으로는 보이지 않던 구조가 존재한다는 의미다.

기존의 완전 토모그래피는 여러 측정 기저에서 빛을 검출한 뒤 컴퓨터가 결맞음 행렬을 수치적으로 재구성한다. 결과물은 주로 행렬 데이터다. 이번 장치는 분석에 필요한 변환을 광검출기 앞에서 수행했다. 최적화가 끝나면 검출기를 광경로에서 빼더라도 분리된 결맞음 모드가 서로 다른 출력 도파로에 빛의 형태로 남는다. 계산 결과를 얻는 데서 그치지 않고, 갈라진 빛을 후속 광학 처리에 바로 넘길 가능성을 보인 것이다.

다만 이 장치가 원래 레이저의 빛을 언제나 하나씩 되찾아 주는 것은 아니다. 두 입력장이 공간적으로 직교할 때에는 결맞음 모드와 개별 레이저 빔이 일치하지만, 그렇지 않으면 출력 모드는 여러 원광원이 섞인 선형결합일 수 있다. 칩이 찾아내는 것은 광원의 이름표가 아니라 입력광 전체를 가장 자연스럽게 설명하는 통계적 축이다.

열로 위상을 조절하고 출력 피드백으로 길을 찾다

실험에는 서로 독립적인 가변 레이저 2대가 사용됐다. 파장은 1,534.65㎚, 약 1,535㎚로 사람 눈에는 보이지 않는 근적외선이며 광통신의 1.55㎛ 대역과 가깝다. 지름 약 300㎛인 두 빔을 겹친 뒤 약 11도 각도로 칩의 격자 결합기에 입사시켰다. 3×3 배열로 배치된 명목상 9개 입력 결합기는 레이저 9개가 아니라 두 레이저가 만든 공간장을 나눠 받는 샘플 채널이다. 대각선으로 인접한 결합기 사이 간격은 약 50㎛였다.

칩 내부에는 빛을 나누고 다시 합쳐 간섭시키는 마하젠더 간섭계 망과 약 50대 50 방향성 결합기, 열광학 위상천이기가 배치됐다. 열광학 위상천이기는 히터로 도파로의 굴절률을 바꿔 빛의 위상을 조절하는 소자다. 연구진은 각 위상천이기에 서로 다른 주파수의 작은 전압 진동을 걸고 출력 신호를 복조해 한 층에서 최대 14개 위상 변수의 기울기를 동시에 측정했다.

이 기울기는 어느 방향으로 위상을 바꿔야 출력이 커지는지를 알려주는 경사표와 같다. 외부 전자제어기는 이를 받아 Adam 최적화를 수행했다. 따라서 칩이 ‘스스로 학습한다’는 표현은 범용 인공지능이 칩 안에서 판단한다는 뜻이 아니다. 광검출기와 잠금 검출, 외부 다채널 전자장치와 계산을 포함한 폐루프 최적화가 출력 피드백을 보며 설정값을 고치는 과정이다.

첫 번째 자기구성 층은 출력 광력을 최대화해 가장 큰 고유값을 가진, 즉 가장 강한 결맞음 모드를 찾았다. 연구진은 이를 수학적으로 레일리 몫의 최대화라고 설명했다. 두 번째 층은 첫 모드와 직교하는 부분공간에서 다음으로 강한 모드를 찾았다. 대표적인 단일 층 수렴 사례에서는 약 50회 반복 뒤 기울기가 0 부근으로 모였다. 최대 직교 조건의 별도 실행에서는 첫째 층을 400 epoch, 둘째 층을 500 epoch 동안 최적화했다.

‘9입력’과 ‘98%’를 한 성능으로 읽어서는 안 된다

수치를 해석할 때는 실험 조건을 분리해야 한다. 장치는 명목상 9개 입력 채널을 갖췄지만, 주 실험에서는 출력 간섭 측정을 위해 입력 하나를 제외하고 마지막 마하젠더 간섭계를 사용해 실질적으로 8×2 프로세서처럼 동작했다. 또한 모드 충실도 97.8%와 99.9%는 9개 입력 전체가 아니라 입력 포트를 4개로 제한한 기준시험에서 얻었다.

모드 충실도는 빛을 얼마나 자주 맞혔다는 정답률이 아니다. 칩이 찾아낸 공간 모양이 같은 칩에서 혼합물 단층촬영으로 재구성한 고유모드와 얼마나 겹치는지를 나타낸다. 첫째 층의 충실도는 97.8%, 둘째 층은 99.9%였고, 고유값 오차는 각각 0.29%와 3.11%였다. 비교 기준 역시 외부 독립 장비를 이용한 맹검 표준이 아니라, 레이저를 한 대씩 켜 같은 칩의 입력장을 측정하고 수치적으로 재구성한 결과였다.

출력 누화는 −13.0±2.6㏈로 보고됐다. 누화는 원하는 길이 아닌 다른 출력으로 새어 간 빛을 뜻한다. 평균값을 전력비로 바꾸면 원하지 않는 출력에 약 5%의 광력이 남은 수준이므로 완전한 분리는 아니다. 별도 시험에서는 레이저 3대와 재구성 가능한 9×9 회로를 이용해 세 출력이 쌍별로 서로 비결맞음이 되는 것도 확인했다. 그러나 세 모드에서 97.8%·99.9%와 같은 충실도를 입증한 결과는 아니다.

저랭크 빛에는 유리하지만 현실의 빛은 아직 남은 숙제

연구진 설명에 따르면 입력 공간 차원을 N, 유효 결맞음 모드 수를 r이라고 할 때 필요한 광학 구성요소 수는 O(rN)으로 증가한다. 모든 관계를 복원하는 완전 토모그래피의 일반적인 O(N²)보다, 소수의 모드만 지배하는 저랭크 조건인 r≪N에서 유리할 수 있다. 반대로 r이 N에 가까워지면 필요한 자원도 다시 O(N²)에 접근한다.

확장에는 물리적 비용도 따른다. 이번 열광학 위상천이기는 하나가 π만큼 위상을 옮기는 데 약 20㎽를 사용했고 통상 0~9V로 구동됐다. 회로가 커지면 소비전력뿐 아니라 옆 소자의 온도까지 흔드는 열 누화, 광손실과 제어 채널 수도 늘어날 수 있다. 구성요소 수의 점근적 감소가 곧 대규모 칩의 전력과 열 문제 해결을 뜻하지는 않는다.

실험은 제어된 약 1,535㎚ 레이저 환경에서 이뤄졌다. 자연광, 생물학적 표본, 별빛, 대기 난류나 희미한 광자 조건에서는 아직 검증되지 않았다. 현미경과 초해상도 영상, 코로나그래피, 천문관측, 위성통신은 가능한 후속 연구 방향이지 실제 적용 성과가 아니다. 칩 전체 삽입손실과 전체 소비전력, 실제 학습시간, 장기 안정성에 대해서도 확정적인 정량값은 제시되지 않았다.

그럼에도 이번 결과는 밝기만 기록하는 영상 뒤에 감춰진 위상과 결맞음 정보를 광학 회로가 직접 찾아 분리할 수 있다는 가능성을 보여줬다. 다음 질문은 분명하다. 통제된 두 레이저를 넘어 복잡하고 약하며 계속 변하는 현실의 빛에서도 같은 방식이 작동할 수 있는지, 그리고 그 과정의 전력과 열, 손실과 제어 시간을 감당할 수 있는지다.

자료: Stanford University·Institute of Science and Technology Austria