▲ 서울대-서울시립대 공동연구진, 광집적회로를 이용한 위상학적 비가환 광자 컴퓨팅 플랫폼 구현 성공(왼쪽부터 서울대학교 전기정보공학부 유선규 교수(공동 교신저자), 서울대학교 전기정보공학부 박남규 교수(공동 교신저자), 서울시립대학교 전자전기컴퓨터공학부 박현희 교수(공동 교신저자), 서울대학교 전기정보공학부 김경훈 연구원(제1저자)) [출처=서울대학교 공과대학]

서울대(총장 유홍림)에 따르면 공과대학(학장 김영오) 전기정보공학부 유선규 교수, 박남규 교수 연구팀이 서울시립대 전자전기컴퓨터공학부 박현희 교수 및 영국 엑시터대(University of Exeter) 젠슨 리(Jensen Li) 교수와의 국제 공동연구를 통해 연산 순서에 따라 결과가 달라지는 비가환(Non-Abelian)* 물리를 광집적회로에서 구현할 수 있는 프로그래머블 스피너(spinor) 격자 구현에 성공했다.

비가환(Non-Abelian)은 같은 연산이라도 적용 순서가 바뀌면 결과가 달라지는 성질(예: AB ≠ BA)로 위상학적 양자 컴퓨팅에서는 이러한 순서 의존성이 게이트 연산의 핵심 원리이다.

스피너(spinor)/유사 스핀(pseudo-spin) 모드는 두 성분을 가진 파동 상태를 벡터처럼 표현한 것이 스피너며 광학에서는 편광/경로/공진기 모드 등 서로 다른 내부 자유도를 스핀처럼 취급해 유사 스핀이라 부른다.

연구팀은 이번 성과를 통해 위상학적 큐비트의 동작 원리를 고전적으로 모사할 수 있음을 입증했다. 기존과 차별화된 새로운 위상학적 과학 특성 구현의 가능성을 제시했다.

큐비트(Qubit)는 고전 컴퓨터의 비트에 대응되는 양자 컴퓨터 연산의 기본 단위이며 0과 1 상태를 동시에 가질 수 있는 중첩과 얽힘 특성을 통해 기존 비트보다 우수한 연산 속도 제공이 가능하다.

이번 연구 성과는 물리 분야의 세계적 학술지 ‘피지컬 리뷰 레터스(Physical Review Letters)’에 2026년 1월30일 게재됐다.

◇ 연구 배경... 광집적회로를 활용해 저전력·초고속 연산과 광학 양자컴퓨터를 구현하려는 연구에 애로

광집적회로를 활용해 저전력·초고속 연산과 광학 양자컴퓨터를 구현하려는 연구가 활발히 진행 중이나 빛의 결함과 에러에 대한 민감성으로 인해 구현에 어려움이 있었다.

이에 따라 최근에는 그 대안으로 위상학적 특성을 이용해 결함에 강하고 안정적인 광학 연산을 구현하려는 연구가 주목받고 있다.

비가환 물리는 동일한 연산이라도 적용 순서가 바뀌면 결과가 근본적으로 달라지는 특징을 가지며 마이크로소프트 등에서 연구 중인 위상학적 큐비트 기반 양자 컴퓨팅에도 핵심 원리로 적용된다.

특히 이러한 성질은 결함에 강한 빛의 상태 제어를 가능하게 하는 새로운 설계 자유도를 제공한다는 점에서 큰 관심을 받고 있다.

그러나 실제 대규모 광집적회로 구현에서는 1. 미세한 공정 편차에 따른 오차 누적 2. 소자 간 상호작용으로 인한 재현성 저하 등이 안정적인 연산 유지를 어렵게 만드는 문제로 지적돼 왔다.

특히 비가환 성질을 구현하려면 빛의 다양한 내부 자유도 간 결합을 세기 및 위상 정보까지 포함한 행렬 형태로 정밀하게 제어해야 하는데 이를 뒷받침할 수 있는 체계적인 설계 방법은 지금까지 제시된 바 없었다.

이에 연구팀은 빛의 물리 특성 간 결합을 행렬 형태로 자유롭게 제어할 수 있는 광집적회로의 개념을 최초로 제안하고 새로운 비가환 동역학 및 위상학적 광학 특성을 발견, 제어하고 실현하는 데 성공했다.

◇ 연구 성과... 광소자 상의 유사 스핀 모드 간 결합을 활용해 행렬 연산으로 수행 가능한 단위 소자 제시

연구진은 광소자 상의 유사 스핀 모드 간 결합을 활용해 행렬 연산으로 수행 가능한 단위 소자를 처음으로 제시했다. 이를 통해 위상학적 양자 컴퓨팅의 핵심 동작인 땋음(braiding) 동작을 광 모드들이 서로 자유롭게 얽히는 구조를 시연했고 빛의 상태를 마치 매듭처럼 엮는 방식으로 비가환 양자 현상을 모사할 수 있음을 입증했다.

땋음(braiding) 동작은 (비가환) 입자들을 서로 교차시키는 경로를 따라 교환해 그 교환 순서 자체로 연산을 수행하는 방식으로 같은 교환이라도 순서가 달라지면 결과가 달라질 수 있다.

또한 연구진은 서로 다른 위상 물질이 맞닿는 경계면에서 ‘비가환 계면’이라는 독특한 성질을 관찰했다. 특히 이 계면에서 위상학적으로 보호되는 광학 상태가 혼성화돼 에너지 밴드갭이 다시 열리는 현상을 확인했다.

이를 통해 광학 연산에 필수적인 높은 에러 저항성과 제어 효율을 동시에 달성할 수 있는 새로운 광학적 자유도를 제시했다.

위상학적 보호(Topological protection)란 구조에 작은 결함이나 잡음이 있어도 물리적 상태의 위상학적 특성으로 인해 그 상태가 쉽게 깨지지 않는 성질을 의마한다.

혼성화(hybridization)는 서로 다른 빛 상태가 강하게 결합해 경계에서 원래와 다른 새로운 결합 상태로 바뀌는 현상을 말한다.

밴드갭(bandgap)은 어떤 주파수(에너지) 대역에서는 파동(전자/빛)이 전파할 수 없는 금지 대역을 의마한다.

◇ 기대 효과... 복잡한 위상학적 양자 동작(땋음 등)의 검증 및 고차원 정보에 기반한 광학 컴퓨팅의 구현 가능

이번 연구는 위상 물리와 비가환 동역학을 재구성 가능한 광집적회로로 구현하는 연결고리를 제시했다는 점에서 그 의의가 크다.

특히 결함에 민감한 기존 광학 연산과 광학 양자 컴퓨팅에서 반복적으로 요구되던 미세 보정 및 안정화 비용을 줄일 수 있는 방법을 선보였다.

아울러 안정적으로 유지(에러 저항성)되는 동작과 원하는 대로 조절(제어 용이성)되는 동작을 동시에 만족시키는 설계 자유도도 제공했다.

또한 비가환 현상을 광학적으로 고전 모사한 이번 연구의 성과는 앞으로 복잡한 위상학적 양자 동작(땋음 등)의 검증 및 고차원 정보에 기반한 광학 컴퓨팅의 구현을 가능케 할 것으로 기대된다.

◇ 연구진 의견... 장기적으로는 실리콘 포토닉스 기술 기반 광집적회로 내에서 결함에 강한 광자 AI 구현

논문의 공동 교신저자인 유선규 교수와 박남규 교수는 “이번 연구를 통해 광집적회로에서 구현 가능한 위상학적 자유도를 극대화하는 데 성공했다”고 평가하며 “장기적으로는 실리콘 포토닉스 기술 기반 광집적회로 내에서 결함에 강한 광자 AI를 구현하는 것이 최종 목표다”고 밝혔다.

제1저자인 김경훈 연구원은 “이번 연구에서 비가환 현상을 보다 깊이 이해할 수 있었으며 이번 연구 결과가 AI 및 양자 기술 전반에 응용되길 기대한다”고 말했다.

◇ 연구진 진로... 매사추세츠 공과대(MIT)에서 박사과정을 밟으며 초전도 양자컴퓨터 연구 수행

서울대학교 전기정보공학부 학부 인턴 과정 중 이번 연구를 주도했던 김경훈 연구원은 현재 매사추세츠 공과대(MIT)에서 박사과정을 밟으며 초전도 양자컴퓨터 연구를 수행하고 있다.

한편 이번 연구는 과학기술정보통신부 글로벌 선도연구센터(IRC, 서울대학교 하이브리드 양자 컴퓨팅 센터), 기초연구실 사업(BRL, 전자-광자 하이브리드 기반 멤리스틱 소자 기초연구실) 및 우수신진연구 사업과 서울대 창의선도 신진연구자지원사업의 지원으로 수행됐다.

※ 참고자료

논문 제목/저널: Programmable lattices for non-Abelian topological photonics and braiding, Physical Review Letters