AI끼리 영업비밀 감춘 채 사실 확인…케임브리지, ‘암호학적 신뢰’ 연구 착수

서로 믿지 않는 기업의 AI 에이전트들이 영업비밀을 내놓지 않고도 제품의 제조 방식과 규격 충족 여부를 확인하는 연구가 영국에서 본격화된다. 사람이 인증서와 현장실사로 확인하던 기업 간 신뢰를 암호학적 증명으로 옮길 수 있는지 시험하는 시도다.

영국 케임브리지대학교 컴퓨터과학기술학과는 7일 마틴 클렙만 부교수와 마틴 폼페리 SINE Foundation 공동 주도로 ‘암호학적 신뢰 인프라 센터(CCTI)’를 운영한다고 밝혔다. 케임브리지대와 SINE Foundation뿐 아니라 Ink & Switch, Light Squares 소속 연구자들도 참여한다.

센터가 풀려는 문제는 AI 에이전트 사이의 신뢰다. AI 에이전트는 사용자를 대신해 정보를 찾는 수준을 넘어 기업 간 조건을 협상하고 거래를 진행하거나 실제 장비를 움직이는 역할까지 맡을 수 있다. 그러나 서로 다른 회사를 대표하는 에이전트는 상대가 제시한 정보가 사실인지 그대로 믿기 어렵다. 반대로 사실을 증명하려고 생산 기록과 내부 데이터를 모두 건네면 기업의 민감한 정보가 노출될 수 있다.

CCTI가 핵심 수단으로 시험하는 기술은 ‘영지식증명’이다. 어떤 주장이 참이라는 점은 증명하면서도 그 판단에 사용한 원자료는 상대에게 공개하지 않는 암호 기술이다. 예컨대 공급업체의 에이전트가 제품이 특정 공정이나 규격에 따라 만들어졌다는 사실을 입증하되, 세부 제조법이나 영업상 민감한 데이터까지 거래 상대에게 보여주지는 않는 방식이다.

기존에는 인증기관처럼 신뢰받는 제3자가 확인하거나 구매자가 공급업체 현장을 직접 조사하는 절차가 이런 역할을 맡았다. 연구진은 암호 프로토콜을 이용하면 AI 에이전트가 사실을 더 빠르게 확인하면서도 기밀을 지킬 가능성이 있다고 보고 있다. 다만 이번 발표는 연구계획과 검증할 가설을 공개한 단계다. 에이전트 간 사실 검증의 성능이나 상용 효과가 이미 입증된 것은 아니다.

CCTI는 개별 암호 기술만 개발하는 조직이 아니라 영국 첨단연구발명청의 ‘Scaling Trust’ 프로그램을 연결하는 통합 파트너도 맡는다. 참여 연구팀의 성과가 어떻게 맞물리는지 정리하고, 함께 사용할 구성요소를 개발하며, 공개 벤치마크와 도전과제를 제안할 계획이다. 클렙만 연구팀은 이에 앞서 2025년 12월부터 2026년 2월까지 ‘암호학적으로 검증 가능한 공급망 데이터’를 주제로 탐색 연구를 수행했다.

Scaling Trust는 공개소스 에이전트 도구 개발, 기초 암호이론 연구, 물리 시스템 검증을 결합한 세 갈래 사업이다. 전체 사업비는 4,980만파운드다. 도구 개발 트랙은 팀당 20만~200만파운드, 기초연구 트랙은 팀당 10만~300만파운드 규모로 제시됐다. 지원 결과물은 기본적으로 공개소스로 제공한다.

연구 결과는 영국의 실물 시험장인 ‘Scaling Trust Arena’에서도 시험할 예정이다. 이곳에서는 AI 에이전트들이 작은 경제 안에서 거래와 결제를 하고, 기계를 운용하며, 상품과 서비스를 판매한다. 별도의 레드팀은 시스템을 공격하는 관점에서 취약점을 찾는다. 수백만파운드 상금 규모의 이 시험장은 2027년 초 가동될 예정이다.

암호학적 신뢰가 제대로 작동한다면 AI 에이전트는 상대를 막연히 믿거나 민감한 자료를 모두 넘기는 대신, 필요한 사실만 증명받아 판단할 수 있다. 이번 연구의 의미는 그 가능성을 선언하는 데 그치지 않고 공개 도구와 공통 시험 기준, 공격적 검증 환경을 한데 묶어 실제로 성립하는지 확인하려는 데 있다.

자료: 영국 케임브리지대학교 컴퓨터과학기술학과, 영국 첨단연구발명청(ARIA)