AI가 증명을 넓힐수록 인간의 책임은 더 무거워진다

이번 성과에서 필자의 눈을 붙든 것은 ‘AI가 난제를 풀었다’는 문구가 아니다. 더 중요한 대목은 AI가 계산과 유도의 넓은 숲을 훑고, 인간 수학자가 어느 길을 남길지 판단했다는 사실이다. 마이크로소프트 리서치 연구진은 이런 분업으로 KLS 상수의 상한이 차원에 따라 커지지 않음을 증명했다. 상한이란 값이 넘어설 수 없는 천장이고, ‘차원과 무관하다’는 것은 변수가 아무리 늘어나도 그 천장이 함께 높아지지 않는다는 뜻이다. 필자는 이를 인공지능의 승리보다 연구 방법의 변화로 읽는다.

탐색의 병목이 바뀌고 있다

KLS 추측은 고차원 공간의 복잡한 분포를 나눌 때 단순한 평면 절단도 가장 좋은 절단과 크게 다르지 않다는 생각을 담고 있다. 여기서 고차원은 우리가 보는 3차원을 넘어 수많은 변수를 한꺼번에 다루는 수학적 공간이다. 이런 문제는 확률분포에서 표본을 뽑는 방법, 무작위 알고리즘, 이론 컴퓨터과학의 토대와 이어진다.

수학 난제의 어려움은 계산량에만 있지 않다. 수많은 보조명제와 접근법 가운데 무엇이 본질인지 골라내는 데 오랜 시간이 든다. AI는 지치지 않고 후보를 만들고 긴 유도를 점검할 수 있지만, 그럴듯한 오류도 같은 속도로 생산한다. 이번에 인간 연구자가 선택과 폐기, 연결과 검증을 맡았다는 점은 그래서 중요하다. 별도 연구진이 같은 날 독립적인 증명을 내놓은 사실도 한 팀의 서사보다 결과 자체를 보게 한다.

속도보다 검증의 설계를 준비해야 한다

다만 ‘AI 협업’이라는 말이 검증 책임을 흐리는 면허가 되어서는 안 된다. 어떤 단계에서 AI가 아이디어를 냈고, 인간이 무엇을 확인했으며, 다른 연구자가 어디까지 재현했는지를 남겨야 한다. 자연어 증명과 함께 정리 증명기처럼 논리 단계를 기계적으로 검사하는 도구를 활용하고, 코드·중간 추론·실패한 경로도 가능한 범위에서 공개할 필요가 있다.

우리 연구계도 거대 모델 보유 경쟁만 좇아서는 안 된다고 본다. 전공자가 AI의 제안을 의심하고 수정할 수 있는 교육, 계산 자원에 접근할 공동 기반, AI 기여와 오류 책임을 기록하는 연구 규범에 투자해야 한다. 앞으로 좋은 연구자는 혼자 모든 계산을 해내는 사람이 아니라, 기계가 펼친 가능성 가운데 증명할 가치가 있는 길을 알아보고 끝까지 책임지는 사람일 것이다. KLS 추측의 해결이 남긴 가장 큰 질문은 AI가 수학자를 대신하느냐가 아니라, 인간이 더 넓어진 탐색 공간에서 어떤 판단을 맡을 것이냐는 데 있다.