정부, 국가R&D AI 연구윤리 가이드 확정..."최종 책임은 연구자"

정부가 국가 연구개발(R&D) 현장에서 인공지능(AI)을 활용할 때 연구자가 지켜야 할 윤리 기준을 처음으로 마련했다. AI는 어디까지나 연구를 돕는 도구로 자리매김하고, 연구 결과에 대한 책임과 권리는 전적으로 연구자 본인에게 있다는 원칙을 못박은 것이 핵심이다.

과학기술정보통신부는 국가과학기술자문회의 운영위원회의 심의·의결을 거쳐 국가연구개발 AI 연구윤리 가이드를 확정했다고 20일 밝혔다. 국가과학기술자문회의는 대통령 직속으로 과학기술 정책 전반의 방향을 논의하는 기구로, 이곳의 의결을 거쳤다는 것은 이번 가이드가 특정 부처 차원을 넘어 국가 R&D 전체에 적용되는 공식 기준이라는 의미를 갖는다. 정부 예산이 들어가는 국가연구개발 과제는 여러 부처와 대학, 출연연구기관, 기업 부설연구소 등에 걸쳐 있는 만큼, 이번 가이드는 특정 기관 하나가 아니라 이 모든 연구 현장에 두루 적용되는 공통 기준으로 자리잡을 전망이다. 연구 주체와 분야를 가리지 않고 국가 예산이 투입되는 과제라면 원칙적으로 이 기준의 적용을 받게 되는 셈이어서, 하나의 가이드가 국가 R&D 생태계 전반의 AI 활용 방식에 영향을 줄 것으로 보인다.

이번 가이드가 나온 배경에는 최근 몇 년 새 생성형 AI가 논문 초안 작성, 자료 검색, 데이터 분석 등 연구의 거의 전 과정에 빠르게 파고든 현실이 있다. 연구자 입장에서는 반복적이고 시간이 오래 걸리던 작업을 AI에 맡겨 생산성을 크게 높일 수 있게 됐다. 하지만 그만큼 부작용도 함께 커졌다. AI가 그럴듯하지만 틀린 정보를 마치 사실처럼 내놓는 이른바 환각 현상, 학습 데이터에 섞여 있던 편향된 시각을 그대로 답습하는 문제, 연구 데이터나 개인정보가 AI 서비스를 거치며 외부로 유출될 위험, 그리고 AI가 짜깁기한 자료를 연구자가 어디서 왔는지 명확히 밝히지 않고 인용하는 문제 등이 새로운 연구윤리 이슈로 떠올랐다. 이런 문제들은 연구 결과물의 신뢰성과 직결된다는 점에서 단순한 기술적 오류를 넘어 연구윤리의 영역으로 다뤄질 수밖에 없다는 지적이 나온다.

기존의 연구윤리 규정만으로는 이런 문제들을 다루기 어려웠다. 논문 표절이나 데이터 조작처럼 사람이 직접 저지르는 부정행위를 전제로 만들어진 규정에 AI라는 새로운 변수가 끼어들면서 누가 책임을 지는가라는 질문에 명확히 답하기 어려운 사각지대가 생긴 것이다. 이번 가이드는 이 사각지대를 메우기 위해 AI의 위상을 연구를 보조하는 도구로 명확히 한정하고, AI를 활용해 얻은 결과물이라 하더라도 그 정확성을 확인하고 최종적으로 책임지는 주체는 연구자라는 원칙을 세운 것으로 풀이된다. 이는 연구자가 AI의 답변을 검증 없이 그대로 가져다 쓰는 관행에 제동을 거는 동시에, AI를 활용했다는 이유로 연구자의 책임이 흐려지는 상황을 막기 위한 조치로 볼 수 있다.

이 원칙은 앞으로 국가연구개발 과제의 연구윤리 위반 여부를 가리는 잣대로도 쓰일 가능성이 크다. 예를 들어 연구자가 AI가 만들어낸 부정확한 내용을 걸러내지 않고 그대로 논문이나 보고서에 담았다면, 이는 AI의 잘못이 아니라 확인 절차를 소홀히 한 연구자 본인의 책임으로 다뤄지게 된다는 뜻이다. 나아가 AI가 생성한 결과물을 출처 표시 없이 활용하거나, 보안이 확보되지 않은 AI 서비스에 민감한 연구 데이터를 입력하는 행위 역시 이번 가이드가 경계하는 연구윤리 위반의 범주에 포함될 수 있다.

결국 이번 가이드는 AI 활용을 막는 규제가 아니라, AI를 적극적으로 쓰되 그 결과를 사람이 반드시 검증하고 책임지도록 하는 최소한의 안전장치를 국가 R&D 시스템 안에 마련한 조치로 볼 수 있다. AI가 연구 현장의 필수 도구로 자리잡아가는 흐름을 되돌리기보다, 그 활용 과정에서 신뢰성과 책임 소재를 분명히 함으로써 연구 결과물 전반의 질을 지키려는 취지로 읽힌다.

자료: 과학기술정보통신부