[기획] 더 많이, 더 못하게 — AI가 과학에 놓은 ‘기회비용’의 덫

연구자의 책상 위에 거의 완성된 논문 한 편이 놓여 있다. 한 주를 더 들이면 실험을 보강하고 문장을 다듬을 수 있다. 그러나 그 시간에 새 연구를 시작할 수도 있다. ‘한 주 더 붙잡을까, 지금 투고하고 다음으로 갈까.’ 대규모언어모형(LLM·방대한 글을 학습해 문장을 만들고 고치는 인공지능)이 연구를 빠르게 만들수록, 뜻밖에도 두 번째 선택이 더 매력적으로 변할 수 있다는 연구가 나왔다.

환각 없는 ‘완벽한 AI’도 만든 역설

퍼듀대·프린스턴대의 이먼 듀에드(Eamon Duede)를 비롯해 노스캐롤라이나주립대, 워싱턴대, 산타페연구소 연구자들이 2026년 7월 19일 공개한 논문의 결론은 간명하다. LLM은 연구자의 노동을 보강해 ‘같은 양을 더 잘하게’ 하기보다 ‘더 많이, 그러나 더 못하게’ 만들 수 있다는 것이다. 다만 이 논문은 아직 동료심사, 즉 같은 분야 전문가들이 연구 방법과 결론을 정식으로 검토하는 절차를 거치지 않은 프리프린트다.

핵심은 AI의 환각이나 오류가 아니다. 저자들은 오히려 환각이 없고 인간 전문가만큼 정확하며, 사실상 비용도 들지 않는 LLM을 가정했다. 흔히 지적되는 결함을 모형에서 모두 지웠는데도 결과가 나빠질 수 있다고 본 것이다. LLM이 연구 단계에 드는 시간을 줄이면 연구자가 다음 프로젝트에서 얻을 시간당 기대수익이 커진다. 그러면 현재 논문을 한 주 더 다듬느라 포기해야 하는 다음 연구의 가치, 곧 기회비용이 높아진다. 논문이 출판 가능한 수준에 닿는 순간 손을 떼고 다음 작업으로 이동하는 편이 합리적인 선택이 된다.

수학적 틀은 행동생태학의 최적 채집 이론, 그중 1976년 제시된 한계가치 정리에서 빌려왔다. 열매를 찾는 새는 한 덤불에서 열매를 따는 속도가 다른 덤불로 옮겨 처음부터 따는 평균 속도보다 느려질 때 떠난다. 덤불 사이를 더 빨리 날 수 있게 되면 새는 한 덤불을 끝까지 훑지 않고 더 일찍 이동한다. LLM은 연구자에게 덤불 사이를 빠르게 건너는 날개와 비슷한 역할을 할 수 있다. 이는 논문의 직접 인용이 아니라 모형을 이해하기 위한 비유다.

어디를 빠르게 하느냐에 따라 결과가 갈린다

모형의 결론은 하나가 아니라 세 갈래다. 먼저 유망한 주제와 가설을 찾는 ‘탐색’이 빨라지면 연구자는 더 많은 후보를 비교할 수 있어 출판 문턱을 높인다. 더 까다롭게 골라 더 많이 버리는 셈이다. 그런데 선택한 논문 하나를 끝까지 다듬을 유인은 줄어 완성도는 낮아질 수 있다.

그림 제작, 조판, 교정, 투고처럼 반드시 해야 하지만 연구의 핵심은 아닌 ‘필수 잡무’가 빨라질 때는 출판 문턱과 완성도가 함께 낮아진다. 적은 시간으로 출판할 수 있으므로 더 많은 원고가 문턱을 넘지만, 한 편을 보강하는 데 머무를 이유는 약해진다. 반면 추가 실험, 통계 심화, 문장 다듬기 같은 ‘재량 작업’ 자체가 빨라지면 완성도는 높아질 수 있다. 이때 출판 문턱이 어느 방향으로 움직일지는 정해지지 않는다.

논문은 기술 분야에서는 탐색 가속의 영향이, 현장조사 기반 분야에서는 필수 잡무 가속의 영향이 두드러질 수 있다고 봤다. 특히 현재 LLM이 가장 잘 처리하는 일이 원고 관련 잡무라는 점에서 두 번째 경로의 함의가 무겁다. 따라서 저자들은 제도적 대응도 분야 차이에 민감해야 한다고 밝혔다. 이 이론 모형에는 생산량 증가율이나 품질 하락률 같은 정량 예측이 전혀 없다. 숫자로 확인된 변화는 별도의 실증 연구에서 나왔다.

210만 편에서 나타난 생산량 증가와 품질 신호의 반전

코넬대와 캘리포니아대 버클리 연구진은 2018년 1월부터 2024년 6월까지 arXiv 120만 편, bioRxiv 22만1,000편, SSRN 67만6,000편 등 약 210만 편과 심사보고서 2만8,000건을 분석했다. LLM을 쓴 저자의 월간 프리프린트 수는 쓰지 않은 저자보다 arXiv에서 36.2%, bioRxiv에서 52.9%, SSRN에서 59.8% 늘었다.

더 눈에 띄는 결과는 품질을 가늠하던 신호의 반전이다. 사람이 쓴 논문에서는 문장이 정교할수록 게재 확률이 높았다. 글을 세심하게 다듬은 흔적이 연구의 충실함과 같은 방향을 가리킨 셈이다. 하지만 LLM이 개입한 논문에서는 관계가 거꾸로 나타났다. 문장이 정교할수록 심사자가 매긴 과학적 가치 평가는 낮았다. 어휘의 복잡성, 문장 구조, 홍보성 표현에서도 같은 반전이 재현됐다. 연구진은 겉보기에는 그럴듯하지만 과학적으로 시시한 연구가 문헌을 채우면, 학계가 진짜 통찰을 골라내는 데 귀중한 시간을 쓰게 될 수 있다고 경고했다.

그렇다고 LLM의 효과가 모두 부정적인 것은 아니다. 같은 분석에서 LLM을 도입한 저자는 서적 인용이 11.9% 늘었고, 참고문헌도 평균 0.379년 더 최신이었다. AI가 연구자의 시야를 좁힌다는 통념과 배치되는 결과다. 2024년에는 100명이 넘는 자연어처리 연구자가 블라인드 방식으로 평가했을 때 LLM이 낸 연구 아이디어가 인간 전문가의 아이디어보다 더 참신하다는 평가도 나왔다. 다만 실현 가능성은 약간 낮았고, 연구진은 LLM의 자기평가 실패와 생성 결과의 다양성 부족을 한계로 밝혔다.

LLM의 개입은 이미 드물지 않다. 2020년 1월부터 2024년 9월까지 논문 112만 편을 분석한 연구에서는 컴퓨터과학 논문의 최대 22%가 LLM으로 수정된 텍스트를 포함한 것으로 추정됐다. 수학 분야와 종합 학술지에서는 최대 9%였다. 프리프린트를 자주 올리는 제1저자, 경쟁이 치열한 분야, 짧은 논문에서 비율이 높았다.

반대로 AI가 과학적 발견을 크게 늘린다는 대표적 근거로 거론됐던 연구는 신뢰를 잃었다. 2024년 11월 미국 대기업 연구소 과학자 1,018명에게 재료 발견 AI를 무작위로 도입했다고 보고한 논문에 대해, 매사추세츠공대 경제학과는 2025년 5월 16일 데이터의 출처·신뢰성·타당성과 연구의 진실성을 확신할 수 없다며 철회 표시를 요청했다. 저자는 더 이상 이 대학 소속이 아니다. AI 가속론과 비관론 어느 쪽도 하나의 사례만으로 결론 내리기 어려운 이유다.

도구가 사람을 바꾼 뒤, 한국은 어디에 서 있나

AI가 정확해도 사용자의 능력이 그대로 유지된다는 보장은 없다. 폴란드 4개 내시경 센터가 대장내시경 1,443건을 분석한 결과, AI를 끈 상태에서 시행한 표준 검사의 선종 발견율은 AI 도입 전 28.4%에서 도입 후 22.4%로 6.0%포인트 떨어졌다. p값은 0.0089로 보고됐다. 도구가 대신 보던 환경에 익숙해진 뒤, 도구 없이 일하는 사람의 성과가 달라진 실측 사례다.

한국은 우선 활용 규범을 정비하고 있다. 한국과학기술기획평가원은 2025년 12월 29일 배포한 국가연구개발 연구윤리 길잡이 제4차 개정본에 ‘생성형 AI 도구 활용 윤리’와 ‘논문공장 활용 방지’를 새로 넣었다. 각 기관이 자체 규정을 마련하도록 안내하는 자료로 강제 규정은 아니다. 한국연구재단도 2026년 6월 30일 연구 설계·수행·보고 단계별 지침과 체크리스트를 담은 대학 연구자용 가이드를 발간했다.

대학 교원 조사에서 생성형 AI 활용 경험은 2023년 10.9%에서 2024년 17.4%로 늘었다. AI가 연구윤리에 문제가 된다는 응답도 53.5%에서 61.9%로, 작업 속도 향상에 유용하다는 응답은 67.1%에서 75.4%로 높아졌다. 2024년 사용 경험자의 용도는 문법·단어 검토가 92.3%로 압도적이었고, 선행연구 검토 50.7%, 연구 이론 탐색 43.5%가 뒤를 이었다.

이를 앞선 이론 모형과 겹쳐 보면, 한국 연구자의 사용이 ‘필수 잡무’를 빠르게 하는 두 번째 시나리오에 집중돼 있다고 볼 수 있다. 출판 문턱과 완성도가 함께 낮아질 수 있는 경로다. 다만 이는 두 자료를 연결한 편집국의 해석이며, 해당 논문이나 조사 자체가 한국 연구의 품질 하락을 입증했다는 뜻은 아니다.

문제의 뿌리는 LLM보다 오래됐다. 2016년 연구자 1,576명을 조사했을 때 52%는 심각한 재현성 위기가, 38%는 약간의 위기가 있다고 답했다. 남의 실험을 재현하지 못한 경험은 70% 이상, 자기 실험을 재현하지 못한 경험은 50% 이상이었다. 재현 불가에 항상 또는 자주 기여하는 원인 1·2위는 선택적 보고와 출판 압박으로, 각각 60%가 넘었다.

공저자인 칼 버그스트롬(Carl T. Bergstrom) 워싱턴대 교수는 “LLM 자체가 문제인 경우는 드뭅니다. LLM은 우리가 이미 갖고 있던 문제에 거울을 들이댈 뿐입니다”라고 말했다. 이번 모형은 제도와 인센티브가 고정돼 있다고 가정했다. 개인이 제도보다 빠르게 움직이기 때문이다. 뒤집으면 제도가 달라질 때 결과도 달라질 수 있다는 뜻이다. 과학이 무엇을 얼마나 생산했는지만 셀 것인지, 한 편을 얼마나 깊이 완성했는지까지 보상할 것인지가 AI 시대의 핵심 질문으로 남는다.

저자는 안 되고 심사엔 못 쓴다…먼저 그어진 선

제도의 대응은 이미 국경 밖에서 진행형이다. 네이처는 2023년 1월 LLM을 논문 저자로 인정하지 않고 사용 사실을 논문에 기록하도록 하는 원칙을 세웠고, 학술 출판윤리 국제기구인 출판윤리위원회(COPE)도 같은 해 2월 AI 도구는 저자가 될 수 없다는 입장을 냈다. 사이언스는 AI가 만든 문장을 전면 금지했다가 2023년 11월 공개를 전제로 완화했다. 책임 소재를 사람에게 남긴다는 원칙은 그대로였다.

관문 쪽 규제는 더 단호하다. 미국 국립보건원(NIH)은 2023년 6월 연구비 심사에서 생성형 AI 사용을 금지했다. 심사 중인 연구계획서를 AI에 입력하는 순간 기밀 유지가 깨진다는 이유였다. 유럽연합 집행위원회와 유럽연구지역(ERA)포럼이 2024년 3월 내놓은 생성형 AI 책임 사용 가이드라인도 동료심사·평가처럼 민감한 활동에는 쓰지 말라고 권고했다. 배경에는 수치가 있다. 2023년 한 해 철회된 논문은 1만 건을 넘어 사상 최다를 기록했다. 하루 27건꼴로, 가짜 논문과 심사 조작이 주된 원인이었다.

가속은 열어두고 관문은 지킨다…권고들의 공통분모

흩어져 보이는 규범들은 세 가지로 수렴한다. 책임은 언제나 사람에게 남긴다. 사용은 감추지 않고 공개한다. 남의 미발표 원고를 다루는 심사·평가에는 쓰지 않는다. EC 가이드라인은 여기에 더해 연구기관에는 도구 사용 실태의 상시 점검을, 연구비 지원기관에는 투명한 사용을 돕는 장치를 권고했다.

본문의 이론이 지목한 위험이 생산의 가속 그 자체가 아니라 출판 문턱의 하락이라면, 국제 규범이 먼저 지키려는 것이 바로 그 문턱이다. 국내 연구자의 사용이 원고 잡무를 덜어내는 쪽에 몰려 있고 지침은 아직 안내 수준인 만큼, 늘어나는 논문을 걸러낼 심사와 평가라는 관문을 어떻게 지킬지가 한국 제도 정비의 다음 순서로 남는다.

자료: 퍼듀대, 프린스턴대, 노스캐롤라이나주립대, 워싱턴대, 산타페연구소, 코넬대, 캘리포니아대 버클리, 매사추세츠공대, 한국과학기술기획평가원, 한국연구재단·네이처·사이언스·출판윤리위원회(COPE)·미국 국립보건원·유럽연합 집행위원회