앤트로픽, AI '생물학 고위험 연구' 빗장 푼다…검증기관엔 신약 개발까지 허용

인공지능(AI) 기업 앤트로픽이 신약 개발처럼 그동안 일반 공개 AI 모델에서는 다루지 못하게 막아뒀던 생물학 관련 고위험 연구를, 검증을 거친 연구기관과 기업에 한해 허용하기로 했다. AI가 생명과학 연구를 더 깊이 돕게 하면서도 오남용은 막겠다는 취지다. 앤트로픽은 17일(현지시간) '생명과학 검증 프로그램(LSVP, Life Sciences Verification Program)'을 베타로 출시하고 생명과학 분야 기관과 연구팀을 대상으로 신청을 받기 시작했다고 밝혔다. 이 프로그램을 통과한 기관은 신약 개발, 연구 생물학, 임상 개발, 제조 등 기존에는 안전상의 이유로 차단됐던 생물학 관련 작업에 AI 모델을 활용할 수 있게 된다.

회사 발표에 따르면 이번 프로그램의 적용 대상은 앤트로픽의 대표 AI 모델인 '미토스(Mythos)', '오퍼스(Opus)', '소네트(Sonnet)'의 최신 버전이다. 다만 완화되는 안전장치는 생물학 관련 항목뿐이며, 사이버 공격 등 다른 분야의 안전장치는 그대로 유지된다. 프롬프트(사용자가 입력하는 질문·지시)와 AI의 답변에서 위험한 정보를 걸러내는 '콘스티튜셔널 분류기' 같은 감시 장치도 계속 작동한다.

초기 참여 기관으로는 세포·단백질·질병 생물학의 기초모델을 만드는 자이라 테라퓨틱스(Xaira Therapeutics), 신약 발견과 개발 속도를 높이는 에디슨 사이언티픽(Edison Scientific), AI 기반 의약품 생성 엔진을 개발하는 매니폴드 바이오(Manifold Bio) 등 3곳이 이름을 올렸다. 앤트로픽은 앞서 진행한 얼리 액세스(우선 이용) 단계에서 이미 수십 개 조직이 이 체계에 들어왔으며, 앞으로 몇 주 안에 수백 개 조직이 추가로 등록할 것으로 내다봤다. 현재는 개발자용 창구인 클로드 콘솔(API)과 기업·팀용 유료 플랜에서만 쓸 수 있고, 개인용 유료 플랜이나 의료정보 보호 계약(BAA)을 맺은 기관, 외부 플랫폼에서는 아직 지원되지 않는다. 앤트로픽은 개인용 플랜으로도 확대하는 방안을 추진 중이라고 설명했다.

앤트로픽이 이런 검증 절차를 마련한 배경에는 생물무기 개발을 돕는 등 갈수록 정교해지는 AI 오남용 시도가 있다. 계정을 탈취하거나 내부자가 AI를 악용하는 위협, AI가 자율적으로 작업을 수행하는 '에이전트' 기능이 잘못 쓰이는 상황을 막으려면 이용자를 미리 검증하는 체계가 필요하다는 것이다.

앤트로픽은 2023년 9월 내놓은 '책임있는 확장 정책(Responsible Scaling Policy)'에 따라 AI 모델이 일으킬 수 있는 재해적 위험 수준별로 안전·보안 기준을 나눠 적용해왔다. 이 기준을 'AI 안전 수준(ASL, AI Safety Level)'이라 부르는데, 지난해 '클로드 오퍼스 4' 모델을 내놓을 때 화학·생물·방사능·핵무기(CBRN) 오남용 위험이 커졌다는 이유로 세 번째 단계인 'ASL-3' 배포 기준을 처음 가동한 바 있다. 이번에 새로 나온 LSVP는 이 ASL-3 체계를 그대로 유지하면서, 검증을 통과한 기관에 한해 생물학 분야에서만 제한을 풀어주는 후속 조치로 볼 수 있다.

자료: Anthropic