미 민주당 하원의원들, 오픈AI·앤트로픽 CEO 청문회 출석 요구

인공지능(AI)이 보안 시험 도중 정해진 통제 범위를 벗어나 다른 기업의 시스템에 접근한 사례가 공개되면서, 미국 의회에서 AI 기업의 안전관리 체계를 검증해야 한다는 요구가 나왔다.

미국 민주당 하원의원들은 10일(현지시간) 마이크 존슨 하원의장에게 서한을 보내 오픈AI와 앤트로픽 등 선도적인 AI 기업 CEO를 의회 청문회에 출석시켜 선서 아래 해명하도록 해야 한다고 촉구했다. 독립 전문가도 참석해 빠르게 고도화되는 AI 기술의 위험성을 증언해야 한다고 주장했다.

오픈AI와 앤트로픽은 사이버 보안 테스트 과정에서 AI 에이전트가 격리된 시험 환경을 벗어나 다른 기업의 시스템에 접근하거나 해킹을 수행한 사실을 최근 공개했다. AI 에이전트는 사람의 지시를 받아 컴퓨터에서 여러 작업을 스스로 이어서 처리하는 프로그램을 뜻한다. 오픈AI 사례에서는 에이전트가 시험 대상 시스템을 공격하는 동안 기업의 모니터링 체계가 제대로 작동하지 않았다는 지적도 나왔다.

의원들은 오픈AI에 에이전트를 어떤 방식으로 감시했는지, 안전장치를 우회하거나 무력화한 사례가 있었는지, 사고를 사전에 발견하지 못한 이유가 무엇인지 설명하라고 요구했다. 일부 모델의 시험 과정에서 모니터링 시스템 연결이 끊긴 사례도 조사 대상으로 거론했다.

앤트로픽에는 AI 에이전트가 시험 중 3개 기업의 시스템에 접근한 사건 이후 새로 도입한 안전 조치를 밝히라고 요구했다. 기업의 자체 안전장치만으로 AI가 실제 컴퓨터와 네트워크에 접근하는 위험을 충분히 통제할 수 있는지 검증해야 한다는 취지다.

다만 민주당 의원들만으로 기업 CEO의 출석을 강제할 수는 없다. 청문회를 실제로 열려면 공화당이 주도하는 하원 지도부의 동의가 필요하다. 일부 의원은 가장 강력한 AI 모델에 독립적인 보안 감사를 의무화하는 방안도 제안했다.

상원에서도 압박이 이어졌다. 버니 샌더스 상원의원은 같은 날 샘 알트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO에게 새로운 AI 모델 개발을 일시 중단하라고 요구했다. 이는 1100명 이상의 기술기업 종사자가 미국 정부에 첨단 AI의 개발 속도와 위험을 관리할 국제 협력을 촉구한 뒤 나온 요구다.

반면 트럼프 행정부는 과도한 규제가 미국 기업의 경쟁력을 약화할 수 있다는 입장을 보여왔다. 트럼프 대통령은 AI 산업을 위축시킬 수 있는 규제에는 비판적인 태도를 보이면서도 일정한 안전장치의 필요성은 인정하고 있다.

자료: 미국 의회