AI 에이전트가 결정해도 기업 책임은 그대로…영국 규제기관 4곳 공동원칙 제시

사람 대신 상품을 찾고 환불을 처리하며 금융서비스까지 이용하는 AI 에이전트가 잘못된 결정을 내렸을 때, 기업은 ‘AI가 스스로 한 일’이라며 책임을 피할 수 없다는 원칙이 영국에서 제시됐다.

영국 디지털규제협력포럼(DRCF)은 2026년 10월 30일 에이전트 기반 경제에서 사람과 기업을 보호하기 위한 공동성명을 발표했다. 참여기관은 경쟁시장청(CMA), 금융행위감독청(FCA), 정보위원회(ICO), 방송통신규제기관 Ofcom이다. DRCF는 2020년 출범한 자발적 협력체이며 FCA는 2021년 정회원으로 합류했다.

AI 에이전트는 사람이 매번 명령하지 않아도 주어진 목표에 맞춰 여러 단계를 판단하고 실행하는 인공지능 시스템을 뜻한다. 현재 소비자 대상 서비스에서는 고객 문의 대응, 환불 처리, 상품 검색처럼 수행 범위가 비교적 제한된 업무에 주로 배치돼 있다. CMA는 위험이 큰 분야에서 AI 에이전트가 완전히 자율적으로 행동하는 사례는 아직 제한적이라고 평가했다.

이번 발표는 AI 에이전트만을 위한 새로운 책임법을 만들었다는 뜻은 아니다. 네 기관은 기존 소비자보호법과 경쟁법, 데이터보호법, 금융 및 온라인서비스 관련 의무가 AI를 사용한다는 이유로 면제되지 않는다는 입장을 확인했다. 구체적인 책임 주체와 범위는 사업자가 맡은 역할과 행위, 적용되는 법률에 따라 판단된다.

CMA는 별도 공식 지침에서 기업이 사용하는 AI 에이전트가 불법행위를 하면 해당 기업이 책임진다고 명시했다. 기업은 시스템을 훈련할 때 소비자법과 경쟁법을 반영해야 한다. 운영 중에는 오류와 편향, 민원, 의도하지 않은 결과를 계속 살피고 사람이 정기적으로 감독해야 한다. 문제가 발견되면 신속히 수정하는 절차도 갖춰야 한다.

영국의 소비자보호 체계는 2024년 디지털시장·경쟁·소비자법으로 강화됐다. 소비자를 오도하거나 조종하고 부당하게 압박하는 행위는 사람이 직접 했는지, 알고리즘이나 화면 설계가 유발했는지와 관계없이 규제 대상이 될 수 있다. CMA가 허위 긴급성 표시 등 소비자의 선택을 왜곡하는 온라인 구조를 단속해 온 흐름이 AI 에이전트에도 이어진 것이다.

금융 분야에서는 판단의 영향이 더 직접적일 수 있다. FCA는 AI 에이전트가 결제와 투자, 상품 전환을 대신할 때 발생할 수 있는 사기와 불투명한 의사결정, 소비자 선택권 약화 가능성을 검토하고 있다. 특정 플랫폼에 대한 종속이 커지거나 기존 규제영역 밖의 중개자가 등장할 가능성도 살피고 있다.

개인정보 규제기관인 ICO도 별도 절차를 진행 중이다. ICO는 2026년 10월 8일부터 11월 20일까지 에이전트 AI의 데이터 보안과 투명성, 책임성, 자동화된 의사결정에 관한 의견을 받고 있다. 공정성과 목적 제한, 개인정보 처리의 적법성도 검토 대상이다.

공동 입장의 핵심은 AI의 자율성이 커져도 이를 도입하고 운영하는 기업의 관리 의무가 사라지지 않는다는 데 있다. 기업에는 출시 전 법규 반영뿐 아니라 운영 이후의 지속적인 감시와 인간 감독, 문제 발생 시 수정까지 이어지는 관리 체계가 요구된다.

자료: 영국 디지털규제협력포럼, 영국 경쟁시장청, 영국 금융행위감독청, 영국 정보위원회, Ofcom