EU, AI 챗봇·딥페이크에 표시 의무화…위반 시 매출 3% 벌금

인공지능(AI)과 대화하거나 AI가 만든 콘텐츠를 볼 때 그 사실을 곧바로 확인할 수 있도록 하는 유럽연합(EU)의 ‘AI 라벨링’ 규제가 시행됐다.

EU의 AI 규제법에 따라 2일(현지시간)부터 유럽 내 기업은 사용자가 AI 시스템과 상호작용하고 있다는 사실을 명확하게 알려야 한다. AI가 생성한 이미지와 오디오, 비디오, 마케팅 자료에도 AI 제작물임을 나타내는 라벨을 붙여야 한다.

규정을 위반한 기업에는 전 세계 연간 매출의 최대 3% 또는 1500만유로, 약 250억원 가운데 더 높은 금액이 벌금으로 부과될 수 있다. EU는 소비자 보호와 AI 서비스의 투명성을 강화하기 위해 이 규정을 도입했다. 헨나 비르쿠넨 EU 기술 담당 집행위원은 AI 콘텐츠와 챗봇의 투명성과 신뢰성을 확보하는 데 필요한 조치라고 강조했다.

이번 변화는 웹사이트가 방문 기록인 ‘쿠키’를 수집하기 전에 동의를 구하는 알림창과 비슷하다. 그동안 법률에 담겨 있던 AI 규제가 소비자가 직접 확인할 수 있는 표시 형태로 일상에 적용되기 시작했다는 의미다.

기업은 준비 부족·라벨 피로 우려

산업계 일부에서는 시행 지침이 규제 적용을 불과 몇 주 앞두고 발표돼 준비할 시간이 부족했다고 지적했다. 연간 마케팅 자료의 90%를 AI로 생성하거나 보정하는 독일 온라인 쇼핑몰 잘란도는 지침이 규제 절차만 추가했을 뿐 충분히 명확하지 않다고 비판했다.

유럽상업연합회와 IT 업계 단체 CCIA 유럽도 지나치게 많은 라벨이 붙으면 소비자가 표시 자체에 피로를 느끼고 혁신이 위축될 수 있다고 우려했다. EU 집행위원회는 단순한 사진 수정은 예외로 처리해 불필요한 라벨이 남발되지 않도록 했다고 설명했다.

반면 체스닷컴과 부킹닷컴 등은 이미 이용자가 AI와 대화하고 있다는 사실을 알리는 정책을 시행해 왔다. 이들 기업은 이번 조치가 서비스 신뢰도를 높이는 계기가 될 것으로 보고 있다.

이번 투명성 규정은 2024년 8월 발효된 AI 규제법을 단계적으로 시행하는 과정의 일부다. ‘챗GPT’ 등 고위험 시스템에 대한 규제 시행일은 기술 업계와 일부 EU 회원국의 압력에 따라 2027년 12월로 연기됐다.

자료: 유럽연합