AI 개발·이용 공통 기준 세웠다…‘대한민국 인공지능 윤리원칙’ 확정

인공지능을 만드는 사람뿐 아니라 이용자와 그 영향을 받는 사람까지 함께 지켜야 할 국가 차원의 공통 기준이 마련됐다. 과학기술정보통신부와 정보통신정책연구원은 제12회 과학기술관계장관회의에서 ‘대한민국 인공지능 윤리원칙’이 심의·의결을 거쳐 8월 21일 확정됐다고 밝혔다.

윤리원칙은 안전하고 신뢰할 수 있는 AI 기본사회를 구현하기 위해 AI를 개발·제공·이용하는 여러 주체와 사회 전체가 공유해야 할 가치와 판단 기준을 담았다. 법률처럼 위반 행위를 직접 처벌하는 규정은 아니며, 현장에서 자율적으로 따르는 규범이다. 기존 법령을 대신하지도 않는다.

최종안의 3대 가치는 인간의 존엄성, 사회의 공공선, 인류의 지속가능성이다. 구체적인 원칙으로는 인간중심성, 프라이버시 보호, 공정성, 포용성, 책임성, 안전성, 신뢰성, 투명성을 제시했다. AI의 성능만 따지는 데서 벗어나 사람의 권리와 사회 전체의 이익, 장기적인 지속 가능성을 함께 살피도록 한 구조다.

원칙을 만드는 과정에서는 2026년 5월부터 8월까지 산업계·시민사회·학계·관계부처 등으로부터 총 153건의 의견을 받았다. 1차 의견수렴에서 116건, 2차에서 37건이 접수됐다. 정부는 이를 세부 주장과 개념에 해당하는 965개 단위로 나눠 검토한 뒤 714개를 반영하고 108개는 반영하지 않았다. 나머지 143개는 전체적인 평가나 후속 과제 제안으로 분류했다.

의견수렴을 거치며 지속가능성은 원칙보다 상위에 있는 가치로 격상됐고 책임성 원칙이 새로 들어갔다. 민주주의와 공론장 보호, AI 접근권과 이해관계자의 참여, 인간의 감독과 개입, 정신적 건강 보호에 관한 내용도 보강됐다. AI를 제공하는 ‘AI 공급자’와 AI로 인해 영향을 받는 ‘영향받는 자’의 정의도 구체화했다.

반면 금지할 AI 활용 유형을 일일이 열거하는 방안과 피해 입증책임을 개발·운영 주체로 전환하는 방안은 채택하지 않았다. 적용 예외 조항, 민주주의를 별도 가치로 추가하는 방안, 학습데이터 활용정보 제공을 명문화하는 제안도 반영하지 않았다. 가치와 원칙이 서로 충돌할 때 무엇을 먼저 적용할지 고정된 우선순위도 두지 않았다. 구체적인 상황에서 관련 주체들이 균형점을 논의하도록 설계했다.

이번 원칙은 2020년 12월 제정된 ‘사람이 중심이 되는 인공지능 윤리기준’의 3대 기본원칙과 10대 핵심요건을 계승했다. 여기에 에이전트형 AI와 피지컬 AI의 발전, AI기본법 시행 이후 달라진 정책 환경을 반영해 체계를 다시 짰다. 에이전트형 AI는 목표에 따라 여러 단계의 작업을 수행하는 AI를, 피지컬 AI는 현실의 기기와 결합해 작동하는 AI를 뜻한다.

AI기본법 제27조는 안전성·신뢰성, 접근성, 인간의 삶과 번영에 대한 공헌을 포함한 윤리원칙을 제정·공표할 근거를 둔다. 과기정통부 장관에게 실천방안을 마련하고 이를 공개·홍보·교육할 의무도 부여한다. 제28조에 따라 교육·연구기관과 AI 사업자는 준수 여부 확인, 인권침해 조사, 절차와 결과의 감독, 종사자 교육, 분야별 지침 마련 등을 담당하는 민간자율인공지능윤리위원회를 둘 수 있다.

국제적으로는 2019년 채택된 경제협력개발기구의 AI 원칙이 범용·생성형 AI 확산을 반영해 2024년 개정됐다. 정부도 유럽연합 집행위원회 전문가그룹과 일본, 경제협력개발기구, 유네스코, 아세안, 주요 7개국의 관련 규범을 함께 검토했다. 이번 윤리원칙은 강제적인 제재 수단이라기보다 AI의 개발과 이용 과정에서 각 주체가 판단과 절차를 점검할 공통 기준이라는 데 의미가 있다.

자료: 과학기술정보통신부, 정보통신정책연구원, 법제처 국가법령정보센터, 경제협력개발기구(OECD)