[기획] AI 에이전트의 부상

딥시크(DeepSeek)의 등장과 파장

불과 몇 년 전만 해도 대형 인공지능 언어 모델(LLM)은 미국 초거대 IT 기업의 전유물이었다. 2022년 말 챗GPT 출시 이후 생성형 AI 열풍이 불면서 수많은 스타트업과 기관이 자체 모델 개발에 뛰어들었다. 그 중 최근 크게 화제가 된 중국 스타트업 딥시크(DeepSeek)는 빅테크 연구비의 10% 수준의 비용으로 OpenAI 최신 모델에 필적하는 성능의 AI 모델 ‘알원(R1)’을 개발해 공개했다. 1월 20일 공개된 R1 모델은 일부 테스트에서 OpenAI 최신 모델과 맞먹는 성능을 입증했으며, 미국 기업들이 수억만~수십억 달러를 투입하는 것과 달리 훨씬 적은 비용과 기간으로 고성능 모델을 완성했다. 이후 딥시크는 일반 소비자용 챗봇 앱을 선보여 한때 미국 구글 플레이스토어 1위를 기록했으나, 사이버 공격과 개인정보 보안 이슈로 서비스가 중단되었다. 하지만 이 딥시크는 이러한 AI 기술이 미국 소수 거대 기업의 전유물이 아니라 개방형 생태계를 통해 빠르게 발전하고 있음을 보여주었다.

AI 에이전트 개념

AI 에이전트란 생성형 AI의 최신 단계로, 단순히 텍스트나 이미지를 생성하는 것을 넘어 인간의 행동을 모방하며 자율적으로 작업을 수행하는 시스템을 말한다. 기존의 챗봇이나 가상 비서가 정해진 답변을 생성하는 데 그쳤다면, AI 에이전트는 사용자의 목표에 따라 계획을 수립하고, 실행하며, 피드백을 반영해 연속적인 작업을 수행한다. 대형 언어모델(LLM)의 언어 이해·생성 능력과 전통 소프트웨어의 도구 활용 능력이 결합되어, 사람이 직접 지시하지 않아도 문제 해결이나 데이터 분석, 자동화된 의사결정 등을 처리할 수 있다.

빅테크 기업들의 AI 에이전트 활용 사례

빅테크 기업들 또한 AI 에이전트를 자사 서비스에 적극 도입하고 있다. 마이크로소프트는 2024년 말 오피스 제품군에 AI 에이전트 기능을 추가해 이메일 답장 작성, 일정 관리 등 반복 업무를 자동화할 계획이다. 시스코는 고객 서비스 분야에 특화된 AI 에이전트를 공개해 콜센터에서 자동 응대 및 문제 해결을 시도하고 있다. 아틀라시안과 아사나는 각각 전용 AI 비서와 AI 에이전트 제작 지원 도구를 선보이며 업무 흐름의 효율성을 높이고 있다. 이외에도 자율주행 차량, 검색 엔진, 가상 비서 등 다양한 분야에서 AI 에이전트를 활용해 생산성 향상과 비용 절감을 꾀하고 있다.

미래 AI 시장 내 기대효과

IDC 등의 연구에 따르면, AI 기술은 2030년까지 전 세계 경제에 약 20조 달러의 누적 가치를 창출할 것으로 전망된다. 이는 세계 GDP의 약 3.5%에 해당하며, AI가 새로운 성장 동력으로 자리 잡을 것임을 시사한다. 국내에서도 AI로 인한 경제 효과가 최대 630조 원에 달할 것으로 추산된다. 이 중 70%인 465조 원이 GDP 성장에 직접·간접적으로 기여하며, 의료와 제조 분야에서는 각각 150조 원, 금융은 80조 원, 도시·교통은 105조 원 정도의 부가가치가 창출될 전망이다. AI 에이전트 도입으로 업무 자동화와 의사결정 최적화가 가속화되면서 생산성이 크게 향상될 것으로 보인다.

AI 에이전트의 위험성과 안정성 문제

AI 에이전트의 빠른 발전과 함께 해결해야 할 윤리적 문제와 보안 위험도 존재한다. 딜로이트 보고서는 다음과 같은 네 가지 주요 위험을 지적했다.

1. 데이터 유출 및 프라이버시 침해

AI 에이전트가 작동하려면 대량의 데이터를 학습하고 사용자의 입력을 처리해야 하므로 민감 정보 유출 위험이 크다. 삼성전자 내부에서 챗GPT와 같은 공개 AI 서비스 사용으로 기밀 정보 유출 우려가 제기되었으며, 딥시크의 경우 데이터베이스 설정 오류로 100만 건이 넘는 사용자 채팅 기록과 API 키가 노출된 사건이 있었다.

2. 환각 현상(hallucination)과 오류

생성형 AI 모델은 때때로 사실과 다른 정보를 만들어내는 환각(hallucination) 현상을 보인다. 이로 인해 잘못된 의사결정이나 치명적인 오류가 발생할 수 있으며, 휴먼 인더 루프(human-in-the-loop) 절차를 통해 최종 검증이 필요하다.

3. AI 편향성과 윤리 문제

학습 데이터에 내재된 편향으로 인해 인종, 성별 등 사회적 편견이 반영될 우려가 있으며, 이로 인해 차별이나 윤리적 논란이 발생할 수 있다.

4. 기업 내부 보안 위협

프롬프트 인젝션(prompt injection)과 같은 사이버 공격 기법으로 AI 에이전트가 악의적 명령을 수행하거나 기밀 정보를 노출할 위험이 있으며, 이에 대한 다층 보안 대책이 요구된다.

이러한 문제를 해결할 수 있는 국내기업 사례, 해결방안

이렇게 AI 에이전트가 가진 높은 효과와 기대에도 앞서 말한 위험 요소들 때문에 아직은 정부기관이나 대기업에서 사용하기는 쉽지 않은 상황이다. 하지만 몇몇 국내 기술 스타트업이 자체 개발한 AI 에이전트가 그 대안이 될 것으로 보인다. 대표적으로 S2W가 개발한 SAIP(S2W AI Platform)는 최근에 여러 방면에서 두각을 나타내면서 정부기관 및 기업용 생성형 AI 플랫폼으로, 보안성과 전문성, 확장성 면에서 차별점을 보이고 있다.

1. 강력한 보안과 데이터 보호

SAIP는 제로 트러스트 아키텍처를 기반으로 설계되어 기업 내부 데이터의 안전한 활용을 최우선에 둔다. 시큐리티 가드레일(Security Guardrail) 체계를 도입해 LLM 개발·배포·운영 전 과정에서 보안과 신뢰성을 확보하며, 데이터셋 검증·정제를 통해 민감 정보를 제거하고, 역할 기반 접근 제어(RBAC)를 통해 사용자의 접근 권한을 세밀하게 관리한다.

2. 도메인 특화 및 지식 통합 AI

SAIP는 도메인 특화 대규모 언어모델(소형 LLM)과 온톨로지 기반 지식그래프, 검색·증강·생성(RAG) 기술을 결합해, 기업 내 방대한 비정형 데이터를 통합·분석한다. 이를 통해 제조업의 공장-설비 관계 분석이나 금융·보안 분야의 다크웹 해커 정보 추적 등 고도 분석이 가능해진다.

3. 국내외에 검증된 기술력과 풍부한 대형기관 적용 사례

SAIP 관련 국내외 특허와 권위 있는 학회 논문을 통해 기술력이 입증되어 있다. S2W는 다크웹 전문 언어모델 ‘다크버트(DarkBERT)’를 비롯해 고난도 NLP 작업을 성공적으로 수행하며, 현대제철, 롯데멤버스 등 주요 대기업에 공급되어 실무 적용 사례를 확보했다. 롯데멤버스의 경우, 약 4,300만 명의 멤버십 데이터를 분석해 트렌드를 파악하는 AI 서비스를 SAIP 기반으로 제공하며 초대규모 데이터 분석을 실현했다.

AI 에이전트 기술은 시장에서 빠르게 가치가 상승하고 있으며, 특히 기업의 경쟁력 강화, 생산성 향상, 맞춤형 솔루션 제공을 통해 산업 전반에 혁신을 일으킬 것으로 기대된다. 이는 글로벌 대기업들이 독점적인 기술력을 보유하기 전에 국내 기업들이 자체적인 AI 에이전트 기술을 바탕으로 독자적인 발전을 이룰 수 있는 기회를 제공한다. 대한민국은 뛰어난 IT 역량과 다양한 산업 환경을 갖춘 국가로, AI 에이전트 기술을 적극적으로 육성한다면 해외 기업들에 휘둘리지 않고 자립적인 AI 시장을 구축하며, 기술적 위상을 크게 높일 수 있을 것이다.

AI 에이전트 기술은 산업 전반의 혁신을 견인할 핵심 동력으로, 그 시장 가치는 향후 수조 원대의 경제 효과를 창출할 정도로 크다. 국내 기업들이 글로벌 대기업에 의존하지 않고 독자적인 연구개발과 생태계 구축에 집중하면, 자국의 기술 경쟁력을 강화하고 경제 주권을 확보할 수 있다. 이를 통해 국내 기업은 독자적인 혁신 모델을 구축하며, 세계 시장에서 독보적인 입지를 다져 미래 디지털 패러다임을 선도할 수 있다.

규제와 육성이 같이 움직였다…AI 기본법과 '정예팀' 경쟁

한국의 제도는 에이전트 확산에 반 박자 앞서 움직였다. 2024년 12월 26일 국회를 통과한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)이 2026년 1월 22일 시행에 들어갔다. 유럽연합(EU) AI법에 이은 세계 두 번째 포괄적 AI 입법이다. 이 법은 국민의 생명·안전·기본권에 중대한 영향을 줄 수 있는 AI를 '고영향 인공지능'으로 따로 묶어 사업자 책임을 강화하고, 고영향·생성형 AI를 쓴 제품·서비스라는 사실을 이용자에게 알리도록 했다. 스스로 계획하고 실행까지 하는 에이전트일수록 이 규율과 겹치는 면적이 넓다.

육성 쪽은 서바이벌 방식이다. 과학기술정보통신부는 2025년 8월 '독자 AI 파운데이션 모델'(여러 서비스의 밑바탕이 되는 범용 AI) 개발 사업에 네이버클라우드·SK텔레콤·LG AI연구원·업스테이지·NC AI 5개 정예팀을 뽑아 그래픽처리장치(GPU)와 데이터를 지원해 왔다. 반기마다 평가로 팀을 추리는 구조로, 2026년 8월 평가에서 3개 팀으로 압축됐다. 안전 인프라도 함께 갖췄다. 2024년 11월 한국전자통신연구원(ETRI) 부설로 판교에 문을 연 AI안전연구소는 AI 위험 평가를 전담하며, 미국·영국 등 10개국이 참여하는 국제 AI안전연구소 네트워크의 일원이다.

시행 첫해에 확산기가 겹쳤다…'사람의 최종 확인'이 출발점

공식 문서들의 요구는 한 방향을 가리킨다. AI 기본법은 고영향 AI 사업자에게 강화된 책임을 지우고 생성형 AI 사용 사실의 고지를 의무화했다. 앞서 딜로이트 보고서가 꼽은 환각이나 프롬프트 인젝션 같은 위험이 기술 문제를 넘어 법적 관리 대상이 됐다는 뜻이다. 의무를 지키려면 어떤 AI가 어떤 일을 했는지 기록이 남아야 하는 만큼, 에이전트에 실행 권한을 주기 전에 위임 범위와 사람이 최종 확인할 지점부터 정하는 것이 도입의 첫 단추가 된다.

규제 시행과 확산기가 같은 해에 겹친 것은 국내 기업에 양날이다. 대응 부담은 늘지만, 안전장치를 갖춘 쪽이 보안에 민감한 정부·대기업 시장에 먼저 들어간다. 법이 깔아 놓은 기준선이 곧 진입 장벽이자 차별화 지점이 되는 셈이다.