불법판매·허위광고 'AI로 추적'…식약처, 2025년 하반기 정식 가동

챗GPT 결합한 AI캅스, 검색·판단·차단 자동화…시범사업 성과도 긍정적 마약류 중심 점검에서 의약품·건기식까지 확대…단속 건수 역대 최고치 기록 위고비·마운자로 집중단속에도 '의사 코스프레 광고' 성행…제도 정비 필요

식품의약품안전처 사이버조사단이 인공지능 기반 온라인 불법 광고 감시 시스템 ‘AI캅스’를 본격 가동하며, 마약류·의약품·건강기능식품 등 온라인 불법 유통에 대한 자동화 단속을 강화하고 있다. 최근에는 AI로 생성된 가짜 의료인 이미지나 챗봇 추천 광고 등 신유형 허위광고까지 단속 대상에 포함시키며 제도 개선 및 처벌 수위 강화를 병행하고 있다.

식품의약품안전처 사이버조사팀 박영민 팀장과 장수용 행정사무관은 9일 식품의약품안전처 출입 전문지 기자단과 함께한 자리에서 온라인상 불법유통 및 허위광고에 대한 자동 감시 시스템 ‘AI캅스(AI-COPS)’의 시범운영 성과와 향후 계획에 대해 발표했다.

AI캅스는 올해 5월부터 마약류 중심으로 시범 가동되었으며, 11월부터는 정식 운영이 예정돼 있다. 해당 시스템은 키워드 기반 크롤링, 게시물 분석, 게시물 유형 필터링, 부당광고 탐지 및 방송통신위원회 자동 연계 차단 요청까지 전 과정이 AI로 자동화되어 있다는 점에서 기존 수작업 모니터링과 차별화된다.

특히 챗GPT 기반 AI 필터링을 통해 논문, 기사, 일반 게시물 등 비위반 내용을 자동으로 제외하고, 판매 성향을 보이는 게시글만 선별해 점검하는 방식이 채택됐다.

박영민 팀장은 “AI가 게시글을 자동으로 분류하고, 이후 인간 요원이 재확인하는 이중 구조”라고 설명했다.

(왼쪽부터) 식품의약품안전처 사이버조사팀 박영민 팀장과 장수용 행정사무관이 식약처 출입 전문지 기자단을 대상으로 브리핑을 진행하고 있다. © 식약처 출입 전문지 기자단

위반 적발, ‘마약→의약품→건기식’ 순…5년간 3배 증가
2021년 이후 사이버조사단의 점검 건수는 연간 약 6만 건 미만에서 2024년 9만 6726건, 올해인 2025년 8월 기준 6만 건에 육박하며 급증하고 있다. 특히 2024년 3월에는 마약류 단속 전담 인력 4명이 추가되면서 마약류 위반이 단일 품목 중 가장 많은 49,786건을 기록했다.

2025년 8월까지도 마약류 위반은 31,894건에 달하며, 같은 기간 전체 점검 건수는 약 5만 9773건이다. 품목별로는 ▲식품류 1만 1910건 ▲건강기능식품 2026건 ▲의약품 6728건 ▲의약외품 2190건 ▲화장품 2205건 ▲의료기기 2820건 등이 포함됐다.

위고비·마운자로 등 GLP-1 비만치료제 단속도 확대
특히 온라인에서의 불법 유통·광고 사례가 잦은 GLP-1 계열 비만치료제 관련 단속도 강화됐다. 2024년 위고비 관련 온라인 점검으로 98건을 적발했으며, 2025년 8월 마운자로 집중 점검 주간에는 단 1주간 22건을 적발했다.

박 팀장은 “2024년 전체 비만치료제 관련 불법 적발 건수는 500건에 달했으며, 2025년 들어 8월까지 220건 이상이 이미 적발됐다”고 말했다.

단속 방식은 단순 광고 게시뿐 아니라, SNS·카카오톡 등 사적 채널을 활용한 판매 유도 방식까지 포함된다.

박 팀장은 “쿠팡처럼 페이지를 만든 정식 유통보다는 블로그, 인스타그램, 카톡 링크를 통한 개인 거래가 많다”고 강조했다.

‘AI 의사 코스프레’까지 단속 대상…회색지대 대응 본격화
최근 생성형 AI 기술을 활용해 의사 이미지를 생성하거나, 챗봇으로 건강기능식품을 추천하는 광고 형태에 대해서도 식약처는 소비자 기만으로 간주, 차단 및 행정조치 대상으로 판단했다.

AI가 의사 가운을 입고 제품을 추천하거나, 특정 질환에 효능이 있다고 발언하는 광고는 “실제 의사인지 확인이 어렵더라도, 의료인으로 오인하게 하면 기망행위”로 보겠다는 입장이다.

박 팀장은 인스타그램 등 SNS 플랫폼에서 약사 인플루언서들이 의약품처럼 건기식을 홍보하는 행위에 대해서도 “점검하고 있으며, MOU에 포함되지 않은 플랫폼도 단속 가능하다”고 밝혔다. 다만 특정 단체에 대한 체계적 점검 여부는 미확인 상태로 남아 있다.

“광고 수익보다 처벌 강도가 더 세야”…일벌백계 주문도
일각에서는 AI캅스의 기술적 진화 못지않게 “강한 처벌과 대국민 홍보가 병행되어야 한다”는 말도 나오고 있다.

이에 대해 식약처는 현재 반복 위반 업체에 대해서는 영업정지, 수사의뢰, 벌금형(5천만 원 이하 또는 징역 5년 이하) 등을 적용 중이며, 행정처분은 관할 지자체가 현장 조사 후 실행하고 있다고 밝혔다.

한편, 현장에는 “차단된 사이트 대비 실제 처벌로 이어진 비율”이나 “SNS 스토리처럼 24시간만 노출되는 콘텐츠에 대한 실시간 추적·차단 시스템” 도입 필요성도 제기됐다.