[제약 AI 대전환 ⑥] 데모버전 넘어 업무 완결성으로… 성공적인 제약 AI PoC 조건은?

글로벌 선도기업의 일치된 목소리, "AI PoC는 단순 기술 시연 아닌 실제 비즈니스 가치 검증" 규제 검색부터 품질 문서 작성까지… 제약 현장 4대 핵심 업무의 기술적 난제와 해법 "PoC의 진짜 결과물은 'Go·Improve·Stop'을 결정할 명확한 근거"

[제약 AI 대전환 시리즈 1~5편 핵심 요약]
- 1~2편: 단순 챗봇 도입의 한계와 환각 리스크, GxP 규제 충돌 등 제약 현장이 직면한 현실적 장벽 진단
- 3편: 글로벌 선도 제약사들의 성공 방정식인 ‘엔드투엔드(End-to-End) 업무 프로세스 재설계’
- 4편: 제약산업의 '숨은 비용'을 찾아내는 정교한 타겟팅과 지속 성장을 이끄는 'AI Growth Partner'의 필요성
- 5편: 사람과 AI의 세밀한 역할 분담을 위한 'Human+AI 워크플로우' 설계법 및 신뢰 가능한 데이터 검증(IDK2)과 실행 플랫폼(AgentGo) 구축

 

지난 시리즈를 통해 제약 현장이 직면한 챗봇 도입의 한계와 규제 충돌 등 현실적 장벽을 짚어보고, 사람과 AI의 역할을 세밀하게 나누는 워크플로우 재설계의 필요성을 다뤘다. 

이번 편에서는 여기서 한 단계 더 나아가, 설계한 업무를 실제 제약사의 데이터와 시스템, 보안 환경 안에서 작동시켜 보는 PoC(Proof of Concept, 개념 증명)의 진정한 의미와 검증 기준을 살펴본다. 

흔히 PoC를 새로운 AI 기술이 '되는지 안 되는지'를 확인하는 단순 기술 검증으로 생각하기 쉬우나, 글로벌 컨설팅사들은 제약사의 AI PoC가 단순한 기술 시연을 넘어 실제 업무 가치의 검증으로 발전해야 한다고 입을 모은다.

맥킨지는 2024년 보고서에서 제약·의료제품 산업에서 생성형 AI가 창출할 수 있는 잠재적 경제가치를 연간 600억~1100억달러로 추산했다. 동시에 생성형 AI 모델 자체가 일반적인 프로젝트 노력에서 차지하는 비중은 약 15%에 불과하며, 실제 대부분의 작업은 기업 내부의 지식과 쓰임새에 맞게 모델을 적용하고 복잡한 워크플로우에 통합하는 과정에서 발생한다고 지적했다. 

따라서 엔드투엔드(End-to-End) 관점에서 비즈니스 목표에 맞는 과제를 우선 선정하고, PoC 단계부터 향후 확산을 고려한 로드맵을 함께 설계해야 한다는 것이다.

보스턴컨설팅그룹(BCG)도 제약사의 생성형 AI 도입 시 예상되는 비즈니스 가치와 기술적 실현 가능성을 함께 평가하고, 실제 기업 데이터와 시스템, 거버넌스를 연결할 기반을 준비하며, 전략과 기술 역량을 가진 외부 파트너와 함께 빠르게 검증해야 한다고 제안한다.

실제 아스트라제네카는 AWS와 구축한 'Development Assistant'라는 멀티 에이전트 시스템 사례를 통해 이를 증명했다. 

임상, 규제, 환자 안전, 품질 등 서로 다른 업무 영역을 담당하는 전문 에이전트들이 구조화 및 비구조화 데이터를 분석해 수분 안에 인사이트를 제공하도록 설계되었다. 이들은 단순한 데모로 끝내지 않고 개념 단계에서 실제 운영 가능한 환경까지 약 6개월에 걸쳐 발전시켰으며, 사이버 보안과 AI 거버넌스 검증을 함께 진행한 뒤 1000명 이상으로 사용자를 확대했다. 이는 AI가 실제 기업 데이터와 시스템에 연결되고, 보안과 거버넌스 기준을 통과하며, 현업이 사용할 수 있는 업무환경으로 들어가는 과정 자체가 PoC의 핵심이라는 점을 보여준다.

최근 국내 제약업계의 AI PoC도 'AI가 얼마나 잘 답하는가'를 확인하는 기술 시연에서 'AI가 실제 업무를 어디까지 수행할 수 있는가'를 확인하는 업무 검증으로 무게중심이 이동하고 있다. 

크게 네 가지 업무 유형으로 구성되며 첫 번째는 외부 규제 및 법규의 실시간 검색이다. 

하나의 업무를 처리할 때 여러 기준을 함께 확인해야 하는 제약 현장의 특성상, 외부의 최신 규제 정보를 AI 에이전트가 실시간으로 탐색하고 근거까지 제시할 수 있는가를 검증한다. 반복적인 법령 탐색과 자료 취합은 AI가 담당하고, 어떤 규정을 실제 업무에 적용할 것인지에 대한 해석과 최종 판단은 담당자가 수행하는 방식이다.

두 번째는 기업 내부에 축적된 연구·실험 데이터와 분석법을 활용하는 업무다. 

과거의 분석법이나 조건이 여러 문서에 흩어져 있을 때 사내 지식검색 환경과 연결해 이를 찾아내는 것을 확인한다. 제약사가 실제 업무에서 사용하는 문서는 표, 수치, 계산식, 참조번호, 버전, 변경 이력 등이 서로 연결되어 있어 단순히 텍스트로 변환하는 것만으로는 규제 업무에 필요한 정확성을 확보하기 어렵다.

이에 공공·인증 영역에서 규제 대응 문서를 AI로 지원하는 '퍼블릭에이아이'는 파싱 단계에서 VLM(Vision Language Model)을 활용해 표·도표·이미지에 담긴 정보까지 추출하고, 의미적으로 완결된 단위로 분리하는 시맨틱 청킹을 통해 문서 구조와 표·수식·규정 간 관계를 구조화한다. 이렇게 생성된 파싱·청킹 산출물은 원본과의 계보를 유지한 파생 데이터로 체계적으로 관리된다.

운영 단계에서의 난제도 검증 대상이다. 프롬프트 주입 및 유출 위협에 대응해 로그인 사용자의 자격과 연관된 지식베이스만 접근하도록 통제하며, 대규모 문서 환경에서는 문서 버전 간 차이만 관리하는 저장 구조로 중복 청크 검색과 답변 품질 저하를 방지한다. 

또한 대규모 문서 검색 체계를 통해 LLM이 방대한 문서 자산에 안정적으로 접근할 수 있도록 지원하며, 동적 생성 에이전트 방식으로 에이전트가 사용자의 요청마다 적합한 검색 전략을 새로 수립하고 샌드박스 환경에서 스크립트를 실행해 복잡한 질의를 처리한다.

세 번째는 기존 업무시스템과 AI 에이전트를 직접 연결하는 업무다. 

에이전트가 기존 시스템에서 필요한 정보를 가져오고 정해진 기준에 따라 확인한 뒤, 다음 업무를 수행하고 필요한 시점에 사람에게 검토와 승인을 요청하는 흐름을 연결한다. 

실제 기업의 온프레미스(사내 구축형) 환경에 이식된 '아이티센클로잇'의 'AgentGo' PoC 사례 역시 이를 방증한다. 개발진이 현장에서 가장 중요하게 본 것은 단순한 AI의 답변 성능이 아닌 '업무 완결성'이었다.

아이티센클로잇 AI PoC 개발 담당자는 "실제 현장에 AgentGo를 온프레미스로 이식하면서 가장 신경 쓴 부분은 단순히 'AI가 답을 잘하느냐'가 아니었다"며, "현업 실무자가 반복적으로 다루는 문서와 업무 양식을 AI 에이전트가 얼마나 정확한 맥락으로 이해하고, 사람이 검토하기 좋은 형태의 결과물로 넘겨주는가 하는 '업무 완결성'에 집중했다"고 설명했다.

이어 "사내 보안망 안에서 레거시 시스템과 연동해 에이전트가 필요한 데이터를 직접 가져오고 검증하는 프로세스를 구현함으로써, 단순한 챗봇과 실제 업무용 에이전트가 어떻게 다른지 명확히 확인할 수 있었다"고 덧붙였다.

이 사례가 보여주는 핵심은 에이전트가 사람을 완전히 대신하는 데 있지 않다. 시스템에서 필요한 정보를 가져오고 반복적인 확인·정리·초안 작업을 수행하는 것은 에이전트가 담당하되, 업무 맥락에 따른 판단과 예외 처리, 최종 검토와 승인은 사람이 담당하도록 전체 워크플로우를 완결하는 것이 기업용 에이전트의 가장 중요한 설계 기준이다.

네 번째는 PV(약물감시)나 QA(품질보증) 등 정해진 양식과 규정에 따라 작성해야 하는 계획서와 보고서 업무다. 

에이전트가 관련 시스템과 내부 지식에서 자료를 탐색하고 유효한 버전을 확인한 뒤 데이터를 취합해 문서 템플릿에 따라 초안을 구성한다. 수치가 기준 범위를 벗어날 경우 AI가 임의로 문장을 완성하는 것이 아니라 시맨틱 레이어나 검증된 데이터 소스를 다시 참조하도록 설계하며, 기준을 벗어난 항목은 사람이 쉽게 확인할 수 있도록 표시한다. 탐색부터 작성, 수치 검증과 예외 탐지를 거쳐 사람의 최종 리뷰와 승인으로 이어지는 여러 단계의 업무로 구성된다.

이 네 가지 PoC 대상은 하나의 업무를 끝까지 수행하기 위해 기술과 데이터, 시스템 그리고 사람의 역할을 완벽히 조합해야 함을 보여준다. 따라서 PoC의 성공 여부는 단순한 답변 정확도가 아니라 실제 기업 데이터를 안전하게 사용할 수 있는지, 기존 시스템과 연결할 수 있는지, 업무 완결성과 비즈니스 가치가 있는지를 종합적으로 확인해야 한다.

현업의 업무 문제에서 출발해 역할을 설계하고 비즈니스 가치 관점에서 투자를 지원하는 'AI Growth Partner'의 역할 속에서 성공적인 검증을 마쳤다면, 이어지는 7편에서는 이 혁신적인 워크플로우를 전사로 확산할 조직에 대해 살펴본다.