[제약 AI 대전환 ②] 도입 후에도 엑셀·수작업 반복?…’워크플로우 연계형' 절실

고가 시스템 두고 엑셀 의존하는 현업… 단순 챗봇 아닌 '데이터 자동 연계' 시스템 필요 "환각 한 줄에 품목 허가 날아간다"… 규제 부서(QA·RA)는 '자동 판단' 대신 '휴먼 인 더 루프' 필수 생산(GMP) 도입의 필수 조건은 '디지털 CCTV'… 감사 증적(Audit Trail) 없는 AI는 무용지물

글로벌 제약바이오 업계 전반에 걸쳐 셀 수 없이 많은 인공지능(AI) 파일럿 프로젝트가 쏟아지고 있다.

이들 프로젝트의 화려한 청사진과 달리, 정작 시스템이 실무에 뿌리내리지 못하고 겉도는 현상은 국내뿐만 아니라 전 세계 제약사들이 공통으로 겪고 있는 고질적인 딜레마다. 기술 도입이 곧바로 기업의 업무 성과로 직결되지 않는 이유를 찾기 위해서는, 가장 먼저 IT 기술의 장막을 걷어내고 실제 제약사 현장에서 분투하고 있는 실무자들의 생생한 목소리에 귀를 기울여야 한다.

‘제약 AI 대전환’ 시리즈 2편에서는 화려한 기술 시연 이면에 가려진 제약사 핵심 밸류체인(QA·RA·PV·연구·생산) 부서의 뼈아픈 고충을 집중 조명한다. 수많은 데모 시연과 파일럿에도 불구하고 왜 AI가 업무 정착에 실패하는지, 현장의 숨겨진 목소리에서 그 단서를 찾아본다.

제약산업에서 품질보증(QA)과 인허가(RA) 부서는 규제 리스크가 극도로 높아 AI를 통한 완전 자동화가 사실상 불가능한 성역으로 꼽힌다. 이들 부서가 매일 다루는 사내 표준작업지침서(SOP)나 대관 규정 문서는 일반 기업의 보고서와 차원이 다르다. 단어 하나, 수치 하나만 틀려도 식약처 등 규제 기관의 감사에서 치명적인 규제 위반이나, 최악의 경우 품목 허가 취소 및 생산 중단이라는 재앙적 결과로 이어질 수 있다.

한 중견 제약사 QA/RA 실무자는 "AI가 수백 페이지의 가이드라인을 그럴싸하게 요약해 줘도 이를 100% 신뢰할 수 없어서, 결국 실무자가 처음부터 끝까지 원문과 다시 교차 검증을 해야 한다"며 "오히려 AI가 생성한 결과물의 팩트를 체크하느라 기존보다 일거리가 더 늘어난 기분"이라고 토로했다.

현장 전문가들은 이러한 딜레마가 AI를 모든 것을 알아서 처리하는 '자동 판단자'로 전제하고 무리하게 도입하려다 보니 발생하는 필연적인 거부감이라고 진단한다. 규제 업무에 AI가 안착하기 위해서는, AI가 도출한 답변의 근거 출처를 100% 명확히 제시하고 최종적인 판단과 승인은 반드시 사람이 직접 수행하는 '휴먼 인 더 루프(Human-in-the-Loop)' 체계로 정교하게 설계되어야만 한다.

환자의 안전과 직결되는 약물감시(PV) 및 신약을 개발하는 연구(R&D) 부서의 가장 큰 고충은 역설적일 정도로 낙후된 '시스템 간 프로세스 단절'에서 비롯된다. 첨단 AI 시대라는 구호가 무색하게, 현장 연구원들은 PV 계획서나 결과서, R&D 분석법 등을 작성하는 데 엄청난 시간을 할애하며 반복적인 수작업의 늪에 빠져 있다.

국내 대형 제약사들은 이미 사내에 전사적자원관리(ERP), 실험실정보관리시스템(LIMS), 기업콘텐츠관리(ECM) 등 수십억 원을 호가하는 최첨단 핵심 시스템을 구축해 두고 있다. 하지만 문제는 정작 이 거대한 시스템끼리 유기적으로 연결되어 있지 않다는 점이다. 결국 담당자가 일일이 각 시스템에 로그인해 엑셀로 데이터를 추출하고, 이를 이메일로 주고받으며 밤을 새워 수작업으로 보고서를 엮어내는 것이 업무 현장의 현실이다.

현장 실무자들은 "단순한 사내 질의응답 챗봇 백날 도입해 봐야 내 업무는 1분도 줄어들지 않는다"고 일침을 가한다. 분산된 사내 시스템들의 데이터를 자동으로 끌어와 보고서 초안의 뼈대까지 알아서 엮어주는 '워크플로우 연계형 에이전트'가 구현되지 않는 한, 단순 챗봇 형태의 AI는 결국 현장에서 철저히 방치될 수밖에 없다는 뼈아픈 지적이다.

공장 현장과 직결된 생산 및 제조품질관리기준(GMP) 영역은 철저한 규칙 기반의 업무가 많아, 타 부서에 비해 AI를 통한 효율화 및 자동화 잠재력이 가장 높게 평가받는 곳이다. 특히 방대한 제조기록서를 꼼꼼히 검토하거나 최종 출하를 승인하는 과정은 복잡한 다단계 검토 구조로 얽혀 있어 고질적인 승인 병목 현상이 발생하곤 한다.

하지만 GMP 현장 관리자들은 보안이 불확실하고 투명한 이력이 남지 않는 AI 솔루션은 현장에 "절대 적용할 수 없다"고 선을 긋는다.

만약 AI가 출하 승인 업무를 보조하거나 데이터를 요약하려면, AI가 도대체 어떤 알고리즘과 근거로 특정 데이터를 조회하고 판단을 내렸는지 식약처 실사(Inspection)에 완벽하게 대비할 수 있는 감사 증적(Audit Trail)이 시스템에 분초 단위로 낱낱이 기록되어야만 한다.

현재 제약 생산 현장의 AI 도입이 꽉 막혀 있는 이유는 바로 이 지점에 있다. 컴퓨터 시스템 검증(CSV)을 비롯한 보안, 엄격한 권한 관리, AI의 추론 이력 관리 등 GMP 환경이 요구하는 절대적인 통제 요건이 AI 시스템 내부에 제대로 내재화되지 못해 발생하는 전형적인 '혁신 기술과 보수적 규제의 충돌' 현상이다.

제약사 핵심 부서들의 생생한 목소리는 우리에게 명확한 메시지를 던진다. 셀 수 없이 많은 AI 파일럿 프로젝트가 정식 사업으로 이어지지 못하고 '파일럿의 무덤'에 갇히는 이유는, 현업이 매일같이 부딪히는 규제의 장벽과 엑셀 수작업의 고통을 외면한 채 '최신 기술 도입' 그 자체에만 매몰되었기 때문이다. 업무의 본질적인 병목과 규제 환경을 꿰뚫지 못하는 AI 플랫폼은 영원히 경영진을 위한 '데모 시연 화면' 속에만 머물게 될 것이다.

그렇다면 이러한 딜레마를 뚫고 실제 업무 성과를 내는 기업들은 어떤 방식을 택했을까. 이어지는 ‘제약 AI 대전환’ 시리즈 3편에서는 화이자(Pfizer), 아스트라제네카(AZ) 등 글로벌 선도 제약사들의 성공 사례를 통해, 특정 IT 플랫폼 도입에 집착하는 대신 현장의 업무와 운영 모델을 어떻게 근본적으로 재설계했는지 그 구체적인 '성공 원칙'을 들여다본다.