"국가 소버린AI 시대,의료AI 핵심 '실행 안전'"..D3319,의료 실행 거버넌스OS 전략 부각

독자AI 파운데이션 모델 경쟁 본격화…의료 데이터 주권ㆍRuntime Governanceㆍ실행 안전 계층 중요성 확대 D3319, 연합학습ㆍ실행 검증ㆍ전문가 감독 기반 'Healthcare Execution Governance OS' 방향 제시

 AI 생성 이미지  

생성형 인공지능(AI)과 거대언어모델(LLM) 경쟁이 국가 전략 산업으로 확산되면서, 대한민국도 '소버린AI(Sovereign AI)' 확보를 위한 독자AI 파운데이션 모델 프로젝트를 본격화하고 있다.

최근 과학기술정보통신부를 중심으로 추진 중인 독자AI 파운데이션 모델 사업은 단순한 초거대 모델 개발을 넘어 △프롬 스크래치 기반 원천 학습 △데이터 주권(Data Sovereignty) △독자AI 생태계 구축 △산업별AI 전환(AX) 확산 등을 핵심 방향으로 제시하고 있다.특히 가장 엄격한 규제와 컴플라이언스가 작용하는 의료ㆍ제약ㆍ병원ㆍ약국 분야에서는 단순AI 모델 경쟁보다 "실제 의료 현장에서 AI를 어떻게 안전하게 실행ㆍ통제ㆍ검증할 것인가"가 새로운 핵심 과제로 떠오르고 있다는 분석이 나온다.

업계 관계자들은 향후 의료AI 경쟁 중심축이 단순 진단 정확도나 추천 경쟁에서 벗어나, 실제 의료 행위와 환자의 안전을 실시간으로 연결하고 제어하는 '실행 안전(Execution Safety)'과 '런타임 거버넌스(Runtime Governance)' 경쟁으로 이동할 가능성이 높다고 전망하고 있다.

단순 ‘AI 판단’ 넘어… 실행ㆍ검증ㆍ감사 연결 폐루프형OS

이러한 흐름 속에서 (주)디3319헬스케어가 구축해 온 AI 헬스케어 특허 포트폴리오가 관련 업계 관심을 모으고 있다.

디3319헬스케어는 현재까지 선점해 온 AI 헬스케어 특허 포트폴리오를 기반으로, 단순AI 진단ㆍ추천 시스템이 아니라 "AI 판단 결과를 실제 의료 행동과 안전 실행까지 연결하는 폐루프형(Closed-loop) 실행 운영체계(OS)" 방향을 명확히 제시하고 있다.

회사 측에 따르면, 핵심 전략은 병원ㆍ약국ㆍ보험ㆍ생활형 헬스케어 환경에서 AI의 판단을 단순 가이드로 끝내는 것이 아니다. 실제 의료 현장에서의 실행ㆍ검증ㆍ감사ㆍ책임 추적까지 유기적으로 연결하는 '의료 실행 거버넌스 계층(Healthcare Execution Governance Layer)'을 견고하게 구축하는 데 목적이 있다.

국가 소버린AI 전략과 정렬성… 연합학습 기반 '데이터 주권' 보호

보건의료 및 AI 전문가들은 디3319헬스케어의 실행 거버넌스 특허 전략이 정부가 추진하는 국가 소버린AI 전략과 고도의 정렬성을 보인다고 평가한다. 

대표적으로 △TEE(신뢰실행환경) 기반 Edge Trust 구조 △연합학습(Federated Learning) 기반 데이터 주권 보호 △전문가 감독(Human Oversight) 기반 실행 감사 △Runtime Governance 및 Runtime Rollback △실행 이력 검증(Audit Trail) 구조 등이 의료AI의 실행 안전 인프라와 직결된다는 분석이다.

이 가운데 연합학습 기반 구조는 병원, 약국, 보험사, 제약사 등의 민감 의료 데이터를 중앙 서버로 직접 이동시키지 않고, 각 기관의 내부 환경에서 AI 학습과 실행 검증을 독립적으로 수행할 수 있도록 설계됐다. 이는 향후 의료 데이터 주권 확보 및 까다로운 규제 대응 측면에서 소버린AI 생태계의 핵심 병목을 해결할 실질적인 대안으로 평가받고 있다.

글로벌 규제(EU AI Actㆍ미국FDA) 동시 대응… '실행 관리'가 차세대 경쟁력

최근 글로벌 의료AI 산업 역시 단순AI 모델 성능 경쟁을 넘어 '실행 안전성'과 '규제 대응 가능성'을 핵심 생존 요건으로 삼기 시작했다. 실제로 유럽연합(EU)은 'EU AI Act'를 통해 고위험AI에 대한 전문가 감독(Human Oversight), 감사 가능성(Auditability), 투명성 요구사항을 강력하게 강화하고 있다. 

미국 FDA 역시 AI 의료기기의 반복적 업데이트를 안전하게 통제하기 위한 PCCP(Predetermined Change Control Plan) 체계를 운영 중이다. 이는 앞으로 의료AI 산업에서 단순 모델 개발을 넘어 "AI 운영ㆍ변경ㆍ실행 관리"가 핵심 영역으로 부상하고 있음을 보여준다.

디3319헬스케어는 이러한 글로벌 규제 대전환기에 선제적으로 대응해 Runtime Governance 기반 의료AI 실행 운영체계 방향을 대폭 강화하고 있다.

회사 측은 △SBOMㆍPCCP 기반 실행 거버넌스 △전문가 감독(Human Oversight) △적대적 프롬프트 방어 △Runtime Rollback △비침투형 연동 구조 △무중단 Zero-install 배포 △실행 권한 제어 등을 통합한 '의료AI Runtime Governance OS' 전략을 단계적으로 고도화하고 있다고 밝혔다.

또 메신저 및 개인건강기록(PHR) 기반 환경에서 실제 복약ㆍ생활 행동을 실행ㆍ검증ㆍ감사 가능한 데이터로 연결하는 폐루프형 헬스케어 실행 플랫폼 방향을 고도화하고 있다.

"데이터 주권 넘어 ‘실행 주권(Execution Sove-reignty)’ 시대로"

AI 업계 관계자는 "지금까지의 의료AI가 진단과 추천 중심이었다면, 앞으로는 실제 의료 현장에서 AI를 얼마나 안전하게 실행하고 감독할 수 있는지가 핵심 경쟁력이 될 것"이라며, "소버린AI 시대에는 단순 데이터 주권을 넘어 실행 주권(Execution Sovereignty) 개념 역시 중요해질 수밖에 없다"고 평가했다.

다른 관계자는  "국산AI 파운데이션 모델이 실제 병원ㆍ약국ㆍ보험 환경에 성공적으로 안착하기 위해서는 Runtime Governance, Human Oversight, Auditability 같은 실행 안전 계층이 필수적"이라며, "향후 의료AI 시장은 단순 SaaS형 서비스 경쟁보다 인프라 성격의 실행 거버넌스 플랫폼 경쟁으로 이동할 것"이라고 분석했다.

디3319헬스케어 개발자(약사)는 "앞으로 △Sovereign Healthcare Execution OS △Federated Heal-thcare AI △Execution Evidence Platform △Expert-supervised Medical AI △Ambient Runtime Governance 축을 중심으로 의료AI 실행 안전 인프라 전략을 강화하며, 국내외 빅테크 컨소시엄 및 다산업 생태계와의 전략적 연대를 본격적으로 확대해 나갈 계획"이라고 밝혔다.

문의 : ㈜디3319헬스케어([e-mail])