KT-서울대병원 AX 플랫폼, 의료 AI 도입 시 개인정보보호 3대 과제

핵심 요약

- KT와 서울대병원이 의료 전 영역에 걸친 'AX(AI Transformation) 플랫폼' 구축을 2026년 추진 중 - 의료 AI의 실제 진료 현장 적용을 위해 의료데이터 보안·개인정보 보호 체계가 최우선 과제로 제기됨 - AI 결과의 정확성·신뢰성 확보 및 의료진-AI 간 역할 구분 명확화를 위한 운영체계 마련 필요

주요 내용

KT와 서울대병원이 의료 분야 전 영역에 걸쳐 AX(AI Transformation) 플랫폼 구축을 추진하고 있다. 이 플랫폼은 진단, 치료, 예후 예측 등 의료 현장의 다양한 영역에 AI 기술을 접목하여 의료 서비스의 품질과 효율성을 높이는 것을 목표로 한다.

하지만 의료 AI가 실제 진료 현장에 본격 도입되기 위해서는 여러 선결 과제들이 존재한다. 특히 의료데이터의 보안과 개인정보 보호 문제가 가장 핵심적인 과제로 꼽힌다. 의료정보는 「개인정보 보호법」상 민감정보에 해당하며, 유출 시 환자에게 치명적인 피해를 줄 수 있어 일반 개인정보보다 더 강화된 보호 조치가 요구된다.

또한 AI가 생성한 진단이나 치료 권고의 정확성과 신뢰성을 어떻게 보장할 것인지도 중요한 이슈다. AI 모델의 편향성이나 오류가 환자의 생명과 직결될 수 있기 때문이다. 이에 따라 AI의 판단 근거를 설명할 수 있는 XAI(설명 가능한 AI) 기술의 적용과 함께, 최종 의료 판단은 의료진이 내리도록 하는 인간 중심의 거버넌스 체계 구축이 필수적이다.

의료 AI 시스템 구축 시에는 의료진과 AI의 역할을 명확히 구분하는 운영체계도 마련되어야 한다. AI는 의료진의 의사결정을 보조하는 도구로 활용되어야 하며, 최종 책임은 의료진에게 있다는 원칙이 확립되어야 한다. 이는 의료사고 발생 시 법적 책임 소재를 명확히 하는 데에도 중요하다.

전문가 시각

의료 AI 플랫폼 구축 시 가장 먼저 고려해야 할 것은 개인정보 영향평가(PIA) 수행과 ISMS-P 인증 취득이다. 의료기관은 「정보통신망법」상 정보통신서비스 제공자로서, 100만 명 이상의 정보를 보유한 경우 ISMS-P 인증이 의무화된다. AI 학습 과정에서 비식별화된 의료데이터를 사용하더라도, 재식별 위험성을 지속적으로 평가해야 하며, 데이터 최소 수집 원칙과 목적 외 이용 금지 원칙을 엄격히 준수해야 한다.

특히 2026년 현재 추진 중인 AI 기본법 제정 논의에서는 고위험 AI 시스템에 대한 사전 적합성 평가 제도 도입이 검토되고 있다. 의료 AI는 대표적인 고위험 영역으로 분류될 가능성이 높아, 플랫폼 구축 초기부터 AI 거버넌스 체계를 설계에 반영하고, AI 모델의 학습 데이터, 알고리즘 로직, 의사결정 과정에 대한 투명성을 확보하는 것이 중요하다. 또한 AI 시스템의 오작동이나 오류 발생 시 신속한 대응을 위한 모니터링 체계와 사고 대응 절차를 사전에 수립해야 한다.

CPPG·ISMS-P 연계 포인트

민감정보 처리 시 안전성 확보조치 (ISMS-P 2.8.2)
의료정보는 민감정보로서 암호화, 접근통제, 감사기록 관리 등 강화된 보호조치가 필요하며, AI 학습·추론 과정 전반에 걸쳐 비식별 조치와 재식별 위험 평가를 지속적으로 수행해야 한다.

AI 시스템 투명성 및 설명 가능성 (AI 기본법 논의 중)
고위험 AI 시스템은 의사결정 과정의 투명성과 설명 가능성을 확보해야 하며, 특히 의료 분야에서는 AI의 판단 근거를 의료진이 이해하고 검증할 수 있는 XAI 기술 적용과 인간의 최종 판단 원칙 수립이 필수적이다.