평택시 요양원 AI 안전관리 시스템, 온프레미스 폐쇄망으로 개인정보보호 강화

핵심 요약

- 평택시가 2026년 8월 요양원 안전관리에 LLM과 비전 AI를 결합한 시스템 도입 - 낙상·병상 이탈 등 위험 징후를 사전 감지하며, 온프레미스 폐쇄망 방식으로 개인정보 유출 위험 차단 - AI 영상분석 시스템의 개인정보보호 강화 모델로 공공부문 확산 가능성 주목

주요 내용

평택시가 2026년 8월 요양원 안전관리를 위해 초거대 언어모델(LLM)과 비전 AI를 결합한 지능형 안전관리 시스템을 도입했다. 이 시스템은 요양원 내 낙상, 병상 이탈 등 고령 입소자의 위험 징후를 실시간으로 감지하고 요양보호사에게 즉시 알림을 전달하는 방식으로 작동한다. LED 램프와 전광판을 활용해 시각적 경보를 제공함으로써 신속한 대응이 가능하도록 설계됐다.

특히 주목할 점은 개인정보 보호를 위해 온프레미스(On-Premise) 폐쇄망 방식을 채택했다는 점이다. 일반적인 클라우드 기반 AI 시스템과 달리, 영상 데이터와 AI 분석 프로세스가 모두 요양원 내부 서버에서 처리되어 외부 네트워크로 개인정보가 전송되지 않는다. 이는 「개인정보 보호법」과 「정보통신망법」상 민감정보에 해당하는 건강정보와 영상정보의 유출 위험을 원천적으로 차단하는 설계다.

LLM의 역할은 비전 AI가 감지한 이상 행동 패턴을 자연어로 해석하고, 상황별 대응 가이드를 요양보호사에게 제공하는 것으로 추정된다. 예를 들어 "3번 침대 입소자가 30초 이상 침대 가장자리에 앉아 있음. 낙상 위험 주의" 같은 구체적 알림을 생성할 수 있다. 이는 단순 영상 감지를 넘어 AI가 맥락을 이해하고 의미 있는 정보로 변환하는 과정이다.

공공 요양시설의 AI 도입은 2026년 현재 「AI 기본법」 시행 이후 공공부문 AI 거버넌스 강화 흐름과 맞물려 있다. 평택시 사례는 고위험 AI 시스템 도입 시 개인정보보호 설계(Privacy by Design) 원칙을 실무에 적용한 모범 사례로 평가받을 수 있다.

전문가 시각

ISMS-P 선임심사원 관점에서 본 시스템의 핵심은 '기술적 보호조치의 물리적 격리'다. 영상정보처리기기와 AI 분석 시스템을 클라우드가 아닌 폐쇄망에 구축함으로써 「개인정보의 안전성 확보조치 기준」 제7조(접근통제) 및 제8조(접속기록 보관)의 요구사항을 효과적으로 충족할 수 있다. 특히 요양원 입소자는 정보주체로서 의사표현이 제한적일 수 있어, 기술적 보호조치가 더욱 중요하다.

다만 실무 적용 시 주의할 점도 있다. 첫째, LLM이 생성한 알림 메시지에 개인식별정보(침대번호, 이름 등)가 포함될 경우 요양보호사의 모바일 기기 보안 관리가 필수적이다. 둘째, AI 학습 과정에서 사용된 영상 데이터의 비식별 처리 여부와 학습 완료 후 원본 데이터 파기 절차가 명확히 문서화되어야 한다. 셋째, 오탐지(False Positive)로 인한 과도한 알림이 '감시 피로도'를 유발하지 않도록 AI 모델의 지속적 튜닝이 필요하다. 평택시 사례는 공공 AI 도입 시 개인정보보호와 안전의 균형점을 찾는 실험적 모델로서, 향후 타 지자체 확산 시 거버넌스 체계 정립이 선행되어야 할 것이다.

CPPG·ISMS-P 연계 포인트

1. 영상정보처리기기의 안전성 확보조치 (개인정보보호법 제25조)
요양원 AI 안전관리 시스템은 영상정보처리기기에 해당하며, 설치 목적(안전관리) 명확화, 촬영 범위 최소화, 보관기간 설정, 접근권한 관리가 필수다. 온프레미스 방식은 제3자 제공 위험을 제거해 법적 요구사항 충족에 유리하다.

2. Privacy by Design 원칙 (ISMS-P 2.8.1 개인정보 수집 시 보호조치)
시스템 설계 단계부터 개인정보 최소 수집, 목적 외 사용 금지, 기술적 보호조치(폐쇄망)를 적용한 사례로, ISMS-P 인증심사 시 '사전 개인정보보호 영향평가(PIA)' 수행 여부와 데이터 생명주기 관리 정책이 평가 포인트가 된다.