서울교육청 '채움AI' 독립망 구축… 교육 AI의 개인정보보호 설계 원칙

핵심 요약

- 서울교육청, 서·논술형 평가 확대에 따른 AI 채점 시스템 '채움AI' 개발 중 개인정보 보호 우려 해소 방안 제시 - 외부와 완전 차단된 독립 엔진 구조로 학생 답안·성적 등 민감정보의 외부 유출 차단 설계 - 교육 분야 AI 도입 시 Privacy by Design 원칙 적용 사례로 주목

주요 내용

2026년 8월 현재, 서울교육청이 개발 중인 AI 기반 채점 시스템 '채움AI'가 개인정보보호 측면에서 주목받고 있다. 서·논술형 평가 비중 확대로 교사의 채점 부담이 급증하면서 AI 채점 시스템 도입이 불가피해진 상황에서, 학생 답안과 성적이라는 고유식별정보 및 민감정보 처리에 대한 우려가 제기되어 왔다.

서울교육청은 이러한 우려에 대응하기 위해 '완전히 독립된, 밖으로는 차단된 엔진'을 개발하고 있다고 밝혔다. 이는 일반적인 클라우드 기반 AI 서비스와 달리, 외부 네트워크와 분리된 온프레미스(On-Premise) 또는 폐쇄망 환경에서 AI 모델을 운영하는 방식으로 해석된다. 학생의 답안 데이터가 외부 AI 서비스 제공자에게 전송되지 않으며, 제3자 접근이 원천적으로 차단되는 구조다.

이 같은 접근은 개인정보보호법 제3조의 '개인정보 처리의 최소화 원칙'과 제29조의 '안전성 확보조치'를 충실히 반영한 사례다. 특히 '아동·청소년의 개인정보 보호에 관한 법률' 시행(2024년 3월) 이후 교육 분야에서 AI 활용 시 더욱 엄격한 보호조치가 요구되는 상황에서, 기술적·관리적 보호조치를 설계 단계부터 내재화한 모범 사례로 평가된다.

다만 독립망 구조가 완벽한 해법은 아니다. 내부자 접근통제, 학습데이터 익명화 수준, AI 모델 업데이트 시 외부 연결 필요성, 채점 결과의 공정성·투명성 확보 등 추가 검토 과제가 남아 있다. 특히 AI 모델이 편향된 학습데이터로 훈련될 경우 특정 학생군에 불리한 채점 결과를 초래할 수 있어, 알고리즘 영향평가와 정기적 모니터링 체계 구축이 필수적이다.

전문가 시각

교육 AI 시스템은 '바이브 코딩(Vibe Coding)' 환경에서 개발될 가능성이 높다는 점에서 보안 검증이 더욱 중요하다. AI 코드 생성 도구로 빠르게 프로토타입을 만들 경우, SQL 인젝션·인증 우회·세션 관리 취약점 등이 자동 생성 코드에 포함될 수 있다. 특히 학생 답안 데이터베이스 접근 로직, 사용자 인증 모듈, 채점 결과 조회 API 등 민감정보 처리 구간에서 AI가 생성한 코드는 반드시 보안 코드 리뷰와 모의침투 테스트를 거쳐야 한다.

실무 대응 방안으로 ① 개발 단계부터 ISMS-P 인증 기준에 따른 개인정보 영향평가(PIA) 수행 ② AI 생성 코드에 대한 정적·동적 보안 분석 도구(SAST/DAST) 적용 ③ 접근권한 최소화 원칙에 따른 RBAC(역할 기반 접근통제) 설계 ④ 학습데이터 비식별 조치 및 재식별 위험 평가 ⑤ 채점 알고리즘의 설명가능성(Explainability) 확보를 권고한다. 서울교육청 사례는 교육청·학교가 상용 AI 서비스에 의존하지 않고 자체 프라이버시 통제 역량을 갖추는 방향으로 나아가야 함을 시사한다.

CPPG·ISMS-P 연계 포인트

Privacy by Design(설계 단계 개인정보 보호 내재화): 개인정보 처리 시스템 구축 시 사후 보안 패치가 아닌 설계·개발 단계부터 보호조치를 내재화하는 원칙. 채움AI의 독립망 구조는 '데이터 최소화', '목적 외 이용 제한', '기술적 안전조치'를 설계 단계부터 반영한 사례로, ISMS-P 인증심사 시 2.8.1(개인정보 수집 시 보호조치), 2.9.1(개인정보 접근통제) 항목 평가 기준이 된다.

망분리(Network Segregation): 개인정보 처리 시스템을 인터넷 등 외부 네트워크와 물리적·논리적으로 분리하여 외부 침입 및 정보 유출 위험을 차단하는 통제 수단. ISMS-P 인증기준 2.7.3(네트워크 접근통제)에서 요구하는 핵심 통제로, 교육정보시스템(NEIS)처럼 대량의 민감정보를 처리하는 환경에서 필수적이다. 다만 업데이트·유지보수 시 통제된 외부 연결 절차와 로그 기록이 함께 요구된다.