정부, 독자 AI '모두의 AI' 연내 출시... 개인정보보호·AI 거버넌스 체계 점검 필요

핵심 요약

- 배경훈 부총리, 2026년 7월 16일 청와대 영빈관 부처 업무보고에서 독자 AI '모두의 AI' 연내 출시 및 미토스급 AI 개발 계획 발표 - 송경희 개인정보보호위원장이 함께 참석하여 AI 개발과 개인정보보호의 통합 거버넌스 체계 구축 의지 표명 - 세계 2강 AI 경쟁력 확보를 위한 국가 AI 전략에서 개인정보보호 사전 설계(Privacy by Design) 원칙 적용 필요성 대두

주요 내용

배경훈 부총리 겸 과학기술정보통신부 장관은 2026년 7월 16일 청와대 영빈관에서 이재명 대통령 주재로 열린 부처 업무보고에서 독자 AI 기술인 '모두의 AI'를 연내 출시하고, 세계 최고 수준의 미토스(Mitos)급 AI 개발을 추진한다고 밝혔다. 이번 보고에는 송경희 개인정보보호위원장이 함께 참석하여, AI 기술 개발과 개인정보보호가 통합적으로 관리되어야 함을 강조했다.

'모두의 AI'는 국산 독자 기술 기반의 대규모 언어모델(LLM)로, 정부는 이를 통해 미국과 중국에 이은 세계 AI 2강 진입을 목표로 하고 있다. 2026년 하반기 출시를 목표로 개발 중인 이 AI는 공공·민간 분야 전반에 활용될 예정이며, 특히 행정 서비스, 교육, 의료 등 개인정보 집약적 영역에서의 적용이 계획되어 있다.

송경희 위원장의 동석은 AI 기본법 시행(2024년 8월) 이후 강화된 AI 거버넌스 체계를 반영한 것으로 해석된다. AI 기본법은 고위험 AI 시스템에 대한 사전 영향평가, 개인정보 처리 최소화, 알고리즘 투명성 확보 등을 의무화하고 있으며, 국가 주도 AI 개발 프로젝트 역시 이러한 법적 요구사항을 충족해야 한다.

미토스급 AI 개발은 GPT-4를 능가하는 성능을 목표로 하고 있으나, 학습 데이터의 개인정보 포함 여부, 편향성 문제, 생성 콘텐츠의 프라이버시 침해 가능성 등 개인정보보호 관점의 리스크 관리가 핵심 과제로 떠오르고 있다. 특히 AI가 생성하는 코드나 콘텐츠에서 개인정보가 의도치 않게 노출되는 '바이브 해킹(Vibe Hacking)' 위험성도 사전에 점검되어야 한다.

전문가 시각

ISMS-P 선임심사원 관점에서 볼 때, 국가 주도 AI 개발 프로젝트는 ISMS-P 인증 기준의 '16.AI 시스템 보호' 영역을 필수적으로 충족해야 한다. 특히 AI 학습 데이터의 개인정보 비식별 조치(가명·익명처리), 모델 출력 결과의 개인정보 포함 여부 모니터링, AI 의사결정의 설명 가능성 확보가 핵심이다. '모두의 AI'가 공공 서비스에 활용될 경우, 개인정보보호법 제32조의2(자동화 결정)에 따른 정보주체의 거부권 보장 및 사전 고지 절차가 설계 단계부터 반영되어야 한다.

또한 미토스급 AI 개발 시 바이브 코딩(Vibe Coding) 환경에서의 보안 취약점이 우려된다. AI가 자동 생성하는 코드에서 SQL 인젝션, 인증 우회, 경쟁조건(Race Condition) 등의 보안 결함이 발견될 경우, 이는 단순 기술적 문제를 넘어 개인정보 유출로 직결될 수 있다. 따라서 AI 생성 코드에 대한 자동화된 보안 검증 도구(SAST/DAST) 적용, 코드 리뷰 프로세스 강화, 개발자 대상 AI 보조 개발 보안 교육이 병행되어야 한다. 정부는 '모두의 AI' 출시 전 개인정보영향평가(PIA) 및 알고리즘 영향평가를 실시하고, 그 결과를 투명하게 공개하여 국민 신뢰를 확보할 필요가 있다.

CPPG·ISMS-P 연계 포인트

AI 시스템 개인정보 보호조치 (ISMS-P 16.AI 시스템 보호) AI 시스템 개발·운영 시 학습 데이터의 개인정보 최소 수집, 비식별 조치, 모델 출력 결과의 개인정보 포함 여부 모니터링, 자동화 의사결정에 대한 정보주체 권리 보장(거부권·설명 요구권) 등을 포함한 전체 생명주기 보호 체계 구축이 요구됩니다.

자동화 결정의 통보 및 설명 (개인정보보호법 제32조의2) 완전 자동화된 시스템(AI 포함)에 의한 개인정보 처리로 정보주체의 권리·의무에 중대한 영향을 미치는 결정이 이루어질 경우, 사전 고지, 거부권 보장, 설명 요구권 제공이 법적 의무이며, AI 기본법(고위험 AI 규제)과 연계하여 알고리즘 투명성·설명 가능성 확보가 핵심입니다.