NIA·AI법학회, 'AI기본법 시대 인간중심 AI 거버넌스' 포럼 개최...국민 권리 보호 과제 진단

핵심 요약

- 한국지능정보사회진흥원(NIA), 한국인공지능법학회, 개인정보보호법학회, 황정아 의원실이 공동 주최로 'AI기본법 시대 인간중심 AI 거버넌스' 포럼 개최 - AI기본법 시행 이후 인공지능이 국민의 삶, 권리, 기회에 미치는 영향을 핵심 분야별로 종합 진단 - 개인정보보호, 알고리즘 투명성, AI 윤리 등 인간중심 AI 사회 구현을 위한 실무 과제 집중 논의

주요 내용

2026년 7월, 한국지능정보사회진흥원(NIA)과 한국인공지능법학회, 개인정보보호법학회가 황정아 의원실과 공동으로 'AI기본법 시대 인간중심 AI 거버넌스' 포럼을 개최했다. 2024년 제정된 AI기본법이 본격 시행되면서 인공지능 기술의 사회적 영향력이 급증하는 가운데, 국민의 기본권 보호와 AI 산업 발전의 균형점을 모색하기 위한 자리였다.

이번 포럼은 AI기본법 시행 이후 누적된 정책 경험과 현장 이슈를 바탕으로, 인공지능이 국민의 삶과 권리, 기회에 미치는 파급효과를 핵심 분야별로 진단했다. 특히 개인정보 자기결정권, 알고리즘 설명 요구권, AI 결정에 대한 이의제기권 등 AI기본법이 명시한 권리들이 실제 사회에서 어떻게 작동하고 있는지, 그리고 제도적 보완이 필요한 영역은 무엇인지에 대한 심층 논의가 이뤄졌다.

포럼에서는 AI 자동화 의사결정 시스템의 투명성 확보, 고위험 AI 시스템에 대한 사전 영향평가 강화, AI 개발·운영 과정에서의 개인정보 처리 원칙 등이 주요 의제로 다뤄진 것으로 알려졌다. 또한 생성형 AI의 급속한 확산으로 인한 새로운 개인정보 침해 유형, 딥페이크를 활용한 사이버 범죄, AI 코드 자동 생성 도구의 보안 취약점 등 신종 위협에 대한 대응 방안도 함께 논의됐다.

법학계, 기술계, 정책 당국이 한자리에 모여 AI 거버넌스의 실질적 이행 과제를 점검한 이번 포럼은, 2026년 현재 AI 규제 체계가 선언적 수준을 넘어 실효성 있는 제도로 정착하기 위한 중요한 이정표가 될 것으로 평가된다. 특히 개인정보보호법학회의 참여는 AI 시대 개인정보 보호와 AI 윤리의 교차점에서 발생하는 복합적 쟁점을 다루는 데 핵심적 역할을 했다.

전문가 시각

ISMS-P 심사 현장에서 관찰되는 가장 큰 변화는 AI 시스템이 개인정보 처리의 핵심 주체로 등장하면서 기존 보호조치만으로는 충분하지 않다는 점이다. AI기본법 시행 이후 기업들은 고위험 AI 시스템 판단 기준, AI 영향평가 수행 방법, 자동화 의사결정 시 정보주체 고지 의무 등 새로운 컴플라이언스 과제에 직면했다. 특히 생성형 AI를 업무에 도입하는 기업들은 학습 데이터의 개인정보 포함 여부, 프롬프트 입력 시 민감정보 유출 가능성, AI 생성 결과물의 편향성 등을 사전에 검토해야 한다.

바이브 코딩(Vibe Coding) 환경에서 AI가 자동 생성한 코드에는 인증·인가 로직 누락, SQL 인젝션 취약점, 불충분한 입력값 검증 등 보안 결함이 빈번히 발견된다. 개발자가 AI 제안 코드를 충분히 검증하지 않고 그대로 적용할 경우, 개인정보 유출이나 권한 우회 공격에 노출될 수 있다. 기업은 AI 코드 생성 도구 사용 시 보안 코딩 가이드라인 준수, 자동화된 취약점 스캔 도구 연계, 코드 리뷰 프로세스 강화 등 다층적 보안 통제를 구축해야 한다.

CPPG·ISMS-P 연계 포인트

AI 영향평가(AI Impact Assessment) AI기본법상 고위험 AI 시스템을 개발·제공하는 사업자는 해당 시스템이 개인의 권리와 안전에 미치는 영향을 사전에 평가해야 한다. 개인정보 처리를 수반하는 AI 시스템의 경우 개인정보보호법상 개인정보 영향평가(PIA)와 통합 수행 방안을 검토해야 하며, 알고리즘 투명성·설명가능성·공정성을 평가 항목에 포함해야 한다.

자동화 의사결정에 대한 정보주체 권리 AI 자동화 의사결정으로 개인에게 법적·실질적 영향을 미치는 경우, 정보주체는 처리 사실 고지, 의사결정 기준 설명, 이의제기 및 재심사 요구 권리를 갖는다. ISMS-P 인증 심사 시 자동화 의사결정 시스템 보유 기업은 정보주체 권리 보장 절차, 알고리즘 설명 자료 준비, 인간 개입(human-in-the-loop) 체계 구축 여부를 입증해야 한다.