전남개발공사 'AI 윤리경영 원년' 선포…공공기관 AI 거버넌스 첫 사례

핵심 요약

- 전남개발공사가 'AI 윤리경영 원년'을 선포하고 AI 청렴윤리 4대 원칙(공정·투명 경영, 개인정보 보호, AI 결과 비판적 검증, 인권 침해 배격) 도입 - AI 윤리 특강, 청렴실천 서약식, 청렴 골든벨 등 임직원 참여형 행사를 통해 AI 윤리 실천 의지 강화 - 공공기관 차원에서 AI 거버넌스 체계를 선제적으로 구축한 국내 첫 사례로 평가

주요 내용

전남개발공사는 최근 'AI 윤리경영 원년' 선포식을 개최하고, 인공지능 시대에 부합하는 새로운 윤리경영 체계를 구축했다. 이번 행사는 AI 기술 도입이 가속화되는 공공기관 환경에서 윤리적 AI 활용 기준을 명확히 설정했다는 점에서 의미가 크다.

행사에서는 AI 윤리 특강을 통해 생성형 AI의 편향성, 환각(hallucination) 현상, 개인정보 유출 위험 등 AI 활용 시 발생할 수 있는 윤리적 이슈들을 공유했다. 이어진 청렴실천 서약식에서는 전 임직원이 'AI 청렴윤리 4대 원칙'을 준수하겠다는 의지를 표명했으며, 청렴 골든벨 행사를 통해 AI 윤리 원칙에 대한 이해도를 높였다.

특히 'AI 청렴윤리 4대 원칙'은 ▲공정·투명 경영 ▲개인정보 보호 ▲AI 결과의 비판적 검증 ▲인권 침해 배격으로 구성됐다. 이는 EU AI Act, 미국 AI 권리장전 등 글로벌 AI 규제 동향과 국내 AI기본법 제정 논의를 반영한 것으로, 공공기관이 AI를 활용할 때 지켜야 할 핵심 가치를 명확히 했다.

전남개발공사의 이번 선언은 단순한 윤리 강령 선포를 넘어 실질적인 AI 거버넌스 체계 구축을 위한 첫걸음이다. 공공기관의 AI 도입 시 발생할 수 있는 투명성 부족, 알고리즘 편향, 책임 소재 불명확 등의 문제를 사전에 방지하기 위한 제도적 기반을 마련했다는 평가를 받고 있다.

전문가 시각

ISMS-P 선임심사원 관점에서 볼 때, 전남개발공사의 AI 윤리경영 체계는 정보보호 관리체계와 개인정보보호 관리체계를 AI 시대에 맞게 확장한 모범 사례다. 특히 'AI 결과의 비판적 검증' 원칙은 AI 시스템의 출력 결과를 맹목적으로 신뢰하지 않고 인간의 최종 검토와 책임을 강조한다는 점에서 중요하다. 공공기관이 AI 기반 의사결정 시스템을 도입할 때 반드시 인간 개입(human-in-the-loop) 절차를 포함해야 하며, AI 판단에 대한 설명가능성(explainability)을 확보해야 한다.

실무 적용 시 유의할 점은 AI 윤리 원칙이 선언적 수준에 그치지 않도록 구체적인 실행 지침과 점검 체계를 마련하는 것이다. 개인정보 보호 측면에서는 AI 학습 데이터의 수집·활용 단계부터 개인정보 영향평가(PIA)를 실시하고, AI 시스템이 처리하는 개인정보의 생애주기 관리 체계를 수립해야 한다. 또한 AI 활용 과정에서 발생할 수 있는 차별과 편향을 모니터링하기 위한 정기적인 공정성 감사(fairness audit) 체계도 필요하다. 공공기관들은 전남개발공사의 사례를 참고하여 자체 AI 거버넌스 정책을 수립하고, 임직원 대상 AI 윤리 교육을 정례화해야 한다.

CPPG·ISMS-P 연계 포인트

1. AI 시스템 개인정보 영향평가(PIA) AI 시스템 도입 시 개인정보보호법 제33조에 따른 개인정보 영향평가를 실시해야 한다. AI 학습 데이터 수집, 모델 훈련, 추론 결과 활용 등 전 과정에서 개인정보 처리 현황을 파악하고 위험도를 평가해야 하며, 특히 프로파일링, 자동화된 의사결정에 대한 정보주체 권리 보장 방안을 마련해야 한다.

2. AI 거버넌스와 통제활동(ISMS-P 2.9) ISMS-P 인증기준 2.9 '정보보호 대책 구현'의 연장선상에서 AI 시스템에 대한 통제체계를 수립해야 한다. AI 모델의 편향성 테스트, 출력 결과 검증 절차, AI 의사결정의 설명가능성 확보, AI 시스템 접근통제 및 로깅, AI 관련 사고 대응 절차 등을 포함한 AI 특화 보안통제 항목을 관리체계에 반영해야 한다.