为国民可信的人工智能时代提出AI隐私风险管理模式（韩）

I. 개요

1. 논의 배경

• 인공지능(AI)의 발전은 개인정보를 포함한 대규모 데이터 처리에 기초하며, AI와 프라이버시 리스크는 불가분의 관계를 형성합니다.
• AI 기술의 발전은 개인정보 유출, 추적, 감시 등 전형적인 프라이버시 리스크를 심화시키며, 새로운 유형의 리스크를 유발합니다.
• AI 프라이버시 리스크의 적정 관리와 완화는 지속가능한 AI 발전의 선결 요건입니다.

2. 리스크 기반 접근의 필요성

• AI 프라이버시 리스크에 대한 체계적 이해는 AI 기술 발전을 선험적, 일률적으로 규제하기보다는 사회적으로 필요한 AI 개발과 혁신 활동을 지원하는 안전장치 역할을 수행합니다.

3. 목적과 한계

• 본 모델은 디지털 시대의 핵심 경쟁력인 AI가 프라이버시 친화적으로 활용될 수 있도록 AI 프라이버시 리스크 요인을 체계화하고, 리스크 관리의 방향과 원칙을 제시하기 위해 마련되었습니다.
• 본 모델의 준수는 자율 사항으로, AI 기업 등은 개별 여건에 따라 구체적인 AI 프라이버시 리스크 관리 체계를 수립할 수 있습니다.
• 본 모델은 AI 기업·기관 등의 개인정보보호법 준수 가능성을 높이고, 안전관리 체계 마련에 대한 유인을 제공하기 위한 것입니다.

4. 적용 범위

• (적용대상) AI 모델·시스템 개발자 및 제공자 등
• (리스크의 범위) AI 모델·시스템의 개발 및 제공과정에서 파생될 수 있는 다양한 리스크 중 프라이버시 측면에서 중점적으로 논의되고 있는 리스크를 중점적으로 다룹니다.

5. 「개인정보 보호법」 및 타 안내서 등과의 관계

• 안전조치의무와의 관계: 전통적인 개인정보 파일을 전제로 하는 안전조치의무 조항을 AI 모델·시스템에 그대로 적용하기는 어려우나, 동 조항의 취지·목적을 참고하여 AI 환경에 적합한 안전조치를 마련·시행하는 것이 바람직합니다.
• 개인정보 영향평가와의 관계: 공공기관의 AI 시스템 구축·운영이 영향평가의무 대상에 해당하는 경우, 영향평가를의뢰받은 평가기관은 본 모델을 보충적으로 참고할 수 있습니다. 의무 대상이 아닌 민간 기업 등은 AI 모델·시스템 개발 및 제공 시 본 모델을 참고한 영향평가를 자율적으로 고려할 수 있습니다.
• 타 안내서와의 관계: 본 모델은 개인정보위의 타 안내서 내용을 일부 포함하고 있지만 구체적 내용은 개별 안내서 참고 필요합니다. 본 모델은 개인정보위의「인공지능(AI) 개인정보보호 자율점검표」를 대체합니다.

II. AI 프라이버시 리스크 관리의 절차

• AI의 유형·용례 파악
• 용례에 대응하는 리스크의 식별
• 리스크의 측정
• 리스크 경감방안의 검토와 도입

III. 리스크의 식별

• 기획·개발 단계: 적법하지 않은 학습데이터 수집·이용, 학습데이터의 부적절한 보관·관리, AI 가치망의 데이터흐름의 복잡화, AI 가치망의 정보주체 권리보장 책임 복잡화 등
• 서비스 제공 단계: 학습데이터 암기 및 개인정보 유·노출, 악의적 AI 합성콘텐츠로 인한 정보주체 권리 침해, 자동화된 결정으로 인한 정보주체 권리 약화, 대중감시 및 민감정보 추론 위협 등

IV. 리스크의 경감

• 관리적 조치: 학습데이터 출처·이력 관리, 안전한 보관·파기 방안 마련 및 실행, AI 가치망 참여자간 역할 명확화, AI 프라이버시 레드팀 구성·운영, 정보주체 신고 방안 및 조치 방안 마련, 자동화된 결정에 대한 개인정보처리자의 조치 기준 준수, 개인정보 영향평가 수행 고려 등
• 기술적 조치: 학습데이터 전처리, 모델 미세조정을 통한 안전장치 추가, 입력 및 출력 필터링 적용, 차분 프라이버시 기법의 적용, 출처 데이터 추적 및 합성콘텐츠 탐지 방안 마련, 생체정보 활용시 가명·익명처리 기술 적용 등

V. AI 프라이버시 리스크 관리 체계

• AI 프라이버시 거버넌스 구축: AI 기업·기관 등은 개인정보보호책임자(CPO) 중심의 내부 거버넌스 체계를 정비·마련하는 것이 바람직합니다.
• AI 가치망 내 참여자와의 협력: AI 가치망의 다양한 참여자간 상호의존적 활동을 인지하고 당해 기업·기관의 역할 및 타 기업·기관과의 협력 체계를 구체화하는 것이 바람직합니다.