“AI 생성” 라벨 의무화… AI기본법 시행령 입법예고 핵심 정리

“AI로 생성된 결과물” 고지 의무화… AI기본법 시행령 입법예고 핵심 요약

정부가 AI기본법 시행령(제정안)을 입법예고했습니다. 핵심은 생성형 AI 결과물 고지(라벨링) 의무, 고영향 AI 기준·확인 절차 명확화, 인공지능 영향평가 구체화, 그리고 국가 AI정책 지원기관 지정 등입니다. 아래에 무엇이 바뀌는지와 사업자 체크리스트를 정리했습니다.

---

✅ 핵심 요약

• 라벨링: 생성형 AI가 만든 결과물은 이용자가 명확히 인식하도록 “AI 생성” 고지가 필요.
• 안전·신뢰: 투명성·안전성 의무 및 고영향 AI 판단 기준·절차를 구체화.
• 고영향 AI 확인: 기본 30일 이내 확인, 1회 30일 연장 가능(사유·기간 문서 통보).
• 영향평가: 영향받는 기본권·영향 정도·완화방안 등을 포함해 사업자가 자율 평가.
• 지원체계: AI안전연구소·정책센터·집적단지 전담기구 등 지원기관 지정·운영 근거.

---

🧾 생성형 AI 라벨링(고지) 의무

• 대상: 생성형 AI 결과물 또는 AI 기반으로 운용되는 제품·서비스.
• 방식: 결과물이 실물과 구분 어려운 경우 이용자가 식별 가능한 형태로 “AI 생성”을 고지.
• 배려: 연령·신체적 조건 등을 고려한 고지 방식 요구(접근성 반영).

실무 예시(권장 문구)

• 텍스트: 이 콘텐츠는 생성형 AI가 작성(또는 보정)했습니다.
• 이미지/영상 워터마크: AI-Generated 또는 AI 생성 표기
• UI 라벨: 제출 버튼 인접·결과 화면 상단·파일 메타에 반복 표기

---

⚙️ 고영향 AI 기준·절차

• 기준: 사용 영역의 중대성·빈도·기본권 영향 등을 종합해 고영향 AI 여부 판단.
• 대규모 시스템 기준(안): 학습 누적 연산량이 10²⁶ FLOPs 이상인 시스템은 별도 안전성 의무 대상.
• 확인 절차: 과기정통부 확인 30일 내 처리, 필요시 1회 30일 연장(사유·기간 문서 통지).

---

📋 인공지능 영향평가(자율) 내용

• 평가 범위: 어떤 기본권이 어떻게 영향을 받는지, 그 위험 완화 방안은 무엇인지 구체 기술.
• 활용: 출시 전·주요 업데이트 시 자율평가를 실시하고 결과를 내부통제·대응 프로토콜에 반영.

---

🏢 국가 AI정책 지원체계

• 지원기관: AI안전연구소, 인공지능정책센터, AI집적단지 전담기구 지정 근거 명확화.
• 진흥사업: R&D, 학습데이터, 도입·활용 등 지원 대상·기준·내용을 시행령에 명시.

---

🧭 사업자 체크리스트(즉시 적용용)

• ① 콘텐츠 라벨링: 텍스트·이미지·영상·음성 결과물에 “AI 생성” 고지 체계 구축(워터마크·UI·메타데이터).
• ② 분류·대장: 서비스별 생성·보정 여부 및 모델·버전 기록(로그/감사추적).
• ③ 고영향 여부: 서비스 도메인(채용·교육·금융·의료 등)의 중대성·빈도·기본권 영향 평가.
• ④ 임계 확인: 모델 학습 누적 FLOPs 산정·증빙, 외부 모델 사용 시 공급사 확인서 수취.
• ⑤ 영향평가: 출시 전/메이저 업데이트 시 자율 영향평가 템플릿 운영(리스크·완화·책임자 지정).
• ⑥ 연장 대비: 고영향 확인 30일(+30일) 절차 캘린더 반영, 연장 사유 문서화.
• ⑦ 정책고지: 개인정보·저작권·환각(할루시네이션) 대응 방침을 약관·가이드로 공지.

---

❓ 자주 묻는 질문(간단)

Q1. 사람이 일부 수정해도 ‘AI 생성’ 고지해야 하나요?

AI가 창작·생성에 실질적으로 관여했다면 이용자가 AI 개입 사실을 명확히 알 수 있게 고지하는 것이 원칙입니다.

Q2. 라벨은 어디에 붙이나요?

이용자가 처음 접하는 위치(상단·썸네일·재생 초기)에 표시하고, 파일에는 메타데이터/워터마크도 병행하는 걸 권장합니다.

Q3. 내부용 문서에도 적용되나요?

대상은 제품·서비스 제공 과정의 결과물이 중심입니다. 다만 내부 문서라도 대외 공유 가능성이 있으면 동일 기준을 유지하는 편이 안전합니다.

---

🗓 절차·일정(개요)

• 입법예고: 제정안 의견수렴 진행(고시·가이드라인과 병행 공개).
• 확정: 관계부처 심사·법제처 심사 후 공포·시행.

---

※ 본 글은 시행령 입법예고 단계의 내용을 요약한 것입니다. 최종 조문·부칙에 따라 적용범위·시행시기·세부기준이 달라질 수 있습니다.