1. AI 기본법의 의무사항은 무엇인가?
‘AI 산업 육성’과 ‘안전한 이용 환경 조성’을 목표로 제정되어 올해 2026년 1월 22일 시행되는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)’은 기존 IT시스템 및 서비스와 다른면들이 많아 기업 내부적으로 조직 구성 등 거버넌스 수립부터 혼란이 있을수 밖에 없다.
이러한 인공지능 정책적 방향에 대한 이해를 돕기 위해 과기부는 5종의 가이드라인 공개하였으며 이에 따라 금융위원회도 이전에 공개된 금융회사 등 금융권을 위한 가이드라인을 업데이트 버전을 공개하였다.
이 AI 기본법의 적용대상이 되는 AI개발사업자, AI이용사업자에게 의무화되어 있는 사항들은 규모에 따라 다르지만 크게 5가지로 요약된다.
- AI 투명성 확보 (법 제31조): 사전 고지 의무(제1항), AI생성물 표시의무(제2항), 딥페이크 고지 의무(제3항)
- AI 안전성 확보 (법 제32조): 위험식별.평가.완화(제1항 제1호), 위험관리체계 구축(제1항 제2호), 결과 제출(제2항)
- 고영향 AI사업자 책무 (제34조): 위험관리 방안 수립/운영, 설명 가능성 방안 수립/시행, 이용자 보호 방안 수립/운영, 인간 관리/감독, 안전성 및 신뢰성 확보조치 문서, 위원회 심의사항 이행관리
- 고영향 AI 제품·서비스에 대한 영향평가 (제35조): 고영향 AI를 이용한 제품·서비스 제공 시, 사전에 사람의 기본권에 미치는 영향도를 평가
- 국내 대리인 지정 (제`36조): 특정 규모 이상의 사업자`의 경우, 국내 대리인을 서면 지정 및 신고, (*) 특정 규모 기준: 전년도 매출액 1조원 이상, AI서비스 부문 전년도 매출액 100억원 이상, 3개월간 국내 이용자수 1일 평균 100만명 이상, 법에 따라 과태료 부과이력이 있는 사업자
2. AI 기본법의 5종 가이드라인의 내용은 무엇인가?
과기부에서 제공하는 5종의 가이드라인을 요약해 보면 결국 전사적 대응체계를 갖춰야 하는 것을 알수 있다.
- AI 투명성 확보 가이드라인: AI 생성 콘텐츠에 대한 워터마크 표시나 AI 서비스 사용 사실 고지 등 주로 고객 접점(UI/UX)의 내용을 담고 있다.
- AI 안전성 확보 가이드라인: AI 모델의 기술적 결함 방지, 데이터 오염 차단, 시스템의 견고성 확보, 수명주기 위험관리 등 엔지니어링 측면의 준수 사항으로 구성되어 있다.
- 고영향 AI 판단 가이드라인: AI 개발/이용사업자가 운영하는 AI서비스 중 법적 ‘고영향 AI’ 범주(사회 기반 시설, 범죄 수사, 채용 등)에 해당되는지 법적 해석에 대한 내용으로 구성되어 있다.
- AI영향평가 가이드라인 : 고영향 AI로 분류된 서비스에 대한 주기적 위험평가 및 관리에 대한 내용으로 구성되어 있다.
- 고영향 AI 사업자 윤리 가이드라인: AI 개발/이용사업자의 사회적 책임과 윤리 원칙(인권 보장, 다양성 존중 등)을 전사적으로 확산시키고 교육하는 역할을 수행
3. AI 기본법 대응을 위한 준비는 어떻게 해야 하는가?
가장 먼저 해야 할일은 다른 신규 컴플라이언스 대응 준비와 동일하게 전사적 TFT를 구성으로 시작되어야 한다. 이 TFT에 어느 조직을 참여시킬 것인지는 과기부의 5종 가이드라인을 통해 짐작할 수 있다.
| 가이드라인 | 주요 요구사항 | 담당 조직 |
| 투명성 확보 | AI 생성물 워터마크 삽입, AI 서비스 사실 고지 등 | 서비스 기획/ 마케팅 담당 |
| 안전성 확보 | AI 모델의 기술적 결함 방지, 데이터 오염 차단, 시스템의 견고성 확보, 수명주기 위험관리 | CTO/개발/정보보안 담당 |
| 고영향 AI 판단 | 법적 ‘고영향 AI’ 범주(사회 기반 시설, 범죄 수사, 채용 등)에 해당여부 평가 및 대응 | 법무/컴플라이언스 담당 |
| AI영향평가 수행 | 고영향 AI로 분류된 서비스에 대한 주기적 위험평가 및 관리 | 품질관리/리스크관리 담당 |
| 고영향 AI 사업자 윤리 | AI 개발/이용사업자의 사회적 책임과 윤리 원칙(인권 보장, 다양성 존중 등)을 전사적으로 확산 및 안내 | ESG/전략/인사 담당 |
전사적 TFT 구성이후 AI관리체계 마련을 위한 단계적 접근방법은 아래와 같다.
Step 1. 현황파악
- 현재 사내 개발 또는 운영중인 모든 AI서비스를 목록화
- Al의 유형(자체 개발모델, 외부 위탁, 외부 연계)와 서비스 조직, 사용량 등의 파악
- 고영향 AI 해당 여부를 법무팀과 1차적 위험평가가 필수적
Step 2. R&R 공식화 및 거버넌스 규정 제정
- 전사적 관점의 조직체계 Layer를 고려하여 R&R을 정의하고 공감대를 형성
- AI의 라이프사이클(기획-설계-개발-평가검증-운영모니터링)별 정책, 지침, 절차,표준을 제작
Step 3. AI 라이프사이클 단계별 표준화 구축 및 홍보
- AI의 라이프사이클 단계별 업무절차를 플랫폼(시스템)으로 표준화 구축
- 플랫폼(시스템)의 시범적용으로 실증화 및 수정보완
- 플랫폼(시스템)의 전사적 활용도 극대화를 위한 교육 등 홍보
Step 4. 성과 공유 및 지속적 개선체계
- 구축된 관리체계와 플랫폼 운영에 대한 성과를 공유
- 지속적 개선을 위한 운영체제를 공식화