법이 정한 목적과 범위
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법은 2026년 1월 22일 시행된 한국의 AI 기본 법률입니다. 법의 목적은 AI의 건전한 발전과 신뢰 기반 조성, 국민 권익 보호, 국가 경쟁력 강화를 포함합니다. 고영향 AI, 안전성, 투명성, 윤리 관련 의무를 규정한다는 점에서 단순한 진흥법이 아닙니다. 기업 입장에서는 서비스 기획 단계부터 이 의무 항목을 검토 대상에 넣어야 한다는 뜻입니다.
실무에서 가장 먼저 정리해야 하는 것은 이 법이 "무엇을 하게 하는가"보다 "어떤 서비스가 적용 대상인가"입니다. 이용자에게 직접 노출되는 기능인지, 내부 의사결정을 보조하는 도구인지에 따라 요구 수준이 달라집니다. 기획 문서에 AI 사용 지점을 표시해 두는 것만으로도 이후 검토 비용이 크게 줄어듭니다.
사전 고지
생성형 AI 사전 고지 의무
생성형 AI 서비스는 이용자에게 AI 사용 사실을 사전 고지해야 합니다. 이 조항은 실무에서 여러 형태로 구현됩니다. 챗봇 첫 화면의 안내 문구, 생성 결과물의 라벨, 이미지나 영상의 워터마크가 모두 같은 요구에서 나옵니다. 중요한 것은 사후가 아니라 사전이라는 점입니다.
진입 시점
챗봇이나 생성 도구의 첫 화면에서 AI가 개입한다는 사실을 명시합니다. 대화가 시작되기 전에 이용자가 인지하는 것이 핵심입니다.
결과물 표시
생성된 텍스트·이미지·영상에 AI가 만들었다는 표시를 남깁니다. 라벨, 캡션, 워터마크 중 서비스 성격에 맞는 방식을 택합니다.
재확인 문구
외부 공유나 재배포 단계에서도 표시가 유지되도록 합니다. 어떤 접점에서 어떤 문구로 알릴지 미리 정해 두어야 합니다.
이용자가 결과를 소비한 뒤에 알리는 방식은 요건을 충족하지 못합니다. 문구는 마케팅 문장이 아니라, 이용자가 지금 무엇을 보고 있는지 알려주는 안내에 가까워야 합니다.
고영향 AI와 일반 생성형 AI의 차이
모든 AI가 같은 강도로 규제되는 것은 아닙니다. 고영향 AI는 사람의 권리나 안전에 미치는 영향이 큰 영역으로 분류되고, 그만큼 문서화와 평가 요구가 무거워집니다. 일반 생성형 AI는 주로 투명성과 고지에 초점이 맞춰집니다.
| 구분 | 고영향 AI | 일반 생성형 AI |
|---|---|---|
| 주 초점 | 문서화, 위험 평가, 안전 조치 | 투명성, 사전 고지, 결과 표시 |
| 준비 부담 | 평가 기록과 근거 자료를 상시 유지 | 문구·라벨 체계를 한 번 정비하면 반복 적용 가능 |
| 해당 예시 | 채용 심사, 의료 판단 보조, 금융 신용 평가 | 문서 요약, 내부 검색, 고객 응대 초안 |
| 먼저 볼 것 | 해당 영역이 고영향으로 분류되는지 여부 | 이용자가 AI 개입을 언제 인지하는지 |
같은 모델이라도 어디에 쓰이느냐에 따라 분류가 달라질 수 있습니다. 채용, 의료, 금융처럼 판단이 개인에게 직접 영향을 주는 영역에 AI를 넣는다면 분류 기준을 먼저 확인하십시오.
EU AI Act와의 온도 차이
EU AI Act는 유럽연합의 AI 포괄 규제 체계로, 위험 기반 접근을 채택합니다. 한국의 AI 기본법과 비교될 때 자주 언급되는 이유는 접근 방식의 차이입니다.
EU의 접근
위험 등급을 세분화해 단계별 의무를 부과하고, 산업계에 투명성, 문서화, 책임 요구를 강화합니다. 위험 수준이 높을수록 사전 평가와 기록 유지 부담이 커집니다.
한국의 접근
한국 법제는 진흥과 신뢰 기반 조성을 함께 명시한다는 점에서 출발점이 다릅니다. 산업 육성과 이용자 보호를 동시에 목표로 두는 구조입니다.
글로벌 서비스를 운영한다면 두 체계를 동시에 만족시키는 문구와 절차가 필요합니다. 하나의 고지 문구로 양쪽을 커버할 수 있는지, 별도 문서가 필요한지 먼저 판단해야 합니다.
산업 적용에서 보이는 패턴
도입이 빠른 영역과 느린 영역이 갈립니다. 이 차이는 기술 성숙도보다 책임 소재의 명확성에서 나옵니다.
빠르게 확산
고객 응대, 문서 요약, 내부 검색. 출력이 초안이나 참고 자료로 끝나고 최종 판단은 사람이 하는 구조라 검토 절차가 짧습니다.
검토가 긴 영역
판단의 결과가 개인에게 오래 남는 영역. 승인 주체와 이의 제기 절차를 먼저 정해야 다음 단계로 넘어갑니다.
공통 병목
누가 최종 출력을 승인하는지 정해지지 않으면 파일럿 단계에서 멈춥니다. 담당자를 지정하는 일이 기술 도입보다 늦어지는 경우가 많습니다.
기업이 실제로 준비하는 항목
준비는 대체로 네 가지로 모입니다. 이 중 문서화가 가장 늦어지는 경우가 많습니다.
고지 문구 정비
서비스 내 어느 화면에서 AI 사용을 알릴지 정하고, 문구를 한 곳에서 관리합니다.
고영향 해당 여부 판단
서비스가 고영향 AI 영역에 들어가는지 먼저 확인합니다. 분류에 따라 준비 범위가 크게 달라집니다.
데이터 출처 정리
학습·추론 데이터의 출처와 보관 위치를 목록으로 관리합니다. 외부 전송 여부도 함께 기록합니다.
출력 검수 절차
AI 출력을 누가 어떤 기준으로 확인하고 승인하는지 절차로 남깁니다. 기록이 없으면 규제 대응 이전에 내부 검증도 어렵습니다.
개인정보, 보안, 저작권이 겹치는 지점
세 가지 리스크는 따로 발생하지 않습니다. 사내 문서를 검색 증강 생성 구조로 처리할 때, 문서 접근 권한과 개인정보 포함 여부, 외부 모델 전송 여부가 동시에 걸립니다.
생성형 이미지나 영상 도구를 상업적으로 쓸 때는 학습 데이터 출처와 결과물의 권리 관계를 먼저 확인해야 합니다. 계약서와 이용약관에 어떤 조건이 있는지 확인하는 절차를 워크플로에 넣어 두는 편이 안전합니다.
- 사내 문서를 AI에 연결할 때는 문서별 접근 권한을 그대로 반영하는지 확인합니다.
- 개인정보가 포함된 문서는 검색 대상에서 분리하거나 마스킹 여부를 먼저 결정합니다.
- 외부 모델로 데이터가 전송되는 경우 이용약관과 계약 조항을 함께 확인합니다.
시장이 주목하는 지점
관심은 새 모델 발표에서 운영 조건으로 옮겨가고 있습니다
모델 자체의 성능 차이가 줄어들수록, 차이는 검색 계층, 데이터 관리, 고지 체계에서 벌어집니다. 어떤 조직이 어떤 문서를 어떻게 색인하고 누가 승인하는지가 실제 품질을 결정합니다. 이 지점이 규제 요구와 맞물리는 곳이기도 합니다.
다음 단계로
제도 변화를 확인했다면 규제와 거버넌스 페이지에서 EU AI Act와 한국 법제를 항목별로 비교해 보십시오. 실제 도구가 이 요구를 어떻게 반영하는지는 도구 리뷰에서 다룹니다.
문의하기
AI 도입 검토, 고지 의무 대응, 문서화 절차에 대해 상담이 필요하시면 아래 번호나 이메일로 연락 주십시오. 평일 09:00 - 18:00에 응대합니다.
- 주소
- 대한민국 인천광역시 연수구 송도과학로 32, 코르반티 테크노파크 3층
자주 확인하는 질문
고지 문구는 어디에 넣어야 하나요?
이용자가 AI 결과를 처음 만나는 접점에 넣습니다. 챗봇이라면 대화 시작 화면, 생성 도구라면 결과가 표시되는 영역이 기준입니다. 결과를 본 뒤에 알리는 방식은 사전 고지로 보기 어렵습니다.
내 서비스가 고영향 AI인지 어떻게 판단하나요?
판단 결과가 개인의 권리나 안전에 직접 영향을 주는 영역인지 먼저 확인합니다. 채용, 의료, 금융처럼 결과가 오래 남는 영역은 분류 기준을 별도로 검토해야 합니다. 애매한 경우에는 관할 기관의 안내를 확인하는 편이 안전합니다.
문서화는 어디까지 해야 하나요?
어떤 입력이 어떤 출력을 만들었는지 추적할 수 있는 수준을 기준으로 삼습니다. 완벽한 기록보다, 나중에 같은 상황을 재현하고 검증할 수 있는 최소 기록을 남기는 것이 현실적입니다.
EU와 한국 규정을 모두 만족해야 하나요?
서비스 이용자가 유럽연합에 있는지에 따라 달라집니다. 유럽 이용자에게 서비스를 제공한다면 두 체계를 함께 검토해야 하고, 국내 이용자만 대상이라면 한국 법제를 기준으로 준비 범위를 정할 수 있습니다.
