AI 기본법 2026 시행 고영향 AI는 무엇인가요

한눈에 보는 핵심

• AI 기본법은 산업 진흥과 신뢰 기반 조성을 함께 다루는 국내 첫 AI 일반법입니다.
• 고영향 AI는 생명·신체·기본권에 중대한 영향을 줄 수 있는 AI 시스템을 가리킵니다.
• 사업자에게는 영향평가·고지·기록 등 의무가, 이용자에게는 설명·이의 제기 권리가 부여됩니다.
• AI 생성·합성 콘텐츠는 표시 의무가 함께 적용됩니다.

AI 서비스가 폭발적으로 늘면서 한국도 이를 다룰 일반법을 본격 시행합니다. 일반 이용자 입장에서도 “AI가 내 결정을 좌우하는 경우”가 늘어나기 때문에, 본인 권리와 사업자 의무의 큰 그림을 한 번 정리해 두면 도움이 됩니다.

AI 기본법이 추구하는 두 축

법은 두 가지 축으로 설계돼 있습니다.

• 산업 진흥: AI 산업 육성, 데이터 활용 기반, 인재 양성
• 신뢰 기반: 고영향 AI 규제, 콘텐츠 표시, 이용자 보호

이 둘이 같은 법 안에 묶여 있어, 진흥과 규제가 한 묶음으로 움직이는 구조입니다.

고영향 AI의 영역

법이 말하는 고영향 AI는 보통 다음 영역에서 등장합니다.

• 의료: 진단 보조, 영상 판독, 치료 의사결정 지원
• 금융: 신용 평가, 보험 가입, 대출 심사
• 고용: 이력서 자동 평가, 면접 점수, 인사 평가
• 공공행정: 복지 자격 판정, 단속·감시
• 교통: 자율주행, 안전관제
• 교육: 학생 평가, 학습 추천 결정

같은 의료 AI라도 단순한 정보 안내는 고영향에 해당하지 않지만, 진단·처방에 직접 영향을 주는 경우는 고영향으로 분류될 가능성이 높습니다.

사업자에게 부과되는 핵심 의무

발표된 방향을 기준으로 정리한 핵심 의무는 다음과 같습니다.

• 사전 영향평가: 잠재적 위험 평가와 완화 조치 설계
• 인적 감독: 사람이 결정의 최종 책임을 지는 절차
• 이용자 고지: AI 활용 사실과 결정 근거 안내
• 기록 보존: 학습 데이터·결정 로그 일정 기간 보관
• 사고 신고: 중대한 오류·피해 발생 시 신고
• 차별 방지: 데이터 편향 점검과 완화

각 항목의 구체 범위와 비용은 시행령·고시에서 확정되며, 산업별 가이드라인이 함께 발표될 예정입니다.

이용자가 가지는 새로운 권리

이용자 입장에서 가장 큰 변화는 다음 권리입니다.

• 설명 요구권: AI 결정의 기준·데이터에 대한 설명을 요청할 권리
• 이의 제기권: 결과를 다투고 재심사를 요구할 권리
• 인간 검토 요청: 사람이 다시 검토할 기회 보장
• 콘텐츠 표시 확인: 보고 있는 콘텐츠의 AI 생성 여부 확인

특히 의료·금융·고용 영역에서 본인의 운명이 AI로만 결정되는 상황을 막는 장치라고 보면 됩니다.

AI 콘텐츠 표시 의무

AI가 생성·합성한 콘텐츠에 대해서는 다음 표시가 일반 원칙이 됩니다.

• 이미지·영상·음성·텍스트의 AI 생성 사실 표시
• 사람을 모사한 딥페이크는 더 엄격한 표시 또는 금지
• 광고·공공정보·미디어에서 활용 시 명확한 안내

기업은 콘텐츠 워크플로우에 자동 표시 절차를 만들어야 하고, 이용자는 표시를 확인하는 습관을 갖게 됩니다.

사업자가 6개월 안에 점검할 것

법 시행을 앞두고 사업자가 가장 먼저 정리할 항목은 다음과 같습니다.

• 본인 서비스가 고영향 AI에 해당하는지 1차 검토
• 학습 데이터의 출처·동의·편향 점검
• 결정 로그 보관 정책 점검(보존 기간·접근 권한)
• 이용약관·개인정보처리방침 업데이트 필요성 검토
• AI 콘텐츠 표시 기준 마련

특히 데이터 동의와 편향 점검은 시간이 많이 걸리므로 가능한 한 빨리 시작해 두는 게 안전합니다.

이용자가 일상에서 활용할 팁

법 시행 후 본인이 활용할 수 있는 일상 팁은 다음과 같습니다.

• AI 결과를 받았다면 “사람이 다시 봐 줄 수 있나” 한 번 요청해 보기
• 채용·대출·보험 거절 사유가 모호하면 설명을 요청
• 광고·뉴스에서 부자연스러운 이미지·영상은 표시 확인
• 본인 데이터가 어디까지 활용되는지 개인정보 처리방침 확인

이 작은 습관들이 AI 결정에서 본인이 가지는 발언권을 만들어 줍니다.

한 걸음 더 들어가 보기

AI 기본법은 단순히 “AI를 통제하기 위한 법”이 아니라, AI가 더 활발히 쓰이도록 신뢰의 기반을 만드는 법입니다. 사업자에게는 부담이 늘지만, 이용자가 AI를 신뢰하고 쓸 수 있는 환경이 되어야 산업도 함께 커지는 구조이기도 합니다.

여기 내용은 일반적인 안내이며, 법령·시행령·고시는 시점에 따라 바뀔 수 있습니다. 본인 서비스나 권리 행사에 직접 관련된 사안은 전문 변호사 또는 정부 공식 안내를 함께 확인하시기 바랍니다.

자주 묻는 질문

Q. AI 기본법의 정식 명칭은 무엇인가요?

정식 명칭은 ‘인공지능 산업 진흥 및 신뢰 기반 조성 등에 관한 법률’입니다. 산업 진흥과 신뢰 기반 조성을 한 법에서 같이 다루는 점이 특징이며, 2026년 본격 시행을 앞두고 시행령·고시가 함께 정비되고 있습니다.

Q. 고영향 AI는 정확히 어떻게 정의되나요?

법은 ‘인간의 생명·신체·정신·기본권에 중대한 영향을 미칠 수 있는 AI 시스템’을 고영향 AI로 정의합니다. 단순한 추천 알고리즘은 해당하지 않지만, 의료 진단 보조·신용 평가·채용 결정·교통 안전 관련 AI 등은 대표적인 후보로 거론됩니다.

Q. 사업자에게 어떤 의무가 생기나요?

고영향 AI를 개발·운영하는 사업자에게는 영향평가, 위험 관리, 이용자 고지, 인적 감독, 사고 신고, 기록 보존 등 여러 의무가 부과될 예정입니다. 시행령에서 구체적 항목과 범위가 정해지므로, 본인 서비스가 어디에 해당하는지 사전 점검이 필요합니다.

Q. 일반 이용자에게는 무엇이 달라지나요?

이용자는 본인에게 영향을 주는 AI 결정에 대해 ‘설명을 요청하고 이의 제기’를 할 수 있는 권리를 갖게 됩니다. 예를 들어 채용·대출·보험 가입 결과가 AI 단독으로 결정된 경우, 본인은 그 결정이 어떤 데이터·기준에 따라 나왔는지 설명을 요구할 수 있습니다.

Q. AI 콘텐츠 표시 의무는 어떻게 되나요?

AI가 생성하거나 합성한 이미지·영상·음성·텍스트에 대해 ‘생성·합성 콘텐츠’임을 표시할 의무가 적용됩니다. 특히 사람의 얼굴·음성을 모사한 딥페이크 형태의 콘텐츠는 더 엄격한 표시·금지 기준이 함께 적용될 예정입니다.