생활 IT 해결노트에 오신것을 환영합니다!
알아두면 편해지는 IT·생활정보·뉴스
- 인공지능기본법은 2026년 1월 22일부터 시행됐고, 관련 시행령은 2026년 8월 20일부터 현재 기준으로 적용되고 있습니다.
- 생성형 AI나 고영향 인공지능을 제공하는 사업자는 AI 사용 사실, 주요 기준과 결과, 이용자 보호와 관리·감독 체계를 확인할 수 있게 해야 합니다.
- 이용자는 AI 표시와 개인정보 처리, 사람의 검토 가능 여부를 보고, 기업은 서비스 분류와 고지·기록·위험관리 절차부터 점검하는 게 좋습니다.
인공지능기본법과 시행령, 지금 무엇이 달라졌을까요?
AI를 쓰는 사람 입장에서 당장 모든 서비스 화면이 크게 바뀌는 건 아닙니다. 다만 AI가 답변이나 추천을 만들고 있다는 사실을 이용자에게 알리는 방식, 중요한 결정을 AI가 도울 때 설명과 사람의 관리가 필요한지에 대한 기준이 한층 분명해졌는데요.
대한민국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2026년 1월 22일 처음 시행됐고, 이후 개정된 법률은 2026년 7월 21일부터 시행됐습니다. 세부 기준을 담은 시행령도 2026년 8월 20일부터 시행되고 있어요. 그래서 2026년 10월 30일 현재는 법률 이름만 알아두기보다 내가 이용하는 서비스나 운영 중인 사업에 어떤 항목이 연결되는지 살펴볼 시점입니다.
핵심은 간단합니다. AI를 썼는지 숨기지 말 것, 사람에게 큰 영향을 줄 수 있는 AI는 더 엄격하게 관리할 것, 문제가 생겼을 때 확인할 기록과 대응 절차를 마련할 것이라고 보면 됩니다.
일반 이용자가 AI 서비스에서 확인할 내용
1. 이 답변이나 결과가 AI로 만들어졌는지
시행령은 생성형 인공지능이나 고영향 인공지능을 이용한 제품·서비스를 제공할 때, 해당 서비스가 AI에 기반해 작동한다는 사실을 이용자에게 사전에 알리도록 정하고 있습니다. 제품 화면에 직접 표시하거나 이용약관·설명서에 적는 방식, 이용자의 화면이나 단말기에 표시하는 방식 등이 가능하죠.
따라서 앞으로는 챗봇 대화창, AI 이미지 생성 결과, 자동 작성 문서, AI 추천 기능 주변에 ‘AI가 생성한 결과’ 또는 비슷한 안내가 표시되는지 확인해보면 됩니다. 표시가 있다고 해서 결과가 모두 정확하다는 뜻은 아니에요. 오히려 사람이 만든 정보와 AI가 만든 결과를 구분할 수 있게 해주는 최소한의 안내에 가깝습니다.
2. 중요한 결정에 AI가 관여하는지
단순한 광고 추천이나 문장 다듬기와 달리 채용, 대출, 신용평가, 보험, 교육, 의료, 복지, 공공서비스처럼 사람의 권리나 생활에 큰 영향을 줄 수 있는 영역은 따로 살펴봐야 합니다. 법에서 말하는 ‘고영향 인공지능’은 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미칠 수 있는 시스템을 뜻합니다.
이런 서비스라면 이용자는 결과가 어떤 기준으로 나왔는지, 이의를 제기하거나 사람의 검토를 요청할 수 있는지, 오류가 발생했을 때 어디에 문의해야 하는지를 확인하는 편이 안전합니다. AI가 판단했다고 해서 사업자가 책임을 피할 수 있다는 의미는 아니기 때문에, 최종 책임 주체가 누구인지도 중요한 확인 포인트예요.
3. 입력한 정보가 어떻게 처리되는지
인공지능기본법이 개인정보 보호법이나 저작권법 같은 기존 법률을 대신하는 것은 아닙니다. 주민등록번호, 계약서, 고객명단, 내부 매출자료를 외부 AI 서비스에 붙여넣을 때는 해당 서비스의 개인정보 처리방침과 학습·보관·삭제 조건을 따로 봐야 합니다.
특히 무료 AI 도구라고 해서 입력한 내용이 자동으로 안전하게 보호되는 것은 아니죠. 업무 자료를 입력하기 전에는 데이터가 모델 학습에 사용되는지, 보관 기간은 얼마인지, 관리자 계정에서 기록을 확인할 수 있는지부터 체크하는 게 좋습니다.
소규모 사업자와 개발자가 준비할 체크리스트
먼저 우리 서비스가 어떤 AI에 해당하는지 분류하기
기업이 가장 먼저 할 일은 ‘AI를 사용한다’는 사실 자체보다 어떤 기능에 AI가 들어갔는지 목록으로 만드는 것입니다. 고객상담 챗봇인지, 이미지·문서 생성 기능인지, 고객의 점수나 자격을 자동으로 판단하는 기능인지에 따라 필요한 관리 수준이 달라질 수 있어요.
| 서비스 유형 | 우선 확인할 항목 | 실무적으로 남길 자료 |
|---|---|---|
| 생성형 AI | AI 사용 사실 표시, 생성 결과 안내, 오남용 대응 | 모델 정보, 고지 화면, 신고·문의 처리 기록 |
| 추천·검색 AI | 추천 기준, 편향 가능성, 이용자 이의 제기 | 주요 기준 설명, 테스트 결과, 변경 이력 |
| 고영향 인공지능 | 위험관리, 사람의 관리·감독, 이용자 보호 | 위험평가서, 담당자 지정, 사고 대응 절차 |
| 대규모·고위험 시스템 | 안전성 확보, 사고 모니터링, 결과 제출 준비 | 연산량 산정 근거, 안전관리 기록, 사고 보고 자료 |
고영향 인공지능이라면 설명과 사람의 검토를 준비하기
고영향 인공지능 관련 사업자는 위험관리 방안을 운영하고, 기술적으로 가능한 범위에서 최종 결과와 주요 기준, 학습용 데이터의 개요를 설명할 수 있어야 합니다. 이용자 보호 방안과 사람의 관리·감독도 요구되는 구조입니다.
여기서 설명은 소스코드 전체를 공개하라는 뜻으로 이해하면 곤란합니다. 이용자가 결과를 납득하고 오류를 다툴 수 있을 정도로 주요 기준과 처리 구조를 알 수 있게 하라는 취지에 가깝습니다. 예를 들어 자동 심사에서 어떤 자료가 고려됐는지, 사람이 재검토할 수 있는지, 결과에 이의를 제기하는 절차가 있는지를 안내하는 식이 될 수 있겠죠.
안전성 의무는 모든 AI 서비스에 똑같이 적용되지 않습니다
시행령은 안전성 확보 의무의 대상이 되는 인공지능시스템을 학습에 사용한 누적 연산량, 최첨단 기술 적용 여부, 사람의 생명·신체 안전과 기본권에 미칠 위험을 함께 고려해 정하고 있습니다. 누적 연산량 기준으로는 10의 26승 부동소수점연산 이상이라는 기준이 제시돼 있습니다.
다만 이 기준만 보고 소규모 사업자가 모두 대형 AI 모델 의무 대상이라고 생각할 필요는 없습니다. 외부 모델을 API로 연결해 사용하는 사업자와 직접 대규모 모델을 개발·운영하는 사업자는 역할과 책임이 다를 수 있으니까요. 자신의 서비스가 단순 활용인지, 모델 개발·제공자인지, 고영향 인공지능 제품·서비스 제공자인지 구분하는 과정이 먼저입니다.
기업이 실제로 점검하면 좋은 운영 항목
법령 대응을 거창한 인증 프로젝트로 시작하면 부담이 커집니다. 처음에는 아래 다섯 가지를 문서로 남기는 것부터 해도 충분히 방향을 잡을 수 있어요.
- 서비스에 사용된 AI 모델과 외부 API 목록
- AI가 생성·추천·판단하는 결과와 영향을 받는 이용자
- AI 사용 사실과 한계를 알리는 화면 또는 약관
- 오류·차별·개인정보 노출이 발생했을 때의 신고와 중단 절차
- 사람이 결과를 검토하거나 수정할 수 있는 담당자와 연락 창구
여기에 모델 변경 이력, 테스트 결과, 이용자 문의 처리 내역까지 쌓아두면 나중에 문제가 생겼을 때 설명하기가 훨씬 수월합니다. 반대로 ‘AI는 외부 업체가 만들었으니 우리는 책임이 없다’고만 정리하는 건 위험해 보입니다. 이용자에게 직접 서비스를 제공하는 주체라면 최소한의 고지와 보호 절차는 별도로 마련해야 하기 때문이죠.
이용자와 기업이 기억할 가장 현실적인 기준
이용자는 AI 표시가 있는지, 중요한 판단에 AI가 쓰였는지, 사람에게 다시 검토를 요청할 수 있는지를 보면 됩니다. 사업자는 어떤 AI를 어디에 쓰는지 목록화하고, 이용자에게 알릴 내용과 사고 대응 절차를 문서로 남겨두는 게 우선이고요.
인공지능기본법은 AI 활용을 막기 위한 법이라기보다, AI가 일상과 업무에 깊숙이 들어온 만큼 최소한의 신뢰 장치를 마련하려는 법에 가깝습니다. 그래서 법 조문을 전부 외우기보다는 ‘이 결과를 누가 만들었고, 틀렸을 때 누가 책임지며, 이용자는 어떻게 알 수 있는가’를 서비스마다 확인해보는 접근이 가장 현실적입니다.
관련 사이트
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 – 인공지능의 정의, 고영향 인공지능, 투명성·안전성·사업자 책무 등 현행 법률 내용을 확인할 수 있습니다.
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 – 생성형 인공지능 고지, 안전성 확보 기준, 고영향 인공지능 관련 세부 기준을 확인할 수 있습니다.
- 과학기술정보통신부 인공지능기본법 및 시행령 제정·시행 성과 – 과학기술정보통신부가 안내하는 인공지능기본법과 시행령의 제정·시행 관련 정책 성과를 확인할 수 있습니다.
- 고영향 인공지능 해당 여부 확인 요청 – 본문에 안내된 공식 페이지입니다.
- 고영향 인공지능 확인 [ ] 재확인 [ ] 요청서 – 본문에 안내된 공식 페이지입니다.
자주 묻는 질문
Q. 개인 블로그나 소규모 쇼핑몰에서 AI로 글을 쓰면 바로 법 위반인가요?
A. AI를 사용했다는 이유만으로 곧바로 위반이라고 보기는 어렵습니다. 다만 생성형 AI를 활용한 상품 설명이나 콘텐츠를 제공한다면 결과의 사실관계를 확인하고, 허위·과장 정보나 개인정보가 포함되지 않도록 관리하는 게 중요합니다. 서비스 성격에 따라 AI 사용 사실을 알리는 방식도 검토해야 합니다.
Q. 챗GPT 같은 해외 서비스도 인공지능기본법 적용을 받나요?
A. 법은 국외에서 이뤄진 행위라도 국내 시장이나 국내 이용자에게 영향을 미치는 경우 적용될 수 있도록 정하고 있습니다. 실제 적용 범위와 사업자 의무는 서비스 제공 방식, 국내 이용자 대상 여부, 사업자의 역할에 따라 달라질 수 있으므로 해외 서비스라는 이유만으로 제외된다고 단정하면 안 됩니다.
Q. AI가 만든 이미지나 글에 표시가 있으면 결과의 책임도 AI 회사가 지나요?
A. AI 표시 의무와 결과에 대한 책임은 별개의 문제입니다. 표시가 있다는 것은 AI 기반 결과임을 알리는 조치일 뿐이고, 저작권 침해나 개인정보 노출, 허위 광고와 같은 문제의 책임은 관련 법률과 계약관계에 따라 별도로 판단됩니다.
Q. 고영향 인공지능인지 기업이 스스로 판단하기 어렵다면 어떻게 해야 하나요?
A. 먼저 해당 서비스가 사람의 생명·신체 안전이나 기본권, 채용·금융·의료·공공서비스 등에 어떤 영향을 주는지 정리해야 합니다. 사업자가 법령상 고영향 인공지능 해당 여부 확인을 요청할 수 있는 절차와 서식도 마련돼 있으므로, 자체 판단이 어려운 경우 관련 공식 법령 서식과 담당 부처 안내를 함께 검토하는 방식이 안전합니다. 고영향 인공지능 해당 여부 확인 요청하기 고영향 인공지능 확인·재확인 요청서 내려받기
인공지능기본법과 시행령이 시행됐다고 해서 모든 AI 서비스가 갑자기 복잡한 규제 대상이 되는 건 아닙니다. 다만 AI가 답변을 만들고, 사람을 평가하고, 중요한 결정을 돕는 과정이 보이지 않게 넘어가지는 않겠죠. 이용자는 AI 표시와 사람의 검토 가능 여부를 확인하고, 기업은 서비스 분류와 고지·기록·사고 대응부터 차근차근 준비하면 됩니다. 결국 핵심은 하나예요. AI를 쓰는 사실보다, 그 결과에 영향을 받는 사람이 제대로 알고 대응할 수 있게 만드는 것. 그 기준으로 서비스 약관과 운영 방식을 한 번씩 점검해보면 좋겠습니다.
