책임 있는 AI
생성형 AI의 편향과 공정성, 잘못된 정보와 딥페이크, 저작권 문제를 살펴보고, EU AI Act와 한국 AI 기본법이 AI 개발·서비스 사업자에게 지우는 의무를 정리한다.
- 기술적으로 가능한가와 별개로, 누구에게 어떤 영향을 주는가. 기술적 안전은 가드레일, 과신을 막는 설계는 AI 프로덕트 디자인.
편향과 공정성
- 모델은 훈련 데이터의 사회적·문화적 편향과 고정관념을 학습하고 재현하거나 심화함.
- 완화 전략: 다양하고 포괄적인 데이터 세트, 훈련 전·중·후의 편향 감지와 수정, 공정성 평가 지표(집단별 등장 비율, 어조 분포), 배포 후 사용자 피드백으로 지속 수정.
잘못된 정보·딥페이크·동의
- 잘못된 정보: 가짜 뉴스를 빠르게 대량 생성해 사회적 신뢰를 해침.
- 딥페이크(deepfake): 정치인·유명인·일반인을 사칭한 가짜 발언·이미지·음성으로 명예를 훼손.
- 동의: 개인 정보를 쓰거나 개인에 관한 콘텐츠를 만들 때 당사자의 동의.
저작권
- 기존 저작권법은 인간의 창작을 전제. AI 생성물의 저작권 인정 여부는 나라마다 논의 중.
- 기존 작품의 스타일을 모방하거나 저작물을 바탕으로 생성하면 원저작권 문제가 생길 수 있음.
- 책임은 사용자·개발자·플랫폼 사이에서 나뉨. 제공자는 이용 약관에 지침을 두고, 학습·검색 자료의 이용 허가를 확인.
규제
- 공통 구조: 위험 기반 접근(위험이 클수록 의무가 큼) + 생성형 AI의 투명성 의무("AI가 만들었다"는 고지·표시).
| 구분 | EU AI Act | 한국 AI 기본법 |
|---|---|---|
| 시행 | 2024-08 발효, 단계적 적용(2026-08 대부분 조항) | 2026-01-22 시행 |
| 금지 | 사회적 점수, 잠재의식 조작, 직장·학교 감정 인식 | 없음 |
| 고위험·고영향 | 채용, 신용 평가, 교육 평가, 의료기기: 위험 관리, 기록, 사람의 감독 | 채용·대출 심사, 의료, 에너지, 학생 평가 등: 사전 검토(제33조), 위험관리·설명·사람 감독(제34조) |
| 투명성 | 챗봇·딥페이크는 AI임을 알리고 표시 | AI 서비스 사전 고지, 생성물 표시, 딥페이크 명확히 표시(제31조) |
| 대형 모델 | 범용 AI(GPAI): 기술 문서, 학습 데이터 요약, 저작권 정책 | 10^26 FLOP 이상: 위험 평가·완화(제32조) |
- EU: 디지털 옴니버스 개정(2026)으로 고위험 의무 적용이 늦춰짐(독립형 2027-12, 제품 내장형 2028-08). EU 밖 기업도 EU에 제공하면 적용.
- 한국: 의무 주체는 인공지능개발사업자(모델 개발사)와 인공지능이용사업자(API로 챗봇을 만들어 서비스하는 회사). 고지 위반 등은 과태료 3천만 원 이하, 시행 후 최소 1년 계도기간.
- 실습과 연결: 마인드몰 챗봇 시작 화면의 "AI 상담원" 고지가 제31조 의무. 채용·대출 심사에 LLM 판단을 쓰면 고영향 AI 검토 대상.
출처: EU, Regulation (EU) 2024/1689 (AI Act). Secure Privacy(2026-07), EU AI Act Digital Omnibus. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 한국법제연구원 법령 원문. SK AX(2026-03), AI 기본법 톺아보기.
퀴즈
한국 AI 기본법에서 생성형 AI를 이용한 서비스 제공자에게 공통으로 요구하는 의무는?
퀴즈를 풀려면 대화형 기능을 불러와야 합니다.