이제 유럽에서 챗봇은 자신이 AI라고 밝혀야 한다

8월 2일부터 EU AI법의 투명성 의무 조항이 본격 시행됐다. 챗봇은 대화 시작 시점에 사용자에게 AI임을 알려야 하고, 딥페이크에는 눈에 보이는 라벨이 붙어야 하며, AI 생성 콘텐츠에는 기계가 판독할 수 있는 표식이 심어져야 한다. 위반 시 최대 1,500만 유로 또는 글로벌 연매출 3%의 벌금이 가능하다. 다만 전문가들 사이에서는 실효성 논쟁이 뜨겁다.

STAXION 인사이트: 한국도 AI 생성물 표시 의무 논의가 진행 중인 만큼, EU의 시행착오는 국내 규제의 예고편이다. AI 콘텐츠를 만드는 사업자라면 워터마크·표시 체계를 미리 갖추는 쪽이 안전하다.

무엇이 바뀌었나

이번에 발효된 것은 AI법 50조의 투명성 의무다. 챗GPT·클로드 같은 생성 AI 제공사는 물론, AI를 업무에 쓰는 사업자도 대상이다. 유럽연합 집행위원회 AI 오피스와 각국 감독기관이 이날부터 집행 권한을 갖게 됐고, 범용 AI 모델 제공사에 대한 제재 권한도 이때 완성됐다. 예술·풍자·픽션 목적의 콘텐츠는 표시 의무에서 대체로 제외되며, 시행 전부터 시장에 있던 시스템에는 12월 2일까지 유예가 주어진다.

라벨만 붙이면 딥페이크가 사라질까

유로뉴스가 짚은 회의론의 근거는 셋이다. 첫째, 딥페이크는 국경 밖에서 만들어져도 EU 이용자에게 즉시 도달한다. 둘째, 업계 표준 감지 기술이 없다. 회사마다 워터마크·메타데이터·출처증명 방식이 달라 서로 호환되지 않는다. 셋째, 워터마크는 편집과 압축, 재공유를 거치며 쉽게 훼손된다. 영상 AI 기업 신세시아의 알렉산드루 보이카는 유럽 상당 지역의 미디어 리터러시 부족이 기술적 의무를 무력화한다고 지적했다.

그래도 의미 있는 첫발

EU 집행위 기술 검토의 결론처럼 단일 기술이 아니라 여러 수단의 조합이 답이라면, 이번 시행은 그 조합을 강제로 굴려보는 세계 첫 대규모 실험이다. 규제가 기술을 완전히 따라잡지 못해도, AI 생성물에는 출처가 따라붙는다는 원칙이 시장의 기본값이 되는 과정은 이미 시작됐다.

---

출처: Euronews, The EU is forcing tech companies to label deepfakes. Will it work?