EU, AI 활용 공시·광고 표시 의무화…역외 기업도 영향권 [카테고리 설정이 아직되어 있지 않습니다.] 유럽연합(EU)이 AI로 만든 공시·광고·콘텐츠의 표시 의무 기준을 구체화했다.
EU 집행위원회는 8일(현지시각) AI법(AI Act) 50조 투명성 의무 가이드라인 초안을 공개하고, AI 생성 텍스트·딥페이크·챗봇·AI 에이전트의 표시 기준과 적용 범위를 제시했다. EU 밖 기업이라도 AI 시스템의 출력물이 EU에서 사용되면 규제 대상이 될 수 있다.
가이드라인은 현재 이해관계자 의견 수렴을 위한 초안이다. AI법 50조 적용 시점은 오는 8월 2일로 예정돼 있다. AI법 50조를 위반할 경우 최대 1500만유로(약 262억원) 또는 전 세계 연매출의 3% 가운데 높은 수준의 과징금이 부과될 수 있다.
EU 집행위원회가 AI 생성 콘텐츠의 표시 의무와 딥페이크 라벨링 기준을 담은 AI법 50조 가이드라인 초안을 공개했다./AI 생성 이미지
AI 활용 공시·보고서도 표시 대상…IR·ESG 부담 확대
가이드라인은 AI가 생성하거나 조작한 텍스트를 ‘공익 사안에 대한 정보 제공 목적’으로 공개할 경우 AI 생성 사실을 표시해야 한다 고 명시했다. 적용 예시로는 ▲신문 기사 요약 ▲학술 논문 ▲공공 경보 메시지 ▲상장사 웹사이트에 게시된 투자자 정보가 담긴 기업 보고서 등을 제시했다.
EU는 단순 AI 사용 자체보다 ‘누가 검토했고 누가 책임지는가’를 중요하게 봤다. 가이드라인은 AI 생성 텍스트라도 인간의 실질적 검토와 편집 책임이 있으면 표시 의무 예외가 가능하다 고 설명했다.
다만 단순 맞춤법 검사나 형식 수정 수준은 사람이 검토한 것으로 인정되지 않는다. 가이드라인은 내용의 사실관계와 신뢰성을 실질적으로 검토하고 승인·수정·거부할 권한을 가진 편집 통제가 있어야 한다 고 명시했다.
또한, 예외 적용을 받으려면 편집 책임을 지는 개인 또는 법인의 신원과 연락처를 공개적으로 확인 가능해야 한다고 규정했다.
딥페이크 광고·AI 마케팅도 규제권
AI법 50조 4항에 따르면, 딥페이크 콘텐츠를 공개하는 배포자는 해당 콘텐츠가 인위적으로 생성·조작됐다는 사실을 명확하게 표시해야 한다. 가이드라인은 이 표시는 이용자가 늦어도 첫 접촉 시점에 인지할 수 있어야 하며, 명확하고 눈에 잘 띄어야 한다 고 설명했다.
EU는 딥페이크 정의도 비교적 넓게 해석했다. 실존 인물·사물·장소·사건을 사실적으로 모사해 진짜처럼 인식될 수 있으면 딥페이크에 해당된다. 반드시 실제 존재하는 대상이 아니어도 ‘현실적으로 존재 가능해 보이는 수준’이면 포함될 수 있다.
반면 사람이 날거나 용이 등장하는 장면처럼 현실성이 없는 콘텐츠는 제외된다. 가이드라인은 ▲정치인 연설 영상 ▲유명인을 활용한 광고 영상 ▲AI 음성 복제 콘텐츠 등을 딥페이크 사례로 제시했다.
EU는 예술·풍자·허구 목적 콘텐츠의 경우 표현의 자유 등을 고려해 예외 적용이 가능하다 고 설명했다. 다만 상업적 목적의 광고 콘텐츠는 개별 사안별 검토 대상이라고 명시했다.
가이드라인은 콘텐츠를 단순 전달·유통하는 플랫폼은 직접 의무 대상은 아니라고 설명하면서도, 가치사슬 내 참여자들이 AI 표시 정보를 보존하도록 권고했다.
EU 밖 기업도 적용…오픈소스 AI도 예외 없어
이번 가이드라인은 역외 적용 범위도 넓게 설정했다. EU 밖 기업이라도 AI 시스템의 출력물이 EU에서 사용되면 규제 대상이 될 수 있다고 명시됐다.
가이드라인은 제3국 광고회사가 제작한 AI 딥페이크 광고가 EU에서 사용될 경우에도 규제 대상이 될 수 있다 고 설명했다.
오픈소스 AI도 예외가 아니다. EU는 오픈소스 라이선스로 배포된 AI 시스템 역시 AI법 50조 투명성 의무 대상으로 명시했다. 오픈소스라는 이유만으로 표시 의무가 면제되지 않는다는 설명이다.
EU는 또 AI 시스템이 생성한 이미지·영상·음성·텍스트에 대해 단순 표시를 넘어 기계가 읽을 수 있는 형태의 탐지 체계를 요구했다. 워터마크, 메타데이터, 암호학 기반 출처 증명, 디지털 지문 등의 기술이 예시로 제시됐다.
가이드라인은 AI 생성 콘텐츠를 탐지할 수 있는 기술적 수단의 예시로 ▲워터마크 ▲메타데이터 ▲암호학 기반 출처 증명 ▲디지털 지문 등을 제시했다.
Top
