EU, AI 표시 의무 8월 2일 시행…결과물 EU서 쓰이면 한국 기업도 적용 [뉴스] EU는 8월 2일부터 챗봇 이용자 고지와 AI 생성물 표시 등 AI법 제50조의 투명성 의무를 적용한다. / ChatGPT 생성 이미지
유럽연합(EU)이 인공지능(AI) 생성물 표시 기준을 확정했다.
EU 집행위원회는 지난 20일 AI법 제50조의 투명성 의무를 구체화한 최종 가이드라인을 공개했다. 챗봇 이용자 고지와 AI 생성물 표시 등 투명성 의무는 오는 8월 2일부터 적용된다.
EU에 법인이 없는 한국 기업도 AI 결과물이 현지에서 쓰이면 규제 대상이 될 수 있다.
챗봇은 첫 대화 때 고지…딥페이크는 눈에 보이게 표시
집행위는 지난 5월 8일 초안을 공개한 뒤 의견수렴을 거쳐 51쪽 분량의 최종본을 확정했다.
가이드라인은 AI를 개발해 자체 이름으로 출시하는 기업을 ‘공급자’, AI를 업무나 서비스에 활용하는 기업을 ‘배포자’로 구분하고 역할에 따라 다른 투명성 의무를 부과했다.
공급자는 챗봇이나 AI 에이전트를 이용하는 사람이 AI와 대화하고 있다는 사실을 첫 상호작용 때 알려야 한다. 생성형 AI가 만든 음성·이미지·영상·글에는 기계가 읽을 수 있는 표시를 넣고, 콘텐츠에 노출된 사람이 해당 표시를 확인할 수 있도록 탐지 수단도 이용할 수 있게 해야 한다. 집행위는 기계 판독 표시만 넣고 이를 확인할 수단을 마련하지 않으면 의무를 이행한 것으로 보기 어렵다고 밝혔다.
배포자는 AI 생성물을 공개할 때 이용자가 바로 알아볼 수 있게 표시해야 한다. 실제 인물의 얼굴이나 목소리를 합성한 딥페이크와 환경·경제·금융·정치·보건 등 공익 사안을 다룬 AI 생성 글이 대상이다.
매장 카메라로 고객의 표정이나 목소리를 분석해 감정을 추정하거나, 얼굴 등 생체정보로 연령대와 성별을 분류할 때도 분석 대상자에게 시스템 작동 사실을 알려야 한다. 공급자가 파일 안에 기계 판독 표시를 넣었더라도, 이를 광고나 게시물로 공개하는 기업은 화면이나 음성 안내를 통해 AI 생성물임을 별도로 고지해야 한다.
예외 범위는 초안보다 넓어졌다. 맞춤법 교정이나 서식 변경처럼 의미를 바꾸지 않는 편집은 표시 대상에서 빠졌고, AI 번역도 표준 편집으로 분류됐다. 공익 사안을 다룬 글도 해당 분야 전문가가 내용을 실질적으로 검토하고 편집 책임을 지면 표시하지 않아도 된다. 다만 철자나 문법만 확인한 경우는 인간 검토로 인정되지 않는다.
우발적 유통은 면책…EU 사용 예상한 역외 기업도 적용
이번 가이드라인의 핵심은 역외 기업에 대한 적용 기준이다. EU 밖에 있는 공급자라도 AI 결과물이 EU에서 사용되면 규제 대상이 된다. 다만 결과물이 우발적으로 유통됐거나, 공급자가 예상하지 못한 방식으로 사용됐거나, 제3자가 허가 없이 재유통한 경우에는 표시 의무가 곧바로 발생하지 않는다.
이 같은 면책은 EU에 AI 시스템이나 서비스를 공급하지 않은 기업에만 적용된다. 예컨대 한국 기업의 AI 결과물을 제3자가 허가 없이 EU로 가져가 유통했다면 해당 기업에 바로 책임을 묻지는 않는다. 다만 시장감시기관이 EU에서 유통된 결과물 자체를 AI법에 적합하지 않다고 판단할 권한은 그대로 남는다.
AI를 업무에 활용하는 배포자는 기준이 다르다. 배포자 스스로 결과물의 EU 내 유통과 사용을 예상했다면 역외 기업도 규제 대상이 된다. 집행위는 전 세계에서 접속 가능한 인터넷에 딥페이크를 공개하거나, EU 이용자에게 노출되는 광고에 유명인 합성 영상을 사용한 경우를 예로 들었다.
책임은 AI 사용 방식에 실질적으로 관여한 주체가 진다. 광고 제작을 외부 대행사에 맡기고 발주 기업이 AI 사용 여부와 방식에 관여하지 않았다면 배포자 의무는 대행사가 부담한다. 반대로 기업이 직접 제작하거나 유통 과정을 관리했다면 계약 조건이나 화면 설계를 통해 표시가 최종 이용자에게 전달되도록 해야 한다.
콘텐츠를 단순 전달하는 호스팅 사업자와 온라인 플랫폼, 방송사는 AI법상 배포자 의무를 직접 지지 않는다. 다만 디지털서비스법 등 다른 EU·회원국 법률에 따른 책임까지 면제되는 것은 아니다.
공익 글은 게재 시점 기준…과징금은 매출 3%
8월 2일 이전에 시장에 나온 AI 시스템은 공급자의 기계 판독 표시와 탐지 의무에 한해 12월 2일까지 유예를 받는다. 배포자가 딥페이크나 공익 관련 글에 붙이는 별도 고지 의무는 유예 대상이 아니다.
기존 콘텐츠의 적용 기준은 유형에 따라 다르다. 이미지·음성·영상 딥페이크는 생성 시점이 기준이어서 8월 2일 전에 만들었다면 표시하지 않아도 된다. 반면 환경·경제·금융·정치·보건 등 공익 사안을 다룬 글은 공개 시점이 기준이다. 미리 작성했더라도 8월 2일 이후 게재하면 AI 생성 사실을 밝혀야 한다.
산업 현장의 예외는 제한적이다. 엔지니어링 설계나 생산 공정 문서처럼 기술적 성격의 결과물도 사내 특정 인력만 사용하고 외부 공유를 의도하지 않아야 한다. 클라우드 격리나 권한별 접근 통제 등 오용 방지 장치도 갖춰야 표시 의무를 피할 수 있다. 소비자를 상대하는 시스템은 예외에 포함되지 않는다.
집행은 EU 회원국 시장감시기관이 맡는다. 위반 시 최대 1500만유로(약 249억원) 또는 직전 회계연도 전 세계 매출의 3%까지 과징금이 부과될 수 있다. 집행위는 지난 6월 공개한 AI 생성 콘텐츠 투명성 행동규범을 준수 수단으로 인정했다. 행동규범에 참여하지 않은 기업은 자체 표시·탐지 체계가 적절하다는 점을 감독기관에 직접 입증해야 한다.
다만 역외 적용 범위를 둘러싼 해석 논란은 이어질 전망이다. 영국 로펌 버드앤버드는 이번 문구가 다소 난해하다고 평가했다. EU 이용자를 직접 겨냥하지 않은 온라인 콘텐츠도 적용 대상에 포함될 수 있어, 지역 차단을 하지 않는 한 딥페이크 표시 의무를 피하기 어려울 수 있다고 분석했다.
Top
