호주 보존단체, AI로 ‘가짜 논문·기관’ 인용…정부 조사에 허위 제출 의혹 [카테고리 설정이 아직되어 있지 않습니다.] 호주의 한 반(反)재생에너지 단체가 인공지능을 활용해 존재하지 않는 정부 기관과 논문을 인용한 허위 자료를 정부 조사에 제출한 사실이 드러났다.
영국 미디어 가디언은 18일(현지시각) 퀸즐랜드 북부에 본부를 둔 환경단체인 ‘레인포레스트 리저브 오스트레일리아(Rainforest Reserves Australia·RRA)’가 연방 및 주 정부 조사위원회에 제출한 문서에서 존재하지 않는 논문과 기관을 인용했다고 보도했다. RRA는 자연·서식지 보전을 중시해 대규모 재생에너지 인프라에 비판적인 단체다.
AI가 데이터를 활용해 내용을 구성하며 그래프를 만드나, 검증을 거치지 않을 시 가짜 정보나 왜곡된 분석을 제공할 수 있다./ChatGPT 이미지 생성
100% 오도된 인용…AI로 작성된 허위 보고서
가디언에 따르면, RRA는 조사 문서에서 호주 재생에너지 정책이 불완전한 과학과 생태비용의 체계적 누락에 기반한다고 주장하며 미국 브라운대의 밥 브룰 교수와 하버드대의 과학사학자 나오미 오레스케스 교수의 논문을 근거로 제시했다. 그러나 이들은 실제로 그런 내용을 연구한 적이 없었으며, RRA의 주장을 뒷받침할 만한 근거를 제시한 바도 없었다.
브룰 교수와 오레스케스 교수 역시 자신들의 연구가 인용된 방식에 대해 완전히 잘못됐고 전혀 근거 없는 주장이라고 비판했다. 오레스케스 교수는 우리의 저서 ‘의심의 상인’은 넷제로 개념을 다루지도 않았으며, RRA가 제시한 문맥은 전적으로 왜곡된 해석”이라고 말했다. 브룰 교수도 인용된 논문들은 실제 존재하지만, 해당 주장을 뒷받침하지 않는다”며 AI가 만든 전형적인 왜곡임을 지적했다.
RRA는 또 PFAS(영구화학물질) 관련 연방 및 주 조사에서도 태양광 패널과 풍력 터빈이 환경에 유해한 화학물질을 배출한다고 주장했지만, 인용된 두 편의 논문은 존재하지 않는 것으로 확인됐다. 해당 저널의 출판사 엘스비어는 해당 논문은 우리 데이터베이스에 존재하지 않는다”며 AI가 환각으로 만들어낸 자료”라고 밝혔다.
존재하지 않는 풍력발전소·정부기관까지 인용…AI 검증 중요성 부각돼
RRA는 자사 웹사이트에 올린 보고서에서 ‘퀸즐랜드 환경보호청(Queensland Environmental Protection Agency)’과 ‘호주 지역계획위원회(Australian Regional Planning Commission)’ 등 2009년 이후 폐지되거나 존재하지 않는 기관을 인용했다. 또한 오키(Oakey) 풍력발전소의 오염 사례를 제시했으나, 해당 지역에는 실제로 풍력발전소가 존재하지 않으며, ‘오키 풍력발전소 오염 보고서’ 역시 존재하지 않았다.
AI 전문가인 퀸즐랜드공과대학 ‘젠AI 연구소(GenAI Lab)’의 애런 스노스웰 박사는 RRA 문서의 상당 부분이 AI로 생성된 것으로 보인다”며 참조 오류나 비존재 인용은 AI 시스템의 대표적 오류 패턴”이라고 설명했다.
호주 환경단체 ‘지구의벗(Friends of the Earth)’의 캠 워커는 존재하지 않는 기관과 보고서를 인용하는 것은 지역사회 의견이 아니라 허위조작”이라며 이런 행위는 진정한 환경문제 제기마저 신뢰를 잃게 만든다”고 비판했다.
한편 RRA의 보고서 작성자로 알려진 앤 스미스는 가디언에 2024년 8월 이후 AI를 활용해 100건 이상의 정부 제출 문서를 작성했으며, 이번 답변 역시 AI의 도움을 받아 작성했다”고 밝혔다. 그는 AI는 효율적인 검토 도구일 뿐, 모든 정보와 결론은 내 책임 하에 작성됐다”고 주장했다.
Top
