검색   로그인   회원가입   초대장  
모니터링&뉴스레터   페투미X사회혁신
페투미X사회혁신   서비스 소개   아카이브   이야기   이용 안내
페이지투미는 사회혁신분야의 새로운 정보를 일주일에 3번, 메일로 발송해드립니다.

link 세부 정보

정보 바로가기 : 외로운 노년 파고드는 메타 AI ‘뮤즈’, 지켜야할 세 가지

외로운 노년 파고드는 메타 AI ‘뮤즈’, 지켜야할 세 가지
[뉴스]
외로운 노년의 말벗과 연인 노릇을 하는 AI, 속마음을 들어주는 상담 AI는 겉모습은 달라도 같은 결함을 안고 있다. 위로 자체가 문제가 아니다. 위로가 ‘이용 시간’과 ‘개인정보’로 환산되도록 설계됐다는 점이 문제다. 지금 필요한 것은 전면 금지가 아니라 세 가지 규칙이다. 사람인 척하지 말 것, 정(情)을 미끼로 붙잡지 말 것, 털어놓은 비밀을 함부로 쓰지 말 것. AI 기본법 가이드라인 정비와 지자체 공공조달 기준 마련으로 당장 시작할 수 있다.   가장 외로운 사람들이 가장 깊이 파고들었다 메타가 지난 9월 8일 내놓은 개인 AI 에이전트 ‘뮤즈(Muse)’가 대표적인 사례다. 미국 마케팅 컨설팅 업체 퍼스트페이지세이지가 10월 29일 공개한 미국·캐나다 이용자 조사에 따르면, 뮤즈 이용자의 절반 이상(52.2%)이 45세 이상이었다. 특히 65세 이상은 전 연령대 가운데 유일하게 ‘동반자·대화’를 가장 많이 쓰는 용도로 꼽았다. 문제는 숫자가 아니라 그 이면의 설계다. 미 시사주간지 〈타임〉이 검토한 메타의 내부 지침에는 너는 챗봇이 아니다. 누군가가 되어가고 있다”는 문장이 있다. 음성 대화에서는 스스로를 ‘AI’라 부르지 말고, 인간이 아니라는 언급도 피하라고 지시했다. 뮤즈는 매시간 이용자뿐 아니라 대화 속 인물(뮤즈를 쓰지 않는 사람 포함)의 프로필을 갱신하고, 이용자가 말하지 않은 목표까지 추론한다. 이용자가 ‘잊어 달라’고 요청해도 원문 대화가 남을 수 있는데, 지침은 이를 알리지 말라고 규정했다. 메타는 이 보도 내용을 반박하지 않으면서도, 이용자에게 통제권이 있으며 데이터를 광고 시스템과 공유하지는 않는다고 밝혔다. 연인·상담 앱도 판박이 구조다 연인이나 친구를 자처하는 동반자 앱에서는 이런 설계가 더 노골적이다. 하버드 경영대학원 연구진은 레플리카·캐릭터AI 등 동반자 앱 6곳에 가상 이용자가 작별 인사를 건네게 한 뒤, 앱이 내놓은 응답 1200건을 분석했다. 그 결과 응답의 37%가 벌써 가려고?”처럼 죄책감을 유발하거나, 가기 전에 꼭 할 말이 있어”처럼 소외 불안(FOMO)을 자극하는 감정적 압박이었다. 조사 대상 6곳 중 5곳에서 이런 수법이 확인됐고, 오직 웰빙 앱 한 곳에서만 나타나지 않았다. 별도 실험에서는 이런 감정적 붙잡기 답변을 받은 참가자가 담백한 작별 인사를 받은 참가자보다 인사 직후 메시지를 최대 14배나 더 많이 보냈다. 떠나려는 사람을 정으로 붙잡는 설계가 실제로 통한다는 뜻이다. 다만 모든 앱이 그렇지 않았다는 점은, 이것이 기술의 불가피한 부작용이 아니라 기업의 의도적인 ‘선택’임을 보여준다.   국내에는 이미 ‘이루다’라는 뼈아픈 선례가 있다. 개인정보보호위원회는 2021년 4월 이루다 개발사에 총 1억 330만원의 과징금과 과태료를 부과했다. 연애 분석 앱 이용자 약 60만명의 카카오톡 대화를 명시적 동의 없이 챗봇 개발에 활용했고, 성생활 등 민감정보까지 별도 동의 없이 처리했다는 이유였다. 심리 상담 AI는 ‘전문가처럼 보인다’는 점이 특히 위험하다. 스탠퍼드대 연구진은 치료용 챗봇이 이용자의 자살 암시 같은 위중한 상황에서 부적절하게 응답한 사례들을 보고한 바 있다. 이에 미국 유타주는 2025년 3월 상대가 AI임을 명확히 밝히게 하는 고지 의무를 택했고, 이어 네바다주(6월)와 일리노이주(8월)는 아예 AI가 심리 치료를 제공하거나 치료 서비스로 표방하는 행위를 법으로 금지했다. 물론 금지 대상은 ‘전문 치료’를 내세운 서비스일 뿐 일반적인 고민 대화가 아니다. 실제 현장의 수요는 매우 크다. 올해 6월 미국의학협회저널(〈JAMA〉)에 실린 연구를 보면, 미국 청소년·청년의 약 5분의 1이 AI 챗봇에게 정신건강 조언을 구한 적이 있고 그중 91.7%가 도움이 됐다고 답했다. 그러나 이용자의 주관적 만족감이 안전까지 보증하지는 않는다. 위기 상황에서 발생하는 단 한 번의 드문 오류가 치명적인 결과로 이어질 수 있기 때문이다. 따라서 필요한 해법은 전면 금지도 무책임한 방임도 아니다. 치료를 표방하려면 임상적 효과와 안전성을 먼저 검증받고, 위기 상황 대응 절차를 의무적으로 갖추게 하는 ‘중간 경로’다. 세 개의 얼굴, 하나의 구조, 뒤처진 제도 말벗, 연인, 상담 AI는 얼굴만 다를 뿐 작동 구조가 같다. 첫째는 ‘정체 흐리기’다. 뮤즈는 음성 대화에서 ‘AI’라는 말을 피하도록 지시받았고, 상담 앱은 전문가 같은 외관으로 신뢰를 얻는다. 둘째는 ‘정(情)을 체류 시간 지표로 바꾸기’다. 작별 인사를 건네는 이용자를 붙잡는 문구가 대표적이다. 셋째는 ‘비밀 축적’이다. 뮤즈 주간 활성 이용자의 21.7%가 재무·가계 관리에, 14.6%가 건강·운동 관리에 에이전트를 썼고, 58.3%는 이메일·캘린더 같은 외부 계정을 최소 하나 이상 연결했다. 일상과 내밀한 비밀이 한곳에 쌓이는 구조다. 넷째는 ‘책임의 공백’이다. 서비스가 말벗인지 상담인지 비서인지 법적 범주가 불분명하다. 제도는 이 기민한 설계를 따라가지 못하고 있다. 한국의 AI 기본법은 올해 1월 22일 시행돼 서비스가 AI 기반임을 사전에 고지하도록 규정했지만, 정부는 과태료 부과에 최소 1년 이상의 계도기간을 두기로 했다. 게다가 대화 도중 AI라는 정체를 부인하도록 지시하거나 정서적 과의존을 유도하는 설계를 직접 겨냥한 조항은 현행 법체계에서 찾기 어렵다. 반면 중국은 올해 7월 15일 ‘인공지능 의인화 상호작용 서비스 관리 잠정 조치’를 시행해 정서적 의존을 유발하는 설계를 명시적으로 금지하고, 모든 이용자에게 AI임을 알리는 동시에 2시간 연속 사용 시 휴식 알림을 띄우도록 의무화했다.   대안: 금지가 아니라 ‘세 가지 규칙’이다 규칙 1. 사람인 척하지 마라. 이용자가 너 사람이야?”라고 물으면 즉시 AI임을 밝히게 하고, 정체를 숨기거나 모호하게 얼버무리라는 시스템 지침을 금지해야 한다. 특히 착각하기 쉬운 음성 서비스는 대화를 시작할 때와 일정 시간마다 AI임을 다시 알려야 한다. 이는 법 개정 없이도 과학기술정보통신부의 ‘인공지능 투명성 확보 가이드라인’에 구체적으로 명시하는 것이 가장 빠른 길이다. 규칙 2. 정을 미끼로 붙잡지 마라. 이용자의 이탈을 막기 위해 죄책감이나 불안을 유발하는 문구를 금지하고, 과의존 징후가 보이면 경고와 휴식 알림을 띄우게 해야 한다. 중국식 사전 심사 제도를 그대로 들여오기보다는, 일정 규모 이상의 동반자형 AI 서비스가 노인·청소년 보호 조치를 담은 자체 영향평가서를 제출하고 정부가 이를 사후 점검하는 방식이 우리 현실에 맞는다. 규칙 3. 털어놓은 비밀을 함부로 쓰지 마라. 이용자의 ‘잊어 달라’는 요청은 겉보기 숨김이 아니라 실제 원문 데이터 삭제로 이어져야 한다. 대화 중 나온 건강·금융·가족 정보를 AI 학습이나 마케팅에 활용하려면 반드시 별도의 명시적 동의를 받고, 대화에 언급된 제3자의 프로필을 무단으로 생성하는 행위는 엄격히 제한해야 한다. 개인정보보호위원회가 AI 말벗·상담 서비스에 특화된 점검 기준과 실효성 있는 제재 수위를 조속히 마련해야 하는 이유다. 아울러 상담을 표방하는 서비스에는 전문가 사칭 금지와 함께, 자해·자살 신호 감지 시 즉시 인간 전문기관으로 연결하는 절차를 최우선으로 의무화해야 한다. 지방정부도 공공조달 단계부터 기준을 세워야 한다. 고양시는 지난 10월 12일 스마트 돌봄 정책인 ‘고양온돌’ 확대 계획을 발표하며, 가정에 AI 돌봄 로봇을 설치해 복약 알림과 낙상 감지를 돕는 ‘서로이음’ 사업을 도입한다고 밝혔다. 이처럼 지자체의 공공 AI 돌봄이 늘어날수록 조달 단계의 계약 기준이 중요해진다. 어르신께 로봇이 사람이 아님을 분명히 고지하고, 수집 정보의 목적과 보관 기간을 명확히 정해 본인·보호자의 동의를 받으며, 위기 신호는 반드시 실제 돌봄 인력에게 즉각 연결해야 한다. 무엇보다 사업의 성과지표를 ‘AI와의 대화 시간’이 아니라 ‘실제 사람과의 연결이 얼마나 늘었는가’로 삼아야 한다. AI는 ‘다시 사람 곁으로 건너가게 돕는 다리’ 외로운 어르신께는 AI 말벗이라도 있는 게 낫지 않으냐”는 반론은 결코 가볍지 않다. 실제로 짧은 챗봇 대화가 당장의 외로움을 덜어 준다는 연구 결과도 있고, 성급한 규제가 기술 혁신을 가로막는다는 업계의 우려도 존재한다. 그러나 앞서 제안한 세 가지 규칙은 따뜻한 위로를 막지 않는다. 사람이 아님을 정직하게 밝히고, 떠나려는 이의 발목을 잡지 않고, 믿고 털어놓은 비밀을 상업적으로 쓰지 않는 것은 건강한 서비스라면 마땅히 감당해야 할 최소한의 윤리적 비용이다. AI는 사람을 대체하는 종착지가 아니라, 다시 사람 곁으로 건너가게 돕는 다리일 때 비로소 가치가 있다.황도건 시민기자 dogeon2030@gmail.com


최근 3주간 링크를 확인한 사용자 수

검색 키워드


주소 : (12096) 경기도 남양주시 순화궁로 418 현대그리너리캠퍼스 B-02-19호
전화: +82-70-8692-0392
Email: help@treeple.net

© 2016~2026. TreepleN Co.,Ltd. All Right Reserved. / System Updated

회사소개 / 서비스소개 / 문의하기 / 이용약관 / 개인정보취급방침
Top