AI가 복지를 결정해도 되는가?…헌법 원칙 따져야 [뉴스] 현수엽 보건복지부 1차관이 25일 서울 T타워에서 열린 AI 복지·돌봄 혁신 추진단(TF) 제5차 회의에서 발언하고 있다. 2026.6.25 [보건복지부 제공] 연합뉴스
AI가 당신은 복지 지원 대상이 아니라고 판단했습니다.
머지않아 우리는 이런 안내문을 받는 시대를 맞이할지도 모른다.
불과 몇 년 전만 해도 생성형 인공지능(AI)은 미래 기술로 여겨졌다. 그러나 이제 AI는 글을 쓰고, 그림을 그리고, 회의를 정리하며, 상담을 수행하는 일상 기술이 되었다. 이런 변화는 민간기업에만 머물지 않는다. 공공행정 역시 AI를 빠르게 도입하고 있다. 세금 행정과 교통 관리, 범죄 예방에 이어 이제는 국민의 삶과 가장 가까운 복지 행정에도 AI가 활용되기 시작했다. 기술의 발전만 놓고 보면 반가운 변화다.
대한민국은 저출산과 초고령 사회라는 거대한 구조적 변화 속에 있다. 복지 수요는 빠르게 증가하지만 행정 인력과 재정은 한계에 직면해 있다. AI는 이런 한계를 보완할 수 있는 새로운 정책 도구로 주목받는다. 방대한 데이터를 분석해 복지 사각지대를 찾고, 도움이 필요한 사람을 조기에 발견하며, 제한된 자원을 보다 효과적으로 배분할 수 있기 때문이다.
예를 들어 독거노인의 전기 사용량이 갑자기 감소하고, 병원 이용 기록이 끊기며, 휴대전화 사용 빈도마저 급격히 줄어든다면 어떨까? 사람의 눈으로는 쉽게 알아차리기 어려운 변화도 AI는 여러 데이터를 종합해 고독사 위험이나 사회적 고립 가능성을 조기에 예측할 수 있다. 이러한 기술은 기존 행정이 미처 발견하지 못했던 위험 신호를 찾아내고, 복지 사각지대를 줄이는 데 중요한 역할을 할 수 있다.
여기까지는 AI가 가진 분명한 가능성이다. 그러나 바로 이 지점에서 우리는 반드시 한 가지 질문을 던져야 한다. AI는 사람을 발견할 수는 있다. 그렇다면 사람의 권리까지 결정해도 되는가. 많은 사람은 이렇게 말할 수도 있다. AI가 사람보다 더 정확하다면 오히려 더 공정한 것 아닌가? 분명 일리가 있다. AI는 사람이 처리하기 어려운 규모의 데이터를 분석하고, 객관적인 기준에 따라 위험을 예측할 수 있다. 하지만 사람을 발견하는 것과 결정하는 것은 전혀 다른 문제다.
가상의 사례를 들어 보자. A씨는 AI 분석 결과 고위험군 으로 분류되어 긴급복지 지원 대상이 되었다. 반면 B씨는 실제 생활이 매우 어려웠지만 데이터로는 뚜렷한 위험 신호가 나타나지 않아 지원 대상에서 제외되었다. 며칠 뒤 B씨가 행정기관을 찾아와 묻는다. 왜 저는 지원 대상이 아니었습니까? 이 질문에 누가 답해야 할까. AI일까? 알고리즘을 개발한 기업일까? 아니면 행정기관일까?
AI는 자신의 판단을 스스로 설명할 수도 없고 법적 책임을 질 수도 없다. 국민 역시 AI를 상대로 행정심판을 청구하거나 행정소송을 제기할 수는 없다. 결국 국민의 권리에 영향을 미치는 모든 결정의 책임은 국가와 행정기관에 귀속된다. 바로 이 지점에서 공공영역의 AI는 민간 서비스의 AI와 근본적으로 다른 기준을 적용받아야 한다.
온라인 쇼핑몰에서 추천받은 상품이 마음에 들지 않으면 다른 상품을 선택하면 된다. 동영상 플랫폼이 취향과 맞지 않는 콘텐츠를 추천해도 일상에 큰 영향을 미치지 않는다. 그러나 복지는 다르다. 긴급생계 지원, 의료급여, 장애인 지원, 돌봄서비스는 단순한 행정서비스가 아니다. 누군가에게는 다시 일어설 기회이며, 또 다른 누군가에게는 삶을 지탱하는 마지막 사회안전망이다. 복지는 소비자의 만족도를 높이는 서비스가 아니라 국민의 기본권을 실현하는 국가의 책무다.
대한민국 헌법 제34조는 모든 국민이 인간다운 생활을 할 권리를 가지며, 국가는 사회보장과 사회복지의 증진을 위해 노력할 의무가 있음을 명시하고 있다. 이 조항은 복지가 국가의 시혜가 아니라 국민의 권리이며, 국가의 헌법적 책임임을 선언한 규정이다. 따라서 복지 행정에 AI를 도입한다는 것은 단순히 업무를 자동화하는 문제가 아니다. 국민의 기본권을 실현하는 과정에 새로운 기술을 도입하는 문제이며, 그 모든 과정은 헌법이 보장하는 인간의 존엄과 평등, 적법절차의 원칙 위에서 이루어져야 한다.
최근 세계 각국이 AI 규범을 강화하는 이유도 여기에 있다. 유럽연합(EU)은 복지, 교육, 의료 등 국민의 권리에 직접 영향을 미치는 AI를 고위험(High-risk) AI 로 분류하고, 위험관리, 투명성, 인간의 감독(Human Oversight) 등 엄격한 요건을 요구하고 있다. AI의 오류는 국민의 권리 침해로 이어질 수 있기 때문이다.
우리 역시 같은 질문을 시작해야 한다. 필자는 이런 접근을 AI 복지헌정주의 (AI Welfare Constitutionalism)라고 부르고자 한다. AI 활용을 제한하자는 주장이 아니다. 오히려 AI가 복지국가의 새로운 동력이 되기 위해서는 헌법이 지향하는 인간의 존엄, 평등, 사회적 연대라는 가치 안에서 설계되고 운영되어야 한다는 원칙이다. AI보다 헌법이 먼저이고, 기술보다 사람이 먼저라는 의미다.
AI는 복지를 더 빠르게 만들 수 있다. 더 정확한 예측도 가능하게 한다. 그러나 더 정의로운 복지를 만드는 것은 기술이 아니다. 정의를 만드는 것은 헌법이 지향하는 가치이며, 국민에 대한 국가의 책임이다. AI 대전환은 피할 수 없는 시대적 흐름이다. 이제 우리가 고민해야 할 것은 AI를 도입할 것인가가 아니라 어떤 철학으로 AI를 도입할 것인가이다.
기술은 사람보다 빠를 수 있다. 사람보다 더 많은 데이터를 분석할 수도 있다. 그러나 인간의 존엄과 권리를 최종적으로 책임지는 존재는 언제나 사람이어야 한다. AI 시대의 복지가 던지는 질문은 단순하지 않다. 더 똑똑한 복지 를 만들 것인가의 문제가 아니다. 더 인간다운 복지 를 만들 것인가의 문제다. 복지는 데이터를 관리하는 제도가 아니라 사람을 보호하는 제도이다. 그리고 AI는 사람을 대신하기 위해 존재하는 것이 아니라, 사람을 더 잘 돕기 위해 존재해야 한다.
기술의 발전은 계속될 것이다. 그러나 복지의 중심에는 언제나 사람이 있어야 한다. 그것이 AI 시대에도 변하지 않는 복지의 원칙이며, 디지털 대전환 속에서도 우리가 끝까지 지켜야 할 헌법의 가치이다. AI 대전환 시대의 경쟁력은 가장 뛰어난 AI를 보유한 국가에서 나오지 않는다. 국민이 자신의 권리를 가장 신뢰할 수 있는 국가에서 나온다. 복지는 국가가 국민에게 보내는 마지막 약속이다. 그 약속만큼은 어떤 기술도 대신할 수 없다.이수영 시민기자 tndudfl1566@nate.com
Top
