【김형주, 장정민의 지속가능경영 스토리】AI 기술 발달과 지속가능성 [카테고리 설정이 아직되어 있지 않습니다.] CES 2024의 화두 AI
1월 9일부터 12일까지 미국 라스베가스에서 진행됐던 CES(Consumer Electronics Show. 세계가전전시회) 2024가 마무리됐다. CES는 미국소비자기술협회(CTA · Consumer Technology)가 주관해 매년 열리는 세계 최대의 ICT 및 관련 기술에 대한 전시회로, 관련 업계의 흐름에 대해 살펴볼 수 있는 가장 권위 있는 행사이다.
IoT(사물인터넷), 자율주행, 5G, 증강현실, 로봇, 스마트 헬스케어 등 4차 산업혁명기술이 전시가 되며 CES에 대한 전 세계 주목도는 날로 높아지는 추세이다. 특히 이번 CES는 Covid-19 팬데믹 종식 선언 이후 처음으로 진행된 행사로서 국내 600여 개 기업 포함, 150여 개국 3500여 기업이 참여했다. 삼성전자, LG, 기아, 인텔, 엔비디아, AMD, 소니, 파나소닉 등의 글로벌 기업들이 앞다투어 신기술을 선보이고 다양한 스타트업의 참신한 아이디어까지 더해지며 양적인 측면과 질적인 측면에서 모두 최고 수준의 전시회가 됐다.
CES 2024의 화두는 AI였다. 2023년 Chat GPT 등으로 주목받았던 AI 기술은 다양한 분야로 확장되는 추세였다. 특히 2020년대 가장 중요한 기술 트렌드 중 하나인 인간안보(Human Security)에 AI 시스템이 적용되는 형태의 제품들이 눈에 띄었는데, 삼성전자의 AI 집사 볼리, 독일 보쉬(Bosch)의 총기 소지 및 발사 등을 감지하는 총기 감지 시스템, 프랑스 스타트업 이크리피아의 당뇨 환자의 피부 표면을 분석하여 혈당 수치를 측정하는 기술 ‘네오글리’, 흙 없이 작물을 재배하는 에어팜 등이 인간의 활동에 도움을 주는 역할을 할 것으로 기대를 받았다.
삼성전자의 AI 집사 볼리(왼쪽)와 국내 스타트업 미드바르의 에어팜(오른쪽)/삼성전자 뉴스룸, 미드바르 홈페이지
지속가능한 환경과 사회에 기여하는 스타트업의 제품과 기술도 눈에 띄었다. 일본의 스타트업 inQs는 태양광 발전기의 별도 설치 공간 없이 오피스 빌딩에서 자가발전으로 전력사용을 저감할 수 있는 ‘SQPC’글라스를 선보였고, 국내 스타트업 칸필터는 차량용 디젤 매연 저감 장치를 산업현장에 적용하여 탄소 배출을 저감할 수 있는 제품을 공개했다. 핀란드 스타트업 오리온은 AI 이미지 인식 기술을 적용하여 시각 장애인에게 길을 안내하는 기술로 눈길을 끌었다.
AI 기술 발달의 부정적 영향
CES 2024를 통해 우리 생활과 밀접한 영역까지 확장된 AI 기술 발전의 긍정적 영향을 확인할 수 있었다. 하지만 반대로 사회적 혼란을 야기하는 경우도 확인되고 있다.
AI 기술에 대한 대중의 관심을 선도한 Open AI는 지난 1월 10일 GPT 스토어를 오픈한 바 있다. 스토어에서는, 개발사인 Open AI뿐만이 아니라 누구나, 전문적인 개발, 코딩 역량이 없이도 AI 챗봇을 만들어 제공할 수 있다. 서비스가 오픈한 지 얼마 지나지 않았지만 GPT 스토어에서는 다양한 방식으로 활용 가능한 AI가 나타나고 있다. 문제는 누구나 쉽게 챗봇을 개발할 수 있다는 장점이 부정적 영향으로 연결되고 있다는 점이다.
Open AI는 스토어 출시 시점에 이용약관을 업데이트하여, (음란물이나 기타 컨텐츠를 포함한) 로맨틱한 관계를 조장하는 챗봇을 허용하지 않는다고 했으나 스토어 서비스 시행 초기인 현재에는 AI 여자 친구 챗봇과 같은 로맨틱 앱이 확인되고 있다고 한다. 이것은 비단 GPT 스토어에서만 나타나는 문제가 아니다. 앱스토어나 플레이스토어에서도 유사한 유형의 AI 서비스들이 확인된다고 한다. 사실, 로맨틱 챗봇이나 앱 자체가 문제라고 할 수는 없다. 하지만 선정적이거나 비윤리적인 문제로 인한 사회적 혼란이 발생했을 시 이에 대한 논란과 책임에서 자유롭지는 못하다. Ai는 인간처럼 법적, 윤리적으로 책임을 지지 않기 때문이다.
AI의 기술의 발전은 딥페이크, 딥보이스의 발달에도 영향을 주었다. 딥페이크 음란물, 가짜 영상 유포 사건이 전 세계적으로 늘어나고 있고, 급기야는 정치적 영향력을 행사하기 위한 시도까지 나타났다. 지난 1월 13일 있었던 대만 총통선거와 관련해 친미 성향의 민주진보당(민진당) 라이칭더 총통 후보를 사칭하는 가짜 영상이 유포되었는데, 이는 대선을 앞두고 있는 미국뿐만 아니라 총선을 눈앞에 둔 국내에도 뜨거운 감자가 되었다. AI의 진화는 CES 2024에서처럼 밝은 미래만을 담보하지 않는다.
AI의 가장 큰 특징은 무엇일까? AI 모델이 학습을 통해 자체적으로 판단한다는 부분일 것이다. AI의 학습 알고리즘은 방대한 데이터를 기초로 하는 일종의 통계적 추론이라고 한다. AI 기술의 발전은 통계적 증명으로 활용되는 데이터에 대한 편향성, 사회적 차별 유발로 인한 인권 침해, 일자리의 대체 등 인간안보와 관련한 리스크를 현실로 끌어낼 수 있다. 그렇기 때문에 AI 기술을 개발하고 활용하는 이해관계자들은 AI 윤리라는 보편적 이해 규범 및 관련 기술에 관해 관심을 기울이고 제반 사항에 대해 공개해야 할 것이다.
실제로 Chat GPT 개발사인 Open AI의 CTO인 미라 무라티(Mira Murati), 스티브 워즈니악, 일론 머스크 등은 AI 기술의 진화와 관련한 기술 개발 속도를 조절해야 한다고 주장한 바 있다. 글로벌 빅테크 기업들 역시 AI 윤리에 대해 강조하고 논의를 이어가고 있다. 하지만 마이크로소프트, 구글, 트위터, 아마존, 메타 등 우리가 익히 알고 있는 다수의 글로벌 빅테크 기업들은 AI 윤리 관련 부서를 해체하거나 규모를 줄이는 모순된 행동을 보이고 있다.
IBM의 AI 윤리
현재는 AI 하면 Open AI의 Chat GPT, 구글 바드 등을 떠올리지만, 딥 블루(Deep Blue), 왓슨(Watson)으로 AI의 시장을 개척했던 IBM은 AI 기술의 선구자라고 할 수 있다. 특히 체스에 특화되었던 딥 블루와 세계 체스 챔피언이던 카스파로프의 대결은 아직도 필자들의 기억에 선명히 자리 잡고 있다. 그렇다면 선구자였던 IBM은 AI 윤리에 대해 어떻게 접근하고 있을까?
AI 윤리와 관련해 IBM에서는 AI 윤리 원칙 수립, AI 관련 문제점, AI 윤리 확립 방안, AI 조직, AI 윤리에 대한 관점 등에 대해 공개하고 있고 AI 모델이 학습을 통해 편향성을 가지지 않도록 하는 기술을 오픈 소스로 공개했다. 또한, AI의 윤리적 활용과 관련해 감시할 수 있는 기능을 기업용 AI 솔루션에 담고 있었다. 아래는 필자들이 IBM의 홈페이지에 공개된 AI 윤리 관련 사항에 대해 지속가능성 정보 공시의 4대 Pillar를 적용해 정리해 본 것이다.
지배구조
IBM AI 윤리 위원회
- IBM의 윤리 정책, 관행, 커뮤니케이션, 연구, 제품 및 서비스에 대한 검토 및 의사 결정 프로세스를 지원
전략
IBM의 데이터 및 AI에 대한 접근 원칙
- AI의 목적은 인간의 지능을 증진시키는 것
- 데이터와 인사이트의 소유는 생성한 자에게 있음
- AI 시스템은 투명하고 설명 가능해야 함
위험 관리
IBM에서 인식하는 AI 윤리 주요 문제
- 초지능 관련 의사결정에 관한 윤리적 논쟁
- 일자리에 대한 AI의 긍정적, 부정적 영향
- 보안 관련 위험 요소 및 보안 투자 기회
- 편견 및 차별에 대한 AI 리스크 및 리스크 대응에 따른 기업 윤리성 개선
지표 및 목표
IBM AI 윤리 원칙과 목표
- 설명 가능성 : 다양한 목표를 가진 이해관계자와 관련이 있기 때문에 알고리즘 추천 사항에 대해 투명하게 설명할 있어야 함
- 공정성 : AI 시스템이 개인 또는 그룹을 공정하게 대우해야 함
- 견고함 : 적대적인 공격으로부터 능동적으로 방어하여 보안 위험을 최소화하고 시스템 결과에 대한 신뢰성을 확보해야 함
- 투명성 : 사용자가 서비스의 작동 방식을 확인하고, 기능을 평가하고, 서비스의 강점과 한계를 이해할 수 있어야 함
-개인정보보호 : 개인정보 및 데이터 권리를 우선시하고 보호해야 하며, 데이터가 어떻게 사용되고 보호되는지에 대해 사용자에게 명시적으로 보장해야 함
IBM 홈페이지를 참조해 정리/IBM 홈페이지
여타의 기업들이 AI 윤리 이슈를, 빠른 서비스의 출시를 가로막는, 신규 사업에 대한 리스크로 판단하고 조직을 해체하거나 줄이는 행동을 한 것에 비해, IBM의 경우는 AI 윤리에 대한 이슈를 되려 사업의 기회로 삼은 듯하다. 오픈 소스로 공개된 IBM의 AI 윤리 관련 기술은 AI의 편향성에 대한 확인과 통제의 목적, AI 알고리즘에 대한 이해, AI 모델 향 적대적 공격에 대한 방어 기술 등으로 AI 윤리 관련 발생가능한 리스크와 직접적으로 연결될 수 있는 핵심적인 사항이라고 할 수 있다. IBM이 핵심적인 사항을 오픈 소스 형태로 공개했다는 것의 의미는, 기업의 사회적 책임을 다함은(CSR) 물론 지속가능한 비즈니스로서(Sustainability Business)의 자신감의 발로라고 할 수 있을 것이다.
AI 기술과 인간
AI 기술과 윤리에 대해 살펴보면서 20년 전에 개봉했던 윌 스미스 주연의 ‘i, Robot’과 아이작 아시모프의 원작 소설에서 언급되는 ‘로봇 3원칙’이 떠올랐다. ‘로봇 3원칙’은 다음과 같다.
1. 로봇은 인간에게 해를 끼치거나 부작위로 인해(아무런 조치를 취하지 않음으로써) 인간이 해를 입게 해서는 안 된다.
A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. 로봇은 제1원칙과 상충되는 명령을 제외하고는 인간이 내린 명령에 복종해야 한다.
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. 로봇은 제1원칙이나 제2원칙에 위배되지 않는 한 자신의 존재를 보호해야 한다.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
이 원칙은 영화와 소설에서 등장하는 허구적 요소이지만, AI 기술의 설계와 윤리에 영향을 미쳤다고 한다. 또한, AI 기술 개발에 있어서 인간의 안전과, 기술에 대한 통제, 도덕적 책임이 얼마나 중요한 요소인지 잘 보여주고 있다.
AI 기술이 발전함에 따라 인간안보에 많은 영향을 끼칠 수 있다. AI 기술의 발전이 지속가능성에 있어 긍정적인 측면이 많을지 부정적인 측면이 많을지 생각해 보게 된다. 필자들의 경우 긍정적인 측면이 더 많다고 보고 있지만, 인간 안보의 측면에서 부정적인 요소들이 감지되고 있는 것이 사실이다. 이러한 측면에서 앞으로 AI 윤리 관련 가이드라인, 규제 등에 대한 충분한 논의와 책임 있는 기술 개발이 필요하다.
결국 AI 기술은 인간으로부터 비롯되고 실현되기 때문이다.
☞ 김형주 엠케이전자(주) 팀장은
김형주 팀장은 2006년 보광그룹에 입사하여, 현재 엠케이전자(주)에서 IR, M&A, ESG를 담당하는 미래전략팀장으로 근무하고 있다. 엠케이전자는 2020년 ESG 선포를 했으며, 2022년 환경부 스마트 생태공장 구축 사업 운영, 업계 최초 POST 100% 재생제품 UL인증을 취득했으며, 현재 LCA One cycle시스템 구축을 진행하고 있는 반도체 소재 기업이다. 실무형 관리자로서 바쁜 와중에도 업무 관련 전문성을 갖추기 위해 한양대학교 경영전문대학원 ESG Track에서 학업 중이다.
☞ 장정민 금호석유화학 과장은
장정민 과장은 2008년 동아제약에서 직장생활을 시작했고, 이크레더블을 거쳐 현재 금호석유화학 ESG경영관리팀에서 근무하고 있다. 이크레더블에서 공급망 ESG 평가 사업을 준비하며 지속가능경영과 ESG라는 영역에 관심을 가지게 됐고, 금호석유화학 ESG경영관리팀에 입사해 본격적으로 ESG 관련 업무를 시작하게 됐다. 실무자로서 바쁜 와중에도 업무와 관련된 전문성을 갖추기 위해 한양대학교 경영전문대학원 ESG Track에서 학업 중이다.
Top
