네이버, AI 안전성 실천 체계 공개…안전한 생태계 구축 [카테고리 설정이 아직되어 있지 않습니다.]
네이버 본사 전경. / 사진=네이버
[데일리임팩트 이승석 기자] 네이버는 인공지능(AI) 시스템을 개발하고 배포하는 과정에서 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계인 ‘네이버 ASF’(AI Safety Framework)를 발표했다고 17일 밝혔다. AI 안전성 체계를 설계하고 실천하는 것은 국내에서 네이버가 처음이다.
네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 각각 ‘통제력 상실 위험’과 ‘악용 위험’으로 정의하고, 이에 대응하기 위한 방법을 설계한 것이 특징이다.
먼저 인간이 AI 시스템에 영향을 미치지 못하게 되는 ‘통제력 상실 위험’을 완화하기 위한 조치로 ‘AI 위험 평가 스케일’을 도입했다. 이를 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 특히 현존 최고 성능의 AI 시스템을 ‘프론티어(frontier) A...
Top
