 |
| 네이버가 8일 AI 안전성 관리 체계 ‘ASF(AI Safety Framework) 2.0’을 공개했다. 사진은 관련 이미지. [네이버 제공] |
[헤럴드경제=박혜림 기자] 네이버가 인공지능(AI)의 답변 성능뿐 아니라 실제 서비스가 이용자에게 미칠 위험과 영향까지 점검하는 안전관리 체계를 도입한다. 대화형 검색 서비스 ‘AI탭’을 비롯한 AI 서비스를 기획·설계하는 단계부터 출시 이후 운영 과정까지 지속적으로 관리한다는 방침이다.
네이버는 8일 서울 강남구에서 열린 ‘인공지능안전 서울 포럼(SFASS)’에서 AI 안전성 관리 체계 ‘ASF(AI Safety Framework) 2.0’을 공개했다.
ASF 2.0은 네이버가 2024년 AI 서울 정상회의에서 발표한 기존 체계를 개편한 것이다. 종전에는 AI 모델의 성능과 위험 수준을 중심으로 평가했다면 앞으로는 서비스가 사용되는 맥락과 활용 사례, 이용자에게 미칠 영향까지 관리 대상에 포함한다.
이번 개편에는 네이버의 ‘온서비스 AI’ 전략과 멀티모델 환경 확산, AI기본법 제정 등 달라진 기술·제도 환경이 반영됐다.
네이버는 ‘AI 위험 분류 체계’를 통해 서비스에서 발생할 수 있는 위험을 유형별로 나누고 ‘AI 영향 평가 매트릭스’를 활용해 적용 분야와 이용 범위에 따른 영향을 평가할 계획이다. 출시 이후에도 안전성 점검과 이용자 의견 수렴을 이어간다.
전사 실행 체계인 ‘CHEC 2.0’도 마련했다. AI 서비스의 기획과 설계, 개발, 출시 과정에서 윤리와 안전 요소를 점검하는 내부 절차다. 지난달 출시된 대화형 검색 서비스 AI탭도 이 체계를 통해 설계 단계부터 안전성 검토를 받았다.
송대섭 네이버 AI 세이프티 폴리시 리더는 “하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 말했다.
한편 AI탭은 이용자의 검색 의도와 맥락을 파악해 상품과 장소를 추천하고 쇼핑·예약까지 연결하는 서비스다. 지난 4월 베타 출시 후 약 2개월 만에 누적 이용자 400만명을 넘어섰으며 상품·장소 카드 클릭률은 각각 20% 이상을 기록했다.
