레니게이드·솔라 기반 다음 AI 요약 서비스
3사 대표, AXZ 사옥서 대담…소버린 AI 확산
 |
| 김성훈(왼쪽부터) 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표 [업스테이지 제공] |
[헤럴드경제=차민주 기자] 업스테이지가 포털 ‘다음’ 운영사 AXZ, 퓨리오사AI와 손잡고 국내 첫 풀스택 소버린 AI를 상용화한다. 다음의 AI 요약 서비스를 기점으로 국산 하드웨어부터 소프트웨어·서비스까지 이어지는 소버린 AI 사례를 확산하겠단 방침이다.
15일 업스테이지는 AXZ, 퓨리오사AI와 함께 국산 신경망처리장치(NPU)·모델·서비스를 제공하는 풀스택 소버린 AI 상용화 사례를 구축한다고 밝혔다.
이번 3사 협력은 퓨리오사AI의 NPU ‘RNGD(레니게이드)’를 활용해, 업스테이지의 거대언어모델(LLM) ‘솔라’를 탑재한 다음의 ‘AI 요약’ 서비스를 구동하는 식으로 이뤄질 방침이다. 인프라부터 모델, 실제 서비스까지 AI 전 영역을 국산 기술로 연결한 첫 소버린 AI 사례라는 점에서 의미가 크다고 업스테이지는 강조했다.
이날 김성훈 업스테이지 대표, 이건수 AXZ 대표, 백준호 퓨리오사AI 대표는 경기도 성남시 판교에 있는 AXZ 사옥에 모여 각사의 계획과 소버린 AI 관점의 3사 협력 방안을 나누는 대담을 진행했다.
우선 이 대표가 다음의 AI 요약 서비스를 설명했다. 이 대표는 “다음 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 정리해주는 기능”이라며 “다음 검색창에 키워드를 입력하면 핵심 요약과 근거를 함께 제공하며, 내용이 바뀌면 AI가 자동 반영해 최신 정보를 확인할 수 있다”고 했다.
AI 요약을 개발한 과정에 대해서도 언급했다. 이 대표는 “LLM의 환각(할루시네이션)을 제어하기 위해 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다”며 “키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 관련성 높은 정보를 전달하고 있다”고 말했다.
이어 백 대표가 해당 서비스를 작동시키기 위한 인프라 운영 방식에 대해 설명했다. 그는 “AI 요약 처리를 위해 3개 노드로 하루 5억개의 토큰을 처리하고 있다”고 밝혔다.
그러면서 “이를 위한 최적화 작업을 진행해 AI 모델을 가속기에 잘 매핑할 수 있는 컴파일러와 최적의 서빙을 위한 엔진 개발 등 하드웨어-소프트웨어를 원천 설계로 구성했다”며 “H200와 대등한 성능을 내고 있다”고 했다. 실제 퓨리오사AI NPU를 도입했을 때 추론 비용 절감 효과는 50% 이상에 달하는 것으로 알려졌다.
백 대표는 “국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고, 그래픽처리장치(GPU)보다 전성비(전력 대비 성능)와 가성비가 높다”며 “국제정세를 고려했을 때 전략적 관점에서도 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다”고 말했다.
 |
| 업스테이지-다음-퓨리오사AI가 3자 협력해 ‘풀스택 소버린 AI’ 상용화 사례를 구축한다. [업스테이지 제공] |
각 사의 향후 계획도 발표됐다. AXZ는 다음의 AI 서비스를 단순 요약을 넘어 ‘1인 1에이전트’까지 확대하겠다는 포부를 밝혔다. 이 대표는 “현재 베타 서비스 중인 AI 요약은 전체 질의 규모의 20% 정도를 처리하고 있으며, 점진적으로 비율을 늘릴 계획”이라며 “단순 요약을 넘어 쇼핑, 맛집 검색 등 버티컬로 확장하고, 다음을 통해 사용자에게 특화된 ‘1인 1에이전트’를 보급할 준비도 하고 있다”고 했다. 이어 “한국의 AI 생태계를 위해 AI 요약 서비스를 많이 이용해달라”고 덧붙였다.
퓨리오사AI도 레니게이드 등 제품을 확장하겠다고 강조했다. 백 대표는 “고도화된 에이전틱 AI 서비스를 좋은 토큰 가격에 지원할 수 있도록 제품을 확장하고 있다”며 “퓨리오사AI 칩도 세대를 거듭해 성능과 가성비를 높여, 글로벌 반도체 대비 우월한 경쟁력을 확보하겠다”고 말했다. 그러면서 “레니게이드는 GPU와 대등한 성능으로 2배 비용 절감이 가능한 만큼, 기업이 AI 전환(AX) 작업을 할 때 적극 고려해 주면 좋을 것”이라고 했다.
AI 서비스를 위한 레니게이드 공급 계획도 언급했다. 김 대표가 연말까지 RNGD 1만장이 필요할 수 있다고 언급하자 백 대표는 “레니게이드는 현재 양산 중으로, 1만장을 충분히 공급할 수 있다”고 자신했다.
업스테이지는 해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 고도화하겠다고 강조했다. 김 대표는 “솔라의 경쟁력은 자체 소형 모델 설계로 확보한 글로벌 프런티어급 성능과 한국어 특화 역량”이라며 “독자 AI 파운데이션 모델 프로젝트 등을 통해 곧 공개될 업스테이지 차세대 모델에도 많은 관심을 부탁드린다”고 했다.
