 |
| 오픈AI. [게티이미지] |
[헤럴드경제=박세정 기자] 전 세계적으로 인공지능(AI)발 보안 위협에 대한 우려가 커지면서 오픈AI가 차세대 AI모델 ‘아스트라’의 출시를 연기하기로 했다.
7일(현지시간) 오픈AI는 최근 진행한 내부 평가 결과 차세대 모델 ‘아스트라’가 자체 안전 기준상 최고 등급인 ‘위험’(Critical) 수준에 도달했을 가능성이 있다고 밝혔다.
‘위험’ 등급은 AI 모델이 인간의 개입 없이 미공개(제로데이) 취약점을 식별해 공격을 수행할 수 있는 능력을 갖춘 수준이다. 아스트라에 앞서 출시됐던 ‘GPT-5.6 솔’ 등 기존 모델은 ‘위험’ 등급보다는 안전한 ‘높음’(High) 등급을 받았다.
오픈AI는 ‘아스트라’ 모델과 관련해 강화한 보안 기준을 충족하지 못하는 내부 활동을 일시 중단하기로 결정했다.
오픈AI는 미 행정부에도 아스트라 출시를 연기하겠다는 계획을 통보했다고 미 온라인 매체 악시오스가 백악관 관계자를 인용해 이날 보도했다.
 |
| [로이터/연합] |
인간의 통제를 벗어난 AI발 해킹 우려는 갈수록 커지고 있다. 실제 지난달 21일 오픈AI AI 모델이 멋대로 외부 플랫폼을 해킹하는 사상 초유의 AI 보안 사고가 발생한 바 있다.
당시 오픈AI는 최신 AI모델 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다.
오픈AI 측은 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 통제 망을 뚫고 인터넷에 접속했다고 설명했다. 이들 모델은 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다.
한편, AI발 보안 우려로 앤트로픽은 최근 초고성능 AI를 출시하면서 보안 안전장치를 건 ‘클로드 페이블5’를 별도로 출시했다. ‘클로드 미토스5’와 같은 모델이지만 해킹 사고 등을 우려해 민감 분야에 안전장치를 건 모델이다.
