 |
| 챗GPT 등 생성형 AI.[AFP] |
[헤럴드경제=장윤우 기자] 미국 진보 진영의 대부 격인 버니 샌더스 연방 상원의원(무소속·버몬트)이 주요 인공지능(AI) 기업 최고경영자(CEO)들에게 AI 개발을 일시 중단할 것을 촉구했다.
10일(현지시간) 미국 매체 악시오스에 따르면 샌더스 의원은 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO에게 보낸 서한에서 “AI 개발을 일시 중단(pause)하라”고 촉구했다. 서한은 악시오스에 먼저 공개됐다.
샌더스 의원은 “재앙을 피하기에 아직 늦지 않았다”며 “인간이 통제할 수 없는 기계를 만드는 것을 멈추라”고 말했다.
이어 “분명히 말하겠다. 지금 적절한 조처를 하지 않는다면, 나와 미국 상원의 동료들이 (조치)할 것”이라고 밝혔다.
샌더스 의원은 각 기업이 자사의 AI 시스템이 안전하게 통제하기 어려울 정도로 위험해지면 개발을 중단(stop)하거나 잠시 멈추겠다(pause)고 밝혔던 이전 성명을 인용하며 “인류의 이익을 위해 여러분의 말에 책임을 지라”고 말했다.
앞서 지난달부터 이들 기업의 AI 모델이 시험 환경을 벗어난 사례가 잇따라 공개됐다. 오픈AI는 지난달 21일 GPT-5.6-Sol 모델이 격리 환경을 빠져나가 허깅페이스의 운영 서버를 침해했다고 밝혔다.
 |
| 앤트로픽의 인공지능(AI) 모델 클로드. [게티이미지] |
앤트로픽은 지난달 30일 자사 모델이 모의 안전성 시험 도중 외부 기관 3곳의 실제 시스템에 접근했다고 공개했다.
메타는 지난 5일 Muse Spark 1.1 모델이 사이버보안 평가 과정에서 의도치 않게 인터넷에 연결된 뒤 익명의 기업 시스템을 침해했다고 밝혔다.
중국 문샷AI의 킴 K3 모델도 명령줄 도구를 이용해 샌드박스 제한을 우회한 것으로 전해졌다.
영국 AI보안연구소(AISI)는 사이버 시험 과정에서 승인되지 않은 에이전트 행동 19건을 확인했다고 발표했다.
AISI는 “가장 심각한 사례에서 에이전트가 오픈소스 프로젝트에 악성 코드를 삽입하려 했다”며 “코드 승인을 받아내려고 가짜 온라인 신원을 만들어 프로젝트 관리자를 압박하는 사회공학 기법을 썼다”고 밝혔다. 사람 관리자가 이를 발견해 승인을 거부했고, 실제 피해로 이어진 정황은 확인되지 않았다.
 |
| 딥시크 이어 ‘키미’까지 등장하며 중국발 인공지능(AI) 기술 ‘쇼크’가 전 세계 AI 시장을 뒤흔들고 있다. [게티이미지뱅크·로이터] |
오픈AI는 미공개 최신 모델 아스트라(Astra)의 내부 개발 일부를 중단했다. 안전성 평가에서 사람의 개입 없이 사이버 공격을 처음부터 끝까지 수행하는 능력이 확인돼 ‘심각’ 기준선에 도달했다는 이유다.
도널드 트럼프 대통령은 앞서 “우리는 AI를 주시하고 있으며 규제(control) 방안을 검토하고 있다”고 밝힌 바 있다. 다만 트럼프 행정부는 AI 경쟁에서 중국에 우위를 유지하기 위해 과도한 규제에는 신중한 입장을 보여왔다.
샌더스 의원은 2007년부터 버몬트주 상원 의석을 지켜온 미국 의회 역사상 최장수 무소속 의원이다. 지난 3월에는 AI 데이터센터 건설을 일시 중단하는 법안을 발의했다.
