 |
| 안토니오 구테흐스 유엔 사무총장. [AFP] |
[헤럴드경제=문영규 기자] 안토니오 구테흐스 유엔(UN) 사무총장이 전쟁에서 사용되는 인공지능(AI)를 비롯해 드론 등 무인로봇을 ‘살인로봇’으로 규정하며 우려를 표했다.
구테흐스 사무총장은 6일(현지시간) 자신의 사회관계망서비스(SNS)를 통해 “AI가 전쟁터로 나왔다”며 “가장 우려되는 것은 ‘치명적인 자율 무기 시스템’이다. 있는 그대로 불러야 한다. 바로 ‘살인 로봇’이다”라고 규정했다.
그는 전쟁에 사용되는 AI를 “인간의 통제나 판단 없이 목표물을 선택하고 공격하여 생명을 앗아가는 기계”라며 “이는 도덕적으로 혐오스러운 일이고, 정치적으로도 용납할 수 없다. 따라서 국제법으로 금지돼야 한다”고 강조했다.
인간의 주체성과 자율성을 강조한 그는 “끔찍한 참사가 일어나기를 기다릴 필요가 없다”면서 “어떤 결정은 영원히 인간의 몫으로 남아 있어야 하며, 인간의 생명을 앗아가는 결정만큼 중요한 것은 없다”고 했다.
유엔은 6~7일 스위스 제네바에서 ‘AI 거버넌스에 관한 글로벌 대화’(Global Dialogue on AI Governance)를 개최했다.
구테흐스 사무총장은 이어진 게시물에서 “인공지능 거버넌스에 관한 글로벌 대화에 참석했다”며 “제 메시지는 분명하다. AI의 미래는 인간의 감독과 효과적인 거버넌스에 의해 만들어져야 한다”고 주장했다.
그는 AI의 발전 속도를 규제와 제도가 따라가지 못하고 있다며 “거버넌스가 없다면 불평등을 심화시키고 신뢰를 훼손할 위험이 있다”고 경고했다.
“혁신에는 안전장치가 필요하다”고 역설한 그는 “우리는 인공지능이 안전하고 공정하게, 그리고 모든 인류에게 이익이 되도록 개발되도록 보장해야 한다”고 덧붙였다.
 |
| 니콜라스 마두로 전 베네수엘라 대통령. [AFP] |
미국 일간 월스트리트저널(WSJ)은 구테흐스 사무총장의 이번 발언이 올해 초 미국 국방부와 앤트로픽 간 갈등의 핵심이었던 AI 안전성 논란을 다시 수면으로 끌어올렸다고 짚었다.
미군은 올 초 니콜라스 마두로 전 베네수엘라 대통령 체포 작전에 앤트로픽의 클로드를 사용한 것으로 알려졌고, 앤트로픽은 이에 반발하며 갈등이 불거졌다.
미 국방부는 합법적인 모든 활동에 사용할 수 있다고 주장하고 있지만 앤트로픽은 자사의 AI 모델을 대규모 감시나 자율 살상 무기 등에 사용해서는 안 된다는 입장이다.
군의 AI 사용은 점차 확대되고 있다. WSJ에 따르면 민간용으로 설계된 AI 시스템과 칩이 전장과 군 지휘부에 점차 더 많이 배치되고 있다.
군·방위산업 관계자 등 AI 무기 사용을 지지하는 쪽은 AI를 활용한 무기가 인간이 통제할 수 있다고 보고 작전 수행에 도움을 주고 있다는 입장이다. 반면 AI에도 오류가 있어 인간이 위급 상황에서 통제권을 넘기는 것은 위험하다는 반론도 있다.
때문에 AI를 전장에서 사용할 경우 언제 인간이 개입을 해야 하는지 논쟁이 지속되고 있다.
WSJ은 AI 시스템을 어떻게 규제해야 하는지에 관한 논쟁이 여전히 격렬하다면서, 미국 정부가 AI 모델 출시 전 안전성을 검증할 수 있는 절차를 마련 중이라고 전했다.
