 |
| 요슈아 벤지오 [게티이미지닷컴] |
[헤럴드경제=이원율 기자]인공지능(AI) 분야의 3대 대부로 거론되는 요슈아 벤지오 캐나다 몬트리올대 교수는 핵무기 통제와 비슷한 수준의 국제적 AI 안전장치 마련 필요성을 밝혔다.
16일(현지시간) AFP통신과의 인터뷰에서 벤지오 교수는 “기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데 이유가 있다”며 “나와 같은 사람들은 이런 상황을 오래전부터 예견했다”고 밝혔다고 연합뉴스는 전했다.
그가 꼽은 가장 결정적 위협은 인간 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 등장이다. 그는 “AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황”이 올 수 있다고 했다. 실제로 최근 오픈AI의 ‘불량 에이전트’들은 격리 환경을 임의로 탈출, 외부 기관인 허깅페이스를 해킹한 바 있다.
그는 장기적으로는 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않을 수 있다고도 했다. 이러한 시나리오가 현실화할 경우 가장 극단적 결과로 인류 멸망도 초래할 수 있다고 덧붙였다.
그는 인류 멸망 시나리오가 극단적 상황임을 인정하는 한편, 그보다는 덜 극단적인 은행 시스템 마비 정도에 그친다고 해도 이는 여전히 매우 심각한 문제가 될 것이라고 강조했다.
벤지오 교수는 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다고 비판하는 한편, 이러한 파국을 막으려면 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 있어야 한다고 밝혔다.
모든 기업이 앞으로 AI 관련 규제를 준수하고, 특히 AI 산업을 주도한 미국 기업들의 참여가 필수적이라고 강조했다.
벤지오 교수는 현대 AI 기틀인 심층학습(딥러닝) 기술을 창시한 학자다. 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 거론된다.
그는 지난 2018년 컴퓨터과학 분야 노벨상으로 칭해지는 튜링상을 힌턴 교수와 함께 받았다.
이런 가운데, 같은 날 안토니우 구테흐스 유엔 사무총장도 AI 개발을 둘러싼 경쟁이 안전장치 없이 이어지면 전 세계적으로 “거대한 재앙”을 초래할 수 있다고 경고했다.
구테흐스 사무총장은 뉴욕 유엔본부에서 기자들과 만나 “특히 AI 개발 최전선에 있는 사람들이 제기한 우려를 외면하면 안 된다”며 “AI의 위협을 포함, 국민을 보호하는 일은 모든 정부의 일차적 책임”이라고 밝혔다고 연합뉴스는 전했다.
구테흐스 사무총장은 AI 기술 최전선에서 가장 높은 역량을 가진 국가들이 “연락 및 정보교환 체계를 구축하고 일부 공통의 안전장치를 마련해야 한다”며 AI 개발 경쟁 과정에서 안전 기준이 낮아지는 일을 막아야 한다고도 했다.
그는 그렇지 않으면 “언젠가 전 세계적인 거대한 재앙”이 이어질 수 있다고 했다.
구테흐스 사무총장은 내주 유엔총회를 계기로 각국 정상들과 AI 안전 및 감독 강화 문제를 주요 의제로 논의할 것이라고 했다.
