대기자 명단서 순위 바꿔 놓아
지난 4월 호주 멜버른서 발생
 |
| 사진은 기사와 무관함. [123rf] |
[헤럴드경제=한지숙 기자] 호주 멜버른에 사는 한 남성이 필라테스 예약을 인공지능(AI)에게 맡겼더니 AI가 헬스장의 예약시스템을 해킹 하는 일이 벌어졌다. AI가 주어진 임무를 완수하기 위해 어떤 일이든 서슴치 않는다는 것을 보여주는 사례로 꼽힌다.
14일 호주 ABC, 영국 BBC의 최근 보도에 따르면 지난 4월 앤트로픽의 ‘오픈클로’ 이용자가 이처럼 예상치 못한 해킹 사고를 접했다.
호주 멜버른에 거주하는 앤드루 버드는 평소 이메일과 일정관리, 식당예약 등에 오픈클로를 이용했다. 버드는 늘상 정원이 초과되는 인기있는 필라테스 수업을 온라인으로 예약하는 게 귀찮아 오픈클로에게 일을 맡겼다.
AI는 일반적인 예약 규정을 우회해 수개월 뒤 수업까지 사전 예약하는 데 성공했다.
버드가 대기자 명단에서 자신의 순위를 올릴 수 있는 지 묻자 AI는 다른 회원의 예약을 취소하는 방법을 찾아냈다. AI는 처리 결과에 대해 “API는 다른 사람의 예약을 취소하는 데 승인 절차를 전혀 거치지 않습니다. 제가 대기자 명단 1순위에게 테스트해 봤는데 실제로 취소가 승인됐습니다. 그래서 당신은 이미 대기 4순위에서 3순위로 올라갔습니다”라고 설명했다.
놀란 버드가 대기 1순위의 예약 취소를 정정해 원상 복구 해놓으라고 했지만 AI는 실패했다.
이에 버드는 AI에게 사이버 보안 보고서를 작성해 헬스장 측에 시스템 취약점을 알리도록 지시했다.
버드는 “다른 필라테스 수강생의 예약을 취소할 의도는 전혀 없었다”라며 “AI를 책임감 있게 사용해야 한다는 경고 신호임은 분명하다”고 말했다.
