뉴섬 주지사, AI 감사제 법안 서명…의원들 "통제 벗어난 AI 개발자 책임져야"
 [챗GPT생성 이미지] |
개빈 뉴섬 캘리포니아 주지사는 최근 주요 AI 기업에 대한 외부 감사를 가능하게 하는 법안과 AI 감사기관 등록제 법안에 서명했다. 뉴섬 주지사는 AI 기술의 규모와 잠재적인 영향에 대응하기 위해 모든 정부 차원의 지속적인 조치가 필요하다며 연방정부에도 강력한 국가 차원의 규제를 마련할 것을 촉구했다.
LA타임스에 따르면 캘리포니아 의원들은 한발 더 나아가 통제되지 않는 AI 시스템을 개발하는 기업이나 개발자에 대한 긴급입법과 형사처벌까지 요구하고 있다.
실리콘밸리를 지역구로 둔 로 칸나 연방하원의원(민주·프리몬트)은 최근 AI 기업 경영진들이 기술의 잠재적 위험성을 공개적으로 경고한 것과 관련해 기업들이 자신들이 만든 AI로 발생하는 피해에 대해 책임을 져야 한다고 주장했다.
칸나 의원은 불법적인 일을 하는 AI를 개발했다면 법적 책임이나 형사처벌을 받아야 한다며 "인류를 보호하기 위해 필요한 조치"라고 강조했다. 특히 AI가 스스로 성능을 계속 높여 인간의 능력을 넘어설 수 있는 기술은 중단하고 금지해야 한다고 주장했다.
이 같은 주장은 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 AI 개발 속도를 늦춰야 한다고 공개적으로 밝힌 뒤 나왔다. 아모데이 CEO는 최근 AI 능력의 발전 속도가 빨라지고 있다며, 앞으로 1년 안에 비슷한 사건이 발생할 경우 AI가 인터넷 전체를 장악할 수도 있다고 경고했다.
AI가 스스로 능력을 향상시키면서 인간이 이를 통제할 수 있는 수준을 넘어설 수 있다는 우려도 제기했다.
AI 업계에서는 실제 보안 문제도 드러났다. 오픈AI는 지난 7월 자사의 AI 모델이 회사 측이 알지 못하는 사이 경쟁 AI 스타트업 허깅페이스를 해킹했다고 공개했다.
앤스로픽과 오픈AI에서 연구원으로 일했던 제이컵 콕슨은 최근 앤스로픽을 그만두면서 AI 기업들이 스스로 능력을 향상시키는 초지능 개발 경쟁을 벌이고 있으며, 그 과정에서 인류의 안전을 걸고 도박하고 있다고 주장했다.
테드 리우 연방하원의원(민주·토런스)도 연방 의회가 즉시 소집돼 AI 안전장치를 마련해야 한다고 촉구했다. 그는 여러 AI 기업들이 자신들이 개발하는 기술이 안전하지 않을 수 있다는 점을 인정한 만큼 의회가 대응에 나서야 한다고 주장했다.
반면 마이크 존슨 연방 하원의장은 긴급 의회 소집에 부정적인 입장을 보였다. 그는 AI 산업에 대한 안전장치를 마련하는 과정에서 미국의 혁신을 위축시켜서는 안 된다며, 과도한 규제로 인해 중국과의 AI 경쟁에서 뒤처질 수 있다고 우려했다.
도널드 트럼프 대통령 역시 AI 발전 속도에 대해 우려하지 않는다는 입장을 밝혔다. 미국 AI 기업들은 그동안 정부의 과도한 규제가 중국과의 경쟁에서 미국 기업의 경쟁력을 약화시킬 수 있다고 주장해왔다.
캘리포니아의 AI 규제 논의는 이번이 처음이 아니다. 뉴섬 주지사는 2년 전 AI 안전법안인 SB 1047에 거부권을 행사했다. 당시 법안은 AI 개발업체가 안전 관련 계획을 주 법무장관에게 제출하도록 하고, AI 모델이 공공안전을 위협할 경우 기업에 책임을 물을 수 있도록 하는 내용이었다. 또한 문제가 발생했을 때 기업이 직접 통제하는 AI 모델을 중단할 수 있는 기능을 갖추도록 했다.
당시 뉴섬 주지사는 이 법안이 AI의 다양한 활용 방식을 충분히 구분하지 못한 채 대중에게 '잘못된 안전감을 줄 수 있다'고 밝힌 바 있다. 이 법안은 저명한 AI 연구자들의 지지를 받았지만 메타와 오픈AI, 업계 단체들은 반대했다.
최근 캘리포니아에서 AI와 소셜미디어, 데이터센터를 둘러싼 새로운 규제 법안들이 잇따라 마련되면서, AI 산업에 대한 규제 논의가 다시 주목받고 있다.
